تراشه‌های d-Matrix به سرورهای انویدیا می‌رسند
استارتاپ تراشه‌ساز d-Matrix اعلام کرده است پردازنده‌های هوش مصنوعی خود را با فناوری NVLink Fusion شرکت انویدیا به سرورهای این شرکت متصل می‌کند. این همکاری در زمانی شکل گرفته که بازار هوش مصنوعی از مرحله آموزش مدل‌ها به سمت اجرای روزمره آن‌ها حرکت می‌کند؛ مرحله‌ای که به آن inference یا استنتاج گفته می‌شود و در چت‌بات‌ها، دستیارهای برنامه‌نویسی و عامل‌های صوتی نقش اصلی دارد.
تفاوت آموزش مدل با اجرای مدل
آموزش یک مدل هوش مصنوعی معمولاً به توان پردازشی بسیار زیادی نیاز دارد، زیرا سیستم باید بارها حجم بزرگی از داده را پردازش کند و پارامترهای مدل را تغییر دهد. اما پس از آموزش، مدل باید به درخواست‌های کاربران پاسخ بدهد. این مرحله، یعنی اجرای مدل، در هر تعامل به سرعت پاسخ، تأخیر شبکه، مصرف انرژی و هزینه پردازش حساس است. تعداد بسیار زیادی از درخواست‌های همزمان می‌تواند حتی برای سامانه‌ای که مدل را قبلاً آموزش داده است، بار سنگینی ایجاد کند.
انویدیا در بخش آموزش مدل‌ها با پردازنده‌های گرافیکی خود سلطه زیادی دارد، اما d-Matrix تمرکز خود را روی تراشه‌هایی گذاشته است که برای استنتاج سریع و کم‌تأخیر طراحی شده‌اند. شرکت‌ها برای دستیارهای کدنویسی، چت‌بات‌های سازمانی و عامل‌های صوتی به پاسخ فوری نیاز دارند و در این کاربردها، هر میلی‌ثانیه تأخیر می‌تواند بر تجربه کاربر و هزینه عملیاتی اثر بگذارد.
NVLink Fusion چه کاری انجام می‌دهد؟
بر اساس اعلام d-Matrix، تراشه‌های جدید این شرکت با نام Raptor از طریق NVLink Fusion به رک‌های سروری انویدیا متصل خواهند شد. این فناوری مجموعه‌ای از اتصال‌دهنده‌ها و حافظه تخصصی را در اختیار تراشه‌های سفارشی قرار می‌دهد تا بتوانند در کنار اجزای اصلی سامانه‌های دیتاسنتری انویدیا کار کنند. نتیجه مورد انتظار، یک معماری ترکیبی است که در آن مشتری به‌جای استفاده از یک نوع پردازنده برای همه کارها، بخش‌های متفاوت بار کاری را به تراشه مناسب می‌سپارد.
چنین معماری‌ای می‌تواند به اپراتورهای دیتاسنتر اجازه دهد ظرفیت پردازش را دقیق‌تر با نوع استفاده هماهنگ کنند. پردازنده‌های گرافیکی برای برخی عملیات پیچیده و پردازش‌های موازی مناسب‌اند، درحالی‌که تراشه‌های تخصصی استنتاج می‌توانند برای پاسخ‌های تکرارشونده و سرویس‌های آنلاین بهره‌وری بیشتری داشته باشند. البته سود نهایی به طراحی نرم‌افزار، هماهنگی حافظه، پهنای باند اتصال و ابزارهای مدیریت سرور هم وابسته است و فقط با اتصال فیزیکی تراشه‌ها تضمین نمی‌شود.
برنامه زمانی و شرکای فنی
d-Matrix گفته است طراحی نهایی تراشه‌های Raptor تا پایان سال ۲۰۲۶ تکمیل می‌شود و رک‌های سازگار با NVLink Fusion احتمالاً در سال ۲۰۲۷ در دسترس قرار می‌گیرند. شرکت جزئیات مالی همکاری با انویدیا را اعلام نکرده است. این فاصله زمانی نشان می‌دهد محصول هنوز در مرحله توسعه و آماده‌سازی برای تولید و آزمایش گسترده قرار دارد و ارزیابی واقعی آن باید پس از عرضه سامانه‌ها انجام شود.
این استارتاپ همچنین با Astera Labs برای ساخت مسیرهای ارتباطی پرسرعت درون سامانه همکاری می‌کند. در سرورهای هوش مصنوعی، انتقال سریع داده میان پردازنده، حافظه و شبکه به اندازه قدرت محاسباتی اهمیت دارد. اگر داده به‌موقع به هسته پردازشی نرسد، ظرفیت تراشه به‌طور کامل استفاده نمی‌شود. بنابراین اتصالات، حافظه و نرم‌افزارهای هماهنگ‌کننده بخش مهمی از ارزش این پلتفرم را تشکیل می‌دهند.
رقابت در بازار تراشه‌های هوش مصنوعی
d-Matrix در سال ۲۰۲۳ از یک سرمایه‌گذاری ۱۱۰ میلیون دلاری با حمایت Microsoft برخوردار شد و پس از جذب ۴۵۰ میلیون دلار در سال ۲۰۲۵ ارزش‌گذاری آن به حدود ۲ میلیارد دلار رسید. نخستین تراشه هوش مصنوعی شرکت در اواخر سال ۲۰۲۴ عرضه شد. این سابقه به شرکت کمک می‌کند در رقابت بازار تراشه‌های استنتاج دیده شود، اما رقبا نیز به‌سرعت در حال توسعه پردازنده‌های اختصاصی برای مراکز داده هستند.
همکاری با انویدیا از این جهت اهمیت دارد که d-Matrix می‌تواند از اکوسیستم سروری، نرم‌افزاری و شبکه‌ای گسترده‌تری استفاده کند. برای مشتریان سازمانی، دسترسی به محصول فقط به مشخصات تراشه وابسته نیست؛ سازگاری با رک‌های موجود، ابزارهای برنامه‌نویسی، خدمات پشتیبانی و امکان توسعه در مقیاس بزرگ نیز اهمیت دارد. اگر تراشه‌های Raptor بتوانند در بارهای کاری واقعی سرعت بالا و مصرف مناسب ارائه کنند، مدل‌های ترکیبی می‌توانند به یکی از مسیرهای کاهش هزینه اجرای هوش مصنوعی تبدیل شوند.
تاریخ انتشار: ۲۰ شهریور ۱۴۰۵
منبع: Reuters
