استارتاپ مهندسان اینتل ۱۰۰ میلیون دلار برای شبکهٔ هوش مصنوعی گرفت

یک استارتاپ تازه‌تأسیس به نام Delos Data که گروهی از مهندسان باسابقهٔ اینتل آن را راه‌اندازی کرده‌اند، در نخستین گام بزرگ خود ۱۰۰ میلیون دلار سرمایه جذب کرده است. این شرکت می‌خواهد بخش کمتر دیده‌شده اما حیاتی مراکز دادهٔ هوش مصنوعی را هدف بگیرد: جابه‌جایی داده میان پردازنده‌ها. در سامانه‌هایی که هزاران شتاب‌دهنده هم‌زمان روی آموزش یا اجرای مدل کار می‌کنند، سرعت محاسبه تنها معیار عملکرد نیست؛ اگر داده به‌موقع به تراشه نرسد، بخش قابل‌توجهی از ظرفیت گران‌قیمت پردازنده بلااستفاده می‌ماند.

چرا ارتباط میان تراشه‌ها به گلوگاه تبدیل شده است؟

مدل‌های زبانی و سامانه‌های چندوجهی جدید از آن‌چه در یک تراشه جا می‌شود بزرگ‌ترند. بار کاری میان GPUها، CPUها، حافظه‌های پرسرعت و تجهیزات شبکه تقسیم می‌شود و هر مرحله باید نتیجهٔ خود را با تأخیر بسیار کم به مرحلهٔ بعدی برساند. در چنین محیطی، یک لینک کند، صف طولانی یا انتقال دوبارهٔ بسته‌ها می‌تواند زمان اجرای کل مدل را افزایش دهد. هزینهٔ این تأخیر فقط چند میلی‌ثانیه نیست؛ اپراتور برای جبران آن باید شتاب‌دهندهٔ بیشتری بخرد، برق بیشتری مصرف کند و سیستم خنک‌سازی بزرگ‌تری بسازد.

در سال‌های اخیر، انویدیا با ترکیب GPU، حافظه و شبکهٔ اختصاصی خود بخش بزرگی از این زنجیره را یکپارچه کرده است. این رویکرد برای مشتریانی که همهٔ اجزای زیرساختشان را از یک اکوسیستم می‌گیرند، مزیت هماهنگی دارد. بااین‌حال، بازار مراکز داده به‌سرعت متنوع‌تر می‌شود. شتاب‌دهنده‌های AMD، سامانه‌های تخصصی شرکت‌هایی مانند Cerebras و تراشه‌های اختصاصی ارائه‌دهندگان ابری در کنار GPUهای انویدیا قرار می‌گیرند و سازمان‌ها نمی‌خواهند برای هر ترکیب سخت‌افزاری یک شبکهٔ کاملاً جدا بسازند.

راهکار Delos Data چه چیزی را تغییر می‌دهد؟

Delos Data روی تراشه و نرم‌افزاری کار می‌کند که ارتباط بین انواع مختلف پردازنده را مدیریت کند. ایدهٔ اصلی این است که لایهٔ انتقال داده به ترکیب خاصی از سخت‌افزار وابسته نباشد. در این مدل، مدیر مرکز داده می‌تواند بخشی از بار را روی GPU، بخشی را روی شتاب‌دهندهٔ اختصاصی و بخش دیگری را روی CPUهای معمولی قرار دهد و همچنان از یک سازوکار ارتباطی مشترک استفاده کند. چنین انعطافی برای دوره‌ای مهم است که معماری‌های جدید با سرعت زیادی وارد بازار می‌شوند و عمر مفید یک طراحی ثابت کوتاه‌تر شده است.

دان دِیلی، هم‌بنیان‌گذار و مدیر فناوری شرکت، بر این نکته تأکید کرده که مسئلهٔ انتقال داده فقط سرعت خام نیست. شبکه باید بتواند نوع داده، اولویت درخواست و وضعیت تراشهٔ مقصد را درک کند. اگر یک مدل در حال آموزش باشد، بخشی از ترافیک آن به همگام‌سازی وزن‌ها مربوط است؛ در زمان استنتاج، پاسخ کاربر حساسیت بیشتری به تأخیر دارد. نرم‌افزار کنترل‌کننده می‌تواند با تشخیص این تفاوت، منابع را به شکلی اختصاص دهد که جریان‌های تعاملی پشت صف‌های طولانی کارهای دسته‌ای نمانند.

سرمایه‌گذاران به کدام فرصت نگاه می‌کنند؟

دور سرمایه‌گذاری جدید با حضور Matrix Partners، Playground، Socratic Partners، Capricorn، Matter Venture Partners، IAG و DYNAMIQ انجام شده است. حضور پَت گلسینگر، مدیرعامل پیشین اینتل و شریک Playground، توجه زیادی جلب کرده است. این سرمایه‌گذاری به معنای تضمین موفقیت محصول نیست، اما نشان می‌دهد سرمایه‌گذاران فکر می‌کنند مرحلهٔ بعدی رقابت هوش مصنوعی فقط دربارهٔ تعداد هسته‌ها و ظرفیت حافظه نخواهد بود. هرچه مدل‌ها بزرگ‌تر می‌شوند، ارزش معماری‌هایی که داده را با کمترین اتلاف جابه‌جا می‌کنند بیشتر می‌شود.

Delos Data باید سرمایهٔ جدید را برای طراحی سیلیکون، توسعهٔ درایور و ساخت نمونه‌های قابل‌آزمایش در مراکز داده مصرف کند. در بازار سازمانی، شرکت‌ها معمولاً پیش از خرید گسترده، محصول را در چند سناریوی واقعی آزمایش می‌کنند: آموزش مدل‌های بزرگ، استنتاج هم‌زمان برای تعداد زیاد کاربر و پردازش داده‌های حساس. بنابراین فاصلهٔ میان یک نمونهٔ آزمایشگاهی و قرارداد تجاری می‌تواند طولانی باشد. سازگاری با نرم‌افزارهای موجود، ابزارهای مانیتورینگ و استانداردهای امنیتی نیز به‌اندازهٔ سرعت مهم خواهد بود.

رقابت آینده چگونه شکل می‌گیرد؟

این استارتاپ وارد بازاری می‌شود که بازیگران قدرتمندی در آن حضور دارند. انویدیا شبکه را بخشی از پلتفرم خود کرده، AMD روی پیوندهای بازتر و محصولات سازمانی سرمایه‌گذاری می‌کند و شرکت‌های ابری نیز تراشه‌های سفارشی خود را توسعه می‌دهند. مزیت Delos Data می‌تواند بی‌طرفی معماری باشد، اما همین ویژگی کار فنی را سخت می‌کند؛ یک رابط عمومی باید با تفاوت‌های حافظه، پهنای باند و مدل برنامه‌نویسی چند نسل از پردازنده‌ها کنار بیاید.

اگر محصول شرکت بتواند در عمل زمان بیکاری شتاب‌دهنده‌ها را کم کند، مشتری می‌تواند با همان تعداد تراشه کار بیشتری انجام دهد. این نتیجه مستقیماً به کاهش هزینهٔ هر توکن یا هر مرحلهٔ آموزش تبدیل می‌شود. از طرف دیگر، اضافه‌کردن یک لایهٔ شبکهٔ جدید اگر پیچیدگی عملیاتی زیادی ایجاد کند، ممکن است صرفه‌جویی نظری را از بین ببرد. به همین دلیل معیارهای ارزیابی باید شامل مصرف برق، پایداری در بارهای متغیر، زمان عیب‌یابی و هزینهٔ نگهداری هم باشد.

اهمیت این خبر از آن‌جا می‌آید که صنعت هوش مصنوعی در حال عبور از مرحلهٔ خرید شتاب‌دهنده به مرحلهٔ مهندسی کل سامانه است. در دورهٔ اول، توجه بازار به قدرت محاسباتی هر GPU معطوف بود؛ اکنون ارتباط میان اجزا، توزیع حافظه و زمان‌بندی جریان‌های داده به عوامل تعیین‌کننده تبدیل شده‌اند. استارتاپ‌هایی مانند Delos Data می‌خواهند همین شکاف را پر کنند و به سازمان‌ها امکان دهند بدون تعویض کامل زیرساخت، معماری‌های متفاوت را کنار هم قرار دهند.

در نهایت، موفقیت این شرکت به تعداد شرکای سخت‌افزاری و میزان پذیرش نرم‌افزارش بستگی دارد. اگر سازندگان سرور و ارائه‌دهندگان ابری، راهکار آن را در محصولات خود بگنجانند، نصب فناوری آسان‌تر می‌شود. همچنین جامعهٔ برنامه‌نویسان باید بتواند بدون بازنویسی کامل کدهای توزیع‌شده از آن استفاده کند. ۱۰۰ میلیون دلار سرمایه فرصت مناسبی برای ساخت این اکوسیستم فراهم می‌کند، اما آزمون اصلی زمانی خواهد بود که مشتریان، عملکرد بهبود‌یافته را در صورت‌حساب واقعی مرکز داده ببینند.

برای مشتریان، چنین طراحی‌ای مزیت دیگری هم دارد: امکان جابه‌جایی تدریجی میان نسل‌های سخت‌افزار. سازمانی که امروز یک مدل را روی شتاب‌دهندهٔ خاصی اجرا می‌کند، ممکن است سال آینده به‌دلیل کمبود عرضه یا تغییر قیمت سراغ گزینهٔ دیگری برود. در یک معماری بسته، این تغییر به مهاجرت نرم‌افزار و بازطراحی مسیر داده نیاز دارد؛ اما یک لایهٔ ارتباطی سازگار می‌تواند بخشی از این هزینه را پنهان کند. این موضوع برای شرکت‌هایی که مدل‌های خود را به‌صورت شبانه‌روزی سرویس می‌دهند، اهمیت عملی دارد، زیرا حتی چند ساعت توقف برای تغییر زیرساخت می‌تواند از صرفه‌جویی سالانه بیشتر هزینه داشته باشد.

تاریخ انتشار: ۲۵ شهریور ۱۴۰۵

منبع: Reuters

مشاهده بیشتر

نوشته های مشابه

دکمه بازگشت به بالا