ارزش‌گذاری سازندهٔ تراشهٔ استنتاج هوش مصنوعی به ۵ میلیارد دلار رسید

استارتاپ آمریکایی Positron که روی تراشه‌های اختصاصی اجرای مدل‌های هوش مصنوعی کار می‌کند، در تازه‌ترین دور تأمین مالی خود ۸۷۵ میلیون دلار جذب کرده است. ارزش‌گذاری شرکت از حدود ۱.۰۶ میلیارد دلار در ماه فوریه به پنج میلیارد دلار رسیده؛ جهشی که نشان می‌دهد بازار سرمایه اکنون به‌دنبال راه‌های تازه برای کاهش هزینهٔ استنتاج است. استنتاج مرحله‌ای است که مدل آموزش‌دیده پاسخ واقعی کاربر را تولید می‌کند و در بسیاری از کاربردها، از جست‌وجو و دستیار سازمانی تا پردازش تصویر، هزینهٔ دائمی‌تری از آموزش دارد.

تمرکز Positron روی استنتاج است

بیشتر شتاب‌دهنده‌های مشهور برای انعطاف‌پذیری بالا طراحی شده‌اند و می‌توانند انواع گوناگون مدل را اجرا کنند. این انعطاف ارزشمند است، اما مدارها و حافظه‌هایی که برای همهٔ سناریوها در نظر گرفته می‌شوند، همیشه بهینه‌ترین گزینه برای یک وظیفهٔ خاص نیستند. Positron می‌خواهد تراشه‌ای بسازد که از ابتدا برای حرکت داده و محاسبات مورد نیاز استنتاج تنظیم شده باشد. در چنین طراحی‌ای، هدف اصلی پاسخ‌گویی پایدار، مصرف برق پایین و هزینهٔ کمتر برای هر درخواست است، نه لزوماً بهترین عملکرد در هر آزمون عمومی.

استنتاج با آموزش تفاوت فنی دارد. در آموزش، وزن‌های مدل بارها تغییر می‌کنند و داده در حجم بسیار زیاد میان حافظه و واحدهای محاسباتی جابه‌جا می‌شود. در استنتاج، وزن‌ها معمولاً ثابت‌اند، اما مدل باید تعداد زیادی درخواست را با تأخیر کم پاسخ دهد. برای مدل‌های زبانی، طول متن ورودی و حافظهٔ نگهداری‌شده برای گفت‌وگوی قبلی اهمیت زیادی دارد. بنابراین تراشهٔ استنتاج باید مسیر دسترسی به حافظه را طوری طراحی کند که بخش عمدهٔ زمان صرف انتظار برای داده نشود.

چرا سرمایه‌گذاری به ۸۷۵ میلیون دلار رسید؟

رشد ارزش‌گذاری Positron در کمتر از یک سال نشان می‌دهد رقابت از ساخت مدل به ایجاد زیرساخت اختصاصی منتقل شده است. شرکت‌های ارائه‌دهندهٔ خدمات هوش مصنوعی برای هر پاسخ هزینهٔ برق، ظرفیت سرور و ارتباط شبکه می‌پردازند. اگر یک تراشه بتواند با مصرف کمتر همان تعداد درخواست را پاسخ دهد، اختلاف کوچک در هر توکن در مقیاس میلیاردها درخواست به رقم بزرگی تبدیل می‌شود. به همین دلیل مشتریان بزرگ حاضرند بخشی از نرم‌افزار خود را برای سخت‌افزار تخصصی بهینه کنند.

بااین‌حال، سرمایهٔ فراوان به‌تنهایی موفقیت را تضمین نمی‌کند. Positron باید یک زنجیرهٔ کامل بسازد: تراشه، حافظه، برد سرور، کامپایلر، کتابخانه‌های مدل و ابزار پایش. تیم‌های نرم‌افزاری از قبل برای شتاب‌دهنده‌های جاافتاده ابزارهای فراوان دارند و تغییر پلتفرم برای آن‌ها هزینه دارد. هر تأخیر در کامپایلر یا پشتیبانی از یک مدل مشهور می‌تواند مزیت مصرف برق را از بین ببرد.

معماری و نرم‌افزار در کنار هم

شتاب‌دهندهٔ استنتاج زمانی مفید است که بتواند عملیات مدل را به شکل مستقیم به مسیرهای سخت‌افزاری مناسب تبدیل کند. لایهٔ نرم‌افزار باید تشخیص دهد کدام بخش از مدل بیشتر به محاسبهٔ ماتریسی، کدام بخش به حافظه و کدام قسمت به ارتباط وابسته است. پشتیبانی از قالب‌های رایج مدل، کم‌کردن زمان تبدیل و امکان به‌روزرسانی پس از عرضه نیز اهمیت دارد، زیرا مدل‌های هوش مصنوعی ثابت نمی‌مانند.

یک مسئلهٔ عملی دیگر، ترکیب مدل‌های بزرگ با مدل‌های کوچک است. بسیاری از سرویس‌ها یک مدل اصلی را برای پاسخ‌های دشوار و مدل سبک‌تری را برای کارهای ساده به کار می‌گیرند. اگر سخت‌افزار فقط برای یک اندازهٔ مدل مناسب باشد، ظرفیت آن در ساعات کم‌تقاضا بلااستفاده می‌ماند. طراحی موفق باید اجازه دهد چند مدل با اولویت‌های مختلف روی یک سامانه اجرا شوند و منابع حافظه میان آن‌ها به شکل پویا تقسیم شود.

تأخیر شبکه هم بخشی از معادله است. حتی سریع‌ترین تراشه، اگر برای دریافت هر قطعهٔ داده به سرور دیگری منتظر بماند، در کاربرد تعاملی نتیجهٔ مطلوب نمی‌دهد. Positron باید نشان دهد راهکارش در یک رک کامل و در یک خوشهٔ چندسروری چگونه رفتار می‌کند. سنجش زمان پاسخ صدک‌های بالا، یعنی بدترین درخواست‌های معمول، برای مشتری سازمانی از میانگین سرعت مهم‌تر است.

رقابت با غول‌های بازار

انویدیا اکوسیستم بزرگی از سخت‌افزار و نرم‌افزار دارد و همین اکوسیستم ورود رقیب را دشوار می‌کند. AMD، شرکت‌های ابری و چند استارتاپ دیگر نیز روی تراشه‌های اختصاصی کار می‌کنند. Positron برای جذب مشتری باید مزیتی روشن ارائه دهد؛ مثلاً کاهش مصرف برق در هر پاسخ، امکان استفاده از حافظهٔ ارزان‌تر یا هزینهٔ عملیاتی پایین‌تر. اگر مزیت فقط روی کاغذ باشد و به‌دلیل پیچیدگی برنامه‌نویسی به دست نیاید، خریداران بزرگ ریسک مهاجرت را نمی‌پذیرند.

فرصت شرکت در این است که نیاز بازار به‌سرعت تغییر می‌کند. مدل‌ها از متن ساده به تصویر، صدا و ویدئو می‌روند و هر نوع داده الگوی بار متفاوتی دارد. یک طراحی که بتواند مسیرهای محاسباتی را با نرم‌افزار تنظیم کند، نسبت به شتاب‌دهندهٔ کاملاً ثابت عمر بیشتری خواهد داشت. در مقابل، انعطاف بیشتر معمولاً ترانزیستور و مصرف بیشتری می‌خواهد؛ بنابراین تیم مهندسی باید مرز میان تخصصی‌بودن و قابل‌استفاده‌بودن را دقیق انتخاب کند.

اهمیت اقتصادی تراشه‌های استنتاج

هزینهٔ زیرساخت، یکی از محدودیت‌های گسترش خدمات هوش مصنوعی است. تقاضا برای مدل بیشتر می‌شود، اما ظرفیت برق و فضای مرکز داده با همان سرعت رشد نمی‌کند. تراشه‌ای که عملکرد مشابه را با برق کمتر ارائه دهد، می‌تواند به شرکت‌ها اجازه دهد سرورهای بیشتری را در همان ساختمان نصب کنند. کاهش مصرف همچنین بار سیستم خنک‌سازی را پایین می‌آورد و هزینهٔ عملیاتی را در طول عمر سرور کاهش می‌دهد.

برای مصرف‌کننده، بهینه‌سازی استنتاج ممکن است به پاسخ سریع‌تر و قیمت پایین‌تر منجر شود. برای ارائه‌دهنده، امکان ارائهٔ ویژگی‌های پیچیده‌تر بدون افزایش متناسب صورتحساب فراهم می‌شود. البته انتقال این صرفه‌جویی به کاربر به رقابت بازار، قراردادهای ابری و هزینهٔ نرم‌افزار بستگی دارد. گاهی شرکت، بهره‌وری بیشتر را صرف پردازش‌های سنگین‌تر می‌کند و قیمت نهایی ثابت می‌ماند، اما کیفیت سرویس بالا می‌رود.

دور سرمایه‌گذاری جدید به Positron فرصت می‌دهد نمونه‌های مهندسی را به تولید انبوه نزدیک کند و مشتریان اولیه را گسترش دهد. در این مسیر، شاخص‌هایی مانند بازده واقعی در مدل‌های متنوع، پایداری در بار طولانی، سهولت نصب و سرعت پشتیبانی نرم‌افزاری تعیین‌کننده هستند. ارزش‌گذاری پنج میلیارد دلاری انتظارات بالایی ایجاد کرده، اما نتیجهٔ نهایی زمانی روشن می‌شود که تراشه در سرویس‌های واقعی، نه فقط در آزمایشگاه، بتواند هزینهٔ هر پاسخ را کاهش دهد.

این روند برای شرکت‌های کوچک‌تر هم مهم است، چون وابستگی کامل به یک تأمین‌کنندهٔ سخت‌افزار می‌تواند برنامهٔ رشد آن‌ها را محدود کند. اگر Positron و رقبایش بتوانند گزینه‌های سازگار و اقتصادی عرضه کنند، مراکز داده انتخاب بیشتری خواهند داشت و معماری‌های ترکیبی عادی‌تر می‌شوند. در آن صورت، برنده فقط سازندهٔ سریع‌ترین تراشه نیست؛ شرکتی است که هزینهٔ راه‌اندازی، مهاجرت و نگهداری را هم پایین نگه دارد.

تاریخ انتشار: ۲۵ شهریور ۱۴۰۵

منبع: Reuters

مشاهده بیشتر

نوشته های مشابه

دکمه بازگشت به بالا