هوش مصنوعیای که حرف نمیزند، اما تصمیم میگیرد
سالهاست وقتی از هوش مصنوعی حرف میزنیم، منظورمان سامانهای است که جواب میدهد: متن مینویسد، سؤال را توضیح میدهد یا با چند جمله کاربر را قانع میکند که موضوع را فهمیده است. مدل تازه شرکت TypeSafe AI راه دیگری را انتخاب کرده؛ نه قرار است خوشصحبت باشد و نه حتی یک جمله تولید کند. «Jev» داده را میگیرد و در پایان، بهجای کلمه و پاراگراف، احتمال تحویل میدهد. خروجی آن چیزی شبیه این است: احتمال اینکه این ایمیل تبلیغاتی باشد ۹۶ درصد، یا احتمال اینکه فرمان صادرشده برای یک عامل نرمافزاری خطرناک باشد ۸۲ درصد. همین تغییر ظاهراً ساده، مدل را برای کارهایی جذاب کرده که در آنها تصمیم قابل اندازهگیری از نثر زیبا مهمتر است.
دیوگو آلمیدا، پژوهشگر پیشین OpenAI و یکی از افرادی که در شکلگیری روش «یادگیری تقویتی از بازخورد انسانی» نقش داشته، TypeSafe AI را پس از یک دلزدگی حرفهای راه انداخت. او از نزدیک دیده بود که مدلهای زبانی چه توانایی شگفتانگیزی در تقلید زبان انسان دارند، اما همزمان متوجه شده بود همین ویژگی همیشه به درد خودکارسازی نمیخورد. رایانه برای اجرای یک فرایند به عبارتهای خوشآهنگ نیاز ندارد؛ باید بداند کدام مسیر را انتخاب کند، چقدر به آن انتخاب مطمئن باشد و در چه نقطهای کار را به انسان بسپارد. ایده Jev از همین شکاف میان «صحبتکردن» و «تصمیمگرفتن» بیرون آمده است.
مدلی که پاسخهایش از پیش تعریف شدهاند
Jev از خانواده ترنسفورمرهاست، اما TypeSafe آن را مدل زبانی بزرگ نمینامد. کاربر یا توسعهدهنده پیش از اجرا مشخص میکند چه خروجیهایی معتبرند و مدل باید احتمال هر گزینه را حساب کند. برای نمونه، در یک سامانه پشتیبانی میتوان گزینههای «فوری»، «عادی» و «کماهمیت» را تعریف کرد. مدل دیگر نمیتواند برچسب چهارمی از خودش بسازد یا پاسخی بیرون از قالب بدهد. این محدودیت، در ظاهر از آزادی مدل کم میکند، ولی برای نرمافزاری که باید هزاران بار در روز تصمیم تکرارپذیر بگیرد، دقیقاً همان چیزی است که لازم دارد.
شرکت سازنده میگوید چنین معماریای هزینه را هم بهشدت پایین میآورد. خروجی چند عدد و احتمال است، نه صدها توکن متن؛ بنابراین بابت تولید خروجی هزینهای دریافت نمیشود و ورودی نیز بهجای میلیون توکن، در مقیاس میلیارد توکن قیمتگذاری شده است. سرعت هم بخش مهم ماجراست. در آزمونی که یکی از مهندسان ورسل انجام داده، جایگزینی یک مدل زبانی OpenAI با Jev در طبقهبندی فرمانهای نرمافزاری، پاسخ را پنج تا هجده برابر سریعتر کرده است. این نتیجه یک آزمایش مستقل و محدود است، نه حکم نهایی درباره همه کاربردها، اما نشان میدهد مدل کوچکتر و تخصصیتر در کار درست میتواند از سامانهای بسیار بزرگ جلو بزند.
آزمون دیگری روی دستهبندی ایمیلهای تجاری انجام شد. در آن آزمایش، Gemini اندکی دقیقتر بود، اما اجرای Jev ده تا بیست برابر کمتر هزینه داشت. نکته جالبتر برای آزمایشکننده، عدد اطمینانی بود که همراه هر تصمیم دریافت میکرد. در بسیاری از فرایندهای واقعی، پاسخ بله یا خیر بهتنهایی کافی نیست. اگر سامانه با اطمینان ۵۱ درصد یک تراکنش را مشکوک تشخیص دهد، شاید بهتر باشد تصمیم نهایی را انسان بگیرد؛ اما اطمینان ۹۸ درصد میتواند مبنای توقف خودکار باشد. این فاصله میان دو عدد، همان چیزی است که مدیر یک سامانه میتواند برایش قاعده بنویسد.
راهحل توهم یا جابهجایی مسئولیت؟
TypeSafe ادعا میکند Jev به معنای رایج «توهم» ندارد، چون اجازه ندارد آزادانه متن بسازد. این ادعا را باید دقیق خواند. مدل هنوز میتواند تصمیم اشتباه بگیرد؛ فقط اشتباه آن به شکل داستان، منبع خیالی یا جملهای با اعتمادبهنفس ظاهر نمیشود. عدد احتمال نیز تضمین حقیقت نیست. اگر داده آموزشی ناقص باشد یا دستهبندیهای اولیه بد تعریف شوند، سامانه با همان چارچوب ناقص کار خواهد کرد. در واقع، بخشی از مسئله از دوش مدل برداشته و به طراح فرایند منتقل میشود. او باید بداند چه گزینههایی تعریف کند، چه آستانهای برای اقدام بگذارد و چه زمانی نتیجه را معتبر نداند.
این جابهجایی مسئولیت لزوماً نقطهضعف نیست. نرمافزارهای سازمانی سالها با همین منطق ساخته شدهاند: دامنه تصمیم روشن، مسیر خطا مشخص و امکان ثبت دلیل هر اقدام. مشکل زمانی شروع شد که مدلهای زبانی، با خروجی باز و پیشبینیناپذیر، وارد کارهایی شدند که تحمل ابهام در آنها کم بود. Jev میکوشد هوش آماری را به قالب آشناتری برای مهندسان برگرداند. توسعهدهنده همچنان باید آزمون بنویسد و رفتار سیستم را پایش کند، اما با خروجیای روبهروست که اندازهگیری و مقایسه آن آسانتر است.
یک کاربرد مهم میتواند مراقبت از عاملهای هوش مصنوعی باشد. عاملهایی که به فایل، مرورگر یا سامانه مالی دسترسی دارند، زنجیرهای از فرمانها تولید میکنند. کنترل همان زنجیره با یک مدل زبانی دیگر ممکن است گران و کند شود. Jev میتواند هر فرمان را در لحظه بررسی کند و احتمال خطر، خروج از محدوده یا تلاش برای دورزدن محدودیتها را برگرداند. اگر اطمینان از حدی بالاتر رفت، کار متوقف میشود. در این نقش، مدل جای عامل اصلی را نمیگیرد؛ مثل نگهبانی کمهزینه کنار آن میایستد.
هوش مصنوعی کوچکتر، در جای درست
کاربرد دیگر «مسیریابی مدل» است. همه درخواستها به قدرتمندترین و گرانترین مدل موجود احتیاج ندارند. یک سامانه میتواند پیش از پردازش، تشخیص دهد پرسش ساده را به مدل ارزان بفرستد و مسئله پیچیده را به مدلی قویتر بسپارد. اگر خود این تشخیص با یک مدل بزرگ انجام شود، بخشی از صرفهجویی از بین میرود. مدلی مانند Jev میتواند در چند لحظه نوع کار را تشخیص دهد و مسیر مناسب را پیشنهاد کند. همین نقش کوچک، وقتی در مقیاس میلیونها درخواست تکرار شود، روی هزینه زیرساخت اثر جدی میگذارد.
نام Jev از ویلیام استنلی جوونز، اقتصاددان قرن نوزدهم، گرفته شده است. «پارادوکس جوونز» میگوید ارزانتر و کارآمدترشدن مصرف یک منبع همیشه باعث کاهش مصرف کل نمیشود؛ گاهی برعکس، چون استفاده از آن آسانتر شده، تقاضا بالا میرود. آلمیدا همین منطق را برای هوش نرمافزاری به کار میبرد. اگر تصمیمگیری ماشینی ارزان و سریع شود، شاید بهجای چند دستیار بزرگ، هزاران جزء کوچک و هوشمند در دل برنامهها پخش شوند: فیلتری برای ایمیل، کنترلکنندهای برای فرمانها، اولویتبندی برای درخواست مشتری و مسیریاب برای مدلهای مختلف.
با این حال، بخش مهمی از فناوری Jev هنوز پشت درهای بسته است. TypeSafe جزئیات کامل معماری را منتشر نکرده و برخی ناظران حدس میزنند زیربنای آن به یک مدل متنباز متکی باشد. شرکت میگوید مدل با داده مصنوعی و روشی موسوم به «یادگیری تقویتی از تصمیمهای کالیبره» آموزش دیده است. تا زمانی که آزمونهای گستردهتر، دادههای مقایسهای و تجربه استفاده در محیطهای واقعی منتشر نشود، نمیتوان درباره برتری عمومی آن حکم داد. استقبال اولیه توسعهدهندگان هم میتواند حاصل تازگی محصول و تقاضای انباشته برای ابزار ارزانتر باشد.
ارزش واقعی این محصول شاید نه در شکستدادن مدلهای مشهور، بلکه در یادآوری یک نکته فراموششده باشد: هر مسئلهای به چتبات نیاز ندارد. بخش بزرگی از نرمافزار جهان با تصمیمهای کوتاه و محدود کار میکند؛ عبور بده یا متوقف کن، در این گروه بگذار یا گروه دیگر، به انسان ارجاع بده یا خودکار ادامه بده. اگر Jev بتواند این تصمیمها را با سرعت بالا، هزینه پایین و اطمینان قابل سنجش انجام دهد، رقابت هوش مصنوعی از «چه کسی بهتر حرف میزند» به پرسش کاربردیتری میرسد: کدام مدل در سکوت، کار درست را انجام میدهد؟
منبع: TechCrunch
