هرمس، یاری‌گر متن‌های بی‌نهایت ارزشمند
“`html
شرکت Nous Research که در دسته سازندگان ابزارهای هوش مصنوعی بازمتن قرار دارد، در راستای گسترش دستیار دیجیتال خود به نام Hermes، موفق به جذب سرمایه‌ای بزرگ شده است. این شرکت در تازه‌ترین دور تأمین مالی‌اش، ۹۰ میلیون دلار به دست آورده که قرار است از آن برای بهبود مدل‌های زبانی، ایجاد ابزارهای سازمانی قابل کنترل و ایجاد جامعه‌ای از توسعه‌دهندگان بهره‌برداری کند. انتشار خبر این سرمایه‌گذاری زمانی صورت گرفته است که اکثر شرکت‌های فعال در عرصه هوش مصنوعی به‌سوی توسعه مدل‌های بسته حرکت می‌کنند و مسئله بازبودن دوباره به یکی از موضوعات داغ در بازار تبدیل گشته است.
به نقل از وال‌استریت ژورنال، Hermes تنها یک پنجره گفت‌وگوی معمولی برای پاسخ به سؤالات عمومی نخواهد بود. Nous Research این محصول را به‌عنوان دستیار قابل تنظیم معرفی میکند؛ سیستمی که کاربر می‌تواند به‌راحتی رفتار، لحن و ابزارهای مورد استفاده آن را به‌طور قابل توجهی تغییر دهد. برای برنامه‌نویسان، چنین دستیار دیجیتالی می‌تواند به مخزن کد وصال یابد و در کنار تشریح خطا، راهکارهای اصلاحی را نیز ارائه دهد. از دید یک گروه تحقیقاتی، قابلیت جست‌وجو در اسناد داخلی و ساخت خلاصه‌های درست و قابل پیگیری، اهمیت فراوانی دارد.
یکی از نقاط تمایز Hermes نسبت به دستیارهای تجاری بزرگ، قابلیت دسترسی به مدل و زیرساخت آن است. زمانی که یک مدل بازمتن یا با وزن باز منتشر می‌شود، پژوهشگران می‌توانند آن را بر روی سرور خود اجرا کنند و نحوه تولید پاسخ‌ها را مشاهده کنند. این شفافیت همیشه به معنای این نیست که همه داده‌های آموزشی یا کدهای ساختاری افشا می‌شوند، اما در مقایسه با مدل‌های کاملاً بسته، کنترل بیشتری را به کاربر می‌بخشد. سازمان‌هایی که نمی‌خواهند اطلاعات حساسی را به خدمات خارجی ارسال کنند، می‌توانند نسخه داخلی دستیار را بر روی شبکه خود راه‌اندازی نمایند.
با این حال، پیاده‌سازی یک مدل بزرگ در داخل سازمان چندان ساده نیست. تیم فناوری می‌بایست سرور مناسب، حافظه کافی و ابزارهای نظارتی را تأمین نماید. هزینه‌های برق و نگهداری نیز باید لحاظ شوند. بدین خاطر، Nous Research بخشی از خدمات Hermes را به‌صورت ابری ارائه میکند تا حتی مشتریان کوچک‌تر نیز بتوانند آن را تجربه کنند. چالش اصلی این شرکت در این است که بتواند تعادلی بین آزادی ارائه مدل‌های بازمتن و سادگی سرویس‌های ابداع‌شده برقرار کند.
سرمایه ۹۰ میلیون دلار این امکان را به Nous می‌دهد که تیم مهندسی خود را گسترش دهد. توسعه یک دستیار تنها به آموزش مدل زبانی محدود نیست، بلکه نیاز به طراحی رابط کاربری، سیستم‌های مدیریت ابزار، ارتباط با پایگاه‌های داده و ایجاد سیاست‌های امنیتی نیز دارد. ارزشی که این دستیار ارائه میکند زمانی به‌دست می‌آید که قادر باشد یک کار را از ابتدا تا انتها پیش ببرد، اما بدیهی است که این قابلیت می‌تواند احتمال وقوع خطا را نیز افزایش دهد. اگر سیستم به‌طور غیرمنتظره‌ای مجوز ارسال ایمیل، تغییر فایل یا اجرای کد را داشته باشد، هر تصمیم نادرستی می‌تواند عواقب وخیمی به‌دنبال داشته باشد.
Hermes بر مبنای ایده عامل‌های هوش مصنوعی بنا نهاده شده است. این عامل به‌جای پاسخ‌دهی صرف به متن، هدف کاربر را به بخش‌های چندگانه تقسیم کرده و از ابزارهای مختلف بهره می‌گیرد. به‌عنوان مثال، این دستیار می‌تواند تقویم را بررسی کند، زمان مناسب برای جلسه را پیشنهاد دهد و پیش‌نویس دعوتنامه را نیز طراحى نماید. در محیط‌های سازمانی نیز ممکن است این عامل گزارشات فروش را از منابع متعدد جمع‌آوری کرده و نتیجه را در یک مستند واحد ارائه دهد. با این حال، لازم است که این عامل همواره مرزهای اختیارات خود را بشناسد و اقدامات حیاتی بهتر است پس از تأیید انسان انجام شود.
بازمتن بودن فرصتی را برای توسعه‌دهندگان فراهم می‌آورد تا خودشان این مرزها را تنظیم کنند. آنان می‌توانند دسترسی عامل را به پوشه یا پایگاه داده مورد نظر محدود نمایند و تمامی فعالیت‌ها را ثبت کنند. این سطح از کنترل برای شرکت‌هایی که دارای قوانین داخلی سخت‌گیرانه‌ای هستند، اهمیت ویژه‌ای دارد. در عین حال، آزادی بیشتر مستلزم پذیرش مسئولیت‌های بیشتری نیز است. در شرایطی که یک تیم بدون آزمایش کافی مدل را به سیستمی مالی متصل کند، نمی‌توان مشکل به‌وجودآمده را فقط به گردن سازنده مدل انداخت.
یکی از اهداف Nous Research ایجاد یک جامعه فعال پیرامون Hermes است. ابزارهای بازمتن زمانی به موفقیت نائل می‌شوند که برنامه‌نویسان قادر باشند افزونه‌های جدید بسازند، نسخه‌های خاص منتشر کنند و خطاها را با سرعت بیشتری گزارش دهند. جامعه کاربری می‌تواند مدل را برای زبان‌ها و زمینه‌های گوناگون آماده‌سازی نماید. یک شرکت ممکن است دستیار را به‌منظور پشتیبانی مشتری تغییر دهد و شرکت دیگری نسخه‌ای برای تحلیل قراردادها تولید کند. این تنوع پیوستگی نوآوری را افزایش می‌دهد و وابستگی به تیم اصلی را کمتر می‌سازد.
با این حال، جامعه بازمتن همیشه یک‌دست نیست. نسخه‌های مختلف ممکن است استانداردهای متفاوتی را رعایت کنند و برخی افزونه‌ها ممکن است داده‌ها را ناامن سازند. لذا Nous باید فرآیندهای اعتبارسنجی، امضای نرم‌افزار و سیستم‌های هشدار امنیتی را پیاده‌سازی کند. مدیران فناوری یک سازمان نمی‌توانند به‌سادگی هر کدی را که به‌طور عمومی در اینترنت منتشر شده، بدون بررسی در محیط کاری خود به‌کار ببرند. دستیار بازمتن برای ورود به بینش‌های شرکتی لازم است مجموعه‌ای از دستورالعمل‌ها و ابزارهای ارزیابی داخلی نیز در اختیار داشته باشد.
مدل‌های هوش مصنوعی به‌طور معمول در برابر پدیده توهم آسیب‌پذیر هستند، به‌این معنا که گاهی یک پاسخ کاملاً منطقی ولی نادرست ارائه می‌دهند. برای Hermes، این مسأله زمانی حادتر می‌شود که دستیار به ابزارهای واقعی دسترسی پیدا کند. اگر مدل نام یک فایل را نادرست تشخیص دهد، ممکن است فقط یک پاسخ اشتباه تولید شود. اما اگر تصمیم بگیرد یک پرونده را حذف کرده یا اطلاعات نادرست را به مشتری ارسال کند، خسارات به‌مراتب بالاتر خواهد بود. طراحی مراحل تأیید و امکان بازگشت از تغییرات بخش‌های بسیار مهم این محصول به شمار می‌آید.
شرکت همچنین می‌تواند با کارگیری بازیابی اطلاعات، پاسخ‌های Hermes را به اسناد معتبر محدود کند. در این سناریو، دستیار پیش از ارائه پاسخ، اطلاعات مرتبط از پایگاه داده را جستجو کرده و بر اساس آن‌ها متن را تولید میکند. ارجاع به منبع داخلی می‌تواند به کاربران این امکان را بدهد که پاسخ را ارزیابی نمایند. با این حال، بازیابی اطلاعات نیز کاملاً خطاناپذیر نیست. اگر سند بایگانی تاریخ گذشته باشد یا جست‌وجوی انجام شده نتایج نامربوطی را به‌دنبال داشته باشد، مدل ممکن است نتیجه‌گیری نادرستی انجام دهد.
موضوع حریم خصوصی در دستیارهای بازمتن دارای دو جنبه است. از یک سو، پیاده‌سازی مدل بر روی سرور داخلی می‌تواند میزان انتقال داده‌ها به بیرون را کاهش دهد. از سوی دیگر، سازمان‌ها باید خودشان مسئولیت حفظ لاگ‌ها و اطلاعات کاربران را بر عهده بگیرند. اگر گفتگوهای ذخیره شده برای مدت طولانی نگهداری شوند، ممکن است حاوی جزئیات حساسی باشند. سیاست‌هایی همچون حذف خودکار، رمزگذاری و تعیین سطوح دسترسی باید از همان ابتدا در محصول لحاظ گردند.
Nous Research همچنین می‌بایست مدل اقتصادی خود را مشخص کند. توسعه بازمتن هزینه‌بر است و تنها درآمد ناشی از فروش مجوز مدل تأمین نخواهد شد. این شرکت ممکن است سرویس‌های ابری، پشتیبانی تخصصی، ابزارهای مدیریت و نسخه‌های سفارشی را به مشتریان خود عرضه کند. این نوع ترکیب در بازار نرم‌افزار متداول است، اما مشتریان انتظار دارند که بخش اصلی مدل واقعاً در دسترس باشد و ناگهان به‌صورت غیرمنتظره‌ای در یک دیوار پرداخت قرار نگیرد.
جذب سرمایه ۹۰ میلیون دلاری می‌تواند به شرکت این فرصت را بدهد که پیش از رقابت با غول‌های این صنعت بر یک گروه خاص از کاربران متمرکز شود. توسعه‌دهندگان و شرکت‌های متوسط معمولاً به ابزاری نیاز دارند که هم انعطاف‌پذیر باشد و هم هزینه‌ای قابل پیش‌بینی داشته باشد. اگر Hermes بتواند این گروه را راضی کند، رشد آن به‌واسطه پیشنهادات مشتری و افزونه‌های نوین تداوم خواهد یافت.
با این وجود، برچسب بازمتن به‌تنهایی نمی‌تواند ضامن موفقیت باشد. مدل باید در زبان‌های مختلف سطح کیفی قابل قبولی داشته باشد، سرعت پاسخ‌گویی قابل قبول و به‌روزرسانی‌های مرتب دریافت کند. رقبا نیز ممکن است از مدل‌های منتشرشده بهره‌برداری کرده و نسخه‌های بهتری ارائه دهند. Nous باید از این مزیت اولیه با نوآوری‌های مستمر، مستندسازی درست و برقراری ارتباط صادقانه با جامعه توسعه‌دهندگان حفاظت کند.
Hermes در نهایت به‌عنوان آزمونی برای بررسی این مسأله مطرح می‌شود که آیا دستیارهای هوش مصنوعی قادرند از وضعیت محصول‌های بسته خارج شوند یا خیر. کاربران حرفه‌ای تمایل دارند بدانند که سیستم دقیقاً چه اقداماتی انجام می‌دهد و از چه داده‌هایی بهره می‌گیرد. بازمتن بودن امکان بررسی و تغییر بیشتر را فراهم می‌آورد، اما مسئولیت طراحی صحیح نیز به دوش سازمان‌ها می‌افتد. اگر Nous Research بتواند این پیچیدگی‌ها را برای مشتریان مدیریت‌پذیر کند، سرمایه تازه ممکن است آغازگر یک مرحله مهم در بازار دستیارهای سازمانی باشد.
منبع: The Wall Street Journal
“`
