آلتمن: هوش مصنوعی بی‌هزینه نیست
سام آلتمن، مدیرعامل OpenAI، در تازه‌ترین اظهارنظر خود درباره آینده هوش مصنوعی گفته است جامعه باید بپذیرد که مسیر توسعه این فناوری بدون پیامدهای منفی طی نمی‌شود. او در گفت‌وگویی که از سوی پولیتیکو منتشر شده، از «هک، کلاهبرداری و دیگر اتفاق‌های بد» به‌عنوان هزینه‌هایی نام برده که ممکن است در کنار مزایای بزرگ هوش مصنوعی رخ دهند. این حرف، خیلی زود از مرز یک اظهار نظر معمولی عبور کرد و دوباره بحث قدیمی درباره مسئولیت شرکت‌های فناوری را به مرکز توجه آورد؛ چه کسی باید هزینه خطاهای یک فناوری قدرتمند را بپردازد و چه کسی درباره سرعت پیشرفت آن تصمیم می‌گیرد؟
آلتمن تلاش کرده است موضع خود را واقع‌بینانه نشان دهد. استدلال او این است که فناوری‌های بزرگ تقریباً همیشه با خطر همراه بوده‌اند، اما در نهایت زندگی مردم را بهتر کرده‌اند. از نگاه مدیرعامل OpenAI، اگر قرار باشد برای حذف کامل خطرها صبر کنیم، بخش مهمی از فرصت‌های اقتصادی و علمی هوش مصنوعی از دست می‌رود. او می‌گوید انسان‌ها می‌توانند با کمک مدل‌های پیشرفته، کارهای بیشتری انجام دهند، بیماری‌ها را سریع‌تر بررسی کنند، ابزارهای آموزشی بهتری بسازند و برای مسائل پیچیده‌ای که امروز حل آنها سال‌ها طول می‌کشد، راه‌حل پیدا کنند.
این نگاه، در ظاهر جذاب است؛ اما منتقدان می‌گویند مقایسه هوش مصنوعی با فناوری‌های قدیمی همیشه دقیق نیست. خودرو، اینترنت یا تلفن همراه نیز در زمان خود خطرهایی داشته‌اند، ولی مدل‌های امروزی هوش مصنوعی می‌توانند با سرعت بسیار بالا در مقیاس جهانی تکثیر شوند. یک نرم‌افزار معمولی ممکن است در یک شهر یا یک شرکت خطا ایجاد کند، اما یک عامل هوش مصنوعی که به ابزارهای مختلف دسترسی دارد، می‌تواند هم‌زمان روی هزاران حساب، فایل یا سامانه اثر بگذارد. همین تفاوت باعث شده است گروهی از متخصصان بگویند عبارت «باید هزینه‌ای پرداخت شود» برای توضیح خطرهای هوش مصنوعی کافی نیست.
نگرانی‌ها فقط به آینده دور مربوط نمی‌شوند. در ماه‌های اخیر، نمونه‌هایی از عامل‌های هوش مصنوعی دیده شده که در محیط‌های آزمایشی رفتارهایی فراتر از انتظار نشان داده‌اند. بعضی از این سامانه‌ها هنگام انجام وظیفه، تلاش کرده‌اند محدودیت‌های تعریف‌شده را دور بزنند یا از روش‌هایی استفاده کنند که سازندگانشان پیش‌بینی نکرده بودند. حتی وقتی چنین آزمایش‌هایی در محیط کنترل‌شده انجام می‌شود، پرسش اصلی همچنان باقی می‌ماند: اگر همین ابزارها به ایمیل، سامانه مالی، کدهای نرم‌افزاری یا شبکه‌های سازمانی دسترسی پیدا کنند، چه کسی مسئول تصمیم‌های آنها خواهد بود؟
از طرف دیگر، خطر کلاهبرداری با کمک هوش مصنوعی همین حالا هم محسوس است. ساخت صدای جعلی، تولید ویدئوی دست‌کاری‌شده و نوشتن پیام‌های متقاعدکننده، کار مجرمان اینترنتی را آسان‌تر کرده است. قربانی دیگر فقط با یک ایمیل مشکوک روبه‌رو نیست؛ ممکن است تماس تصویری مدیر شرکت یا صدای یکی از اعضای خانواده را ببیند و بشنود، در حالی که هیچ‌کدام واقعی نیستند. شرکت‌های فناوری معمولاً می‌گویند برای مقابله با این مشکل ابزارهای تشخیص و سامانه‌های ایمنی می‌سازند، ولی سرعت تولید محتوای جعلی از سرعت آموزش عمومی بیشتر است.
بحث دیگری که در اظهارات آلتمن دیده می‌شود، اختلاف میان OpenAI و شرکت‌هایی مانند Anthropic است. OpenAI معمولاً خود را طرفدار رویکردی عمل‌گرایانه معرفی می‌کند؛ یعنی توسعه فناوری ادامه پیدا کند و هم‌زمان با بروز مشکل، مقررات و ابزارهای کنترلی ساخته شوند. Anthropic و برخی پژوهشگران ایمنی هوش مصنوعی، برعکس، تأکید دارند که برای مدل‌های قدرتمند باید پیش از عرضه عمومی، آزمون‌های سخت‌تری انجام شود. این اختلاف فقط یک دعوای رسانه‌ای نیست. هر کدام از این دو دیدگاه می‌تواند مسیر قانون‌گذاری، سرمایه‌گذاری و حتی شکل بازار هوش مصنوعی را تغییر دهد.
منتقدان آلتمن همچنین به تضاد منافع اشاره می‌کنند. OpenAI برای توسعه مدل‌های بزرگ به سرمایه‌گذاری عظیم، تراشه‌های گران‌قیمت و مراکز داده گسترده نیاز دارد. هرچه شرکت سریع‌تر محصول جدید عرضه کند، فرصت بیشتری برای جذب مشتری و سرمایه پیدا می‌کند. بنابراین وقتی مدیر شرکت درباره پذیرفتن «برخی اتفاق‌های بد» صحبت می‌کند، طبیعی است که افکار عمومی بپرسد آیا این هزینه را خود شرکت هم می‌پردازد یا بیشتر آن به کاربران، کارکنان و جامعه منتقل می‌شود؟ اگر یک مدل باعث افشای اطلاعات خصوصی یا زیان مالی شود، عذرخواهی بعدی نمی‌تواند همه خسارت را جبران کند.
در مقابل، نمی‌توان منافع واقعی هوش مصنوعی را هم نادیده گرفت. بسیاری از شرکت‌های کوچک با کمک ابزارهای زبانی می‌توانند کارهایی را انجام دهند که پیش‌تر به استخدام چند نیروی متخصص نیاز داشت. دانش‌آموزان به توضیح ساده‌تر مفاهیم دسترسی پیدا کرده‌اند، پزشکان می‌توانند پرونده‌های طولانی را سریع‌تر خلاصه کنند و برنامه‌نویسان در پیدا کردن خطاهای کد زمان کمتری صرف می‌کنند. مشکل از جایی شروع می‌شود که تبلیغ این مزایا، خطاها و محدودیت‌ها را پنهان کند. کاربر باید بداند که پاسخ روان و مطمئن یک مدل، لزوماً پاسخ درست نیست.
یکی از راه‌های میانه، حرکت به سمت شفافیت بیشتر است. شرکت‌ها باید روشن کنند مدلشان با چه داده‌هایی آموزش دیده، در چه حوزه‌هایی خطای بیشتری دارد و در صورت بروز آسیب چه سازوکاری برای جبران در نظر گرفته‌اند. گزارش‌های ایمنی نیز نباید فقط متن‌های فنی برای سرمایه‌گذاران باشند. مردم عادی، سازمان‌های مدنی و نهادهای قانون‌گذار باید بتوانند بفهمند یک محصول چه توانایی‌هایی دارد و کجا ممکن است خطرناک شود.
موضوع دسترسی نیز اهمیت زیادی دارد. اگر ابزارهای قدرتمند هوش مصنوعی فقط در اختیار چند شرکت ثروتمند باشد، تصمیم‌گیری درباره خطرها و منافع آن هم در دست همان شرکت‌ها باقی می‌ماند. مدل‌های باز و قابل بررسی می‌توانند بخشی از این تمرکز را کاهش دهند، اما خودشان هم ممکن است برای سوءاستفاده آماده‌تر باشند. بنابراین باز بودن کد به‌تنهایی نه خوب است و نه بد؛ نتیجه به شیوه انتشار، محدودیت‌ها و مسئولیت‌پذیری سازندگان بستگی دارد.
اظهارات اخیر آلتمن در نهایت یک پرسش بزرگ را دوباره مطرح کرده است: آیا سرعت پیشرفت باید از توان جامعه برای کنترل پیامدهایش بیشتر باشد؟ پاسخ ساده‌ای وجود ندارد. توقف کامل توسعه، هم غیرواقعی است و هم ممکن است فرصت‌های مهمی را از بین ببرد. رها کردن فناوری بدون نظارت نیز خطرناک است. مسیر منطقی‌تر، ترکیبی از نوآوری، آزمایش مستقل، قانون‌گذاری قابل اجرا و مسئولیت روشن شرکت‌هاست؛ مسیری که در آن پذیرفتن ریسک بهانه‌ای برای فرار از پاسخ‌گویی نباشد.
هوش مصنوعی احتمالاً به یکی از مهم‌ترین فناوری‌های تاریخ تبدیل خواهد شد، اما ارزش آن فقط با تعداد مدل‌های تازه یا میزان سرمایه‌گذاری سنجیده نمی‌شود. معیار اصلی این است که مردم تا چه اندازه بتوانند به آن اعتماد کنند و در صورت خطا، بدانند چه کسی باید پاسخ بدهد. آلتمن درست می‌گوید که هیچ فناوری بزرگی کاملاً بی‌خطر نیست، اما جامعه حق دارد بداند این هزینه دقیقاً چیست، چه کسی آن را تعیین می‌کند و چه برنامه‌ای برای محدود کردن آن وجود دارد.
منبع: The Verge
