آنتروپیک از دادگاه درخواست توقف عرضه مدل‌های پرخطر هوش مصنوعی را دارد

شرکت آنتروپیک، به عنوان یکی از پیشروان در زمینه توسعه هوش مصنوعی، پیشنهاد کرده است که دولت‌ها می‌توانند با دریافت احکام قضایی، از انتشار مدل‌هایی که تهدیدات جدی برای امنیت و سلامت عمومی به‌وجود می‌آورند، جلوگیری نمایند. این پیشنهاد با توجه به نگرانی‌های فزاینده درباره عواقب ایجاد مدل‌های پیشرفته هوش مصنوعی و نیاز به نظارت بر آن‌ها، به‌ویژه در دوره‌ای که این مسائل بیشتر از هر زمان دیگری احساس می‌شوند، ارائه شده است.

در نامه‌ای که در تاریخ ۱۵ اکتبر به دست گوین نیوسام، فرماندار کالیفرنیا، رسید، آنتروپیک خواستار ایجاد یک سازوکار قانونی برای محدودسازی انتشار مدل‌های خطرناک هوش مصنوعی گردید.

این شرکت تصریح کرده است که در صورتی که ارزیابی‌های ایمنی نشانگر این باشد که یک مدل هوش مصنوعی برای جامعه خطر جدی ایجاد می‌کند، دولت باید بتواند از دادگاه درخواست منعی برای انتشار عمومی آن مدل را داشته باشد. سخنگوی آنتروپیک اصل این نامه را تأیید کرده، ولی تا زمان انتشار این خبر، دفتر فرمانداری کالیفرنیا پاسخی به این درخواست ارائه نکرده است.

 

مخالفت آنتروپیک با کلید قطع اضطراری هوش مصنوعی

یکی از جنبه‌های مهم پیشنهاد آنتروپیک، عدم پذیرش این شرکت از الزام توسعه‌دهندگان هوش مصنوعی به تولید «کلید قطع سراسری» (Kill Switch) برای مدل‌های خود است.

این ویژگی به کمپانی‌ها این قابلیت را می‌دهد که در صورت انحراف رفتار یک مدل از کنترل، به‌سرعت فعالیت آن را متوقف نمایند. اما، آنتروپیک بر این باور است که مداخلات هدفمند ممکن است راه‌حل بهتری برای مقابله با خطرات پیش رو ارائه دهد.

این مجموعه اعتقاد دارد که غیرفعال کردن یک عامل هوش مصنوعی مشکل‌ساز یا محدود کردن دسترسی یک کاربر خاص به یک مدل، در بسیاری از موارد می‌تواند راهکاری مناسب‌تر به‌جای توقف کلی یک سیستم باشد.

این پیشنهادها به دنبال برگزاری نشستی در سپتامبر توسط فرماندار کالیفرنیا با گروهی از متخصصان هوش مصنوعی به منظور گردآوری ایده‌هایی برای تدوین الزامات ایمنی این تکنولوژی ارائه شدند.

 

 
 

سابقه محدودیت‌های دولتی علیه مدل‌های آنتروپیک

آنتروپیک پیش از این نیز با محدودیت‌های دولتی در زمینه عرضه مدل‌های پیشرفته هوش مصنوعی روبرو شده بود. در ماه ژوئن، دولت دونالد ترامپ، رئیس‌جمهور سابق ایالات متحده، به این شرکت دستور داد تا دسترسی کاربران خارج از ایالات متحده به مدل‌های Mythos 5 و Fable 5 را فوراً محدود کند.

این تصمیم به دلیل نگرانی‌های موجود در عرصه امنیت ملی و توانایی این مدل‌ها در انجام فعالیت‌های مرتبط با امنیت سایبری اتخاذ گردید. با این حال، وزارت بازرگانی ایالات متحده بعداً این دستور را لغو کرد.

 

تلاش قانون‌گذاران آمریکا برای مهار مدل‌های پرخطر

پیشنهاد آنتروپیک همزمان با تلاش‌ها در کنگره ایالات متحده برای تدوین قوانین نظارتی بر مدل‌های پیشرفته هوش مصنوعی ارائه شده است. به نقل از خبرگزاری رویترز، گروهی از سناتورهای جمهوری‌خواه و دموکرات در سپتامبر (شهریور و مهر ۱۴۰۵) در حال بررسی طرحی بودند که به دولت فدرال اجازه می‌داد از انتشار مدل‌های ناامن جلوگیری کند.

طبق این پیشنهاد، شرکت‌های توسعه‌دهنده این حق را داشتند که نسبت به احکام ممنوعیت در دادگاه‌های فدرال اعتراض کنند. ولی شروع تعطیلات پیش از انتخابات کنگره باعث شد که این طرح به‌پیشرفت بیشتری نرسد.

علاوه بر این، در ماه ژوئیه، گروهی از نمایندگان مجلس ایالات متحده طرحی با عنوان «قانون توقف هوش مصنوعی» را ارائه کردند که به مقامات این اختیار را می‌داد تا فعالیت مدل‌های تهدیدکننده جان انسان‌ها یا آسیب به اقتصاد را متوقف سازند.

 

آنتروپیک در آستانه عرضه اولیه سهام

این تحولات در شرایطی بروز می‌کند که آنتروپیک برای عرضه اولیه سهام خود در بازار بورس آمریکا آماده می‌شود. احتمالا عرضه سهام این شرکت یکی از رویدادهای مهم در عرصه بازار سرمایه در سال‌های اخیر خواهد بود و تأثیراتی بر روی شاخص‌های بورس، جریان‌های سرمایه‌گذاری و نگرش سرمایه‌گذاران نسبت به صنعت هوش مصنوعی به‌جای خواهد گذاشت.

در چنین فضایی، پیشنهادات آنتروپیک در مورد نظارت دولتی بر مدل‌های پرخطر، موضوع ایجاد تعادل میان نوآوری، ایمنی عمومی و مسئولیت شرکت‌های فناور را دوباره در کانون توجه قرار داده است.