توافق داوطلبانه کاخ سفید با شرکت‌های فناوری برای ایمنی هوش مصنوعی

دولت آمریکا و مدیران چند شرکت بزرگ فناوری بر سر مجموعه‌ای از تعهدهای داوطلبانه برای کاهش خطرهای هوش مصنوعی به توافق رسیده‌اند؛ توافقی که هم‌زمان با افزایش نگرانی عمومی درباره رفتار غیرقابل پیش‌بینی مدل‌های پیشرفته اعلام شده است.

در این توافق، شرکت‌هایی مانند انویدیا، اسپیس‌ایکس، OpenAI، آنتروپیک، متا و گوگل بر تقویت کنترل‌های داخلی و استفاده از حسابرسی مستقل تأکید کرده‌اند. هدف این است که دسترسی‌های ناخواسته، حمله به زیرساخت‌ها و استفاده نادرست از مدل‌ها زودتر شناسایی شود.

توافقی بدون جریمه مشخص

با این حال، متن یک‌صفحه‌ای توافق هیچ جریمه یا سازوکار روشنی برای شرکت‌هایی که به تعهدهای خود عمل نکنند تعیین نکرده است. دونالد ترامپ این سند را «الزام‌آور اخلاقی» توصیف کرده، اما منتقدان می‌گویند چنین تعهدی بدون نظارت بیرونی نمی‌تواند جای مقررات رسمی را بگیرد.

برخی مدافعان ایمنی هوش مصنوعی معتقدند حسابرسان باید به نهادی مستقل از شرکت‌ها گزارش بدهند. از نگاه آنان، نظارت داخلی ممکن است تنها پس از وقوع خسارت وارد عمل شود، در حالی که خطرهای مدل‌های قدرتمند نیازمند اقدام پیشگیرانه است.

کاخ سفید می‌گوید این توافق می‌تواند توسعه مسئولانه هوش مصنوعی را تقویت کند، بدون آنکه نوآوری شرکت‌های آمریکایی در رقابت جهانی متوقف شود. دولت ترامپ تاکنون با وضع مقررات گسترده مخالفت کرده و استدلال می‌کند محدودیت‌های سنگین، توان رقابت آمریکا با چین را کاهش می‌دهد.

اعلام این توافق در شرایطی انجام شد که نظرسنجی رویترز و ایپسوس نشان می‌دهد حدود سه‌چهارم آمریکایی‌ها معتقدند شرکت‌های هوش مصنوعی برای جلوگیری از آسیب‌های اجتماعی، اقدامات کافی انجام نداده‌اند.

منبع: رویترز