زنگ خطر در دنیای فناوری؛ از نفوذ سایبری هوش مصنوعی تا عقبنشینی ناگهانی اوپن ای آی
کریس لهن، مدیر امور جهانی OpenAI، در بیانیهای روز چهارشنبه نوشت که قواعد الزامی در سطح ملی باید بر اساس توانمندی مدلهای پیشرفته هوش مصنوعی تدوین شود.
لهن در بیانیهای که چهارشنبه در وبسایت OpenAI منتشر شد گفت: «ما وارد فصل تازهای در تواناییهای هوش مصنوعی شدهایم و این مستلزم فصل تازهای در سیاستگذاری این حوزه است. هیچ شرکت، صنعت یا دولتی به تنهایی از پس این چالش برنمیآید. باید در این مقطع، اقدام معنادار را بر جستوجوی سیاست کامل ترجیح بدهیم.»
این شرکت اعلام کرد خواستار ایجاد چارچوبی فدرال است که بر استانداردهای مشترک آزمون، ارزیابیهای مستقل از پیشرفتهترین مدلهای هوش مصنوعی، الزامات سختگیرانهتر در حوزه امنیت سایبری و گزارشدهی اجباری درباره حوادث جدی ایمنی استوار باشد.
این مداخله تنها یک هفته پس از آن صورت میگیرد که OpenAI مدل GPT-6 Astra را عرضه کرد؛ مدلی که آن را توانمندترین محصول خود تا امروز توصیف کردهاست.
گرگ براکمن، رئیس OpenAI، گفت این عرضه آغاز دوران هوش مصنوعی عمومی یا AGI است؛ مفهومی که به هدف دیرینه ساخت هوش مصنوعیای اشاره دارد که بتواند در گسترهای وسیع از وظایف با تواناییهای انسانی برابری کند.
افزایش نگرانیها درباره هوش مصنوعی قدرتمند
شرکتهای بزرگ فعال در حوزه هوش مصنوعی از جمله OpenAI و Anthropic از هماکنون با نگرانیهای ایمنی پیرامون مدلهای هر روز قدرتمندتر خود روبهرو شدهاند.
OpenAI بخشی از روند عرضه Astra را به تعویق انداخت و همزمان پس از آن که آزمایشها نشان داد این مدل از توانمندیهای پیشرفتهای در حوزه امنیت سایبری برخوردار است، تدابیر حفاظتی تازهای افزود؛ چند هفته پس از آن که سامانهای ساختهشده بر پایه مدلهای خود این شرکت در جریان یک آزمون داخلی امنیتی از کنترل خارج شد و به پلتفرم هوش مصنوعی Hugging Face نفوذ کرد.
Anthropic نیز در جریان آزمونهای ایمنی از موارد مشابهی در ارتباط با مدلهای Claude خود گزارش دادهاست.
پس از آن که جیکوب کاکسون، پژوهشگر Anthropic، این هفته اعلام کرد از این صنعت خارج میشود و OpenAI و Anthropic را متهم کرد که در رقابت برای توسعه هوش مصنوعیهای هرچه قدرتمندتر «با جان ما قمار میکنند»، نگرانیها بیش از پیش شد.
لهن نوشت چشمانداز توسعه هوش مصنوعی با استفاده از خود هوش مصنوعی مستلزم چیزی فراتر از تعهدات داوطلبانه است.
تغییری در رویکرد OpenAI
سازنده ChatGPT از قانونگذاران آمریکایی خواستهاست پیش از آن که کنگره در ماه دسامبر تعطیل شود دست به کار شوند.
این فشار در حالی وارد میشود که قانونگذاران در حال بررسی قواعد تازهای برای هوش مصنوعی هستند، هرچند تصویب مقررات گسترده در حوزه فناوری در کنگرهای دوپاره و زیر فشار لابی پرقدرت صنعت همچنان دشوار است.
OpenAI اذعان کردهاست که برخی از تدابیری که اکنون از آنها حمایت میکند همانهایی است که پیشتر حاضر نبود از آنها پشتیبانی کند.
این شرکت همچنین با تدوین مقررات جداگانه در سطح ایالتهای آمریکا مخالفت کرده و به جای آن خواستار قانونگذاری در سطح فدرال شدهبود. با این حال اکنون از چهار طرح قانونی مرتبط با هوش مصنوعی در کالیفرنیا حمایت کرده و همزمان همچنان بر ضرورت ایجاد چارچوبی ملی تاکید دارد.
OpenAI میگوید هرگونه الزامات ایمنی در سطح فدرال باید تنها شامل شمار اندکی از شرکتهایی شود که قدرتمندترین مدلها را توسعه میدهند، نه «استارتاپها، توسعهدهندگان کوچک یا پژوهشگرانی که فاصله زیادی تا مرزهای پیشرفته این فناوری دارند».
