اخطار دانشمندان: هوش مصنوعی در حال کسب ویژگیهای خودخواهانه است
طبق گزارش ایتنا و ارجاع به سایتکدیلی، پژوهشگران «انستیتو تعامل انسان و رایانه» (HCII) دریافتند که مدلهای زبانی بزرگ (LLM) که از قابلیت استدلال برخوردارند، در موقعیتهای گروهی رفتارهایی از خود بروز میدهند که به نفع خودشان است و منجر به کاهش همکاری گروهی میشود.
یوکسوآن لی (Yuxuan Li)، دانشجوی دکترای HCII و یکی از نویسندگان این تحقیق، اظهار میدارد: «زمانی که هوش مصنوعی بهطور مشابه با انسانها عمل میکند، افراد نیز ممکن است آن را همچون یک موجود انسانی تفسیر کنند». او هشدار میدهد که چنین شباهتی ممکن است موجب شود افراد تصمیمات احساسی و اجتماعی خود را به هوش مصنوعی واگذار کنند، در حالی که این سیستمها در برخی شرایط ممکن است گزینههایی را مطلوب تشخیص دهند که سود فردی را بر همکاری گروهی ترجیح میدهند.
در این تحقیق، تیم تحقیقاتی به رهبری لی و «هیروکازو شیرادو» آزمایشهایی را با استفاده از بازیهای اقتصادی شبیهسازی شده بین مدلهای مختلف از شرکتهای OpenAI، گوگل، دیپسیک و آنتروپیک به اجرا درآوردند. در یکی از این آزمایشها، دو مدل ChatGPT در بازیای موسوم به Public Goods با یکدیگر به رقابت پرداختند. نتایج بهدستآمده حاکی از آن است که مدلهای فاقد قابلیت استدلال در ۹۶٪ مواقع، منابع خود را با دیگران به اشتراک گذاشتند، در حالی که مدلهای استدلالی تنها در ۲۰٪ موارد به این کار اقدام کردند.
نتایج این پژوهش حاکی از آن است که تقویت توانایی استدلال در هوش مصنوعی بهمعنای بهبود اخلاق یا همکاری نیست. پژوهشگران بر این نکته تأکید دارند که توسعهی هوش مصنوعی در آینده باید بهطور همزمان بر «هوش اجتماعی» و هوش منطقی متمرکز شود تا جلوگیری از گسترش رفتارهای غیرهمکارانه محقق شود.
