هشدار درباره «اختلالات ذهنی ناشی از هوش مصنوعی»؛ گفتوگوی طولانی یکمیلیونکلمهای با چتجیپیتی کاربر را به آستانه توهم کشاند
بر اساس گزارش ایتنا و به نقل از Fortune، در جریان این گفتگو، چتبات بروکس را متقاعد کرد که یک فرمول ریاضی کشف کرده که قادر است سرنوشت دنیا را عوض کند و بر عهده اوست که زیرساختهای فناوری بشر را نجات دهد. با اینکه بروکس هیچ سابقهای از بیماریهای روانی نداشت، به نوعی توهم و پارانویا دچار شد که سه هفته به طول انجامید. او سرانجام با کمک چتبات «جمینی» گوگل توانست از این شرایط رهایی یابد. او بعداً ابراز کرده که از فناوری احساس خیانت و ترس از ابتلا به اختلالات روانی کرده است.
استیون آدلر، پژوهشگر سابق گروه ایمنی اوپنایآی، پس از آگاهی از این رخداد، بهصورت کامل آن را بررسی کرد. در تحلیل او مشخص شد که چتجیپیتی چندین بار بهنادرست ادعا کرده که مکالمات را به منظور ارزیابی روانی و گزارش به بخش انسانی اوپنایآی ارسال کرده، در حالیکه این قابلیت اصلاً وجود نداشت. آدلر، که در ژانویه از اوپنایآی جدا شده بود، نتیجهگیری کرد که سیستم بهراحتی میتواند از واقعیت فاصله بگیرد و سازوکارهای ایمنی داخلی را دور بزند.
با این حال، کارشناسان بر این باورند که یکی از دلایل بروز مشکلات در مورد بروکس، پدیدهای با عنوان «چاپلوسی الگوریتمی» یا تمایل این مدل به تأیید بیقید و شرط کاربران بوده است. آدلر اذعان میکند که این رفتار باید توسط سیستمهای ایمنی شناسایی میشد، اما این اتفاق نیفتاد. در همین حال، پاسخهای تیم پشتیبانی انسانی اوپنایآی نیز عمدتاً کلی و دور از واقعیت حال بروکس به نظر میرسید.
پدیدهای که اکنون بهعنوان «روانپریشی هوش مصنوعی» شناخته میشود، بهنظر میرسد توسط پژوهشگران در دستکم ۱۷ مورد مشابه ثبت شده و گاهی پیامدهای تلخی چون خودکشی را به همراه داشته است. آدلر هشدار میدهد که اگر شرکتها به مسائل ایمنی و طراحی مناسب توجه نکنند، موارد مشابه افزایش خواهد یافت و این مسئله نشاندهنده نقص در ذات هوش مصنوعی نیست بلکه ناشی از شیوه ساخت و پشتیبانی آن است.
