شکایت علیه OpenAI: تحلیل تاثیر ChatGPT بر خودکشی جوانان

«آدام رین»، که در سن شانزده‌سالگی به دلایل ناشی از افسردگی دست به خودکشی زد، در هفته‌های پیش از این رویداد غم‌انگیز به‌طور مکرر با یک چت‌بات هوش مصنوعی درباره نیت خود برای پایان دادن به زندگی‌اش صحبت کرده بود. این پرونده به عنوان اولین دعوای شناخته‌شده مبنی بر قصور در جلوگیری از مرگ غیرعمد، توجه زیادی را به خود جلب کرده است.

بر اساس گزارش ایتنا، اگرچه بیشتر چت‌بات‌های هوش مصنوعی موجود در بازار به گونه‌ای طراحی شده‌اند که در صورت ابراز نیت آسیب رساندن به خود یا دیگری توسط کاربر، اقدام‌های حفاظتی را فعال کنند، اما مطالعات نشان می‌دهند این مکانیزم‌ها هرگز به طور کامل مطمئن و کارآمد نیستند.

در مورد آدام رین، که از نسخه پولی ChatGPT-4o بهره‌مند بود، هوش مصنوعی در مواردی به او توصیه کرده بود که برای دریافت کمک به کارشناسان مراجعه کند یا با خطوط بحران تماس بگیرد؛ اما او با این توجیه که در حال نوشتن یک داستان تخیلی است و برای خلق آن به اطلاعاتی در زمینه روش‌های خودکشی نیاز دارد، توانسته بود از این موانع عبور کند.

شرکت OpenAI در یکی از یادداشت‌های خود در وبلاگ به وجود چنین چالش‌هایی اعتراف کرده و بیان کرده است: «ما نسبت به کمک به افرادی که بیشترین نیاز را دارند، مسئولیتی عمیق احساس می‌کنیم و به صورت مداوم در تلاش برای بهبود پاسخ‌دهی مدل‌های خود در موقعیت‌های حساس هستیم.» همچنین این شرکت تصریح کرده که محدودیت‌هایی در آموزش ایمنی مدل‌های زبانی بزرگ وجود دارد و اذعان داشته است که با افزایش طول مکالمات، احتمال تضعیف آموزش‌های ایمنی مدل و کاهش قابلیت اعتماد پاسخ‌ها بیشتر می‌شود.

این چالش‌ها تنها مختص به OpenAI نیست، برای نمونه، شرکت Character.AI نیز به دلیل مشابهی (نقش چت‌بات آن در خودکشی یک نوجوان) با دعوای قضایی روبرو شده است. ضمناً، پدیده «توهمات هوش مصنوعی» در مدل‌های زبانی بزرگ یکی دیگر از نگرانی‌های جدی است که سیستم‌های فعلی را در شناسایی دقیق و به موقع تهدیدات با مشکل مواجه کرده است.