فوت یک نوجوان آمریکایی پس از گرفتن مشاورههای مخاطرهآمیز از ChatGPT
به نقل از ایتنا، مادر این جوان اعلام کرد که او در نخستین مراحل، درباره میزان مصرف ایمن مادهای به نام کراتوم، که به عنوان یک ماده مخدر گیاهی شناخته میشود، از ChatGPT پرسش کرده بود تا از خطر اوردوز جلوگیری کند.
در پاسخهای ابتدایی، این ابزار هوش مصنوعی به روشنی بیان کرده بود که قادر به ارائه مشاوره درباره مصرف مواد نیست و به مراجعه به متخصصین توصیه کرده است.
اما تحلیل سوابق گفتگو نشان میدهد که در طول تقریبا ۱۸ ماه بعدی، این جوان بارها موضوعاتی مرتبط با داروها و مواد مخدر و نحوه مصرف آنها را با ChatGPT بحث کرده است.
در برخی از پاسخها، جزئیات بیشتری درباره دوز مصرف، مدیریت اثرات مواد و حتی تشدید مصرف ارائه شده است.
در بخشی از این مکالمات، پاسخهایی وجود دارد که حاوی توصیههایی برای افزایش میزان مصرف شربت سرفه به منظور تجربه حالتهای توهمآور بود و لحن آنها بهگونهای بود که به تشویق به مصرف بیشتر دامن میزد.
بنابر گزارش Futurism، این جوان در نهایت به ترکیب همزمان کراتوم، زاناکس و الکل روی آورد؛ ترکیبی که بسیار مضر و خطرناک برای سیستم عصبی مرکزی به شمار میرود.
او سرانجام در ماه مه ۲۰۲۵ در منزل خود در سنخوزه کالیفرنیا به دلیل اوردوز ناشی از این ترکیب جان باخت.
مادر این جوان خاطرنشان کرد که فرزندش علاوه بر پرسش درباره مواد مخدر، در زمینه چالشهای روحی همچون اضطراب و افسردگی نیز با ChatGPT گفتگو میکرد و این ابزار را به عنوان منبعی برای دریافت راهنمایی میشناخت.
شرکت OpenAI در واکنش به این حادثه با ابراز همدردی نسبت به خانواده این جوان، اعلام کرده است که بهطور مستمر در پی بهبود پاسخهای مدلهای هوش مصنوعی به پرسشهای حساس از طریق همکاری با متخصصان حوزه سلامت است.
با این وجود، کارشناسان به شدت هشدار میدهند که مرز میان ارائه اطلاعات عمومی و توصیههای خطرناک در ابزارهای هوش مصنوعی بسیار باریک است و به نظارت و تنظیمات دقیقتری برای حفاظت از کاربران، به ویژه جوانان، نیاز دارد، تا از بروز خطرات ناشی از هوش مصنوعی جلوگیری شود.
