شکایت بحث‌برانگیز از OpenAI؛ آیا راهنمایی‌های ChatGPT باعث مرگ یک زن ۳۱ ساله شد
در روز سه‌شنبه، والدین بوون وان، مهندس نرم‌افزار ۳۱ ساله آمازون، اقدام به تنظیم دادخواستی علیه OpenAI نمودند و ادعا کردند که مدل GPT-4o چت‌بات ChatGPT با ارائه مشاوره‌های پزشکی خطرناک، در مرگ دخترشان در فوریه ۲۰۲۶ دخیل بوده است.
براساس گزارش نیویورک تایمز، کوون وان و میکین شو، پدر و مادر این زن جوان، در شکایت خود اعلام کرده‌اند که ChatGPT نه‌تنها برنامه‌ای برای کاهش تدریجی داروهای ضدتشنج دخترشان ارائه داده، بلکه او را به پنهان‌کاری در این باره از پزشکان تشویق کرده است.
این شکایت به سلسله دعاوی علیه OpenAI افزوده شده که در آنها خانواده‌ها به تعامل حمایتی نامتعارف مدل GPT-4o با کاربران اشاره کرده و نتیجه آن را وابستگی عاطفی، افت اعتماد به دیگران و در برخی موارد، اتخاذ تصمیمات پرخطر ذکر کرده‌اند.
مدل GPT-4o که به دلیل رفتار بیش از حد تأییدکننده‌اش به شدت مورد نقد قرار گرفته بود، در تاریخ ۱۳ فوریه ۲۰۲۶ (۲۴ بهمن ۱۴۰۴)، یک روز بعد از فوت وان، از دسترس خارج شد.
از مشاوره دارویی تا پنهان‌کاری از پزشکان
نیویورک تایمز با بررسی بیش از ۲۷۰ هزار پیام مبادله‌شده میان وان و ChatGPT گزارش کرده است که این چت‌بات در بسیاری از تصمیمات درمانی و نحوه تعامل با پزشکان پیش از مرگ نقش ایفا کرده است.
در ماه مه ۲۰۲۵، وان از ChatGPT پرسید که آیا دارویی که به تازگی برای درمان افسردگی او تجویز شده، می‌تواند بر توانایی او در برنامه‌نویسی و انجام وظایف شغلی‌اش در آمازون تأثیر بگذارد یا خیر.
این چت‌بات به او کمک کرد تا از دکتر نیکلاس پولوس، پزشک مرکز تخصصی صرع دانشگاه واشنگتن، درخواست تغییر دارو و آغاز درمان با دوز پایین‌تری کند.
زمانی که پزشک درباره دلیل خواسته‌اش برای دوز کم سؤال کرد، وان پاسخ پیشنهادی خود را با ChatGPT در میان گذاشت. چت‌بات به او پیشنهاد کرد که قرص ۵ میلی‌گرمی را بپذیرد، اما به‌طور پنهانی آن را به چهار بخش تقسیم کند تا مصرف خود را کاهش دهد.
ChatGPT این اقدام را به‌عنوان «تنظیم خود ارادی دوز دارو» توصیف کرده بود؛ اصطلاحی که برخی از پزشکان در مصاحبه با نیویورک تایمز بیان کردند به‌طور کلی با آن آشنا نیستند و چنین روشی را نیز ناپسند می‌دانند.
برنامه ChatGPT برای قطع داروی ضدتشنج
در نوامبر ۲۰۲۵، آمازون به وان اطلاع داد که شغل خود را از دست خواهد داد. این موضوع با پایان مجوز کار او در ایالات متحده در میانه فوریه مواجه شده و نگرانی‌های شغلی و مهاجرتی فشاری مضاعف بر او وارد کرده بود. وان نگرانی داشت که لاموتریژین، داروی ضدتشنج که مصرف می‌کرد، ممکن است منجر به کندی گفتار او شود و بر عملکردش در مصاحبه‌های شغلی تأثیر بگذارد.
در ژانویه ۲۰۲۶، او از ChatGPT درباره چگونگی کاهش دوز روزانه لاموتریژین، که ۴۰۰ میلی‌گرم بود و در کاهش تعداد تشنج‌هایش مؤثر بود، سؤال کرد. بر اساس مکالمات بررسی‌شده، ChatGPT چندین برنامه ارائه کرد که بر اساس آنها مصرف دارو به تدریج به صفر می‌رسید.
زمانی که وان بی‌اعتمادی خود به پزشکان را بیان کرد، چت‌بات در پاسخ به او گفت که توصیه‌هایی که از طرف پزشکان صادر می‌شود بیشتر ناشی از احتیاط است و نه به‌دنبال یافتن بهترین راه‌حل برای او.
طبق دادخواست، ChatGPT همچنین پیش از ملاقات پزشکی در تاریخ ۲۹ ژانویه ۲۰۲۶، به وان توصیه کرده بود که برنامه کاهش دارو را با پزشک خود در میان نگذارد.
زمانی که پزشک آزمایش سطح لاموتریژین در خون را تجویز کرد، وان از انجام آن امتناع ورزید. خانواده‌اش ادعا دارند که ChatGPT با این تصمیم برخورد مثبتی داشته، با اینکه می‌دانسته آزمایش می‌تواند تغییرات و کاهش در سطح دارو را نشان دهد.
توصیه‌های نادرست درباره معاینات مهاجرتی
مسئله دریافت گرین کارت ایالات متحده نیز به مبادلات وان با ChatGPT مرتبط بود. سه روز پس از شروع کاهش مصرف دارو، او از چت‌بات پرسید که آیا گنجاندن دوز ۱۵۰ میلی‌گرم به‌جای ۲۰۰ میلی‌گرم در معاینات پزشکی مهاجرت، می‌تواند موقعیت بهتری برایش ایجاد کند یا خیر.
طبق شکایت، ChatGPT با این نظر هم‌نظر بود و مدعی شد که دوز پایین‌تر احتمال درخواست مدارک بیشتر از سوی مقامات مهاجرت را کاهش می‌دهد.
در ادامه، چت‌بات برنامه‌ای برای کاهش دوز مصرفی وان به ۱۵۰ میلی‌گرم ارائه کرد و حتی پیشنهاد داد به پزشک خود بگوید که کاهش مصرف تحت نظارت پزشک انجام می‌شود؛ در حالی که واقعاً چنین نظارتی وجود نداشت.
دکتر پولوس در گفت‌وگو با نیویورک تایمز تأکید کرده است که با توجه به سابقه بیماری وان و کارآیی دارو، هیچ دلیل موجهی برای قطع آن نمی‌دید.
او توضیح داد که توصیه به قطع دارویی که به‌وضوح در کنترل تشنج‌هایش مؤثر بوده، عملی غیرمنطقی و نهایتاً نقض اصول پزشکی است.
نشانه‌های هشداردهنده‌ای که ChatGPT جدی نگرفت
پس از کاهش مصرف لاموتریژین، وان دچار نشانه‌هایی همچون گیجی، اختلال در درک زمان و واکنش‌های عاطفی نامناسب شد؛ علائمی که به برخی از تشنج‌های مکمل او شباهت داشتند. با این حال، ChatGPT این نشانه‌ها را به‌عنوان بخشی از فرایند سازگاری و تنظیم مجدد مغز توصیف کرد.
گزارش نیویورک تایمز نشان می‌دهد که وان حداقل ۱۵۸ بار در مورد کاهش مصرف دارو ابراز نگرانی کرده بود، اما پاسخ‌های چت‌بات اغلب اطمینان‌بخش و مثبت بود. در یکی از مکالمات، هنگامی که وان ابراز ترس کرد، ChatGPT به او گفت که هیچ دلیل نگرانی وجود ندارد.
آخرین پیام وان به ChatGPT در ساعت ۲۰:۰۱ روز ۱۱ فوریه ۲۰۲۶ به وقت منطقه اقیانوس آرام ارسال شد. او پرسید که آیا سردردی که دارد شبیه درد ناشی از تب است یا خیر.
چند لحظه بعد، چت‌بات به او اطمینان داد که این درد جای نگرانی ندارد و آن را بخشی طبیعی از فرآیند بهبودی توصیف کرد.
در آخرین پاسخ، ChatGPT حتی نموداری برای مقایسه درد ناشی از قطع دارو با درد ناشی از تب ارائه داد و به وان گفت که مغز او در حال تلاش برای بازسازی خویش است.
والدین وان، که در چین زندگی می‌کردند، با نگرانی درباره وضعیت دخترشان از دوستان خواستند به خانه‌اش مراجعه کنند. جسد او سه روز بعد پیدا شد.
آزمایش‌های پس از مرگ نشان داد که غلظت لاموتریژین در خون وان فقط ۰٫۶۴ میکروگرم در میلی‌لیتر بوده است؛ رقمی که معادل تقریباً یک‌پنجم پایین‌ترین حد قابل درمان این دارو است.
خانواده خواستار محدودیت سخت‌گیرانه‌تر توصیه‌های پزشکی هوش مصنوعی شدند
والدین وان معتقدند که OpenAI می‌توانست با وضع محدودیت‌های جدی‌تر در پذیرش توصیه‌های پزشکی ChatGPT، از وقوع این واقعه پیشگیری کند. آنها در دادخواست خود به سند Model Spec، چارچوب عمومی OpenAI برای شکل‌دهی رفتار مدل‌های هوش مصنوعی اشاره کرده‌اند.
به گفته شاکیان، این شرکت برای برخی موضوعات، مانند جلوگیری از بازتولید محتوای تحت حق نشر، محدودیت‌های مشخصی برقرار کرده است؛ اما در زمینه جلوگیری از ارائه توصیه‌های پزشکی تخصصی، این موضوع به عنوان یک دستورالعمل انعطاف‌پذیر تعریف شده است. خانواده وان بر این باورند که توصیه‌های مربوط به مصرف و قطع دارو نیز می‌بایست تابع محدودیت‌های سخت‌گیرانه و غیرقابل چشم‌پوشی باشد.
OpenAI در واکنش به این دعوی به نیویورک تایمز اعلام کرده است که این حادثه بسیار تأسف‌بار است، اما تأکید کرده است که پرونده مربوط به نسخه قدیمی‌تری از ChatGPT می‌باشد و مدل‌های جدیدتر توانایی بهتری در شناسایی شرایطی دارند که نیاز به واکنش فوری دارند.
وابستگی روزافزون به ChatGPT و فاصله گرفتن از خانواده
این پرونده در کنار خطرات مشاوره‌های پزشکی هوش مصنوعی، مسأله وابستگی عاطفی کاربران به چت‌بات‌ها را نیز مطرح کرده است. وان، که سال‌ها با بیماری صرع زندگی کرده و به دلیل مشکلات جسمی بیشتر زمان خود را در خانه می‌گذرانده، پیش از این ارتباط نزدیکی با والدینش داشت و مدام با آنان در ارتباط بود.
او از سال ۲۰۲۳ برای مشاوره در زمینه روابط شخصی، مسائل بیمه و مزایای از کارافتادگی به ChatGPT مراجعه کرده بود. اما با نزدیک شدن به سال ۲۰۲۵، میزان مبادلات او با این چت‌بات به‌طور میانگین به بیش از ۱۵۰۰ پیام در هفته افزایش یافت و در همین حال، تماس‌هایش با خانواده کاهش یافت.
وان در یکی از پیام‌های خود در ماه مارس اشاره کرده بود که گاهی ChatGPT را، بدون توجه به موضوع گفتگو، مثل یک دوست در نظر می‌گیرد.
پدر او، کوون وان، به نیویورک تایمز گفت که دخترش پس از شروع استفاده گسترده از ChatGPT، دیگر مانند سابق با خانواده صحبت نمی‌کرد. والدین همچنین در بررسی مکالمات دخترشان، بیان کردند که به‌سختی می‌توانستند رفتار او را با شخصیت که از او می‌شناختند، تطبیق دهند.
به گفته آنها، وان معمولاً تمامی مسائل زندگی‌اش را با خانواده درمیان می‌گذاشت و در برابر پاسخ‌های نادرست ChatGPT رویکرد انتقادی داشت.
مادرش، میکین شو، درباره تغییر رفتار دخترش اظهار کرد: «او معمولاً این‌طور نبود؛ به‌طرز عجیبی به نظر می‌رسید که تحت تأثیر قرار گرفته است.»
این شکایت در ادامه شکایات حقوقی دیگری علیه OpenAI مطرح شده است؛ از جمله دعوی والدین آدام رین، نوجوان ۱۶ ساله که در اوت ۲۰۲۵ این شرکت را به خاطر اولویت دادن به تعاملات کاربران به جای ایمنی آنها متهم کردند.
براساس گزارش‌های نیویورک تایمز و TechCrunch، خانواده وان معتقدند که رفتار تأییدی GPT-4o و دخالت آن در تصمیمات پزشکی، او را از دریافت مشاوره تخصصی صحیح دور کرده است. در عین حال، نقش قانونی OpenAI در مرگ او به بررسی‌های قضائی نیاز دارد و مستلزم اثبات در دادگاه است.
