تحقیق استنفورد: ChatGPT و رباتهای اصلی ممکن است برای سلامت روان نوجوانان خطرآفرین باشند
این گزارش نواقص ساختاری وسیع در روش تعامل این رباتها با نوجوانان را به تصویر میکشد و تأکید میکند که به کارگیری آنها در درمان یا مشاوره روانی میتواند خطرات جدی به دنبال داشته باشد.
طبق اعلام ایتنا از Axios، اهمیت این موضوع زمانی نمایان میشود که درک کنیم نوجوانان و حتی بزرگسالان، به دلیل سهولت و دسترسی سریع به چتباتها روی میآورند؛ با این حال، متخصصان در مورد ایمنی این رویکرد اختلاف نظر دارند و خصوصاً در مورد نگرش والدین نسبت به استفاده از ChatGPT در تربیت فرزندان، بهطور کلی یادآور میشوند که هوش مصنوعی نمیتواند جانشین والدین شود.
مطالعهای که به همکاری آزمایشگاه Brainstorm از دانشگاه استنفورد در زمینه نوآوری در سلامت روان انجام شده، نشان میدهد که چتباتهای معترف مانند ChatGPT، Claude، Gemini و Meta AI نمیتوانند وضعیت روانی نوجوانان را بهدرستی تشخیص دهند یا به صورت مؤثر پاسخ دهند.
متخصصان تأکید میکنند که این رباتها به طور اساسی برای نقش درمانگر طراحی نشدهاند.
نتایج مطالعه نشان میدهد که چتباتها به نشانههای هشداردهنده مهم توجهی ندارند و نوجوانان را به سمت دریافت کمکهای حرفهای فوری هدایت نمیکنند. پاسخهای آنها به طور عمده بر جنبههای جسمانی تمرکز دارد تا روانی، و «به سادگی حواسشان پرت میشود.»
چتباتها به دلیل کارایی در انجام وظایف و ابزارهای کارآمد، در نوجوانان و والدین حس اعتماد کاذب ایجاد میکنند و این تصوری نادرست به وجود میآورد که این رباتها در درمان نیز اثرگذار هستند.
این گزارش همچنین تأیید میکند که دهها میلیون مکالمه مربوط به سلامت روان میان نوجوانان و چتباتها در جریان است.
چتباتها همچنین به یکی از تازهترین محورهای پروندههای حقوقی و ایمنی آنلاین برای کودکان تبدیل شدهاند.
شرکتهای OpenAI، مایکروسافت، Character.AI و گوگل با دعاوی حقوقی روبهرو هستند که ادعا میکند چتباتهای آنها در زمینه خودکشی یا آسیبهای روانی نوجوانان نقش داشتهاند. این شرکتها اقداماتی برای تأمین ایمنی نوجوانان اتخاذ کردهاند، اما کارشناسان بر این باورند که هنوز در جلب رضایت والدین و حامیان حقوق کودک ناکام ماندهاند.
به گفته متخصصان، حتی اگر چتباتها به طور مستقیم آسیبی نرسانند، ممکن است تشخیص یا تلاش برای حل بحرانهای موجود در نوجوانان را به تأخیر بیندازند.
