OpenAI: جوانان به طور روزانه کمتر از ۱۵ دقیقه با ChatGPT ارتباط برقرار می‌کنند
با افزایش کاربرد هوش مصنوعی در زمینه‌های آموزشی و فعالیت‌های روزمره، شرکت‌های توسعه‌دهنده این فناوری با چالشی اساسی مواجه هستند: چه تدابیری می‌تواند قابلیت‌های آموزشی و کاربردی چت‌بات‌ها را برای نوجوانان فراهم آورد و در عین حال خطرات احتمالی مرتبط با استفاده از آن‌ها را به حداقل برساند؟
ابزارهای اختصاصی برای نوجوانان در استفاده از ChatGPT
OpenAI در اوت ماه گذشته، آزمایش یک نسخه ویژه از ChatGPT را برای نوجوانان آغاز نمود. این نسخه به‌منظور تقویت ایمنی کاربران جوان به اقدامات حفاظتی ریزبینانه‌تری در برابر محتوای حساس مجهز گردیده و در کنار آن، امکانات آموزشی متنوعی را نیز در اختیار آنان قرار می‌دهد.
در میان این امکانات، حالت مطالعه قرار دارد که به‌جای ارائه پاسخ مستقیم، راهنمایی‌های گام‌به‌گام برای یادگیری را در اختیار کاربر می‌گذارد. علاوه بر این، قابلیت ایجاد فلش‌کارت‌های یادآوری، طراحی آزمون و کمک به برنامه‌ریزی جهت اقدام برای پذیرش در دانشگاه از دیگر ویژگی‌های آموزشی این ابزارها به‌شمار می‌روند.
کسی دیگر از قابلیت‌های طراحی‌شده برای نوجوانان، ارسال یادآوری به‌منظور استراحت در جریان استفاده طولانی‌مدت از چت‌بات است. بر اساس گزارش OpenAI، تقریباً نیمی از مکالماتی که در آن‌ها یادآوری استراحت نشان داده شده، ظرف پنج دقیقه پس از آن خاتمه یافته یا متوقف شده‌اند.
این آمار نشان‌دهنده این است که یادآوری‌های کوتاه ممکن است در شرایط خاصی باعث متوقف‌سازی استفاده از چت‌بات شوند؛ ولی به‌تنهایی نمی‌توان استنباط کرد که این قابلیت در بلندمدت منجر به کاهش استفاده مفرط یا بهبود شرایط روانی نوجوانان خواهد شد.
نظارت والدین و هشدار در مواقع پرخطر
OpenAI همچنین ابزارهایی را برای نظارت والدین طراحی کرده است که به خانواده‌ها اجازه می‌دهد حساب کاربری نوجوانان را به حساب خود متصل نمایند و برخی تنظیمات مربوط به استفاده از خدمات را مدیریت کنند.
این مکانیسم‌ها با هدف تقویت نظارت والدین و شناسایی موقعیت‌های بحرانی طراحی شده‌اند. از جمله علائم مد نظر، نشانه‌های خودآزاری، افکار خودکشی و اختلالات تغذیه‌ای هستند؛ موضوعاتی که در بحث ایمنی چت‌بات‌های هوش مصنوعی برای کاربران جوان اهمیت ویژه‌ای دارند.
با این وجود، وجود ابزارهای حفاظتی به معنای عملکرد بی‌نقص آن‌ها نیست. کارآیی این قابلیت‌ها به چگونگی شناسایی موقعیت‌های خطرناک، زمان‌بندی ارسال هشدارها و شرایط فعلی فعال شدن تنظیمات حساب کاربری وابسته است.
انتقادهای Common Sense Media از تدابیر حفاظتی
در مقابل، مؤسسه Common Sense Media نسبت به برخی ابعاد عملکرد این تدابیر انتقاد کرده است. این نهاد پس از مرور بیش از چهار هزار مورد آزمایشی، کارایی برخی از سازوکارهای حفاظتی را مورد سوال قرار داده و اعلام کرده است که تمامی قابلیت‌ها در شرایط عادی به‌درستی عمل نکرده‌اند.
بر اساس دستاوردهای موجود در این ارزیابی، در برخی موارد مرتبط با نشانه‌های خودکشی، خودآزاری و اختلالات تغذیه‌ای، هشدارهای لازم به والدین ارسال نشده است. همچنین، برخی از امکانات آموزشی ممکن است در شرایط خاص، از جمله هنگام آزمایش‌ها، به شیوه‌ای مغایر با انتظار عمل کنند.
این انتقادات بر یکی از چالش‌های اساسی طراحی چت‌بات‌های هوش مصنوعی تاکید دارند: سیستم باید قادر باشد میان گفتگوهای عادی، درخواست‌های آموزشی و نشانه‌های بحران تمایز قائل شود؛ امری که در تمام مواقع آسان نیست.
پاسخ OpenAI به انتقادات
OpenAI در پاسخ به انتقادات مطرح‌شده، توضیح داده است که برخی از آزمایش‌ها ممکن است عملکرد واقعی ابزارهای حفاظتی را در شرایطی که این قابلیت‌ها فعال هستند، به‌طور کامل بازتاب ندهد.
این شرکت همچنین اشاره کرده که پس از اتصال حساب کاربری نوجوان به حساب والدین، ممکن است چند ساعت زمان ببرد تا برخی هشدارها فراهم شوند. این تأخیر می‌تواند در ارزیابی کارکرد سیستم‌های نظارتی از اهمیت خاصی برخوردار باشد، به‌ویژه زمانی که موضوع شناسایی موقعیت‌های حساس مطرح می‌شود.
طبق گزارش ایتنا، آمار مرتبط با زمان استفاده نوجوانان از ChatGPT، به همراه اختلاف‌نظرها درخصوص کارآیی ابزارهای حفاظتی، نشان می‌دهد که ارزیابی ایمنی هوش مصنوعی تنها با نگاهی به میزان استفاده کاربران امکان‌پذیر نیست. بررسی کیفیت پاسخ‌ها، عملکرد سیستم‌های شناسایی خطر و میزان اثربخشی ابزارهای نظارت والدین نیز در این ارزیابی از اهمیت بالایی برخوردار است.
در نهایت، چالش OpenAI تنها به توسعه قابلیت‌های آموزشی محدود نمی‌شود؛ این شرکت باید نشان دهد که ابزارهای حفاظتی آن در مواقع حساس تا چه اندازه مورد اعتماد هستند. با گسترش حضور هوش مصنوعی در زندگی نوجوانان، ارزیابی مستقل از عملکرد این ابزارها و شفافیت نسبت به محدودیت‌های آن‌ها می‌تواند برای خانواده‌ها، مدارس و سیاست‌گذاران حائز اهمیت بیشتری باشد.
