بازآموزی هوش مصنوعی «متا» به منظور بهبود ارتباطات با نوجوانان
براساس گزارش انگجت، این شرکت اعلام کرده است که در حال نصب «حفاظتهای جدید و اضافی» برای جلوگیری از مکالمات نوجوانان با هوش مصنوعی متا در موضوعات مضر است.
علاوه بر این، «متا» همچنین اقدام به مسدود کردن دسترسی نوجوانان به شخصیتهای چتبات تولید شده توسط کاربران خواهد کرد که ممکن است در محتوای نامناسب شرکت کنند.
این تغییرات پس از آن اعمال میشود که گزارشهای متعدد، نبود نظارت کافی بر تعاملات ناخوشایند بین «Meta AI» و نوجوانان را مورد اشاره قرار دادهاند. خبرگزاری رویترز نیز در ماه جاری گزارشی در خصوص یک سند داخلی از متا منتشر کرد که بیان کرده بود چتباتهای هوش مصنوعی این شرکت اجازه دارند با کاربران زیر سن قانونی درباره موضوعات جنسی گفتگو کنند. بهدنبال این گزارش، متا اعلام کرد که این سند نادرست بوده و با سیاستهای رسمیاش مغایرت دارد و در نتیجه حذف شده است. همچنین، روز گذشته، «واشنگتن پست» از تحقیقی خبر داد که نشان میداد هوش مصنوعی «متا» میتواند نوجوانان را درباره مسائلی از قبیل خودکشی و خودآزاری آموزش دهد.
برای جلوگیری از این نوع تعاملات در پلتفرمهای اینستاگرام و فیسبوک، «متا» در حال تقویت تدابیر حفاظتی خود است.
استفانی اوتوی(Stephanie Otway) سخنگوی متا در یک اعلامیه اشاره کرد که از ابتدا، این شرکت اقدام به ایجاد تدابیری از جمله طراحی پاسخهای ایمن به پیامهای مربوط به خودآزاری و خودکشی در مورد نوجوانان در محصولات هوش مصنوعی خود نموده است.
وی افزود: با رشد جامعه ما و پیشرفت فناوری، بهطور مداوم در حال یادگیری درباره نوع تعامل جوانان با این ابزارها هستیم و بر این اساس، تدابیر حفاظتی خود را تقویت میکنیم. در راستای ادامه اصلاح سیستمهایمان، به عنوان یک اقدام احتیاطی اضافی، ما تدابیر بیشتری شامل بازآموزی هوش مصنوعی خود برای جلوگیری از گفتگو با نوجوانان درباره این موضوعات و هدایت آنان به منابع تخصصی در نظر میگیریم و همچنین دسترسی نوجوانان به شخصیتهای منتخب هوش مصنوعی را محدود خواهیم کرد.
نکتهای قابل ذکر این است که این تدابیر حفاظتی جدید بهطور موقت برقرار هستند، چرا که به نظر میرسد «متا» هنوز در حال کار بر روی راهکارهای دائمیتر برای مواجهه با نگرانیهای افزایشیافته در خصوص ایمنی نوجوانان در تعامل با هوش مصنوعی خود میباشد.
اوتوی اظهار داشت: این بهروزرسانیها در حال اجرا هستند و ما همچنان به تطبیق رویکرد خود ادامه خواهیم داد تا اطمینان حاصل کنیم که نوجوانان با تجربیات ایمن و مطابق با سن خود از هوش مصنوعی بهرهمند شوند. این تدابیر جدید در چند هفته آینده پیادهسازی خواهند شد و برای تمام کاربران نوجوان استفادهکننده از هوش مصنوعی «متا» در کشورهای انگلیسیزبان قابل اجرا خواهد بود.
سیاستهای «متا» همچنین توجه قانونگذاران و مقامات مختلف را جلب کرده است، به گونهای که سناتور جاش هاولی(Josh Hawley) به تازگی بیان کرده که قصد دارد تحقیقی در مورد نحوه مدیریت این تعاملات آغاز کند. همچنین، کن پکستون(Ken Paxton)، دادستان کل ایالت تگزاس نیز اظهار کرده است که میخواهد «متا» را به دلیل ادعای گمراه کردن کودکان در ارتباط با مسائل مربوط به سلامت روان که توسط چتباتهای آن مطرح میشود، تحت بررسی قرار دهد.
