محدودیت‌های تازه ChatGPT برای پیشگیری از رفتارهای خشونت‌آمیز در میان نوجوانان
اوپن‌ای‌آی جهت جلوگیری از بروز خشونت در دنیای واقعی، قوانین جدیدی در ارائه اطلاعات مرتبط با سلاح به نوجوانان در ChatGPT اعمال کرده است. طبق این تغییرات، حتی اگر پرسش کاربر به طور ظاهری بی‌خطر باشد، ارائه‌ی این نوع اطلاعات محدود خواهد بود.
سازنده‌ی چت‌جی‌پی‌تی به منظور کاهش خطرات موجود برای کاربران جوان و تقویت نظارت بر رفتارهای خشونت‌آمیز، سامانه‌های هوشمند خویش را به‌روزرسانی می‌کند. به موجب این تصمیم، اطلاعات مربوط به تسلیحات و سیستم‌های امنیتی که ممکن است مورد سوءاستفاده قرار گیرند، برای کاربران زیر ۱۸ سال مسدود خواهد شد؛ حتی در مواقعتی که هیچ نشانه‌ای از قصد خشونت‌آمیز در گفتگو وجود نداشته باشد.
قابلیت خاتمه خودکار گفتگوها برای تمامی کاربران فعال خواهد شد، به‌طوری‌که در صورت اصرار کاربر بر موضوعات خشن، ارتباط وی قطع می‌گردد. همچنین، در صورت تکرار این نوع مکالمات، حساب‌های کاربری که تخلف کرده‌اند به طور موقت معلق خواهند شد. چت‌جی‌پی‌تی به علاوه، اطلاعات مربوط به حملات گروهی گذشته نظیر نوع سلاح‌های به کار رفته و روش‌های دسترسی به آن‌ها را برای عموم کاربران محدود خواهد کرد.
سازمان غیرانتفاعی کامن سنس مدیا پیش‌تر در گزارشی به این موضوع اشاره کرده بود که نسخه‌ی ویژه‌ی نوجوانان چت‌جی‌پی‌تی در مواردی همچون خودکشی، خودآزاری یا اختلالات غذایی، هشدارها را با تأخیر زیاد یا حتی در برخی موارد، ارسال نمی‌کند.
اکنون اوپن‌ای‌آی سیستم تخمین سن خود را بهبود بخشیده است تا افرادی که زیر ۱۸ سال سن دارند به طور خودکار به محیطی امن و محافظت‌شده هدایت شوند و در صورتی که حساب نوجوان به علت رفتارهای خشونت‌آمیز معلق گردد، والدین از این موضوع مطلع شوند. این تدابیر حفاظتی جدید در هفته‌های آینده برای عموم کاربران در دسترس خواهد بود.
