چت‌بات‌ها به زودی قادر به تخمین سن شما خواهند بود: دوران نوین رصد هوش مصنوعی

OpenAI و آنتروپیک در حال ایجاد روش‌های نوین برای شناسایی کاربران زیر سن قانونی هستند. در حالی که OpenAI پروتکل‌های مربوط به تعامل ChatGPT با کاربران ۱۳ تا ۱۷ ساله را اصلاح کرده، آنتروپیک بر روی استراتژی جدیدی برای شناسایی و مسدودسازی کاربران زیر ۱۸ سال تمرکز دارد.

OpenAI اعلام داشته که Model Spec یا دستورالعمل‌های رفتاری چت‌بات شامل چهار اصل تازه برای کاربران زیر ۱۸ سال است. حالا هدف اصلی این است که ChatGPT «نوجوانان را در اولویت قرار دهد و حتی اگر این موضوع ممکن است با دیگر اهداف تناقض داشته باشد.» به عبارتی، زمانی که منافع دیگر کاربر نظیر «آزادی فکری حداکثری» به نگرانی‌های ایمنی برخورد کند، هوش مصنوعی باید نوجوانان را به سمت گزینه‌های ایمن‌تری هدایت نماید.

علاوه بر این، تأکید شده که ChatGPT باید با ترویج ارتباطات آفلاین، به‌عنوان «حامی ارتباطات دنیای واقعی» عمل کند و انتظارات واضحی را در هنگام تعامل با کاربران کم‌سن‌وسال تعیین نماید. بر اساس دستورالعمل‌های نوین، چت‌بات باید با ارائه‌ی «گرمی و احترام» به‌جای پاسخ‌های تحقیرآمیز یا رفتار با نوجوانان مشابه بزرگسالان، با «نوجوانان مانند نوجوانان رفتار کند.»

OpenAI در حال حاضر با شکایت‌هایی مواجه شده است که ادعا می‌کند ChatGPT به یک نوجوان که اقدام به خودکشی کرده، دستورالعمل‌هایی برای آسیب‌رساندن داده است. این شرکت پس از این وقایع، کنترل‌های ویژه‌ای برای والدین عرضه و اعلام کرد که چت‌بات دیگر درباره‌ی خودکشی با نوجوانان بحث نخواهد کرد. این اقدامات بخشی از فشارهای وسیع‌تر برای تنظیم قوانین آنلاین بوده که شامل احراز هویت سنی اجباری برای برخی خدمات می‌شود.

بر اساس اظهارات OpenAI، به‌روز رسانی مشخصات مدل منجر به ایجاد «حفاظ‌های ایمن‌تر، گزینه‌های مناسب‌تر و تشویق به جست‌وجوی حمایت‌های آفلاین مطمئن در زمان‌های بحرانی» خواهد شد. چت‌بات در صورت بروز «خطر قریب‌الوقوع»، نوجوانان را به تماس با اورژانس ترغیب می‌کند.

همزمان با این تغییرات، خالق ChatGPT اعلام کرده است که در «مراحل ابتدایی» راه‌اندازی مدل تشخیص سن به سر می‌برد. در صورتی که سیستم تشخیص دهد کاربر به احتمال زیاد زیر ۱۸ سال است، به‌طور خودکار محافظ‌های ویژه نوجوانان فعال می‌شود. البته بزرگسالانی که به‌طور نادرست شناسایی شوند، این امکان را دارند که هویت خود را تأیید کنند.

در سوی دیگر، آنتروپیک که به‌طور کلی به کاربران زیر ۱۸ سال اجازه گفتگو با مدل Claude را نمی‌دهد، در حال توسعه تدابیری برای شناسایی و غیرفعال‌سازی حساب‌های کاربران زیر سن قانونی است. این شرکت به دنبال ایجاد سیستمی است که قابلیت تشخیص «نشانه‌های ملایم مکالمه‌ای دال بر سن پایین کاربر» را دارد و به گفته‌ی آن‌ها، در حال حاضر کاربرانی که در چت خود را زیر سن قانونی معرفی می‌کنند، شناسایی می‌شوند.

آنتروپیک همچنین به توضیح روش‌های آموزش مدل Claude در پاسخ به درخواست‌های مربوط به خودکشی و خودآزاری و پیشرفت‌هایش در کاهش «تملق» یا تأیید افراطی که ممکن است به تضعیف تفکر سالم منجر شود، می‌پردازد.

آنتروپیک اعلام کرده که جدیدترین مدل‌هایش «کمترین میزان تملق را در تاریخ خود ارائه می‌دهد» و مدل Haiku 4.5 با اصلاح برخورد چاپلوسانه در ۳۷ درصد از موارد، بهترین نتایج را کسب کرده است.

آنتروپیک اذعان دارد: «در نگاه اول، این ارزیابی نشان می‌دهد که هنوز فضای زیادی برای بهبود در مدل‌های ما وجود دارد. ما معتقدیم این نتایج نمایانگر سازش میان گرمی یا دوستانه بودن مدل و تملق آن است.»