متا، ۹۰ درصد از ارزیابی ریسک محصولات خود را به سیستم‌های هوش مصنوعی واگذار کرده است

به نقل از گزارشی از NPR، متا، که مالکیت اینستاگرام و واتس‌اپ را بر عهده دارد، تصمیم دارد تقریباً ۹۰ درصد از فرآیند ارزیابی ریسک محصولات جدید خود را از شیوه‌های انسانی به هوش مصنوعی منتقل کند.

بر اساس گزارش ایتنا و به استناد انگجت، این نوع ارزیابی شامل شناسایی خطرات بالقوه محصولات نظیر محتواهای خشونت‌آمیز، اطلاعات اشتباه و مسائل مربوط به نوجوانان می‌شود. هدف از این تغییر، تسریع در روند تصمیم‌گیری‌ها و کاهش هزینه‌ها است.

در گذشته، ویژگی‌های جدید توسعه‌یافته برای پلتفرم‌های متا پیش از انتشار تحت بررسی کارشناسان انسانی قرار می‌گرفتند تا از وقوع تاثیرات منفی احتمالی جلوگیری شود. اما در حال حاضر، تیم‌های توسعه محصول ملزم به تکمیل پرسشنامه‌ای درباره ویژگی‌های جدید هستند و این پرسشنامه به سیستم هوش مصنوعی ارسال می‌شود. این سیستم به سرعت تصمیمی اتخاذ کرده و حوزه‌های پرخطر را شناسایی کرده و اصلاحات لازم را پیشنهاد می‌دهد.

با این حال، برخی از کارکنان سابق و فعلی متا که با NPR به گفتگو پرداخته‌اند، نسبت به این تصمیم هشدار داده‌اند و معتقدند که این رویکرد ممکن است منجر به نادیده گرفتن خطرات مهمی شود که یک تیم انسانی قادر به شناسایی آنهاست. یکی از مدیران سابق متا نیز تأکید کرده است که کاهش نظارت انسانی می‌تواند احتمال وقوع پیامدهای منفی را افزایش دهد.

 

در پاسخ به این گزارش، متا اعلام کرده است که هنوز هم از «تخصص‌های انسانی» برای بررسی موضوعات «جدید و پیچیده» بهره خواهد برد و تنها تصمیمات «کم‌ریسک» را به سیستم هوش مصنوعی واگذار خواهد کرد.

این خبر چند روز پس از انتشار گزارش فصلی تازۀ متا درباره سیاست‌های نظارتی آن منتشر شده است. پس از اصلاحات در سیاست‌های تعدیل محتوا و راستی‌آزمایی، نرخ حذف محتوا کاهش یافته، ولی همزمان موارد آزار و اذیت و محتوای خشونت‌آمیز و گرافیکی افزایش یافته‌اند.