ماشینهای غیردقیق: شیوههای سانسور و تحقیر کاربران ایرانی توسط هوش مصنوعی چگونه است
تحقیر، تمسخر و سانسور هدفمند علمی
مهمترین جنبه این پژوهش (حداقل برای ما ایرانیها) عدم تقارن آشکار در «امتناع از پاسخ» بود. بهعنوان مثال، هوش مصنوعی کلود در برابر تقریباً ۱۱ درصد از پرسشهای کاربران غیرانگلیسیزبان با تحصیلات پایین، از ارائه پاسخ خودداری کرد؛ در حالی که این نسبت برای کاربرانی که بیوگرافی خاصی نداشتند، فقط ۳.۶ درصد گزارش شده است.
تحلیل دقیق پاسخهای رد شده نشان داد که در ۴۳.۷ درصد موارد، کلود با این دسته از کاربران به زبانی «تحقیرآمیز، قیممآبانه یا تمسخرآمیز» صحبت کرده است. در برخی مواقع، این مدل به تقلید از زبان انگلیسی مبتدی و یا استفاده از لهجههای اغراقآمیز پرداخته تا به تمسخر کاربر بپردازد.
علاوه بر این، این مدل از ارائه اطلاعات پیرامون موضوعات خاصی همچون انرژی هستهای، آناتومی بدن و رخدادهای تاریخی به کاربران ایرانی و روسی با تحصیلات کمتر پرهیز کرد، در حالی که همان پرسشها برای سایر کاربران به درستی پاسخ داده شده بود.
آینه تمامنمای تعصبات انسانی
این نتایج نمایانگر تعصبات شناختی-اجتماعی بشر است. تحقیقات پیشین در زمینه علوم اجتماعی نشان داده که بومیزبانهای انگلیسی بسیاری از غیربومیها را (صرفنظر از تخصص واقعیشان) از نظر هوش، تحصیلات و شایستگی در سطح پایینتری ارزیابی میکنند. حال، بررسیهای جدید به نظر میرسد که این تعصبات حتی به سامانههای هوش مصنوعی نیز سرایت کرده باشد. دب روی، استاد دانشگاه MIT و سرپرست CCC، در این رابطه هشدار میدهد:
ضروری است که در کنار استفاده روزافزون و سرمایهگذاریهای کلان در این فناوری، ارزیابی مداوم سوگیریهای سیستماتیک را فراموش نکنیم؛ سوگیریهایی که به آرامی به این سیستمها راه پیدا کرده و ممکن است به گروههای خاصی آسیبهای ناعادلانهای وارد کند.
– دب روی، استاد دانشگاه MIT
زنگ خطر شخصیسازی؛ روی تاریک «حافظه» در چتجیپیتی
اهمیت این گزارش در این است که ویژگیهای شخصیسازی، از جمله قابلیت «حافظه» در ChatGPT (که اطلاعات کاربران را در طی مکالمات متوالی ذخیره میکند)، به طور فزایندهای در حال گسترش است. این ویژگیها احتمال بروز رفتار تبعیضآمیز و تشدید نابرابریها در برخورد با گروههای حاشیهای را به شدت افزایش میدهد.
پول-دایان در خاتمه این پژوهش بیان میکند: «هوش مصنوعی بهعنوان ابزاری برای یادگیری شخصی و دستیابی برابر به اطلاعات معرفی شده، اما یافتههای ما نشان میدهد که این ابزار ممکن است با ارائه نادرست اطلاعات به صورت سیستماتیک یا اجتناب از پاسخ به کاربران خاص، نابرابریهای موجود را شدت بخشد. کسانی که بیشترین نیازمندی به این ابزارها دارند، ممکن است با بیکیفیتترین، اشتباهترین و حتی خطرناکترین اطلاعات روبرو شوند.»
