دلایل چاپلوس بودن هوش مصنوعی چیست؟

چت‌بات‌های هوش مصنوعی چگونه هنگام پاسخ به سؤالات شما عمل می‌کنند؟

کارشناسان بر این باورند که این ابزارها عمدتاً سعی دارند رضایت کاربران را جلب کنند، به این معنا که پاسخ‌ها را براساس دیدگاه‌های افراد تطبیق می‌دهند و این موضوع می‌تواند نارضایتی‌هایی به دنبال داشته باشد.

اگرچه پاسخ‌های قابل قبول اکثر چت‌بات‌های هوش مصنوعی در ابتدا جذاب به نظر می‌رسند، اما در درازمدت این مسئله به عاملی آزاردهنده تبدیل خواهد شد و کارشناسان هشدار می‌دهند که این ویژگی ممکن است مشکلات جدی به وجود آورد.

برخی از صاحب‌نظران به تمایل این مدل‌های هوش مصنوعی در تنظیم پاسخ‌های خود با نظر کاربران، اصطلاح «چاپلوسی» اطلاق می‌کنند که می‌تواند باعث اولویت دادن به خوشایندی بر دقت در ChatGPT و دیگر ربات‌ها شود.

به نقل از ایتنا، در ماه آوریل و پس از شکایات متعدد کاربران مبنی بر اینکه ChatGPT بیش از حد چاپلوس است، شرکت OpenAI تصمیم به لغو به‌روزرسانی‌های این چت‌بات گرفت.

در این راستا، سم آلتمن، مدیر عامل شرکت، در شبکه X اعتراف کرد که: ChatGPT به شدت بی‌مزه است!

کاربران درباره این موضوع گزارشات متعددی از تعریف‌های اغراق‌آمیز ChatGPT ارائه کردند که به آن‌ها می‌گفت: شما بسیار باهوش و فوق‌العاده هستید!

در موارد غیرمتعارف‌تر، این ربات به کاربرانی که اعلام کرده بودند مصرف داروهای خود را قطع کرده‌اند، با جملاتی مانند «من به شما بسیار افتخار می‌کنم» تشویق کرده بود.

پس از این انتقادها، شرکت OpenAI به سرعت به‌روزرسانی‌هایی را که مسئول این رفتار اعلام شده بودند، لغو کرد و اذعان داشت که چنین رفتار محبوبی می‌تواند نگرانی‌هایی برای سلامت روان کاربران به وجود آورد.

علاوه بر این، مدیر بخش مدل‌سازی رفتار در OpenAI اعلام کرده است که این شرکت به بررسی روش‌هایی برای ارزیابی میزان و کیفیت چاپلوسی چت‌بات خویش می‌پردازد.

از سوی دیگر، یک مطالعه انجام شده توسط پژوهشگران آنتروپیک نشان می‌دهد که بازخوردهای انسانی گاهی می‌تواند موجب تشویق رفتار چاپلوسانه گردد و دستیاران هوش مصنوعی به هنگام پاسخ به سؤالات کاربران، گاهی پاسخ‌های صحیح را تغییر داده و در نهایت جواب نادرستی ارائه می‌دهند.

این چت‌بات‌ها حتی گاهی در پذیرش اشتباهات خود، بدون اینکه واقعاً خطایی مرتکب شده باشند، تمایل دارند!

چرا چت‌بات‌ها به خوشایند کاربران توجه ویژه‌ای دارند؟

کالب اسپونهایم، متخصص هوش مصنوعی، بیان می‌کند: «مدل‌های زبانی بزرگ که بر پایه داده‌های وسیع آموزش دیده‌اند، به منظور تولید متن‌های روان و قابل فهم طراحی شده‌اند. اما این مدل‌ها به یاد نگرفته‌اند که نتایج خروجی باید با واقعیت تطابق داشته باشد؛ بلکه این سیستم‌ها پاسخ‌هایی ایسرده می‌سازند که مورد توجه انسان‌ها قرار گرفته و بازخورد مثبت دریافت می‌کنند که به منزله یک «پاداش» عمل می‌کند.»

به گفته وی: «برای پاداش‌هایی که این مدل‌ها دریافت می‌کنند هیچ حد و مرزی وجود ندارد. این به ما بستگی دارد که مشخص کنیم این پاداش‌ها چه می‌باشند و چه زمانی باید در مسیر دستیابی به این پاداش‌ها توقف کنیم.»

جولیا فریلند فیشر، پژوهشگر، نیز تأکید می‌کند که سازندگان هوش مصنوعی به درخواست‌های کاربران پاسخ می‌دهند.

او خاطرنشان می‌سازد: در دنیایی که افراد دائماً در خطر قضاوت در بستر آنلاین قرار دارند، تعجبی ندارد که تمایل به چاپلوسی و احساس کمی امنیت روانی با یک ربات وجود داشته باشد.

او همچنین اشاره کرد که «انسان‌انگاری» هوش مصنوعی – انتساب ویژگی‌های انسانی به موجودات غیرانسانی – معضلی را به وجود می‌آورد که OpenAI آن را در ارزیابی‌های GPT-4o خود به تصویر کشیده است.

وی بیان کرد: «هر چه هوش مصنوعی شخصی‌تر باشد، تجربه کاربری نیز جذاب‌تر خواهد شد، ولی به همان اندازه خطر وابستگی بیش از حد و ایجاد پیوند عاطفی نیز افزایش می‌یابد.»

لوک لافرنیِر، استادیار روانشناسی، به طور انتقادی اذعان کرد که رفتار چاپلوسانه می‌تواند درک کاربران از «همدلی» چت‌بات را تضعیف کند. به گفته او: «هر عاملی که به نوعی بیان کند، “سلام، من یک ربات هستم، من یک انسان نیستم”، این تصور را از بین می‌برد و امکان بهره‌مندی افراد از همدلی را مختل می‌کند.»

لافرنیِر همچنین افزود: «دقیقاً مانند آنچه که رسانه‌های اجتماعی می‌توانند به یک اتاق پژواک تبدیل شوند، هوش مصنوعی نیز می‌تواند یک فضای پژواک از افکار را به وجود آورد.»

گزارشی از مارک زائو-سندرز، یکی از بنیانگذاران Filtered.com که در مجله Harvard Business Review منتشر شده، نشان می‌دهد که درمان و همراهی، عمده‌ترین کاربردهای هوش مصنوعی تولیدی در سال 2025 خواهد بود.

کارشناسان بر این باورند که هرچند تأیید و تقویت باورهای کاربران—به‌ویژه در شرایطی که این باورها ممکن است نادرست باشند—به طور عمده مشکل‌ساز است، برای بیمارانی که در مواقع بحرانی به دنبال تأیید اقدامات خود هستند، این مسئله می‌تواند به شدت خطرناک باشد.

این مهم است که اذعان داشته باشیم که «هوش مصنوعی ابزاری است که با هدف برآورده کردن نیازهای ابراز شده توسط کاربر طراحی شده است» و «انسان‌ها ابزارهایی برای ارضای نیازهای کاربران نیستند.»