آیا چت‌جی‌پی‌تی قابل اطمینان است؟
این نوع رفتار که به اصطلاح در دنیای هوش مصنوعی به آن «توهم» (Hallucination) گفته می‌شود، به وقوع‌هایی اشاره دارد که در آن‌ها مدل با اعتماد به نفس، پاسخ‌هایی نادرست، گمراه‌کننده یا کاملاً خیالی ارائه می‌دهد. نکته‌ای که بیشتر نگرانی را برمی‌انگیزد این است که آزمایش‌های داخلی شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، نشان می‌دهد که این مشکل رو به وخامت است.
نتایج این بررسی نشان می‌دهند که نسخه جی‌پی‌تی-۴او-مینی (GPT-4o-mini) در ۴۸ درصد از مواقع و نسخه او۳ (o3) در ۳۳ درصد مواقع به تولید اطلاعات نادرست پرداخته است، آن هم در پاسخ به سوالاتی که مبتنی بر داده‌های عمومی مطرح شده بودند. این آمار روندی نگران‌کننده را به تصویر می‌کشد: با افزایش توانایی‌های مدل‌ها در برقراری گفت‌وگو مشابه انسان، دروغ‌های آن‌ها نیز به طرز بیشتری متقاعدکننده به نظر می‌رسد.
زمانی که از چت‌جی‌پی‌تی در مورد علل این وضعیت پرسیده شد، به چهار دلیل اشاره کرد:
۱. طبیعی‌تر شدن گفتار: چت‌بات اکنون به طرز طبیعی‌تری به نظر می‌رسد و همین امر باعث می‌شود که خطاهای آن عمدی‌تر به نظر برسند تا تصادفی.
۲. باهوش‌تر اما نه همه‌چیزدان: هرچند که مدل نسبت به گذشته سریع‌تر و پاسخگوتر شده، اما هنوز با کمبودهایی در اطلاعات مواجه است و به‌صورت اطمینان‌بخش آن‌ها را پر می‌کند، حتی اگر نادرست باشند.
۳. کاهش استفاده از عبارات احتیاطی: نسخه‌های قبلی بیشتر از عبارات احتیاطی نظیر «ممکن است اشتباه کنم» استفاده می‌کردند. ولی نسخه‌های جدید این عبارات را برای افزایش روانی حذف کرده‌اند.
۴. تنظیمات پس‌زمینه و تعادل در آموزش: تغییراتی که در پس‌زمینه برای تنظیم مدل انجام می‌شود، ممکن است به تقویت بیش از حد ویژگی اعتماد به نفس منجر شده و دقت و تواضع را تحت تأثیر قرار دهد.
اما آیا می‌توان به این توضیحات چت‌جی‌پی‌تی اعتماد کرد؟ تلاش‌های توسعه‌دهندگان برای به تصویر کشیدن این فناوری به شکلی انسانی نشان می‌دهد که آن‌ها تمایل دارند ما چنین احساسی داشته باشیم.
منتقدان بر این باورند که زمانی که می‌گوییم هوش مصنوعی «دروغ می‌گوید»، در واقع تلاش داریم آن را انسان‌سازی کنیم، زیرا این سیستم‌ها هیچ‌گونه آگاهی ندارند؛ با این حال توسعه‌دهندگان در پی آن هستند که آن را به نحوی شبیه به ما معرفی کنند.
زمانی که اسکای نیوز در مورد دروغ‌گویی چت‌جی‌پی‌تی سؤالی مطرح کرد، این چت‌بات دوباره به طفره رفت و ابتدا ادعا کرد که وضعیت بهتر شده است، اما با اصرار کاربر برای بررسی آمار، پذیرفت که اوضاع بدتر گردیده است.
بدون شک هوش مصنوعی یک ابزار شگفت‌انگیز است، اما شاید هنوز زمان آن فرارسیده که به‌طور کامل به آن اعتماد کنیم.
