پژوهشگران هشدار می‌دهند: خلاصه‌های هوش مصنوعی ممکن است بر روی خاطرات شما تأثیر بگذارند
پژوهش تازه‌ای نمایانگر این نکته است که سیستم‌های هوش مصنوعی نه‌تنها به‌طور معمول اطلاعات ارائه شده را به‌نحو نادرستی خلاصه می‌کنند، بلکه این خطاهای موجود می‌توانند افراد را تحت تأثیر قرار دهند و باعث شوند که اطلاعات غلطی را در ذهن داشته باشند.
این پژوهش در شرایطی صورت گرفت که استفاده از متون خلاصه‌شده توسط هوش مصنوعی به‌طور فزاینده‌ای در زمینه‌های مختلف، از جمله یادداشت‌های جلسات تا موارد حساس مانند تحلیل تصاویر مربوط به پلیس رواج یافته است. پژوهشگران از مرکز پزشکی دانشگاه جورج‌تاون بررسی کردند که چگونه این متون خلاصه‌شده می‌توانند درک افراد از واقعیت را دچار تغییر سازند.
در مرحله اول، پژوهشگران به بررسی این موضوع پرداختند که سیستم‌های هوش مصنوعی در تجزیه و تحلیل و خلاصه‌سازی اطلاعات چقدر مؤثر عمل می‌کنند و متوجه شدند که این سیستم‌ها بارها اطلاعات نادرست تولید کرده‌اند. یکی از شایع‌ترین خطاها این بود که متون خلاصه‌شده بسیاری از جزئیات کلیدی را که باید گنجانده می‌شد، کنار گذاشته و در پژوهشی مشخص کردند که این سامانه‌ها به‌طور متوسط ۵۱.۶ درصد از اطلاعات مهم را حذف می‌کنند.
سپس آن‌ها به مطالعه این پرداختند که چگونه متون خلاصه‌شده ممکن است بر حافظه و نحوه درک افرادی که به آن‌ها اعتماد می‌کنند تأثیر بگذارد. در نتایج به‌دست‌آمده، مشخص شد که در صورتی که به شرکت‌کنندگان متنی خلاصه‌شده از سوی هوش مصنوعی نمایش داده شود که به‌طور گمراه‌کننده‌ای رویدادهای حادثه‌ای را (که قبلاً خودشان مشاهده کرده بودند) توصیف کند، آن‌ها قادر به یادآوری درست این رویدادها نخواهند بود.
پژوهشگران دریافتند که این موضوع مستقل از این‌که افراد تصور می‌کردند متن مذکور توسط هوش مصنوعی یا یک انسان نوشته شده، به‌طور یکسان اتفاق می‌افتد و به نظر نمی‌رسد که اعتماد یا آشنایی فرد با هوش مصنوعی تأثیری در این قضیه داشته باشد.
در این مطالعه، ۳۳۱ شرکت‌کننده به تماشای یک ویدیو انیمیشنی نشسته‌اند که حرکت یک خودرو به سمت یک تقاطع را نشان می‌دهد. در این تقاطع، تابلویی وجود داشت که به راننده دستور می‌داد که یا توقف کند یا به حرکت ادامه دهد. سپس خودرو از تقاطع عبور کرده و با عابری که در حال عبور از خیابان است تصادف می‌کند.
پس از آن، پژوهشگران ۲۴ تا ۴۸ ساعت زمان صبر کردند و متنی خلاصه‌شده تولیدشده توسط هوش مصنوعی را به این شرکت‌کنندگان ارائه دادند که یا درست بود یا حاوی اطلاعات نادرست بود. سپس از آن‌ها خواسته شد تا رویداد را بازسازی کرده و مشخص کنند چه کسی مقصر است؛ اما نتایج نشان دادند افرادی که متن گمراه‌کننده هوش مصنوعی را مطالعه کرده بودند، به‌طور قابل توجهی کمتر قادر به یادآوری صحیح آن رویداد بودند.
این بررسی یادآور می‌شود که این نوع متون خلاصه‌شده در دامنه وسیعی از کاربردها، از جمله تجزیه و تحلیل تصاویر مربوط به پلیس، استفاده می‌شوند. همچنین، پژوهشگران هشدار دادند که نتایج به‌دست‌آمده نشان‌دهنده این است که چنین کاربردهایی می‌توانند گمراه‌کننده باشند؛ حتی اگر هیچ یک از افراد دخیل در این فرآیند از قصد بدی برخوردار نباشند.
