هوش مصنوعی پس از پاک‌سازی چت‌ها همچنان نشانه‌هایی از گفت و گوهای شما را در گوشی حفظ می‌کند
بر اساس گزارش ایتنا، محققان در مؤسسه فناوری جورجیا ابزاری تخصصی به نام ORISA طراحی کرده‌اند که می‌تواند قسمت‌هایی از گفت‌وگوهای حذف‌شده با دستیاران هوش مصنوعی را از حافظه گوشی‌های اندرویدی بازیابی کند. این ابزار علاوه بر استخراج اطلاعات باقی‌مانده، توانایی بازآفرینی آنها را در قالب یک جلسه جدید هوش مصنوعی داراست تا کاربران بتوانند مجدداً با محتوای بازیابی‌شده ارتباط برقرار کنند.
این فناوری به ویژه برای برنامه‌هایی که مدل‌های هوش مصنوعی را مستقیماً روی دستگاه اجرا می‌کنند و نیاز به ارسال اطلاعات به سرورهای ابری ندارند، طراحی شده است.
درست است که اجرای هوش مصنوعی بر روی دستگاه به عنوان یک راه‌حل برای افزایش حریم خصوصی شناخته می‌شود، اما یافته‌های این تحقیق نشان می‌دهد که حذف یک مکالمه از برنامه، همیشه به معنای پاک شدن کامل آثار آن از حافظه گوشی نیست.
چگونه ORISA مکالمات پاک شده را بازیابی می‌کند؟
ابزار ORISA با بررسی حافظه دستگاه به جستجوی داده‌های مربوط به مکالمات قبلی می‌پردازد که پس از حذف گفت‌وگو هنوز به جا مانده‌اند. این ابزار سپس این اطلاعات پراکنده را جمع‌آوری و پردازش می‌کند تا محتوای مکالمه و ارتباطات بین بخش‌های مختلف آن را تا حد امکان بازسازی نماید.
نکته حائز اهمیت این است که عملکرد ORISA تنها به استخراج چند جمله یا عبارت محدود نمی‌شود. این ابزار می‌تواند اطلاعات بازیابی‌شده را به صورت یک جلسه قابل تعامل در اختیار مدل هوش مصنوعی قرار دهد؛ به گونه‌ای که امکان پرسش از محتوای مکالمه قبلی وجود داشته باشد.
مدل‌های هوش مصنوعی که به طور محلی بر روی گوشی اجرا می‌شوند، از نظر حریم خصوصی مزیت‌های قابل توجهی دارند؛ زیرا اطلاعات کاربران برای پردازش نیازی به خروج از دستگاه ندارند. با این حال، پردازش محلی بدین معنا نیست که داده‌ها پس از حذف مکالمه فوراً و به طور کامل از حافظه پاک می‌شوند.
در حقیقت، ممکن است برخی از اطلاعات که در هنگام اجرای برنامه در حافظه قرار داشته‌اند، حتی پس از ناپدید شدن مکالمه از صفحه نمایش، باقی بمانند. ORISA دقیقاً از این ردپای اطلاعاتی برای بازسازی گفت‌وگوهای قبلی بهره‌برداری می‌کند.
آزمایشی که قابلیت غیرمنتظره ابزار جدید را به نمایش گذاشت
محققان برای بررسی کارایی ORISA، یک دستیار مجازی به نام Project Note Keeper طراحی کردند که با استفاده از یک نسخه سفارشی از برنامه ChatterUI، مدل‌های هوش مصنوعی را به صورت محلی بر روی اندروید اجرا می‌کرد.
در این آزمایش، ۱۰۰ مورد اطلاعات فرضی درباره یک پروژه به دستیار ارائه شد و سپس کل مکالمه حذف گردید.
پس از حذف گفت‌وگو، دستیار هوش مصنوعی تنها توانایی دسترسی به ۱۴ مورد از این اطلاعات را داشت؛ چون بقیه اطلاعات در دامنه حافظه فعال و قابل استفاده مدل وجود نداشتند.
اما زمانی که محققان برای بازیابی جلسه از ORISA کمک گرفتند، این ابزار موفق به بازیابی ۲۶ مورد از ۱۰۰ اطلاعات ابتدایی شد.
این امر نشان می‌دهد که ORISA تقریباً دو برابر اطلاعاتی را بازیابی کرد که خود دستیار هوش مصنوعی پس از حذف مکالمه قادر به یادآوری آن بود.
این یافته بیانگر آن است که حتی اطلاعاتی که دیگر در حافظه فعال و حوزه مکالمه مدل هوش مصنوعی وجود ندارند، ممکن است هنوز در قسمت‌های دیگری از حافظه دستگاه ردپاهایی داشته باشند و با استفاده از ابزارهای اختصاصی قابل بازیابی باشند.
محققان همچنین ORISA را در ۶۰ مجموعه آزمایشی شامل ۱۰ برنامه اندرویدی و سه مدل هوش مصنوعی مورد بررسی قرار داده و موفق به بازیابی اطلاعاتی از مکالمات در این آزمایش‌ها شدند.
کاربرد در تحقیقات دیجیتال و بررسی توصیه‌های مخاطره‌آمیز هوش مصنوعی
این فناوری می‌تواند به عنوان ابزاری نوین در اختیار متخصصان دیجیتال فورنزیک قرار گیرد تا تعاملات کاربران با دستیاران هوش مصنوعی را مورد بررسی قرار دهند؛ حتی زمانی که تاریخچه مکالمات از داخل برنامه پاک شده باشد.
به عنوان مثال، در پرونده‌هایی که احتمال بروز آسیب به دلیل توصیه‌های پزشکی یک دستیار هوش مصنوعی به کاربر وجود داشته باشد، بازیابی مکالمات می‌تواند به روشن شدن جزئیات کمک کند.
این قابلیت به خصوص در مواردی اهمیت می‌یابد که کاربر مکالمات خود را ذخیره نکرده یا اطلاعات مربوط به مشورت‌های گرفته شده را با پزشکان در میان نگذاشته باشد.
استفاده از ابزارهای حرفه‌ای بازیابی اطلاعات می‌تواند به بازرسان در شناسایی این که کاربر چه اطلاعاتی را در اختیار هوش مصنوعی قرار داده و چه پاسخ‌ها یا توصیه‌هایی دریافت کرده است، کمک کند.
با این وجود، این قابلیت به معنای امکان بازیابی تمامی مکالمات حذف‌شده نیست و موفقیت آن بستگی به شرایط فنی و میزان باقی مانده داده‌ها در حافظه دستگاه دارد.
نگرانی‌های جدیدی درباره حریم خصوصی کاربران
علاوه بر کاربردهای تحقیقاتی، یافته‌های این مطالعه نگرانی‌هایی را در مورد میزان واقعی کنترل کاربران بر اطلاعات شخصی خود ایجاد کرده است.
کاربری که گفت‌وگویی حساس با یک دستیار هوش مصنوعی داشته و آن را حذف کرده است، ممکن است تصور کند که اطلاعات به طور کامل از دستگاه حذف شده‌اند. اما پژوهش جدید نشان می‌دهد که در برخی موارد، بخش‌هایی از این داده‌ها ممکن است هنوز در حافظه باقی بمانند.
این امر به خصوص در مورد مکالماتی که حاوی اطلاعات پزشکی، مسائل شخصی، اطلاعات شغلی یا سایر داده‌های محرمانه هستند اهمیت دارد.
با این حال، پژوهشگران تأکید می‌کنند که توانایی بازیابی اطلاعات به عوامل متعددی وابسته است. این شامل میزان باقی‌مانده داده‌های قبلی در حافظه و امکان دسترسی به آنها می‌شود.
همچنین فعالیت‌های جدید روی گوشی ممکن است باعث شود داده‌های تازه جایگزین اطلاعات قدیمی شوند و در نتیجه، بازیابی مکالمات قدیمی را دشوارتر یا غیر ممکن کند.
آیا کاربران عادی قادر به بازیابی مکالمات حذف‌شده هستند؟
ORISA ابزاری تخصصی برای تحقیقات دیجیتال است و نباید آن را با برنامه‌های معمولی بازیابی اطلاعات گوشی اشتباه گرفت. استفاده از این تکنولوژی نیاز به دسترسی به نسخه‌ای از حافظه و داده‌های دستگاه دارد و تنها با نصب یک برنامه معمولی نمی‌توان انتظار داشت تمامی گفت‌وگوهای حذف‌شده با هوش مصنوعی دوباره ظاهر شوند.
علاوه بر این، این مطالعه بر روی دستیارهایی متمرکز است که مدل‌های هوش مصنوعی را به صورت محلی بر روی دستگاه اجرا می‌کنند؛ بنابراین نتایج آن نمی‌تواند به کلیه سرویس‌های هوش مصنوعی مبتنی بر فضای ابری تعمیم یابد.
طبق گزارش ایتنا به نقل از Digital Trends، یافته‌های این تحقیق نشان می‌دهد که حذف مکالمات از بستر برنامه، لزوماً به معنای از بین رفتن کامل آثار آنها از حافظه دستگاه نیست.
این پژوهش بار دیگر بر اهمیت نحوه ذخیره‌سازی و مدیریت اطلاعات در برنامه‌های هوش مصنوعی تأکید می‌کند و نمایان می‌سازد که حفاظت از حریم خصوصی کاربران تنها به محل پردازش داده‌ها مربوط نیست، بلکه نحوه نگهداری و حذف واقعی اطلاعات نیز نقش بسزایی ایفا می‌کند.
