رازهای شخصی خود را به چتباتها میگوییم؛ شرکتهای هوش مصنوعی با آنها چه میکنند؟
اکنون پرسش اصلی این است: این اطلاعات در نهایت چه سرنوشتی پیدا میکنند؟
سیاست شرکتهای فناوری یکسان نیست و میزان ذخیرهسازی و استفاده از دادهها میان سرویسها تفاوت دارد؛ بنابراین کاربر لزوماً نمیداند اطلاعاتش چگونه مدیریت میشود.
چتباتها بیشتر از موتورهای جستوجو درباره ما میدانند
تفاوت مهم چتباتها با موتورهای جستوجو در ماهیت اطلاعاتی است که کاربران ارائه میکنند. گفتوگوی طولانی با یک چتبات میتواند جزئیاتی درباره زندگی، شخصیت، علایق و شرایط فرد آشکار کند و به شکلگیری تصویری گستردهتر از کاربر بینجامد.
بنابراین نگرانی فقط استفاده از پیامها برای آموزش مدل نیست؛ مسئله مهمتر این است که آیا این دادهها میتوانند برای ساختن پروفایل شخصی کاربر و تأثیرگذاری بر نحوه تعامل سیستم با او به کار روند.
رویکرد شرکتهای مالک این چتباتها هم یکسان نیست؛ اپل بر پردازش روی دستگاه و کاهش انتقال داده به سرورهای مرکزی تأکید دارد، در حالی که متا در سیاست حریم خصوصی خود دامنه گستردهتری برای دادههای کاربران در نظر گرفته است. سایر سرویسهای AI نیز میان این دو رویکرد قرار میگیرند؛ بنابراین بررسی شرایط استفاده و سیاست حریم خصوصی هر سرویس ضروری است.
خلأ قانونی همچنان جدی است
یکی از مشکلات اصلی، سرعت توسعه فناوری در مقایسه با شکلگیری قوانین است. در بسیاری از کشورها هنوز چارچوب کاملاً شفافی برای جمعآوری و استفاده از دادههای گفتوگو با چتباتها وجود ندارد و شرکتها اختیار قابل توجهی در تعیین شیوه پردازش اطلاعات دارند. بنابراین شفافیت درباره نوع داده، مدت نگهداری، هدف استفاده و امکان حذف آن اهمیت بیشتری پیدا میکند.
کاربران چگونه محتاطتر باشند؟
تا زمان شکلگیری قوانین جامعتر، کاربران بهتر است هر اطلاعاتی را که حاضر نیستند در اختیار یک شرکت فناوری قرار دهند، به چتبات نیز ارائه نکنند. رمزهای عبور، اطلاعات بانکی، کلیدهای دسترسی، اسناد محرمانه، اطلاعات هویتی حساس و اسرار تجاری نباید برای دریافت پاسخ بهتر در اختیار AI قرار گیرند.
علاوه بر هم این موارد، بررسی تنظیمات حریم خصوصی، ذخیره تاریخچه، آموزش مدل و حذف دادهها نیز میتواند ریسک را کاهش دهد.
با گسترش AI، پرسش مهم دیگر فقط این نیست که «آیا هوش مصنوعی مکالمه ما را میخواند؟» بلکه باید پرسید از مجموع گفتوگوهای ما چه چیزی درباره خودمان یاد میگیرد و این شناخت چگونه استفاده میشود؟ هرچه تعامل شخصیتر شود، ارزش و حساسیت این دادهها نیز افزایش مییابد.
