چت‌جی‌پی‌تی متون خود را با علامت‌های غیرقابل مشاهده نشانه‌گذاری می‌کند

شرکت اوپن‌ای‌آی اعلام کرده است که متن‌های تولیدشده توسط چت‌جی‌پی‌تی از این به بعد شامل سیگنال‌های ناپیدا خواهند بود که امکان شناسایی منشأ آن‌ها را ممکن می‌سازد. این شرکت به‌مرور زمان به معرفی «نهان‌نگاری متنی» (Watermarking) پرداخته و در این مسیر، تغییرات ریزی در انتخاب و ترتیب کلمات ایجاد خواهد کرد. این تغییرات برای خوانندگان انسانی نامحسوس است، اما سیستم‌های خودکار قادر به تشخیص آن‌ها هستند. (نهان‌نگاری به نشانه‌ها و اطلاعاتی اطلاق می‌شود که برای حفظ حقوق ناشر و شناسایی مالکیت در فایل‌های دیجیتال، شامل متن، تصویر، ویدئو و صوت به کار می‌روند.)

این اقدام پس از آن صورت گرفته که شرکت آنتروپیک اعلام کرد فناوری مشابهی را به سیستم «کلود» خود اضافه کرده است. این خبر واکنش‌های انتقادی برخی از کاربران را برانگیخت؛ آن‌ها بر این باور بودند که این فناوری قابل اعتماد نبوده و دخالت غیرضروری در عملکرد سیستم است. هر دو شرکت این تغییرات را در راستای رعایت قانون هوش مصنوعی اتحادیه اروپا اعمال کرده‌اند؛ قانونی که سازندگان محصولات هوش مصنوعی مولد را موظف می‌کند خروجی‌های خود را به‌نحوی ارائه نمایند که سیستم‌های خودکار توان شناسایی آن‌ها را داشته باشند. برخلاف آنتروپیک، اوپن‌ای‌آی تصمیم گرفته است این نهان‌نگاری را تنها در اتحادیه اروپا به‌کار گیرد.

اوپن‌ای‌آی سیستم خود را «تکست‌گرین» (textGrain) می‌نامد. این سیستم سیگنالی به نام «سیگنال آماری نامرئی» را به نحوه انتخاب واژه‌ها در چت‌جی‌پی‌تی اضافه می‌کند. با این حال، این شرکت هشدار داده است که این ابزار هنوز به‌طور کامل قابل اعتماد نیست و ممکن است متون انسانی را به اشتباه به‌عنوان متون ماشینی تشخیص دهد و بالعکس؛ به‌ویژه در مورد متون کوتاه یا ویرایش‌شده.

 




اوپن‌ای‌آی تأکید کرده است که نهان‌نگاری را به‌عنوان عاملی برای کاهش کیفیت پاسخ‌ها نمی‌داند و به داده‌هایی اشاره کرده است که نشان می‌دهد متن‌های دارای واترمارک در برخی ارزیابی‌ها حتی عملکرد بهتری نسبت به متن‌های بدون واترمارک داشته‌اند. در حالی که برخی کاربران پس از معرفی سامانه مشابه آنتروپیک، گمانه‌زنی کرده بودند که وجود واترمارک ممکن است کیفیت خروجی‌های کلود را تحت تأثیر قرار دهد.

در شروع، تنها «پژوهشگران تأییدشده و سازمان‌های تخصصی» به نرم‌افزار تشخیص‌دهنده دسترسی پیدا خواهند کرد. بخشی از علت این تصمیم، عدم قابلیت اطمینان این سیستم است و شرکت اعلام کرده است که با این سازمان‌ها برای ارزیابی عملکرد آن در استفاده‌های واقعی همکاری خواهد کرد.

اوپن‌ای‌آی همچنین توضیح داده است که نهان‌نگاری‌ها به مواردی مانند میزان دخالت انسان در تولید متن، مالکیت متن، هویت کاربر تولیدکننده و دقت محتوای خروجی هیچ اشاره‌ای نمی‌کنند. عدم وجود واترمارک هم به معنای انسانی بودن متن نمی‌باشد.

با گسترش محتوای تولیدشده خودکار در فضای مجازی، نهادهای نظارتی و شرکت‌ها به‌دنبال شیوه‌هایی برای شناسایی محتوای تولیدشده با هوش مصنوعی از محتوای انسانی هستند. به‌علاوه نهان‌نگاری، برخی شرکت‌ها استراتژی‌های دیگری را نیز به کار گرفته‌اند؛ از جمله اپل که ماه گذشته گوشی آیفون جدیدی را راهی بازار کرد که به فناوری‌ای مجهز است که به عکاسان این امکان را می‌دهد تا ثابت کنند عکسی را خودشان گرفته‌اند.

مشاهده بیشتر

نوشته های مشابه

دکمه بازگشت به بالا