OpenAI تعدادی از حساب‌های کاربران چینی را مسدود کرد
شرکت «اوپن‌ای‌آی»(OpenAI)، خالق چت‌بات معروف ChatGPT، اقدام به مختل کردن تعداد بیشتری از حساب‌های چینی کرده است که از این چت‌بات به‌منظور توسعه ابزارهای نظارت بر رسانه‌های اجتماعی بهره‌برداری می‌کردند. این شرکت همچنین به برخی از کاربردهای مخرب نظیر طراحی کلاهبرداری و توسعه بدافزار و سایر موارد اشاره کرده است.
شرکت «اوپن‌ای‌آی»(OpenAI) اعلام کرده است که یک حساب کاربری مسدود شده که منشاء آن در چین است، از ChatGPT به‌عنوان ابزاری برای کمک به طراحی محتواهای تبلیغاتی و برنامه‌های پروژه‌ای به‌منظور ساخت یک ابزار شنود رسانه‌های اجتماعی استفاده کرده است.
به گفته این شرکت، ظاهراً این فعالیت برای یک مشتری دولتی صورت گرفته است. این ابزار به‌عوان یک «کاوشگر» طراحی شده بود که قادر به دستکاری محتوا در سایت‌های رسانه‌ای اجتماعی شامل ایکس، فیس‌بوک، اینستاگرام، ردیت، تیک‌تاک و یوتیوب به‌منظور جستجوی محتوای خاص سیاسی، قومی یا مذهبی تعریف شده توسط اپراتور بوده است. با این حال، این شرکت اعلام کرده است که نمی‌تواند به‌طور مستقل تأیید کند که آیا این ابزار به‌دست یک نهاد دولتی چین مورد استفاده قرار گرفته است یا خیر.
شرکت «اوپن‌ای‌آی» در اوایل سال جاری نیز اقداماتی مشابه را انجام داد.
این شرکت همچنین اعلام کرده است که حسابی که از ChatGPT برای توسعه پیشنهادی ابزاری تحت عنوان «مدل هشدار نسبت به جریان ورودی پرخطر مرتبط با اویغور»، که به ردیابی حرکات افراد وابسته به منطقه اویغور کمک می‌کند، استفاده می‌کرد، مختل شده است. چین به‌مدت طولانی به نقض حقوق بشر علیه مسلمانان اویغور در این کشور متهم شده است.
شرکت «اوپن‌ای‌آی» از فوریه 2024 اقدام به انتشار گزارش‌هایی در این زمینه کرده و آگاهی از افراد وابسته به دولت‌ها را که از مدل‌های زبانی بزرگ برای اشکال‌زدایی کدهای مخرب و توسعه کلاهبرداری‌های فیشینگ و موارد مشابه بهره می‌برند، افزایش داده است. آخرین پست وبلاگ این شرکت شامل خلاصه‌ای از تهدیدات قابل توجه و حساب‌های مسدود شده در سه ماه اخیر است.
این شرکت همچنین توسعه‌دهندگان زبان‌های روسی، کره‌ای و چینی را که از ChatGPT برای اصلاح بدافزار استفاده می‌کردند، شناسایی کرده و همچنین همچنین کل شبکه‌های کمبوجی، میانه‌مار و نیجریه را که به استفاده از این چت‌بات به‌عنوان ابزاری برای کلاهبرداری از مردم پرداخته بودند، معرفی کرده است. بر اساس برآوردهای «اوپن‌ای‌آی»، ChatGPT برای شناسایی کلاهبرداری‌ها سه برابر بیشتر نسبت به ایجاد آنها مورد استفاده قرار می‌گیرد.
«اوپن‌ای‌آی» ادعا می‌کند که در تابستان امسال، جریاناتی را در ایران، روسیه و چین که از ChatGPT برای تولید پست، نظر و ترویج تعامل و تفرقه به‌عنوان بخشی از کمپین‌های نفوذ آنلاین استفاده می‌کردند، مختل کرده است. محتوای تولیدشدۀ هوش مصنوعی در پلتفرم‌های مختلف رسانه‌های اجتماعی، چه در کشورهای مبدأ و چه در سطح جهانی، به‌کار گرفته شده است.
