هک DeepSeek؛ سیستم سانسور هوش مصنوعی چین ناکام ماند
اکنون، گروهی از محققان با استفاده از روشهای مهندسی مدل، موفق به خلق نسخهای از این مدل شدند که سانسور داخلی آن حذف گردیده و در عین حال بسیاری از قابلیتهای کلیدی آن حفظ شده است.
به نقل از ایتنا، پژوهشگران به این هدف با بهرهگیری از یک فرایند فناورانه و کاهش ابعاد مدل، توانستند محدودیتهای حفاظتی نصبشده در R1 را از کار بیندازند.
به گزارش سایت Futurism، آنها اظهار داشتند که نسخه بهبود یافته تقریباً تمامی ویژگیهای اصلی از جمله تحلیل و تولید کد را حفظ نموده و به پرسشهای «ممنوعه» پاسخگویی را آغاز کرده است.
اهمیت این اقدام
این پیشرفت دارای دو جنبه متضاد است: از یک سو، دسترسی آزادتر به اطلاعات تاریخی و سیاسی را تسهیل میکند و میتواند به شکستن انحصار اطلاعات یاری رساند؛ از سوی دیگر، این اقدام چالشی جدی برای چارچوبهای قانونی و سیاستهای دولتی به شمار میآید و سوالاتی را در خصوص امنیت، مسئولیت توسعهدهندگان و کنترل بر ابزارهای هوش مصنوعی به میان میآورد.
ملاحظات اخلاقی و حقوقی
انجام هک یا مهندسی معکوس بر روی مدلهایی که تحت قوانین و سیاستهای داخلی یک کشور توسعه یافتهاند، میتواند عواقب پیچیده ای در زمینه حقوقی و اخلاقی به دنبال داشته باشد. این موضوع همچنین مباحثی را در خصوص مرزهای آزادی اطلاعات، مسئولیت توسعهدهندگان و پیامدهای اجتماعی فناوریهای تغییر یافته تقویت میکند.
جمعبندی
موفقیت در کنار گذاشتن سانسور از DeepSeek بهروشنی نشان میدهد که حتی مدلهایی که بهمنظور تبعیت از سیاستهای سختگیرانه تهیه شدهاند، قابلیت اصلاح و دور زدن دارند.
بر اساس دیدگاه کارشناسان، این حادثه ضرورت شکلگیری چارچوبهای شفافتر برای حاکمیت هوش مصنوعی و تضمین پاسخگویی توسعهدهندگان و توجه همزمان به آزادی دسترسی به اطلاعات و امنیت ملی را بیش از پیش روشن میسازد.
