ادعای جدی نیویورک علیه تیک‌تاک؛ به نظر می‌رسد کودکان نسخه تقلبی از قابلیت ایمنی را دریافت کرده‌اند
طبق ادعاهای درج‌شده در یک دادخواست که به تازگی از حالت محرمانه خارج شده، یکی از این ظرفیت‌ها Algo Refresh نام داشت. این ابزار به کاربران اجازه می‌دهد تا توصیه‌های الگوریتمی تیک‌تاک را مجدداً تنظیم کنند تا فید ویدئوهای پیشنهادی آنان از محتوای ناخواسته یا بالقوه زیان‌آور دور بماند.
با این حال، بر اساس این دادخواست، برخی از کاربران که در این آزمایش شرکت کرده بودند، به جای دریافت نسخه واقعی، نسخه‌ای موسوم به «شبح» یا پلاسبو دریافت کرده‌اند. در این موقعیت، کاربر در تصور این بود که Algo Refresh را فعال کرده اما فید توصیه‌های وی در واقع هیچ تغییری نمی‌کرد. در مقابل، کاربرانی که در گروه آزمایشی حاضر نبودند، به نسخه واقعی و کارای این ابزار دسترسی داشتند.
آزمایش بر روی هزاران کاربر کودک و نوجوان
درخواست ایالت نیویورک بیان می‌کند که تیک‌تاک این آزمایش‌ها را به منظور ارزیابی تاثیر قابلیت‌های ایمنی بر رفتار کاربران، میزان زمان حضورشان در پلتفرم و درآمد تبلیغاتی به انجام رسانده است.
طبق شرح ادعاها در دادخواست، این آزمایش‌ها شامل هزاران کاربر بود و در بین آنان کودکان و نوجوانان نیز وجود داشتند. همچنین ادعا شده که یکی از مدیران محصول تیک‌تاک درباره ماهیت گمراه‌کننده آزمایش‌های پلاسبو ابراز نگرانی کرده بود که اما این هشدارها نادیده گرفته شدند.
این دادخواست همچنین تیک‌تاک را متهم کرده است که اطلاعات نادرستی را درباره نحوه کارکرد Algo Refresh به کاربران ارائه داده و در برخی آزمایش‌ها به‌طور تصادفی قابلیت‌های ایمنی را برای بخش‌هایی از کاربران غیرفعال نموده است.
این اتهامات از اهمیت بالایی برخوردارند، چرا که Algo Refresh در اصل طراحی شده بود تا محتوای پیشنهادی به کاربران را تغییر دهد. بنابراین، اگر نسخه‌ای از این قابلیت بدون اطلاع کاربر غیرفعال شده باشد، ممکن است کاربر به اشتباه تصور کند که الگوریتم پیشنهاددهی به‌روزرسانی شده است، در حالی که او در واقع همواره همان نوع محتوا را دریافت می‌کرده است.
ارتباط آزمایش‌ها با محتوای مضر
در یکی از قسمت‌های نگران‌کننده دادخواست، ایالت نیویورک به یک مورد از یک نوجوان اشاره کرده که پس از مشاهده محتوای مرتبط با خودآزاری، جان خود را به دلیل خودکشی از دست داده است. دادستانی این موضوع را در چهارچوب ادعاهای مربوط به عملکرد الگوریتم و آزمایش‌های ایمنی تیک‌تاک مطرح کرده است. این ادعاها در دادگاه باید به بررسی و تأیید برسند و به معنای تأسیس مسئولیت تیک‌تاک در مورد این مرگ نیستند.
به گزارش Techcrunch، این پرونده در زمینه‌ای مطرح شده که تیک‌تاک با موجی از دعاوی حقوقی نسبت به تأثیر پلتفرم خود بر کودکان و نوجوانان روبرو است. بیش از دو دوجین ایالت آمریکا این شرکت را متهم کرده‌اند که طراحی پلتفرم خود را به گونه‌ای انجام داده که استفاده اعتیادآور را در بین کاربران کم‌سن‌وسال افزایش دهد و همزمان اطلاعات گمراه‌کننده‌ای درباره اقدامات ایمنی خود ارائه کند.
جواب تیک‌تاک: آزمایش مداوم قابلیت‌ها
تیک‌تاک در پاسخ به گزارش رویترز اعلام کرد که این شرکت به‌طور پیوسته در حال بهبود پلتفرم خود است و همچون بسیاری از شرکت‌های فناوری، از محصولات و قابلیت‌های جدید برای سنجش عملکرد آنها در دنیای واقعی آزمایش می‌کند.
این شرکت اعلام کرده است که ایمنی کاربران، به ویژه کاربران کم‌سن‌وسال، همچنان یکی از اولویت‌های کلیدی آن به شمار می‌آید. تا زمان انتشار گزارش، تیک‌تاک درباره جزئیات مطرح‌شده در دادخواست نیویورک جواب جداگانه‌ای ارائه نکرده است.
پیش از این نیز ادعاهایی در خصوص آزمایش‌های سری تیک‌تاک مطرح شده بود. بلومبرگ در ماه ژوئن گزارش داده بود که تیک‌تاک در یک آزمایش دیگر، یک قابلیت ایمنی را از حدود ۱۵ میلیون کاربر آمریکایی پنهان کرده است. بر اساس آن گزارش، یکی از کاربرانی که تحت تأثیر این آزمایش قرار گرفت، نوجوانی بود که بعداً به دلیل خودکشی جان خود را از دست داد.
در نهایت، پرونده نیویورک ممکن است یکی از جدی‌ترین چالش‌های حقوقی تیک‌تاک در ارتباط با نحوه آزمایش قابلیت‌های ایمنی باشد؛ به‌ویژه اگر دادگاه به این نتیجه برسد که کاربران، بدون مطلع بودن از آزمایش بودن قابلیت، تصور می‌کردند که ابزارهای حفاظتی به‌راستی برای حساب‌شان فعال شده‌اند.
