اینستاگرام سن کاربران را با هوش مصنوعی تشخیص می‌دهد
متا اعلام کرده است که استفاده از فناوری تشخیص سن با هوش مصنوعی را در اینستاگرام به سراسر جهان گسترش می‌دهد. با اجرای این طرح، کاربرانی که سیستم آن‌ها را نوجوان تشخیص دهد، حتی اگر هنگام ثبت‌نام تاریخ تولد بزرگسالان را وارد کرده باشند، ممکن است به‌صورت خودکار تحت محدودیت‌های حساب نوجوانان قرار بگیرند.
این تصمیم که ۹ نوامبر ۲۰۲۶ اعلام شد، قرار است میلیون‌ها نوجوان دیگر را تحت پوشش تنظیمات حفاظتی اینستاگرام قرار دهد. این تنظیمات مشخص می‌کنند چه کسانی می‌توانند به نوجوانان پیام بدهند، چه نوع محتوایی در معرض دید آن‌ها قرار بگیرد و استفاده از شبکه اجتماعی چگونه مدیریت شود.
اهمیت این تغییر در آن است که اینستاگرام دیگر برای تعیین شرایط استفاده از حساب نوجوانان فقط به تاریخی که کاربر هنگام ثبت‌نام اعلام می‌کند متکی نخواهد بود. متا می‌خواهد در مواردی که اطلاعات ثبت‌شده با برآورد سیستم سازگار نیست، از فناوری خودکار برای شناسایی کاربران احتمالی ۱۳ تا ۱۷ سال استفاده کند.
این اقدام در شرایطی انجام می‌شود که شبکه‌های اجتماعی با فشار فزاینده دولت‌ها و نهادهای ناظر برای محافظت از کودکان و نوجوانان روبه‌رو هستند. با این حال، تشخیص سن از طریق هوش مصنوعی پرسش‌های تازه‌ای درباره دقت تصمیم‌گیری، حریم خصوصی و احتمال اشتباه گرفتن سن کاربران نیز ایجاد می‌کند.
اینستاگرام چطور کاربران نوجوان را شناسایی می‌کند؟
مشکل اصلی بسیاری از شبکه‌های اجتماعی این است که کاربران هنگام ایجاد حساب معمولاً خودشان تاریخ تولدشان را وارد می‌کنند. اگر فردی اطلاعات نادرستی ارائه دهد، سیستم نمی‌تواند صرفاً براساس تاریخ ثبت‌شده مطمئن شود که او واقعاً در چه گروه سنی قرار دارد.
برای مثال، نوجوانی ۱۵ ساله ممکن است هنگام ثبت‌نام اعلام کند ۲۰ سال دارد. در چنین شرایطی، اگر سرویس تنها به تاریخ تولد ثبت‌شده اعتماد کند، احتمال دارد تنظیمات مخصوص بزرگسالان را برای این حساب فعال نگه دارد.
متا می‌گوید فناوری تخمین سن با هوش مصنوعی برای شناسایی حساب‌هایی طراحی شده که احتمال می‌رود متعلق به نوجوانان باشند؛ حتی زمانی که تاریخ تولد ثبت‌شده در آن‌ها نشان می‌دهد کاربر بزرگسال است.
این فناوری پیش از اعلام گسترش جهانی نیز در برخی کشورها مورد استفاده قرار گرفته بود. بنابراین خبر جدید به معنای آن نیست که اینستاگرام برای نخستین بار توانایی تخمین سن کاربران را به دست آورده است. تغییر اصلی، افزایش دامنه جغرافیایی استفاده از این سیستم است.
متا در اطلاعیه جدید خود جزئیات کامل معماری فنی، معیارهای تصمیم‌گیری یا میزان خطای این سیستم را منتشر نکرده است. به همین دلیل نمی‌توان با قطعیت گفت هر حساب براساس کدام ویژگی‌ها شناسایی خواهد شد یا یک عامل مشخص چه سهمی در تصمیم نهایی دارد.
نکته مهم دیگری هم وجود دارد. در برخی گزارش‌های اولیه، روش‌های مربوط به تشخیص و حذف کاربران زیر ۱۳ سال با فناوری قرار دادن نوجوانان ۱۳ تا ۱۷ سال در حساب‌های محافظت‌شده یکسان توصیف شده بود. متا در توضیحی به Engadget روشن کرده که برخی نشانه‌های مورد اشاره در آن گزارش‌ها، از جمله تحلیل ویژگی‌های ظاهری و سرنخ‌های مربوط به سن در محتوای حساب، به فرایند تشخیص کودکان زیر ۱۳ سال مربوط بوده است.
بنابراین نمی‌توان نتیجه گرفت که سیستم جدید مخصوص نوجوانان الزاماً از تمام همان روش‌ها استفاده می‌کند. این دو فرایند هدف متفاوتی دارند و باید جداگانه بررسی شوند.
چه اتفاقی برای حسابی می‌افتد که نوجوان تشخیص داده شود؟
وقتی اینستاگرام حسابی را متعلق به کاربر نوجوان تشخیص دهد، هدف آن است که محدودیت‌های Teen Accounts یا حساب‌های نوجوانان برای آن اعمال شود.
این حساب‌ها مجموعه‌ای از تنظیمات محافظتی دارند که متا پیش‌تر برای کاربران کم‌سن‌وسال طراحی کرده بود. یکی از مهم‌ترین آن‌ها خصوصی بودن حساب به‌صورت پیش‌فرض است.
در حساب خصوصی، افراد ناشناس نمی‌توانند مانند یک حساب عمومی به همه محتواهای منتشرشده دسترسی داشته باشند. کاربر برای پذیرفتن دنبال‌کنندگان جدید کنترل بیشتری دارد و این موضوع می‌تواند تماس افراد ناشناس با نوجوانان را محدود کند.
محدودیت دیگر به پیام‌های خصوصی مربوط می‌شود. در حساب‌های نوجوانان، امکان دریافت پیام از افرادی که ارتباط مجاز و مشخصی با کاربر ندارند محدودتر از حساب‌های معمولی است.
هدف این تنظیمات کاهش احتمال تماس‌های ناخواسته، مزاحمت و ارتباط افراد ناشناس با نوجوانان اعلام شده است.
متا همچنین برای محتوایی که به نوجوانان نمایش داده می‌شود محدودیت‌هایی در نظر گرفته است. این محدودیت‌ها می‌توانند بر نمایش برخی محتواهای حساس و تجربه کاربری نوجوانان تأثیر بگذارند.
ابزارهای مدیریت زمان نیز بخشی از همین مجموعه هستند. اینستاگرام می‌تواند به کاربران نوجوان درباره مدت استفاده از برنامه یادآوری بدهد و تنظیماتی برای محدود کردن استفاده در ساعت‌های مشخص ارائه کند.
البته این قابلیت‌ها به معنای کنترل کامل تمام محتواهای نامناسب نیستند. سیستم‌های تشخیص و پالایش محتوا ممکن است اشتباه کنند و اعمال تنظیمات محافظتی نیز تضمین نمی‌کند که کاربر هیچ‌گاه با محتوای نامطلوب روبه‌رو نشود.
چرا تاریخ تولد اعلام‌شده دیگر کافی نیست؟
تاریخ تولد یکی از ساده‌ترین اطلاعاتی است که هنگام ثبت‌نام در سرویس‌های اینترنتی دریافت می‌شود. این روش برای بسیاری از خدمات مناسب است، اما زمانی که دسترسی به امکانات براساس سن محدود می‌شود، مشکلات آن آشکارتر می‌شود.
اگر محدودیت‌های یک سرویس تنها به اطلاعات خوداظهاری وابسته باشند، دور زدن آن‌ها برای کاربری که آگاهانه سن نادرست وارد می‌کند دشوار نیست.
از طرف دیگر، الزام همه کاربران به ارائه مدارک شناسایی رسمی نیز مشکلات خودش را دارد. بسیاری از افراد نمی‌خواهند تصویر کارت شناسایی یا اطلاعات حساس خود را برای استفاده از یک شبکه اجتماعی ارسال کنند.
جمع‌آوری گسترده چنین اطلاعاتی می‌تواند نگرانی‌هایی درباره نگهداری داده‌ها، دسترسی اشخاص غیرمجاز و پیامدهای احتمالی نشت اطلاعات ایجاد کند.
متا تلاش می‌کند استفاده از فناوری تخمین سن را به‌عنوان بخشی از راه‌حل این مشکل معرفی کند. در این روش قرار است تشخیص گروه سنی فقط به یک تاریخ تولد ثبت‌شده وابسته نباشد.
اما تخمین سن با تأیید قطعی سن تفاوت دارد. یک سیستم هوش مصنوعی ممکن است برآوردی درباره گروه سنی کاربر ارائه کند، در حالی که مدرک شناسایی معتبر می‌تواند اطلاعات متفاوتی درباره تاریخ تولد او نشان دهد.
همین تفاوت باعث می‌شود سازوکار اصلاح اشتباهات اهمیت زیادی پیدا کند. اگر یک فرد بزرگسال به اشتباه نوجوان تشخیص داده شود، باید راه مناسبی برای بررسی دوباره وضعیت حساب وجود داشته باشد.
همچنین اگر سیستم نتواند نوجوانی را شناسایی کند، ممکن است محدودیت‌های موردنظر متا برای آن حساب فعال نشوند. در نتیجه میزان موفقیت طرح به دقت تشخیص و کیفیت رسیدگی به خطاها وابسته است.
کاربران زیر ۱۳ سال مشمول سیاست متفاوتی هستند
در توضیح برنامه جدید متا، باید میان دو گروه سنی تفاوت گذاشت: کاربران زیر ۱۳ سال و نوجوانان ۱۳ تا ۱۷ سال.
اینستاگرام اصولاً برای کاربران زیر حداقل سن مجاز طراحی نشده است. بنابراین سیاست شرکت در قبال حساب‌هایی که احتمال می‌رود متعلق به کودکان زیر ۱۳ سال باشند، بر شناسایی و حذف حساب‌های غیرمجاز تمرکز دارد.
در مقابل، نوجوانان ۱۳ تا ۱۷ سال می‌توانند با رعایت شرایط مربوط به سن خود از سرویس استفاده کنند، اما قرار است تنظیمات حفاظتی بیشتری برای حساب‌های آن‌ها فعال شود.
این تفاوت اهمیت زیادی دارد. اعمال محدودیت‌های حساب نوجوانان بر یک کاربر ۱۵ ساله با شناسایی یک حساب متعلق به کودک ۱۱ ساله و اقدام برای حذف آن یک فرایند واحد نیست.
متا می‌گوید در چارچوب تعهدات تازه خود، فناوری شناسایی هر دو گروه را تقویت می‌کند، اما هدف و نتیجه تصمیم‌گیری درباره این دو گروه متفاوت خواهد بود.
این شرکت در اعلامیه ۹ نوامبر تأکید کرده که برای یافتن حساب‌های احتمالی کاربران زیر ۱۳ سال نیز سرمایه‌گذاری بیشتری انجام می‌دهد.
این بخش از برنامه با توافق‌های حقوقی اخیر متا در آمریکا ارتباط دارد؛ توافق‌هایی که شرکت را به تقویت سازوکارهای محافظت از کاربران کم‌سن‌وسال متعهد کرده‌اند.
نقش والدین در سیستم جدید اینستاگرام
متا اعلام کرده است که در طول نوامبر، والدین در آمریکا به‌تدریج ویدئویی را در محیط اینستاگرام مشاهده خواهند کرد که توضیح می‌دهد این شرکت چگونه حساب نوجوانان را شناسایی می‌کند و چه امکاناتی برای نظارت والدین وجود دارد.
این ویدئو قرار است به مطالب آموزشی درباره تشخیص سن و شیوه استفاده از ابزارهای حفاظتی متصل باشد.
به گفته شرکت، هدف آن است که والدین اطلاعات بیشتری درباره اهمیت ثبت سن واقعی و تنظیمات متناسب با سن فرزندان خود داشته باشند.
حساب‌های نوجوانان همچنین امکان استفاده از ابزارهای نظارت والدین را فراهم می‌کنند. در این چارچوب، والدین می‌توانند در برخی تصمیم‌های مربوط به تنظیمات حساب نقش داشته باشند.
برای نمونه، نوجوانان زیر ۱۶ سال برای کاهش بعضی محدودیت‌های پیش‌فرض به اجازه والدین نیاز دارند.
با این حال، میزان دسترسی والدین به حساب نوجوانان نامحدود نیست و نباید ابزارهای نظارت را با امکان خواندن آزادانه تمام پیام‌های خصوصی یکدیگر اشتباه گرفت.
نکته دیگر آن است که برنامه اطلاع‌رسانی جدید برای والدین آمریکایی اعلام شده، در حالی که گسترش فناوری تخمین سن، محدوده جهانی دارد. بنابراین نباید نتیجه گرفت که تمام بخش‌های برنامه آموزشی در یک روز و به شکل یکسان در همه کشورها اجرا می‌شوند.
همکاری متا و اپل برای تشخیص سن در استرالیا
بخش دیگری از اعلامیه متا به همکاری با اپل در استرالیا مربوط می‌شود.
متا می‌گوید استفاده از سیگنال محدوده سنی اپل را به‌عنوان یک روش تکمیلی برای تشخیص سن آغاز کرده است.
ایده اصلی این روش آن است که وقتی والدین دستگاهی را برای فرزند خود تنظیم می‌کنند، فروشگاه برنامه بتواند اطلاعات مربوط به محدوده سنی کاربر را در اختیار اپلیکیشن‌ها قرار دهد.
در این روش، به‌جای آنکه هر برنامه برای خود فرایند جداگانه‌ای برای بررسی سن طراحی کند، بخشی از اطلاعات سنی می‌تواند از طریق سازوکار سیستم‌عامل یا فروشگاه برنامه منتقل شود.
برای مثال، اپلیکیشن ممکن است به‌جای دریافت تاریخ تولد کامل، از محدوده سنی مرتبط با حساب مطلع شود تا مشخص کند آیا کاربر شرایط سنی استفاده از سرویس را دارد یا خیر.
متا استدلال می‌کند استفاده از چنین سیگنال‌هایی می‌تواند هماهنگی بیشتری میان اپلیکیشن‌ها ایجاد کند.
البته این شرکت تأکید کرده است که استفاده از این سازوکار فعلاً اختیاری است. در نتیجه تمام توسعه‌دهندگان و فروشگاه‌های برنامه الزاماً از یک روش واحد استفاده نمی‌کنند.
متا مدت‌هاست از مقرراتی حمایت می‌کند که مسئولیت بیشتری برای تأیید سن کاربران و دریافت رضایت والدین برعهده فروشگاه‌های اپلیکیشن قرار می‌دهد.
این موضع می‌تواند اختلاف‌نظرهایی درباره تقسیم مسئولیت میان سازندگان سیستم‌عامل و شبکه‌های اجتماعی ایجاد کند. اگر تأیید سن در سطح فروشگاه برنامه انجام شود، بخشی از مسئولیتی که اکنون برعهده هر سرویس است به زیرساخت توزیع اپلیکیشن منتقل خواهد شد.
در عین حال، چنین رویکردی نیز وابسته به دقت اطلاعات اولیه است و نمی‌توان آن را راه‌حلی بدون احتمال خطا دانست.
گسترش طرح به فیسبوک و Threads
برنامه جدید فقط به اینستاگرام محدود نخواهد ماند.
متا تأیید کرده که گسترش فناوری تخمین سن را در فیسبوک نیز ادامه می‌دهد و قصد دارد در ادامه سال ۲۰۲۶ فناوری مشابهی را به‌صورت جهانی در Threads عرضه کند.
این موضوع برای شرکتی که چند شبکه اجتماعی بزرگ را مدیریت می‌کند اهمیت دارد. ممکن است یک نوجوان هم‌زمان از اینستاگرام، فیسبوک و Threads استفاده کند و در هرکدام رفتار متفاوتی داشته باشد.
متا تلاش می‌کند سیاست‌های محافظتی را میان محصولات خود هماهنگ‌تر کند، اما زمان‌بندی عرضه و جزئیات فنی ممکن است برای هر سرویس متفاوت باشد.
همچنین نباید از اعلام گسترش جهانی نتیجه گرفت که تمام حساب‌های موجود در همه کشورها فوراً بررسی شده‌اند. عرضه گسترده فناوری‌های نرم‌افزاری معمولاً در چند مرحله انجام می‌شود و متا نیز از ادامه فرایند گسترش سخن گفته است.
شرکت در اطلاعیه جدید خود آمار دقیق تعداد حساب‌هایی که در هر کشور شناسایی خواهند شد ارائه نکرده است. عبارت «میلیون‌ها نوجوان» توصیفی از مقیاس مورد انتظار طرح است و تعداد قطعی کاربران شناسایی‌شده در روز اعلام خبر محسوب نمی‌شود.
فشار پرونده‌های حقوقی بر متا
گسترش فناوری تشخیص سن در شرایطی اعلام شده که متا در آمریکا با پرونده‌های حقوقی متعددی درباره تأثیر شبکه‌های اجتماعی بر کودکان و نوجوانان روبه‌رو بوده است.
در اوت ۲۰۲۶، این شرکت با گروهی از دادستان‌های کل ایالت‌ها و مناطق آمریکا به توافق‌هایی دست یافت که ارزش احتمالی آن‌ها در گزارش‌های خبری تا حدود ۱۸ میلیارد دلار عنوان شده است.
این رقم به معنای آن نیست که متا الزاماً تمام این مبلغ را یکجا پرداخت کرده است. چنین توافق‌هایی ممکن است شامل تعهدات مالی، شرایط اجرایی و الزامات دیگری باشند.
یکی از موضوعات مطرح‌شده در این پرونده‌ها، ادعاهایی درباره طراحی اعتیادآور محصولات و آسیب احتمالی آن‌ها به کاربران نوجوان بوده است.
باید میان ادعاهای حقوقی علیه شرکت و یافته‌های قطعی درباره تأثیر هر محصول بر سلامت کاربران تفاوت گذاشت. وجود پرونده و توافق حقوقی به‌تنهایی ثابت نمی‌کند تمام اتهامات مطرح‌شده در آن درست بوده‌اند.
با این حال، این پرونده‌ها فشار قابل‌توجهی برای تغییر سیاست‌های متا ایجاد کرده‌اند.
در بخشی از تعهدات جدید، شرکت پذیرفته است تلاش بیشتری برای شناسایی حساب‌های متعلق به کودکان و نوجوانان انجام دهد. به همین دلیل گسترش فناوری تخمین سن را می‌توان هم تصمیمی فنی و هم پاسخی به فشارهای نظارتی و حقوقی دانست.
آیا هوش مصنوعی می‌تواند سن کاربران را دقیق تشخیص دهد؟
مهم‌ترین پرسش درباره این فناوری، میزان دقت آن است.
متا می‌گوید از نتایج مراحل قبلی استفاده از سیستم تخمین سن رضایت داشته و به همین دلیل تصمیم گرفته دامنه استفاده از آن را افزایش دهد. با این حال، در اطلاعیه ۹ نوامبر ارقام جامعی درباره دقت جهانی، نرخ تشخیص اشتباه یا تفاوت عملکرد سیستم در کشورهای مختلف ارائه نشده است.
بدون چنین داده‌هایی نمی‌توان مشخص کرد چه تعداد کاربر بزرگسال ممکن است به اشتباه در گروه نوجوانان قرار بگیرند یا چه تعداد نوجوان همچنان از شناسایی سیستم خارج بمانند.
برای ارزیابی واقعی عملکرد، علاوه بر میزان موفقیت در شناسایی نوجوانان، باید احتمال مثبت کاذب و منفی کاذب نیز بررسی شود.
مثبت کاذب زمانی رخ می‌دهد که سیستم فردی را نوجوان تشخیص دهد، در حالی که او بزرگسال است. منفی کاذب نیز زمانی اتفاق می‌افتد که کاربر واقعاً نوجوان باشد، اما سیستم او را شناسایی نکند.
این دو نوع خطا پیامد یکسانی ندارند. خطای نخست ممکن است دسترسی یک کاربر بزرگسال را محدود کند، در حالی که خطای دوم باعث می‌شود نوجوانی از برخی تنظیمات حفاظتی محروم بماند.
مسئله حریم خصوصی نیز اهمیت دارد. هر فناوری‌ای که برای برآورد سن کاربران به داده‌های مرتبط با حساب متکی باشد، باید درباره نحوه جمع‌آوری، استفاده و نگهداری اطلاعات پاسخ‌گو باشد.
صرف استفاده از هوش مصنوعی به معنای نقض حریم خصوصی نیست، اما نامشخص بودن معیارهای تصمیم‌گیری و اطلاعات مورد استفاده می‌تواند نگرانی ایجاد کند.
از سوی دیگر، سخت‌گیرانه‌تر شدن محدودیت‌ها ممکن است برخی نوجوانان را به استفاده از حساب‌های جایگزین یا روش‌های دیگر برای دور زدن تنظیمات تشویق کند. میزان وقوع چنین رفتارهایی و تأثیر آن بر نتیجه طرح، به بررسی تجربی نیاز دارد.
این تغییر برای کاربران اینستاگرام چه معنایی دارد؟
برای نوجوانانی که سن واقعی خود را هنگام ثبت‌نام وارد کرده‌اند، بخش زیادی از تنظیمات حساب نوجوانان ممکن است پیش‌تر فعال شده باشد.
تغییر مهم بیشتر متوجه حساب‌هایی است که سن ثبت‌شده آن‌ها با برآورد متا درباره گروه سنی کاربر تفاوت دارد.
اگر اینستاگرام حسابی را متعلق به نوجوان تشخیص دهد، احتمال دارد تنظیمات محافظتی مخصوص این گروه برای آن اعمال شود، حتی اگر تاریخ تولد حساب متعلق به فردی بزرگسال باشد.
برای والدین نیز این تغییر به معنای کاهش اتکای کامل سرویس به اطلاعاتی است که فرزندشان هنگام ثبت‌نام وارد کرده است. البته ابزارهای خودکار نمی‌توانند جای گفت‌وگو درباره استفاده مسئولانه از اینترنت یا نظارت متناسب با سن را بگیرند.
برای صنعت فناوری، تصمیم متا نشانه گسترش استفاده از هوش مصنوعی در مدیریت دسترسی کاربران است. هوش مصنوعی در اینجا نه برای تولید متن و تصویر، بلکه برای اجرای سیاست‌های مربوط به گروه‌های سنی به کار گرفته می‌شود.
موفقیت این برنامه در نهایت به چند عامل بستگی دارد: دقت تشخیص، امکان اصلاح تصمیم‌های اشتباه، شفافیت درباره داده‌های مورد استفاده و توانایی اعمال محدودیت‌هایی که واقعاً به تجربه ایمن‌تر نوجوانان کمک کنند.
در حال حاضر آنچه قطعی است، اعلام گسترش جهانی این فناوری در ۹ نوامبر ۲۰۲۶ است. میزان تأثیر واقعی آن بر امنیت نوجوانان و تعداد حساب‌هایی که پس از اجرای طرح شناسایی خواهند شد، هنوز به داده‌های اجرایی و ارزیابی‌های مستقل نیاز دارد.
منبع: Meta، Reuters، Engadget، TechCrunch
