اینستاگرام، یکی از محبوب‌ترین شبکه‌های اجتماعی در میان نوجوانان، با استفاده از هوش مصنوعی (AI) در حال تشدید تلاش‌های خود برای شناسایی کاربران زیر 18 سالی است که درباره سنشان دروغ می‌گویند. شرکت متا، مالک اینستاگرام، روز دوشنبه اعلام کرد که با این فناوری، حساب‌هایی که مشکوک به متعلق بودن به نوجوانان هستند، حتی اگر سن بزرگسال را ثبت کرده باشند، به‌صورت خودکار به حساب‌های محدودشده «حساب نوجوان» (Teen Account) منتقل می‌شوند. این اقدام در راستای افزایش ایمنی و حفاظت از کاربران جوان در برابر محتوای نامناسب و مخاطرات آنلاین انجام می‌شود. در این مقاله از آکادمی دلاورس، جزئیات این فناوری، کاربردها و چالش‌های آن را بررسی می‌کنیم.
حساب نوجوان چیست؟
حساب‌های نوجوان که سال گذشته در اینستاگرام معرفی شدند، تجربه‌ای با محدودیت‌های داخلی برای کاربران زیر 18 سال فراهم می‌کنند. این حساب‌ها به‌طور پیش‌فرض خصوصی هستند و شامل ویژگی‌هایی مثل:
- محدودیت پیام‌رسانی: نوجوانان فقط می‌توانند از افرادی که دنبال می‌کنند یا قبلاً با آن‌ها در ارتباط بوده‌اند، پیام دریافت کنند.
- محدودیت محتوا: محتوای حساس مثل ویدئوهای خشونت‌آمیز یا تبلیغات جراحی‌های زیبایی برای این حساب‌ها محدود می‌شود.
- کنترل زمان: اعلان‌هایی برای محدود کردن زمان استفاده (بعد از 60 دقیقه) و حالت خواب (خاموش شدن اعلان‌ها از 10 شب تا 7 صبح).
- نظارت والدین: کاربران زیر 16 سال برای تغییر تنظیمات این حساب‌ها نیاز به اجازه والدین دارند.
تاکنون، متا بیش از 54 میلیون حساب نوجوان را در سراسر جهان فعال کرده و گزارش داده که 97٪ از کاربران 13 تا 15 ساله همچنان این تنظیمات محافظتی را حفظ کرده‌اند.
هوش مصنوعی چگونه سن را تشخیص می‌دهد؟
متا از ابزار هوش مصنوعی اختصاصی خود به نام «طبقه‌بندی‌کننده بزرگسال» (Adult Classifier) استفاده می‌کند تا کاربران را به دو گروه سنی (بالای 18 یا زیر 18 سال) دسته‌بندی کند. این ابزار بر اساس داده‌های حساب کاربر عمل می‌کند، از جمله:
- فعالیت‌های کاربر: نوع محتوایی که کاربر با آن تعامل دارد.
- اطلاعات پروفایل: جزئیات پروفایل و زمان ایجاد حساب.
- شبکه اجتماعی: لیست دنبال‌کنندگان و افرادی که کاربر دنبال می‌کند.
- نشانه‌های خارجی: پست‌های تبریک تولد از دوستان یا گزارش‌های سایر کاربران.
جالب است که این فناوری حتی بدون استفاده از متادیتای تصاویر (مثل EXIF) یا اطلاعات مستقیم، می‌تواند سن تقریبی را تخمین بزند. متا همچنین حساب‌هایی را که با ایمیل یا شناسه دستگاه مشابه اما تاریخ تولد متفاوت ایجاد می‌شوند، رصد می‌کند تا از دور زدن محدودیت‌ها جلوگیری کند.
چرا این موضوع مهم است؟
این اقدام متا در پاسخ به فشارهای فزاینده از سوی والدین، قانون‌گذاران و فعالان حوزه سلامت روان انجام شده است. تحقیقات، از جمله اسناد داخلی متا که در سال 2021 توسط فرانسیس هاوگن افشا شد، نشان داده‌اند که اینستاگرام می‌تواند تأثیر منفی بر سلامت روان نوجوانان، به‌ویژه دختران، داشته باشد. این تأثیرات شامل افزایش اضطراب، افسردگی و مشکلات مرتبط با تصویر بدن است.
علاوه بر این، بیش از 40 ایالت در آمریکا علیه متا شکایت کرده‌اند و مدعی‌اند که این شرکت با فناوری‌های اعتیادآور، سلامت روان جوانان را به خطر انداخته است. در ایران نیز، با توجه به محبوبیت گسترده اینستاگرام، چنین اقداماتی می‌توانند به ایجاد محیطی امن‌تر برای کاربران جوان کمک کنند.
کاربردها و فرصت‌ها
این فناوری هوش مصنوعی کاربردهای متعددی دارد:
- حفاظت از نوجوانان: محدود کردن دسترسی به محتوای نامناسب و کاهش خطراتی مثل آزار آنلاین یا تماس‌های ناخواسته.
- تقویت نظارت والدین: ارسال اعلان‌هایی به والدین برای آموزش اهمیت ثبت سن صحیح.
- اتوماسیون فرایندها: استفاده از AI برای شناسایی خودکار، کارایی پلتفرم را افزایش می‌دهد.
چالش‌ها و نگرانی‌ها
با وجود مزایا، این فناوری چالش‌هایی نیز دارد:
- دقت فناوری: متا هنوز دقت دقیق ابزار خود را اعلام نکرده و ممکن است بزرگسالان به اشتباه به حساب‌های نوجوان منتقل شوند. در حال حاضر، کاربرانی که به اشتباه شناسایی شوند، می‌توانند تنظیمات را به‌صورت دستی تغییر دهند، اما فرایند تجدیدنظر هنوز در حال توسعه است.
- دور زدن محدودیت‌ها: تحقیقات نشان می‌دهد که یک‌سوم کاربران زیر سن قانونی در شبکه‌های اجتماعی سن خود را 18 سال یا بالاتر ثبت می‌کنند.
- حریم خصوصی: تحلیل داده‌های کاربران برای تشخیص سن ممکن است نگرانی‌هایی درباره حریم خصوصی ایجاد کند، به‌ویژه در کشورهایی با قوانین سختگیرانه حفاظت از داده‌ها.
- مقاومت کاربران: برخی نوجوانان ممکن است با تغییر تنظیمات یا استفاده از حساب‌های جعلی، این محدودیت‌ها را دور بزنند.
برای حل این مشکلات، متا از روش‌های تأیید هویت مثل آپلود مدارک شناسایی یا سلفی ویدیویی با کمک سرویس شخص ثالث Yoti استفاده می‌کند. این تصاویر پس از تأیید حذف می‌شوند تا نگرانی‌های حریم خصوصی کاهش یابد.
نتیجه‌گیری
استفاده اینستاگرام از هوش مصنوعی برای شناسایی سن کاربران، گامی مهم در جهت ایجاد محیطی امن‌تر برای نوجوانان است. این فناوری، با وجود چالش‌هایی مثل دقت و حریم خصوصی، پتانسیل بالایی برای حفاظت از کاربران جوان دارد. در آکادمی دلاورس، ما متعهد به آموزش و توانمندسازی کاربران برای استفاده مسئولانه از هوش مصنوعی هستیم.
منبع: TechCrunch
دیدگاه شما