روبلوكس تطلق نظام ذكاء اصطناعي جديد لحماية الأطفال من المتحرشين
يأخذ برنامج Sentinel التابع لمنصة روبلوكس لقطات سريعة مدتها دقيقة واحدة للمحادثات داخل المنصة ويقوم بتحليلها للكشف عن أي أضرار محتملة تشير إلى التحرش بالأطفال.
ستقوم روبلوكس المنصة الشهيرة للألعاب الإلكترونية بين الأطفال والمراهقين، بإطلاق نسخة مفتوحة المصدر من نظام الذكاء الاصطناعي، والذي تقول إنه يمكنها من التعرف على اللغة الخادعة في محادثات الألعاب مسبقاً.
وتأتي هذه الخطوة في ظل مواجهة الشركة لدعاوى قضائية وانتقادات تتهمها بالفشل في حماية الأطفال من المتنمرين.
كما تدعي معظم القضايا المرفوعة أن خصائص تصميم روبلوكس تجعل الأطفال الذين يستخدمونه أهدافًا سهلة للمتحرشين.
وصرحت روبلوكس بأنها تعمل بجد على تعزيز أمان أنظمتها افتراضياً، لكنها أشارت إلى عدم وجود نظام مثالي؛ وأوضحت أن أحد أكبر التحديات في هذا المجال هو الكشف عن الأضرار الجسيمة مثل مخاطر تعرض الأطفال للخطر.
ويقوم نظام الذكاء الاصطناعي المعروف باسم Sentinel بمساعدة في الكشف المبكر عن إمكانية تعرض الأطفال للخطر، مثل استخدام لغة تحمل دلالات استغلالية.
وتشير روبلوكس إلى أن النظام الجديد قد أتاح للشركة إرسال 1200 تقرير عن محاولات محتملة لاستغلال الأطفال إلى الجهات المعنية في النصف الأول من عام 2025.
وأوضحت أنه قد يكون من الصعب الكشف المبكر عن المخاطر المحتملة التي قد تواجه الأطفال، سواء بالنسبة لأنظمة الذكاء الاصطناعي أو للبشر، لأن المحادثات قد تبدو غير ضارة في البداية؛ فأسئلة مثل "كم عمرك؟" أو "من أين أنت؟" ليست بالضرورة مثيرة للقلق بحد ذاتها، ولكن عندما توضع في سياق محادثة طويلة، قد تكتسب دلالة مختلفة.
