ميزة جديدة من OpenAI تتوقع عمر المستخدمين عبر أسلوب تواصلهم
قدمت OpenAI آلية جديدة تعتمد على الذكاء الاصطناعي لتقدير عمر المستخدمين، بهدف حماية من هم دون 18 عامًا من التعرض لمحتوى غير مناسب. وتقوم الميزة بتحليل أنماط الاستخدام وبعض بيانات الحساب لتفعيل مرشحات المحتوى تلقائيًا، بما يحد من الوصول إلى المواد الإباحية.
انتقادات سابقة ومخاوف تتعلق بالقاصرين
خلال السنوات الماضية، واجهت OpenAI موجات انتقاد بسبب التأثير المحتمل لـ ChatGPT على الأطفال. وتم ربط الروبوت بعدد من حالات انتحار لدى مراهقين، كما تعرضت الشركة لانتقادات، على غرار مزودي الذكاء الاصطناعي الآخرين، بسبب السماح بإجراء محادثات ذات طابع جنسي مع مستخدمين صغار. وفي أبريل من العام الماضي، اضطرت OpenAI إلى معالجة خلل تقني أتاح للروبوت إنتاج محتوى إباحي لمستخدمين دون سن 18 عامًا.
كيف تعمل ميزة التنبؤ بالعمر
تقول الشركة إنها تعمل منذ مدة على تقليص مخاطر استخدام القاصرين للخدمة، وتأتي ميزة “التنبؤ بالعمر” كإضافة إلى منظومة الحماية الموجودة. ووفق بيان نشرته OpenAI على مدونتها يوم الثلاثاء، تعتمد الميزة على خوارزمية ذكاء اصطناعي تفحص حسابات المستخدمين بحثًا عن “مؤشرات سلوكية وحسابية” تساعد على التعرف على الحسابات التي يرجح أنها تعود لقاصرين.
ما المؤشرات التي يتم الاعتماد عليها
توضح OpenAI أن هذه “المؤشرات” قد تشمل عناصر مثل العمر الذي يصرح به المستخدم، ومدة إنشاء الحساب، وأوقات النشاط المعتادة. وتؤكد الشركة أنها تطبق بالفعل مرشحات محتوى مصممة لحجب النقاشات المرتبطة بالجنس والعنف وغيرها من الموضوعات التي قد تكون غير مناسبة لمن هم دون 18 عامًا. وعندما يستنتج محرك التنبؤ بالعمر أن الحساب يعود لقاصر، يتم تشغيل هذه المرشحات تلقائيًا.
ماذا لو تم تصنيف الحساب بشكل خاطئ
في حال تم اعتبار المستخدم قاصرًا عن طريق الخطأ، تشير OpenAI إلى وجود وسيلة لاستعادة وضع البالغ. ويتم ذلك عبر إرسال صورة شخصية إلى أحد شركاء شركة Persona من أجل التحقق من الهوية.
