أوبن إيه آي تطلق أداة لكشف صور استغلال الأطفال المولّدة بالذكاء الاصطناعي
أوبن إيه آي تطلق مصنّفًا لكشف صور استغلال الأطفال
أعلنت شركة أوبن إيه آي يوم الاثنين في مؤتمر صحفي بواشنطن العاصمة عن أداة تصنيف جديدة تهدف إلى مساعدة المحققين في قضايا استغلال الأطفال على التعامل مع الحجم الهائل من البلاغات. ووفقًا للشركة، يستطيع المصنّف الكشف عن الصور الإباحية للأطفال بشكل أفضل، بما في ذلك تحديد ما إذا كانت مولّدة بالذكاء الاصطناعي.
ماذا تشمل المبادرة؟
- مصنّف محتوى لكشف صور استغلال الأطفال، بما في ذلك المحتوى المولّد بالذكاء الاصطناعي.
- وصول مجاني للمنظمات المدققة التي تعمل في مجال حماية الأطفال.
- إرشادات للمطورين حول كيفية اكتشاف هذا النوع من المحتوى.
- تدريب لإنفاذ القانون على استخدام الذكاء الاصطناعي في التحقيقات.
يأتي هذا الإعلان في وقت تتصاعد فيه الضغوط من صانعي السياسات وغيرهم لفرض قيود سلامة إضافية على أدوات الذكاء الاصطناعي، مع اتهامات لشركات مثل أوبن إيه آي بالمساهمة في انتشار المحتوى الضار.
السياق التنظيمي
تتعرض شركات الذكاء الاصطناعي لانتقادات متزايدة بسبب سهولة إساءة استخدام أدوات التوليد، خاصة في إنشاء صور مزيفة أو محتوى غير قانوني. وتأتي خطوة أوبن إيه آي كاستجابة جزئية لهذه الضغوط، لكنها تثير أيضًا أسئلة حول فعالية هذه الأدوات ومدى كفايتها لحماية الأطفال.
ماذا يعني ذلك للمنطقة العربية؟
قد تكون المنظمات العربية المعنية بحماية الطفل مهتمة بالوصول المجاني إلى هذه الأداة، لكنها تحتاج إلى التحقق من معايير التدقيق التي تضعها أوبن إيه آي. كما يسلط الإعلان الضوء على الحاجة إلى أطر تنظيمية محلية للتعامل مع المحتوى المولّد بالذكاء الاصطناعي، خاصة مع تزايد استخدام هذه الأدوات في المنطقة.
تنويه: هذا المقال يلخّص معلومات من المصدر المذكور. للأرقام والتواريخ الرسمية، راجع الرابط الأصلي. لا نضيف تفاصيل غير منشورة في المصدر.
أسئلة شائعة
ما هي أداة أوبن إيه آي الجديدة لكشف استغلال الأطفال؟
هي مصنّف محتوى يهدف إلى مساعدة المحققين على تحديد الصور الإباحية للأطفال، بما في ذلك المولّدة بالذكاء الاصطناعي، وتصفية البلاغات الكبيرة بسرعة.
كيف يمكن للمنظمات في الشرق الأوسط الاستفادة منها؟
تتيح أوبن إيه آي الوصول المجاني للمنظمات المدققة، مما قد يساعد الجهات المعنية في المنطقة على تحسين كشف المحتوى الضار والاستجابة للبلاغات.
هل تفرض الحكومات قيودًا على أدوات الذكاء الاصطناعي بسبب هذا المحتوى؟
نعم، يشير الإعلان إلى ضغوط من صانعي السياسات لفرض قيود سلامة إضافية على أدوات الذكاء الاصطناعي، وسط اتهامات لشركات مثل أوبن إيه آي بالتسبب في انتشار المحتوى الضار.
المصدر: The Verge AI
ملخص بمساعدة الذكاء الاصطناعي من المصدر أعلاه. القصص عالية الثقة تُنشر تلقائياً، والبقية تنتظر مراجعة، ولا تُضاف وقائع غير موجودة في المصدر.