تقرير: هاغينغ فيس تستضيف نماذج ذكاء اصطناعي تُستخدم لإنشاء صور عارية غير رضائية للنساء والأطفال

تفاصيل التقرير

كشف تحقيق أجرته منظمة AI Forensics الأوروبية غير الربحية أن منصة هاغينغ فيس (Hugging Face) تستضيف نماذج ذكاء اصطناعي مفتوحة المصدر يمكن استخدامها بسهولة لإنشاء صور عارية غير رضائية للنساء والأطفال. ووجد التقرير أن 7 من أصل 9 نماذج تعديل صور رائدة على المنصة استجابت لأوامر "تعرية" باستخدام أوامر نصية بسيطة.

مقارنة مع النماذج التجارية

في المقابل، تمتلك النماذج التجارية مثل جيميني من جوجل وChatGPT من أوبن إيه آي حواجز أمان قوية تمنع مثل هذه الأوامر. هذا يسلط الضوء على الفجوة في الحماية بين النماذج المفتوحة والمغلقة.

التأثير على الشرق الأوسط

مع تزايد استخدام الذكاء الاصطناعي في المنطقة، يثير هذا التقرير مخاوف جدية حول الخصوصية والأمن الرقمي. يجب على الحكومات والشركات في الشرق الأوسط مراجعة سياساتها واعتماد تشريعات تحمي المواطنين من إساءة استخدام هذه التقنيات.

توصيات

• تعزيز الرقابة على منصات استضافة النماذج المفتوحة.
• تطوير أدوات كشف التزييف العميق محلياً.
• رفع الوعي العام حول مخاطر هذه التقنيات.

ملاحظة للمراجعة البشرية: يرجى التحقق من دقة المعلومات المتعلقة بالتشريعات المحلية في دول الشرق الأوسط.