أعلنت OpenAI في بيان نشرته على موقعها أن أداة تصنيف الصور الجديدة تحلل المؤشرات البصرية لتحديد الصور التي تتضمن إساءة استغلال الأطفال ولم يسبق اكتشافها. وتقدم الأداة لفرق المراجعة درجات توضح الصور التي ينبغي تقييمها أولًا.
وقالت الشركة إنها ستقدم الأداة مجانًا إلى المؤسسات المعتمدة، ووصفتها بأنها أول أداة تصنيف متاحة على نطاق واسع تقدم إشارة متخصصة للمحتوى الإلكتروني المتعلق بإساءة استغلال الأطفال والمُنتج بالذكاء الاصطناعي.
حظر الوصول إلى ChatGPT لمدة 24 ساعة

ستطبق OpenAI، إضافة إلى تدابير السلامة الحالية، آليات تحذير جديدة لوقف محاولات البحث عن محتوى يتضمن إساءة استغلال الأطفال في ChatGPT. وسيُوضح للمستخدم أن هذا النوع من المحتوى يسبب ضررًا حتى عندما يُنتج بالذكاء الاصطناعي.
ستُزال المحادثة التي جرى وضع علامة عليها، وسيُعلّق وصول المستخدم إلى ChatGPT لمدة 24 ساعة؛ كما ستُقدم خلال هذه الفترة مساعدة من خبراء للمساعدة على إنهاء السلوكيات الضارة. وفي حال تكرار الانتهاكات، قد تُفرض قيود أطول، أو يُغلق الحساب، أو تُحال الحالة إلى السلطات.
وأوضحت الشركة أنها طورت هذا النهج بمساهمات من مؤسسات تعمل على منع إساءة استغلال الأطفال ومستشارين أكاديميين.