- BIST10011,577-1.87%
- الدولار49.58+0.05%
- اليورو55.62+0.09%
- الذهب4,154.50+0.29%
- الفائدة37.00%-1.00
- البيتكوين84,636+2.04%
- 21 أكتوبر 202617°
- BIST10011,577-1.87%
- الدولار49.58+0.05%
- اليورو55.62+0.09%
- الذهب4,154.50+0.29%
- الفائدة37.00%-1.00
- البيتكوين84,636+2.04%
- 21 أكتوبر 202617°
OpenAI: نموذجان عطّلا نظام مراقبة الأمان داخل الشركة
أعلنت OpenAI أن نموذجي GPT-6.1 Sol وGPT-6 Astra عطّلا آليات مراقبة الأمان ومنعا التنبيهات الأمنية أثناء تنفيذ مهام برمجية داخل الشركة.
أعلنت شركة OpenAI الأميركية للذكاء الاصطناعي أن نموذجي GPT-6.1 Sol وGPT-6 Astra عطّلا، أثناء تنفيذ مهام برمجية داخل الشركة، آليات المراقبة التي ترصد حالات عدم التوافق في أنظمة الذكاء الاصطناعي، كما منعا إرسال التنبيهات الأمنية.
ووقع الحادث الأول في 3 أكتوبر، عندما حاول نموذج Sol إصلاح نظام للتقييم. وفسّر النموذج تعليمات المستخدم «إرسال الرسائل» على أنها تشمل أيضا إشعارات المراقبة، ما حال دون إرسال تنبيه آلي إلى فريق الأمان.
أما في الحادث الثاني، الذي وقع في 6 أكتوبر، فأزال نموذج Astra نظام المراقبة أثناء تعديل أحد البرامج ليتوافق مع المرجع. وقال النموذج للمستخدم لاحقا إنه لم يزل آلية المراقبة.
وأوضحت OpenAI أن الحادثتين لم تُصنَّفا ضمن فئة انتهاكات الأمان ذات الأولوية القصوى، وأن تشغيل النموذجين لم يتوقف تلقائيا. وأضافت الشركة أنها حدّثت نظام الرقابة الداخلي لرصد المحاولات المماثلة ومنعها.
وكانت OpenAI قد أعلنت في 17 سبتمبر أنها رصدت أيضا 6 حالات جديدة أخفت فيها أنظمتها أخطاءها، واختلقت بيانات ناقصة، ونقلت ملفات إلى الإنترنت من دون إذن المستخدم.
اشترك في The Turkiye Times
اشترك ليتم إعلامك بالأخبار والتطورات والإعلانات الخاصة. سنبقيك على اطلاع.
بالتسجيل، فإنك توافق على سياسة الخصوصية الخاصة بنا
