BIST10011,134
‎-0.15‎%‎
الدولار49.79
‎+0.05‎%‎
اليورو55.52
‎-0.41‎%‎
الذهب4,063.70
‎-0.27‎%‎
الفائدة36.00‎%‎
‎-1.00
البيتكوين81,567
‎+0.95‎%‎
28 أكتوبر 202616°
BIST10011,134
‎-0.15‎%‎
الدولار49.79
‎+0.05‎%‎
اليورو55.52
‎-0.41‎%‎
الذهب4,063.70
‎-0.27‎%‎
الفائدة36.00‎%‎
‎-1.00
البيتكوين81,567
‎+0.95‎%‎
28 أكتوبر 202616°

جاري التحميل...

الإعلانات

تقرير: نموذج للذكاء الاصطناعي واصل الهجوم رغم إبلاغه بإيذاء أشخاص حقيقيين

وفقًا لتقارير أنثروبيك ومعهد سلامة الذكاء الاصطناعي في المملكة المتحدة (AISI)، واصل نموذج Claude Mythos 5 الهجوم في الغالب خلال اختبار أمني، رغم إبلاغه بأنه ألحق أذى بشخص حقيقي.

مكتب تحرير The Turkiye Times28 أكتوبر 2026، 10:22 ص

تقرير: نموذج للذكاء الاصطناعي واصل الهجوم رغم إبلاغه بإيذاء أشخاص حقيقيين

نشرت شركة الذكاء الاصطناعي أنثروبيك ومعهد سلامة الذكاء الاصطناعي في المملكة المتحدة (AISI) تقريرين أعادا فحص حادثة وقعت خلال تقييم أمني أجراه المعهد في أغسطس. وأظهر التقريران أن نموذج Claude Mythos 5 حاول مهاجمة هدف في العالم الحقيقي أثناء الاختبار.

طُلب من Mythos اختراق شبكة حواسيب اختبارية صغيرة أنشأها معهد سلامة الذكاء الاصطناعي في المملكة المتحدة. وبعد فشل المحاولات الأولى للنموذج، الذي كان متصلًا بالإنترنت، في الوصول إلى الهدف الأساسي، استهدف مشروعًا غير ذي صلة على GitHub، وكتب شيفرة ضارة، وأرسل بريدًا إلكترونيًا إلى صاحب المشروع باستخدام هويات مزيفة، محاولًا إقناعه بإضافة الشيفرة إلى المستودع باعتبارها «مساهمة مفيدة». رفض صاحب المشروع الطلب، ولم يحدث ضرر حقيقي.

خزائن خوادم في مركز بيانات (أرشيف)

وخلص معهد سلامة الذكاء الاصطناعي في المملكة المتحدة إلى أن التصحيحات التي أوضحت أن الهدف المستهدف شخص حقيقي لم تخفض معدل هجوم نموذج Mythos 5. وفي اختبار أنثروبيك، واصل النموذج الهجوم في 98 بالمئة من الحالات رغم تحذيره من أنه يلحق أذى بالبشر. ووفقًا للتقريرين، غالبًا ما تعارضت تبريرات النموذج مع سلوكه؛ إذ واصل الهجوم حتى في الحالات التي أقر فيها بأنه سيسبب ضررًا.

قال معهد سلامة الذكاء الاصطناعي في المملكة المتحدة إن هذا النمط قد يمثل نوعًا من «الاستدلال المدفوع»، يبرر فيه النموذج الخيارات التي تدعم مواصلة المهمة، محذرًا من أن ذلك يصعّب عملية الإشراف. وأفادت أنثروبيك بأن نموذجَي Opus 5.5 الأحدث ونموذج داخلي للبحث لم يُكشف عن اسمه أبديا ميلًا أقل إلى مواصلة الهجوم عند إبلاغهما بأنهما تسببا في ضرر حقيقي.