أعادت استقالة جديدة من داخل الشركات التي تطور أكثر أنظمة الذكاء الاصطناعي تقدمًا في العالم نقاش سلامة الذكاء الاصطناعي إلى صدارة الاهتمام.
أعلن الباحث البريطاني جاكوب كوكسون، البالغ من العمر 27 عامًا والذي عمل خلال السنوات الثلاث الأخيرة على تدريب نماذج ذكاء اصطناعي متقدمة في OpenAI وAnthropic، مغادرته منصبه في Anthropic وتركه قطاع الذكاء الاصطناعي بالكامل.
لكن سبب كوكسون لا يتعلق بتغيير مهني عادي، بل يثير اهتمامًا أكبر بكثير.
ويقول الباحث إنه يشعر بالقلق من أن يؤدي السباق الذي تخوضه شركات الذكاء الاصطناعي الرائدة في العالم للوصول إلى أنظمة قادرة على تطوير نفسها إلى نتائج قد تخرج عن سيطرة البشرية.
واتهم كوكسون شركتي OpenAI وAnthropic بالتصرف بشكل غير مسؤول، وقال إن الشركتين تتسابقان نحو ذكاء فائق قادر على تطوير نفسه، وإنهما «تقومانر بحياتنا» خلال هذه العملية.
انتقل من OpenAI إلى Anthropic
كان جاكوب كوكسون يعمل في قطاع الذكاء الاصطناعي، ولا سيما في مرحلة التدريب المسبق للنماذج، المعروفة باسم «pretraining».
وتعد هذه المرحلة إحدى أهم مراحل تطوير الذكاء الاصطناعي، إذ تكتسب خلالها نماذج اللغة الكبيرة قدراتها الأساسية باستخدام كميات هائلة من البيانات.
وبحسب ما أوضح كوكسون، أجرى خلال السنوات الثلاث الأخيرة أبحاثًا في هذا المجال داخل كل من OpenAI وAnthropic.
وفي مطلع عام 2026، غادر OpenAI وانتقل إلى Anthropic. وقال كوكسون إن أهمية سلامة الذكاء الاصطناعي لدى الشركة كانت عاملًا مؤثرًا في اختياره لها.
لكنه أوضح أن مخاوفه لم تتبدد بعد الفترة التي قضاها في Anthropic.
ويرى كوكسون أن خطورة مخاطر الذكاء الاصطناعي مفهومة داخل Anthropic، إلا أن الشركة تجد صعوبة في إبطاء العمل على الأنظمة المتقدمة من جانب واحد بسبب المنافسة مع المختبرات الأخرى.
قد يخرج عن السيطرة بحلول نهاية عام 2027
كان أحد أبرز تصريحات كوكسون متعلقًا بالجدول الزمني لتطور الذكاء الاصطناعي.
وقال كوكسون لصحيفة The Wall Street Journal إنه يخشى، في حال تحقق أكثر السيناريوهات اندفاعًا، أن تكون بعض التطورات قد خرجت بالفعل عن السيطرة بحلول نهاية عام 2027.
ويتمثل القلق الأساسي لدى كوكسون في أن تصبح أنظمة الذكاء الاصطناعي قادرة بما يكفي على المساهمة في عمليات تطويرها.
وفي مثل هذا السيناريو، قد لا يقتصر دور نظام ذكاء اصطناعي متقدم على تنفيذ المهام التي يحددها البشر، بل قد يساعد أيضًا بدرجة كبيرة في تطوير أنظمة ذكاء اصطناعي جديدة.
وقد يؤدي ذلك نظريًا إلى تسريع تطور الذكاء الاصطناعي، وإلى صعوبة مواكبة البشر للزيادة في قدرات الأنظمة.
الذكاء الفائق القادر على تطوير نفسه
من المفاهيم الأساسية في هذا النقاش «الذكاء الفائق القادر على تطوير نفسه»، أو «self-improving superintelligence».
ولا تعد أنظمة مثل ChatGPT أو Claude اليوم ذكاءات فائقة مستقلة خرجت عن سيطرة البشر من خلال تطوير نفسها بلا حدود.
ويتمثل تحذير كوكسون في الأنظمة الأقوى بكثير التي قد تظهر مستقبلًا.
ويخشى الباحث أن تصل أنظمة الذكاء الاصطناعي المستقبلية إلى قدرات عالية جدًا في مجالات مثل تطوير البرمجيات والأمن السيبراني والبحث العلمي وتطوير نماذج ذكاء اصطناعي جديدة.
لكن من الضروري التأكيد على أن هذه ليست أحداثًا وقعت اليوم، بل سيناريوهات مخاطر تتعلق بأنظمة قد تظهر في المستقبل.
مطورو الذكاء الاصطناعي يأخذون الخطر على محمل الجد
كان من أبرز ما ورد في تصريحات كوكسون ما يتعلق بالأجواء داخل شركات الذكاء الاصطناعي.
وقال الباحث إن بعض العاملين على تطوير الذكاء الاصطناعي يؤمنون فعلًا بأن الذكاء الاصطناعي المتقدم قد يشكل، قبل نهاية العقد، خطرًا قد يؤدي إلى كارثة بالنسبة إلى البشرية.
وبحسب كوكسون، يستخدم مديرو الشركات وكبار الباحثين عبارات أكثر حذرًا في تصريحاتهم العلنية، بينما تناقش المخاطر بحدة أكبر بكثير في الاجتماعات الخاصة داخل الشركات.
وبعد تصريحات كوكسون، زادت تصريحات أخرى من داخل Anthropic من حدة النقاش.
تصريح لافت من مسؤول المواءمة في Anthropic
ورد إيفان هوبينغر، المسؤول عن علوم المواءمة في Anthropic، على تصريحات كوكسون وشارك تقييمه الخاص للمخاطر مع الجمهور.
وقال هوبينغر إنه يقدر شخصيًا باحتمال يتجاوز 10% سيناريو قد يؤدي فيه الذكاء الاصطناعي المتقدم إلى انقراض البشرية خلال العقد المقبل.
كما لفت هوبينغر إلى مشكلة أساسية لم تتمكن Anthropic من حلها بعد فيما يتعلق بالذكاء الفائق.
وبحسب الباحث، تعمل الشركة على حل مشكلة «المواءمة» التي تضمن بقاء الذكاء الفائق متوافقًا بأمان مع الأهداف البشرية، لكنها لا تملك حلًا نهائيًا بعد.
وتشير المواءمة إلى إبقاء أهداف نظام الذكاء الاصطناعي وسلوكه متوافقين مع مقاصد البشر وقيمهم وحدود السلامة.
وأشار هوبينغر أيضًا إلى أن المخاطر الناجمة عن النماذج الحالية منخفضة، مؤكدًا أن مصدر قلقه الأساسي يتمثل في أنظمة أقوى بكثير قد تسرع تطويرها بنفسها في المستقبل.
المخاوف لا تقتصر على Anthropic
ولا تأتي المخاوف بشأن سرعة سباق الذكاء الاصطناعي من داخل Anthropic وحدها.
فقد بدأ كبار المسؤولين في OpenAI أيضًا، خلال الفترة الأخيرة، بإصدار تحذيرات أقوى بشأن المخاطر التي قد تشكلها أنظمة الذكاء الاصطناعي المتقدمة.
ودعا كبير العلماء في OpenAI، جاكوب باتشوكي، إلى «أقصى درجات الحذر» إزاء نتائج التطور السريع للذكاء الآلي، مطالبًا بالتنسيق بين الشركات والحكومات.
كما قال الرئيس التنفيذي لـ OpenAI، سام ألتمان، إنه يجب اتخاذ إجراءات سريعة لمواجهة مخاطر الأمن السيبراني التي قد تشكلها أنظمة الذكاء الاصطناعي المتقدمة، على وجه الخصوص.
وهكذا تتزايد الدعوات الصادرة من داخل الشركات التي تطور أقوى أنظمة الذكاء الاصطناعي في العالم إلى إدارة وتيرة تطور التقنية نفسها بمزيد من الحذر.
المشكلة الأساسية: هل تستطيع الشركات التباطؤ؟
ويرى جاكوب كوكسون أن المشكلة لا تقتصر على سياسات السلامة في OpenAI أو Anthropic.
فالمشكلة الأساسية هي المنافسة بين الشركات.
وتدفع فكرة أن شركة ما قد تتخلف عن منافسيها إذا أبطأت عملها على الذكاء الاصطناعي المتقدم لأسباب تتعلق بالسلامة، الشركات إلى مواصلة سباق التطوير.
ولهذا يعتقد كوكسون أن المشكلة لا يمكن حلها بقرار منفرد من شركة واحدة.
ويرى الباحث أنه ينبغي مناقشة خيارات مثل إبرام اتفاقات بين مختبرات الذكاء الاصطناعي للحد من سرعة التطوير، والتدخل الحكومي، وتعليق تطوير قدرات النماذج المتقدمة مؤقتًا عند الضرورة.
هل يبدأ عصر جديد في سباق الذكاء الاصطناعي؟
لا تثبت استقالة جاكوب كوكسون وحدها أن الذكاء الاصطناعي على وشك الخروج عن السيطرة.
لكن ما يجعل القضية لافتة هو أن التحذير صدر عن باحث عمل مباشرة على نماذج متقدمة في مختبرات الذكاء الاصطناعي الرائدة في العالم، وليس عن ناقد يراقب التقنية من خارجها.
وفوق ذلك، فإن مشاركة بعض مخاوف كوكسون علنًا من جانب كبار باحثي السلامة في Anthropic تنقل نقاش سلامة الذكاء الاصطناعي إلى نقطة مختلفة.
ولا توجد اليوم مؤشرات على أن ChatGPT وClaude وغيرهما من أنظمة الذكاء الاصطناعي الكبيرة قد استولت بنفسها على السيطرة باعتبارها ذكاءات فائقة.
ويركز النقاش على ما إذا كان البشر سيتمكنون، في حال تطورت أنظمة الجيل المقبل بسرعة أكبر بكثير من أنظمة اليوم، من تطوير الآليات التقنية والقانونية اللازمة لإبقائها تحت السيطرة في الوقت المناسب.
وهذا هو السؤال تحديدًا الذي يواجه عالم التقنية بعد استقالة كوكسون:
هل ستتمكن شركات الذكاء الاصطناعي من تحمل كلفة التباطؤ في سباق الذكاء الفائق، أم أن ضغط المنافسة سيدفع التقنية إلى الأمام بوتيرة أسرع من تدابير السلامة؟
