قال جاك كلارك، أحد مؤسسي أنثروبيك، إن وسائل تعطّل نظام برمجيات الذكاء الاصطناعي بالكامل في حال أصبح خطيراً للغاية ينبغي أن تُناقش في إطار السياسات العامة.
وأوضح كلارك أن العديد من الشركات، بما فيها أنثروبيك، تملك أساليب مختلفة لـ«زر الإيقاف». وأضاف أن متطلبات «زر الإيقاف الطارئ» وآليات الرقابة عليه ينبغي أن تكون جزءاً من النقاش الأوسع بشأن السياسات المتعلقة بمجال الذكاء الاصطناعي.

اقتراح وضع قواعد لآلية الإيقاف الطارئ
ورداً على سؤال من هيئة الإذاعة البريطانية «بي بي سي» حول ما إذا كان ينبغي إلزام الشركات بامتلاك زر إيقاف طارئ وما إذا كان ينبغي أن يتحكم طرف ثالث في هذه الآلية، قال كلارك إن هذا موضوع قد يرغب المجتمع في معرفته ووضع قواعد بشأنه مستقبلاً.
وقال كلارك إن الإحصاءات المحددة لن تكون مفيدة في ما يتعلق باحتمال أن يتسبب الذكاء الاصطناعي في إبادة البشرية جمعاء، مضيفاً أن ترك قطاع الذكاء الاصطناعي من دون أي ضوابط سيكون فكرة سيئة.

وقال كلارك: «نحن نخاطر ونقامر بمخاطر هائلة». وشدد على ضرورة تغيير مسار القطاع.
باحث سابق يتهم الشركات
قال جاكوب كوكسون، الذي عمل باحثاً في شركتي أوبن إيه آي وأنثروبيك خلال السنوات الثلاث الماضية، عند استقالته من أنثروبيك إن الشركتين لم تتصرفا بمسؤولية كافية في ما يتعلق بالذكاء الاصطناعي.
وزعم كوكسون أن الشركات تخوض سباقاً بلا ضوابط لتطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها. وادعى أن هذه الأنظمة قد تتحول في المستقبل القريب إلى كيانات خارقة للبشر قادرة على اختراق كل شيء.
كما زعم كوكسون أن بعض العاملين في القطاع الذين يطورون نماذج الذكاء الاصطناعي يؤمنون بجدية بأن هذه الأنظمة قد تقتل البشرية خلال 10 سنوات.