Anthropic kurucularından Clark, yapay zekâ yazılımının çok tehlikeli hale gelmesi ihtimaline karşı sistemi tamamen devre dışı bırakacak yöntemlerin kamu politikası kapsamında ele alınması gerektiğini söyledi.
Clark, aralarında Anthropic’in de bulunduğu birçok şirketin çeşitli "kapatma düğmesi" yöntemlerine sahip olduğunu belirtti. "Acil kapatma düğmesi" için gerekliliklerin ve denetim mekanizmalarının, yapay zekâ alanındaki daha geniş politika tartışmasının parçası olması gerektiğini ifade etti.
Acil kapatma mekanizması için kural önerisi
BBC’nin, şirketlerin acil kapatma düğmesi bulundurmasının zorunlu hale getirilip getirilmemesi ve bu mekanizmanın üçüncü bir tarafça kontrol edilip edilmemesi yönündeki sorusunu yanıtlayan Clark, bunun toplumun bilmek isteyebileceği ve ileride kurallara bağlamak isteyebileceği bir konu olduğunu söyledi.
Yapay zekânın insanlığın tamamını yok etme ihtimali konusunda belirli istatistiklerin yararlı olmayacağını belirten Clark, yapay zekâ sektörünün tamamen kontrolsüz bırakılmasının kötü bir fikir olduğunu dile getirdi.
Clark, "Muazzam riskler alarak kumar oynuyoruz" değerlendirmesini yaptı. Sektörün gidişatının değiştirilmesi gerektiğini vurguladı.
Eski araştırmacıdan şirketlere yönelik suçlama
OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, Anthropic’ten istifa ederken iki şirketin yapay zekâ konusunda yeterince sorumlu davranmadığını savundu.
Coxon, şirketlerin kendi kendini geliştirebilen yapay zekâ sistemleri için kontrolsüz bir yarış yürüttüğünü ileri sürdü. Bu sistemlerin yakın gelecekte her şeyi hackleyebilecek insanüstü yapılara dönüşebileceğini iddia etti.
Coxon ayrıca, yapay zekâ modelleri geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde insanlığı öldürebileceğine ciddi biçimde inandığını öne sürdü.
