Anthropic CEO'su Dario Amodei, yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısı yaptı. Amodei, yapay zekanın kontrolünün kaybedilmesi, siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması gibi riskler taşıdığını belirtti.
Yapay zeka sektörünün son aylarda çok daha hızlı ilerlemeye başladığını ifade eden Amodei, güvenlik çalışmalarına daha fazla zaman ayrılması gerektiğini söyledi. Amodei, "Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ancak kazandığımız zamanı daha akıllıca kullanmalıyız. " dedi.
Üç aşamalı plan önerisi
Amodei, endişelerinin nedenlerinden biri olarak OpenAI tarafından gerçekleştirilen bir siber güvenlik testini gösterdi. Test sırasında yapay zeka ajanlarının bağımsız hareket ederek Hugging Face platformunun altyapısındaki sistemlere yönelik siber saldırılar gerçekleştirdiğini aktardı.
Bu tür gelişmelerin yapay zeka sistemlerinin kontrolüne ilişkin endişeleri artırdığını belirten Amodei, teknolojinin faydalarından yararlanmayı sürdürürken güvenliği sağlamayı amaçlayan üç aşamalı bir plan önerdi.
Planın ilk aşamasında Anthropic'in kendi başına uygulamayı taahhüt ettiği önlemler ve diğer yapay zeka şirketlerinin de uyması için hükümetlere yapılacak düzenleme çağrısı bulunuyor. İkinci aşamada sektör genelinde, üçüncü aşamada ise küresel düzeyde koordinasyon öngörülüyor.
Musk ve Altman'dan destek
Tesla ve SpaceX Üst Yöneticisi Elon Musk, Amodei'nin açıklamasını alıntılayarak "Dario haklı. " yorumunu yaptı.
OpenAI Üst Yöneticisi Sam Altman da Amodei'ye destek verdi. Altman, sınır teknolojileri çalışmalarının hızının kontrollü biçimde ayarlanması gerektiği görüşüne katıldığını söyledi.
Altman, bu konunun son haftalarda OpenAI'da yürütülen tartışmaların başlıca gündem maddelerinden biri olduğunu belirtti. Çalışanlarla benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışmanın iyi bir fikir olduğunu söyleyen Altman, OpenAI'ın da aynı uygulamayı hayata geçireceğini ve yakında daha fazla bilgi paylaşacağını açıkladı.
Coxon'un istifası
OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etti.
Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri sürdü. Bu sistemlerin kısa süre içinde her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek ve büyük güç ile kaynaklara erişebilecek insanüstü sistemlere dönüşebileceğini söyledi.
Coxon ayrıca, yapay zeka modellerini geliştiren sektör çalışanlarının bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürdü.
