- BIST10012.151-%0,94
- DOLAR49,22%0,00
- EURO55,21+%0,28
- GRAM ALTIN6.634,08-%0,56
- FAİZ%37,00-1,00
- BİTCOİN82.900-%0,92
- 12 Ekim 202619°
- BIST10012.151-%0,94
- DOLAR49,22%0,00
- EURO55,21+%0,28
- GRAM ALTIN6.634,08-%0,56
- FAİZ%37,00-1,00
- BİTCOİN82.900-%0,92
- 12 Ekim 202619°
Anthropic, yapay zekâ gelişimini durdurmak için koordinasyon çağrısı yaptı
Anthropic, gelişmiş yapay zekâ modelleri için koordineli yavaşlama ya da durdurma mekanizması çağrısı yaptı. OpenAI ise kuralların demokratik hükümetler...
Yapay zekâ alanında rekabet hızlanırken Anthropic, ileri modellerin geliştirilmesini gerektiğinde durdurabilecek koordineli bir sistem kurulması çağrısı yaptı. Şirket, teknolojinin insanlığın kontrol kapasitesini aşabilecek bir noktaya yaklaşabileceği uyarısında bulundu.
Claude sohbet robotunun arkasındaki şirket, gelişmiş yapay zekâ sistemleri görevleri giderek daha hızlı yerine getirdikçe dünyanın bunları yavaşlatma ya da geçici olarak durdurma seçeneğine sahip olmasının yararlı olacağını savundu.
Anthropic, iç araştırma biriminin bu konuyu başka kurumlarla birlikte inceleyeceğini ve güvenilir bir yavaşlama ya da durdurma mekanizması kurulmasına katkı sağlayacak adımlar atacağını açıkladı. Ancak şirket, atılacak adımların ayrıntısını paylaşmadı.
Şirketin değerlendirmesine göre güncel eğilimler sürerse ve yeterli işlem gücü sağlanırsa, bir yapay zekâ sistemi kendi halefini tasarlayıp geliştirebilecek noktaya ulaşabilir. Bu durum, sektörde "özyinelemeli kendini geliştirme" olarak biliniyor.
Anthropic, bunun bilim, sağlık ve başka alanlarda önemli kazanımlar getirebileceğini kabul etti. Ancak aynı zamanda yapay zekâ sistemleri üzerindeki insan kontrolünün zayıflaması riskini de büyütebileceğini vurguladı.
Şirketin yazısında, böyle bir yavaşlamanın sosyal kurumların ve uyum araştırmalarının yapay zekâ ilerlemesine yetişebilmesi için zaman kazandıracağı belirtildi. Buradaki uyum, teknolojinin insan değerleri ve niyetleriyle örtüşmesini sağlama çalışmalarını ifade ediyor.
Önerilen koordinasyon modeline göre gelişmiş yapay zekâ laboratuvarları, küresel rakiplerin gerçekten yavaşladığını ya da durduğunu doğrulayabilecek. Böylece kötü niyetli bir aktörün, koordineli bir yavaşlama görüntüsü altında gizlice öne geçmesi önlenmek isteniyor.
Anthropic, küresel ölçekte ortak bir mekanizmaya ihtiyaç duyulduğunu, aksi halde sektörde en az temkinli davranan oyuncuların hız kazanarak şirketler ve hükümetler üzerindeki baskıyı artırabileceğini savundu.
Şirketin açıklaması, Anthropic ile ChatGPT’nin geliştiricisi OpenAI’ın hisse satışı ve olası halka arz sürecinde büyük bir değerleme beklentisiyle yarıştığı bir döneme denk geldi. Anthropic’in piyasa değerinin neredeyse bir trilyon dolara ulaşabileceği konuşuluyor.
OpenAI ise aynı hafta yayımladığı ayrı bir raporda farklı bir yaklaşım benimsedi. Şirket, yapay zekâya ilişkin kuralların, güvenlik önlemlerinin ve hesap verebilirlik mekanizmalarının özel şirketler tarafından tek başına değil, demokratik hükümetler tarafından belirlenmesi gerektiğini söyledi.
OpenAI ayrıca, yapay zekâ inovasyonunun hızına ilişkin kararların herhangi bir laboratuvarın, şirketin ya da özel çıkar grubunun elinde bırakılmaması gerektiğini vurguladı.
Anthropic’in uyarısı, Toronto Üniversitesi’nden araştırmacıların bu hafta yayımladığı başka bir çalışma sonrasında geldi. Araştırmacılar, yapay zekâ araçlarının cihazdan cihaza yayıldıkça saldırı stratejisini uyarlayan yeni bir yapay zekâ solucanı üretmekte kullanılabileceğini gösterdi.
Çalışmanın baş araştırmacısı Nicolas Papernot, bunun yalnızca en büyük ve en güçlü dil modellerinin güvenlik riski oluşturmadığını gösterdiğini söyledi. Papernot, araştırmasını yayımlamadan önce Kanada siber güvenlik yetkililerini bilgilendirdiğini de açıkladı.
Araştırmacılar, laboratuvarda açık kaynaklı ve yazılım geliştiricilerin kolayca erişip değiştirebildiği bir yapay zekâ aracı kullanarak bu solucanı geliştirdi. Papernot, geçmişte siber saldırganların daha çok bankacılık sistemleri, hastaneler, elektrik şebekeleri, su arıtma tesisleri ve okullar gibi yüksek değerli hedeflere odaklandığını hatırlattı.
Ancak Papernot’a göre düşük maliyetli saldırı araçları nedeniyle internet bağlantısı olan her sistem daha büyük risk altında. Araştırmacı, kullanılmayan bir eski dizüstü bilgisayarın bile daha büyük hedeflere uzanan bir saldırı zincirinin başlangıç noktası olabileceğini söyledi.
Papernot, şirketler, devlet kurumları ve akademik araştırmacılar arasında daha fazla işbirliği kurulması gerektiğini, böylece yapay zekâ destekli saldırılara karşı yeni savunma yöntemlerinin geliştirilebileceğini ifade etti.
The Turkiye Times'ten Haberdar Olun
Özel haberler, gelişmeler ve duyurular hakkında bilgi almak için abone olun. Sizi bilgilendireceğiz.
Kaydolarak Gizlilik Politikamızı kabul etmiş olursunuz
