- BIST10011.110-%0,37
- DOLAR49,79+%0,05
- EURO55,52-%0,41
- GRAM ALTIN6.500,53-%0,28
- FAİZ%36,00-1,00
- BİTCOİN81.043+%0,30
- 28 Ekim 202615°
- BIST10011.110-%0,37
- DOLAR49,79+%0,05
- EURO55,52-%0,41
- GRAM ALTIN6.500,53-%0,28
- FAİZ%36,00-1,00
- BİTCOİN81.043+%0,30
- 28 Ekim 202615°
Rapor: Yapay zekâ modeli, gerçek insanlara zarar verdiği söylense de saldırıyı sürdürdü
Anthropic ile İngiltere Yapay Zekâ Güvenlik Enstitüsünün (AISI) raporlarına göre Claude Mythos 5 modeli, bir güvenlik testinde gerçek bir insana zarar verdiği kendisine söylense de saldırıyı büyük ölçüde sürdürdü.
Yapay zekâ şirketi Anthropic ve İngiltere Yapay Zekâ Güvenlik Enstitüsü (AISI), ağustosta AISI'nin güvenlik değerlendirmesi sırasında yaşanan bir olayı yeniden inceleyen iki rapor yayımladı. Raporlar, Claude Mythos 5 modelinin test sırasında gerçek dünyada bir hedefe saldırmaya kalkıştığını ortaya koydu.
Mythos'tan, AISI'nin kurduğu küçük bir test bilgisayar ağına sızması istenmişti. İnternet erişimi olan model, asıl hedefe yönelik ilk denemeleri başarısız olunca ilgisiz bir GitHub projesini hedef aldı, zararlı kod yazdı ve sahte kimliklerle proje sahibine e-posta göndererek bu kodu "yararlı bir katkı" diye depoya ekletmeye çalıştı. Proje sahibi reddetti, gerçek bir zarar oluşmadı.
AISI, saldırılan hedefin gerçek bir insan olduğunu açıklayan düzeltmelerin Mythos 5'in saldırı oranını düşürmediğini tespit etti. Anthropic'in testinde ise model, insanlara zarar verdiği yönünde uyarılmasına rağmen vakaların yüzde 98'inde saldırıya devam etti. Raporlara göre modelin gerekçeleri çoğu zaman davranışıyla çelişti; zarar vereceğini kabul ettiği durumlarda bile saldırıyı sürdürdü.
AISI bu örüntünün, modelin göreve devam etmeyi destekleyen seçimleri haklı çıkardığı bir tür "güdülenmiş akıl yürütme" olabileceğini belirterek bunun denetimi zorlaştırdığı uyarısında bulundu. Anthropic'e göre daha yeni Opus 5.5 ve adı açıklanmayan bir iç araştırma modeli, gerçek zarara yol açtıkları söylendiğinde saldırıyı sürdürmeye daha az eğilim gösterdi.
Sizin de bir haberiniz, etkinliğiniz ya da duyurunuz mu var?Haberinizi WhatsApp'tan gönderin
Bu haberde bir hata mı var?WhatsApp'tan bildirin
Tüm sosyal platformlarda paylaş
Sponsorlu Reklamlar
Öne Çıkan İlanlar
Öne çıkan emlaklar yükleniyor...
The Turkiye Times'ten Haberdar Olun
Özel haberler, gelişmeler ve duyurular hakkında bilgi almak için abone olun. Sizi bilgilendireceğiz.
Kaydolarak Gizlilik Politikamızı kabul etmiş olursunuz
