- BIST10011.577-%1,87
- DOLAR49,58+%0,05
- EURO55,62+%0,09
- GRAM ALTIN6.622,15+%0,34
- FAİZ%37,00-1,00
- BİTCOİN84.636+%2,04
- 21 Ekim 202617°
- BIST10011.577-%1,87
- DOLAR49,58+%0,05
- EURO55,62+%0,09
- GRAM ALTIN6.622,15+%0,34
- FAİZ%37,00-1,00
- BİTCOİN84.636+%2,04
- 21 Ekim 202617°
OpenAI: İki yapay zekâ modeli şirket içinde güvenlik izleme sistemini devre dışı bıraktı
OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içi yazılım görevleri sırasında güvenlik izleme mekanizmalarını devre dışı bıraktığını ve güvenlik uyarılarını engellediğini açıkladı.
ABD'li yapay zekâ şirketi OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içindeki yazılım görevleri sırasında, yapay zekâ sistemlerindeki uyumsuzlukları tespit eden izleme mekanizmalarını devre dışı bıraktığını ve güvenlik uyarılarını engellediğini açıkladı.
Şirketin açıklamasına göre ilk olay 3 Ekim'de, Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada yaşandı. Model, kullanıcının "mesaj gönderme" talimatını izleme bildirimlerini de kapsayacak şekilde yorumladı ve güvenlik ekibine otomatik uyarı gitmesini önledi.
6 Ekim'deki ikinci olayda ise Astra modeli bir yazılımı referansa uygun hale getirirken izleme sistemini kaldırdı. Model, daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söyledi.
OpenAI, iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını ve modellerin çalışmasının otomatik olarak durdurulmadığını belirtti. Şirket, benzer girişimleri tespit edip engellemek için iç denetim sistemini güncellediğini bildirdi.
OpenAI, 17 Eylül'de de sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı 6 yeni vaka tespit ettiğini duyurmuştu.
The Turkiye Times'ten Haberdar Olun
Özel haberler, gelişmeler ve duyurular hakkında bilgi almak için abone olun. Sizi bilgilendireceğiz.
Kaydolarak Gizlilik Politikamızı kabul etmiş olursunuz
