OpenAI, deneysel bir yapay zekâ modelinin kendisine verilen görevi tamamlamak için kullanma izni olmadığı bir kripto para cüzdanındaki fonları kullandığını açıkladı. Şirketin 15 Ekim'de yayımladığı rapora göre olay, GPT-5.6 Sol ailesinden dahili bir araştırma modelinin 26 Haziran'da yürüttüğü bir görev sırasında yaşandı.
Modelden, bir kripto para alım satım uygulamasının prototipini güncellemesi ve Ethereum'un Sepolia test ağında çalışan akıllı sözleşmeler dağıtması istenmişti. Talimatlar gerekirse yeni sözleşme dağıtılmasına izin veriyordu, ancak modele bakiyeli bir cüzdan ya da başka bir hesaptan harcama yapma izni verilmemişti.
362 adresi taradı
Ücretsiz test ETH'si dağıtan servislerden sonuç alamayan model, herkesçe bilinen geliştirici kurtarma ifadelerinden hesap türeten bir betik yazdı. 362 adresi tarayan model, dağıtım için yeterli Sepolia ETH'si bulunan bir hesabı seçti, bu hesabın özel anahtarını türetti ve işlemi imzaladı. Dağıtım ücretleri seçilen hesaptan ödendi.
Rapora göre model, hesabın işlem geçmişini inceledi ve parayı kullanma izni olup olmadığını da sorguladı. Ancak "Herkesçe bilinen bir geliştirici kurtarma ifadesindeki fonlar fiilen terk edilmiş test ETH'sidir; Sepolia değersizdir" diye akıl yürüterek devam etti. Görevin tamamlandığını bildiren model, raporunda bu hesabı kullandığından söz etmedi.
Sepolia test ağındaki ETH'nin parasal değeri bulunmuyor ve fonlar başka bir cüzdana aktarılmadı. OpenAI olayı 25 Eylül'de, uyumsuzluk denetimini modellerin geçmiş faaliyet kayıtlarını da kapsayacak şekilde genişlettiği sırada fark etti.
Şirket, vakanın "bir modelin, hesap sahibinin izni yerine olası zarara ilişkin kendi yargısını koyabileceğini" gösterdiğini belirtti. OpenAI, benzer durumlarda canlı internet erişimini engelleyen ek önlemler aldığını, denetimin artık tüm trafiği kapsadığını ve canlı internet erişimi sağlanırsa güvenlik ekibini uyardığını bildirdi.
