- BIST10012.151-%0,94
- DOLAR49,22%0,00
- EURO55,21+%0,28
- GRAM ALTIN6.639,30+%0,13
- FAİZ%37,00-1,00
- BİTCOİN82.230-%1,72
- 13 Ekim 202618°
- BIST10012.151-%0,94
- DOLAR49,22%0,00
- EURO55,21+%0,28
- GRAM ALTIN6.639,30+%0,13
- FAİZ%37,00-1,00
- BİTCOİN82.230-%1,72
- 13 Ekim 202618°
OpenAI ve Anthropic’te Çalıştı, Şimdi AI Sektörünü Bıraktı: “Hayatlarımızla Kumar Oynuyorlar”
OpenAI ve Anthropic’te gelişmiş yapay zekâ modelleri üzerinde çalışan 27 yaşındaki araştırmacı Jacob Coxon, yapay zekâ yarışının kontrolden çıkabileceği endişesiyle Anthropic’ten ve sektörden ayrıldı. Coxon, şirketlerin kendi kendini geliştirebilen süper zekâya ulaşmak için tehlikeli bir yarış yürüttüğünü savunarak, “Hayatlarımızla kumar oynuyorlar” dedi. Anthropic’in Alignment Science Lead’i Evan Hubinger da şirketin süper zekâyı insan hedefleriyle güvenli biçimde hizalama sorununu henüz çözmed
Dünyanın en gelişmiş yapay zekâ sistemlerini geliştiren şirketlerin içinden gelen yeni bir istifa, AI güvenliği tartışmasını yeniden gündemin merkezine taşıdı.
OpenAI ve Anthropic’te son üç yıl boyunca gelişmiş yapay zekâ modellerinin eğitimi üzerinde çalışan 27 yaşındaki İngiliz araştırmacı Jacob Coxon, Anthropic’teki görevinden ayrıldığını ve yapay zekâ sektörünü tamamen bıraktığını açıkladı.
Coxon’un gerekçesi ise sıradan bir kariyer değişikliğinden çok daha dikkat çekici.
Araştırmacı, dünyanın önde gelen yapay zekâ şirketlerinin kendi kendini geliştirebilecek sistemlere ulaşmak için yürüttüğü yarışın insanlığın kontrolünden çıkabilecek sonuçlar doğurmasından endişe ettiğini söylüyor.
Coxon, OpenAI ve Anthropic’i sorumsuz davranmakla suçlayarak iki şirketin kendi kendini geliştirebilen süper zekâya doğru yarıştığını ve bu süreçte “hayatlarımızla kumar oynadığını” savundu.
OPENAI’DAN ANTHROPIC’E GEÇMİŞTİ
Jacob Coxon, yapay zekâ sektöründe özellikle “pretraining” olarak bilinen model ön eğitim süreci üzerinde çalışıyordu.
Bu süreç, büyük dil modellerinin devasa miktarlardaki veriler kullanılarak temel yeteneklerini kazandığı yapay zekâ geliştirme sürecinin en önemli aşamalarından biri.
Coxon, kendi açıklamasına göre son üç yıl içerisinde hem OpenAI hem de Anthropic bünyesinde bu alanda araştırmalar yürüttü.
2026’nın başlarında OpenAI’dan ayrılarak Anthropic’e geçti. Coxon, Anthropic’i tercih etmesinde şirketin yapay zekâ güvenliğine verdiği önemin etkili olduğunu belirtti.
Ancak Anthropic’te geçirdiği sürenin ardından endişelerinin ortadan kalkmadığını açıkladı.
Coxon’a göre Anthropic içerisinde AI risklerinin ciddiyeti anlaşılıyor ancak şirket, diğer laboratuvarlarla yürütülen rekabet nedeniyle gelişmiş sistemler üzerindeki çalışmalarını tek taraflı olarak yavaşlatmakta zorlanıyor.
“2027 SONUNA KADAR KONTROLDEN ÇIKABİLİR”
Coxon’un en dikkat çekici açıklamalarından biri yapay zekâ gelişiminin zaman çizelgesine ilişkin oldu.
The Wall Street Journal’a konuşan Coxon, en agresif senaryoların gerçekleşmesi halinde 2027’nin sonuna gelindiğinde bazı gelişmelerin halihazırda kontrolden çıkmış olabileceğinden endişe ettiğini söyledi.
Coxon’un asıl kaygısı, yapay zekâ sistemlerinin kendi gelişim süreçlerine katkıda bulunabilecek kadar yetenekli hale gelmesi.
Böyle bir senaryoda gelişmiş bir AI sistemi yalnızca insanların verdiği görevleri yerine getirmekle kalmayıp yeni yapay zekâ sistemlerinin geliştirilmesine de önemli ölçüde yardımcı olabilir.
Bu durum teorik olarak yapay zekâ gelişiminin hızlanmasına ve insanların sistemlerin yeteneklerindeki artışı takip etmekte zorlanmasına yol açabilir.
“KENDİ KENDİNİ GELİŞTİREN SÜPER ZEK”
Tartışmanın merkezindeki kavramlardan biri “self-improving superintelligence”, yani kendi kendini geliştirebilen süper zekâ.
Bugünkü ChatGPT veya Claude gibi sistemler, doğrudan kendi kendilerini sınırsız biçimde geliştirerek insan kontrolünden çıkmış bağımsız süper zekâlar değil.
Coxon’un uyarısı gelecekte ortaya çıkabilecek çok daha güçlü sistemlerle ilgili.
Araştırmacı, gelecekteki AI sistemlerinin yazılım geliştirme, siber güvenlik, bilimsel araştırma ve yeni yapay zekâ modellerinin geliştirilmesi gibi alanlarda son derece yüksek yeteneklere ulaşabileceğinden endişe ediyor.
Ancak bunların bugün gerçekleşmiş olaylar değil, gelecekte ortaya çıkabilecek sistemlere ilişkin risk senaryoları olduğunun altını çizmek gerekiyor.
“AI’YI GELİŞTİRENLER RİSKİ GERÇEKTEN CİDDİYE ALIYOR”
Coxon’un açıklamalarındaki en çarpıcı iddialardan biri de yapay zekâ şirketlerinin içindeki atmosferle ilgili.
Araştırmacı, AI geliştiren bazı kişilerin gelişmiş yapay zekânın on yılın sonuna kadar insanlık açısından felaketle sonuçlanabilecek bir risk oluşturabileceğine gerçekten inandığını söyledi.
Coxon’a göre şirket yöneticileri ve kıdemli araştırmacılar kamuoyuna yaptıkları açıklamalarda daha temkinli ifadeler kullanırken, şirket içerisindeki özel görüşmelerde riskler çok daha sert biçimde tartışılıyor.
Coxon’un bu açıklamalarının ardından Anthropic içerisinden gelen başka açıklamalar da tartışmayı büyüttü.
ANTHROPIC’İN ALIGNMENT LİDERİNDEN ÇARPICI AÇIKLAMA
Anthropic’in Alignment Science Lead’i Evan Hubinger, Coxon’un açıklamalarına yanıt vererek kendi risk değerlendirmesini kamuoyuyla paylaştı.
Hubinger, gelişmiş yapay zekânın önümüzdeki on yıl içerisinde insanlığın yok oluşuna yol açabilecek bir senaryoya kişisel olarak yüzde 10’dan fazla ihtimal verdiğini açıkladı.
Hubinger aynı zamanda Anthropic’in süper zekâ konusunda henüz çözemediği temel bir probleme dikkat çekti.
Araştırmacıya göre şirket, süper zekânın insan hedefleriyle güvenli biçimde uyumlu kalmasını sağlayacak “alignment” problemini çözmek için çalışıyor ancak henüz kesin bir çözüme sahip değil.
Alignment, bir yapay zekâ sisteminin hedeflerinin ve davranışlarının insanların amaçları, değerleri ve güvenlik sınırlarıyla uyumlu tutulmasını ifade ediyor.
Hubinger ayrıca mevcut modellerden kaynaklanan riskin düşük olduğunu belirterek asıl endişesinin gelecekte kendi gelişimini hızlandırabilecek çok daha güçlü sistemlerden kaynaklandığını vurguladı.
ENDİŞELER ANTHROPIC İLE SINIRLI DEĞİL
Yapay zekâ yarışının hızına ilişkin endişeler yalnızca Anthropic içerisinden gelmiyor.
OpenAI içerisindeki üst düzey isimler de son dönemde gelişmiş AI sistemlerinin oluşturabileceği risklere ilişkin daha güçlü uyarılar yapmaya başladı.
OpenAI Baş Bilim İnsanı Jakub Pachocki, hızlı makine zekâsı gelişiminin sonuçlarına karşı “aşırı dikkat” gerektiğini savunarak şirketler ve hükümetler arasında koordinasyon çağrısında bulundu.
OpenAI CEO’su Sam Altman da özellikle gelişmiş yapay zekâ sistemlerinin oluşturabileceği siber güvenlik risklerine karşı hızlı önlem alınması gerektiğini dile getirdi.
Böylece dünyanın en güçlü AI sistemlerini geliştiren şirketlerin içerisinden, aynı teknolojinin gelişim hızının daha dikkatli yönetilmesi gerektiğine yönelik çağrılar giderek güçleniyor.
ASIL SORUN: ŞİRKETLER YAVAŞLAYABİLİR Mİ?
Jacob Coxon’a göre sorun yalnızca OpenAI veya Anthropic’in güvenlik politikaları değil.
Asıl problem şirketler arasındaki rekabet.
Bir şirket gelişmiş yapay zekâ çalışmalarını güvenlik nedeniyle yavaşlatırsa rakiplerinin kendisini geçebileceği düşüncesi, şirketleri geliştirme yarışına devam etmeye teşvik ediyor.
Bu nedenle Coxon, sorunun yalnızca tek bir şirketin kendi kararıyla çözülemeyeceğini düşünüyor.
Araştırmacı; AI laboratuvarları arasında gelişim hızını sınırlayan anlaşmalar, hükümet müdahalesi ve gerektiğinde gelişmiş model yeteneklerinin geliştirilmesine geçici olarak ara verilmesi gibi seçeneklerin tartışılması gerektiğini savunuyor.
YAPAY ZEKÂ YARIŞINDA YENİ BİR DÖNEM Mİ?
Jacob Coxon’un istifası tek başına yapay zekânın kontrolden çıkmak üzere olduğunu kanıtlamıyor.
Ancak olayı dikkat çekici hale getiren şey, uyarının teknolojiyi dışarıdan izleyen bir eleştirmenden değil, dünyanın önde gelen AI laboratuvarlarında gelişmiş modeller üzerinde doğrudan çalışmış bir araştırmacıdan gelmesi.
Dahası, Coxon’un bazı endişelerinin Anthropic içerisindeki üst düzey güvenlik araştırmacıları tarafından da kamuoyu önünde paylaşılması AI güvenliği tartışmasını farklı bir noktaya taşıyor.
Bugün için ChatGPT, Claude ve diğer büyük yapay zekâ sistemlerinin kendi başlarına kontrolü ele geçirmiş süper zekâlar olduğuna dair bir durum söz konusu değil.
Tartışma, bir sonraki nesil sistemlerin bugünkülerden çok daha hızlı gelişmesi halinde insanların bu sistemleri kontrol altında tutabilecek teknik ve hukuki mekanizmaları zamanında geliştirip geliştiremeyeceği üzerine yoğunlaşıyor.
Coxon’un istifasının ardından teknoloji dünyasının önündeki soru da tam olarak bu:
Yapay zekâ şirketleri süper zekâ yarışında yavaşlamayı göze alabilecek mi, yoksa rekabet baskısı teknolojiyi güvenlik önlemlerinden daha hızlı mı ileri taşıyacak?
Bu haberde bir hata mı var?WhatsApp'tan bildirin
Tüm sosyal platformlarda paylaş
Sponsorlu Reklamlar
Öne Çıkan İlanlar
Öne çıkan emlaklar yükleniyor...
The Turkiye Times'ten Haberdar Olun
Özel haberler, gelişmeler ve duyurular hakkında bilgi almak için abone olun. Sizi bilgilendireceğiz.
Kaydolarak Gizlilik Politikamızı kabul etmiş olursunuz
