Anthropic'te yapay zekânın insan değerleriyle uyumu üzerine çalışan Evan Hubinger, yapay zekânın 10 yıl içinde tüm insanları öldürme ihtimalinin yüzde 10'dan fazla olduğunu düşündüğünü söyledi.
Hubinger, Anthropic'ten istifa eden Jacob Coxon'un, yapay zekâ geliştirenlerin bu teknolojinin 10 yılın sonuna kadar herkesi öldürebileceğine inandığı yönündeki paylaşımını yorumladı. Hubinger, bu değerlendirmeye katıldığını belirterek yapay zekânın tüm insanları öldürebileceğine gerçekten inandıklarını ifade etti.
Hubinger: Net bir yol haritası yok
Anthropic'in elinden geleni yaptığını düşündüğünü belirten Hubinger, süper zekânın uyumu sorununu çözecek bir planlarının henüz bulunmadığını söyledi. Hubinger ayrıca bu konuda izlenen net bir yol haritası olmadığını değerlendirdi.
Coxon Anthropic'ten istifa etti
Jacob Coxon, son üç yılda OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirterek Anthropic'ten istifa ettiğini duyurdu. Coxon, her iki şirketin de yeterince sorumlu davranmadığını savundu.
Coxon, şirketlerin kendi kendini geliştirebilen süper zekâya ulaşmak için kontrolsüz bir yarış içinde olduğunu öne sürdü. Bu sistemlerin kısa sürede her şeyi hackleyebilecek, çeşitli alanları bir gecede dönüştürebilecek ve gerçek güç ile kaynaklara ulaşabilecek insanüstü yapılara dönüşebileceğini söyledi.
Coxon ayrıca yapay zekâ sektöründeki çalışanların, bu sistemlerin 10 yıl içinde insanlığı öldürebileceğine ciddi biçimde inandığını iddia etti. Yöneticilerin kamuoyu önünde daha ılımlı konuşmasına rağmen kapalı kapılar ardında büyük korku yaşadıklarını savundu.