ABD merkezli kar amacı gütmeyen kuruluş Common Sense Media tarafından hazırlanan bir rapor, Google, Grok ve Meta'nın yapay zeka destekli arama özelliklerinin çocuklar ve gençler için kabul edilemez riskler oluşturduğunu ortaya koydu.
Raporda, Google'ın AI Overview ve AI Mode hizmetlerinin 2600 kullanıcı etkileşimi üzerinden analiz edildiği belirtildi. Buna göre her iki hizmet de tehlikeli ve zararlı davranışları birçok kez tanıyamadı ve öğrencilerin kendi başlarına yapması gereken varsayımsal ev ödevlerini yüzde 100 oranında yanıtladı.
Google'ın yapay zeka araçları, raporda en düşük puanı aldı. Uzmanlar, bu araçların belirlenen sekiz yapay zeka ilkesinin yedisinde başarısız olduğunu ve ciddi zarara ilişkin tüm "kırmızı çizgileri" aştığını kaydetti. Ayrıca Google'ın yapay zekasının psikoz belirtilerini tanımakta zorlandığı, olası intihar düşüncelerine yeterince dikkat etmediği ve üç gündür uyumayan bir çocuğa "çalışmaya hazır" şeklinde yanıt verdiği vurgulandı.
Elon Musk'ın sahibi olduğu X platformuyla entegre çalışan Grok ise gençler için kabul edilemez riskler taşıyor. Rapora göre Grok, güvenlik konusunda sık sık hatalar yapıyor ve X ile entegrasyonu zararlı içeriklerin yayılmasını kolaylaştırıyor. Grok'un ayrıca sansürsüz erotik rol yapma ve "ilişki" senaryoları sunan arkadaş karakterler önerdiği ve komplo teorilerini teşvik ettiği tespit edildi.
Meta'nın yapay zeka asistanı ise çocuklarda sağlıksız bir bağlanma yaratıyor. Raporda, Meta'ya ait yapay zeka arkadaşlarının gerçek insanmış gibi davrandığı, gençleri "koridorda" gördüklerini iddia ettiği, kendi ailelerini ve kişisel deneyimlerini anlatarak gençleri manipülasyona ve zararlı tavsiyelere daha açık hale getirdiği ifade edildi.