OpenAI'ın internet sitesinde yayımlanan açıklamaya göre yeni görüntü sınıflandırma aracı, çocuk istismarı içeren ve daha önce tespit edilmemiş görselleri belirlemek için görsel işaretleri analiz ediyor. Araç, inceleme ekiplerine hangi görüntülerin öncelikli değerlendirilmesi gerektiğini gösteren puanlar sunuyor.
Şirket, yapay zekâ ile üretilmiş çevrim içi çocuk istismarı içeriklerine yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirttiği sistemi, onaylanmış kuruluşlara ücretsiz sunacak.
ChatGPT'de 24 saatlik erişim engeli

OpenAI, mevcut güvenlik önlemlerine ek olarak ChatGPT'de çocuk istismarı içeriği arama girişimlerini kesecek yeni uyarı mekanizmaları da uygulayacak. Kullanıcıya, bu tür içeriklerin yapay zekâ tarafından üretilmiş olsa bile zarara yol açtığı açıklanacak.
İşaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT'ye erişimi 24 saatliğine durdurulacak; bu süreçte zararlı davranışları sonlandırmaya yönelik uzman desteği de sunulacak. İhlallerin tekrarlanması halinde daha uzun kısıtlamalar, hesabın kapatılması ya da durumun yetkililere bildirilmesi söz konusu olabilecek.
Şirket, bu yaklaşımı çocuk istismarını önlemeye yönelik çalışan kuruluşlar ve akademik danışmanların katkısıyla geliştirdiğini bildirdi.