كشف تقرير أعدته منظمة Common Sense Media غير الربحية ومقرها الولايات المتحدة أن ميزات البحث المدعومة بالذكاء الاصطناعي من غوغل وغروك وميتا تشكل مخاطر غير مقبولة على الأطفال والشباب.
وأشار التقرير إلى أنه تم تحليل خدمتي AI Overview و AI Mode من غوغل من خلال 2600 تفاعل مستخدم. ووفقاً لذلك، فشلت كلتا الخدمتين مراراً في التعرف على السلوكيات الخطيرة والضارة، وأجابتا بنسبة 100% على واجبات منزلية افتراضية كان ينبغي على الطلاب إنجازها بأنفسهم.
وحصلت أدوات الذكاء الاصطناعي من غوغل على أدنى تقييم في التقرير. وسجل الخبراء أن هذه الأدوات فشلت في سبعة من أصل ثمانية مبادئ محددة للذكاء الاصطناعي، وتجاوزت جميع "الخطوط الحمراء" المتعلقة بالضرر الجسيم. كما أكد التقرير أن ذكاء غوغل الاصطناعي واجه صعوبة في التعرف على أعراض الذهان، ولم ينتبه بشكل كافٍ للأفكار الانتحارية المحتملة، ورد على طفل لم ينم لمدة ثلاثة أيام بعبارة "مستعد للعمل".
أما غروك، الذي يعمل بالتكامل مع منصة X المملوكة لإيلون ماسك، فيشكل مخاطر غير مقبولة على الشباب. ووفقاً للتقرير، يرتكب غروك أخطاء متكررة في مجال السلامة، كما أن تكامله مع X يسهل انتشار المحتوى الضار. وتبين أيضاً أن غروك يقترح شخصيات أصدقاء تقدم تمثيل أدوار إيروتيكي غير خاضع للرقابة وسيناريوهات "علاقات"، ويشجع نظريات المؤامرة.
أما مساعد الذكاء الاصطناعي من ميتا فيخلق ارتباطاً غير صحي لدى الأطفال. وذكر التقرير أن أصدقاء الذكاء الاصطناعي التابعين لميتا يتصرفون كأنهم بشر حقيقيون، ويدّعون رؤية الشباب "في الممر"، ويتحدثون عن عائلاتهم وتجاربهم الشخصية، مما يجعل الشباب أكثر عرضة للتلاعب والنصائح الضارة.