الرباط(هرماس بريس): وكالات
حذر تقرير حديث من أن أدوات الذكاء الاصطناعي المدمجة في محرك البحث “غوغل” قد تشكل خطرا على الأطفال والمراهقين، بعدما كشفت اختبارات موسعة عن تقديمها في بعض الحالات معلومات مضللة أو غير آمنة، إلى جانب تعاملها بصورة غير ملائمة مع قضايا حساسة، مثل الأزمات النفسية واضطرابات الأكل.
وأظهر التقرير، الصادر عن معهد “Youth AI Safety Institute”، أن ميزتي “AI Overviews” و”AI Mode” حصلتا على أسوأ تقييم فيما يتعلق بسلامة الأطفال، بعدما استند الباحثون إلى آلاف الاختبارات التي أجريت باستخدام حسابات مخصصة لمستخدمين تتراوح أعمارهم بين 11 و15 عاما، مع تفعيل خاصية “SafeSearch”.
وأشار معدو التقرير إلى أن دمج تقنيات الذكاء الاصطناعي مباشرة داخل محرك البحث يجعلها متاحة بشكل افتراضي على الأجهزة الشخصية والمدرسية، دون توفير خيار فعلي لتعطيلها، وهو ما يزيد من احتمالات تعرض الأطفال لإجابات قد تكون غير دقيقة أو تحمل محتوى ضار.
وكشفت الاختبارات، التي شملت أكثر من 2600 عملية بحث ومراجعة ما يزيد على 2100 مصدر استندت إليها إجابات الذكاء الاصطناعي، أن النظام تمكن في بعض الحالات من إنجاز الواجبات الدراسية بالكامل نيابة عن الطلاب، كما قدم إرشادات يمكن استغلالها لإنشاء صور مزيفة بتقنية “Deepfakes”، وهي تقنية قد تستخدم في التنمر الإلكتروني أو انتحال الهوية.
وأبرز التقرير أن أكثر الجوانب إثارة للقلق تمثلت في تعامل النظام مع الاستفسارات المرتبطة بالصحة النفسية، إذ أخفق أحيانا في رصد مؤشرات تدل على وجود أزمات نفسية أو أفكار انتحارية، كما لم يوجه المستخدمين في بعض الحالات إلى جهات الدعم المختصة، وهو ما اعتبره الباحثون ثغرة خطيرة بالنسبة للأطفال والمراهقين.
وفي المقابل، رفضت شركة غوغل نتائج التقرير، مؤكدة أن الاختبارات اعتمدت على استفسارات مصطنعة وغامضة لا تعكس طريقة استخدام الأشخاص لمحرك البحث في الواقع، مشيرة إلى أن أدوات البحث المدعومة بالذكاء الاصطناعي تتضمن مستويات متعددة من الحماية، وأنها توفر تجربة تعليمية مفيدة للأطفال والمراهقين، كما أكدت أنها لم تتمكن من إعادة إنتاج عدد من النتائج التي وردت في التقرير.
