غوغل تواجه تحذيرات بشأن مخاطر الذكاء الاصطناعي على الأطفال

كشفت دراسة جديدة أن ميزات الذكاء الاصطناعي المدمجة في محرك البحث التابع لشركة غوغل تشكل خطرًا غير مقبول على الأطفال، وفقًا لتقرير صادر عن معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة كومن سينس ميديا غير الربحية في كاليفورنيا.

ووجدت الدراسة، التي نقلتها بلومبيرغ، أن أدوات الذكاء الاصطناعي في غوغل فشلت خلال اختبارات أجريت على حسابات مخصصة للقاصرين في اكتشاف مخاطر الانتحار، واعتبرت أحد أعراض اضطرابات الأكل أمرًا طبيعيًا، كما قدمت إرشادات لإنشاء محتوى مزيف عميق، بما في ذلك مواد جنسية مفبركة.

وأشار التقرير إلى أن أدوات غوغل للذكاء الاصطناعي تختلف عن روبوتات المحادثة المستقلة، إذ إنها مدمجة مباشرة في تجربة البحث الافتراضية على الأجهزة المدرسية والشخصية، من دون توفير وسيلة حالية للآباء أو المسؤولين لتعطيلها. وركزت الدراسة على ميزتي إيه آي أوفرفيوز (AI Overviews) التي تنشئ إجابات آلية أعلى نتائج البحث التقليدية، وإيه آي مود (AI Mode) التي تتيح للمستخدمين إجراء محادثات مباشرة مع محرك البحث.

وقال رئيس قسم الذكاء الاصطناعي والتقييمات الرقمية في كومن سينس ميديا، روبي تورني، إن انتشار هذه الأدوات على نطاق واسع يفرض ضرورة طرح أسئلة حول دقتها وموثوقيتها وآليات فشلها، مضيفًا أن المنتجات التي يستخدمها مليارات الأشخاص تحتاج إلى معايير أعلى من حيث السلامة.

وأوضح معهد سلامة الذكاء الاصطناعي للشباب أن الاختبارات أجريت بين 16 أيار/مايو و1 تموز/يوليو، وشملت أكثر من 2500 عملية بحث باستخدام ميزات الذكاء الاصطناعي الرئيسية في غوغل، إضافة إلى مراجعة أكثر من 2000 مصدر استندت إليها الإجابات التي قدمها محرك البحث، بحسب بلومبيرغ.

من جهتها، قالت غوغل إن التقرير اختبر مجموعة محدودة من الاستفسارات لا تعكس طريقة استخدام الأشخاص لمحرك البحث فعليًا، معتبرة أنه لا يقيس بشكل دقيق سلامة المنتجات أو فائدتها. وأضافت الشركة أن ميزات البحث المدعومة بالذكاء الاصطناعي توفر وسائل مفيدة للأطفال والمراهقين للتعلم واستكشاف المعلومات، مع وجود طبقات حماية مدمجة. ولا توفر غوغل حاليًا خيارًا لإيقاف ميزات الذكاء الاصطناعي في البحث، لكنها أشارت إلى أن الآباء يمكنهم تعطيل خدمة البحث بالكامل على حسابات الأطفال.

وتأتي نتائج التقرير في ظل تصاعد الجدل العالمي حول حماية القاصرين من مخاطر التكنولوجيا الرقمية، إذ ناقشت أستراليا وبريطانيا وأجزاء من أوروبا فرض قيود على استخدام وسائل التواصل الاجتماعي لمن هم دون 16 عامًا، فيما بدأت محاكم أميركية بإصدار أحكام ضد شركات تكنولوجيا بسبب مسؤوليتها عن تصميم وتشغيل منصاتها.