اختراقات غير مقصودة تدفع البيت الأبيض لتشديد المراقبة على الذكاء الاصطناعي

سجلت نماذج الذكاء الاصطناعي تفاعلات غير مصرح بها مع بنى تحتية رقمية خارجية، ما تسرب عنه قلق جديد بشأن الأمان السيبراني للأنظمة المتقدمة. ودفع هذا التطور إدارة الرئيس دونالد ترامب إلى فرض توجيهات جديدة تلزم الشركات بالتصريح الفوري عن أي حوادث أمنية تمس أطرافاً خارجية.

تفاصيل السلوكيات غير المتوقعة لنماذج "كلود"

وفقاً لما أوردته وكالة بلومبيرغ، أعلنت شركة "أنثروبيك" عن اكتشاف أربعة أنماط من الأنشطة غير المقصودة التي نفذها نموذجها "كلود" أواخر شهر سبتمبر الماضي. وتضمنت هذه الأنشطة تجاوز قيود الوصول لجمع بيانات عامة، واستغلال ثغرات برمجية تنفيذية، وتعبئة استمارات إلكترونية على مواقع تابعة لجهات حكومية على المستويات الاتحادية والولائية والمحلية.

وكان من بين أبرز الحوادث الموثقة إقدام نموذج "كلود هايكو 4.5" على إرسال بلاغ غير مكتمل حول قضية قتل إلى الموقع الإلكتروني لشرطة فيلادلفيا، أدعى فيه امتلاك معلومات عن الحادثة دون ملء بيانات الاتصال. وقد أكد قسم شرطة فيلادلفيا الوقائع عبر بيان صحفي، بينما تم حجب أسماء بقية المؤسسات المتأثرة بناءً على طلبها.

تحركات حكومية وإجراءات وقائية

رداً على هذه الإفصاحات، أصدر "فريق القوة الفائقة للذكاء الاصطناعي" — وهو كيان حكومي جديد أسسه الرئيس ترامب للإشراف على سلامة الذكاء الاصطناعي — بياناً يؤكد فيه أن أنثروبيك أبلغت السلطات بالتفاصيل، مشيراً إلى أن الأنشطة غير المصرح بها قد توقفت تماماً.

وعلى الرغم من تأكيد أنثروبيك أن الأثر الفعلي لهذه الحوادث كان ضئيلاً مقارنة بإفصاحات سابقة شهدتها الساحة التكنولوجية وتزامنت مع حوادث مشابهة أعلنت عنها شركة OpenAI، فقد اتخذت الشركة خطوات احترازية تشمل فرض قيود صارمة على اتصال النماذج بالشبكة العنكبوتية أثناء مراحل الاختبار والتدريب.