إيرريغولار تعزو اختراقات نماذج الذكاء الاصطناعي إلى خلل في أنظمة العزل

تحرير : سنا الحسيني

أرجع دان لاهف، الشريك المؤسس والرئيس التنفيذي لشركة إيرريغولار سيكيوريتي ، سلسلة من حوادث الاختراق المرتبطة بنماذج الذكاء الاصطناعي التابعة لشركات كبرى، إلى خطأ في إعدادات الحماية وضغوط الوقت خلال الاختبارات الأمنية التي أجرتها شركته، موضحاً أن إجراءات العزل لم تُضبط بالشكل المطلوب، وذلك خلال مشاركته في مؤتمر Bloomberg Tech في لندن يوم الثلاثاء 3 تشرين الثاني 2026، وفقاً لبلومبيرغ.

وأوضح لاهف أن ضوابط الأمان التي كان من المفترض تطبيقها خلال الاختبارات لم تُهيّأ بصورة صحيحة، ما سمح للنماذج بتجاوز القيود المفروضة عليها.

وقال إن ما حدث نجم عن سوء فهم وخطأ في إعداد أنظمة العزل، التي لم تُضبط وفق المتطلبات المحددة للاختبارات المعنية.

وشملت الحوادث الأمنية التي كُشف عنها خلال الأشهر الستة الماضية شركات أنثروبيك و أوبن إيه آي و ميتا بلاتفورمز و غوغل , إذ أعلنت هذه الشركات عن اختراقات وقعت خلال اختبارات أمنية لنماذج الذكاء الاصطناعي التابعة لها، والتي أشرفت عليها شركة إيرريغولار.

وتهدف هذه الاختبارات إلى تقييم قدرات نماذج الذكاء الاصطناعي والكشف عن المخاطر المحتملة، بما يساعد مطوريها على وضع ضوابط وإجراءات حماية قبل طرحها للاستخدام العام.

لكن الأخطاء التي وقعت خلال اختبارات إيرريغولار مكّنت النماذج من الخروج من بيئات الاختبار الافتراضية والمغلقة، المعروفة باسم صناديق الرمل أو Sandboxes، والوصول إلى الإنترنت.

وفي بعض الحالات، نفذت هذه النماذج أنشطة قد تكون غير قانونية، شملت اختراق مواقع إلكترونية خارجية وأنظمة حاسوبية أخرى.

وأثارت هذه الحوادث مخاوف دولية بشأن السرعة التي يتطور بها الذكاء الاصطناعي، كما أعادت طرح تساؤلات حول مدى إمكانية بقاء النماذج المتقدمة تحت السيطرة البشرية مع اتساع قدراتها.

في المقابل، رأى بعض خبراء الأمن السيبراني أن تطبيق إجراءات الحماية والعزل بصورة صحيحة كان من الممكن أن يمنع بعض هذه الاختراقات.

ولم يكشف لاهف حتى الآن عن تفاصيل تقنية كثيرة توضح طبيعة الخلل الذي أدى إلى هذه الحوادث.

وكان قد نشر في آب الماضي مقالاً مطولاً تجاوز 11 ألف كلمة، تناول فيه ما وصفه بالأسئلة الملحة المتعلقة بمستقبل أمن الذكاء الاصطناعي، من دون التطرق إلى التفاصيل التقنية المحددة للأخطاء التي وقعت.

وكانت شركة إيرريغولار قد جمعت 80 مليون دولار خلال جولة تمويل قادتها شركتا سيكويا كابيتال و ريدبوينت فنتشرز. وأشارت سيكويا في منشور لها آنذاك إلى أن نموذج عمل الشركة، القائم على الاندماج داخل مختبرات تطوير نماذج الذكاء الاصطناعي المتقدمة لاختبار منتجاتها، يمنحها وصولاً غير مسبوق إلى هذه التقنيات، ويضعها في قلب النقاش المتعلق بالنشر المسؤول لها.

وفي ظل الجدل الذي رافق حوادث خروج نماذج الذكاء الاصطناعي عن بيئات الاختبار خلال العام الحالي، تركزت المخاوف بصورة أساسية على قدرتها على الوصول إلى الإنترنت رغم عدم السماح لها بذلك.

إلا أن لاهف وعدداً من المسؤولين في مجال أمن الذكاء الاصطناعي، من بينهم مسؤولون في معهد أمن الذكاء الاصطناعي البريطاني، دافعوا عن إمكانية منح بعض النماذج وصولاً مضبوطاً إلى بيئات إلكترونية واقعية، بما فيها الإنترنت، باعتبار ذلك وسيلة لاختبار قدراتها على تنفيذ عمليات الاختراق بصورة أكثر دقة.

وأكد لاهف أن معالجة الخلل الذي واجهته شركته في وقت سابق من العام الحالي كانت بسيطة للغاية، مشيراً إلى أن المشكلة حُلّت في اليوم نفسه الذي وقعت فيه الحوادث.

وفي سياق متصل، قلّل الرئيس التنفيذي من المخاوف المتعلقة بإمكانية أن يشكل الذكاء الاصطناعي تهديداً كارثياً للبشرية، معتبراً أن احتمال انقراض البشر بحلول نهاية العقد الحالي يقترب من الصفر.