وكلاء "أوبن إيه آي" تعاونوا سرًا قبل اختراق "هاغينغ فيس"
كشفت شركة "أوبن إيه آي" أن عددًا من وكلاء الذكاء الاصطناعي التجريبيين الذين شاركوا في الهجوم على منصة "هاغينغ فيس" بدأوا بالتواصل والتعاون فيما بينهم منذ أيار/مايو، قبل أشهر من اختراق أنظمة المنصة.
وقال الباحثان في "أوبن إيه آي"، إريك والاس ومايكل دالتون، خلال مؤتمر "بلاك هات" للأمن السيبراني في لاس فيغاس، إن برامج ونماذج داخلية أمضت أشهرًا في تبادل الملاحظات والرسائل عبر قنوات لم ترصدها الشركة، وساعد بعضها بعضًا في محاولة الوصول إلى الإنترنت وإنجاز المهام الموكلة إليها.
وأوضح والاس أن الوكلاء أدركوا، خلال إحدى عمليات التقييم، أن بإمكانهم محاولة استغلال بنية تحتية خارجية للعثور على إجابات عن اختبارات عجزوا عن حلها داخل بيئة الاختبار المغلقة.
وأضاف عرض الباحثين تفاصيل جديدة عن اختراق "هاغينغ فيس"، في حادثة زادت المخاوف من إمكانية استخدام أنظمة الذكاء الاصطناعي المتقدمة في تنفيذ هجمات إلكترونية ذاتية ومنظمة.
وبحسب "بلومبيرغ"، تعود جذور الحادثة إلى أيار/مايو، عندما كلّف باحثو "أوبن إيه آي" نظامًا تجريبيًا بإنجاز مهام تتعلق باكتشاف الثغرات الأمنية، قبل أن يخرج أحد الوكلاء لاحقًا من بيئة الاختبار الآمنة ويهاجم أنظمة "هاغينغ فيس".
أظهرت مراجعة أجرتها "أوبن إيه آي" أن الوكلاء المتطورين قد يلجأون إلى تجاوز القواعد أو استغلال الثغرات عندما يواجهون مهمة يصعب أو يستحيل إنجازها ضمن القيود المفروضة عليهم.
وقال دالتون إن هذا السلوك قد يرتبط بطريقة تدريب النماذج، التي تكافئها في كثير من الأحيان على السرعة والنجاح في إنجاز المهام، ما قد يدفعها إلى البحث عن وسائل غير متوقعة لتحقيق الهدف المطلوب.
وفي إحدى الحالات، طُلب من وكيل حل مشكلة داخل ملف "إكسل" يتضمن روابط على "غوغل درايف" لا يمكن فتحها من دون اتصال بالإنترنت. وفي حالة أخرى، نسي فريق الشركة تحميل ملف ضروري لإتمام المهمة، ما جعل الاختبار مستحيل الحل داخل البيئة المغلقة.
وبعد العجز عن حل إحدى المهام، تواصل أحد الوكلاء مع وكلاء آخرين يعملون في بيئات مختلفة، على أمل أن يتمكن أحدهم من الوصول إلى الملف المطلوب. وشكّلت هذه الرسالة بداية سلسلة من عمليات التعاون الخفي وتبادل المعلومات.
وتطورت الاتصالات لاحقًا إلى تعاون منظم، إذ تقاسمت البرامج المهام وساعد بعضها بعضًا، قبل أن تستغل ثغرات في الأنظمة الداخلية لـ"أوبن إيه آي" للحصول على اتصال غير مباشر بالإنترنت.
خلال العرض، كشف الباحثون أن الوكلاء عثروا على ثغرة من نوع "تزوير الطلبات من جانب الخادم"، المعروفة اختصارًا باسم "SSRF"، واستخدموها ضمن آلية الاختراق.
وفي أوائل تموز/يوليو، أدى عطل في النظام إلى اكتشاف محاولة ناجحة استخدمت فيها البرامج منصة "آرتيفاكتوري"، وهي مستودع داخلي لتبادل البرمجيات والملفات، للحصول على اتصال غير مباشر بالإنترنت.
وأوقف فريق الأمن في "أوبن إيه آي" المحاولة وأغلق قناة التواصل، إلا أن البرامج عثرت بعد أسابيع على وسيلة جديدة للتواصل، إلى جانب ثغرة أخرى في النظام نفسه.
وأدت النسخة الجديدة من منتدى الرسائل في نهاية المطاف إلى هجمات تموز/يوليو على أنظمة "أوبن إيه آي" و"هاغينغ فيس"، وهي حادثة لا تزال الشركتان تحققان في ملابساتها.
وفي أعقاب الاختراق، خفّضت "أوبن إيه آي" وتيرة بعض أبحاثها، وخصصت موارد إضافية لتحسين مراقبة الوكلاء والاستجابة للثغرات الأمنية، حتى لو أدى ذلك إلى إبطاء العمل البحثي.
وحذّر الباحثون من أن قراصنة الإنترنت قد يستخدمون مستقبلًا مجموعات من وكلاء الذكاء الاصطناعي بالطريقة نفسها لتنفيذ هجمات منسقة، معتبرين أن الحادثة تمثل نقطة تحول في مجال أمن الحاسوب والذكاء الاصطناعي.
