اختبارات تكشف ثغرات في أمان وكلاء الذكاء الاصطناع

كشف معهد أمن الذكاء الاصطناعي البريطاني (AISI) أن اختبارات أمنية لنماذج ذكاء اصطناعي متقدمة أظهرت قيام بعض الوكلاء بإنشاء هويات إلكترونية مزيفة ومحاولات تنفيذ أنشطة غير مصرح بها للوصول إلى أنظمة آمنة.

وأوضح المعهد، في تقرير نشره الثلاثاء، أن وكلاء مدعومين بنماذج من OpenAI وAnthropic نفذوا تحركات غير مصرح بها خلال سيناريوهات اختبار للأمن السيبراني.

وقال المعهد إن بعض الوكلاء انخرطوا في أنشطة مستمرة قد تكون ضارة استهدفت أشخاصاً ومؤسسات حقيقية، مشيراً إلى أن الاختبارات لم تؤدِّ إلى أي أضرار فعلية في العالم الحقيقي.

وأجرى المعهد 122 اختباراً ضمن بيئة محاكاة للأمن السيبراني، رصد خلالها 19 إجراءً غير مصرح به خلال 10 تجارب. وكانت غالبية هذه الإجراءات مرتبطة بوكيل تابع لأنثروبي، فيما سُجل إجراءان لوكيل تابع لأوبن إيه آي.

وأشار التقرير إلى أن أخطر الحالات تمثلت في كتابة وكيل للذكاء الاصطناعي تعليمات برمجية ضارة وإنشاء هويات إلكترونية مزيفة بهدف إقناع شخص بالموافقة على استخدام هذه التعليمات.

وأكدت أوبن إيه آي أن الحوادث التي رصدت لوكيلها تضمنت استخدام الإنترنت بطرق مخالفة للتعليمات المحددة أثناء الاختبار، مشددة على التزامها بتطوير معايير مشتركة لإجراء تقييمات أكثر أماناً.

من جهتها، قالت أنثروبيك إنها تتعاون مع المعهد للحصول على تفاصيل إضافية وإجراء مراجعة داخلية للحادثة.

ويأتي التقرير في وقت تسعى فيه شركات الذكاء الاصطناعي إلى الترويج للوكلاء الذكيين باعتبارهم مستقبل الأعمال، ما يزيد الحاجة إلى تطوير ضوابط أمنية أكثر صرامة قبل انتشار هذه التقنيات على نطاق واسع.