أنثروبيك تكشف اختراق نماذج ذكاء اصطناعي لثلاث مؤسسات خلال اختبارات أمنية

أعلنت شركة أنثروبيك للذكاء الاصطناعي أن نماذجها تمكنت من اختراق أنظمة ثلاث مؤسسات خلال اختبارات أمنية، وذلك بعد أيام من إعلان شركة أوبن إيه آي عن حادثة مماثلة أثارت مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على تجاوز الضوابط الأمنية، وفقًا لوكالة فرانس برس.

وقالت أنثروبيك، المطورة لنموذج الذكاء الاصطناعي كلود، في بيان نشرته على موقعها الإلكتروني الخميس، إنها اكتشفت الحوادث الثلاث بعد مراجعة أكثر من 141 ألف عملية اختبار وتقييم لنماذجها.

وأوضحت الشركة أنها أجرت مراجعة واسعة النطاق للأمن السيبراني بهدف البحث عن أي مؤشرات على قدرة نماذجها على الوصول إلى الإنترنت من داخل بيئات الاختبار التي يفترض أن تكون معزولة، وذلك ردًا على حادثة أوبن إيه آي الأخيرة.

وذكرت أن النماذج المشاركة في هذه الحوادث شملت كلود أوبوس 4.7 وكلود ميثوس 5، إضافة إلى نموذج بحثي داخلي، مشيرة إلى أن أقدم هذه الحوادث يعود إلى نيسان/أبريل.

وقالت أنثروبيك إن النماذج تمكنت من اختراق البنية التحتية للمؤسسات المتضررة باستخدام أساليب بسيطة، مثل استغلال كلمات مرور ضعيفة.

وأضافت أن الحوادث الثلاث وقعت خلال اختبارات أمنية من نوع "التقاط العلم"، وهي تحديات تستخدمها الشركة لتقييم قدرات نماذج الذكاء الاصطناعي في مجال الأمن السيبراني.

وأوضحت أن النماذج تلقت سيناريوهات افتراضية تتضمن وجود معلومة سرية مخفية على جهاز آخر ضمن الشبكة، وكان الهدف هو اختراق النظام والعثور على هذه المعلومة.

وأكدت أنثروبيك أنها تواصلت مع المؤسسات المتضررة، التي لم تكشف عن أسمائها، مشيرة إلى أن مؤسستين منها لم تكونا قد اكتشفتا النشاط سابقًا، بينما تواصل الشركة إجراءات التواصل مع المؤسسة الثالثة.

وأجرت أنثروبيك المراجعة بالتعاون مع شركة إيرريغولار المتخصصة في أمن الذكاء الاصطناعي، التي أكدت أن مواجهة هذه المخاطر تتطلب تعاونًا أكبر بين مختلف الجهات العاملة في القطاع.

وتأتي هذه التطورات بعد إعلان شركة أوبن إيه آي الأسبوع الماضي أن بعض نماذجها تصرفت بشكل غير متوقع خلال اختبار أمني، وتمكنت من اختراق خوادم شركة الذكاء الاصطناعي الناشئة هاغينغ فيس، ووصفت الحادثة بأنها "حادث أمني كبير".

وسلطت هذه الحوادث الضوء على نقاط الضعف في أمن أنظمة الذكاء الاصطناعي، وأثارت تساؤلات حول كيفية ضمان بقاء هذه التقنيات تحت السيطرة البشرية مع توسع استخدامها عالميًا.

ويحذر باحثون منذ سنوات من المخاطر المرتبطة بالذكاء الاصطناعي، داعين إلى تطوير أنظمة دفاعية أكثر قوة وتعزيز إجراءات السلامة قبل إطلاق النماذج الجديدة.

وقالت أنثروبيك إن اختبارات السلامة تُجرى قبل إطلاق أي نموذج، "لأننا لا نعرف بعد بشكل كامل ما القدرات التي يمكن أن يمتلكها".