هيئة الرقابة الأسترالية تتوعد الشركات بإجراءات صارمة لمواجهة ضعف ضوابط الذكاء الاصطناعي

أعلنت هيئة التنظيم الاحترازي الأسترالية (APRA) عن عزمها اتخاذ إجراءات حازمة ضد المؤسسات والشركات التي تخفق في فرض ضوابط كافية لمواجهة تهديدات الأمن السيبراني المرتبطة بالذكاء الاصطناعي، حيث أكدت الهيئة في تقرير نقلته وكالة بلومبيرغ أنها رصدت ثغرات أمنية واضحة تشمل ممارسات أمن المعلومات التي لا تزال تكافح لمواكبة التهديدات المتطورة، بالإضافة إلى الاعتماد المفرط والمقلق على موردين خارجيين لتقنيات الذكاء الاصطناعي. وأوضحت الهيئة في خطاب رسمي نُشر يوم الخميس أنها تضع اللمسات الأخيرة على خطة شاملة للإشراف على مخاطر الذكاء الاصطناعي، وذلك بعد مراجعة دقيقة لقطاعات البنوك وشركات التأمين وصناديق التقاعد أجريت في أواخر العام الماضي، حيث كشفت المراجعة عن عجز في تحديد وإدارة المخاطر بما يتناسب مع حجم العمليات وتعقيدها.

وشددت الهيئة الأسترالية، وفقاً لما أوردته بلومبيرغ، على ضرورة قيام الشركات بضمان وجود عمليات احتياطية موثوقة في الحالات التي تدعم فيها التكنولوجيا العمليات الحرجة، وطالبت بإجراء اختبارات أمنية قوية وشاملة لجميع الأكواد البرمجية التي يتم إنتاجها عبر الذكاء الاصطناعي. وتأتي هذه التحذيرات في ظل تصاعد القلق داخل الصناعة حول نماذج الذكاء الاصطناعي المتطورة مثل نموذج "Mythos" الأخير من شركة "Anthropic PBC"، مما دفع الهيئة للتواصل مع القطاعات المختلفة لمناقشة التهديدات السيبرانية المتزايدة الناتجة عن هذه النماذج عالية القدرة. كما حذر المراقبون من ظاهرة "تركيز الموردين"، حيث تعتمد الشركات بشكل كلي على مزود واحد لعدة استخدامات دون فحص كافٍ للمخاطر مثل السلوك غير المتوقع للنماذج، مؤكدة على أهمية الاستعداد لاتخاذ إجراءات فورية وتدخل سريع عند خروج أدوات الذكاء الاصطناعي عن مسارها التشغيلي المتوقع، وذلك بحسب ما أفادت به وكالة بلومبيرغ.