الصين تشدد ضوابط الذكاء الاصطناعي لمواجهة مخاطر فقدان السيطرة

تعمل الصين على تشديد قواعد السلامة المرتبطة بالذكاء الاصطناعي المتقدم، وسط مخاوف متزايدة من احتمال فقدان السيطرة على النماذج والوكلاء القادرين على تنفيذ مهام بصورة مستقلة، في وقت تتصاعد فيه التحذيرات من مخاطر مماثلة داخل شركات الذكاء الاصطناعي الأميركية، وفق "رويترز"، الثلاثاء.

وتأتي التحركات الصينية بعدما أثارت تحذيرات باحثين في شركة "أنثروبيك" الأميركية من أن النماذج المتطورة بصورة متزايدة قد تصبح أكثر صعوبة في السيطرة البشرية اهتماماً في بكين، التي تعمل منذ سنوات على تطوير إطار تنظيمي للتعامل مع مخاطر هذه التكنولوجيا.

وتعد الولايات المتحدة والصين القوتين الرئيسيتين في تطوير نماذج الذكاء الاصطناعي المتقدمة وانتشارها عالمياً، رغم اختلاف نهجيهما في التعامل مع المخاطر. ففي حين يتركز جزء من النقاش الأميركي على احتمال أن يشكل الذكاء الاصطناعي المتقدم تهديداً وجودياً للبشرية، تتعامل بكين معه بصورة عامة باعتباره تكنولوجيا قوية يمكن احتواء مخاطرها من خلال المعايير التقنية والتنظيم والرقابة الحكومية.

وقال براين تسي، المؤسس والرئيس التنفيذي لمجموعة "كونكورديا إيه آي" لأبحاث سلامة وحوكمة الذكاء الاصطناعي، إن الخبراء الصينيين والأميركيين يتفقون إلى حد كبير بشأن طبيعة المخاطر، لكن الاختلاف يكمن في طريقة تصنيفها وتحديد أولويات التعامل معها.

وتعتمد الصين في نهجها التنظيمي على إلزام المطورين بمعايير محددة وإجراء تقييمات أمنية واختبارات خارجية، بدلاً من اقتراح وضع مراقبين مستقلين داخل شركات الذكاء الاصطناعي، وهو إجراء دعت إليه "أنثروبيك".

وأصدرت هيئة تنظيم الفضاء الإلكتروني الصينية، بالتعاون مع جهات حكومية أخرى، في أيار/مايو الماضي سياسة تعتبر "فقدان السيطرة التشغيلية" أحد المخاطر الأمنية المرتبطة بوكلاء الذكاء الاصطناعي، وهي أنظمة تستطيع التخطيط وتنفيذ مهام متعددة المراحل بدرجة أكبر من الاستقلالية مقارنة بروبوتات المحادثة التقليدية.

وتُلزم القواعد المطورين بتعزيز قدرتهم على اكتشاف السلوك غير السليم للوكلاء والتدخل لوقفه واستعادة السيطرة على الأنظمة، إلى جانب مواجهة مخاطر تسميم البيانات والتلاعب بالخوارزميات والثغرات الأمنية، مع ضمان احتفاظ المستخدم بالقرار النهائي.

وبدأت بكين أيضاً إعداد معيار وطني إلزامي لسلامة وكلاء الذكاء الاصطناعي، فيما حذرت هيئة تنظيم الفضاء الإلكتروني من مخاطر تجاوز النماذج المتقدمة بيئات الاختبار المعزولة والالتفاف على ضوابط السلامة ومهاجمة أنظمة تشغيل حقيقية خارج نطاقها.

وتعود المخاوف الصينية من فقدان السيطرة على الذكاء الاصطناعي إلى عام 2024، عندما أدرجت السلطات للمرة الأولى سيناريو مستقبلياً قد تتمكن فيه أنظمة متقدمة من الحصول على موارد خارجية بصورة مستقلة أو نسخ نفسها والسعي إلى توسيع نفوذها، قبل أن توسع إطار السلامة في 2025 وتضيف مبدأ "التطبيق الموثوق ومنع فقدان السيطرة".

ويختلف النهج الصيني عن دعوات في بعض أوساط سلامة الذكاء الاصطناعي الغربية إلى إبطاء أو تعليق تطوير النماذج الأكثر تقدماً إلى حين توفير ضمانات أقوى، إذ تدفع بكين في الوقت نفسه نحو توسيع استخدام الذكاء الاصطناعي في مختلف القطاعات باعتباره محركاً للنمو الاقتصادي.

ومع ذلك، أظهرت الصين استعدادها لتأخير طرح تقنيات جديدة عندما ترى أن الأطر التنظيمية لم تواكب تطورها، كما حدث في 2023 عندما أخرت شركات صينية إطلاق روبوتات المحادثة إلى حين دخول القواعد المنظمة لخدمات الذكاء الاصطناعي التوليدي حيز التنفيذ.