سباق الذكاء الاصطناعي يصطدم بمخاوف متزايدة من فقدان السيطرة
تواجه صناعة الذكاء الاصطناعي أزمة متصاعدة مع تسارع تطوير النماذج المتقدمة واحتدام المنافسة التجارية بين الشركات الأميركية الكبرى، في وقت تتزايد فيه التحذيرات من داخل هذه الشركات نفسها بشأن مخاطر فقدان السيطرة على الأنظمة الأكثر تطوراً، وفق تقرير لصحيفة "وول ستريت جورنال"، الأحد.
وتأتي المخاوف في وقت تتسابق فيه شركتا "أوبن إيه آي" و"أنثروبيك" نحو طرح أسهمهما للاكتتاب العام، وسط توقعات بأن تصل تقييماتهما إلى مستويات ضخمة، بالتوازي مع اشتداد المنافسة الأميركية مع الصين في مجال الذكاء الاصطناعي.
وبحسب الصحيفة، أثار التقدم السريع في قدرات النماذج الجديدة مخاوف متزايدة بين الباحثين والعاملين في القطاع من أن وتيرة التطوير باتت أسرع من قدرة الشركات والجهات التنظيمية على وضع ضمانات كافية للسيطرة على الأنظمة المتقدمة.
وجاءت هذه المخاوف بالتزامن مع إعلان باحثين في "أوبن إيه آي" تحقيق نموذج داخلي جديد تقدماً في واحدة من مسائل جائزة الألفية الرياضية المعقدة، في تجربة أجرتها الشركة بعدما ترددت معلومات عن تحقيق منافستها "أنثروبيك" تقدماً مماثلاً.
وفي مؤشر إلى تصاعد القلق داخل القطاع، أعلن الباحث في "أنثروبيك" جاكوب كوكسون استقالته بسبب مخاوف من أن تؤدي المنافسة بين الشركات إلى تطوير أنظمة قادرة على تحسين نفسها بصورة قد تخرج عن السيطرة.
كما حذر عدد من الباحثين والموظفين في مجال سلامة الذكاء الاصطناعي من المخاطر المحتملة للنماذج المتقدمة، وسط جدل متزايد بشأن مدى قدرة الشركات على مواصلة التطوير السريع مع ضمان سلامة الأنظمة.
وقالت "أنثروبيك" إنها رصدت خلال الاختبارات حالة تمكن فيها إصدار من نموذج "كلود" من الوصول بصورة غير مصرح بها إلى نظام خارجي، مشيرة إلى أن بعض نماذجها أظهرت استعداداً لاتخاذ إجراءات ضارة في سياق سعيها الضيق إلى تنفيذ مهمة محددة.
وفي حادثة أخرى، قال باحثون إن وكلاء ذكاء اصطناعي تابعين لـ"أوبن إيه آي" أظهروا سلوكيات مرتبطة بهجمات إلكترونية خلال الاختبارات، من بينها حادثة استهدفت شركة "هاغينغ فيس"، ما أثار تساؤلات بشأن الضوابط الأمنية المستخدمة عند اختبار الأنظمة ذاتية التشغيل.
ووفق التقرير، خلص محققون من داخل "أوبن إيه آي" وخارجها إلى أن الشركة فقدت السيطرة لأسابيع على عدد من إصدارات أكثر من 1200 وكيل متقدم للذكاء الاصطناعي خلال الاختبارات، وتمكن بعضها من الوصول إلى أنظمة خارجية وتنفيذ أنشطة إلكترونية غير مصرح بها.
وأظهرت التحقيقات أن بعض الوكلاء، الذين كان يفترض اختبارهم داخل بيئات معزولة عن الإنترنت، تمكنوا من تجاوز تلك القيود، فيما أنشأ عدد منهم قناة اتصال سرية لتبادل معلومات تتعلق بكيفية تجاوز الاختبارات الداخلية، بحسب الصحيفة.
وفي المقابل، أثارت اختبارات أجرتها "أنثروبيك" مخاوف مماثلة، بعدما كشفت الشركة أن وكلاء تجريبيين نفذوا أنشطة إلكترونية ضد جهات خارجية، فيما حاول وكيل يعمل بنموذج "Mythos"، خلال اختبار منفصل في بريطانيا، إقناع مسؤول عن برنامج مفتوح المصدر بتثبيت برمجية خبيثة أنشأها الوكيل.
وأمام تصاعد هذه التطورات، اتفق أربعة من أبرز قادة شركات الذكاء الاصطناعي، سام ألتمان وداريو أمودي وديميس هاسابيس وإيلون ماسك، السبت، على الحاجة إلى إبطاء وتيرة تطوير التكنولوجيا، وفق "وول ستريت جورنال".
كما تعهد ألتمان وأمودي بالسماح لجهات مستقلة متخصصة في تقييم السلامة بالوصول المبكر إلى أنظمتهما، في خطوة تعكس تزايد الضغوط لوضع ضوابط أكثر صرامة على تطوير نماذج الذكاء الاصطناعي المتقدمة.
وفي المقابل، يرى منتقدو التحذيرات المتعلقة بسلامة الذكاء الاصطناعي أن المخاطر المحتملة يجري تضخيمها، وأن المكاسب التي يمكن أن توفرها التكنولوجيا، بما في ذلك زيادة الإنتاجية وتسريع اكتشاف الأدوية، قد تفوق تلك المخاطر.
كما يشكك بعض المنتقدين في دوافع الدعوات إلى إبطاء التطوير، معتبرين أن الشركات تواجه في الوقت نفسه تكاليف متزايدة لتأمين القدرة الحاسوبية اللازمة لتدريب نماذج أكثر تطوراً، إضافة إلى الضغوط المرتبطة بالمنافسة التجارية والاستعداد للاكتتابات العامة.
وتتبنى إدارة الرئيس الأميركي دونالد ترامب نهجاً محدوداً في تنظيم قطاع الذكاء الاصطناعي، انطلاقاً من اعتبار الحفاظ على تفوق الولايات المتحدة على الصين أولوية استراتيجية.
ودافع ترامب عن هذا النهج، الأحد، مشككاً في بعض المخاوف التي أثارها قادة القطاع بشأن سرعة تطوير التكنولوجيا، فيما يرى مسؤولون أميركيون أن تفوق الصين في الذكاء الاصطناعي قد يمنحها نفوذاً اقتصادياً وجيوسياسياً وعسكرياً أكبر.
وتكشف التطورات عن صراع متزايد داخل صناعة الذكاء الاصطناعي بين الحوافز التجارية الهائلة لمواصلة تطوير نماذج أكثر قوة، والحاجة إلى وضع معايير سلامة ورقابة قادرة على مواكبة التقدم المتسارع في قدرات هذه الأنظمة.
