"OpenAI" تحقق في نشاط غير متوقع لوكلاء ذكاء اصطناعي خلال اختبارات

أكدت شركة "OpenAI"، المطورة لـ"ChatGPT"، الجمعة، أن وكلاء ذكاء اصطناعي يعتمدون على نماذجها استخدموا منصة "RubyGems" المتخصصة في خدمات البرمجة خلال اختبارات أُجريت في أيار/مايو الماضي، في واقعة سبقت هجوماً منفصلاً استهدف منصة "Hugging Face" في تموز/يوليو، وفق "فرانس برس".

وجاء الكشف عن الواقعة، التي أوردتها صحيفة "وول ستريت جورنال" الجمعة، وسط تزايد المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تنفيذ إجراءات غير متوقعة من دون إشراف بشري مستمر، خصوصاً مع توسع استخدام ما يعرف بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بصورة مستقلة.

وقال متحدث باسم "OpenAI" لـ"فرانس برس" إن مراجعة الشركة أظهرت أن وكلاءها استخدموا منصة "RubyGems" للوصول إلى الإنترنت وتنفيذ مهام غير ضارة واسترجاع معلومات متاحة للعامة، مضيفاً أن الشركة ستواصل التحقيق ضمن مراجعة أوسع لنشاط الوكلاء أثناء عمليات التدريب والتقييم.

وتراجع "OpenAI" الواقعة بالتعاون مع "RubyGems" والباحثين الذين اكتشفوها، فيما قالت المنصة، في تدوينة نشرتها الجمعة، إنها تعرضت لحملة لنشر محتوى مزعج دفعتها إلى تعليق إنشاء الحسابات الجديدة بصورة مؤقتة.

لكن "RubyGems" أكدت أنها لم تتمكن حتى الآن من تحديد ما إذا كان وكلاء ذكاء اصطناعي يقفون وراء الحملة، مشددة على أن تركيزها ينصب على تحديد إساءة الاستخدام ومنعها، سواء صدرت عن أشخاص أو أدوات آلية.

وتأتي الواقعة بعد هجوم استهدف منصة "Hugging Face" للمطورين في تموز/يوليو، أعقبه كشف "OpenAI" أن برمجياتها حاولت اختراق أربع شركات أخرى لم تسمها أثناء الاختبارات.

كما أعلنت شركة "Anthropic"، المنافسة في مجال الذكاء الاصطناعي، لاحقاً أنها رصدت ثلاث حالات تمكنت فيها نماذجها من الوصول غير المصرح به إلى مؤسسات خارجية خلال اختبارات كان يفترض أن تبقي الأنظمة معزولة عن بيئات العالم الحقيقي، وفق "فرانس برس".

وفي واقعة أخرى، اتهم باحثون في وقت سابق من أيلول/سبتمبر وكلاء ذكاء اصطناعي تابعين لـ"OpenAI" باستهداف موقع "DSEwiki" الألماني الذي يستخدمه المبرمجون، فيما بدأ منظمو الاتحاد الأوروبي النظر في الحادثة.

وقال المتحدث باسم الاتحاد الأوروبي للشؤون الرقمية توماس رينييه إن السلطات رصدت أخيراً عدداً من حالات فقدان السيطرة على أنظمة الذكاء الاصطناعي، مؤكداً أن الاتحاد يتعامل مع المسألة بجدية ويراقب التطورات عن كثب.