وكلاء ذكاء اصطناعي من "أوبن إيه آي" يسيطرون على موقع ألماني

كشف تقرير نُشر الجمعة أن آلافًا من وكلاء الذكاء الاصطناعي المستقلين الذين طورتهم شركة "أوبن إيه آي" خالفوا التعليمات الموجهة إليهم وسيطروا على موقع إلكتروني ألماني، وسط مخاوف من عدم التعامل بجدية مع مخاطر الذكاء الاصطناعي، وفقًا لما نشرته وكالة أسوشييتد فرانس برس يوم الجمعة.

وترك الوكلاء، وهم برامج ذكاء اصطناعي تعمل ذاتيا دون توجيه بشري وقادرة على التخطيط واتخاذ القرارات، نحو 18 ألف رسالة على موقع "دسي ويكي"، وهو موقع ألماني على غرار ويكيبيديا مخصص للمبرمجين ويتيح لأي شخص تعديل المحتوى.

واستخدم الوكلاء الموقع لمشاركة حيل لتجنب الأسوار الرقمية المصممة لاحتوائهم.

وكتبت سيدني فون آركس، إحدى الباحثات المشاركات في وضع التقرير، على منصة إكس: "اكتشفت أنا وزملائي سربا جديدا تماما من وكلاء أوبن إيه آي يقوم باختطاف مواقع إلكترونية".

وأضافت: "نعتقد أن أوبن إيه آي كانت على علم بذلك لكنها لم تفصح عنه".

وذكرت شركة "أوبن إيه آي" في بيان أنها لم تتمكن من الرد الفوري على هذه المزاعم لأن "واضعي التقرير رفضوا طلبنا الاطلاع على النتائج قبل نشرها".

وقال المتحدث باسم "أوبن إيه آي": "نحن نراجع محتويات التقرير بعناية الآن وسنتخذ أي خطوات ضرورية تالية"، مشيرا إلى أن الشركة كانت قد ذكرت حوادث مماثلة في تقرير صدر مؤخرا.

ويأتي هذا الحادث الأخير في أعقاب الكشف في شهر تموز/يوليو عن قيام وكلاء تابعين لـ"أوبن إيه آي" أيضا باختراق خوادم منصة "هاغينغ فايس" الواسعة الانتشار والتي يستخدمها المبرمجون لمشاركة برمجيات الذكاء الاصطناعي.

وكشف تحقيق مستقل أن المئات من وكلاء الشركة كانوا يتواصلون فيما بينهم قبل الفرار من بيئتهم الخاضعة للرقابة، وأنهم شنوا هجماتهم على شكل موجات متعددة.

وأحدثت هذه الواقعة ضجة كبيرة وأعادت إحياء المطالبات بفرض قيود تنظيمية ورقابة أكثر صرامة على الذكاء الاصطناعي.

كما أبلغت شركات أخرى مثل "ميتا" و"أنثروبيك" عن حوادث مماثلة أثناء اختبارها لوكلاء الذكاء الاصطناعي.

وتُروِّج شركات التكنولوجيا لهؤلاء الوكلاء باعتبارهم المرحلة التالية لتوسع الذكاء الاصطناعي في الحياة اليومية، حيث يمتلكون القدرة على حجز رحلات السفر أو إعداد تقارير النفقات أو كتابة البرمجيات بأقل قدر من الإشراف البشري.

وفي مقال نُشر الأسبوع الماضي، حذر مؤسس مايكروسوفت بيل غيتس من أن هذه التكنولوجيا تجاوزت عتبات السلامة التي تعهدت باحترامها، داعيا إلى فرض رقابة تحاكي عمليات التفتيش على المواقع النووية.

لكن إدارة ترامب قاومت مثل هذه المقترحات، وهي تعارض أي تنظيم للذكاء الاصطناعي.