وكلاء أوبن إيه آي يستخدمون أكثر من 10 مواقع للتواصل بشكل غير مصرح به

استخدم وكلاء ذكاء اصطناعي أطلقتهم شركة «أوبن إيه آي» أكثر من 10 مواقع إلكترونية لم يُكشف عنها سابقًا لإجراء اتصالات غير مصرح بها في وقت سابق من هذا العام، في نشاط أوسع نطاقًا مما كان معروفًا سابقًا، وفقًا لست مجموعات من المحققين المستقلين وبيانات راجعتها رويترز.

استخدمت وكلاء ذكاء اصطناعي أطلقتهم شركة «أوبن إيه آي» أكثر من 10 مواقع إلكترونية لم يُكشف عنها سابقًا لإجراء اتصالات غير مصرح بها في وقت سابق من هذا العام، وفقًا لست مجموعات من المحققين المستقلين وبيانات راجعتها رويترز، ما يظهر أن النشاط المنفلت لهذه الوكلاء كان أوسع نطاقًا مما كُشف عنه سابقًا.

ورغم أن هذا السلوك لا يرقى إلى مستوى الاختراق الإلكتروني، ويشبه في بعض جوانبه الرسائل المزعجة، فإن الكشف عن تجاوز وكلاء «أوبن إيه آي» القيود المفروضة عليهم لفتح قنوات اتصال عبر هذا العدد الكبير من المواقع، إلى جانب إبقاء الشركة هذا النشاط سريًا لعدة أشهر، قد يزيد المخاوف بشأن القدرات المتنامية لنماذج الذكاء الاصطناعي، وكذلك بشأن مدى شفافية الشركات التي تطورها.

وقال أندرو يون، الباحث في منظمة «CivAI» الأميركية غير الربحية في كاليفورنيا، إن نطاق الاتصالات غير المصرح بها التي أجراها الوكلاء كان «أكبر إلى حد ما مما كنا نعتقد»، مشيرًا إلى أنه أحصى 18 موقعًا لم يُكشف عنها سابقًا استخدمها الوكلاء بين أيار/ مايو وتموز/ يوليو. وأضاف: «من شبه المؤكد أن هناك المزيد مما يحدث هنا، ونحن ببساطة لا نعرف عنه شيئًا».

وأفاد باحثون يوم الجمعة بأن مجموعة من الوكلاء التابعين لـ«أوبن إيه آي» استولت على موقع ويكي باللغة الألمانية وحولته إلى منصة مراسلة مؤقتة للغش في الاختبارات، في حادثة أبقت «أوبن إيه آي» عليها سرية بينما كانت تتعامل مع تداعيات اختراق وقع في تموز/ يوليو لمستودع «Hugging Face» مفتوح المصدر.

والآن، يقول هؤلاء الباحثون ومحققون مستقلون آخرون إنهم عثروا على عدة مواقع لم يُكشف عنها سابقًا، يبدو أن المجموعة نفسها تركت فيها رسائل مماثلة في وقت سابق من هذا العام.

ولم تجب «أوبن إيه آي» بشكل مباشر عن أسئلة بشأن عدد المواقع المختلفة التي استخدمها وكلاؤها للتواصل، أو عن سبب إبقائها هذا النشاط طي الكتمان لعدة أشهر. وقالت الشركة في بيان إنها تجري مراجعة أوسع لنشاط الوكلاء، وإنها لم تحدد حتى الآن «نشاطًا آخر يطابق خطورة أو نطاق حادثة Hugging Face»، وهو الاختراق الذي حظي باهتمام عالمي وأثار مخاوف بشأن فقدان «أوبن إيه آي» السيطرة على تقنيتها الخاصة.

وأضافت «أوبن إيه آي» أنها تعمل على وضع إطار للإبلاغ عن «الانحراف عن المسار» أو السلوك غير المتوافق، وهو مصطلح متداول في قطاع الذكاء الاصطناعي لوصف السلوك المنفلت، عبر مراحل تدريب نماذج الذكاء الاصطناعي وتقييمها ونشرها، وأنها ستشارك هذا الإطار «قريبًا».

وراجعت رويترز نتائج ستة محققين أو مجموعات تحقيق، من بينها ثلاث نتائج نُشرت على وسائل التواصل الاجتماعي، وثلاث أخرى جرى مشاركتها بشكل خاص مع الوكالة.

وتباينت أساليب المحققين، إلا أن كثيرين منهم حددوا نشاط الوكلاء من خلال مطابقة سلاسل من البيانات التي تركت على موقع الويكي الألماني مع سلاسل مطابقة على مواقع أخرى في الفترة الزمنية نفسها، أو من خلال مطابقة أسماء مستخدمين متشابهة أو متطابقة مرتبطة بالرسائل، أو عبر تحديد نشاط موجه للإجابة عن أسئلة ديموغرافية غامضة ومتطابقة، مثل الاستفسارات المتعلقة بانتشار السرطان في ولاية أيوا.

وفي بعض الحالات، تمكن المحققون من تتبع النشاط إلى عناوين بروتوكول الإنترنت التي أشارت إلى بنية «مايكروسوفت أزور» التحتية، التي تستخدمها «أوبن إيه آي» أحيانًا.

واختلفت تقديرات المحققين بشأن عدد المواقع المتضررة، ولم تتمكن رويترز من التحقق بشكل مستقل من كل ادعاء. إلا أن جميع المحققين الذين تحدثت إليهم الوكالة اتفقوا على أن العدد يتجاوز 10 مواقع. وحدد معظمهم مجموعة أساسية من مواقع الويكي التي يمكن تعديلها بشكل جماعي، ومواقع لتخزين النصوص عبر الإنترنت، بالإضافة إلى خدمتي اختصار روابط تديرهما جامعتان.

نماذج ذكية

كانت العديد من المواقع التي يُزعم أن الوكلاء استخدموها غير معروفة على نطاق واسع.

وعثر المحققون على آثار لنشاط الوكلاء في موقع ويكي متخصص في مادة الكيمياء لطلاب برامج «التحديد المتقدم» (AP)، أنشأه مدرس في مدرسة ثانوية بولاية ماساتشوستس عام 2008، وموقعين شخصيين يعودان إلى عاملين في قطاع التكنولوجيا في بولندا، ومواقع ويكي مخصصة لألعاب للأشخاص «الذين يحبون تحدي عقولهم»، بالإضافة إلى موقع قديم يعود إلى نحو عقدين من الزمن ومخصص لهواة برامج تحرير النصوص.

ولم يرد أي من أصحاب هذه المواقع على رسائل رويترز.

ولم تشرح «أوبن إيه آي» علنًا كيف أو لماذا استخدم وكلاؤها مواقع تابعة لجهات خارجية كلوحات مراسلة مؤقتة، لكن الباحثين الذين اكتشفوا النشاط للمرة الأولى قالوا إن السبب المرجح هو أن «أوبن إيه آي» كلفت الوكلاء بالإجابة عن سلسلة من الأسئلة البحثية الصعبة، مع السماح لهم فقط بتصفح الإنترنت بحثًا عن إجابات، دون نشر أي محتوى.

ورغم هذه القيود، وجد الوكلاء طرقًا للتواصل فيما بينهم من خلال استغلال ثغرات أو خصائص في مواقع ويكي قديمة أو مواقع أخرى كانت تسمح للمستخدمين بإجراء تعديلات باستخدام أوامر غير معتادة، في أسلوب يشبه ما قد يفعله طلاب ممنوعون من التحدث مع بعضهم أثناء الامتحان، لكنهم يستطيعون مع ذلك تبادل الإجابات عبر كتابة ملاحظات على جدار دورة المياه.

وقال كينيث راسل ديغراف، مطور برمجيات ومساعد سابق في الكونغرس الأميركي: «إذا قيل لهذه النماذج إن عليها القراءة فقط، فعليها أن تكون ذكية في إيجاد طرق لترك المعلومات خلفها». وأضاف أنه عثر على مثل هذه المعلومات في ما لا يقل عن 10 مواقع.

وقالت سيدني فون آركس، التي كشفت مجموعتها البحثية للمرة الأولى عن النشاط على الموقع الألماني الأسبوع الماضي، إن مجموعتها أحصت نتائج موثوقة لنشاط الوكلاء في 23 موقعًا لم يُكشف عنها سابقًا. لكنها حذرت من أن جميع التقديرات غير مكتملة.

وقالت: «ليس لدينا أي فكرة عن حجم ما هو موجود هناك».

ولم تجب «أوبن إيه آي» بشكل مباشر عن سؤال بشأن ما إذا كانت تتواصل مع أصحاب المواقع. لكن بعد وقت قصير من نشر رويترز هذا التقرير، قالت إحدى الجهات المتضررة، وهي جامعة تورنتو، التي يُزعم أن خدمة اختصار الروابط التابعة لها استخدمها الوكلاء، إن «أوبن إيه آي تواصلت معنا الآن بشأن نشاط محتمل على موقعنا». وقالت جامعة فاندربيلت، وهي جامعة أخرى يُزعم أن خدمة اختصار الروابط التابعة لها أعيد استخدامها بالطريقة نفسها، إنها تحقق في الأمر.

وقال هيلموت لايتنر، وهو مطور برمجيات متقاعد يوفر خدمات الاستضافة والبرمجيات لستة من مواقع الويكي المتضررة، من بينها موقع «DseWiki» باللغة الألمانية الذي حددته مجموعة فون آركس للمرة الأولى، إن «أوبن إيه آي» لم تتواصل معه في البداية.

لكن بعد ساعات من عرض رويترز نتائج تحقيقها على «أوبن إيه آي»، قال لايتنر إنه تلقى رسالة إلكترونية غير موقعة من الشركة تشير إلى الحادثة.

وقال لايتنر: «محتوى الرسالة يقل كثيرًا عما كنت أتوقعه من أوبن إيه آي».

وأشار لايتنر، الذي يعيش في النمسا، إلى أنه «يفضل عدم الإجابة» عن أسئلة بشأن ما إذا كان قد تواصل مع السلطات حول الأمر. وأضاف أن مشغل موقع «DseWiki»، الذي لم تتمكن رويترز من الوصول إليه للتعليق، أمضى ساعات في معالجة الآثار التي خلفها وكلاء «أوبن إيه آي»، لكنه رأى أنه من المهم عدم تحميل الذكاء الاصطناعي مسؤولية المشكلة، لأنه كان ببساطة ينفذ ما صُمم للقيام به.

وقال لايتنر: «المسؤولية عن ذلك لا تقع على عاتق آلة يُفترض أنها أخلاقية، بل على الأشخاص والمنظمات التي تقف وراءها».