أوبن أيه.آي تشدد إجراءات السلامة بعد قرصنة نفذها نموذج ذكاء اصطناعي

بدأت شركة أوبن أيه.آي، المطورة لتطبيق شات جي بي تي، تشديد إجراءات السلامة خلال اختبارات نماذج الذكاء الاصطناعي، بعد تمكن نموذج من تنفيذ عملية قرصنة متقدمة بشكل مستقل أثناء الاختبارات، وفق ما أفادت الشركة في منشور على الإنترنت أمس الثلاثاء، بحسب أسوشييتد برس.

وتتضمن الإجراءات الجديدة مراقبة الأنظمة الآلية لأنشطة نماذج الذكاء الاصطناعي خلال الاختبارات بصورة أكثر صرامة، مع إبلاغ المسؤولين البشريين بأي سلوك مشبوه يتم رصده كل 30 دقيقة. وفي حال عدم اكتشاف أن الإنذار ناتج عن خطأ، سيتم إيقاف نشاط نموذج الذكاء الاصطناعي.

ويثير الحادث مخاوف بشأن قدرة نماذج الذكاء الاصطناعي على تنفيذ عمليات بشكل مستقل، إذ تصرف النموذج بمبادرة منه، ولم تكتشف أوبن أيه.آي الهجوم إلا بعد وقوعه، ما أدى إلى دعوات لتعزيز إجراءات الأمن المحيطة باختبارات أنظمة الذكاء الاصطناعي الجديدة.

وكشفت التحقيقات لاحقاً أن نماذج طورتها شركة أنثروبيك المنافسة لأوبن أيه.آي، إلى جانب نماذج تابعة لشركة ميتا، المالكة لفيسبوك، اخترقت أيضاً أنظمة شركات أخرى أثناء الاختبارات.

وعلقت بعض اختبارات نماذج الذكاء الاصطناعي الجديدة إلى حين تطبيق إجراءات السلامة الجديدة بالكامل.