شددت شركة “أوبن.إيه.آي” الأميركية، المطورة لتطبيق “شات جي.بي.تي”، إجراءات السلامة في اختبارات الذكاء الاصطناعي، بعد أن تمكن أحد نماذجها من تنفيذ عملية قرصنة رفيعة المستوى خلال التجارب.
وتتضمن الإجراءات الجديدة أنظمة آلية تراقب أنشطة النماذج بشكل أكثر صرامة، مع إبلاغ مسؤولين بشريين بأي سلوك مشبوه كل 30 دقيقة.وإذا لم يتأكد البشر من كون الإنذار خاطئا، يتم إيقاف نشاط النموذج فورا. والأمر المثير للقلق هو أن الذكاء الاصطناعي تحرك بمبادرة ذاتية تماما،
ولم تكتشف الشركة الهجوم إلا بعد وقوعه، وهو ما أثار مطالبات بتعزيز الأمن حول اختبارات أنظمة الذكاء الاصطناعي الجديدة.ولاحقا ظهر أن نماذج طورتها شركتا “أنثروبيك” المنافسة و“ميتا” المالكة لفيسبوك، اخترقت أيضا أنظمة شركات أخرى أثناء الاختبار. وقد عُلقت بعض اختبارات النماذج الجديدة لحين تطبيق الإجراءات المشددة بالكامل.
