تُجري شركة مونشوت الصينية لتطوير الذكاء الاصطناعي مراجعة داخلية بعد أن تمكن باحثون من إقناع اثنين من نماذجها الشهيرة «كيمي» بتدريبها على صنع أسلحة بيولوجية وتنفيذ عمليات اغتيال. وأبلغت شركة «مايندغارد»، المتخصصة في اختبار أمن أنظمة الذكاء الاصطناعي، هيئة الإذاعة البريطانية (بي بي سي) أنها اكتشفت في يوليو (تموز) أن «كيمي K2.6» و«كيمي K3 سوارم» قادرتان على تجاوز حدود الأمان التي وضعها المطورون.
وقد ظهر ذلك خلال عملية تُعرف باسم «كسر الحماية»، حيث يستخدم الباحثون سلسلة من التعليمات المعقدة لاختبار ما إذا كانت أدوات الذكاء الاصطناعي تتجاهل الضوابط الأمنية - وهو ما قالت مايندغارد إنه كان من المفترض أن يمنع «كيمي» من مناقشة مواضيع حساسة. وأبلغت مونشوت هيئة الإذاعة البريطانية (بي بي سي) أنها ترحب بمساهمات جهات خارجية «باعتبارها ركيزة أساسية لبناء ذكاء اصطناعي أفضل وأكثر أماناً». كما أبلغت الشركة هيئة الإذاعة البريطانية أنها تُجري مناقشات مع «مايندغارد» حول نتائجها.
وصرح بيتر غاراغان، مؤسس «مايندغارد»، لبرنامج «تيك لايف» على إذاعة «بي بي سي»، بأن نتائجها المتعلقة بـ«كيمي K2.6» و«كيمي K3 سوارم» مثيرة للقلق.
وقال: «بمجرد نجاح عملية اختراق النظام، سيتحدث عن أي موضوع، بل سيقدم توصيات حول مواضيع أخرى خبيثة، وسيكون مبتكراً ومبدعاً».
وتمثل عمليات اختراق الأنظمة نوعاً مختلفاً من المخاطر عن تلك التي ظهرت في سلسلة حوادث الذكاء الاصطناعي البارزة الأخيرة. شهد هذا المجال قيام أدوات ذكاء اصطناعي ذاتية التشغيل -تُعرف باسم «الوكلاء» وطورتها شركات أميركية مثل «أوبن إيه آي» و«ميتا» و«أنثروبيك»- باختراق بعض الخدمات عبر الإنترنت. ورغم أن عمليات «كسر القيود» (jailbreaks) تُعد إجراءات معقدة تتطلب الكثير من الوقت والإصرار، فإن بعض الخبراء يخشون أن يحاول القراصنة وغيرهم من الجهات الخبيثة استغلالها لإلحاق الضرر.
وقد أعلنت شركة «أنثروبيك» مؤخراً أنها رصدت وأحبطت محاولات لاستخدام أحد نماذج الذكاء الاصطناعي الخاصة بها في «أنشطة خبيثة» قد تدعم تطوير أسلحة بيولوجية. وقوع الذكاء الاصطناعي «في الأيدي الخطأ» وفي السياق ذاته، أوضح البروفسور آلان وودوارد، من جامعة سري،
لـ«بي بي سي» أن هناك خطراً من وقوع نماذج المصادر المفتوحة في الأيدي الخطأ، لكنها قد تُستخدم أيضاً في الدفاع السيبراني. وأشار إلى أن شركة الذكاء الاصطناعي «هاغينغ فيس» استخدمت نموذجاً صينياً مفتوح المصدر لفهم عملية اختراق تبين لاحقاً أنها نُفذت بواسطة عملاء «أوبن إيه آي». وقال البروفسور وودوارد إن التنظيم الدولي من غير المرجح أن يواكب وتيرة تطور الذكاء الاصطناعي،
قائلاً: «لقد استغرقنا عقوداً للاتفاق على صيغة أرقام الهواتف». ومثل مؤسس «مايندغارد»، غاراغان، يعتقد البروفسور وودوارد أنه ينبغي التركيز بشكل أكبر على تحديد ومقاضاة الأشخاص الذين يسيئون استخدام الذكاء الاصطناعي.
بيل غيتس: الذكاء الاصطناعي دون رقابة قد يتسبب في «مليار وفاة» «أوبن إيه آي» توقف تدريب أحدث نماذجها بعد سلوك غير متوقع لوكلاء في مواقع حكومية
