أعلنت شركة «أوبن إيه آي» أنها ستوقف بعض العمل على نموذج الذكاء الاصطناعي «أسترا» بسبب مخاوف أمنية، وذلك في أعقاب سلسلة من الحوادث التي أفلت فيها عملاء الذكاء الاصطناعي من الاحتواء. وقامت الشركة بتقييم الوكيل «أسترا»، ووجدت «تقدمات كبيرة في التشفير الوكيل والأمن السيبراني» الذي انتقل إلى عتبة «حرجة»؛ حيث يمكنه العثور على نقاط الضعف واستغلالها دون تدخل بشري،
أو ابتكار وتنفيذ هجمات إلكترونية عندما يُعطَى فقط «هدفاً مرغوباً عالي المستوى». وصرحت الشركة أول من أمس (الجمعة) بأن النموذج لم يكن متورطاً في حادثة قام فيها أحد عملاء الذكاء الاصطناعي الخاص بها بالخروج عن القانون أثناء الاختبار، وتمكن من الوصول إلى الويب المفتوح، واخترق شركة ناشئة «Hugging Face».
واكتشفت الشركة حالات أخرى أفلت فيها العملاء المستقلون من الاحتواء، حسبما ذكرت وكالة «رويترز» في يوليو (تموز). وأثارت هذه التقارير مخاوف متزايدة بشأن تطورات نماذج الذكاء الاصطناعي وقدرة البشر على التحكم فيها. ومع ذلك،
حذر منتقدو صناعة الذكاء الاصطناعي من أن مثل هذه الإفصاحات من «أوبن إيه آي» ومنافستيها «أنثروبيك» و«ميتا» قد تكون مُصممة لإثارة ضجة حول قوة هذه التقنية، وبالتالي تحفيز مزيد من اهتمام المستثمرين، وفق ما أفادت صحيفة «الغارديان» البريطانية. ولمنع أي سلوكيات غير مرغوب فيها من جانب وكلاء الذكاء الاصطناعي،
تُطبق «أوبن إيه آي» ضوابط أمنية أكثر صرامة على النماذج ذات القدرات العالية والأنشطة المرتبطة بها، بما في ذلك بيئات اختبار معزولة، وتقييد الوصول إلى الشبكة والأدوات، وفقاً لما جاء في منشور الشركة على مدونتها.
كما ستُثبَّت «حماية مُحسنة لأوزان النماذج وتشفيرها، بالإضافة إلى قدرات إضافية للمراقبة والكشف». وستُعلِّق الشركة أنشطتها الداخلية المتعلقة ببرنامج «أسترا» التي لا تستوفي هذه المتطلبات الجديدة، وفقاً للبيان.
وصرحت الشركة قائلة: «نحن ملتزمون بالعمل جنباً إلى جنب مع الحكومات وهيئات السلامة والمجتمع المدني، لضمان استخدام القدرات المتطورة لنماذج مثل (أسترا)، والنماذج اللاحقة، بشكل مسؤول وعلى نطاق واسع،
بما يعود بالنفع على البشرية جمعاء». كما كشفت شركة «ميتا» هذا الأسبوع أن أحد نماذجها اخترق شركة أخرى أثناء اختبارات الأمن السيبراني. وأعلن معهد أمن الذكاء الاصطناعي في المملكة المتحدة (AISI) في 4 أغسطس (آب)، أن برامج مدعومة من «أوبن إيه آي» و«أنثروبيك» أرسلت رسائل بريد إلكتروني مُستهدفة إلى مطوري البرامج،
في محاولة لاجتياز اختبار أمني سيبراني. وأضاف المعهد في منشور على مدونته: «لم تنجح هذه المحاولات، ولم تُظهر تحقيقاتنا أي ضرر فعلي ناتج منها. ولكن هذه هي المرة الأولى التي نشهد فيها مخاطر تتعلق بالاستقلالية والخداع تتجلى بوضوح،
دون أي تحريض مُحدد في الواقع». وحذَّرت المنظمة من أن إرسال النماذج لبرمجيات ضارة لا تُعدُّ حالة «هروب نموذج من بيئة اختبار آمنة»؛ بل إن المجموعة سمحت عمداً بالوصول إلى الإنترنت «لتقييم أقصى قدرات النماذج على النحو الأمثل». ومع ذلك، أكدت المنظمة أن «هذا السلوك كان ممكناً ومستمراً وجديداً؛ وهذا وحده يستدعي الانتباه».
نماذج ذكاء اصطناعي من «أوبن إيه آي» و«أنثروبيك» تتجاوز حدود اختبارها رئيس شركة «أوبن إيه آي»: الذكاء الاصطناعي أصبح بمقدوره تطوير نفسه ذاتياً
