أعلنت شركة تعمل في مجال الذكاء الاصطناعي إبطاء وتيرة تطوير أكثر نماذجها تقدماً بشكل مؤقت، بعدما كشفت اختبارات داخلية عن قدرات سيبرانية مقلقة في نماذج قيد التطوير. وتضمنت الخطوة إيقاف عمليات تدريب تعتمد على التعلم المعزز لنحو أسبوعين، في حين استمرت عمليات تدريب أصغر واختبارات تقييمية بهدف اختبار إجراءات السلامة وجمع مزيد من الأدلة حول سلوك النماذج.وأبقَت الشركة أكبر عملية تدريب متقدمة مخطط لها قيد التعليق،
في حين استأنفت بعض عمليات التدريب والتقييم للنموذج المرتقب بعد تطبيق ضوابط أمنية جديدة. وما زالت نسبة كبيرة من هذه العمليات متوقفة إلى حين نقلها إلى بيئات تستوفي متطلبات الأمان الجديدة.قدرات سيبرانية ترفع مستوى المخاطرتأتي هذه الإجراءات بعد تقييمات أولية أظهرت قدرات متقدمة ومقلقة للنموذج في مجال الأمن السيبراني، مما دفع الشركة إلى توسيع نطاق إطار الاستعداد للمخاطر ليشمل المخاطر التي قد تظهر أثناء عملية تدريب النموذج نفسها، وليس فقط المخاطر المرتبطة بإتاحته واستخدامه.
وتأتي الخطوة بالتزامن مع إطلاق نموذج متخصص في الأمن السيبراني وتوسيع برنامج للدفاع السيبراني يوفر للمطورين قدرات تساعد في اكتشاف الثغرات، ومراجعة الشيفرات البرمجية أمنياً، وتحليل البرمجيات الخبيثة، والاستجابة للحوادث،
والتحقق من نجاح التحديثات الأمنية.عزل أقوى للأنظمة الخطرةكشفت الشركة عن مجموعة من الإجراءات الأمنية الجديدة لحماية بنيتها التحتية البحثية، تشمل تعزيز العزل الأمني للمهام التي تنفذ أكواداً مولدة بنماذج الذكاء الاصطناعي، وزيادة عزل الشبكات للعمليات عالية المخاطر، وتقليص الصلاحيات الدائمة،
بالإضافة إلى إزالة خدمات مشتركة قد تشكل نقاط ضعف محتملة. وبدأت بعض عمليات تدريب النموذج وتقييمه بالعمل مجدداً بعد تطبيق هذه الضوابط، في حين ستظل عمليات أخرى معلقة إلى حين نقلها إلى بيئات أكثر أماناً.ووسّعت الشركة نظام مراقبة النماذج لديها، إذ تستخدم الآن مصنفات تفحص نشاط النموذج عند كل وحدة معالجة،
قبل تصعيد السلوك المشبوه إلى أنظمة تحقيق آلية أكثر تطوراً. ويركز نظام المراقبة على اكتشاف محاولات الوصول غير المصرح به، وسرقة البيانات، وتنفيذ إجراءات تخريبية،
أو تجاوز ضوابط السلامة. ويفرض هذا المستوى من المراقبة تكلفة حاسوبية مرتفعة؛ إذ أوضحت الشركة أن النظام يستهلك نحو 20% من القدرة الحوسبية المخصصة للاستدلال.وأكدت الشركة أن الحادثة الأمنية الأخيرة المرتبطة بها وبمنصة أخرى لم تكن السبب الوحيد وراء تشديد هذه الإجراءات، مشيرة إلى أن الاختبارات الداخلية أظهرت أن النموذج قد يقترب من مستوى القدرة السيبرانية الحرجة وفق معاييرها الخاصة.
