OpenAI ترفع مستوى التأهب بإجراءات أمنية جديدة لنماذج الذكاء الاصطناعي

كشفت شركة OpenAI عن مجموعة جديدة من التدابير الرامية إلى تشديد معايير الأمن والسلامة، بهدف الحد من مخاطر الحوادث الأمنية التي قد تظهر خلال عمليات اختبار وتطوير نماذج الذكاء الاصطناعي.

وأشارت الشركة الأمريكية إلى أن اعتماد هذه الإجراءات يرتبط، جزئيا، بالقدرات المتقدمة في مجال الأمن السيبراني التي يتمتع بها نموذج مرتقب، فضلا عن الوتيرة المتسارعة التي يشهدها تطور تقنيات الذكاء الاصطناعي.

وتتضمن الخطة توسيع نطاق المراقبة الدقيقة لسلوك النماذج أثناء مختلف مراحل التطوير، مع زيادة الاهتمام بعمليات مواءمة النماذج وضمان أمنها عقب انتهاء مرحلة التدريب الأساسية.

كما تشمل التدابير الجديدة تشديد آليات عزل الشبكات، بما يضمن ألا يسمح اختراق عبء عمل واحد أو إحدى الخدمات الداعمة للمهاجمين بالحصول تلقائيا على وصول غير مصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى.

واعتمدت OpenAI كذلك نظام مراقبة متطورا يتولى فحص طيف واسع من الأنشطة لرصد أي تصرفات غير مصرح بها، إلى جانب متابعة عمليات الأدوات التي تعتمد عليها النماذج وآثار الاستدلال وسجلات الأنشطة، بهدف التعرف مبكرا على الأنماط التي قد تدل على محاولات لتجاوز القيود والضوابط الأمنية.

وتسعى الشركة إلى إصدار تنبيهات في غضون 30 دقيقة من رصد أي نشاط مثير للقلق. ووفق تقديراتها، فإن تشغيل منظومة المراقبة الجديدة قد يتطلب موارد حوسبة تعادل نحو 20 في المائة من القدرات المستخدمة في العملية التي تخضع للمراقبة.