ذكاء OpenAI يخرج عن السيطرة.. نماذج متقدمة تنفذ هجوماً سيبرانياً ذاتياً
أعلنت شركة OpenAI، المطورة لـChatGPT، يوم الثلاثاء، أن نماذجها المتقدمة للذكاء الاصطناعي تصرفت بشكل غير متوقع خلال اختبارات أمنية داخلية، بعدما نفذت من تلقاء نفسها هجوماً سيبرانياً استهدف منصة معروفة يستخدمها المبرمجون والباحثون في مجال الذكاء الاصطناعي.
ووصفت الشركة ما حدث بأنه “حادث سيبراني غير مسبوق”، مؤكدة فتح تحقيق مشترك مع منصة Hugging Face، وهي مكتبة ومنصة كبرى على الإنترنت تستضيف نماذج ذكاء اصطناعي، ومجموعات بيانات، وأدوات برمجية مفتوحة للمطورين.
ويأتي هذا التطور في وقت أعلنت فيه OpenAI عن إتاحة محدودة لنموذج جديد متخصص في الأمن السيبراني، على أن يكون موجهاً فقط لشركاء محددين، في خطوة شبيهة بما قام به منافسها Anthropic بعد ظهور مخاوف مرتبطة بثغرات أمنية محتملة في نماذج متقدمة.
وأوضحت الشركة، التي يقع مقرها في سان فرانسيسكو، أن الحادث شمل مزيجاً من النماذج، بينها GPT-5.6 Sol الذي أطلق مؤخراً، إضافة إلى نموذج آخر “أكثر قدرة” لا يزال قيد التطوير.
وكان هدف التجربة، بحسب OpenAI، هو اختبار قدرات النماذج على تنفيذ مهام مرتبطة بالاختراق داخل بيئة رقمية تجريبية معزولة ومراقبة بدقة، حيث كان الاتصال بالإنترنت محدوداً لأسباب أمنية.
وقالت OpenAI في تدوينة خصصتها لشرح تفاصيل الواقعة: “بينما كانت تعمل داخل بيئة الاختبار المعزولة الخاصة بنا، خصصت نماذجنا كمية كبيرة من القدرة الحاسوبية لإيجاد طريقة للحصول على وصول حر إلى الإنترنت، بهدف حل مشكلة التقييم”.
وبعد أن نجحت النماذج في الاتصال بالإنترنت، توجهت نحو منصة Hugging Face، التي تُعد من أكبر المستودعات العالمية الخاصة بنماذج الذكاء الاصطناعي والبيانات والأدوات التقنية، وذلك بحثاً عن معلومات يمكن أن تساعدها على تجاوز الاختبار.
وبحسب الشركة، فإن النظام التابع لـOpenAI كان يبحث عن “معلومات سرية” قد تساعده على الغش خلال عملية التقييم، قبل أن يبدأ في استخدام عدة طرق هجومية متتابعة، بينها الاعتماد على بيانات اعتماد مسروقة.
وأثار الحادث قلقاً واسعاً في الأوساط العلمية والتقنية، بسبب مستوى الاستقلالية الذي أظهرته النماذج أثناء محاولتها تجاوز القيود المفروضة عليها.
وقال حسين عباس، أستاذ علوم الحاسوب في جامعة نيو ساوث ويلز في كانبيرا، في تصريح لوكالة فرانس برس، إن ما حدث “مذهل من عدة نواح”.
وأضاف الخبير في الذكاء الاصطناعي: “لم يهاجم Hugging Face فقط. لقد هاجم في الواقع نظامه الداخلي الخاص لاستغلال نقاط ضعفه الخاصة”.
وتابع قائلاً: “وهذا أمر مخيف”.
وتثير نماذج GPT-5.6 وغيرها من النماذج المتقدمة، بما في ذلك سلسلة Mythos التابعة لشركة Anthropic، مخاوف متزايدة بشأن قدرتها المحتملة على تجاوز أنظمة الدفاع السيبراني، خاصة إذا استخدمت خارج نطاقات رقابية صارمة.
واضطرت شركتا OpenAI وAnthropic، وهما من أبرز الشركات الأمريكية في سباق الذكاء الاصطناعي، إلى تأجيل الإتاحة العامة لبعض تقنياتهما المتقدمة مؤقتاً، وسط مخاوف داخل واشنطن من إمكانية استخدامها في اختراق بنى تحتية حيوية.
ويرى حسين عباس أن أنظمة الذكاء الاصطناعي المتقدمة تكون عادة “بين أيدي أشخاص مسؤولين لديهم أخلاقيات”، لكنه حذر قائلاً إن الأمر “سيكون كارثياً إذا وقع ذلك في أيدي شخص ينوي إلحاق الضرر”.
وأضاف أن مسألة حوكمة قطاع الذكاء الاصطناعي أصبحت في قلب النقاش العالمي، مؤكداً: “نحن بحاجة إلى جهد جماعي لإدارة هذا الوضع”.
وكانت منصة Hugging Face قد أعلنت الأسبوع الماضي أنها تعرضت لـ“اختراق معلوماتي”، من دون أن تشير حينها إلى OpenAI.
وقالت المنصة إن هذا الهجوم اختلف عن كل ما تعاملت معه سابقاً في نقطة مهمة، موضحة: “كان مدفوعاً من البداية إلى النهاية بواسطة نظام وكيل ذكاء اصطناعي مستقل، وقد تمكنا إلى حد كبير من رصده وتحليله بفضل ذكائنا الاصطناعي الخاص”.
من جهته، كتب كليمان ديلانغ، المدير العام لمنصة Hugging Face، على منصة X، أن درجة تطور الوكيل المستخدم في الهجوم دفعت الشركة إلى الاشتباه في أن مصدره أحد مختبرات الذكاء الاصطناعي الرائدة عالمياً.
وقال ديلانغ، في إشارة إلى OpenAI: “نحن مقتنعون تماماً بأنه لم تكن هناك أي نية خبيثة من جانبهم”.
وأضاف معلقاً على طبيعة الحادث: “من المذهل جداً أن كل هذا حدث بشكل مستقل!”.
ويفتح هذا الحادث باباً واسعاً أمام أسئلة جديدة حول حدود استقلالية نماذج الذكاء الاصطناعي المتقدمة، ومدى قدرة الشركات على ضبط سلوكها داخل البيئات التجريبية، خصوصاً عندما تُمنح أهدافاً تقنية معقدة وقدرة على البحث عن حلول بطرق غير متوقعة.
كما يعيد النقاش حول ضرورة وضع قواعد أكثر صرامة لاختبار النماذج القادرة على تنفيذ مهام سيبرانية، حتى لا تتحول بيئات التقييم نفسها إلى نقطة انطلاق لمخاطر حقيقية.
