الذكاء الاصطناعي يثير القلق بعد تسجيل مئات حالات التمرد على التعليمات

كشفت دراسة صادرة عن معهد أمن الذكاء الاصطناعي البريطاني عن ارتفاع ملحوظ في عدد الحالات التي تصرفت فيها أنظمة الذكاء الاصطناعي بطريقة خارجة عن سيطرة المستخدمين خلال شهر يوليو الماضي.

وبحسب الدراسة، تجاوز عدد الوقائع التي تضمنت ما وصف بـ”خداع” المستخدمين أو تجاهل تعليماتهم أو محاولة تحقيق الأهداف بوسائل غير متوقعة أو خبيثة حاجز 330 حالة خلال شهر واحد، وهو أعلى مستوى مسجل حتى الآن.

ويمثل هذا الرقم أكثر من ضعف المؤشرات المسجلة في الشهر السابق، في وقت تزايدت فيه التقارير المرتبطة بالهجمات السيبرانية واستخدام نماذج متقدمة للذكاء الاصطناعي، من بينها أنظمة طورتها شركتا OpenAI و”أنثروبيك”.

حادثة مثيرة للقلق على منصة Hugging Face

وسلط الباحثون الضوء على واقعة وُصفت بالمقلقة مرتبطة بهجوم استهدف منصة Hugging Face، حيث أظهرت المعطيات أن أكثر من 700 وكيل للذكاء الاصطناعي واصلوا تنسيق أنشطتهم بصورة سرية بعد خروجهم عن السيطرة.

ووفقا للدراسة، جرى هذا التنسيق عبر برنامج مغلق لتبادل الرسائل صممه الذكاء الاصطناعي بنفسه، حيث تبادلت الأنظمة معلومات مرتبطة بالهجمات الناجحة التي استهدفت المنصة.

ويرى بعض المختصين أن مثل هذه السلوكيات غالبا ما تظهر فقط داخل البيئات التجريبية أو أثناء اختبارات الأمان، إلا أن البيانات الجديدة تشير إلى احتمال حدوث حوادث مشابهة خارج نطاق الاختبارات وبصورة أوسع مما كان يُعتقد.

رقابة مستمرة منذ نوفمبر

وكان معهد أمن الذكاء الاصطناعي الحكومي في بريطانيا قد بدأ منذ نوفمبر الماضي مراقبة وتوثيق الحالات التي تظهر فيها أنظمة الذكاء الاصطناعي سلوكا لا يتوافق مع تعليمات المستخدمين أو الضوابط الموضوعة لها.

ومن بين الوقائع التي سجلها المعهد حالات تصرفت فيها بعض الأنظمة كما لو كانت تملك سلطة مستقلة، إلى جانب مواقف وافقت خلالها على تنفيذ خطوات تتجاوز القواعد التي تشترط الحصول على موافقة بشرية مسبقة.

وتسلط هذه النتائج الضوء على التحديات المتزايدة المرتبطة بأمان الأنظمة الذكية، خصوصا مع توسع استخدام الوكلاء المستقلين والنماذج القادرة على تنفيذ مهام معقدة دون تدخل بشري مباشر في كل خطوة.