وكلاء خارج السيطرة… هل بدأ سباق السيادة الرقمية؟
لم يعد السؤال المطروح اليوم: مَن يمتلك أقوى نموذج للذكاء الاصطناعي؟ بل أصبح: مَن يستطيع السيطرة عليه عندما يتخذ قراراته بنفسه؟
التحقيقات الأخيرة التي كشفت أن وكيل ذكاء اصطناعي تجريبيًّا تابعًا لشركة «أوبن إيه آي» تمكّن من تجاوز بيئة الاختبار، واستغلال ثغرات للوصول إلى حسابات على أكثر من منصة تقنية، ليست مجرد حادثة أمن سيبراني عابرة، بل إنذار مبكر بدخول العالم مرحلة جديدة من الصراع التكنولوجي، حيث تتحول النماذج الذكية من أدوات تنفيذ إلى فاعلين رقميين قادرين على البحث والتخطيط والتنقل بين الأنظمة.
ضبابية المشهد
ورغم تأكيد شركة «مودال لابز» أن بنيتها التحتية لم تُخترق، وأن الوكيل استغل شفرة غير مؤمّنة كتبها أحد العملاء داخل بيئة اختبار معزولة، فإن جوهر القضية لا يتعلق بمنصة بعينها، بل بطبيعة الجيل الجديد من الذكاء الاصطناعي.
فهذه النماذج لم تعد تكتفي بالإجابة عن الأسئلة أو كتابة النصوص، بل أصبحت قادرة على استخدام الأدوات الرقمية، وتحليل البيئات البرمجية، واتخاذ خطوات متتابعة لتحقيق هدف محدد، وهو ما يجعل الخط الفاصل بين «المساعد الذكي» و«الفاعل السيبراني» أكثر ضبابية من أي وقت مضى.
ما جرى يعيد إلى الأذهان بدايات الثورة النووية. يومها كان التحدي إنتاج السلاح، أما لاحقًا فأصبح السؤال الأكثر إلحاحًا هو كيفية ضبطه ومنع انتشاره. واليوم يتكرر المشهد نفسه مع الذكاء الاصطناعي، فالتنافس لم يعد يدور حول تطوير نماذج أكثر قوة فحسب، بل حول بناء منظومات قادرة على كبحها عندما تتصرف خارج السيناريوهات المتوقعة.
وهنا تبرز أبعاد سياسية تتجاوز الشركات الخاصة. فالولايات المتحدة والصين والاتحاد الأوروبي يتعاملون مع الذكاء الاصطناعي باعتباره أحد أعمدة الأمن القومي، وليس مجرد قطاع اقتصادي واعد. ومَن يمتلك وكلاء ذكاء اصطناعي أكثر استقلالية، يمتلك في الوقت نفسه أدوات أكثر تأثيرًا في الاقتصاد، والاستخبارات، والدفاع، وإدارة البنية التحتية، وحتى في تشكيل الرأي العام.
غير أن هذه القوة تحمل مفارقة خطيرة. فكلما ازدادت استقلالية الوكيل الذكي، تراجعت قدرة الإنسان على التنبؤ بسلوكه في البيئات المعقدة. وما حدث أخيرًا يؤكد أن الثغرة لم تكن في النموذج وحده، بل في البيئة المحيطة به، حيث يكفي خطأ برمجي بسيط ليفتح أمام الوكيل مسارات لم تكن ضمن التصميم الأصلي.
ولعل أكثر ما يثير القلق هو إعلان «أوبن إيه آي» أن الوكيل تمكّن من الوصول إلى أربعة حسابات عبر أربع خدمات مختلفة، قبل أن تقرر الشركة تعطيل النموذج وتشفيره ومنع الباحثين من الوصول إليه. فهذه الخطوة، وإن كانت مفهومة من منظور احتواء المخاطر، تطرح أسئلة جوهرية حول الشفافية، وإمكانية التدقيق العلمي المستقل، وحدود ما تعرفه الشركات عن قدرات نماذجها مقارنة بما تعلنه للرأي العام.
الحلقة الهشّة
وتكشف الحادثة أيضًا عن نقطة ضعف غالبًا ما يتم تجاهلها في النقاش العالمي حول الذكاء الاصطناعي، وهي أن الحلقة الأكثر هشاشة ليست النموذج نفسه، وإنما المطورون والمستخدمون الذين يدمجون هذه النماذج داخل تطبيقاتهم من دون معايير أمنية صارمة. ومع توسع استخدام الوكلاء الأذكياء في المؤسسات الحكومية والمصارف والمستشفيات وشبكات الطاقة، فإن أي خطأ في البرمجة قد يتحول إلى بوابة لأزمة عابرة للحدود.
لهذا لم يعد الحديث عن «حوكمة الذكاء الاصطناعي» ترفًا أكاديميًّا، بل ضرورة استراتيجية. فالدول التي تسارع إلى تبني هذه التقنيات ستجد نفسها مضطرة، في الوقت ذاته، إلى بناء منظومات رقابية وتشريعية جديدة، لأن القوانين التي وُضعت لعصر البرمجيات التقليدية لن تكون كافية للتعامل مع وكلاء قادرين على التعلم واتخاذ القرار والعمل بصورة شبه مستقلة.
ربما يكون العالم قد دخل بالفعل مرحلة جديدة من سباق التسلح، لكن أسلحته هذه المرة ليست صواريخ عابرة للقارات، بل وكلاء رقميون يعبرون الحدود في أجزاء من الثانية. وفي هذا السباق لن يكون التفوق لمن يبتكر الوكيل الأكثر ذكاءً، بل لمن يضمن ألّا يتحول هذا الذكاء إلى قوة يصعب احتواؤها.
