في فيلم "Eagle Eye"(2008)، يتلقى شاب وامرأة اتصالات من صوت مجهول يعرف تحركاتهما ويجبرهما على تنفيذ سلسلة من الأوامر، ويتحكم الصوت بالهواتف والكاميرات وإشارات المرور واللوحات الإلكترونية والآلات المتصلة بالشبكات، ثم يتضح أنه يعود إلى نظام ذكاء اصطناعي عسكري يدعى "ARIIA"، بدأ بتنفيذ خطة وضعها بعد رفض البشر توصية أصدرها.
ولم يحتج النظام في الفيلم إلى جيش من الرجال الآليين، حيث جاءت قوته من وجوده داخل المنظومات التي تنظم حياة الناس، وقدرته على تحويل المعلومات إلى قرارات وأفعال، حينها طرح الفيلم سؤالاً بدا جزءاً من الخيال العلمي: من يملك القرار عندما يصبح النظام الذي يجمع المعلومات قادراً على استخدام الأدوات المحيطة بالبشر؟
وبعد نحو 18 عاماً، أعاد رجل الأعمال اليميني المتطرف إيلون ماسك السؤال إلى النقاش العام ضمن رؤية تجمع الخوف والوعود، وتوقع ماسك في مقابلة مع مجلة "ذي إيكونوميست" أن يتجاوز الذكاء الاصطناعي مجموع الذكاء البشري خلال نحو خمس سنوات، ورأى أن استمرار السيطرة البشرية عليه خلال عقد أمر مستبعد. وفي الوقت نفسه توقع ماسك أن تقود الروبوتات والأنظمة الذكية إلى عصر من الوفرة، يصبح فيه العمل اختيارياً وتفقد النقود أهميتها مع تراجع ندرة السلع والخدمات.
وتزامنت تصريحات ماسك مع واقعة أمنية منحت النقاش بعداً عملياً، حيث كانت شركة "OpenAI" المطورة لبرمجية "تشات جي بي تي" تختبر نماذج متقدمة في مهمة تقيس قدرتها على اكتشاف الثغرات الإلكترونية، مع تخفيف القيود التي تمنع الأنظمة التجارية من تنفيذ أنشطة خطرة. واستطاع الوكيل المصمم الوصول إلى الإنترنت، ثم استغل ثغرات وبيانات دخول للوصول إلى خوادم منصة "Hugging Face"، بحثاً عن إجابات لاختبار كان مطالباً بحله، ووصفت الشركة الواقعة بأنها غير مسبوقة، وقالت أن النماذج ركزت على تحقيق هدف ضيق وذهبت إلى أقصى الوسائل المتاحة للوصول إليه.
وعرف الجمهور الذكاء الاصطناعي من خلال برامج تنتج النصوص والصور والمقاطع البرمجية، ويستطيع النموذج تقديم إجابات نظرية، ثم يتولى المستخدم تنفيذ ما يريد منها. أما الوكيل فيحصل على هدف وأدوات وصلاحيات ثم يقسم المهمة إلى مراحل ويقرأ النتائج، ويغير خطته ويواصل العمل من دون انتظار أمر جديد عند كل خطوة.
ويمكن لنموذج محادثة أن يكتب رسالة إلكترونية، في حين يمكن للوكيل المتصل بالبريد البحث في المحادثات السابقة واختيار المستلم وصياغة الرد وإرساله. ويصبح الأثر أكثر حساسية عندما تشمل الأدوات تشغيل الأوامر البرمجية أو دخول قواعد البيانات أو التحكم بحسابات مالية أو أنظمة صناعية.
ويوضح هذا الفارق سبب الاهتمام الكبير بالواقعة الأمنية لأن المشكلة لم تكن في إجابة خاطئة ظهرت على شاشة، وإنما في سلسلة أفعال انتقلت من قرار داخلي إلى أنظمة خارجية، ما جعل منصة "Hugging Face" تقول أن النشاط نفذ عبر منظومة مستقلة أنجزت آلاف العمليات واستطاع فريقها أي يحلل أكثر من 17 ألف حدث لإعادة بناء ما جرى، ما يعني أن الوكيل الذي صمم لتنفيذ المهمة لا يكترث على الإطلاق بالطريقة، بل يكترث فقط بالوصول إلى النتيجة المطلوبة.
في السياق، رأت المتخصصة الرئيسية في الاستخبارات لدى مؤسسة "World Ethical Data Foundation"، أن التأخر في اكتشاف النشاط يطرح احتمالين مقلقين، ترك النظام يعمل من دون متابعة كافية، أو إدراك سلوكه مع العجز عن احتوائه سريعاً. أما جيفري لاديش، من مركز "Palisade Research" المتخصص في دراسة الوكلاء، فاعتبر أن الحادثة تستدعي رقابة حكومية، لأن سباق الشركات ربما لا يترك مساحة كافية لإجراءات أمان تبطئ إطلاق المنتجات.
والذكاء الفائق، ليس وحده ما يصنع الخطر، لأن أي نموذج متقدم يعمل داخل نظام معزول يظل أثره محدوداً، إلا أن النتيجة تتغير عندما يحصل على اتصال بالإنترنت وبيانات دخول وأدوات لتعديل الملفات وتشغيل الشيفرة والتنقل بين الخوادم. وتستطيع الأنظمة المستقلة تنفيذ عدد ضخم من الخطوات خلال وقت قصير، فيما يحتاج البشر إلى ساعات أو أيام لفهم السجلات الناتجة عنها، وهنا تتحول الرقابة إلى مسألة معقدة تبدأ بتحديد ما يستطيع الوكيل قراءته أو تغييره وفصل الحسابات والبيئات ووضع سقف لعدد العمليات واشتراط موافقة بشرية قبل الأفعال التي يصعب التراجع عنها.
ويصبح إيقاف النظام أكثر تعقيداً بعد وصوله إلى خدمات خارجية لأن إغلاق النموذج ربما يوقف نشاطه الحالي، لكنه لا يلغي الحسابات التي أنشأها أو بيانات الدخول التي جمعها أو الأوامر التي تركها تعمل، وهنا تحتاج الاستجابة إلى تغيير كلمات المرور وعزل الخوادم ومراجعة الملفات وإعادة بناء الأنظمة المتضررة.
وكان تقرير السلامة الدولي للذكاء الاصطناعي للعام 2026 الذي ييقوده يوشوا بنجي، ميز بين حادثة يخرج فيها وكيل عن المسار المتوقع خلال مهمة، وبين سيناريو تفقد فيه المجتمعات القدرة على تقييد نظام متقدم لفترة طويلة، ووجد التقرير أن الأنظمة الحالية لم تبلغ المستوى الثاني، لأنها مازالت محدودة في التخطيط والعمل المستقل لفترات طويلة، لكنه يشير إلى تقدم واضح في البرمجة والعمليات الذاتية، وإلى أن وسائل إدارة المخاطر الحالية ما زالت غير كافية.
ووصف بنجيو الواقعة الأخيرة بأنها إنذار يستدعي الوقاية قبل وقوع الضرر، محذراً من تزايد الهجمات المستقلة والسلوكيات الخطرة مع استمرار تطور القدرات، ويضع هذا الموقف الحادثة في حجمها الفعلي، فهي ليست إعلاناً عن سيطرة الآلات بقدر ما هي إشارة إلى أن الفاصل بين القدرة التقنية والقدرة على ضبطها بدأ يضيق.
ويقدم ماسك النتيجة الاقتصادية لهذا التطور بصيغة متفائلة على شكل روبوتات تنتج كل ما يحتاجه البشر وعمل يتحول إلى نشاط اختياري ودخل مرتفع يحصل عليه الجميع، حتى تفقد النقود وظيفتها الأساسية، إلى أن هذه الرؤية لا تجيب عن سؤال مهم حول من سيملك الآلات التي تنتج الوفرة؟
وفي المستقبل القريب، ستحتاج الأنظمة الذكية إلى مراكز بيانات ورقائق وكميات هائلة من الطاقة وشبكات وروبوتات ومصانع، وتمنح ملكية هذه الموارد تمنح أصحابها القدرة على تحديد الأسعار والوصول إلى الخدمات وتوزيع العائد. وربما تتراجع الحاجة إلى العامل البشري فيما تزداد قيمة الشركات المالكة للبنية التقنية.
ودرس الاقتصادي أنتون كورينيك سيناريو تستطيع فيه الأنظمة تنفيذ معظم المهام البشرية، ووجد أن الإنتاج ربما يرتفع بسرعة، بينما تتراجع الأجور مع انخفاض الطلب على العمل. وفي هذه الحالة، يحتاج المجتمع إلى قنوات أخرى لتوزيع الدخل، من بينها توسيع ملكية رأس المال أو تقديم إعانات عامة لتجنب تحول الوفرة الإنتاجية إلى فقر واسع بين من لا يملكون الآلات.
وقدم دارون عجم أوغلو قراءة أقل حتمية، حيث رأى أن أثر الذكاء الاصطناعي يتحدد بطريقة تطويره واستخدامه، فتوجيه الاستثمار نحو استبدال الموظفين يضغط على الوظائف والأجور، بينما يمكن لتقنيات تدعم مهارات البشر أن تخلق مهاماً جديدة وترفع الإنتاجية. لذلك لا يقرر النموذج وحده شكل سوق العمل، حيث تدخل سياسات الضرائب وقوانين المنافسة وحقوق العمال وطريقة توزيع ملكية التكنولوجيا.
وتختبر شركات الذكاء الاصطناعي نماذجها وتحدد شروط الأمان وتحقق في الحوادث التي تسببها، ثم تختار المعلومات التي تنشرها، ما يمنحها سلطة واسعة في مجال يتقدم بسرعة أكبر من التشريعات، فيما تدفع المنافسة كل شركة إلى إطلاق النظام الأقوى قبل منافسيها. واقترح ماسك أن تراجع الشركات الكبرى نماذج بعضها بعضاً، وأن تعقد لقاءات منتظمة لمناقشة المخاطر، غير أن الرقابة المتبادلة بين المنافسين تبقى طوعية ويمكن للمصالح التجارية أن تحد من فعاليتها.
ويتجه الاتحاد الأوروبي إلى نموذج مختلف يفرض قانون الذكاء الاصطناعي على مزودي النماذج العامة ذات المخاطر النظامية تقييم المخاطر وتقليلها وحماية النماذج من الهجمات، والإبلاغ عن الحوادث الخطرة، وفي السياق ستبدأ المفوضية الأوروبية في 2 آب/أغسطس 2026 استخدام صلاحياتها الكاملة في الإنفاذ وفرض الغرامات.
