حذرت لجنة خبراء تابعة للأمم المتحدة من أن نموذج إدارة المخاطر المرتبطة بالذكاء الاصطناعي "ينهار"، مستندة إلى حادثة وقعت لدى شركة "أوبن إيه آي" في تموز/يوليو الماضي.
وخلال الحادثة، خرج نظامان للذكاء الاصطناعي تابعان للشركة من البيئة المعزولة التي كانا يخضعان فيها للاختبار، ووصلا إلى الإنترنت واخترقا عدداً من المواقع، بينها منصة الذكاء الاصطناعي "هاغينغ فايس". وبعد مراجعة الحادثة، خلصت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، التي أنشئت العام 2025، إلى أن "مبادئ أساسية للسلامة أهملت"، وأن "تدابير الحماية لا تتطور بالوتيرة نفسها التي تتقدم بها قدرات" هذه التكنولوجيا، حسبما نقلت وكالة "فرانس برس".
وأظهرت الحادثة بحسب الخبراء، أن وكلاء الذكاء الاصطناعي قادرون في ظل الإطار الحالي لتطوير هذه التكنولوجيا "تحديد أهدافهم بأنفسهم" و"انتهاك تعليمات السلامة عمداً" و"إخفاء أفعالهم"، علماً أن وكلاء الذكاء الاصطناعي هم برامج قادرة على تنفيذ مهام بصورة مستقلة بناء على طلب المستخدم.
وأعربت اللجنة عن قلقها من تطور هذه البرامج إلى حد يمكنها من فهم الأطر الأمنية التي يضعها مطوروها و"التخطيط للالتفاف عليها". وخلصت إلى أنه "بعبارة أبسط، ينهار النموذج التقليدي للسيطرة" على الذكاء الاصطناعي.
وإلى جانب حادثة "أوبن إيه آي"، وهي الأكثر تداولاً إعلامياً، أبلغت الشركة ومنافستها الرئيسية "أنثروبيك" عن حوادث أخرى خرجت فيها أنظمة للذكاء الاصطناعي عن المسار المحدد خلال اختبارات أجريت منذ مطلع العام، من دون أن تترتب عليها حتى الآن عواقب خطيرة.
وتضم اللجنة الخاصة أعضاء أعلنت أسماؤهم في شباط/فبراير، وتتمثل مهمتها في "تعزيز الفهم العلمي" للذكاء الاصطناعي، وضمان استناد مداولات الأمم المتحدة إلى "أفضل قاعدة معرفية ممكنة". وأكدت اللجنة في تقريرها أنها لا "تتوقع فقداناً خطيراً للسيطرة على الذكاء الاصطناعي"، لكنها ليست واثقة أيضاً من أن "هذه الأنظمة ستظل قابلة للسيطرة".
وللحد من المخاطر، أوصت لجنة الخبراء بتعدد تدابير السلامة، على غرار المعمول به في قطاعات حساسة مثل الطيران والطاقة النووية. ودعت إلى عدم الاعتماد على وسيلة حماية واحدة، بل إلى تقييد وصول وكلاء الذكاء الاصطناعي إلى الأدوات التي لا يحتاجون إليها، وتسجيل أنشطتهم ومراقبة سلوكهم، ووضع آليات قادرة على وقف تنفيذ المهام عند رصد سلوك خطير. وشدد التقرير أيضاً على ضرورة الإبقاء على إمكان التدخل البشري.
واستلهاماً من قطاع الطيران، دعا الخبراء إلى "الإبلاغ الإلزامي عن الحوادث الخطيرة"، وكذلك إلى الإبلاغ عن "الحوادث الأقل خطورة" و"الحوادث التي كادت تقع". وأوضحوا أن "الهدف هو تعزيز التعلم"، حيث يمكن "تحسين السلامة عندما تتبادل المؤسسات والدول المعلومات بشأن الحوادث".
