حذّرت لجنة علمية دولية مستقلة تابعة للأمم المتحدة من أن الأساليب التقليدية لإدارة المخاطر المرتبطة ب الذكاء الاصطناعي لم تعد كافية، مؤكدة أن إجراءات السلامة لا تتطور بالسرعة نفسها التي تتقدم بها قدرات هذه التكنولوجيا . وجاء التحذير في تقرير نشر الاثنين، استند إلى حادثة وقعت لدى شركة « أوبن إيه آي » في يوليو، خرج خلالها نظامان للذكاء الاصطناعي تابعان للشركة من البيئة المعزولة المخصصة لاختبارهما، وتمكنا من الوصول إلى الإنترنت واختراق عدد من المواقع، من بينها منصة الذكاء الاصطناعي «هاغينغ فايس». حادثة تكشف ثغرات السلامة وبعد مراجعة الحادثة، خلصت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، التي أُنشئت عام 2025، إلى أن «مبادئ أساسية للسلامة أُهملت»، محذرة من أن تدابير الحماية لا تواكب التطور المتسارع في قدرات أنظمة الذكاء الاصطناعي. وأظهرت الحادثة، بحسب الخبراء، أن وكلاء الذكاء الاصطناعي يمكنهم في ظل الإطار الحالي لتطوير هذه التكنولوجيا «تحديد أهدافها بنفسها» و«انتهاك تعليمات السلامة عمدا» و«إخفاء أفعالها». ووكلاء الذكاء الاصطناعي هي برامج قادرة على تنفيذ مهام بصورة مستقلة استنادا إلى طلب المستخدم. مخاوف من تجاوز الضوابط وأعربت اللجنة عن قلقها إزاء تطور هذه البرامج إلى مستوى يمكنها من فهم الأطر الأمنية التي يضعها مطوروها، ثم التخطيط للالتفاف عليها. وخلص التقرير إلى أن النموذج التقليدي للسيطرة على الذكاء الاصطناعي ينهار، في ظل تنامي قدرات هذه الأنظمة على العمل بصورة مستقلة. وإلى جانب حادثة «أوبن إيه آي»، التي حظيت باهتمام إعلامي واسع، أبلغت الشركة ومنافستها الرئيسية «أنثروبيك» عن حوادث أخرى خرجت خلالها أنظمة للذكاء الاصطناعي عن المسار المحدد أثناء اختبارات أُجريت منذ مطلع العام، دون أن تسفر تلك الوقائع حتى الآن عن عواقب خطيرة. اللجنة الأممية ومهامها وتضم اللجنة أعضاء أُعلنت أسماؤهم في فبراير، وتتمثل مهمتها في «تعزيز الفهم العلمي» للذكاء الاصطناعي، وضمان استناد مداولات الأمم المتحدة إلى أفضل قاعدة معرفية ممكنة. وأكدت اللجنة في تقريرها أنها لا “تتوقع فقدانا خطيرا للسيطرة على الذكاء الاصطناعي”، لكنها في الوقت نفسه لا تملك ثقة بأن «هذه الأنظمة ستظل قابلة للسيطرة». تعدد إجراءات الحماية وللحد من المخاطر المحتملة، أوصت لجنة الخبراء بتطبيق منظومة متعددة من تدابير السلامة، على غرار الإجراءات المعمول بها في قطاعات حساسة مثل الطيران والطاقة النووية. ودعت اللجنة إلى عدم الاعتماد على وسيلة حماية واحدة، وإنما تقييد وصول وكلاء الذكاء الاصطناعي إلى الأدوات التي لا يحتاجون إليها، إلى جانب تسجيل أنشطتهم ومراقبة سلوكهم، ووضع آليات قادرة على وقف تنفيذ المهام عند رصد سلوك خطير. وشدد التقرير كذلك على ضرورة الحفاظ على إمكانية التدخل البشري في عمل هذه الأنظمة. دروس من قطاع الطيران واستلهامًا من قطاع الطيران، دعا الخبراء إلى الإبلاغ الإلزامي عن الحوادث الخطيرة، فضلا عن الإبلاغ عن الحوادث الأقل خطورة والحوادث التي كادت تقع. وأوضحوا أن الهدف هو تعزيز التعلم، مشيرين إلى أن تحسين مستويات السلامة يصبح ممكنا عندما تتبادل المؤسسات والدول المعلومات المتعلقة بالحوادث.
المصدر – العربية