حدد المركز الوطني للتعليم الإلكتروني متطلبات لحماية بيانات الطلاب والمستفيدين عند استخدام وكلاء الذكاء الاصطناعي ، تشمل حصر جمع المعلومات ومعالجتها في أغراض مشروعة ومحددة، وتقييد الصلاحيات، وفحص ما يُرسل إلى الأدوات والخدمات المرتبطة بالوكيل، إلى جانب اتخاذ تدابير لمواجهة الهجمات التقنية وتسرب البيانات. وجاءت المتطلبات ضمن وثيقة «معايير وكلاء الذكاء الاصطناعي في التعليم والتدريب» التي أفردت أبعادًا للخصوصية والحقوق والأمن والموثوقية. وأوضح المركز أن الجهة التي تستخدم الوكيل تحدد أدوار التحكم في البيانات ومعالجتها ومسوغات استخدامها ومدة الاحتفاظ بها وحقوق أصحابها. وأكدت الوثيقة أن موافقة صاحب البيانات أو مشروعية الهدف لا تمثل إذنًا مفتوحًا لمشاركة المعلومات أو استخدامها في تدريب النماذج، وأن الوصول إلى البيانات أو نقلها إلى موردين ووكلاء آخرين يستلزم التحقق من الضوابط ذات الصلة، بما فيها شروط النقل خارج المملكة متى انطبقت. ذاكرة الوكيل تحت الرقابة وتناولت المعايير المعلومات التي يحتفظ بها الوكيل في ذاكرته، ودعت إلى تحديد ما يلزم حفظه وسبب ذلك ومدة الحاجة إليه، مع إمكان تصحيحه وحذفه وفق الحقوق والالتزامات المطبقة. وشددت على منع اختلاط بيانات الأفراد أو استخدامها في مهام أخرى خارج الغرض والتفويض، والتمييز بين المعلومات الموثقة والاستنتاجات الآلية، والتحقق من صلاحية المعلومات القديمة قبل الاعتماد عليها في إجراء مؤثر. صلاحيات خاصة وفي الجانب التقني، شدد المركز على منح الوكيل بيانات دخول وصلاحيات خاصة به، بأضيق نطاق ولأقصر مدة تتطلبها المهمة، وعدم استخدام بيانات دخول المستخدمين أو وضع الأسرار في أوامر النظام. وتشمل المتطلبات التحقق من الحماية من هجمات «حقن الأوامر» التي قد تصل عبر المحتوى أو الأدوات، ومن انتحال الصلاحيات وتسرب المعلومات وإساءة استخدام الموارد، وعدم الاكتفاء بتعليمات لغوية يطلب فيها من النموذج عدم تجاوز الحدود. كما تُعامل مخرجات الوكيل باعتبارها مدخلات غير موثوقة حتى تُفحص قبل تمريرها إلى الأنظمة الأخرى أو تنفيذها، وتوضع الشيفرات البرمجية والتصفح والتحكم في واجهات الأنظمة ضمن بيئات معزولة تحد من أثر الأخطاء. ودعت الوثيقة إلى تطبيق ضوابط الأمن السيبراني الوطنية حين تدخل الجهة أو الخدمة في نطاقها، واختبار فاعلية وسائل الحماية قبل الاستخدام. بدائل مناسبة وتضمنت المعايير تمكين المسؤول من تقييد استخدام الوكيل أو إيقافه وسحب صلاحياته، ومنع المهام الجديدة والمعلقة غير المصرح بها، وإيقاف الأعمال الجارية متى أمكن، مع بيان ما نُفذ بالفعل وما تعذر إيقافه. ويشمل ذلك معالجة آثار الأخطاء وتوفير بدائل مناسبة لضمان استمرار التعلم والخدمات الأساسية عند التعطل. وامتدت الضوابط إلى حقوق المحتوى والمخرجات التعليمية، بالتحقق من تراخيص المصادر ومشروعية استخدامها أو نشرها، وعدم افتراض ملكية حصرية لكل محتوى مولد آليًا. وأكد المركز أن مجرد القدرة التقنية على الوصول إلى المادة لا تثبت الحق في إعادة استخدامها، وأن حماية البيانات والحقوق جزء من تقييم سلامة الوكيل، لا إجراء لاحقًا على تشغيله.
المصدر – العربية