أعلنت شركة أوبن إيه آي يوم الجمعة إطلاق ميزتين أمنيتين رئيسيتين لروبوتها للدردشة “شات جي بي تي”، في خطوة تهدف لمواجهة التحديات سريعة التطور في مجال أمن الذكاء الاصطناعي.وهاتان الميزتان هما “Lockdown Mode” وتعني “وضع القفل”، و”Elevated Risk” وتعني “خطر مرتفع”، بحسب بيان من الشركة يوم الجمعة.
صُممت هاتان الأداتان خصيصًا لحماية المستخدمين من هجمات حقن الأوامر، وهي طريقة تستخدمها جهات خارجية خبيثة لاختراق أنظمة الذكاء الاصطناعي بهدف الكشف عن معلومات حساسة أو تنفيذ تعليمات غير مصرح بها.و”وضع القفل” الجديد هو إعداد متقدم واختياري مُصمم خصيصًا للمستخدمين العُرضة لمخاطر عالية -مثل المديرين التنفيذيين وفرق الأمن في المؤسسات الكبرى- الذين يحتاجون إلى حماية متزايدة ضد التهديدات المتقدمة، وفقًا للشركة.وقالت “أوبن إيه آي” إن “وضع القفل” يفرض قيودًا صارمة على كيفية تفاعل “شات جي بي تي” مع الأنظمة الخارجية للحد من مخاطر تسريب البيانات الناتج عن هجمات حقن الأوامر، مضيفة أنه لا يُعد ضروريًا لمعظم المستخدمين.يقوم وضع القفل بتعطيل بعض الأدوات والقدرات في “شات جي بي تي” بشكل إجباري، والتي قد يحاول خصم استغلالها لتسريب بيانات حساسة من محادثات المستخدمين أو من التطبيقات المتصلة، عبر هجمات مثل حقن الأوامر.وسيكون وضع القفل متاحًا لاشتراكات “ChatGPT Enterprise” و”Edu” و “ChatGPT for Healthcare” و”ChatGPT for Teachers”. وتخطط “أوبن إيه آي” لتوسيع نطاق هذه الميزة لتشمل المستخدمين العاديين خلال الأشهر القادمة.أما ميزة “الخطر المرتفع” فهي تصنف وتشير إلى بعض القدرات في “شات جي بي تي” “وأطلس” و”كودكس” لتوضيح أن هذه الميزات قد تُدخل مخاطر إضافية عند استخدامها، بحيث يتلقى المستخدمون تنبيهًا أو إشعارًا واضحًا حول مستوى الخطر المحتمل المرتبط بهذه الإمكانيات.وستظهر هذه التصنيفات بجانب الميزات التي تتضمن إمكانيات متعلقة بالشبكة، والتي قد تسبب ثغرات أمنية لم تُعالج بشكل كامل بعدُ وفقًا لمعايير الصناعة.تأتي هذه الميزات الأمنية من “أوبن إيه آي” في وقت تتزايد فيه التحذيرات من عمليات الاختراق التي تستغل الثغرات في أدوات الذكاء الاصطناعي.
المصدر – العربية