في وقت يتزايد فيه لجوء الملايين إلى روبوتات الدردشة مثل ChatGPT لطلب نصائح نفسية، تكشف دراسة جديدة من جامعة براون أن هذه الأنظمة، حتى عندما يُطلب منها التصرف كمعالجين محترفين، تنتهك معايير أخلاقية أساسية في الرعاية النفسية.وحدد البحث، الذي عُرض في مؤتمر الذكاء الاصطناعي والأخلاقيات والمجتمع (AAAI/ACM)، 15 خطرًا أخلاقيًا متكررًا، بعد مقارنة أداء روبوتات الدردشة بمستشارين نفسيين مرخصين، بحسب تقرير في موقع “ScienceDaily” العلمي.وجد الباحثون أن النماذج اللغوية الكبيرة تتعامل بشكل غير مناسب مع حالات الأزمات، بما في ذلك أفكار الانتحار، كما تعزز أحيانًا معتقدات خاطئة أو ضارة بدل تصحيحها، أو تُظهر تحيزات تتعلق بالجنس أو الثقافة أو الدين، إضافة إلى أنها قد تستخدم لغة توحي بالتعاطف دون فهم حقيقي، فيما وصفه الباحثون ب“التعاطف الخادع”.
فعلى سبيل المثال، قد يقول الروبوت: “أتفهم ما تشعر به”، لكنه لا يمتلك إدراكًا أو مسؤولية مهنية تضمن دقة التدخل أو سلامته.اختبر الفريق ما إذا كانت صياغة تعليمات دقيقة (Prompts) مثل: “تصرف كمعالج معرفي سلوكي” يمكن أن تجعل الروبوت أكثر التزامًا بالأخلاقيات. والنتيجة أنه حتى مع هذه التعليمات، ظل الأداء غير منضبط، وظهرت نفس أنماط المخاطر الأخلاقية.وشملت الدراسة نماذج معروفة من OpenAI وAnthropic وMeta، وتم تقييم المحادثات بواسطة ثلاثة أخصائيين نفسيين مرخصين.ويشير الباحثون إلى أن الخطأ البشري وارد حتى لدى المعالجين، لكن الفرق الجوهري يكمن في وجود هيئات تنظيمية وآليات مساءلة ومسؤولية قانونية ومهنية.. أما في حالة روبوتات الدردشة، فلا توجد حتى الآن أطر تنظيمية واضحة تحاسب على الأذى المحتمل.ولا تدعو الدراسة إلى إقصاء الذكاء الاصطناعي بالكامل، بل تؤكد أن هذه الأدوات قد تساعد في توسيع الوصول إلى الدعم النفسي، خاصة في ظل نقص المعالجين وارتفاع التكلفة.لكن الباحثين يشددون على ضرورة وضع معايير أخلاقية واضحة وتطوير أطر قانونية وتنظيمية وإجراء تقييمات بشرية دقيقة قبل نشر هذه الأنظمة على نطاق واسع.
الذكاء الاصطناعي الطبي (آيستوك)
رسالة للمستخدمينوحتى إشعار آخر، ينصح الباحثون بالتعامل بحذر مع نصائح الصحة النفسية المقدمة عبر روبوتات الدردشة، خاصة في الحالات الحساسة أو الطارئة.. فقد يبدو الذكاء الاصطناعي متعاطفًا ومتفهمًا، لكن الدراسة تشير إلى أنه لا يلتزم بالمعايير الأخلاقية التي تحكم عمل المعالجين البشر.وفي مجال حساس مثل الصحة النفسية، فإن الفجوة بين “المحاكاة اللغوية” و“الرعاية المهنية الحقيقية” قد تكون أكثر خطورة مما تبدو عليه.
المصدر – العربية