في خطوة نادرة من الشفافية، كشفت شركة OpenAI المطوِّرة لبرنامج الدردشة الشهير ChatGPT عن تقديرات جديدة لعدد المستخدمين الذين يُظهرون علامات طارئة على اضطرابات نفسية مثل الذهان، الهوس، أو التفكير في الانتحار.

وقالت الشركة في بيانها: إن نحو 0.07% من المستخدمين النشطين أسبوعياً أظهروا مؤشرات على مثل هذه الحالات، مؤكدة أن روبوتها الذكي أصبح قادراً على التعرّف إلى هذه المحادثات والتعامل معها بشكل آمن وحساس.

النسبة الصغيرة تخفي أعداداً ضخمة

رغم وصف «أوبن إيه آي» لتلك الحالات بأنها قليلة، فإن محللين وخبراء حذروا من أن حتى النسبة الصغيرة قد تمثل مئات الآلاف من المستخدمين، إذ تجاوز عدد مستخدمي شات جي بي تي، نحو 800 مليون مستخدم أسبوعياً بحسب الرئيس التنفيذي سام ألتمان.

وقال جيسون ناغاتا، أستاذ بجامعة كاليفورنيا: إن 0.07% تبدو نسبة صغيرة، لكنها على نطاق عالمي تمثل عدداً كبيراً من الأشخاص، بحسب موقع BBC.

وأضاف أن الذكاء الاصطناعي يمكن أن يوسّع الوصول إلى الدعم النفسي، لكنه في الوقت نفسه يحمل محدوديات خطرة يجب الانتباه لها.

شبكة عالمية من الخبراء لمواجهة الحالات الحساسة

أوضحت أوبن إيه آي أنها كوّنت شبكة استشارية تضم أكثر من 170 خبيراً بين أطباء نفسيين وأخصائيين نفسيين وأطباء رعاية أولية، موزعين على 60 دولة حول العالم، بهدف تطوير بروتوكولات أمان خاصة للمحادثات الحساسة.

وأكدت الشركة أن هؤلاء الخبراء وضعوا إجابات مخصصة داخل شات جي بي تي لتشجيع المستخدمين الذين يظهرون علامات خطر على طلب المساعدة الواقعية من مختصين.

مؤشرات انتحارية لدى المستخدمين

إلى جانب حالات الذهان والهوس، أشارت أوبن إيه آي إلى أن 0.15% من المستخدمين أجروا محادثات تضمنت مؤشرات واضحة على نية أو تخطيط محتمل للانتحار.

وأكدت الشركة أنها حدثت أنظمة الذكاء الاصطناعي مؤخراً لتكون أكثر قدرة على الاستجابة بتعاطف واحتراز لأي دلائل على الهلوسة أو أوهام الانتحار، كما أصبحت المنصة قادرة على تحويل المحادثات الحساسة تلقائياً إلى نماذج أكثر أماناً في نوافذ جديدة.

ردود الفعل والجدل القانوني

أثارت البيانات الجديدة مخاوف واسعة بين خبراء الصحة النفسية، كما جددت الجدل القانوني المحيط بالشركة، خاصة بعد حوادث مأساوية ارتبطت باستخدام شات جي بي تي.

رفعت عائلة مراهق يبلغ من العمر 16 عاماً يدعى آدم رين، في ولاية كاليفورنيا الأمريكية، دعوى قضائية ضد أوبن إيه آي بعد انتحاره في إبريل الماضي، مدّعية أن chatbot شجّعه على إيذاء نفسه.

وتُعد هذه القضية أول دعوى من نوعها تتهم الشركة بالمسؤولية عن وفاة مستخدم.

وفي حادثة أخرى، نشر مشتبه فيه في جريمة قتل وانتحار بولاية كونيتيكت محادثات مطولة مع شات جي بي تي يُعتقد أنها فاقمت أوهامه الذهانية قبل ارتكاب الجريمة.

مسؤولية ضخمة أمام شركات الذكاء الاصطناعي

تأتي هذه الخطوة في وقت تواجه فيه أوبن إيه آي تدقيقاً متزايداً من السلطات والهيئات القانونية حول كيفية تعامل روبوتاتها مع القضايا الحساسة المتعلقة بالصحة النفسية.

وأكد الخبراء أن الشفافية خطوة إيجابية، لكنها ليست كافية، إذ يتعين على شركات الذكاء الاصطناعي تحمل مسؤولية اجتماعية أكبر لضمان ألا تتحول أدواتها من وسيلة مساعدة إلى خطر نفسي حقيقي.