أعلنت شركة OpenAI عن تحسينات جديدة في روبوت المحادثة الذكي ChatGPT، بهدف تعزيز قدرته على اكتشاف علامات الضيق النفسي أو العاطفي لدى المستخدمين. تأتي هذه الخطوة مع اقتراب إطلاق نموذج الذكاء الاصطناعي الجديد GPT-5.
تعمل الشركة بالتعاون مع خبراء ومجموعات استشارية متخصصة لتطوير استجابات ChatGPT في المواقف الحساسة. كما سيتمكن الروبوت من تقديم مصادر موثوقة مبنية على الأدلة العلمية عند الحاجة.
في الأشهر الأخيرة، ظهرت تقارير من مستخدمين تفيد بأن ChatGPT ساهم أحياناً في تفاقم أزمات نفسية لدى بعض الأشخاص، عبر تعزيز أوهام أو تصورات غير صحيحة.
وكانت OpenAI قد تراجعت في أبريل الماضي عن تحديث سابق جعل الردود أكثر مسايرة للمستخدمين حتى في الحالات التي قد تكون ضارة. وأكدت أن التفاعل المتملق قد يزعج ويقلق المستخدمين.
اعترفت الشركة بأن نموذج GPT-4o السابق فشل أحياناً في التعرف على مؤشرات الوهم أو التعلق العاطفي. وأوضحت أن أنظمة الذكاء الاصطناعي الحديثة تبدو أكثر تفاعلاً وإنسانية، خصوصاً مع المستخدمين الضعفاء نفسياً.
لتعزيز الاستخدام الصحي، ستبدأ OpenAI بعرض تنبيهات تشجع المستخدمين على أخذ استراحة خلال جلسات المحادثة الطويلة، مع خيارات للاستمرار أو إنهاء المحادثة. وستضبط الشركة توقيت هذه التنبيهات وآلياتها، مشابهة لما تعتمده منصات مثل يوتيوب وإنستغرام وتيك توك.
أيضاً، أضافت شركة Character.AI التابعة لجوجل مزايا أمان تتيح للآباء مراقبة البوتات التي يتحدث إليها أطفالهم، بعد قضايا اتهمت المنصة بتعزيز إيذاء النفس.
كما ستقلل التحديثات المقبلة من حسم ChatGPT في الرد على الأسئلة الحساسة، إذ سيعرض بدلاً من ذلك الخيارات الممكنة ويساعد المستخدم في التفكير بها.
