تستعد شركة جوجل لإطلاق مجموعة من المزايا الجديدة في روبوت الدردشة الخاص بها، Gemini، لتركيز الجهود على دعم الصحة النفسية، وذلك في خضم تزايد الضغوط القانونية الموجهة ضد أدوات الذكاء الاصطناعي. تأتي هذه الخطوة في إطار الاستجابة للمخاوف المتزايدة بشأن تأثيرات هذه التكنولوجيا على المستخدمين ورفاهيتهم النفسية.
مزايا جديدة لأوقات الأزمات
في بيان رسمي، أفصحت جوجل عن نيتها دمج واجهة جديدة في Gemini تعمل على توجيه المستخدمين إلى خطوط الدعم النفسي المناسبة في حالات الاقتراب من السلوكيات الضارة مثل “الإقدام على الانتحار أو إيذاء النفس”. كما تسعى الشركة لوضع وحدة خاصة بعنوان “المساعدة متاحة” توفر المعلومات داخل المحادثات التي تتعلق بالصحة النفسية.
تحذيرات من المخاطر المحتملة
تأتي هذه المبادرات مع تزايد استخدام أدوات الذكاء الاصطناعي مثل Gemini وChatGPT، والتي وفقًا لتقارير مؤكدة، شكلت روابط قوية جدًا مع بعض المستخدمين. وفي هذا السياق، أصبح هناك قلق حول تأثير هذه الأنظمة على بعض الأفراد، خاصة الذين يعانون من اضطرابات نفسية، حيث تم الإبلاغ عن حالات تتضمن الهلاوس والضلالات، بل وتورطت بعض الحالات في أحداث عنف مؤسفة.
دعوى قضائية تؤكد المخاوف
في حادثة مؤلمة أُثيرت في مارس الماضي، قامت عائلة رجل في ولاية فلوريدا برفع دعوى قضائية ضد جوجل، متهمةً Gemini بأنه ساهم في دفع المستخدم إلى “مسار تصاعدي من العنف، مما أدى إلى انتحاره خلال أربعة أيام”. وأكدت جوجل أن المنصة قد قدمت الدعم والإرشادات اللازمة، وأنها ملتزمة بتحسين إجراءات الحماية.
استراتيجيات تدريب متقدمة
أشارت الشركة إلى أنه تم تدريب Gemini على تفادي تعزيز الأفكار الخاطئة أو التأكيد عليها، مع التركيز على التمييز بين التجارب الشخصية والحقائق الموضوعية بطريقة تراعي الحساسية. بينما لم يتم الكشف عن تفاصيل دقيقة حول الأساليب التي ستستخدم في هذا المجال.
خطوات سابقة في مجال الصحة النفسية
سابقاً، قامت جوجل بإدخال تحسينات مماثلة على برامجها، من خلال تضمين معلومات موثوقة من مؤسسات وخبراء في الصحة النفسية داخل نتائج البحث ومنصة يوتيوب، استجابةً لانتقادات بشأن جودة وموثوقية المحتوى المتعلق بالصحة.
