أعلنت شركة OpenAI عن ميزة جديدة داخل تطبيق ChatGPT تحت اسم "جهة الاتصال الموثوقة"، بهدف تعزيز مستويات الأمان للمستخدمين الذين قد يمرون بأزمات نفسية أو تظهر لديهم مؤشرات مرتبطة بإيذاء النفس أثناء المحادثات مع الذكاء الاصطناعي.
وتأتي هذه الخطوة في ظل تزايد اعتماد المستخدمين على ChatGPT كوسيلة للتعبير عن المشاعر أو طلب الدعم النفسي، حيث كشفت الشركة أن أكثر من مليون مستخدم أسبوعيًا يناقشون موضوعات تتعلق بإيذاء النفس أو الانتحار عبر المنصة.
كما واجهت الشركة في وقت سابق انتقادات ودعوى قضائية تتعلق بطريقة تعامل النظام مع بعض الحالات النفسية الحساسة.
وبحسب آلية عمل الميزة، فهي متاحة للمستخدمين البالغين فوق 18 عامًا فقط، حيث تتيح إضافة شخص بالغ واحد كـ"جهة اتصال موثوقة" من خلال إعدادات التطبيق.
ويتم إرسال دعوة لهذا الشخص، مع ضرورة قبولها خلال مدة لا تتجاوز أسبوعًا، وإلا يمكن للمستخدم اختيار جهة بديلة.
وفي حال رصد النظام مؤشرات خطورة محتملة، يقوم أولًا بتنبيه المستخدم وتشجيعه على التواصل مع شخص مقرب أو صديق موثوق، مع تقديم إرشادات لبدء هذا النوع من المحادثات.
وإذا استمرت المخاوف بشأن سلامة المستخدم، يمكن لفريق مختص داخل OpenAI مراجعة الحالة واتخاذ قرار بإرسال تنبيه إلى جهة الاتصال الموثوقة.
وأكدت الشركة أن هذه العملية لا تتم بشكل آلي بالكامل، بل تخضع لمراجعة من فريق متخصص قبل اتخاذ أي إجراء، كما أوضحت أن الشخص الموثوق لن يحصل على تفاصيل المحادثات أو محتواها الكامل، وإنما يتلقى إشعارًا عامًا يفيد بأن المستخدم قد يمر بظرف نفسي صعب.
وشددت OpenAI على أن الهدف من الميزة هو التدخل المبكر مع الحفاظ قدر الإمكان على خصوصية المستخدم، وتقليل احتمالات التنبيه الخاطئ أو غير الدقيق.
ويأتي هذا التحديث في وقت يشهد فيه استخدام روبوتات الذكاء الاصطناعي كمساحات للدعم العاطفي والنفسي انتشارًا متزايدًا، ما يفتح نقاشًا واسعًا حول حدود دور هذه التقنيات في التعامل مع الحالات الحساسة، بين من يرى أنها وسيلة مساعدة مهمة، ومن يحذر من الاعتماد عليها بدلًا من الدعم النفسي المتخصص.
وأكدت الشركة في السياق نفسه أنها قامت بتحسين آليات استجابة ChatGPT للحالات النفسية الحرجة، بعد تقارير سابقة أشارت إلى وجود ردود غير مناسبة في بعض المواقف.
