أعلنت شركة أوبن إيه آي عن إجراءات جديدة لتشديد قواعد استخدام روبوت الدردشة «شات جي بي تي»، خاصة بالنسبة للمراهقين، بهدف الحد من وصولهم إلى المعلومات المتعلقة بالأسلحة ومنع استخدام الذكاء الاصطناعي في أمور قد تؤدي إلى العنف في الواقع.
وتتضمن الإجراءات الجديدة فرض قيود على المعلومات العملية التي يقدمها الروبوت بشأن الأسلحة وأنظمة الأمن، إذا كانت هذه المعلومات قابلة للاستخدام بشكل خاطئ أو قد تساعد على إلحاق الضرر بالآخرين.
وأوضحت الشركة أن هذه القيود ستطبق على المستخدمين الذين تقل أعمارهم عن 18 عامًا، حتى إذا لم تظهر عليهم أي علامات تشير إلى وجود نية لارتكاب أعمال عنف.
إنهاء المحادثات تلقائيًا
ومن بين التغييرات التي أعلنتها الشركة، منح «شات جي بي تي» القدرة على إنهاء المحادثات بشكل تلقائي مع المستخدمين الذين يلاحظ النظام أنهم يركزون بشكل متكرر ومبالغ فيه على موضوعات العنف. كما يمكن للشركة تعليق الحسابات مؤقتًا إذا تكررت هذه النوعية من المحادثات أكثر من مرة.
وتأتي هذه الخطوة في إطار محاولات أوبن إيه آي التعامل مع المخاوف المتزايدة بشأن تأثير روبوتات الدردشة على المستخدمين صغار السن، خاصة مع تزايد التساؤلات حول مسؤولية شركات الذكاء الاصطناعي في اكتشاف المحادثات التي قد تشير إلى وجود خطر حقيقي أو احتمال تعرض الآخرين للأذى.
تنبيهات لأولياء الأمور
كما أعلنت الشركة أنها طورت نظامها الخاص بتقدير أعمار المستخدمين، بهدف التعرف على الحسابات التي يُرجح أن أصحابها أقل من 18 عامًا، ونقلهم تلقائيًا إلى تجربة الاستخدام المخصصة للمراهقين، والتي تتضمن قواعد حماية وقيودًا إضافية على المحتوى.
وتخطط أوبن إيه آي أيضًا لإرسال إشعارات إلى أولياء الأمور في حالة تعليق حسابات أبنائهم المراهقين نتيجة تكرار الدخول في محادثات تتعلق بالعنف، وتستهدف هذه الخطوة زيادة متابعة الأسر لما يتعرض له الأبناء أثناء استخدام أدوات الذكاء الاصطناعي، والتدخل عند ظهور مؤشرات تستدعي الانتباه.
قيود على محتوى الأسلحة
ولا تقتصر القيود الجديدة على المراهقين فقط، إذ أوضحت الشركة أنها تمنع بالفعل تقديم تفاصيل تتعلق بالهجمات الجماعية التي وقعت في السابق، بما في ذلك أنواع الأسلحة التي استخدمت خلالها والطرق التي يمكن من خلالها الحصول عليها.
وأكدت أوبن إيه آي أن الإجراءات الوقائية الجديدة ستبدأ في الوصول إلى المستخدمين خلال الأسابيع القليلة المقبلة، مشيرة إلى أنها ستواصل تطوير هذه الإجراءات وتحسينها مع متابعة طريقة تطبيقها.
مخاوف من استخدام المراهقين
وتأتي هذه التغييرات بعد إعلان أوبن إيه آي، خلال الشهر الجاري، أن المراهقين يقضون أقل من 15 دقيقة يوميًا في المتوسط على منصة «شات جي بي تي»، وذلك ضمن أول تقرير تصدره الشركة عن طبيعة استخدام هذه الفئة العمرية للروبوت.
وفي المقابل، كشف تقرير صادر عن منظمة «كومون سينس ميديا» غير الربحية خلال الشهر نفسه عن وجود مشكلات في طريقة تنبيه أولياء الأمور بشأن بعض المحادثات الخطيرة التي يجريها المراهقون عبر المنصة.
وأشار التقرير إلى أن النسخة المخصصة للمراهقين من «شات جي بي تي» لم تكن تنبه أولياء الأمور في الوقت المناسب في بعض الحالات، أو لم ترسل إليهم تنبيهات من الأساس، عندما تضمنت محادثات أبنائهم موضوعات تتعلق بالانتحار أو إيذاء النفس أو اضطرابات الأكل.
وتعيد هذه النتائج فتح النقاش حول مدى قدرة شركات الذكاء الاصطناعي على توفير بيئة آمنة للمراهقين، خاصة مع اتساع استخدام روبوتات الدردشة في الحياة اليومية، وزيادة الاعتماد عليها في الحصول على المعلومات والإجابة عن الأسئلة المختلفة.
