أثارت استقالة ديفيد روبنسون، الموظف السابق في شركة «أوبن إيه آي» (OpenAI) والمسؤول عن المشاركة في إعداد تقارير السلامة الخاصة بعدد من منتجات الشركة الرئيسية، نقاشًا جديدًا حول كيفية تعامل شركات الذكاء الاصطناعي مع المخاطر المصاحبة للتطور السريع لهذه التكنولوجيا.
وقضى روبنسون نحو 3 سنوات ونصف داخل OpenAI، قبل أن يكشف في مقال نشرته مجلة «ذا أتلانتيك» أسباب مغادرته الشركة، موضحًا أن تجربته جعلته يرى أن التحديات المرتبطة بسلامة الذكاء الاصطناعي لا تتعلق فقط بالضوابط التقنية، وإنما تمتد أيضًا إلى ثقافة العمل وآليات اتخاذ القرار داخل الشركات.
وكان روبنسون من المشاركين في إعداد تقارير السلامة التي رافقت إطلاق عدد من منتجات OpenAI الرئيسية، وهو ما أتاح له، بحسب روايته، الاطلاع على عمليات تقييم المخاطر المرتبطة بالنماذج الجديدة قبل طرحها.
لماذا غادر روبنسون OpenAI؟
قال روبنسون إن التطور المتسارع في قدرات أنظمة الذكاء الاصطناعي يجعل الاعتماد على اكتشاف المشكلات بعد ظهورها ثم معالجتها نهجًا غير كافٍ، خاصة مع تزايد إمكانات النماذج الحديثة.
ويرى أن أسلوب التطوير الذي يقوم على تجربة النظام ثم اكتشاف الأخطاء وإصلاحها قد يؤدي إلى وقوع مشكلات بصورة يصعب تجنبها، بينما تتسع آثار الأخطاء المحتملة كلما أصبحت أنظمة الذكاء الاصطناعي أكثر قدرة وانتشارًا.
ودعا، وفقًا لما طرحه، إلى تعزيز الإجراءات الوقائية منذ المراحل الأولى من تطوير النماذج، بدلًا من التعامل مع السلامة باعتبارها عملية مستمرة لتصحيح المشكلات بعد ظهورها.
مخاوف بشأن وكلاء الذكاء الاصطناعي
وأبدى روبنسون اهتمامًا خاصًا بالتطور المتسارع في قدرات «وكلاء الذكاء الاصطناعي»، وهي أنظمة يمكنها تنفيذ سلسلة من المهام بدرجة من الاستقلالية، بدلًا من الاقتصار على تقديم إجابات مباشرة للمستخدم.
وأشار إلى ما وصفه باختراق أنظمة منصة «هاغينغ فيس» بواسطة وكلاء تابعين لـOpenAI، إلى جانب حالات أخرى قال إن وكلاء الذكاء الاصطناعي تصرفوا خلالها بطرق لم تكن متوقعة.
ويرى الموظف السابق أن هذه الوقائع تزداد أهميتها مع اتجاه شركات التكنولوجيا إلى تطوير أنظمة قادرة على تنفيذ خطوات متتابعة بصورة أكثر استقلالية لتحقيق أهداف محددة.
روبنسون يدعو للاستفادة من الطيران والطاقة النووية
وطالب روبنسون شركات الذكاء الاصطناعي بالاستفادة من تجارب القطاعات التي تتعامل مع أنظمة عالية الخطورة، مثل الطيران والطاقة النووية.
وأوضح أن هذه المجالات تعتمد على مجموعة من طبقات الحماية والاختبارات والرقابة والتخطيط المسبق، بهدف تقليل احتمالات وقوع الأخطاء والحد من آثارها في حال حدوثها.
وبحسب رؤيته، فإن هذا النوع من إجراءات السلامة قد يكون أكثر أهمية في الذكاء الاصطناعي، نظرًا لقدرة الأنظمة الحديثة على العمل بسرعة وعلى نطاق واسع، وهو ما قد يؤدي إلى تضخيم تأثير أي خطأ أو ثغرة.
وأشار إلى أنه خلال فترة عمله في OpenAI لم يلتقِ، وفق روايته، بعدد كبير من الموظفين الذين يمتلكون خبرات مباشرة في إدارة أنظمة سلامة معقدة، مثل الطائرات والمفاعلات النووية أو البنية التحتية المالية.
OpenAI ترد: نواصل تعزيز إجراءات الأمان
في المقابل، أكدت شركة OpenAI استمرارها في تطوير إجراءات حماية النماذج والأنظمة التي تعمل عليها.
وقال المتحدث باسم الشركة، درو بوساتيري، إن OpenAI تعمل على التأكد من عدم وصول نماذجها إلى مستوى من القدرات يتجاوز ما تستطيع الشركة إدارته وتأمينه بشكل آمن.
وأضاف أن الشركة قد توقف عمليات تدريب النماذج أو تؤجل إطلاقها إذا رأت أن الأمر يحتاج إلى مزيد من الاختبارات أو إلى تعزيز إجراءات الحماية قبل طرحها.
وتشمل الإجراءات التي أشارت إليها الشركة تعزيز الأمن داخل بيئات البحث والاختبار، وتدريب النماذج على تنفيذ المهام بصورة مسؤولة، وزيادة الاستعانة بجهات خارجية لتقييم الأنظمة، فضلًا عن تطوير أدوات المراقبة الفورية لرصد السلوكيات المثيرة للقلق في مراحل مبكرة.
جدل حول مواءمة الذكاء الاصطناعي مع القيم البشرية
وتطرق روبنسون أيضًا إلى قضية «مواءمة الذكاء الاصطناعي»، التي تتعلق بمدى توافق أهداف الأنظمة وسلوكها مع القيم والمقاصد البشرية.
ويرى أن الأدوات المستخدمة حاليًا لقياس مدى توافق النماذج مع القيم الإنسانية لا تزال محدودة، خاصة مع ظهور أنظمة أكثر ذكاءً وقدرة على العمل باستقلالية.
وحذر من أن مواصلة تطوير نماذج أكثر قوة في ظل وجود مشكلات لم تحسم بعد في مجال المواءمة قد ترفع من مستوى المخاطر المحتملة المرتبطة بهذه التكنولوجيا.
هل تحتاج شركات الذكاء الاصطناعي إلى رقابة خارجية؟
ويرى روبنسون أن التعامل مع هذه المخاطر قد يحتاج إلى ضغوط وحوافز من خارج شركات الذكاء الاصطناعي نفسها، معتبرًا أن العاملين في هذه الشركات يواجهون ضغوطًا مستمرة بسبب سرعة المنافسة ووتيرة إطلاق المنتجات.
وقال إنه درس إمكانية الاستمرار في العمل داخل OpenAI بهدف الدفع نحو تغييرات أساسية في أسلوب العمل والثقافة التنظيمية، لكنه خلص في النهاية، بحسب روايته، إلى أن تحقيق تغييرات جوهرية من داخل الشركة قد يكون صعبًا في ظل سرعة التطورات الحالية في مجال الذكاء الاصطناعي.
