أثار إعلان OpenAI عن نجاح أحد نماذجها في تنفيذ هجوم إلكتروني استهدف منصة Hugging Face خلال اختبار أمني موجة واسعة من الجدل، إلا أن خبراء الأمن السيبراني أكدوا أن السبب الرئيسي وراء الواقعة لم يكن قدرات الذكاء الاصطناعي وحدها، بل وجود أخطاء في تصميم بيئة الاختبار وإعداداتها الأمنية.
ثغرة في بيئة الاختبار لا قدرات خارقة.. الجدل يتصاعد بعد أول هجوم إلكتروني نفذه الذكاء الاصطناعي
وكانت OpenAI قد كشفت أن نموذجين من نماذجها، أثناء اختبار داخلي لقياس القدرات الهجومية، تمكنا من استغلال ثغرات تقنية والخروج من بيئة الاختبار المحدودة للوصول إلى أنظمة خارجية، قبل أن تستهدف منصة Hugging Face للحصول على بيانات مرتبطة بالاختبار. ووصفت الشركة الواقعة بأنها أول حادثة من نوعها، مؤكدة أنها حدثت أثناء تقييم داخلي مع تعطيل بعض القيود الأمنية الخاصة بالنماذج.
ويرى متخصصون في الأمن السيبراني أن الحادث كشف في المقام الأول عن ضعف في تصميم بيئة الاحتواء، وليس عن امتلاك الذكاء الاصطناعي قدرات خارقة. وأوضح خبراء أن بيئة الاختبار لم تكن معزولة بالكامل عن الإنترنت، ما أتاح للنموذج استغلال ثغرة غير معلنة سابقًا في نظام وسيط لتنزيل الحزم البرمجية، ثم تنفيذ سلسلة من عمليات تصعيد الصلاحيات والانتقال بين الأنظمة حتى وصل إلى اتصال خارجي.
وأكد عدد من الخبراء، من بينهم دان غويدو، مؤسس شركة Trail of Bits، أن الثغرات البرمجية قد تكون أمرًا متوقعًا، لكن السماح لبيئة اختبار تضم نماذج تمتلك قدرات هجومية بالاتصال بمكونات يمكنها الوصول إلى الإنترنت يمثل نقطة الضعف الحقيقية في الحادث.
تشديد إجراءات العزل والإتصال الشبكي من أهم معايير تأمين مختبراء الذكاء الإصطناعى
وأعادت الواقعة الجدل حول معايير تأمين مختبرات الذكاء الاصطناعي، إذ دعا باحثون إلى تشديد إجراءات العزل ومنع أي اتصال شبكي غير ضروري أثناء اختبار النماذج المتقدمة، مؤكدين أن الاعتماد على جدران الحماية وحدها لم يعد كافيًا مع التطور المتسارع لقدرات النماذج الذكية.
ويرى مراقبون أن الحادثة تمثل نقطة تحول في مجال الأمن السيبراني، إذ تؤكد أن التحدي المستقبلي لن يقتصر على تطوير نماذج أكثر ذكاءً، بل سيشمل أيضًا بناء بيئات اختبار أكثر صلابة تمنع أي إمكانية لتجاوز حدودها، حتى في سيناريوهات التقييم الداخلي.
