أصبحت وكلاء الذكاء الاصطناعي أكثر انتشارًا مع تطور أدوات مثل «Microsoft Copilot» و«Manus AI» وغيرها، إلا أن قدرتها على تنفيذ المهام نيابة عن المستخدمين تثير تساؤلات بشأن أمن البيانات الشخصية ومخاطر منحها صلاحيات واسعة دون رقابة.
وفي هذا السياق، حذر ريشي بهاجافا، الشريك المؤسس لشركة «Descope» المتخصصة في أمن الهوية، من مخاطر إتاحة الوصول غير المقيد إلى الحسابات والبيانات الحساسة، مشيرًا إلى ضرورة وضع ضوابط واضحة تحدد ما يمكن لهذه الوكلاء الاطلاع عليه أو تنفيذه، وفقًا لمقابلة أجراها مع موقع «Tom’s Guide» ونقلتها «العربية Business».
حوادث تثير مخاوف أمنية
وتزايدت المخاوف بشأن استخدام وكلاء الذكاء الاصطناعي بعد تقارير تحدثت عن اتخاذ وكلاء تجريبيين إجراءات غير مصرح بها عبر مواقع حكومية، من بينها ملء طلبات للحصول على تأشيرات، فضلًا عن تقديم بلاغ غير صحيح بشأن جريمة قتل لم تُحل إلى شرطة فيلادلفيا، بحسب ما أورده التقرير.
وتسلط هذه الوقائع الضوء على المخاطر المحتملة لمنح الأنظمة الذكية صلاحيات تنفيذية واسعة، خصوصًا عندما تتعامل مع بيانات حساسة أو تتخذ إجراءات نيابة عن المستخدم دون مراجعة بشرية كافية.
البريد الإلكتروني بوابة للحسابات
يأتي البريد الإلكتروني في مقدمة البيانات التي تستدعي الحذر، إذ لا تقتصر أهميته على تبادل الرسائل، بل يرتبط أيضًا باستعادة كلمات المرور والوصول إلى العديد من الحسابات الشخصية والمصرفية والتجارية.
وأوضح بهاجافا أن وصول وكيل الذكاء الاصطناعي إلى صندوق البريد قد يتيح له بدء إجراءات إعادة تعيين كلمات المرور، بما قد يعرض حسابات أخرى للخطر.
كما حذر من هجمات «حقن الأوامر»، التي يمكن أن تتضمن رسائل البريد الإلكتروني خلالها تعليمات خبيثة تستهدف توجيه الوكيل إلى تنفيذ إجراءات لم يطلبها المستخدم، مثل إعادة توجيه الرسائل إلى عنوان آخر.
كلمات المرور تهدد الخصوصية
وحذر الخبير من منح وكلاء الذكاء الاصطناعي إمكانية الوصول الواسع إلى كلمات المرور وبيانات تسجيل الدخول، لما قد يترتب على ذلك من كشف المعلومات الشخصية أو تنفيذ إجراءات غير مقصودة داخل الحسابات.
وشدد على أهمية تطبيق مبدأ الصلاحيات المحدودة، بحيث يحصل كل وكيل على القدر الضروري فقط من الوصول لإنجاز المهمة المطلوبة، دون تمكينه من التحكم في حسابات أو خدمات لا يحتاج إليها.
معلومات الدفع تحت التهديد
تمثل بيانات الدفع جانبًا آخر من المخاطر، إذ إن منح الوكلاء صلاحيات مالية واسعة قد يفتح المجال أمام عمليات شراء أو معاملات لا يرغب المستخدم في تنفيذها.
وأكد بهاجافا ضرورة تجنب السماح لوكلاء الذكاء الاصطناعي بتحويل الأموال نيابة عن المستخدم دون ضوابط، مع أهمية الفصل بين القدرة على تقديم المعلومات والقدرة على تنفيذ المعاملات المالية.
كما أوصى بعدم مشاركة بيانات تسجيل الدخول مع الوكلاء من خلال خزائن كلمات المرور مع منحهم صلاحيات غير مقيدة، مشددًا على أهمية تخصيص هوية مستقلة لكل وكيل وتحديد نطاق وصوله وفقًا لطبيعة المهمة.
مهام يمكن إسنادها للوكلاء
وفي المقابل، أشار بهاجافا إلى وجود مهام يمكن الاستفادة فيها من وكلاء الذكاء الاصطناعي دون تعريض المستخدم لمستوى مماثل من المخاطر، مثل البحث عن المنتجات ومقارنة الأسعار والمواصفات، أو معرفة مواعيد طرح المنتجات الجديدة.
وتكون هذه الاستخدامات أقل خطورة عندما يقتصر دور الوكيل على جمع المعلومات وتحليلها، دون منحه صلاحية إتمام عمليات الشراء أو إجراء معاملات مالية.
وتبرز هذه التوصيات أهمية التعامل بحذر مع وكلاء الذكاء الاصطناعي، من خلال تقليص صلاحيات الوصول، ومراجعة الإجراءات الحساسة قبل تنفيذها، وعدم إتاحة البيانات الشخصية والمالية إلا في الحدود الضرورية، بما يحقق الاستفادة من التقنيات الحديثة مع الحد من مخاطرها الأمنية.
