في واقعة تعيد تسليط الضوء على مخاطر منح وكلاء الذكاء الاصطناعي صلاحيات واسعة للوصول إلى البيانات الشخصية، كشف وكيل ذكاء اصطناعي عن الأرصدة المصرفية لمؤسس شركة تقنية ومستثمر، ونشر تفاصيل إنفاقه الشخصي في قناة داخلية مخصصة للفريق التنفيذي بشركته على منصة «سلاك»
.
وبحسب تقرير نشره موقع «فيوتشرزم» المتخصص في أخبار التكنولوجيا، فإن شين ماك، مؤسس شركة تقنية ومستثمر، فوجئ بنشر بياناته المالية الخاصة أمام زملائه، في حادثة قال إنها أثارت مخاوفه بشأن حدود الصلاحيات الممنوحة للأنظمة الذكية وقدرتها على التمييز بين المعلومات الشخصية وبيانات العمل.
وكتب ماك عبر منصة «إكس» أنه شعر بالإحراج والقلق بعدما نشر الوكيل أرصدة حساباته المصرفية، إلى جانب تفاصيل دقيقة عن مصروفاته، في قناة الشركة، قبل أن يقدم اعتذارًا عن الواقعة.
تفاصيل دقيقة عن المصروفات
وأظهرت لقطات شاشة لمحادثة بين ماك وروبوت «Grok Bot»، الذي وصفه التقرير بأنه زميل عمل يعمل بالذكاء الاصطناعي، أن النظام أعد مراجعة مالية شهرية تضمنت تفاصيل عن نفقات المستخدم الشخصية.
وشملت البيانات مصروفات مرتبطة بمشروع إنشاء صالة رياضية منزلية داخل حظيرة، إلى جانب تفاصيل أخرى تتعلق بأعمال تركيب مصارف لخزان الصرف الصحي وسداد أرصدة البطاقات المصرفية.
وعندما اكتشف ماك ما حدث، واجه الروبوت بشأن نشر المعلومات في قناة الفريق التنفيذي، مؤكدًا أن بياناته المصرفية الشخصية أصبحت متاحة أمام أعضاء الفريق.
ورد الروبوت بأن ما حدث كان خطأه، معلنًا أنه سيتحقق من القناة ويحذف الرسالة إذا كانت لا تزال موجودة. لكن الواقعة أثارت تساؤلات بشأن كيفية وصول المعلومات الحساسة إلى مساحة عمل مشتركة، رغم أن الغرض من استخدام الوكيل كان إجراء مراجعة مالية.
كيف وصلت البيانات إلى فريق العمل؟
وأوضح ماك لاحقًا أن المسؤولية تعود جزئيًا إلى قراره ربط حساباته المالية بوكلاء الذكاء الاصطناعي، مشيرًا إلى أنه لم يكن يدرك أن روبوت «غروك»، الذي منحه بيانات حسابه المصرفي، يمكنه التواصل مع الروبوت الذي يستخدمه في العمل عبر منصة «سلاك».
وتسلط الواقعة الضوء على أحد التحديات المرتبطة بتوسع استخدام وكلاء الذكاء الاصطناعي، وهي إمكانية انتقال البيانات بين أدوات وتطبيقات مترابطة، إذا لم تكن الصلاحيات وحدود الوصول محددة بصورة دقيقة.
وتختلف هذه الأنظمة عن روبوتات المحادثة التقليدية، إذ يمكن منحها القدرة على تنفيذ مهام متعددة، مثل مراجعة الحسابات وإعداد التقارير والتفاعل مع تطبيقات العمل، وهو ما يزيد أهمية التحكم في البيانات التي يمكنها الوصول إليها والإجراءات التي يسمح لها بتنفيذها.
مخاوف بشأن الخصوصية والأمان
تأتي الواقعة في وقت يتزايد فيه الاعتماد على وكلاء الذكاء الاصطناعي لإنجاز المهام اليومية، بدءًا من إدارة البريد الإلكتروني وحسابات التواصل الاجتماعي، وصولًا إلى التعامل مع البيانات المالية والمعلومات الشخصية الحساسة.
ويحذر متابعون لقطاع التكنولوجيا من أن منح هذه الأنظمة صلاحيات واسعة قد يخلق مخاطر تتعلق بالخصوصية وأمن المعلومات، خاصة عندما تتصل بأكثر من تطبيق أو حساب في الوقت نفسه.
كما أن سجل شركات التكنولوجيا في حماية البيانات ليس خاليًا من التحديات، في ظل تقارير سابقة عن تمكن بعض وكلاء الذكاء الاصطناعي من تجاوز القيود المفروضة عليهم خلال اختبارات الأمن السيبراني.
ومع ذلك، لم يثبت أن الواقعة المشار إليها نتجت عن اختراق خارجي للحسابات، إذ تدور تفاصيلها حول نشر بيانات مالية من خلال وكيل مُنح صلاحية الوصول إليها.
ماك يعيد ضبط صلاحيات الوكلاء
وعقب الحادثة، أعلن ماك أنه فصل حساباته الشخصية عن أدوات الذكاء الاصطناعي، مؤكدًا حاجته إلى وضع آلية أكثر فاعلية لإدارة الأذونات والتحكم في الإجراءات التي يمكن للوكلاء تنفيذها.
وتبرز هذه الخطوة أهمية الفصل بين الحسابات الشخصية وحسابات العمل، وتقليل الصلاحيات الممنوحة للأنظمة الذكية إلى الحد الضروري لإنجاز المهام المطلوبة، مع مراجعة التطبيقات المرتبطة بها بصورة دورية.
وأشار تقرير «فيوتشرزم» إلى أنه لم يتمكن من التحقق بصورة مستقلة من ادعاءات ماك بشأن الواقعة، وهو ما يستدعي التعامل مع تفاصيل الحادثة باعتبارها رواية نقلها صاحبها ولم يؤكدها تحقق مستقل.
وتعيد هذه الواقعة طرح سؤال جوهري مع توسع استخدام الذكاء الاصطناعي: كيف يمكن الاستفادة من قدرته على إنجاز المهام المعقدة، دون تعريض الخصوصية والبيانات المالية للمستخدمين لمخاطر غير محسوبة؟
