حذّر باحثون من مخاطر الاعتماد المتزايد على الذكاء الاصطناعي في عمل الشرطة، مؤكدين أن استخدام بيانات غير دقيقة أو متحيزة قد يؤدي إلى زيادة التمييز ضد الأقليات، ويجعل بعض المناطق أكثر عرضة للمراقبة الأمنية دون غيرها.
وتناول الباحث البريطاني الشاب أدريان دريدج هذه القضية في مقال فاز بجائزة كاتب العلوم الشاب لعام 2026، التي تمنحها رابطة كتّاب العلوم البريطانيين سنويًا، مسلطًا الضوء على تأثير البيانات القديمة والمتحيزة في قرارات الذكاء الاصطناعي، وأهمية الرقابة البشرية للحد من مخاطره.
بيانات تصنع التحيز
يرى خبراء أن أنظمة الذكاء الاصطناعي قد تتأثر بالتحيزات الموجودة في البيانات التي تُدرَّب عليها، وهو ما قد يؤدي إلى نتائج غير عادلة، خاصة عندما يتعلق الأمر بتوقع الجرائم وتحديد المناطق التي تحتاج إلى انتشار أمني مكثف.
وتوضح الدكتورة كارولين مكاي، الباحثة في مجال العدالة الرقمية بجامعة سيدني، أن الاعتماد على بيانات تاريخية غير دقيقة قد يجعل الأنظمة تكرر الأخطاء السابقة بدلًا من تصحيحها، مشددة على ضرورة إخضاع استخدام الذكاء الاصطناعي في الشرطة للرقابة والتقييم المستقل.
ولتوضيح الفكرة، شبّه المقال الذكاء الاصطناعي برسّام خرائط لا يعرف المدينة التي يرسمها، ولا يمتلك سوى خرائط قديمة. وعندما يعتمد على هذه المعلومات، قد يرسم طرقًا لم تعد موجودة أو يتجاهل تغييرات حدثت على أرض الواقع، لأنه لا يملك معلومات حديثة تساعده على تصحيح الصورة.
حلقة جرائم متكررة
وتظهر خطورة هذه المشكلة عندما تستخدم الشرطة الذكاء الاصطناعي لتحديد المناطق المتوقع وقوع الجرائم فيها، اعتمادًا على سجلات الجرائم السابقة. فإذا ركزت الدوريات على مناطق بعينها، فمن الطبيعي أن ترصد فيها مخالفات وجرائم أكثر، بينما قد تمر حوادث أخرى في مناطق مختلفة دون تسجيلها.
ومع إدخال هذه البيانات مجددًا إلى النظام، قد يزداد تصنيف المناطق نفسها باعتبارها بؤرًا للجريمة، ما يؤدي إلى استمرار تكثيف الوجود الأمني فيها. وبذلك، لا تعكس البيانات حجم الجرائم الفعلي فقط، بل تتأثر أيضًا بالأماكن التي تركز الشرطة على مراقبتها.
وفي دراسة أجرتها عالمة الاجتماع سارة براين داخل إدارة شرطة لوس أنجلوس، تبيّن أن استخدام البيانات للتنبؤ بالجرائم قد يتأثر بطرق جمع المعلومات وتسجيلها، خاصة مع زيادة التركيز الأمني على الأحياء التي يسكنها السود.
بيانات ملوثة وخطر أكبر
ولا تقتصر المشكلة على البيانات القديمة، بل تمتد إلى السجلات التي جُمعت في ظل ممارسات متحيزة أو غير قانونية. فقد أشار باحثون في جامعة نيويورك إلى أن أنظمة التنبؤ بالجرائم قد تعتمد على ما وصفوه بـ«البيانات الملوثة»، التي تشمل سجلات متأثرة بالفساد أو التمييز أو التلاعب بإحصاءات الجريمة.
وأظهرت دراستهم أن بيانات شرطية تعود إلى فترات شهدت ممارسات غير قانونية أو متحيزة كانت متاحة لتدريب الأنظمة في 9 مناطق من أصل 13 منطقة أمريكية شملتها الدراسة. وتكمن الخطورة في أن النظام قد يتعامل مع هذه المعلومات باعتبارها حقائق صحيحة، دون أن يدرك الظروف التي أدت إلى تسجيلها.
تجربة تكشف التمييز
وقدم المقال مثالًا آخر من قطاع الرعاية الصحية في الولايات المتحدة، حيث تناول دراسة نُشرت عام 2019 في مجلة «ساينس» العلمية، بحثت في نظام ذكاء اصطناعي يساعد على تحديد المرضى الذين يحتاجون إلى دعم إضافي.
وكان النظام يعتمد على توقع تكلفة الرعاية الصحية لتحديد المرضى الأكثر احتياجًا. لكن الإنفاق على المرضى السود كان أقل من الإنفاق على مرضى بيض يعانون من الدرجة نفسها من المرض، لأسباب من بينها ضعف فرص الحصول على الرعاية الصحية.
ونتيجة لذلك، فضّل النظام المرضى البيض في الحصول على الدعم، لأنه اعتبر ارتفاع تكلفة العلاج مؤشرًا على الحاجة إليه. وعندما عدّل الباحثون النظام ليعتمد على الحالة الصحية للمرضى بدلًا من تكلفة العلاج، تراجع التحيز بشكل كبير، وكان من الممكن أن ترتفع نسبة المرضى السود الذين يحصلون على المساعدة من نحو 18% إلى 47%.
رقابة بشرية ضرورية
من جانبه، أكد الدكتور ديميتريوس كولياس، الأستاذ المشارك في الذكاء الاصطناعي بجامعة كوين ماري في لندن، أن الأنظمة الحديثة أصبحت قادرة على معالجة المعلومات بطرق أكثر تطورًا من مجرد نسخ البيانات القديمة، لكنه شدد على ضرورة ضمان سلامتها وموثوقيتها وخضوعها لرقابة بشرية فعالة.
وأشار إلى إمكانية الحد من التحيز من خلال تحسين جودة البيانات، واختبار الأنظمة للكشف عن النتائج غير العادلة، ووضع ضوابط واضحة قبل استخدامها في اتخاذ القرارات التي تؤثر في حياة الناس.
كما يرى الخبراء أن تقديم معلومات إضافية عن الظروف الاجتماعية والاقتصادية للمناطق قد يساعد على فهم أسباب المشكلات بصورة أفضل، بدلًا من الاكتفاء بزيادة الدوريات الأمنية. فقد تكون بعض المناطق بحاجة إلى تحسين الإنارة أو تطوير الخدمات العامة أو توفير الدعم المجتمعي، وليس إلى مزيد من المراقبة فقط.
وفي النهاية، يؤكد المقال أن الذكاء الاصطناعي ليس حلًا سحريًا، كما أنه ليس بالضرورة سببًا حتميًا للتمييز، لكن النتائج التي يقدمها تعتمد بدرجة كبيرة على البيانات والقرارات البشرية التي توجهه. ولذلك، فإن مراجعة المعلومات المستخدمة، وإجراء تقييمات مستقلة، والإبقاء على الإنسان طرفًا أساسيًا في اتخاذ القرار، تظل خطوات ضرورية لتجنب تكرار أخطاء الماضي.
