تم تدريب كاميرات الشرطة المزودة بالذكاء الاصطناعي على اكتشاف وجوه حوالي 7000 شخص مدرجين على قائمة المراقبة "عالية الخطورة" في مدينة إدمونتون الكندية، وهو اختبار حي لمعرفة ما إذا كانت تقنية التعرف على الوجه التي تم تجنبها باعتبارها تدخلية للغاية يمكن أن يكون لها مكان في الشرطة في جميع أنحاء أمريكا الشمالية.

ولكن بعد ست سنوات من قول شركة Axon Enterprise, Inc.، الرائدة في صناعة كاميرات الجسم، إن استخدام الشرطة لتقنية التعرف على الوجه يشكل مخاوف أخلاقية خطيرة، تم تشغيل المشروع التجريبي - الذي تم تشغيله الأسبوع الماضي - يثير الإنذارات خارج نطاق إدمونتون، المدينة الواقعة في أقصى شمال القارة والتي يبلغ عدد سكانها أكثر من مليون شخص.

وقال الرئيس السابق لمجلس أخلاقيات الذكاء الاصطناعي في شركة أكسون، والذي قاد الشركة إلى التخلي مؤقتًا عن تقنية التعرف على الوجه في عام 2019، لوكالة أسوشيتد برس إنه يشعر بالقلق من أن الشركة التي يقع مقرها في أريزونا تمضي قدمًا دون ما يكفي من النقاش العام والاختبار والتدقيق الخبراء حول المخاطر المجتمعية والآثار المترتبة على الخصوصية.

"من الضروري عدم استخدام هذه التقنيات، التي لها تكاليف ومخاطر حقيقية للغاية، ما لم يكن هناك مؤشر واضح على الفوائد"، كما قال باري فريدمان، رئيس مجلس الإدارة السابق، والذي يعمل الآن أستاذًا للقانون في جامعة نيويورك.

يؤكد ريك سميث، المؤسس والرئيس التنفيذي لشركة Axon، أن المشروع التجريبي في إدمونتون ليس إطلاقًا للمنتج ولكنه "بحث ميداني في مرحلة مبكرة" من شأنه تقييم كيفية أداء التكنولوجيا والكشف عن الضمانات اللازمة لاستخدامها بشكل مسؤول.

كتب سميث في منشور على مدونة: "من خلال الاختبار في ظروف العالم الحقيقي خارج الولايات المتحدة، يمكننا جمع رؤى مستقلة وتعزيز أطر الرقابة وتطبيق تلك الدروس على التقييمات المستقبلية، بما في ذلك داخل الولايات المتحدة".

يهدف البرنامج التجريبي إلى المساعدة في جعل ضباط دورية إدمونتون أكثر أمانًا من خلال تمكين الكاميرات التي يتم ارتداؤها على الجسم من اكتشاف أي شخص صنفته السلطات على أنه يحمل "علمًا أو تحذيرًا" لفئات مثل "عنيف أو اعتداء؛ ومسلح وخطير؛ وأسلحة؛ وهروب من المخاطر؛ و" قال كيرت مارتن، القائم بأعمال المشرف على خدمة شرطة إدمونتون: “إننا مرتكبو جرائم شديدة الخطورة”. وقال مارتن في مؤتمر صحفي عقد في 2 ديسمبر/كانون الأول، إن قائمة المراقبة تضم حتى الآن 6341 شخصًا. وأضاف أن قائمة المراقبة المنفصلة تضيف 724 شخصًا لديهم مذكرة جنائية خطيرة واحدة على الأقل.

قالت آن لي كوك، مديرة الذكاء الاصطناعي المسؤول في شركة Axon: "نريد حقًا التأكد من استهدافهم بحيث يكون هؤلاء الأشخاص مرتكبين لجرائم خطيرة".

إذا تم توسيع المشروع التجريبي، فقد يكون له تأثير كبير على الشرطة في جميع أنحاء العالم. تعد شركة Axon، وهي شركة مساهمة عامة اشتهرت بتطوير جهاز Taser، المورد الأمريكي المهيمن لكاميرات الجسم وقد قامت بشكل متزايد بعرضها على وكالات الشرطة في كندا وأماكن أخرى. تغلبت شركة Axon العام الماضي على أقرب منافسيها، شركة Motorola Solutions ومقرها شيكاغو، في محاولة لبيع كاميرات الجسم إلى شرطة الخيالة الملكية الكندية. وقالت موتورولا في بيان لها إن لديها أيضًا القدرة على دمج تقنية التعرف على الوجه في كاميرات الشرطة ولكن، بناءً على مبادئها الأخلاقية، "امتنعت عمدًا عن نشر هذه الميزة لتحديد الهوية بشكل استباقي". ولم يستبعد استخدامه في المستقبل.

فرضت حكومة ألبرتا في عام 2023 استخدام كاميرات الجسم لجميع وكالات الشرطة في المقاطعة، بما في ذلك عاصمتها إدمونتون، ووصفتها بأنها إجراء شفاف لتوثيق تفاعلات الشرطة وجمع أدلة أفضل وتقليل الجداول الزمنية لحل التحقيقات والشكاوى.

في حين رحبت العديد من المجتمعات في الولايات المتحدة أيضًا بكاميرات الجسم كأداة للمساءلة، فإن احتمال التعرف على الوجه في الوقت الفعلي لم يكن التعرف على الأشخاص في الأماكن العامة يحظى بشعبية كبيرة عبر الطيف السياسي. ساعدت ردود الفعل العنيفة من المدافعين عن الحريات المدنية والمحادثات الأوسع حول الظلم العنصري في دفع شركات Axon وشركات التكنولوجيا الكبرى إلى إيقاف مبيعات برامج التعرف على الوجه للشرطة مؤقتًا.

من بين أكبر المخاوف كانت الدراسات التي أظهرت أن التكنولوجيا كانت معيبة، مما يدل على نتائج متحيزة حسب العرق والجنس والعمر. كما أنها لم تتطابق مع الوجوه بدقة في خلاصات الفيديو في الوقت الفعلي كما فعلت مع الوجوه التي تظهر للحصول على بطاقات الهوية أو لقطات الشرطة.

في العديد من الولايات المتحدة. الولايات وعشرات المدن لديها سعى إلى الحد من استخدام الشرطة للتعرف على الوجه، على الرغم من أن إدارة الرئيس دونالد ترامب تحاول الآن منع أو تثبيط الولايات من تنظيم الذكاء الاصطناعي.

حظر الاتحاد الأوروبي تقنية مسح الوجوه العامة التي تقوم بها الشرطة في الوقت الفعلي في جميع أنحاء الكتلة المكونة من 27 دولة، باستثناء عندما يتم استخدامها في جرائم خطيرة مثل الاختطاف أو الإرهاب.

ولكن في المملكة المتحدة، التي لم تعد جزءًا من الاتحاد الأوروبي، بدأت السلطات في اختبار التكنولوجيا في شوارع لندن قبل عقد من الزمن واستخدمتها لاعتقال 1300 شخص في العامين الماضيين. وتدرس الحكومة توسيع استخدامه في جميع أنحاء البلاد.

لم يتم الكشف علنًا عن العديد من التفاصيل حول مشروع إدمونتون التجريبي. لا تصنع Axon نموذج الذكاء الاصطناعي الخاص بها للتعرف على الوجوه، لكنها رفضت تحديد البائع الخارجي الذي تستخدمه.

تقول شرطة إدمونتون إن البرنامج التجريبي سيستمر حتى نهاية ديسمبر وخلال ساعات النهار فقط.

قال مارتن: "من الواضح أن الظلام يحل مبكرًا جدًا هنا". "ظروف الإضاءة، ودرجات الحرارة الباردة خلال فصل الشتاء، كل هذه الأشياء ستؤثر على ما ننظر إليه فيما يتعلق بإثبات ناجح للمفهوم."

قال مارتن إن حوالي 50 ضابطًا يقومون بتجربة التكنولوجيا لن يعرفوا ما إذا كان برنامج التعرف على الوجه قد تطابق أم لا. وسيتم تحليل المخرجات لاحقا في المحطة. ومع ذلك، قال مارتن إن هذا يمكن أن يساعد الشرطة في المستقبل على اكتشاف ما إذا كان هناك شخص يحتمل أن يكون خطيرًا في مكان قريب حتى يتمكنوا من الاتصال للحصول على المساعدة.

من المفترض أن يحدث هذا فقط إذا بدأ الضباط تحقيقًا أو كانوا يستجيبون لمكالمة، وليس فقط أثناء التجول وسط حشد من الناس. وقال مارتن إن الضباط الذين يستجيبون لمكالمة يمكنهم تحويل كاميراتهم من وضع التسجيل السلبي إلى وضع التسجيل النشط مع تصوير عالي الدقة.

قال مارتن: "نريد حقًا احترام حقوق الأفراد ومصالحهم المتعلقة بالخصوصية".

قال مكتب مفوضة المعلومات والخصوصية في ألبرتا ديان ماكليود إنها تلقت تقييمًا لتأثير الخصوصية من شرطة إدمونتون في 2 ديسمبر، وهو نفس اليوم الذي أعلن فيه مسؤولو أكسون والشرطة عن البرنامج. وقال المكتب يوم الجمعة إنه يعمل الآن على مراجعة التقييم، وهو شرط للمشاريع التي تجمع بيانات شخصية "عالية الحساسية". وقال تيميتوب أوريولا، أستاذ علم الإجرام بجامعة ألبرتا، إنه ليس مندهشًا من أن المدينة تقوم بتجربة التعرف المباشر على الوجه، نظرًا لأن التكنولوجيا موجودة بالفعل في كل مكان في أمن المطارات والبيئات الأخرى.

وقال أوريولا: "إن إدمونتون هي مختبر لهذه الأداة". "قد يتبين أنه تحسن، لكننا لا نعرف ذلك على وجه اليقين."

قال أوريولا إن خدمة الشرطة كانت لها في بعض الأحيان علاقة "فاترة" مع السكان الأصليين والسود، لا سيما بعد إطلاق الشرطة النار المميت على أحد أفراد مجتمع جنوب السودان العام الماضي، ويبقى أن نرى ما إذا كانت تكنولوجيا التعرف على الوجه تجعل الشرطة أكثر أمانًا أو تحسن التفاعلات مع الجمهور.

واجهت شركة Axon ردود فعل سلبية بسبب نشرها للتكنولوجيا في الماضي، كما حدث في عام 2022، عندما استقال فريدمان وسبعة أعضاء آخرين في مجلس أخلاقيات الذكاء الاصطناعي في شركة Axon احتجاجًا على مخاوف بشأن طائرة بدون طيار مجهزة بمسدس الصاعقة.

في السنوات التي تلت اختيار Axon ضد التعرف على الوجه، يقول سميث، الرئيس التنفيذي، إن الشركة "واصلت الأبحاث الخاضعة للرقابة والمختبرية" للتكنولوجيا التي "أصبحت أكثر دقة بشكل ملحوظ" وهي الآن جاهزة. للمحاكمة في العالم الحقيقي.

لكن أكسون أقر في بيان لوكالة أسوشييتد برس أن جميع أنظمة التعرف على الوجه تتأثر "بعوامل مثل المسافة والإضاءة والزاوية، والتي يمكن أن تؤثر بشكل غير متناسب على الدقة للأفراد ذوي البشرة الداكنة".

وقال أكسون إن كل مباراة تتطلب مراجعة بشرية، وجزء من اختبارها هو أيضًا "معرفة التدريب والرقابة التي يجب أن يحصل عليها المراجعون البشريون للتخفيف من المخاطر المعروفة".

وقال فريدمان إن أكسون يجب أن تكشف عن تلك التقييمات. إنه يرغب في رؤية المزيد من الأدلة على أن تقنية التعرف على الوجه قد تحسنت منذ أن خلص مجلس إدارته إلى أنها ليست موثوقة بما يكفي لتبرير استخدامها في كاميرات الشرطة أخلاقياً.

قال فريدمان إنه يشعر بالقلق أيضًا بشأن قيام وكالات الشرطة بإعطاء الضوء الأخضر لاستخدام التكنولوجيا دون مداولات من قبل المشرعين المحليين واختبارات علمية صارمة. وقال: "إنه ليس قرارًا يتم اتخاذه ببساطة من قبل وكالات الشرطة، وبالتأكيد ليس من قبل البائعين". "المشروع التجريبي فكرة عظيمة. ولكن من المفترض أن تكون هناك شفافية ومساءلة. ... لا شيء من هذا هنا. إنهم يمضون قدمًا فحسب. لقد وجدوا وكالة مستعدة للمضي قدمًا وهم يمضيون قدمًا فقط. "

—-

ساهم كاتب وكالة أسوشييتد برس كلفن تشان في لندن في هذا التقرير.