دوربین‌های بدن پلیس مجهز به هوش مصنوعی برای تشخیص چهره حدود 7000 نفر در فهرست تماشای «پرخطر» در شهر ادمونتون کانادا آموزش دیده‌اند، آزمایشی زنده برای اینکه آیا فناوری تشخیص چهره به‌عنوان بیش از حد مداخله‌گر کنار گذاشته می‌شود، می‌تواند جایگاهی در پلیس سراسر آمریکای شمالی داشته باشد یا خیر. فناوری تشخیص نگرانی‌های اخلاقی جدی ایجاد کرد، پروژه آزمایشی - که هفته گذشته روشن شد - زنگ خطر را فراتر از ادمونتون، شمالی‌ترین شهر قاره با بیش از 1 میلیون نفر افزایش می‌دهد.

یکی از رئیس سابق هیئت مدیره اخلاق هوش مصنوعی Axon، که باعث شد شرکت به طور موقت این نگرانی‌ها را رها کند، به Associated Facial Recogn گفته است. شرکت مستقر در آریزونا بدون بحث عمومی کافی، آزمایش و بررسی کارشناسان در مورد خطرات اجتماعی و پیامدهای حریم خصوصی در حال حرکت است.

بری فریدمن، رئیس سابق هیئت مدیره، که اکنون استاد حقوق در دانشگاه نیویورک است، گفت: «ضروری است که از این فناوری‌ها، که هزینه‌ها و خطرات بسیار واقعی دارند، استفاده نکنید، مگر اینکه نشانه‌های واضحی از مزایای آن وجود داشته باشد.»

ریک اسمیت، بنیانگذار و مدیر عامل Axon ادعا می کند که پایلوت ادمونتون یک راه اندازی محصول نیست، بلکه "تحقیق میدانی در مراحل اولیه" است که نحوه عملکرد فناوری را ارزیابی می کند و حفاظت های لازم برای استفاده مسئولانه از آن را آشکار می کند.

اسمیت در یک پست وبلاگ نوشت: «با آزمایش در شرایط دنیای واقعی در خارج از ایالات متحده، می‌توانیم بینش‌های مستقلی جمع‌آوری کنیم، چارچوب‌های نظارتی را تقویت کنیم، و آن آموخته‌ها را در ارزیابی‌های آینده، از جمله در ایالات متحده، به کار ببریم.

این خلبان برای کمک به ایمن‌تر کردن افسران گشت ادمونتون از طریق فعال کردن آنها به عنوان «مقامات ردیابی بدن» برای «تشخیص دوربین‌های بدن» است. کرت مارتین، سرپرست ناظر سرویس پلیس ادمونتون، گفت: دسته‌هایی مانند «خشونت‌آمیز یا تهاجمی؛ مسلح و خطرناک؛ سلاح؛ خطر فرار؛ و مجرم پرخطر». مارتین در یک کنفرانس مطبوعاتی در 2 دسامبر گفت که تا کنون 6341 نفر در این لیست دیده بان حضور دارند. او گفت که یک لیست نظارت جداگانه 724 نفر را اضافه می کند که حداقل یک حکم کیفری جدی دارند.

آن لی کوک، مدیر هوش مصنوعی مسئول آکسون، گفت: «ما واقعاً می‌خواهیم مطمئن شویم که هدف قرار گرفته است تا این افراد دارای تخلفات جدی باشند.

اگر خلبان گسترش یابد، می تواند تأثیر زیادی بر پلیس در سراسر جهان داشته باشد. Axon، یک شرکت سهامی عام که بیشتر به خاطر توسعه Taser شناخته شده است، تامین کننده اصلی دوربین های بدن در ایالات متحده است و به طور فزاینده ای آنها را به آژانس های پلیس در کانادا و جاهای دیگر ارائه کرده است. Axon سال گذشته نزدیک‌ترین رقیب خود، Motorola Solutions مستقر در شیکاگو را در تلاشی برای فروش دوربین‌های بدنه به پلیس سواره سلطنتی کانادا شکست داد.

Motorola در بیانیه‌ای اعلام کرد که این شرکت همچنین توانایی ادغام فناوری تشخیص چهره را در دوربین‌های بدن پلیس دارد، اما بر اساس اصول اخلاقی خود، از این ویژگی‌ها استفاده می‌کند. استفاده از آن در آینده را رد نکرد.

دولت آلبرتا در سال 2023 دوربین‌های بدن را برای تمام آژانس‌های پلیس در این استان، از جمله شهر ادمونتون، پایتخت آن، اجباری کرد و آن را به عنوان یک اقدام شفاف برای مستندسازی تعاملات پلیس، جمع‌آوری شواهد بهتر و کاهش زمان‌بندی برای حل و فصل تحقیقات و شکایات توصیف کرد.

در حالی که بسیاری از جوامع در ایالات متحده از زمان واقعی دوربین به عنوان ابزاری برای حسابرسی بدن استقبال کرده‌اند. تشخیص شناسایی افراد در مکان‌های عمومی در طیف سیاسی محبوبیت نداشته است. واکنش مخالفان مدافعان آزادی های مدنی و گفتگوی گسترده تر در مورد بی عدالتی نژادی به شرکت های Axon و Big Tech کمک کرد تا فروش نرم افزارهای تشخیص چهره به پلیس را متوقف کنند.

در میان بزرگترین نگرانی ها مطالعاتی نشان می‌دهد که این فناوری ناقص بوده و نتایج مغرضانه‌ای را نشان می‌دهد. همچنین در فیدهای ویدیویی بی‌درنگ با چهره‌هایی که برای کارت‌های شناسایی یا عکس‌های پلیسی عکس می‌گیرند مطابقت نداشت.

چندین U.S. ایالت ها و ده ها شهر به دنبال محدود کردنرئیس‌جمهور ترامپ برای جلوگیری از استفاده مجدد از چهره‌اش بود. ایالات از تنظیم AI.

اتحادیه اروپا فن‌آوری پلیس اسکن چهره عمومی را در سراسر بلوک ۲۷ کشور ممنوع کرده است، مگر اینکه برای جنایات جدی مانند آدم‌ربایی یا تروریسم استفاده شود.

اما در بریتانیا، که دیگر بخشی از اتحادیه اروپا نیست، مقامات آزمایش این فناوری را در خیابان های لندن از یک دهه پیش آغاز کردند و از آن برای دستگیری 1300 نفر در دو سال گذشته استفاده کردند. دولت در حال بررسی گسترش استفاده از آن در سراسر کشور است.

بسیاری از جزئیات در مورد خلبان ادمونتون به طور عمومی فاش نشده است. Axon مدل هوش مصنوعی خود را برای تشخیص چهره‌ها نمی‌سازد، اما از بیان اینکه از کدام فروشنده شخص ثالث استفاده می‌کند خودداری کرد.

پلیس ادمونتون می گوید که خلبان تا پایان دسامبر و فقط در ساعات روز ادامه خواهد داشت.

مارتین گفت: "بدیهی است که اینجا خیلی زود تاریک می شود." "شرایط روشنایی، دمای سرد ما در طول زمستان، همه این موارد باعث می‌شود که ما از نظر اثبات موفقیت‌آمیز مفهوم به چه چیزی نگاه می‌کنیم."

مارتین گفت: حدود 50 افسر که این فناوری را آزمایش می‌کنند نمی‌دانند که آیا نرم‌افزار تشخیص چهره مطابقت دارد یا خیر. خروجی ها بعداً در ایستگاه تجزیه و تحلیل خواهند شد. مارتین گفت، با این حال، در آینده می‌تواند به پلیس کمک کند تا تشخیص دهد که آیا فرد بالقوه خطرناکی در این نزدیکی هست یا نه تا بتواند برای کمک تماس بگیرد.

این تنها زمانی اتفاق می‌افتد که افسران تحقیقات را آغاز کرده باشند یا به تماسی پاسخ دهند، نه صرفاً در هنگام قدم زدن در میان جمعیت. مارتین گفت افسرانی که به تماس پاسخ می دهند می توانند دوربین های خود را از حالت ضبط غیرفعال به حالت ضبط فعال با تصویربرداری با وضوح بالاتر تغییر دهند.

مارتین گفت: «ما واقعاً می‌خواهیم به حقوق افراد و منافع حریم خصوصی آنها احترام بگذاریم.

دفتر کمیسر اطلاعات و حریم خصوصی آلبرتا، دایان مک‌لئود، گفت که او در 2 دسامبر، همان روزی که آکسون و مقامات پلیس برنامه را اعلام کردند، ارزیابی تأثیر حریم خصوصی را از پلیس ادمونتون دریافت کرد. این دفتر روز جمعه گفت که اکنون در حال بررسی ارزیابی است، یک الزام برای پروژه‌هایی که داده‌های شخصی «حساسیت بالا» را جمع‌آوری می‌کنند.

تمیتوپ اوریولا، استاد جرم‌شناسی دانشگاه آلبرتا، گفت که از اینکه شهر در حال آزمایش تشخیص چهره زنده است، تعجب نمی‌کند، با توجه به اینکه این فناوری در حال حاضر در امنیت فرودگاه و محیط‌های دیگر در همه جا حاضر است.

اوریولا گفت: «ادمونتون آزمایشگاهی برای این ابزار است. «ممکن است این یک پیشرفت باشد، اما ما به طور قطع نمی‌دانیم.»

اوریولا گفت که سرویس پلیس با ساکنان بومی و سیاه‌پوست خود گاهی اوقات روابط «سرسختی» داشته است، به‌ویژه پس از تیراندازی مرگبار پلیس به یکی از اعضای جامعه سودان جنوبی در سال گذشته، و باید دید که آیا تشخیص چهره یا فناوری باعث بهبود روابط عمومی می‌شود یا خیر.

Axon در گذشته به دلیل استقرار فناوری خود با شکست مواجه شده است، همانطور که در سال 2022، زمانی که فریدمن و هفت عضو دیگر هیئت اخلاق هوش مصنوعی Axon در اعتراض به نگرانی‌ها در مورد پهپاد مجهز به Taser استعفا دادند.

در سال‌های پس از انتخاب Axon بر ضد تشخیص چهره، اسمیت می‌گوید: شرکت Axon کنترل تشخیص چهره را انتخاب کرد. تحقیقات مبتنی بر آزمایشگاه" در مورد فناوری که "به طور قابل توجهی دقیق تر شده است" و اکنون برای آزمایش در دنیای واقعی آماده است.

اما آکسون در بیانیه‌ای به AP اذعان کرد که تمام سیستم‌های تشخیص چهره تحت تأثیر عواملی مانند فاصله، نور و زاویه قرار می‌گیرند که می‌تواند به طور نامتناسبی بر دقت افراد با پوست تیره‌تر تأثیر بگذارد.

به گفته آکسون، هر مسابقه نیاز به بازبینی انسانی دارد، و همچنین بخشی از بازنگری آزمایش‌های انسانی باید انجام شود. خطرات شناخته شده را کاهش دهید."

فریدمن گفت که آکسون باید این ارزیابی ها را افشا کند. او می‌خواهد شواهد بیشتری ببیند که تشخیص چهره از زمانی که هیئت مدیره‌اش به این نتیجه رسیدند که برای توجیه اخلاقی استفاده از آن در دوربین‌های پلیس قابل اعتماد نیست، بهبود یافته است.

فریدمن گفت که او همچنین نگران است که آژانس‌های پلیس به استفاده از فناوری بدون مشورت قانون‌گذاران محلی و آزمایش‌های علمی دقیق چراغ سبز نشان دهند.

"این تصمیمی نیست که صرفاً توسط سازمان های پلیس گرفته شود و مطمئناً توسط فروشندگان گرفته نمی شود." "یک خلبان ایده خوبی است. اما قرار است شفافیت، مسئولیت پذیری وجود داشته باشد... هیچ کدام از اینها اینجا نیست. آنها فقط دارند پیش می روند. آنها آژانسی را پیدا کردند که مایل به ادامه کار است و آنها فقط پیش می روند."

—--

نویسنده AP در لندن، کلوین چان در این گزارش مشارکت داشت.