顔認証使用後の違法逮捕が報告されている

絶対的にイレギュラーなのは、デトロイト市の警察が顔認証を使って不当逮捕を行ったことだ。

アフリカ系アメリカ人市民のロバート・ウィリアムズが「顔認識ソフトウェアが彼の運転免許証の写真と誰かを盗む監視ビデオを組み合わせた後、拘留中に1日以上を費やした」と、ミシガン州のアメリカ市民自由連盟（ACLU）が訴状で述べたときに、すべてが1月に起こった。ACLUによって共有されたビデオでは、ウィリアムズは、「コンピュータ」が間違っていたに違いないと認めた後、役員が彼を解放したと述べている」とロイターは報じた。

これにより、何人かの活動家が、デトロイト当局が使用した人工知能の失態とアルゴリズムの手法に抗議するようになりました。

デトロイト警察がウィリアムズの逮捕に使用した照合は、ランクワン・コンピューティング社の顔照合サービスを利用しているミシガン州警察のデジタル画像解析部門から来ている。

“顔認識の結果は捜査の手掛かりに過ぎない “と州警察は今回の事件について語っている。

ACLUの訴状はデトロイト警察に顔認証の使用をやめるよう要求している。“ウィリアムズ氏の事件の事実は技術に欠陥があることを証明しており、捜査官にはそのような技術を利用する能力がない。”

探していた人物は、2018年10月にシノラの店舗から総額3800ドルの時計を5本盗まれていたという。