人工知能のエラーが引き起こした史上初めての「誤認逮捕」の衝撃

あまりにも速すぎるデジタルテクノロジーの進化に、社会や法律、倫理が追いつかない現代。世界でさまざまなテクノロジーが生み出され、デジタルトランスフォーメーションが進行している。果たしてそこは、ハイテクの楽園か、それともディストピアなのか――。

今月のテクノロジー『顔認証システム』

人工知能のテクノロジーによって、監視カメラに映った人物の顔の特徴から、その身元を特定するための仕組み。顔を構成する目、口、鼻や輪郭などの配置や特徴を、数学的なデータに置き換えて、もっとも似ている人物を膨大な写真から探せるため、入出国管理やビルのセキュリティゲートのみならず、犯罪捜査の現場などでも使われている。

（写真／Getty Images Matthew Horwood）

「2018年に起きた事件のことで、警察署に出頭してほしい」

　20年1月、アメリカはデトロイト市（ミシガン州）郊外で暮らすアフリカ系アメリカ人（黒人）のロバート・ウィリアムズの携帯電話に、そんな電話が唐突にかかってきた。

　本人には、何のことだかさっぱりわからない。自分の誕生日の直前だったので、友人がイタズラ電話を掛けてきたのかと放置したという。ところが電話が「ガチ」であることが、すぐに判明する。

　その日帰宅すると、後ろからデトロイト警察署の捜査員が後をつけており、ガレージをパトカーで封鎖。呆気にとられている間に逮捕状を見せられて、手錠をかけられてしまったのだ。そして連行された留置場でひと晩を明かした翌日、ロバートは信じられない話を取調室で聞くことになる。

　今回の逮捕は、どうやらコンピュータがあなたを犯人だと“間違えた”ようです――。

　アメリカでは今、この前代未聞の誤認逮捕が大問題になっている。誤認逮捕といえばこれまで、人間によるずさんな捜査が主な原因だった。

　ところが、今回の致命的なミスを犯したのは、人間をはるかに超えるパワーを持っているはずの、人工知能による「顔認証システム」だったのだ。

　実はデトロイト警察が捜査をしていたのは、市内にある高級雑貨店から、合計3800ドル（約41万8000円）相当の腕時計5本が盗まれた事件だった。ショップ店員が被害に気づいたときに、すでに犯人の姿はなかったため、防犯カメラをチェック。そこにアフリカ系アメリカ人の男性が、商品を盗んでいく一部始終が映っていた。

「大柄の黒人男性で、赤い野球帽をかぶっていて、黒いジャケットを身に着けている」

　店側はすぐさま、被害者として警察署に防犯カメラの動画を提出。デトロイト警察は、そこ映り込んでいる犯人が、どこの誰なのかを知るために、AI顔認証システムを活用したのだという。

　このシステムは、犯人とおぼしき顔写真のデータを入力すると、運転免許証を含む約数千万枚の顔写真のデータベースを検索・照合して、該当者と思われる候補者をリストアップしてくれる。これが、ビデオに映っていたのはロバートの可能性が高いという結果をはじきだしたわけだ。しかし承知の通り、これは完全なる間違いだったのだ。