サイゾーpremium  > 連載  > 人工知能が引き起こした【誤認逮捕】
連載
NewsPicks後藤直義の「GHOST IN THE TECH」【17】

人工知能のエラーが引き起こした史上初めての「誤認逮捕」の衝撃

+お気に入りに追加

あまりにも速すぎるデジタルテクノロジーの進化に、社会や法律、倫理が追いつかない現代。世界でさまざまなテクノロジーが生み出され、デジタルトランスフォーメーションが進行している。果たしてそこは、ハイテクの楽園か、それともディストピアなのか――。

今月のテクノロジー『顔認証システム』

人工知能のテクノロジーによって、監視カメラに映った人物の顔の特徴から、その身元を特定するための仕組み。顔を構成する目、口、鼻や輪郭などの配置や特徴を、数学的なデータに置き換えて、もっとも似ている人物を膨大な写真から探せるため、入出国管理やビルのセキュリティゲートのみならず、犯罪捜査の現場などでも使われている。

2009_1199003725_200.jpg
(写真/Getty Images Matthew Horwood)

「2018年に起きた事件のことで、警察署に出頭してほしい」

 20年1月、アメリカはデトロイト市(ミシガン州)郊外で暮らすアフリカ系アメリカ人(黒人)のロバート・ウィリアムズの携帯電話に、そんな電話が唐突にかかってきた。

 本人には、何のことだかさっぱりわからない。自分の誕生日の直前だったので、友人がイタズラ電話を掛けてきたのかと放置したという。ところが電話が「ガチ」であることが、すぐに判明する。

 その日帰宅すると、後ろからデトロイト警察署の捜査員が後をつけており、ガレージをパトカーで封鎖。呆気にとられている間に逮捕状を見せられて、手錠をかけられてしまったのだ。そして連行された留置場でひと晩を明かした翌日、ロバートは信じられない話を取調室で聞くことになる。

 今回の逮捕は、どうやらコンピュータがあなたを犯人だと“間違えた”ようです――。

 アメリカでは今、この前代未聞の誤認逮捕が大問題になっている。誤認逮捕といえばこれまで、人間によるずさんな捜査が主な原因だった。

 ところが、今回の致命的なミスを犯したのは、人間をはるかに超えるパワーを持っているはずの、人工知能による「顔認証システム」だったのだ。

 実はデトロイト警察が捜査をしていたのは、市内にある高級雑貨店から、合計3800ドル(約41万8000円)相当の腕時計5本が盗まれた事件だった。ショップ店員が被害に気づいたときに、すでに犯人の姿はなかったため、防犯カメラをチェック。そこにアフリカ系アメリカ人の男性が、商品を盗んでいく一部始終が映っていた。

「大柄の黒人男性で、赤い野球帽をかぶっていて、黒いジャケットを身に着けている」

 店側はすぐさま、被害者として警察署に防犯カメラの動画を提出。デトロイト警察は、そこ映り込んでいる犯人が、どこの誰なのかを知るために、AI顔認証システムを活用したのだという。

 このシステムは、犯人とおぼしき顔写真のデータを入力すると、運転免許証を含む約数千万枚の顔写真のデータベースを検索・照合して、該当者と思われる候補者をリストアップしてくれる。これが、ビデオに映っていたのはロバートの可能性が高いという結果をはじきだしたわけだ。しかし承知の通り、これは完全なる間違いだったのだ。

黒人女性を「ゴリラ」と判定したAIの精度

ログインして続きを読む
続きを読みたい方は...

Recommended by logly
サイゾープレミアム

2020年12月号

「佐藤あいり」気鋭の女優の美しきボディ

「佐藤あいり」気鋭の女優の美しきボディ
    • 【佐藤あいり】気鋭の女優の美しきボディ

NEWS SOURCE