オフホワイトハッカー・田中悠斗が警告 あなたのお金と判断を狙う AI時代のサイバー攻撃

サイバー攻撃と聞いて思い浮かべるのは、ウイルスや標的型攻撃メールなど、要するに「機械が狙われる」姿だろう。だが、生成AIが変えたのはそこではない。人の心理につけ込む手口は昔から存在したが、AIはそのコストを大きく下げ、標的を選ぶ理由をなくした。つまり国民全員が対象になったのだ。この変化を「攻撃」の側から体系化した『攻撃学』の著者で、オフホワイトハッカーの田中悠斗は、取材のあいだ何度も繰り返した。「今我々がいるのは有事だ」と。

オフホワイトハッカー・田中悠斗氏

生成AIは日々進化し、ビジネスやクリエイティブなどの分野で、人間にしかできないと思われていたタスクを、次々と高いレベルでこなしている。当然、こうした能力は、悪用もされる。深刻なのがサイバー攻撃の分野だ。

情報戦略やサイバーセキュリティを専門とする株式会社フォアーゼット 代表取締役（CEO）、田中悠斗氏は、生成AIによって「前提条件が変わった」と語る。

「レッドチーム❶によるテストは、生成AI登場以前は基本的に手動でした。ツールは使うけど、攻撃する側が自分が何をしたいのか、どこに侵入するのかわかっている前提で使うものだった。だから、一定以上の能力がある一握りの人間しかできなかった」

AIは、その「わかっている前提」を無用にした。

「何もわかっていなくても、目的を入力しただけで、情報収集から実行までAIがやってくれる。一番の変化はコストが下がったことと、難易度が下がったこと。そうなると、ターゲットが広がるんですよ。無差別に行ける」

手間とコストがかかるから、攻撃者も標的を絞り込んでいた。それが消えれば絞り込む理由も消える。従来、攻撃者はまず標的を決め、そのITシステムに穴がないかを探した。だが、今はそうではない。ITシステムに深刻な脆弱性が見つかると、CVE❷という管理番号が発番され、全世界に公表される。守る側が、CVEを基にITシステムの脆弱性を認識し、いち早く穴をふさぐためだ。ところが、この〝守るための情報〟が、いまや攻撃の起点になっている。

「CVEが公表されたら、AIに『この脆弱性を持っている組織を探せ』と指示すればいい。ターゲットがいて穴を探すという順序から、穴が開いているターゲットを探して攻撃する、というパラダイムシフトが起きたわけです」

CVEが公表されてから、すべての組織、ITシステムで対策されるまでには時間差がある。その時間差を利用したNデイアタック❸が、AIによってすばやく、簡単に、かつ安価に行えるようになった。田中氏は「自分は手を動かさなくても、攻撃可能な組織のリストが溜まっていく」と言う。

だが、私たち一般の生活者にとって、事態はさらに深刻だと田中氏は語る。それは、人間を直接狙う攻撃も、AIによって実行のハードルが下がったからだ。

サイバー攻撃には、システムの脆弱性を攻撃するだけでなく、組織の中の人間の心理の隙を突く「ソーシャルエンジニアリング」❹と呼ばれる手法がある。これ自体は以前からあったが、AIによって大きく変化した。田中氏は三つの変化を挙げる。

第一に、言語の壁が消えた。「昔なら、メールの日本語がおかしいと気づけたが、今はそれに気づけなくなった」。第二に、ディープフェイク❺が人間の識別能力を超えた。声だけでは、家族のような親しい間柄でも本人かどうか判別できないほどだ。第三に、SNSでのボット❻のまん延だ。「（電話やメール、SNSで向き合う相手が）人間のフリをしているけど、ボットだという状況が増えている。もはや、どの情報を人間が発したのか、人間には見分けがつかない」

そういった「フェイク」によって、我々の「認知」がゆがめられる。攻撃者は、個人の思考や思想に影響を与え、金銭や財産をだまし取り、社会全体にも影響を及ぼす。

ただし田中氏は、「ハッキングはもともと総合オペレーションなので、初めからソーシャルエンジニアリングとセット」だと話す。AIによって初めて人間が狙われるようになったのではない。人間は最初から狙われていた。変わったのは、それが誰にでも届くようになったことだ。

例えば、田中氏によれば、闇市場で日本人のクレジットカード情報は5～25ドル程度で取引されているが、医療情報は1人あたり250ドル前後にはね上がるという。

「クレカは止められたら終わり。でも病気は続くじゃないですか」

そして、がんのステージ3から4の診療記録を入手した攻撃者は、本人にこう接触する――あなたの主治医から、あなたのための特効薬の開発を依頼された海外の医師です。順番待ちが多いので、デポジットを入れていただけないなら、次の方にお渡しせざるを得ません、と。

「これで無限のリターゲティングになる。わらをもつかむ思いで、定期預金を解約して振り込もう、となる。難しいハッキングなんて必要ない。心理誘導だけで、本人が自分の意思で送金するんですから」

「攻撃する側にとって、こんな天国みたいな時代は存在しないですよ」――それが田中氏の結論である。