今の世の中、理解不能な言動を取ったり、主体性がない判断をする人が多くないか？個が尊重される多様性社会といえば聞こえがいいが、アイツやコイツや、そして僕たちも、実は無自覚なまま、特定の権力者や情報に操られる「洗脳状態」になってはいないか? だから、脱洗脳のスペシャリストである苫米地英人博士に聞いてみたい。「僕たちは洗脳されているんですか？」
アンソロピック社の新型AI「クロード・ミュトス」のハッキング能力の脅威を前に、メガバンク3行や日立製作所などのインフラ企業が一斉に導入へ動き出した。「最新AIの攻撃に対抗するには同じAIを導入するしかない」というマッチポンプ的な恐怖に突き動かされ、政府機関や重要インフラ各所で導入議論が過熱しているが、それは「最適解」なのか？
アンソロピックの営業戦略
――今日は「クロード・ミュトス」について聞かせてください。最近、国内のメガバンクやインフラ企業が導入を決めましたが、そこだけで大丈夫なのでしょうか？ 政府機関や原発などセキュリティを強化しなければいけないところがもっとあると思うのですが。
苫米地 そこは確かに大問題だよね。ただし、僕が言う大問題は「導入し遅れること」ではなく、「システム防衛のためだと言って、ミュトスを一斉に導入してしまったこと」そのものだよ。
――違うのですか？ ミュトスで脆弱性はカバーできたと思っていました。
苫米地 みんな勘違いしているが、ミュトスがやったのは「古いOSの脆弱性を見つけ、攻撃コードを自動生成した」だけのこと。Linuxなど古いOSに未報告のバグなどいくらでもあり、僕ら専門家には既知の話だ。発表しないのは、もう誰も使っていないからだよ。それを大層に仕立てたのはアンソロピックの営業だろうね。「40年間、誰も発見できなかったバグを一瞬でウチのミュトスは見つけました」――この恐怖を煽る営業トークの方がミュトスそのものより凄い（笑）。
――AIの技術そのものが凄いというわけではないと。
苫米地 違うよ。人間だってとっくに発⾒しているけど、悪⽤リスクがあるから公開しないだけ。もちろん当時人間が見つけなかった脆弱性もたくさんあるはずだけど、古いOSはネットワークを前提にしていないから、最初からセキュリティなんてスカスカ。穴を見つけてもムダだし、その情報を公開すべきでもない。そもそも、現代のハッキングはAI対AIの戦いで、しかも攻撃側のAIは現在のOSを叩くだけでなく、将来のOSバージョンを予想して先回り攻撃する次元にある。だけどそれは軍の予算による国防機密レベルの研究で、商用LLMに学習させるものではなかったんだよ。
――国家レベルの機密情報なのですね。
苫米地 当たり前だよ。莫大な軍事予算があってこその研究なんだから。ところがミュトスはその成果をどういうわけか手に入れ、あろうことか商用LLMに学習させてしまった。プロから見れば「何をやってるんだ、アンソロピックは！」だよ。生成AIに食わせれば、人間が見つけられなかった穴を100万倍の速度で見つける。でもそれは世界のサイバー空間の均衡を崩すから「やってはいけないこと」だった。つまりプロの倫理観の完全な欠如。それがまず問題。
――確かにミュトス公開で既存のシステムへの信頼が一気に落ちました。しかし、公開された以上、対処するしかないのでは。
苫米地 もちろん対処すべきだよ。しかし、その方法は「ミュトスの導入」ではない。ミュトスは基本的に「攻撃型」のLLM。それを導入するのは、泥棒を招き入れて「ウチのどこが脆弱か教えて？ 参考に防衛策を作るから」と頼むようなもの。本当に大丈夫なの？