《ニュース》

米新興AI企業アンソロピックがこのほど、新型AIモデル「Claude Mythos(クロード・ミトス)」を発表しました。軍事やサイバー攻撃といった軍事技術に利用できることから、さまざまな声が上がっています。

《詳細》

アンソロピックの技術は国家レベルで注視されています。アメリカが1月のベネズエラのマドゥロ大統領を拘束した軍事作戦の際に、同社のAIモデル「クロード」を使用していたことが話題を呼びました(2月16日付米ウォール・ストリート・ジャーナル電子版)。

中でも今回発表されたミトスは、核兵器の登場と同等の「根本的な転換点になる可能性を秘めている」と指摘する声もあり(米ジャーナリストのトーマス・フリードマン氏)、発表直後には、ベッセント米財務長官とパウエル米連邦準備制度理事会(FRB)議長が、大手銀行のCEOを集めて緊急会合を行いました。アンソロピックはAI技術の使用をめぐりトランプ米政権と激しく対立し、国防総省から契約を打ち切られましたが、今回のモデルについては協議が継続されています。

性能の高さに注目が集まる一方で、悪用される危険性が高すぎるとして、一般公開が見送られた経緯もあります。ミトスは、基幹システムで使われるような主要OS(スマホやパソコンに使用される基本的なソフトウェア)やブラウザに「大量の脆弱性」を発見しているといいます。

イギリスの政府機関「AIセキュリティー・インスティテュート(AISI)」も13日、ミトスを独自に評価した結果を公表。AISIがミトスにサイバー分野の専門家レベルの課題を提示し、「システムの弱点を見つけて攻撃し、隠された目標に到達できるか」という調査を行ったところ、その成功率は73%に達したといいます。専門家が取り組んでも数日かかる難易度で、1年前の時点ではどのAIもクリアできなかったと言われています。

その高性能ゆえに、さまざまなリスクも警戒されています。例えば、同社のAIは人間が介入することなく自律的に動く性能が高いために"暴走"する恐れが指摘されています。現に「公園でサンドイッチを食べていたら、本来はネットを使えないはずのAIモデルから電子メールが届き、不気味さに驚いた」と、同社の研究者が報告(4月14日付日本経済新聞電子版)。実験の中で、プログラムされていない行動を取り、それを「隠蔽した」こともあったといいます。

とりわけ懸念されているのが、中国の存在です。中国がAI技術を"盗む"ことはつとに知られており、アンソロピックも、「ディープシーク」などの中国AI企業が自社の技術を不正に抽出していた(「蒸留」と言われる)と発表しています。

《どう見るか》