《ニュース》

米人工知能(AI)開発企業アンソロピックが10日、脅威レポートを公開し、中国が同社のAIモデル「クロード」を悪用している詳細な情報が判明し、話題を呼んでいます。

《詳細》

アンソロピックの報告書によると、中国のAI企業ムーンショットAIが開発した「Kimi」では、例えば10日間で約30万件の利用者のリクエストがアンソロピックに転用され、クロードで処理されていたといいます。つまり、利用者はKimiを使ったにもかかわらず、実際にはクロードの回答を受け取っていました。

その中で、人民解放軍と関係しているとみられるユーザーが、軍の施設などを含む成都市内に設置された監視カメラで、人々が異常な行動をとっているかどうかをKimiに分析させました。しかし、その情報がクロード側にも送信されていたのです。

また、アリババやムーンショット、ディープシークといった中国勢が、不正につくられた大量のアカウントなどを通してクロードにアクセスし、その出力を自社のAIモデルの訓練に利用する、いわゆる「蒸留」を行っていたことも判明しました。先行モデルを蒸留することで、開発時間の短縮とコストの削減が図れるため、米政府は、知的財産権の保護や安全保障の観点から、これを強く問題視。9月24日に控える米中首脳会談でも、最上位の議題に上がるとみられています。

そのほかにもアンソロピックによれば、人民解放軍軍事科学院と関連するとみられるユーザーが、標的のランク付けやレーダー妨害のシミュレーションを行う電子戦・防空網制圧用のソフトウェアを開発し、そのプロセスで台湾国内の12カ所を標的に入れました。また別の組織が、中国海軍向けの対魚雷システムの仕様や射撃管制ソフトウェアの開発にクロードを使用した模様です。

中国が米AIをさまざまな手法で悪用し、さらには中国AIの実態の一部も判明し、大きな話題となっています。

《どう見るか》