日本を含む民主主義国家は、セキュリティの脆弱性を検証する「レッドチーム」を設置するなどして、中国が開発したAI製品やソフトウェアに対抗する必要があるーー。オーストラリア戦略政策研究所（ASPI）は中国共産党（中共）によるスパイ活動などを念頭に、同国が開発したAIに対して警鐘を鳴らす報告書を発表した。

ASPIのシメオン・ギルディング氏が発表した報告書「De-Risking Authoritarian AI（仮邦訳：独裁的なAIのリスク軽減）」は、「AIを活用した産業製品や消費者向けサービスを通じて、外国（政府）による遠隔での大規模な干渉、スパイ活動、破壊工作が行われる」可能性があると警告した。

ギルディング氏は報告書のなかで「民主主義とルールに基づく国際秩序を乱す中共は、人権を犠牲にして自国の政治的・社会的安定を強化するために日常的にAIを利用している」と指摘。

「AIを警戒するのであれば、こうした国から提供されるAIを活用した製品やサービスについては、さらに慎重になるべきだ」と付け加えた。

「AIシステムは、私たちの家庭や職場、重要なサービスに組み込まれている。そのため、私たちはますますAIが指示する通りに動き、あたかもAIが私たちに寄り添って秘密を守ってくれると信頼するようになっている」

AIは各国を中国共産党の干渉にさらす

しかし、SiriやAlexaのような一般的なバーチャルアシスタント、あるいは顧客サービスのチャットボットなどの製品は、各国を中国共産党からの干渉に晒すことになる。

ギルディング氏は、各国政府は中国から輸出される3種類のAI技術を深く調査すべきだと主張する。1つ目は、監視やデータ搾取につながる可能性のあるインフラを含む製品とサービスを挙げた。

2つ目は外国からの干渉を許す可能性のある中国動画投稿アプリ「TikTok」のようなAI対応技術、3つ目は大規模な言語AIシステムとした。

その中でもギルディング氏はTikTokが最も米国に浸透した干渉AI技術だと述べた。

「このアプリは中国政府機関によるアクセスが可能なため、軍や政府関係者、ジャーナリストは使用を禁止すべきだ」

また、中国製のカメラやドローンのほか、港湾クレーンもスパイツールとして利用される可能性があると指摘。遠隔操作によりサプライチェーンを麻痺させることができれば「（各国は）壊滅的な打撃を受けるだろう」と危機感をあらわにした。

脅威に対抗する「レッドチーム」が必要

報告書は、民主主義国家は、中国から出現するすべてのAI技術を特定して、トリアージ（優先順位付け）をし、管理する3段階の枠組みを導入する必要があると主張している。

そのプロセスの鍵となるのが、情報機関や防衛分野から集められたサイバー専門家で構成される政府運営の「レッドチーム」を設立することだ。

「レッドチーム」とは、サイバーセキュリティの専門家からなるグループの俗称で、サイバー攻撃者の実際の攻撃や戦術を企業などに模擬的に仕掛けて、セキュリティの状況を調査する権限を与えられている。

報告書は「レッドチーム」における日本の重要性にも言及した。英語圏5か国のファイブ・アイズでレッドチームを設置した後、クアッド加盟国である日本とインドにも拡大する必要があると指摘。「地理的条件からして、両国は中国の技術のリスクを理解する上で特に強い動機を持っている」と述べた。

さらに最終段階として、各国はネットワークの一部で中国のAI対応技術を禁止する規制措置を講じる必要があるとした。