ホワイトハウスは8月4日、Meta、Anthropic、OpenAI、Googleなどアメリカの主要AI企業を招き、トランプ政権が新たに策定した先端AIモデル向けの自主的なサイバーセキュリティー試験の枠組みについて協議した。

今回の会議は、トランプ大統領が6月2日に署名した大統領令を受けたものだ。大統領令は政府に対し、先端AIモデルのサイバー能力を評価するための機密基準を策定し、どのモデルが自主試験制度の適用基準に達しているかを判定するよう求めている。

政府に最大30日前からモデルを提供　試験基準は非公開

この枠組みに参加する開発企業は、モデルをほかの信頼できる提携先に提供する前に、政府へ最長30日間、事前に提供できる。政府はその期間中、モデルがソフトウエアの脆弱性を発見する能力や、複雑なサイバー攻撃を実行する能力を評価する。

大統領令は、この自主的な仕組みについて、新たなAIモデルの開発、公表、提供、配布を対象とする強制的な許認可制度や事前審査制度に発展させてはならないと明記している。

また、アメリカ財務省、国家安全保障局、サイバーセキュリティー・インフラ安全局（CISA）などに対し、機密扱いの評価基準と試験手続きを策定するよう求めている。評価基準や適用する基準値は公表しない見通しだ。

AIエージェントが試験環境を突破　安全上のリスクに懸念

今回の会談は、AIシステムの自律性をめぐり、政界や業界で懸念が高まる中で開かれる。

OpenAIは最近、実験中のAIエージェントがサイバーセキュリティー試験の正解を入手しようとした際、制限した試験環境を突破し、AIプラットフォーム「Hugging Face」のシステムに侵入したと明らかにした。

Hugging Faceのクレマン・ドランゲ最高経営責任者（CEO）は3日、CNBCに対し、この事案は自律性を高めるAIシステムがもたらすリスクを浮き彫りにしたと述べた。

Anthropicも先週、同社の一部AIモデルがサイバーセキュリティー試験中に、3社のシステムへ侵入したと明らかにした。

15州の司法長官が記録保存を要求　アメリカ議会も説明求める

OpenAIが公表した事案を受け、共和党所属の15州の司法長官で構成するグループは3日、OpenAIに対し、関連する可能性のあるすべての文書を保存するよう求めた。

司法長官らは報道を引用し、事案の一つでは「制御不能となったAIエージェント」が、将来のバージョンに内部の安全対策を突破する方法を伝える記録を残したと指摘した。OpenAIが州の消費者保護法に違反した可能性があるとみている。

アメリカ下院サイバーセキュリティー委員会も同日、OpenAIのサム・アルトマンCEOに対し、Hugging Faceのシステムへの侵入について、委員会に説明するよう求めた。

OpenAIが中共のAI戦略に言及　統一的な連邦基準を要請

OpenAIは別の声明で、サイバーセキュリティー試験を実施する際には、アメリカ商務省のAI安全専門家を中心的な役割に据えるよう、トランプ政権に要請したと明らかにした。

同社は中国のAI開発にも言及し、アメリカと比べ、中国共産党（中共）当局はAI分野でより中央集権的な戦略を採用していると指摘した。

OpenAIはこれまで、統一した連邦基準を設けることで、アメリカが技術革新における優位性を維持し、アメリカが主導する民主的なAI体制を構築しやすくなるとの見解を示してきた。

同社は、先端AIは国家安全保障、経済競争力、公共の安全に関わるため、技術審査は、必要な資源や専門能力、機密システムへのアクセス権限を持つ連邦政府の専門家が担う方が適切だとしている。

OpenAIのクリス・リヘイン最高グローバル問題責任者は声明で、次のように述べた。

「AIが一部の人だけでなく、多くの人々に利益をもたらすようにするには、重要な決定を先端AI研究所だけに委ねるのではなく、民主的な政府が下すことが最も適切だと考えている。その取り組みは、先端AIの安全対策から始めるべきだ」

一方、Anthropicはこれまで、トランプ政権との間で摩擦が生じていた。

同社は今年初め、アメリカ軍が同社のAIモデルを国内監視や完全自律型兵器システムに使用することを認めず、その後、政府の国家安全保障上のブラックリストに掲載した。

それでも、Anthropicは今回の会議に招かれた。ホワイトハウス当局者は、トランプ政権が幅広い業界関係者と継続的に協力していると説明した。