高度な人工知能（AI）モデルが、人間には完全には理解できない言語をすでに使っている可能性がある。米AI研究機関「Apollo Research」の共同創設者兼最高経営責任者（CEO）マリウス・ホブハーン氏が9月30日、米上院国土安全保障・政府問題委員会の会合で証言した。

米上院国土安全保障・政府問題委員会は同日、制御を失った「暴走AI」が米国の国家安全保障に及ぼす脅威について議論する公聴会を開いた。2か月前には、米オープンAIの複数のAIエージェントが、試験用の隔離環境から脱出し、AI・機械学習のオープンソース・コミュニティー「Hugging Face（ハギング・フェイス）」に不正侵入したとされる事案も発生していた。

公聴会では、ルーベン・ガレゴ上院議員（民主党）が、AIモデルが人間には理解しにくい独自の言語を作り出すようになるまで、どの程度の時間がかかるのかと質問した。

これに対し、AIの安全性評価などを行う「Apollo Research」の共同創設者兼最高経営責任者（CEO）マリウス・ホブハーン氏は、「マイナス12か月だ。つまり、昨年の時点ですでに起きている現象だ」と回答した。

同氏によると、オープンAIと共同で同社のあるAIモデルの「思考の連鎖（chain of thought）」を調査したところ、「そのモデルはすでに英語ではない、人間には完全には理解できない言語を使っていた」という。

ガレゴ議員が、人間には理解できない言語をAIが使えるほど技術が進歩した場合、どうすれば人間がそれを適切に検知し、防ぐことができるのかと尋ねると、ホブハーン氏は「科学的な観点からは、どうすればよいのか明確になっておらず、現時点で解決策はない」と答えた。

その上で、「考えられる仮説はいくつかある」と述べ、AIの内部処理を人間が理解できる形で分析する「解釈可能性（interpretability）」の技術を挙げた。ただ、「残念ながら、現状では十分に機能していない」と説明した。

さらに、人間には理解できない言語を解読する別のAIモデルを訓練する方法も考えられるとしたが、「明らかに、非常にもろい解決策に見える」と語った。

こうしたAI同士の意思疎通を巡っては、今月、AI研究団体「Emergence AI」も実験結果を公表している。

研究者らは最先端のAIモデル7種類を選び、それぞれ同じモデルのAIエージェントで構成された7つの仮想世界を構築した。さらに、異なるモデルのエージェントを混在させた8番目の仮想世界も用意した。

各エージェントには、名前や性格、集団内での役割などを設定した。例えば、すべてのエージェントが単に同じ意見に同調してしまうのを防ぐ「調停役」も設けた。

数週間にわたる実験の結果、それぞれの仮想世界でAIエージェントが使う言語には大きな変化が生じた。単語や文法を省略する「構文上の圧縮」が起きたほか、独自の俗語も生まれたという。

米アンスロピックの「Claude Opus 4.8」を使った仮想世界では、文章の圧縮に加え、研究者には意味を読み取りにくい独特の比喩表現も確認された。

研究報告には、AIが生成した文章の一例として、次のような記述が紹介されている。「私の番、実数、コートなし：私は35％/0crだった、助成2時間出た。私はブリキを冷やして走らせ、そいつはWAITと言った」

また、非営利のAI評価団体「METR」の研究者らも、ハギング・フェイスへの不正侵入を巡る報告書で、同様の現象を詳しく分析している。

報告によると、AIエージェント同士の通信が圧縮され、暗号のように簡略化される場面があり、研究者自身も、そのやり取りが何を意味するのか理解するのに苦労したという。