契約か　良心か　アンソロピックが引いた一線の意味

2026年2月19日、ニューデリーで開催された「AIインパクト・サミット」にて、アンソロピックのCEOダリオ・アモデイ氏が講演を行った(Photo by Ludovic MARIN / AFP via Getty Images)

2026/03/19

更新: 2026/03/19

アンソロピックは良心を守るために倫理的な一線を明確に示し、その決断はテック業界全体に波紋を広げた。

OpenAIのロボット工学・ハードウェア部門責任者であるケイトリン・カリノウスキー氏は7日、同社の国防総省との契約を巡り辞任した。彼女は司法の監視なしで米国民を監視することや、AIが人間の最終判断なしに標的選定から殺傷までを自動で行うといった点は「これまで以上に慎重な検討が必要だった」と述べた。

彼女の退任に先立ち、マイクロソフト、グーグル、アマゾン・ウェブ・サービス（AWS）企業が個人ユーザーがClaudeにアクセスするプラットフォームはそれぞれ独立して慎重な法的声明を発表していた。

国防総省がアンソロピックに対して行ったサプライチェーンリスク指定は連邦政府契約にのみ適用され、非防衛ワークロードの民間用途における自社プラットフォーム経由のアクセスには影響しないとユーザーに伝えた。

ファーウェイや中国軍関連企業にも適用された同様の措置が国内企業に対して初めて用いられた。その影響範囲はアンソロピックの連邦契約をはるかに超え、経済全体にわたる請負業者、下請け業者、企業顧客との関係を脅かしている。6か月の段階的終了期間中、国防総省の全契約業者はワークフローでClaudeを使用していないことを証明する必要があった。

引き金は、カリノウスキー氏が辞任で指摘したのと同じ二つのラインをアンソロピックが越えることを拒否したことだった。政府の答えは、最も強力な規制兵器だった。数日後、米軍はイランでの実戦作戦中にClaudeを使用、空爆中の情報評価と戦闘シミュレーションを実行した。

3月9日、アンソロピックは憲法上および法令上の根拠に基づき指定に異議を唱えるため、連邦訴訟を2件提起した。1件はカリフォルニア北部地区連邦地方裁判所、もう1件はワシントンD.C.巡回控訴裁判所へ。最新の辞任とプラットフォーム声明が示す通り、この問題は未解決のままである。

最終的にこの対立には大きな疑問があり、それは企業の良心は社会にとって負担なのかそれとも社会の役に立っているのかが問題である。

「合法」だけでは通用しない

アンソロピックとアメリカ国防総省（ペンタゴン）の対立は、違法かどうかの問題ではなかった。

政府の要求は法律に違反していなかった。しかしアンソロピックが引いた二つの「越えてはいけない線」は、法律ではなく倫理（モラル）の問題である。

一つ目は国内監視の問題である。

位置情報の履歴、購入記録、閲覧履歴、SNSでの人間関係などは、すべて民間のデータ仲介業者から合法的に購入できる。そしてAIは、それらをまとめて分析するうえで最後に残っていた現実的な制約、つまり、時間・コスト・人手 -を取り除いた。

かつては、国民全体を監視するには膨大な費用がかかり、実際には困難だった。
20世紀には、国民の移動や交友関係、行動を体系的に監視するには全体主義国家の巨大な装置が必要だった。しかし今では、それが契約と高性能AIモデルだけで可能になりつつある。アンソロピックが拒否したのは、次のような現実を認識していたからだ。自由を左右するのは、法律が何を許すかよりも、国家が実際に何をできてしまうかである。

もし技術の進歩によって国家の能力が一気に拡大すれば、以前の技術環境を前提に作られた法律だけでは、本来守るべき自由を十分に守れなくなる。

二つ目は自律兵器への懸念だった。

これは、人間の判断を介さずにAIが標的を特定し、殺害する兵器である。ここで問題になっているのは手続きではない。人間の命を奪う決定をアルゴリズムに任せてしまうと、これまで致死力の使用を抑えてきた唯一の歯止め、つまり人間の判断、人間の躊躇、そして人間の責任が失われてしまう。兵士が発砲する場合、その行為には指揮系統、法律、そして最終的には個人の良心が関わる。

しかし自律システムが従うのは、訓練データと設定された目的関数だけである。こうしたシステムが大規模に配備されれば、戦争のやり方が変わるだけではない。戦争を始めるハードルそのものや、誰も責任を問われないまま暴力が広がる規模まで変えてしまう可能性がある。

アンソロピックの立場は明確だった。たとえ合法であっても、このような能力を開発することは、どんな商業的利益でも正当化できない一線を越える行為である。一方、国防総省の立場はシンプルだった。「合法であれば問題ない」というものだ。

しかし、法律が許していることと、その結果として何が起こるかの間には大きな隔たりがある。そしてまさにその問題こそが、アンソロピックが「契約だからといって正当化する」ことを拒んだ核心だったのである。

決裂

この対立は3月に突然始まったわけではない。

1月3日、アメリカ軍はベネズエラでのマドゥロ拘束作戦で Claude を使用していた。これは、アンソロピックとパランティア・テクノロジーズ社の提携を通じて、ペンタゴンの機密ネットワーク上で運用されていたものだった。

ベネズエラ作戦でClaudeが使われていたという報道が出ると、その運用がどのように行われたのかをめぐる調査が始まった。

関係者によれば、この調査がアンソロピックと国防総省の関係を決定的に悪化させたという。政権高官の一人はニュースサイト Axios に対し、国防総省はこの提携を見直すと述べた。

「現場の兵士の作戦成功を危険にさらす企業とは、関係を再検討する必要がある」

アンソロピック側の調査では、ベネズエラ作戦でのClaudeの使用にポリシー違反は見つからなかった。しかしペンタゴンの反応では、問題になったのは使用そのものではなく「それについて質問したこと」だった。数週間後、イラン攻撃が始まると、軍は再びClaudeを使用した。

つまり、政府が正式には契約できない製品が、実際には作戦に不可欠なツールになっていたのである。

経緯

対立は3月に始まったわけではない。1月3日、米軍はベネズエラでのマドゥロ大統領拘束作戦において「Claude」を使用した。これはアンソロピックとパランティア・テクノロジーズの提携を通じ、国防総省の機密ネットワークに展開されたものだ。

ベネズエラ作戦でClaudeが使用されたとの報道を受け、その展開経緯に関する調査が実施された。これが情報筋が「国防総省との関係断絶」と表現する事態を引き起こした。政府高官はAxiosに対し、国防総省が提携関係を見直す意向を明かした。」

「戦場で戦う兵士の作戦成功を危うくするような企業は、我々が再評価すべき対象だ」

アンソロピック社はベネズエラでの運用に政策違反は認められなかった。問題となったのは、誰が質問したかにかかわらず、疑問を呈した行為そのものだった。

数週間後にイラン攻撃が発生した際、軍は再びClaudeを使用した。政府が契約を結べなかった製品は、依然として必要不可欠な製品であり続けた。

多くの企業が取る道

同じ状況に対するOpenAIの対応は示唆に富む。それは皮肉な対応だったからではなく、商業的存続と倫理的制約の間の緊張関係を、ほとんどの組織がどのように乗り切るかを示している。

アンソロピックが指定されて数時間後、OpenAIは国防総省との契約を発表した。OpenAi最高経営責任者サム・アルトマン氏は自社が同等のレッドラインを保持すると表明した。翌週までに、そのラインは移動していた。アルトマン氏は契約が「明らかに急ぎすぎ」で「機会主義的でずさんに見える」と認めた。OpenAIは再交渉し、当初の合意にはなかった国内監視禁止条項を追加した。

その後、モルガン・スタンレー・テクノロジー・カンファレンスでアルトマン氏はより鋭い立場を取り、企業が民主的プロセスへの関与を放棄することは「社会にとって悪い」と主張し「政府は民間企業よりも強力な存在であるべきだ」と結論付けた。機関投資家から成る聴衆は明らかに異論を唱えなかった。

この主張に論理的根拠がないわけではない。民主主義政府は確かに国民から権威を導き、形式的には民間組織より上位にある。しかしアルトマン氏が述べた原則には限定条件が欠けている。政府が誤りを犯したり、権力に支配されたり、市民の意図を超えた行動を取った場合の対応が全く考慮されていないのだ。

市民的徳目として提示されるコンプライアンスは、その言葉で装われたビジネス戦略になり得る。

グーグルはかつて「悪を為すな」という三語の基準を企業文化の核とした。このフレーズは最終的に行動規範から削除された。公表された方針変更ではなく、静かな改訂によって。説明は一切なされなかった。削除が気づかれたのは、主に後になってからだった。

大企業にとって楽な立場とは、良心の重荷を国家に委ね、コンプライアンスに専念することだ。これは一貫した戦略である。歴史的に見ても、国家権力の境界が拡大する傾向にあるのは、政府単独の決定によるのではなく、政府に奉仕する機関の積み重ねられた決定を通じてである。

しかし良心は、自由社会において歴史的に別の役割を果たしてきた。技術がもたらす可能性に法律が追いついていない時、良心が最初の防波堤になることが多い。

市場の記録

市場の反応は、企業の良心が必ずしも商業的なビジネス的なペナルティを伴うわけではないことを示唆した。

Claudeは2月28日にApple App Storeで1位、3月3日にGoogle Playで1位を獲得した。無料ユーザーは1月以降60％以上増加。日次新規登録は11月以降3倍に。指定後の土曜日にChatGPTのアンインストールは295％増加。Claudeのサーバーはアクセス集中でダウンした。

制度的対応も同様に示唆的だった。主要クラウド企業3社はそれぞれ独自に内容を精査し、同一の法的結論に達した。つまりサプライチェーンリスク指定は企業顧客には適用されない。これまでこうした強い規制は主に外国の敵対勢力に対して使われてきたが、今回はアメリカ企業に適用された。しかし、その企業を支えるクラウドなどのインフラ側は、依然として通常の企業として扱い続けた。

政府を信頼する習慣について

アメリカの憲法は、政府が規制権限を無制限に行使する場合とは根本的に異なる保護を提供している。この差異は極めて重要であり、すべての社会が失うものとして認識しているわけではないからこそ、守る価値がある。

2020年10月、アリババ創業者のジャック・マー氏は上海の金融会議で演説し、中国共産党（中共）政府の金融規制当局の保守的な姿勢を批判した。数日後、中共当局はアント・グループ（馬氏のフィンテック子会社）の新規株式公開（IPO）を中止した。時価総額370億ドルと世界最大規模となるはずだった上場は、予告なく阻止された。その後アリババは27億5千万ドルの独占禁止法違反罰金を科され、数年間で数百億ドルの時価総額を失った。この仕組みは規制によるものであり、引き金はスピーチだった。

中共政府とは異なり、アメリカのシステムは自己修正のために構築されている。アメリカの裁判所は独立性を保ち、その指定は争われてきた。国民とクラウドプラットフォーム企業は協力拒否の自由を有する。

ジョン・アクトンは1887年のクレイトン司教への書簡で根本的問題を指摘した。「権力は腐敗する傾向があり、絶対的権力は絶対的に腐敗する」

アクトン卿の主張は単純だが不朽である。権力を持つ者も他者と同様の道徳的制約に応えることが求められる時のみ、制度は健全に保たれる。

実践的な意味合いは、政府が悪意を持つというのではなく、アクトン卿が歴史家たちが誤って教皇や王に与えてきたと論じた善意の推定を政府に拡大すべきではないということだ。米国の憲法体制は、このような懐疑を制度として取り込んできた。すなわち、三権分立や権利章典、そして独立した司法である。

良心を完全に国家に委ねる社会、民間機関が「ノー」と言い、その代償を耐えられる範囲で支払う能力を保持しない社会は、合理化したからといって強靭な社会ではない。むしろ脆い社会である。

政府が一般に民間企業より強力であるというアルトマンの指摘は正しい。しかしこの観察が解決しないのは、政府がそれらの企業との取引において良心の唯一の守護者であるべきかどうかだ。この問いに対し、アメリカの伝統は常に異なる答えを示してきた。