OpenAIの「変節」をAnthropicが猛批判。軍事利用とAI安全性の相容れない真実

3行要約

• Anthropicのダリオ・アモデイCEOが、OpenAIの軍事提携に関する公式説明を「真っ赤な嘘（straight up lies）」と公然と批判しました。
• AnthropicはAI安全性の基準を維持できないとして国防総省との契約を自ら断念しましたが、その空白にOpenAIが飛び込んだ構図が浮き彫りになっています。
• 開発者にとっては、モデルの「安全性」という言葉が、企業利益や国家戦略によっていかに容易に書き換えられるかを示す象徴的な事件といえます。

何が起きたのか

AI業界に身を置く人間として、今回のTechCrunchの報道は「来るべき時が来た」という感覚と、隠されていた亀裂が完全に表面化した衝撃を同時に感じさせます。事の端緒は、Anthropicが米国国防総省（ペンタゴン）からの巨額なAI活用案件を、自社の安全基準に照らして「ノー」と突きつけたことにあります。彼らは、現在のAI技術を軍事的な意思決定や作戦行動に組み込むことは、壊滅的なリスクを孕むと判断したわけです。

ところが、そのAnthropicが蹴った契約を、ライバルであるOpenAIが「拾い上げた」ことが明らかになりました。さらに憤りを買っているのは、OpenAI側が「我々は安全性を確保した上で、責任ある形で軍事支援を行っている」という主旨のメッセージを発信している点です。これに対し、AnthropicのCEOであるダリオ・アモデイ氏は、その説明は事実を歪曲した「真っ赤な嘘」であると断じたのです。

私がSIerにいた頃も、官公庁や大規模インフラの案件では「安全性」と「納期・予算」の板挟みになることは日常茶飯事でした。しかし、AIにおける安全性は、単なるバグの少なさや稼働率の問題ではありません。モデルが持つ潜在的なバイアスや、予期せぬ推論の暴走が、実際の戦場や国家安全保障に直結する。Anthropicはここを「譲れない線」としたのに対し、OpenAIは軍事利用禁止の条項をこっそり削除し、実利を取りに行きました。

この対立が重要なのは、AI開発における「良心」の定義が、トップ企業の二社間で完全に分かれたことを意味するからです。一方は利益を犠牲にしても技術的リスクを回避しようとし、もう一方は「制御可能である」という建前を盾に、巨大な政府予算市場に食い込もうとしています。この歪みは、今後私たちがAPIを通じて利用するモデルの挙動や、利用規約の変更という形で必ず跳ね返ってきます。

技術的に何が新しいのか

今回の騒動の裏には、Anthropicが提唱する「Constitutional AI（憲法的AI）」と、OpenAIが主導してきた「RLHF（人間によるフィードバックからの強化学習）」の技術的なアプローチの差が色濃く反映されています。

従来のRLHFでは、人間が「この回答は良い」「この回答は悪い」と評価することでモデルを調整します。しかし、軍事利用のような極限状態や、人間でも判断に迷う倫理的グレーゾーンにおいて、この手法は限界があります。評価者のバイアスがそのままモデルに反映されるだけでなく、数百万、数千万もの複雑なシナリオすべてに人間がタグ付けすることは不可能だからです。

これに対し、Anthropicは「Constitutional AI」という手法を採用しています。これは、モデルにあらかじめ「憲法（行動規範）」を与え、AI自身がその規範に基づいて自分の回答を自己批判し、修正していくプロセス（RLAIF: AIによるフィードバックからの強化学習）を含みます。具体的には、以下のようなプロセスで動いています。

1. 教師あり学習段階: 憲法に沿った回答例でモデルを微調整。
2. 自己改善段階: モデルが生成した回答に対し、別のAIが「この回答は憲法第○条に違反していないか？」とチェックし、スコアを付ける。
3. 強化学習段階: そのスコアを元に、さらにモデルを洗練させる。

Anthropicがペンタゴンの契約を断ったのは、この「憲法」の中に「人の殺傷を助長しない」「サイバー攻撃に加担しない」という強力な制約が含まれており、軍事要件を満たそうとすると、この技術的根幹を破壊しなければならなかったからだと推測できます。

一方でOpenAIの現状を見ると、GPT-4o以降、モデルの応答が明らかに「以前よりガードレールが緩くなった」と感じる場面が増えました。以前なら「倫理的に答えられない」と拒否していたプロンプトも、最近は「一般的な知識として」という前置き付きで答える傾向があります。これは、軍事利用や政府機関への導入を容易にするために、意図的にアライメント（調整）の強度を下げている、あるいは条件付きでバイパスできる「裏口」を作っている可能性を示唆しています。

実務者目線で言えば、OpenAIは「使い勝手と市場拡大」のために安全性を動的なパラメータに変えたのに対し、Anthropicは「モデルの人格（憲法）」を固定し、それに合わない仕事は受けないというスタンスを貫いています。これはコードの実装レベルで言えば、ハードコードされた不変のバリデーションルールを維持するか、実行時に外部引数でオフにできるフラグを導入するかという、設計思想の決定的な違いです。

数字で見る競合比較

この数字を見てわかる通り、Anthropicは「安くて高性能」なモデルを提供しながらも、政府・軍事という最大のキャッシュカウ（収益源）を自ら捨てています。対してOpenAIは、1Mトークンあたりの単価こそ高いものの、政府との巨額契約によって開発資金を担保する戦略に舵を切りました。

実務においてこの差がどう出るか。例えば、デュアルユース（軍民両用）技術の開発にAIを使う場合、OpenAIのモデルは「許可」が出る可能性が高いですが、Claudeは「憲法違反」として拒否されるリスクが高いということです。これは開発者にとって、モデルの「安定した挙動」が、企業の政治的立ち位置によって左右されるリスクを考慮しなければならないことを意味します。

開発者が今すぐやるべきこと

私たちは、特定のAIプロバイダーが「永久に中立である」という幻想を捨てるべきです。今回のニュースを受けて、実務者が取るべきアクションは3つあります。

第一に、マルチモデル構成（LLM Agnostic）への完全移行です。特定のモデルが政治的理由や規約変更で使えなくなった際、即座に切り替えられるよう、LangChainやLlamaIndexなどの抽象化レイヤーを使い、APIキーの差し替えだけで運用できる設計を徹底してください。私は既に、本番環境のすべてのエンドポイントを、プロキシを介してモデルを動的に切り替えられる構成に書き換えています。

第二に、自社プロダクト独自の「評価データセット」の構築です。モデルの安全性が「緩く」なったり、逆に「過剰にガード」されたりした際、それに気づくためのベンチマークを自前で持つ必要があります。100問程度の「自社業務に特化したテストケース」を用意し、モデルのバージョンアップや規約変更のたびにスコアを計測する仕組みをCI/CDに組み込んでください。

第三に、ローカルLLM（Llama 3やMistralなど）によるフォールバック体制の検証です。RTX 4090を2枚挿した自作サーバーで検証していると実感しますが、クローズドなモデルの「良心」は運営企業の胸三寸で変わります。万が一、商用LLMが軍事・政治的な制約で特定のトピックに一切答えなくなった時のために、社内データを学習させたローカルモデルを推論できる環境を、最小構成でも良いので確保しておくべきです。

私の見解

私は、Anthropicのダリオ・アモデイ氏の「怒り」を全面的に支持します。AIの安全性を「マーケティング用語」として消費し、裏では戦場での利用に道を開くOpenAIの姿勢は、かつての「Don’t be evil」を捨てた時代の巨大テック企業を彷彿とさせます。

SIer時代、要件定義の段階で「できません」と言った機能を、競合他社が「できます」と嘘をついて受注し、プロジェクトの終盤で大炎上して現場が死屍累々になる場面を何度も見てきました。今のOpenAIがやっていることは、それのグローバル・AI版です。「安全に軍事利用できる」というロジックは、現在のLLMのブラックボックス性を考えれば、技術的に不可能です。ハルシネーション（幻覚）をゼロにできない技術を、生死が関わる戦場に持ち込むことの危うさを、彼らは理解していないはずがありません。

一方で、Anthropicのような「高潔な敗者」が生き残れるほど、AI開発のマネーゲームは甘くないのも事実です。RTX 4090を回して毎日モデルを触っている私からすれば、技術の進歩を止めることはできません。しかし、「誰の意志でこの回答が生成されているのか」を疑う視点だけは、コードを書く手の中に常に持っておきたい。今回の「真っ赤な嘘」という言葉は、私たち開発者への警鐘でもあると私は受け取っています。

よくある質問

Q1: OpenAIの規約変更で、一般ユーザーのChatGPTの使い勝手は変わりますか？

短期的には変わりませんが、長期的には「禁止事項」の解釈が政府・軍の方針に寄る可能性があります。特定の政治的トピックや技術情報の提供が、国家安全保障の名の下に制限、あるいは逆に意図的に誘導されるリスクは否定できません。

Q2: Anthropicが軍事契約を断り続けることで、経営難に陥る可能性はありますか？

あります。軍事予算は桁違いに大きいため、ここを捨てると開発資金の調達でOpenAIに大きく水をあけられます。ただし、その「硬派な姿勢」を評価するエンタープライズ企業（金融や医療など、安全性に極めて厳しい業界）の支持を得ることで、差別化を図る戦略だと思われます。

Q3: 開発者として、どちらのモデルを優先的に採用すべきですか？

「ミッションクリティカルで、かつ透明性が求められる」業務ならAnthropic（Claude）です。「スピード重視で、多少の挙動の変化には柔軟に対応できる」ならOpenAI（GPT）でしょう。ただし、今回の件でOpenAIの「方針転換」のリスクが可視化されたため、一社依存は避けるのが賢明です。

あわせて読みたい

• Anthropicが自ら仕掛けた「責任あるAI」という罠。法的空白が生む開発遅延とガバナンスの限界
• トランプ大統領がAnthropic排除を命令。AI開発者が直面する「憲法AI」と国家安全保障の決裂
• Anthropic vs 国防総省：軍事AIの「憲法」が国家安全保障と激突