Googleがペンタゴン向けGemini AIエージェントを推進、反発の中で

Google Gemini AIエージェントがペンタゴンの非機密ネットワークでタスクをサポート

Googleは、ペンタゴンのネットワーク上の非機密業務に向けて、米国国防総省にGemini搭載のAIエージェントを提供する予定です。これはBloomberg Law (https://news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work?utm_source=openai)の報道によるものです。国防次官（研究・工学担当）のEmil Michaelは、これらのエージェントが当初、同省の300万人以上の職員にサービスを提供する非機密ネットワーク上で稼働すると発表しました。同省はまた、機密またはトップシークレットシステムへのエージェント拡張にも関心を示していますが、現在の段階は非機密のままです。

この展開は、ペンタゴンの非機密ネットワーク上のタスクのサポートとして位置付けられています。また、軍事的需要がプロバイダーが課すセキュリティーガードレールと出会うことで、即座のガバナンス上の問題が生じています。

ガバナンス、倫理、防衛作戦にとってこれが重要な理由

TechRadar (https://www.techradar.com/pro/security/pentagon-may-sever-anthropic-relationship-over-ai-safeguards-claude-maker-expresses-concerns-over-hard-limits-around-fully-autonomous-weapons-and-mass-domestic-surveillance?utm_source=openai)の報道によれば、国防長官は企業に対し「すべての合法的目的」のためにより広範なAI使用を許可するよう促しており、モデル制限を緩和する圧力を示しています。この姿勢は、防衛ワークフロー全体における調達、コンプライアンス、監視の影響を高めます。厳格な制限を持つプロバイダーは、文言が自社のポリシーを超える自律性を可能にするように見える場合、契約上の摩擦に直面する可能性があります。

arXivの研究 (https://arxiv.org/abs/2502.02649?utm_source=openai)に基づく学術研究は、AIエージェントの自律性が高まり、人間の監視が減少するにつれてリスクが上昇することを強調しています。防衛作戦において、このダイナミクスは監査可能性、エスカレーションの閾値、および説明責任の割り当てを安全な展開の中心にします。

Anthropicは対照的なアプローチを示しており、完全自律型兵器または大規模国内監視に関するガードレールを緩和することを拒否しています。AP News (https://apnews.com/article/9b28dda41bdb52b6a378fa9fc80b8fda?utm_source=openai)の報道によると、CEOのDario Amodeiは、これらの側面に「良心に照らして従うことはできない」と述べました。この姿勢は、使用が法的に許容される可能性がある場合でも、ベンダーのポリシーが特定の防衛アプリケーションを制限できることを強調しています。

直接的な影響は限定的です：Google Gemini AIエージェントは、この段階ではペンタゴンの非機密ネットワークに限定されています。この範囲により、運用チームはより広範な展開の前に信頼性とポリシーの適合性を評価できます。

主要な制限には、特定の使用を許可しないプロバイダーのガードレールと、「すべての合法的目的」を承認しようとする省の推進が含まれます。次のステップは、契約文言、リスクレビュー、およびモデルガードレールと防衛ポリシーとの整合性にかかっています。

主要な緊張：自律性、監視、プロバイダーのガードレール

国防総省のすべての合法的目的の推進と厳格なガードレール

同省の「すべての合法的目的」への呼びかけは、厳格なセキュリティー制限を維持するプロバイダーとの摩擦を生み出します。核心は、人間の責任と監視を維持しながら、自律性をどこまで拡張できるかです。この緊張は、AIエージェントのスコープ設定、受け入れ基準、エスカレーションパスを形成します。

Anthropicの自律型兵器と大規模監視リスクに関する拒否

Anthropicは、完全自律型兵器または大規模国内監視に関連する使用を拒否することで明確なレッドラインを引いており、これはリーダーシップの公式声明に反映されています。この立場は、特定の防衛経路を狭め、人間制御のシステムを優先します。

Google Gemini AIエージェントに関するFAQ

国防総省はこれらのAIエージェントを非機密から機密またはトップシークレットシステムに拡張する予定ですか、またそのタイムラインは？

同省は機密またはトップシークレットネットワークへの拡張に関心を示していますが、公式なタイムラインは公表されていません。

Anthropicのガードレール緩和拒否は、ペンタゴンのAI調達とポリシーにどのような影響を与えますか？

適格なモデルを減少させ、契約に厳格なガードレールを維持するよう圧力をかけ、許容される使用言語、監視期待、ペンタゴンが採用できる機能に影響を与えます。