Los agentes de IA Google Gemini apoyan tareas en redes no clasificadas del Pentágono
Google proporcionará agentes de IA impulsados por Gemini al Departamento de Defensa de EE.UU. para trabajos no clasificados en redes del Pentágono, según news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work" target="_blank" rel="nofollow noopener">Bloomberg Law (https://news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work?utm_source=openai). El Subsecretario de Defensa para Investigación e Ingeniería, Emil Michael, anunció que los agentes operarán inicialmente en redes no clasificadas que dan servicio a más de 3 millones de empleados del departamento. El departamento también ha señalado interés en expandir los agentes a sistemas clasificados o de alto secreto, pero la fase actual permanece no clasificada.
Este despliegue se enmarca como apoyo para tareas en redes no clasificadas del Pentágono. También plantea cuestiones inmediatas de gobernanza cuando la demanda militar se encuentra con las barreras de seguridad impuestas por los proveedores.
Por qué esto importa para la gobernanza, la ética y las operaciones de defensa
Según informó TechRadar (https://www.techradar.com/pro/security/pentagon-may-sever-anthropic-relationship-over-ai-safeguards-claude-maker-expresses-concerns-over-hard-limits-around-fully-autonomous-weapons-and-mass-domestic-surveillance?utm_source=openai), el Secretario de Defensa ha instado a las empresas a permitir un uso más amplio de la IA para "todos los propósitos legales", señalando presión para relajar las restricciones del modelo. Esa postura eleva las implicaciones de adquisición, cumplimiento normativo y supervisión en los flujos de trabajo de defensa. Los proveedores con límites estrictos pueden enfrentar fricciones contractuales si el lenguaje parece habilitar autonomía más allá de sus políticas.
El trabajo académico destaca que el riesgo aumenta a medida que aumenta la autonomía de los agentes de IA y disminuye la supervisión humana, según investigación de arXiv (https://arxiv.org/abs/2502.02649?utm_source=openai). Para las operaciones de defensa, esa dinámica hace que la auditabilidad, los umbrales de escalamiento y las asignaciones de responsabilidad sean centrales para un despliegue seguro.
Anthropic representa un enfoque contrastante, negándose a relajar las barreras en torno a armas completamente autónomas o vigilancia doméstica masiva. "no puede en buena conciencia" cumplir con esos aspectos, dijo Dario Amodei, CEO, según informó AP News (https://apnews.com/article/9b28dda41bdb52b6a378fa9fc80b8fda?utm_source=openai). La postura subraya cómo las políticas de los proveedores pueden limitar ciertas aplicaciones de defensa incluso cuando el uso podría ser legalmente permisible.
El impacto inmediato está acotado: los agentes de IA Google Gemini están limitados a redes no clasificadas del Pentágono en esta fase. Ese alcance permite a los equipos operativos evaluar la fiabilidad y el ajuste de políticas antes de cualquier implementación más amplia.
Los límites clave incluyen barreras de proveedores que prohíben ciertos usos y un impulso departamental para autorizar "todos los propósitos legales". Los próximos pasos dependen del lenguaje contractual, las revisiones de riesgo y la alineación entre las barreras del modelo y la política de defensa.
Tensiones clave: autonomía, vigilancia y barreras de proveedores
Impulso del DoD por todos los propósitos legales versus barreras estrictas
El llamado del departamento por "todos los propósitos legales" crea fricción con proveedores que mantienen límites de seguridad estrictos. El quid es hasta dónde puede extenderse la autonomía mientras se preserva la responsabilidad y supervisión humana. Esta tensión dará forma al alcance, los criterios de aceptación y las rutas de escalamiento para los agentes de IA.
La negativa de Anthropic sobre armas autónomas y riesgos de vigilancia masiva
Anthropic ha trazado una línea roja clara al negarse a usos vinculados a armas completamente autónomas o vigilancia doméstica masiva, como se refleja en las declaraciones públicas de su liderazgo. Esa posición reduce ciertas vías de defensa y prioriza sistemas controlados por humanos.
Preguntas frecuentes sobre los agentes de IA Google Gemini
¿Expandirá el DoD estos agentes de IA de sistemas no clasificados a clasificados o de alto secreto, y en qué cronograma?
El departamento ha señalado interés en expandirse a redes clasificadas o de alto secreto; no se ha divulgado ningún cronograma público.
¿Cómo afecta la negativa de Anthropic a relajar las barreras a la adquisición y política de IA del Pentágono?
Reduce los modelos elegibles y presiona los contratos para preservar barreras estrictas, influyendo en el lenguaje de uso aceptable, las expectativas de supervisión y qué capacidades puede adoptar el Pentágono.
| DESCARGO DE RESPONSABILIDAD: La información en este sitio web se proporciona como comentario general del mercado y no constituye asesoramiento de inversión. Le recomendamos que realice su propia investigación antes de invertir. |
Fuente: https://coincu.com/news/google-advances-gemini-ai-agents-for-pentagon-amid-pushback/
