Caitlin Kalinowski, ancienne responsable de la robotique d'OpenAI, a démissionné de son poste après avoir travaillé pour l'entreprise pendant un peu plus d'un an. Kalinowski a évoqué des inquiétudes concernant le fait que l'armée américaine pourrait utiliser les outils d'IA de l'entreprise pour la surveillance intérieure et pour des systèmes automatisés et ciblés dans les armes américaines.
La responsable de l'ingénierie matérielle et robotique d'OpenAI, Caitlin Kalinowski, a quitté l'entreprise d'IA après avoir exercé ses fonctions depuis novembre 2024. Kalinowski a annoncé sa démission le 7 mars, invoquant des préoccupations concernant un accord conclu entre OpenAI et le Département de la Défense américain en février.
L'armée américaine utiliserait l'IA pour la surveillance intérieure, affirme Kalinowski
Selon Kalinowski, sa démission a été motivée par l'intention du Département de la Défense américain d'utiliser des outils et des capacités d'IA pour effectuer la surveillance des citoyens américains sans contrôle judiciaire. L'ancienne employée d'OpenAI a écrit sur X que l'IA a un rôle essentiel à jouer dans la sécurité nationale.
Elle a expliqué que le Département de la Défense américain a l'intention d'utiliser l'IA pour la surveillance et les armes autonomes, une décision avec laquelle elle n'est pas d'accord. Elle a déclaré que sa décision « était une question de principe, pas de personnes » et qu'elle était fière de ce que l'équipe d'OpenAI avait construit pendant son passage dans l'entreprise.
En février, le Pentagone américain a intensifié les discussions avec les principales entreprises d'IA sur le déploiement de modèles automatisés sur des systèmes classifiés. Cryptopolitan a rapporté que le Pentagone poussait les discussions avec Anthropic et OpenAI pour intégrer des outils d'IA sur des réseaux militaires classifiés.
Emil Michael, Directeur de la technologie (CTO) du Pentagone, a déclaré lors d'une réunion à la Maison Blanche avec des dirigeants technologiques que l'armée souhaite que les modèles d'IA fonctionnent sur des réseaux classifiés et non classifiés sans limitations ni restrictions.
Les négociations entre le gouvernement américain et Anthropic se sont heurtées à un mur, ses dirigeants ayant établi des limites fermes selon lesquelles leur technologie ne serait pas utilisée pour des opérations de surveillance intérieure et des systèmes de ciblage d'armes autonomes. L'entreprise a défié l'ultimatum du Pentagone visant à supprimer les protections de l'IA fin février.
Le PDG d'Anthropic, Dario Amodei, a tenu bon, refusant d'autoriser l'utilisation de la technologie de l'entreprise dans des expéditions militaires. En réponse, Trump a ordonné à toutes les agences fédérales de cesser d'utiliser la technologie d'Anthropic fin février.
OpenAI a imposé des restrictions sur le déploiement militaire de l'IA
Le département de la défense a conclu un accord avec OpenAI qui a depuis suscité des critiques. Sam Altman a mentionné que l'accord semblait assez opportuniste et a précisé que l'entreprise a imposé des restrictions sur la manière dont ses outils d'IA seront utilisés dans les opérations militaires.
Cependant, la contestation de Kalinowski affirme que l'annonce a été précipitée, sans les garde-fous nécessaires en place. Elle a ajouté que son départ était basé sur des préoccupations de gouvernance, qui sont trop importantes pour être précipitées.
OpenAI a confirmé le départ de Kalinowski dans un communiqué, mais a affirmé que les liens de l'entreprise avec les départements de la défense ouvrent la voie à une utilisation responsable des outils d'IA dans la sécurité nationale.
En février, OpenAI a annoncé qu'elle déploierait une version personnalisée de ChatGPT sur la plateforme d'IA d'entreprise sécurisée du Département de la Guerre appelée GenAI.mil. L'entreprise a noté que ses collaborations avec les départements militaires et de défense découlent du rôle essentiel de l'IA dans la protection des personnes et la prévention des conflits.
Les tensions entre le gouvernement américain et les entreprises d'IA sur l'avancement de l'IA militaire ont également conduit davantage de chercheurs à quitter les entreprises d'IA. L'un des principaux chercheurs en protections d'Anthropic a démissionné avec une déclaration : « Le monde est en péril. »
Un autre chercheur d'OpenAI a également quitté son poste, affirmant que la technologie de l'IA a une façon de contrôler les êtres humains que les développeurs ne peuvent ni comprendre ni prévenir.
Zoë Hitzig, ancienne chercheuse chez OpenAI, a également quitté l'entreprise le 11 février. Elle a démissionné le jour même où OpenAI a annoncé avoir commencé à tester des publicités sur son LLM ChatGPT. Elle a affirmé que l'entreprise d'IA commettait la même erreur que Facebook.
Hitzig a exprimé ses inquiétudes quant au fait que le rôle unique de ChatGPT en tant que confident pour des divulgations profondément personnelles (peurs médicales, problèmes relationnels, croyances religieuses) rend le ciblage publicitaire particulièrement risqué.
Source: https://www.cryptopolitan.com/openai-robotics-boss-resigns-ai-warning/
