OpenAI機器人部門主管辭職,警告國防合約下的AI監控問題

Caitlin Kalinowski,OpenAI 現已離任的機器人主管,在為公司工作一年多後辭去了職務。Kalinowski 提出擔憂,認為美國軍方可能會將該公司的 AI 工具用於國內監控,以及用於美國武器中的自動化、目標定位系統。

OpenAI 的硬體和機器人工程主管 Caitlin Kalinowski 在自 2024 年 11 月任職後離開了這家 AI 公司。Kalinowski 於 3 月 7 日宣布辭職,對 OpenAI 與美國國防部在 2 月達成的協議表示擔憂。 

Kalinowski 聲稱美國軍方將使用 AI 進行國內監控

根據 Kalinowski 的說法,她辭職是因為美國國防部打算使用 AI 工具和能力在沒有司法監督的情況下對美國公民進行監控。這位前 OpenAI 員工在 X 上寫道,AI 在國家安全方面扮演著至關重要的角色。 

她解釋說,美國國防部打算將 AI 用於監控和自主武器,這是她不同意的決定。她表示,她的決定「關乎原則,而非人員」,並且她為 OpenAI 團隊在她任職期間所建立的成果感到自豪。 

2 月,美國五角大廈加強了與頂尖 AI 公司的會談,討論在機密系統上部署自動化模型。Cryptopolitan 報導,五角大廈正在推動與 Anthropic 和 OpenAI 的會談,以將 AI 工具整合到機密軍事網路中。

五角大廈的首席技術官 Emil Michael 在白宮與科技領袖的會議中表示,軍方希望 AI 模型能夠在機密和非機密網路上運行,不受任何限制或約束。

美國政府與 Anthropic 之間的談判陷入僵局,因為其領導層已明確劃定界線,他們的技術不會被用於國內監控行動和自主武器目標定位系統。該公司 拒絕了五角大廈在 2 月下旬提出的剝除 AI 安全防護措施的最後通牒。

Anthropic 執行長 Dario Amodei 堅守立場, 拒絕允許該公司的技術被用於軍事行動。作為回應,川普在 2 月下旬指示所有聯邦機構停止使用 Anthropic 的技術。 

OpenAI 對 AI 的軍事部署施加了限制

國防部與 OpenAI 達成了一項協議,此後引發了批評。Sam Altman 提到該協議看起來相當機會主義,並澄清該公司對其 AI 工具在軍事行動中的使用方式施加了限制。

然而,Kalinowski 的質疑聲稱該聲明倉促發布,缺乏必要的防護措施。她補充說,她的離職是基於治理方面的擔憂,這些問題太過重要,不容倉促處理。

OpenAI 在一份聲明中確認了 Kalinowski 的離職,但肯定該公司與國防部門的聯繫為 AI 工具在國家安全中的負責任使用鋪平了道路。 

2 月,OpenAI 宣布將在戰爭部的安全企業 AI 平台 GenAI.mil 上部署 ChatGPT 的客製化版本。該公司指出,其與軍事和國防部門的合作源於 AI 在保護人民和避免衝突方面的關鍵作用。

美國政府與 AI 公司之間在軍事 AI 發展方面的摩擦也導致更多研究人員離開 AI 公司。Anthropic 的一位頂尖安全防護研究員辭職時發表聲明:「世界正處於危險之中。」

另一位 OpenAI 研究員也辭去了職務,表示 AI 技術有一種控制人類的方式,是開發人員無法理解或阻止的。

OpenAI 的前研究員 Zoë Hitzig 也在 2 月 11 日離開了公司。她在 OpenAI 宣布已開始在其大型語言模型 ChatGPT 上測試廣告的同一天辭職。她聲稱這家 AI 公司正在犯下與 Facebook 相同的錯誤。

Hitzig 表達了她的擔憂,認為 ChatGPT 作為深度個人披露(醫療恐懼、關係問題、宗教信仰)的知己這一獨特角色,使得廣告定位尤其危險。