歐盟尋求就AI安全問題與美國展開會談，同時Anthropic計劃推出Mythos

TLDR

• 歐盟希望與美國官員就具備網路能力的先進AI模型進行更深入的對話。
• Anthropic尚未授予歐盟AI辦公室其Mythos模型的預覽存取權限。
• 美國官員正在權衡模型存取、創新、網路安全以及與中國競爭等議題。
• Anthropic表示，Mythos級別模型在更廣泛發布前需要強大的網路安全防護措施。
• Anthropic預計將在未來幾週內向客戶推出Mythos級別模型。

歐盟計劃擴大與美國政府就具備網路能力的先進AI模型展開對話。討論的核心圍繞存取權限、安全審查以及針對Anthropic的Mythos模型等強大系統的相關規則。此次對話正值Anthropic準備在未來幾週內向客戶推出Mythos級別模型之際。

歐盟推動取得先進AI審查的存取權限

據CNBC報導，一位歐盟委員會官員表示，歐盟希望與美國官員就前沿AI模型展開更深入的討論。對話涵蓋能夠支援複雜網路任務和安全測試的系統。歐盟尚未獲得Anthropic Mythos模型的預覽存取權限，其AI辦公室也尚未在現行存取流程下審查該模型。

Anthropic透過Project Glasswing向特定公司和組織提供了早期預覽存取權限。然而，除英國AI安全研究所外，美國以外的政府存取權限仍然有限。一位熟悉相關對話的人士表示，Anthropic告知歐盟官員須尋求美國的許可。該人士表示，白宮並未單獨反對歐盟的請求。

同一人士表示，美國官員對於與非美國政府共享Mythos存有更廣泛的顧慮。此次對話現已將模型存取議題納入更廣泛的跨大西洋AI安全討論之中。

美國權衡創新與安全顧慮

白宮已與AI實驗室就先進模型的部署展開合作。美國官員希望在管理安全風險的同時維持美國的領先地位。財政部長Scott Bessent表示，政府與AI實驗室保持「非常密切」的合作，並表示官員希望在創新與安全之間取得平衡。

據早前報導，政府反對進一步擴大Mythos的存取範圍。Anthropic此前曾提議向約70家以上的公司和組織開放該模型的存取權限。

Anthropic於四月宣布Mythos後，該模型隨即引發廣泛關注。由於該模型據報能夠大規模識別軟體漏洞，因此引發外界憂慮。Anthropic執行長Dario Amodei本月警告稱，安全視窗期相當短暫。他表示，在中國AI趕上之前，各組織只有六至十二個月的時間來修補大量漏洞。

Anthropic計劃更廣泛推出Mythos級別模型

Anthropic於週四表示，具備Mythos級別能力的模型在廣泛發布前需要強大的網路安全防護措施。該公司同時表示，在相關保護措施方面已取得快速進展。「我們正在迅速推進這些防護措施的開發，」Anthropic表示。該公司預計將在未來幾週內向所有客戶推出Mythos級別模型。

歐盟委員會也擴大了與Anthropic及其他模型開發商的技術對話。這些對話涉及已向歐盟AI辦公室通報其最新模型的公司。委員會發言人Thomas Regnier表示，網路安全仍是共同優先事項，並表示歐盟與美國同意在此領域相互認可各自的標準。

目前的討論涵蓋模型存取、網路安全防護措施及審查程序等議題。與此同時，各國政府也在審視先進AI系統如何處理涉及安全敏感的能力。Anthropic的下一次推出將考驗各實驗室如何管理強大模型的存取權限。歐盟在尋求與美國官員進行更緊密對話的同時，持續與Anthropic展開技術討論。

The post EU Seeks U.S. Talks Over AI Safety as Anthropic Plans Mythos Rollout appeared first on Blockonomi.