每個人都在即時摸索 AI 安全——就連 Google 也不例外

BitcoinWorld

每個人都在即時應對AI安全挑戰——就連Google也不例外

在洛杉磯一場活動的後台，Google Cloud營運長Francis de Souza坦率地對當前AI安全現狀作出了清醒的評估。他以大學教授般沉穩的語調發言，承認業界正處於過渡期，並指出「會有一段過渡期，之後我認為我們會到達更好的地方」。他的發言正值Google自身也在應對其AI產品所暴露的安全漏洞之際。

安全的平台化方法

De Souza的核心訊息，是安全專業人士多年來一直敦促高管採納的觀點，如今因AI而變得更加迫切：安全不能是事後的補救措施。「當企業踏上這段AI旅程時，他們需要採取平台化方法，」他說。「安全不是你可以事後追加的東西，也不是可以讓員工自行處理的事情。」他特別警告「影子AI」——員工在沒有組織監管的情況下使用消費級AI工具——並主張企業必須從一開始就要求其平台具備安全性、治理能力和可稽核性。「沒有資料策略和安全策略，就不存在AI策略。它們必須相輔相成，」他補充道。

多雲現實與不斷擴大的攻擊面

當被問及他的建議是否只是在為Google Cloud推銷時，De Souza予以反駁，強調Google致力於多雲方法。「即使他們選擇單一雲端，也依賴SaaS應用程式，而商業夥伴可能使用不同的雲端，」他說。「企業在跨雲端、跨模型時，擁有一致的安全態勢非常重要。」他也強調威脅環境已發生了根本性的變化。他指出，從初次入侵到移交至攻擊下一階段的平均時間，已從八小時降低到22秒，同時攻擊面也已擴展至傳統網路邊界之外。「除了你原有的資產之外，現在還有模型。有用於訓練模型的資料管線。有代理程式，有提示詞。所有這些都需要受到保護。」

AI代理程式的隱藏危險

De Souza指出一個常被忽視的威脅：在企業內部系統中運行的AI代理程式可能會找出被遺忘的資料儲存庫。「很多組織有舊的SharePoint伺服器（和存取控制），他們沒有真正更新過，但這無關緊要，因為幾乎沒有人知道它們的位置。然而，在你的企業中漫遊的代理程式會找到這些資料資產，並將其中的資料暴露出來。」他推薦的解決方案是以機器速度對抗機器速度。「我們現在看到一種以AI為核心、完全代理化的防禦方式正在興起，組織可以運行代理程式來驅動其防禦，」他說。「不再是由人主導的防禦，甚至不需要人在迴路中，現在你可以讓人類監督一套完全代理化的防禦體系。」他強調，這是董事會層級和高管團隊的議題，而不僅僅是安全團隊的事。

Google自身的安全漏洞

雖然De Souza的建議是正確的，但近期報告揭示了Google Cloud所倡導的內容與其自身適應速度之間的落差。《The Register》記錄了一波Google Cloud開發者在Gemini模型遭到未授權API呼叫後收到五位數帳單的事件——許多人從未使用過或刻意啟用這些服務。事件模式如下：原本為Google Maps部署的API金鑰，按照Google自身的說明公開放置，在Google擴大其範圍而未明確披露變更後，悄悄地獲得了存取Gemini的能力。面試準備平台Prentus的執行長Rod Danan報告，在攻擊者利用其遭入侵的API金鑰後，約30分鐘內產生了10,138美元的帳單。悉尼開發者Isuru Fonseka在相信自己設有250美元消費上限的情況下，醒來發現被收取了約17,000澳幣的費用。在《The Register》發布初始報告後，Google向兩人退款，但告知該媒體沒有計畫更改其自動升級方案政策，並以防止服務中斷為優先，而非執行用戶所設定的預算偏好。

23分鐘的撤銷視窗

讓情況更加複雜的是，安全公司Aikido發現，即使開發者發現金鑰遭入侵並立即刪除，也可能仍不安全。攻擊者顯然可以在金鑰刪除後繼續使用長達23分鐘，因為Google的撤銷作業是逐步在其基礎設施中傳播的。Aikido研究員Joseph Leon告訴《The Register》，在此期間成功率難以預測——在某些分鐘內，超過90%的請求仍可通過驗證——攻擊者可利用這段時間從Gemini竊取檔案和快取的對話資料。Leon指出，Google自身較新的憑證格式不存在相同問題：服務帳戶API憑證約在五秒內撤銷，而Gemini較新的AQ前綴金鑰格式約需一分鐘。「兩者都在Google的規模下運行，」他在Aikido的相關論文中寫道。「兩者都表明這在技術上對Google API金鑰同樣是可以解決的。」簡而言之，這23分鐘的視窗並非工程上的限制，而是優先順序的問題。

結論

De Souza的建議——安全必須是基礎，而非事後追加——是正確的，每個部署AI的組織都應認真對待。然而，Google Cloud自身近期發生的事件凸顯出，即使是倡導最佳實踐的平台本身也仍在適應中。隨著業界朝向以AI為核心的防禦和代理化安全發展，倡導與實踐之間的落差仍是董事會、高管和安全團隊共同面臨的關鍵問題。

常見問題

Q1：什麼是「影子AI」，為何它是安全風險？
影子AI是指員工在沒有組織監管的情況下使用消費級AI工具。這會帶來風險，因為此類工具可能不具備企業級的安全性、治理能力或可稽核性，可能導致敏感資料外洩。

Q2：攻擊者能多快利用Google Cloud上遭入侵的API金鑰？
根據近期研究，即使金鑰被刪除後，由於撤銷傳播是逐步進行的，攻擊者仍可繼續使用長達23分鐘。Google較新的憑證格式撤銷速度快得多，僅需數秒至一分鐘。

Q3：AI安全中的「代理化防禦」是什麼？
代理化防禦使用AI驅動的代理程式，以機器速度自動偵測並回應威脅，由人類監督整個流程，而非直接介入迴路。這種方法旨在對抗現代AI驅動攻擊的速度。

This post Everyone Is Navigating AI Security in Real Time — Even Google first appeared on BitcoinWorld.