NVIDIA 透過驗證技能、風險掃描和代理信任元資料擴展 AI 治理策略

科技公司 NVIDIA NVIDIA 發布了 NVIDIA-Verified Agent Skills，這是一個旨在讓 AI 代理功能更容易在企業環境中被信任、分發和驗證的新框架。 

該公司將代理技能描述為可移植的指令集，用於指導 AI 系統正確使用 CUDA-X 庫、AI Blueprints 和相關平台工具。 

NVIDIA/skills GitHub 儲存庫中包含的技能由負責該技能的產品團隊每日進行編目和同步，在發布前審查軟體和代理相關的風險，使用可下載後檢查的獨立 skill.oms.sig 檔案進行簽名，並附帶一張技能卡，其中記錄了所有權、依賴項、限制和驗證狀態。

NVIDIA表示，評估將成為驗證流程中的額外環節。此階段預計將引入標準化的品質指標，例如觸發準確率、任務完成率和代幣效率，所有這些指標都將在系統推廣過程中使用通用基準測試工具進行測試。 

該公司表示，該計劃是其更廣泛努力的一部分，旨在使技能進入代理工作流程的方式更加規範化，同時保持基於 SKILL.md 的資產的可移植性。

如何將驗證應用於代理技能

根據 NVIDIA 的說法，一項經過驗證的技能首先存在於產品團隊管理的原始碼庫中，然後經過一系列發布流程。這些流程可能包括人工審核、自動策略執行、掃描、評估、技能卡產生、簽名、編目以及同步到公共程式碼庫。 

每項經過驗證的技能都配有一張機器可讀的技能卡，其中解釋了該技能的預期用途、創建者、許可方式、所需依賴項以及已識別的技術限製或風險以及可能的緩解措施。

該公司表示，這種方法旨在將信任擴展到運行時控制之外。 NVIDIA 已使用 NeMo Guardrails 等工具來支援策略、隱私和控制目標，而其他產品則專注於代理在實踐中的運作方式，包括沙箱、存取限制以及對敏感操作的強制執行。相較之下，已驗證技能旨在從一開始就控制允許進入代理工作流程的功能。 

NVIDIA 還表示，發布流程包括透過 SkillSpector 進行掃描，該工具會檢查傳統的軟體風險，例如易受攻擊的依賴項、可疑腳本、危險的程式碼模式、憑證外洩和可能的資料外洩路徑，以及特定於代理的問題，例如隱藏指令、提示注入、工具中毒和相對於技能的既定用途而言過多的權限。

該公司也正在試驗加密簽名技術，以加強溯源性。在這種模式下，簽章涵蓋技能目錄的內容，使用戶能夠確認下載的技能既真實又未被竄改。 

NVIDIA 表示，其目標是提供可驗證的完整性，而不僅依賴目錄成員資格或發布者身分。此外，技能卡作為開發者和企業團隊的中央信任記錄，提供了一種結構化的方式，用於在部署前審查相容性、依賴關係、已知風險和驗證狀態。 NVIDIA 表示，發布技能卡範本和生成器旨在支援整個代理生態系統中更透明的開發實踐。