香港 2025年7月7日 /美通社/ -- 隨著越來越多的企業開始推動AI 代理的規模應用，IBM 於近日推出業內首款整合了AI 安全與 AI 治理、並提供企業風險態勢統一視圖的軟件。
該產品的新功能增強並集成了 watsonx.governance 和 Guardium AI Security的能力，旨在幫助客戶以安全且負責任的方式，實現AI技術（包括AI代理）的規模應用。watsonx.governance 是 IBM 的端到端 AI 治理工具，Guardium AI Security軟件則用於保護 AI 模型、數據和應用的安全。
IBM 數據和 AI業務總經理 Ritika Gunnar 表示：「AI 代理有能力重塑企業的生產力，但其優勢也會帶來挑戰。如果這些自主的系統得不到妥善的治理或保護，可能會帶來嚴重的後果。」
本次發佈的新產品包括：
AI代理安全的集成和自動化
IBM 不斷增強 IBM Guardium AI Security 與 watsonx.governance 的集成，為企業提供業內首發的統一解決方案，可同時管理與 AI 用例相關的安全風險和治理風險。該集成支持用戶根據 12 種不同框架（包括《歐盟人工智能法案》和 ISO 42001）驗證其合規標準的流程。
IBM 還與 AllTrue.ai 合作為 Guardium AI Security 打造新功能，包括能夠檢測雲環境、代碼庫和嵌入式系統中新的 AI 用例，以及為去中心化的 AI 生態提供全面的可視性與保護。一旦發現安全隱患，IBM Guardium AI Security 可自動觸發 watsonx.governance 中相應的治理流程。
IBM Guardium AI Security 的更新還包括自動化的「紅隊測試」功能，旨在幫助企業檢測和修復 AI 用例中的漏洞和錯誤配置。為了消除代碼注入、敏感數據暴露和數據洩露等風險，該功能可幫助用戶量身定制安全策略，同時對輸入和輸出提示進行分析。上述功能已在 IBM Guardium AI Security正式上線，它們與 watsonx.governance 的集成將在今年晚些時候陸續推出。
IBM 安全和Runtime產品副總裁 Suja Viswesan表示：「AI 的未來取決於我們如何確保其安全。安全能力的構建應該從AI應用的第一步就開始，這對於企業保護數據安全、滿足合規要求以及建立持久信任至關重要。」
IDC 安全與信任團隊研究總監 Jennifer Glenn表示：「企業安全團隊面臨的最大挑戰之一，就是將安全事件與違規行為轉變成可量化的業務風險，AI 和AI代理的快速引用進一步加劇了這一挑戰。將 AI 治理與 AI 安全統一起來，為企業提供必要的背景信息，這將幫助他們輕鬆發現風險並確定優先級，更直觀地看到忽略風險可能帶來的嚴重後果。」
增強的 AI代理評估和全生命週期治理
IBM watsonx.governance可監控和管理 AI 代理從開發到部署的整個生命週期，並直接在AI 代理中構建評估節點，監控回答相關性、上下文相關性和忠誠度等指標，並幫助用戶找出表現不佳的根因。AI 代理上線的風險評估、AI 代理審計跟蹤和AI 代理工具目錄等新功能，於 6 月 27 日推出。
即刻可用的合規能力
IBM watsonx.governance Compliance Accelerators 預置了全球各地的部分法規、標準和框架，幫助用戶瞭解相關義務，從而調整自己的 AI 用例。這些內容涵蓋了《歐盟人工智能法案》、美聯儲 SR 11-7 文件以及紐約市第 144 號地方法律等重要法規，以及 ISO/IEC 42001 等全球標準和 NIST AI RMF 等框架。watsonx.governance Compliance Accelerators 已作為watsonx.governance的附加組件正式上線。
為了向 AWS（亞馬遜雲科技）客戶提供更多價值和便利，watsonx.governance 已支持在印度的 AWS 數據中心使用，包含增強的模型監控功能。
此次推出的新功能和集成工具為企業提供了制勝AI代理時代所需的全面治理和安全能力。這些創新成果還與 IBM 更廣泛的watsonx AI 解決方案聯動，幫助企業以負責任和安全的方式加速生成式 AI的規模應用。
