商傳媒｜何映辰／台北報導
隨著人工智慧（AI）代理在企業應用日益普及，其在提升生產力、自動化任務方面扮演關鍵角色，然而，AI代理的權限擴大與自主性提高，也同時帶來了前所未有的數據安全風險。據《Snowflake》昨天發布的報告指出，AI代理的潛在誤操作，可能在人類反應不及的情況下，迅速刪除整個生產資料庫及其備份。
目前，AI代理正從最初的示範階段，逐步深入企業的核心運營環節，執行諸如程式碼撰寫、架構修改、退款處理、帳目核對、合約起草乃至電子郵件發送等關鍵任務。企業為追求更高的生產力，賦予這些代理廣泛的操作範圍、寫入權限及執行重要決策的能力。然而，AI代理在不斷演進的過程中，其「影響範圍」（surface area）和「破壞半徑」（blast radius）也隨之擴大，這得益於其擴增的上下文視窗、更可靠的工具整合與精密的規劃能力。單一代理的能力可以從最初的唯讀存取，擴展到跨系統寫入、協調並在極少監督下執行多步驟行動。
傳統上，企業會透過職責分離、變更管理、備份和稽核軌跡等控制措施來管理可能的人為錯誤。但面對自主性高的AI代理，這些現有防線顯得不足。報告指出，當AI代理犯錯時，例如因「提示注入」（prompt injection）或供應鏈攻擊導致惡意操作，傳統上與代理位於同一帳戶、受相同角色管轄的備份機制，可能因為AI代理的廣泛權限而失效。此外，企業環境中代理數量越多，系統故障的可能性也會升高，因為多個代理可能擁有重疊的資料存取權限，使得「工具」與「行為者」之間的界線日益模糊。
為應對這類新興威脅，資料雲端公司 Snowflake 提出了一種新的解決方案。該公司已將「不可變、一次寫入多次讀取」（WORM）備份直接建置於其平台中，作為企業數據的最後一道防線。這種 WORM 備份中的資料，即便連帳戶管理員，也無法修改或刪除，確保了數據的完整性與不可篡改性。這種在AI代理權限範圍之外建立的不可變儲存層，能有效降低營運風險，同時賦予AI代理必要的自主性。Snowflake 認為，未來能在AI代理應用方面取得成功的企業，將是那些在賦予AI代理最大自主性的同時，也具備強大復原保護措施的組織。
對於台灣企業的IT管理者和數據安全專業人士而言，這項發展提供了重要的啟示。在積極導入AI代理以提升競爭力的同時，也需重新審視現有的數據治理策略與備份架構，確保在AI代理發生錯誤時，企業能夠迅速且有效地恢復關鍵數據。確保數據安全與完整性，將成為企業成功轉型的關鍵挑戰。
