趨勢科技今(8/26)日發布的最新研究報告，針對OpenAI推出的新ChatGPT AI代理功能進行深入分析，並提醒企業警覺伴隨而來的資安風險。這款新型AI代理不再是只回應指令的工具，而是具備自主行動能力，能編寫程式碼、發送電子郵件、管理行事曆，甚至能獨立瀏覽網路，象徵著從被動助理到主動代理的新里程碑。趨勢科技強調，這種自主性將帶來前所未有的便利，但也使資安攻擊面變得更加複雜與危險。
趨勢科技資深技術顧問簡勝財指出，新ChatGPT AI代理代表使用者執行行動，結合自動化、推理和自主性，可能在最少人為監督下運作，導致將電子郵件寄給非預期收件者或刪除重要資料等潛在風險。他同時提醒AI助理容易遭遇「提示詞注入」攻擊，透過隱藏式網頁或應用程式指令，執行未經授權行為，令使用者難以察覺。此外，AI持續學習使用者行為，存在個人隱私外洩威脅，如行事曆行程和帳號資訊被駭取。
研究報告也警示使用者同意疲勞問題，當AI代理頻繁請求許可時，使用者或因麻木而盲目授權，特別是在企業內部操作敏感資料時，這將擴大安全風險。趨勢科技指出，AI代理若整合至工作行事曆、電子郵件及企業應用軟體，可能導致供應鏈攻擊、身份盜用與內部威脅層出不窮。根據2024年發表的Digital Assistant Framework，AI自主性與跨系統整合提升雖漸進，卻可能引發指數級資安風險上升。
為協助企業防範風險，趨勢科技建議從嚴管控AI跨系統作業權限，強化異常行為監控並警覺提示詞注入，教育使用者理解AI自主限制並在流程中融入人類檢查，全面採納AI安全攻擊面管理策略。趨勢科技的最新研究提醒，隨著自主AI時代來臨，資安防護須同步強化，才能有效防範多層次且日益複雜的攻擊。企業做好準備，才能在AI技術帶來的效率提升同時，確保資訊安全無虞。
