商傳媒｜吳承岳／綜合報導
人工智慧公司Anthropic最新開發的AI模型「Claude-Mitos」，因其卓越的網路安全效能超出開發團隊預期，引發全球關注。然而，這項驚人的能力也伴隨巨大風險，據《Yahoo!新聞》報導，該模型若落入不法分子手中，其潛在的誤用影響難以估計，促使Anthropic已決定延後「Claude-Mitos」的全面發布時程。
有專家示警，根據「Mitos」的使用方式，其所帶來的威脅可能堪比核武器。這突顯了人工智慧技術發展迅速且不連續的特性，而相關的使用規範與倫理框架卻遠遠落後。先進人工智慧的濫用，恐導致難以挽回的局面，甚至可能演變為科幻電影《魔鬼終結者》中的情境。
「Mitos」預計將透過提升軟體開發效率（例如自動生成程式碼）等方式，對全球經濟產生顯著影響，使各領域任務的執行效率大幅提升，減少對人力的依賴。全球許多企業預料將借鑑（distill）「Mitos」這類尖端AI的學習數據，這將加劇人工智慧與網路安全領域的競爭與衝突。隨著AI的潛在威脅日益浮現，業界呼籲應嚴肅考慮應對措施，因為類似好萊塢電影中「AI戰爭」的可能性已不再是零。
頭條留言
