作者／中華資料採礦協會祕書長謝邦彥博士
影星強尼戴普所主演的電影「全面進化」，闡述頂尖的人工智慧的科學家，試圖研發出超越以往科技和永續生命的技術，在他們一番努力下，終於突破了技術難點，創造出了能夠超越人腦的電腦，也造成了人類世界的災難，最後走向自我毀滅。而目前最夯的ChatGPT經過創新迭代後，除了回答問題、內容生成與互動外，是否會仿照人類思維有自己獨立的思考能力(從機器學習到仿真學習)。我們觀察到:每每有重大科技問世，剛開始是媒體業界諸多關注吹捧，各種不同的應用、模式與產業發展因應而生，之後就是更新迭代，最後是衛道人士進行對人類影響的倫理、法律與道德規範及勸說。當AI有了自主意識，變成”自主智慧”之後，人類對未來科技的發展趨勢是否可以預測、管控?對於人類的影響是如何呢?（首圖來源：AI生成）
AI成為參與我們生活的新力量
從農業進入到工業化時代到互聯網的發展，從紙本到電腦、手機、雲端，從馬車、汽車、火車、飛機到火箭，從人類思考到AI輔助，這些發展都有賴科技的進步，但無論是創造，還是摧毀，它都是在可以預測的模式下進行。但是從AI發展以來，科技的進化突發猛進，人臉辨識、自動駕駛、新藥開發、健康諮詢等，一直隱身在暗處影響我們，它不再只是工具，而是成為我們生活的一部分，你可以不用會寫程式，你只要會問問題，它像一個認識多年的好朋友跟您親切的互動，無形中成為你生活與工作中不可或缺的一部分，它不再是輔助，而是參與及改變我們生活的「新力量」。如生活中的行住坐臥食衣住行，從輔助到不知不覺地讓仰賴都有它參與工作與生活。
AI自主智慧會引發戰爭
甚麼是「自主智慧」（autosapiens）。「自主」是指它們能夠自主行動、做決策、從經驗學習、適應新情境，且毋需人類持續幹預或監督就能運行。「智慧」是指它們擁有一種媲美人類、甚至在許多方面超越人類的才智（一種在環境中做出複雜判斷的廣泛能力）。自主智慧系統雖然仍處在萌芽階段，卻展現出4大特徵：能動性（它們會行動）、適應性（它們會學習）、親和力（它們親切友善）、高深莫測（它們神秘難解）。這些特徵會把那些支持人類智慧的人把自主權及支配權交出給自主智慧系統的人，將會發生一場大戰。
目前為止，人工智慧（AI）的應用主要集中在民生、商業和科學領域，並未被直接應用於引發戰爭。然而，一些人擔憂，隨著AI技術的發展成可以自我思考進化的「自主智慧」，可能帶來一些潛在的安全風險，甚至引發戰爭的可能性。以下是一些潛在的影響和相關考慮：
● 自主武器系統： 自主武器系統，也被稱為「殺手機器人」，是一種能夠獨立執行軍事任務的AI機器。擁護者擔憂這種武器系統可能會在沒有人類控制或審核的情況下執行任務，這可能導致誤殺和人權侵害。
● 信息戰： AI技術也可能被濫用來進行信息戰。透過操控社交媒體、創建假新聞和進行網路攻擊，國家或組織可能試圖操縱公共輿論、挑撥敵對勢力，從而間接引發衝突。
● 軍事戰略和決策： AI在軍事戰略和決策中的應用可能改變戰爭的本質。自動化決策系統可能快速做出反應，但同時也可能因為錯誤的演算法或數據偏見而引發危險的局面。
● 資訊安全和漏洞： AI系統本身也可能成為攻擊的目標。黑客可能試圖滲透和操控AI系統，以破壞軍事通信、能源系統或其他基礎設施，從而引發戰爭。
● 國際競爭和武備競賽： 為了保持國際競爭力，國家可能參與開發和部署軍事用途的AI技術，可能引發武備競賽和增加國際緊張局勢。
未來，自主智慧可能會在每一項決策中扮演要角，例如:我們該如何發動戰爭等。可能在自主智慧下的科技大戰中，被AI自主智慧支配產生不受控的情況擦槍走火引發戰爭。因此，不論AI如何演進發展，人類還是需要有掌控權與支配權，建立一個防止AI自主智慧引發戰爭的「熔斷機制」。（圖片來源：Microsoft Bing 影像建立工具）
