OpenAI揭露駭客策動網路攻擊 透過生成式AI影響選戰風向

商傳媒|記者許方達/綜合外電報導

OpenAI近日公布最新報告,揭露已成功打擊超過20起網路攻擊和輿論操作。2024年全球超過40個國家陸續舉行關鍵大選;然而,隨著生成式AI技術崛起,網絡上與選舉相關的假訊息及深偽(Deepfake)內容呈現爆炸性增長,這些技術也正成為網絡操控者用來影響民主進程的新工具。

OpenAI報告指出,這些威脅行為範圍廣泛,從AI生成的假新聞網站文章,到透過假帳號在社交媒體上發布的訊息無孔不入。這份名為《影響力與網絡操作》的更新報告,旨在呈現當前觀察到的狀況,並識別出初步趨勢,期望突顯AI在網路安全中的重要性,也提醒各國政府和企業應加強對AI技術的監控與防範。

值得注意的是,這份報告發布的時間點,距離2024年美國總統大選不到一個月。除了美國外,今年全球各地的選舉活動頻繁,這也加劇選舉資訊誤導問題的嚴重性。根據數據顯示,與選舉有關的深偽內容在過去一年內增長900%,生成式AI技術所帶來的假訊息風險,不僅影響美國總統大選,也蔓延到印度、歐盟、盧安達等多國的競選活動。

早在2016年美國總統選舉時,俄羅斯相關勢力便利用廉價且便捷的方式,在社交媒體上大規模傳播假訊息。隨後在2020年,社交媒體更充斥著與新冠疫苗及選舉舞弊相關的不實資訊。如今,隨著ChatGPT等生成式AI的廣泛應用,上述影響選舉的風險進一步升高。

報告詳細披露多起利用生成式AI操作的案例,例如:8月底一起來自伊朗的行動中,OpenAI產品被用來生成有關美國選舉及其他主題的長篇文章和社交媒體評論,但大多數的貼文幾乎沒有獲得點讚、分享或評論。

今年7月,OpenAI封鎖盧安達多個ChatGPT帳號,這些帳號被用來發布與選舉有關的內容。此外,5月一間以色列公司也使用ChatGPT生成有關印度選舉的媒體評論,OpenAI則在24小時內解決該問題。

追溯到今年6月,OpenAI處理一起利用其產品生成歐洲議會選舉相關評論的秘密行動,這些評論涉及法國、德國、美國、義大利和波蘭的政治議題。儘管OpenAI辨識出的媒體貼文大多無法吸引大量互動,但部分訊息確實引起真實用戶的回應。

OpenAI已成功阻止多起網絡操控行動,報告中強調,至今尚無一起行動能夠通過使用ChatGPT等AI工具實現「病毒式傳播」或建立持續性的受眾。然而,這些行為表明,生成式AI已成為網絡攻擊者手中的新興武器,並持續對於民主進程構成潛在威脅。

頭條留言
商傳媒
商傳媒https://sunmedia.tw/
商傳媒是一個提供財經、科技、智慧製造、醫療、產業資訊,為主要服務內容的金融、科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更將推廣至世界各國!
- 廣告 -
- 廣告 -

最新文章

狂賀 TEAM TAIWAN 勇奪冠! 台灣吉豚屋...

再見雙殺!11月24日中華隊突破重重難關,勇奪冠軍,為台灣棒球寫下新的歷史。由於「豬排丼」在日語裡和「贏」(勝つ)同音,所以在日本考試或是比賽前都有來上一碗豬排飯來祈求好運的傳統。結合TEAM TAIWAN勇奪冠軍的喜悅,以及台灣吉豚屋連續兩年獲得幸福企業金獎的雙雙喜訊,台灣吉豚屋推出外帶人氣「腰內豬排丼」外帶兩件現省 130元的超殺優惠,相當於第二件只要半價,每碗只要 194元,邀請台灣人一起來同享幸福的勝利豬排!

歲末耶誕禮物怎麼送?PlayStation 送禮教...

隨著2024年即將迎來尾聲,為幫助送禮者獲得更多禮...

佳世達簽署180億元聯貸案追求永續發展

佳世達科技委由臺灣銀行及第一商業銀行統籌主辦180億元永續連結指標聯貸案,今(11/25)日完成聯貸簽約,由佳世達科技董事長陳其宏、臺灣銀行董事長凌忠嫄、第一商業銀行董事長邱月琴共同主持。這是佳世達聯貸案第三度連結ESG永續指標,挹注佳世達永續發展之動能。

《原神》× Let’s Café 聯名...

開放世界冒險 RPG《原神》宣布,將與全家便利商店咖啡品牌「Let's Café」攜手推出聯名活動「冬日之禮 暖心時刻」,活動預定從 2024年11 月 27 日至2025年1 月 7 日於全台全家便利商店盛大進行。活動期間除了推出「Let's Café」聯名杯身及熱飲杯套外。購買指定杯數咖啡,還可以額外獲得遊戲禮包兌換碼,其中包含風之翼裝扮『餚饌之翼』等限定遊戲虛寶。《原神》周邊商品也將首次上架「全家」FamiPort機台,只要透過全台「全家」FamiPort機台進行商品預購,完成購買後商品將於旅行者指定日期送達指定店舖,即可到店取貨。

世棒奪冠掀全民熱潮!Yahoo 奇摩購物加碼折價券...

世界12強棒球賽台灣驚喜奪冠,不只點燃全國球迷熱情,更帶動周邊商機!Yahoo奇摩拍賣觀察到棒球相關商品需求激增,從周邊商品到限量收藏品,皆成為粉絲追逐對象,「Team Taiwan上衣」、「中華隊球衣」雙雙躋身熱搜榜,棒球賽相關關鍵字熱搜漲幅高達6倍,而隊長「陳傑憲」更以比賽當日搜尋熱度成長24倍登上熱搜冠軍,緊跟其後的王牌投手「林昱珉」與人氣選手「林家正」成平台Top3熱門關注焦點。