OpenAI揭露駭客策動網路攻擊 透過生成式AI影響選戰風向

商傳媒|記者許方達/綜合外電報導

OpenAI近日公布最新報告,揭露已成功打擊超過20起網路攻擊和輿論操作。2024年全球超過40個國家陸續舉行關鍵大選;然而,隨著生成式AI技術崛起,網絡上與選舉相關的假訊息及深偽(Deepfake)內容呈現爆炸性增長,這些技術也正成為網絡操控者用來影響民主進程的新工具。

OpenAI報告指出,這些威脅行為範圍廣泛,從AI生成的假新聞網站文章,到透過假帳號在社交媒體上發布的訊息無孔不入。這份名為《影響力與網絡操作》的更新報告,旨在呈現當前觀察到的狀況,並識別出初步趨勢,期望突顯AI在網路安全中的重要性,也提醒各國政府和企業應加強對AI技術的監控與防範。

值得注意的是,這份報告發布的時間點,距離2024年美國總統大選不到一個月。除了美國外,今年全球各地的選舉活動頻繁,這也加劇選舉資訊誤導問題的嚴重性。根據數據顯示,與選舉有關的深偽內容在過去一年內增長900%,生成式AI技術所帶來的假訊息風險,不僅影響美國總統大選,也蔓延到印度、歐盟、盧安達等多國的競選活動。

早在2016年美國總統選舉時,俄羅斯相關勢力便利用廉價且便捷的方式,在社交媒體上大規模傳播假訊息。隨後在2020年,社交媒體更充斥著與新冠疫苗及選舉舞弊相關的不實資訊。如今,隨著ChatGPT等生成式AI的廣泛應用,上述影響選舉的風險進一步升高。

報告詳細披露多起利用生成式AI操作的案例,例如:8月底一起來自伊朗的行動中,OpenAI產品被用來生成有關美國選舉及其他主題的長篇文章和社交媒體評論,但大多數的貼文幾乎沒有獲得點讚、分享或評論。

今年7月,OpenAI封鎖盧安達多個ChatGPT帳號,這些帳號被用來發布與選舉有關的內容。此外,5月一間以色列公司也使用ChatGPT生成有關印度選舉的媒體評論,OpenAI則在24小時內解決該問題。

追溯到今年6月,OpenAI處理一起利用其產品生成歐洲議會選舉相關評論的秘密行動,這些評論涉及法國、德國、美國、義大利和波蘭的政治議題。儘管OpenAI辨識出的媒體貼文大多無法吸引大量互動,但部分訊息確實引起真實用戶的回應。

OpenAI已成功阻止多起網絡操控行動,報告中強調,至今尚無一起行動能夠通過使用ChatGPT等AI工具實現「病毒式傳播」或建立持續性的受眾。然而,這些行為表明,生成式AI已成為網絡攻擊者手中的新興武器,並持續對於民主進程構成潛在威脅。

頭條留言
商傳媒
商傳媒https://sunmedia.tw/
商傳媒是一個提供財經、科技、智慧製造、醫療、產業資訊,為主要服務內容的金融、科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更將推廣至世界各國!
- 廣告 -
- 廣告 -

最新文章

2024 資訊月×臺灣教育科技展開幕,卓揆強調進入...

資訊月×臺灣教育科技展於今(11/14)日在台北世貿一館盛大開展,以「邁向AI新生活」為主題,共有2大主題館、12大展區,開展首日即湧現人潮,並有來自全台各地的師生、親子與企業團體共襄盛舉。共有800個攤位、500場講座,議題多元豐富,包含AI生活、教育科技、親子教育、在職進修與壯世代議題,打造終身學習遊樂園。

AI 賦能教育!ViewSonic 教育科技展創新...

ViewSonic今(11/14)日在《2024臺灣教育科技展》(EdTech Taiwan)中,以「AI賦能,探索無限可能」為主題,展示整合軟硬體、內容和服務的完整教育科技生態系。今年,ViewSonic帶來一系列AI驅動的創新教學解決方案,包括八月推出的業界首款「AI教科書」及其升級功能,以及「3D AI歷史角色互動」、「AI發音評估」、「AI教學助理」等技術,讓教師親身體驗AI如何助力高效互動教學。另榮獲本屆EdTech Award數位內容獎的產品也於展場中亮相,展現ViewSonic在數位教學的豐碩成果。​

2024 POPUPASIA 亞洲手創展松菸登場,...

手創界的年度盛會─POPUPASIA 亞洲手創展今(11/14)日起一連四天快閃松菸登場,今年邁入第8屆的POPUPASIA亞洲手創展,是亞洲首個兼具手創業商務媒合推廣,和消費者直購的B2B2C國際文創展會,亦是亞洲最具啟發性的生活風格展覽,2024年邀集亞洲30個以上城市,超過500家以上來自台灣、泰國、日本、韓國、馬來西亞、香港等亞洲各地的手創工藝品牌,齊聚松菸共襄盛舉!

微軟在台資料中心啟航!Microsoft 365 ...

台灣微軟今(11/14)日宣布啟動「AI+ Taiwan」計畫,除包括 Microsoft 365 在台資料中心落地服務正式啟用,賦能過去受法規監管的產業能奠基於合規與安全性,享有雲端服務的彈性與敏捷性,更將藉由微軟全球豐沛的資源加速在地產業智慧轉型,推出多元人才培育計畫與免費課程提升台灣科技力。同時,微軟也與政府共築資安聯防,透過分享情資以及推動零信任架構等,保障台灣網路安全,攜手產官學研各界打造數位韌性,實現 AI 智慧島嶼願景。行政院院長卓榮泰、行政院秘書長龔明鑫,以及美國在台協會處長谷立言、金融監督管理委員會代表、衛生福利部也於今日蒞臨記者會現場共襄盛舉。

中颱天兔來襲 萊爾富因應民眾防颱 即日起祭出多款指...

 中颱「天兔」不斷逼近臺灣,中央氣象署今(11/14)日下午5點30分發布陸上颱風警戒,萊爾富全台門市加緊戒備因應防颱,同時滿足民眾採購防颱物資需求,即日起至12月10日期間,於全台萊爾富門市祭出多項指定商品優惠。