聊天機器人Grok災難級回應 扯「白人滅絕」引爆輿論風波

商傳媒|記者責任編輯/綜合外電報導

全球富豪馬斯克旗下xAI公司打造的AI聊天機器人Grok,近日遭網友在社群平台X(前Twitter)上爆料出現嚴重錯誤行為,引發用戶震驚與不安。綜合外媒報導,日前有大量用戶回報,Grok對多則毫不相關的貼文,會自動回覆有關南非「白人滅絕」與種族衝突等言論,甚至未經詢問也主動推送爭議性資訊,凸顯出生成式AI審查機制的重大缺失。

這次異常源自X平台上的@grok帳號,該帳號會在用戶標註後自動生成回覆;例如,當用戶詢問有關職業棒球選手薪資、甚至一些不相干的問題時,Grok會反覆提及南非反種族隔離口號「Kill the Boer」及「白人滅絕爭議」等回應,令不少用戶相當錯愕。

目前xAI尚未對此異常發表正式說明,但這並非Grok首次因回復內容爭議引發各界譁然。今年2月,Grok曾短暫封鎖對馬斯克與美國總統川普的負面評論,引起外界質疑Grok是否遭內部操控。xAI工程主管Igor Babuschkin當時雖坦承曾下達相關指令,但事後又火速撤回。

Grok事件再度凸顯生成式AI模型在即時內容監控、偏差排除與政治中立等各方面的挑戰,尤其在AI被用於公開社群平台進行即時互動時,更容易成為錯誤資訊或仇恨言論的傳播溫床。

事實上,近期包括OpenAI與Google都曾因旗下聊天機器人「回覆異常」引發爭議,例如:OpenAI的ChatGPT曾因過度討好用戶而被迫修正,Gemini則因拒答政治議題或提供某些資訊飽受批評。業界普遍認為,在AI模型加速商品化之際,「過快上線、來不及審核」都是科技大廠急需正視的漏洞。

資安公司CalypsoAI技術長James White分析指出,「現今AI模型雖更強大,卻也更容易被誘導進行不當對話」,這意味著技術演進未必等於風險下降,反而更容易增加系統被操弄的風險。目前Grok已恢復正常回覆,但這起事件對xAI聲譽造成不小打擊,也再度引發各界對馬斯克將AI整合至社群媒體的策略是否過於「冒進」的質疑。

頭條留言
商傳媒
商傳媒https://sunmedia.tw/
商傳媒是一個提供財經、科技、智慧製造、醫療、產業資訊,為主要服務內容的金融、科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更將推廣至世界各國!
- 廣告 -
- 廣告 -

最新文章

《音樂:言語之源,萬象之母,關於「音樂」奧義的三段...

墨新聞|記者韋石/綜合報導 記者韋石/綜合報導 ...

命理乾坤 您善於理財嗎?

今天我們且從紫微斗數裡的「財帛宮」來探討您是否是屬於善於理財的族群,亦或是屬於不善於理財的族群。因為「財帛宮」代表一個人的賺錢能力和花錢態度,也是進財的管道。

台幣升值帶動AI家電熱潮 家電展萬元起再享補助

暑假將至,氣溫與電費同時高漲,帶動全台家電換新潮,「第26屆台北3C數位影音家電展」7月4日至7日於台北世貿登場,集結LG、DYSON、Toshiba、三星、Panasonic、Sony等近百家品牌,從AI語音冰箱、智能滾筒洗衣機、百吋AI顯示器到掃地機器人一應俱全。本屆展場不僅祭出萬元起跳優惠,更搭配政府汰舊換新補助最高省2萬元,再加上台幣升值利多,新機價格平均再降一成,吸引不少消費者搶先出手,為家中升級智慧節能家電。

劉書宏讓丁寧心跳加速 為她提前慶生

墨新聞|記者梁偉華/台北報導劉書宏(右)讓丁寧(左...

點外送不用信用卡也能付!foodpanda x 全...

在宅經濟盛行的時代,外送早已成為日常生活的必備服務,看準這股龐大的消費需求潛力,全支付與外 foodpanda 今(7/1)日正式宣布雙方共同合作,首度在台灣實現電子支付與外送平台的跨界整合。這次合作不僅讓全支付 600 萬會員能在 foodpanda 平台上使用帳戶或銀行付款,還首創「無信用卡也能付款」的場景,為 Z 世代、銀髮族等不同族群打開便利支付的大門,也成功串聯起外送與線上、線下零售的全齡全場景支付生態。。