新興AI百科網站盡是「幻覺」 內容矛盾挑戰知識驗證

商傳媒|林昭衡/綜合外電報導

一個名為 Halupedia 的新型線上百科網站近日引發關注,其號稱內容完全由人工智慧(AI)「幻覺」生成,旨在作為一項「AI編造」(AI fabulation)的實踐,諷刺傳統知識體系的嚴謹性。儘管該網站文章格式嚴謹,甚至附帶虛構的學術引文和註腳,但內部充斥的自我矛盾與憑空捏造的內容,凸顯了AI生成資訊的潛在不可靠性。

根據《Futurism》報導,Halupedia 的運作方式相當獨特,每次使用者搜尋或點擊連結,都會成為後端 AI 模型生成內容的提示。該 AI 模型以十九世紀學術出版物的平板風格來呈現資訊。網站上的每個連結都通往一個點擊前並不存在的條目,即點即生。

Halupedia 的文章包含大量虛構內容。例如,其中一篇熱門文章描述了「1887年大鴿子普查」(The Great Pigeon Census of 1887),這項任務據稱是由「皇家鳥類統計學會」(Royal Society for Avian Enumeration)發起,目的是統計大不列顛及愛爾蘭聯合王國境內的金冠岩鴿數量。這項普查據稱由一位虛構人物「雷金納德.費瑟頓爵士」(Sir Reginald Featherton)構思,他認為精確的鴿子數量對於理解城市資源分配及「議會麵包屑的公平分配」至關重要。網站上的專有名詞也經常指向其他生成文章。

然而,這種 AI 生成機制也導致了顯著的事實矛盾。例如,關於「皇家鳥類統計學會」的文章指出該學會於1927年解散,但「1887年大鴿子普查」的文章卻稱其於1891年正式解散。開發人員在 GitHub 上表示,他們努力讓 AI 生成的「幻覺」具備「典範一致性」(lore-consistency),即使內容荒謬,也應避免自相矛盾。然而,實際內容仍出現了不一致。

Halupedia 也曾面臨用戶試圖輸入帶有種族歧視意圖的提示詞,但該 AI 會忽略這些冒犯性內容,轉而生成無關且無害的文章,例如搜尋「bullsh*t」會生成「循環推理的侏儒使命」(The Gnomish Mandate of Circular Reasoning)等虛構條目。這個計畫甚至有自己的 Reddit 版塊。此一案例,再次引發外界對於人工智慧在知識傳播與驗證上所帶來的挑戰與影響。

頭條留言
商傳媒
商傳媒https://sunmedia.tw/
商傳媒是一個提供財經、科技、智慧製造、醫療、產業資訊,為主要服務內容的金融、科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更將推廣至世界各國!
- 廣告 -
- 廣告 -

最新文章

推動宜居台中! 中市議會交通地政委員會跨縣市考察 ...

墨新聞|記者馬源培/台中報導為持續精進台中市土地開...

藝術新聲新秀閃亮登場! 台中藝博會╳中美館展演交會...

墨新聞|記者馬源培/台中報導台中市政府文化局長期致...

AI與高速SSD需求爆發 慧榮科技搶攻下一波儲存商...

商傳媒|何映辰/台北報導當全球人工智慧(AI)、雲...

美國打造本土電池供應鏈 瞄準AI機器人與國防市場

商傳媒|責任編輯/綜合外電報導面對人工智慧(AI)...

Klarna執行長稱美國為成長最快市場 將IPO與...

商傳媒|方承業/綜合外電報導瑞典金融科技公司Kla...