AI模型名實不符引關注 恐衝擊服務合約及法律證據

商傳媒|責任編輯/綜合外電報導

隨著人工智慧(AI)模型的應用日益普及,業界發現,用戶支付特定AI模型的費用後,實際獲得的回應可能並非來自同一個模型,而是經過替換、降級或靜默更新的版本。這種「名不符實」的現象正引起市場關注,並可能對商業合約和法律證據帶來深遠影響。

根據《MarkTechPost》報導,AI模型的身份正在三個獨立面向產生「裂解」,但這些差異通常未被區分:首先是「替換(Substitution)」,例如 Anthropic 的 Fable 5 模型,在處理敏感請求時,可能會被路由至功能較弱的 Opus 4.8 模型。業者 Anthropic 表示,當敏感內容篩選觸發時,系統會將請求轉發給 Opus 4.8 並通知用戶。此外,Cursor 開發的 Router 軟體會根據查詢的語境、複雜度和領域,自動將請求分派給最適合的模型,據稱早期測試用戶的成本節省了 30%至50%。

其次是「降級(Degradation)」,這指相同模型以較低精度(quantized weights)提供服務。例如,OpenRouter 服務就提供使用量化權重的選項,能降低成本,但可能影響特定提示的回應品質,且該功能預設為開啟,用戶需手動選擇關閉。再者是「漂移(Drift)」,即模型名稱不變,但其內部權重(weights)可能在未通知用戶的情況下靜默更新,導致模型行為改變。

這些技術實務上的優化,在商業和法律層面卻製造了極大混淆。報導指出,若一個應用程式呼叫 API 時指定了 Fable 5,但實際回應來自 Opus 4.8,使用者收到的回應物件中雖然會標示實際運行的模型,卻凸顯出名稱與實際不符的問題。法律專家指出,AI模型服務通常被視為「服務」而非「商品」,因此難以適用傳統的商品保固法規,這使得合約條款的清晰度變得更加關鍵。

美國聯邦貿易委員會(美國FTC)的欺騙原則,可能也適用於此類未充分揭露的行為。若業者將模型替換或降級的資訊隱藏在文件深處,且預設選項對用戶不利,這將被視為一種「暗黑模式」(dark pattern)。

更嚴重的問題則出現在法律證據層面。現行法規(如美國聯邦證據規則 Federal Rule of Evidence 901(b)(9) 以及印度的 Bharatiya Sakshya Adhiniyam, 2023, §63)皆要求在法庭上驗證電子證據時,能夠明確指認產生該證據的系統。然而,若律師使用AI工具生成法律文件,卻因模型路由而無法確切追溯是哪個模型、哪個版本、哪種精度產生了特定內容,將導致「證據鏈中斷」,使得證據的真實性和可信度面臨質疑。

為解決此問題,業界與法律專家呼籲,應開發「可證明模型身份(attestable model identity)」。這意味著每次模型回應都應附帶經硬體認證簽署的數位聲明,其中包含所服務的模型識別碼、權重雜湊(weights hash)、精度以及系統提示雜湊,確保模型身份在法律上具有可驗證性。目前,部分回覆物件已包含服務模型名稱,但缺乏可法律驗證的機制,這讓模型ID在悄然成為法律識別碼的同時,其識別的具體內容卻仍不明確。


頭條留言
商傳媒
商傳媒https://sunmedia.tw/
商傳媒是一個提供財經、科技、智慧製造、醫療、產業資訊,為主要服務內容的金融、科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更將推廣至世界各國!
- 廣告 -
- 廣告 -

最新文章

不用切換 App!MyVideo TV 整合直播與...

台灣大哥大旗下影音平台 MyVideo 持續拓展串流服務版圖,在今年3月推出運動賽事直播後,帶動直播觀看人數成長6倍、付費會員數年增近兩成。看準即時直播需求持續升溫,MyVideo宣布將於8月1日推出全新「MyVideo TV」服務,首波整合37個電視頻道,讓用戶可在同一個App內自由切換OTT隨選影音與即時電視頻道。自8月1日至9月30日止,註冊會員皆可免費體驗電視頻道服務。

AI滲透德州房地產市場 賣家初期接觸點趨向智慧助理...

商傳媒|林昭衡/綜合外電報導根據房地產業者 Way...

AI助攻金融顧問拓展業務 強化人際連結勝於技術取代...

商傳媒|何映辰/台北報導面對全球金融市場的快速變遷...

社群新創迎AI浪潮:22位頂尖創投點名未來商機,台...

商傳媒|責任編輯/綜合外電報導儘管社群新創領域的投...

嘉義縣社安網工作人員共識營 舒緩壓力

墨新聞|記者張游舜/台北報導 ...