另闢蹊徑戰輝達!英特爾Gaudi 3AI加速器瞄準中小型市場深耕

商傳媒|記者許方達/綜合外電報導

想在輝達(NVIDIA)稱霸的AI運算市場殺出一條血路,英特爾(Intel)選擇不再直接挑戰硬體運算能力的寶座,而是另闢一條較為冷門但具潛力的AI加速器路徑。綜合外媒報導,Intel最新推出的Gaudi 3 AI加速器,標榜其高性價比為主要賣點,特別是針對中小型企業與個人消費者,試圖擴展市場版圖。

英特爾指出,Gaudi 3系列在推論工作負載(inferencing workloads)效能可媲美輝達的H100 AI加速器,特別是在LLM(大語言模型)應用上表現較為突出。根據CRN數據顯示,相較於輝達H100,Gaudi 3的效能每美元價值可提升80%,而在Llama-2模型的基準測試中,此性價比差距更擴大到兩倍之多。這對於資金有限的AI創新企業和個人開發者來說,是一項極具吸引力的選擇。

不過,儘管Gaudi 3在推論負載中表現亮眼,但在進行浮點運算時,與輝達產品相比,還是略顯不足;這也顯示出英特爾在核心AI性能方面的限制,可能無法在短期內與輝達直接抗衡。因此,英特爾選擇不與輝達正面交鋒,而是專注於更具成本效益的AI解決方案,特別是針對那些不需要大規模數據中心運算能力的小型LLM模型。

輝達在AI硬體領域的領導地位和CUDA技術的優勢毫無懸念,更以此在市場中建立強大的「護城河」;即便如此,英特爾持續推動Gaudi 3的發展,並在企業級市場中獲得IBM Cloud、Hewlett Packard Enterprise(HPE)和Dell等公司的支持,目前上述公司已在其數據中心產品中採用Gaudi 3來運行。

市場傳出,英特爾目前正尋求出售子公司阿爾特拉(Altera)的少數股權,藉此籌集數十億美元的現金。面對艱難的財務狀況,英特爾迫切需要在AI領域找到新的立足點,Gaudi 3的市場表現將是未來觀察的重要指標。英特爾聲稱,並不打算趕搭這波主流市場的列車,從長遠來看,英特爾堅信AI狂熱和大型資料中心的熱潮一旦退去,較小的法學碩士模型將得到更廣泛的採用。

頭條留言
商傳媒
商傳媒https://sunmedia.tw/
商傳媒是一個提供財經、科技、智慧製造、醫療、產業資訊,為主要服務內容的金融、科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更將推廣至世界各國!
- 廣告 -
- 廣告 -

最新文章

深耕終身暨社會教育領域 台灣知識庫創辦人獲頒木鐸獎...

本(113)年度11月22、23日,由中華民國教育學術團體聯合年會隆重舉行,主題定為「面向不確定的時代:打造教育的幸福工程」。會中提出多項具前瞻性的教育建議,包括「整合學校、社會與家庭教育,培養全方位人才」及「運用人工智慧協助教育轉型」等,為教育界未來指引方向。本次年會匯聚國內外學者與教育實務專家,期間舉行主題講座、專題論壇、論文發表及優良教育人員頒獎等活動,成為教育界年度盛事。

Ryan Ward 台灣之友!美國勝委內瑞拉

美國以6:5小勝委內瑞拉,關鍵勝利打點代打球員沃德(R.Ward)是功臣,也幫了中華隊一把。

東山旅北同鄉會,蘇輝雄將再度連任會長

台北市東山旅北同鄉會在11月20日晚間,舉行今年最後一次理監事會議。 蘇輝雄先生再度獲得大家推薦,將續任下屆會長。

插圖版苏東坡傳,千年智慧的昇華

一千多年來,研究蘇東坡的學者文人雅士,涵蓋全球五洋四海,蔚為「蘇學」。 這次在「三苏祠」看中了一本林語堂授權、青少年插圖版的「苏東坡傳」。

龍都午安

六條通冬雨酒香純純 盛樂二階堂前好會 烤鴨片片...