企業導入AI遇基礎設施瓶頸 運算力成關鍵制約

商傳媒|責任編輯/綜合外電報導

隨著各產業積極導入人工智慧(AI),企業在將AI應用從實驗階段推向實際生產的過程中,面臨基礎設施不足的挑戰。專家指出,傳統雲端基礎設施在設計上著重資訊規模,而非現代AI所需的智慧規模,導致企業在AI發展上遭遇瓶頸。

矽谷科技媒體 SiliconANGLE 報導,顧問機構 ZK Research 首席分析師 Zeus Kerravala 指出,許多企業資訊長(CIO)反映,傳統雲端基礎設施是為處理交易、網路流量和儲存等資訊規模需求而設計,無法滿足現代AI對智慧規模的要求。

根據雲端供應商 QumulusAI 與 HyperFRAME Research 共同發布的報告顯示,企業在AI領域正進入「效率競賽」階段,不再追求大型、All-in-one 的模型,而是轉向更小、更專業的模型,這也意味著需要更快的迭代週期。然而,傳統的運算模式,從申請、分配到實際運作,往往耗時數週,嚴重影響AI開發所需的敏捷性,例如微調、測試和快速改進。

為協助企業評估其AI整備度,QumulusAI 提出 FACTS 架構,旨在解決現代AI基礎設施的痛點:

  • 靈活性(Flexibility): 擺脫單一規格的雲端實例,允許團隊從快速原型設計所需的少量GPU,無縫擴展到生產訓練所需的裸機叢集。
  • 存取性(Access): 分散式GPU容量至關重要,團隊不應受限於特定區域的可用性,或與其他團隊競爭單一雲端供應商的稀缺資源。
  • 成本(Cost): AI領域的雲端擴張往往隱藏著出口、儲存和高級支援費用,可預測、透明的定價是長期容量規劃的先決條件。
  • 信任(Trust): 在AI快速變化的時代,企業需要的是合作夥伴,而非單純的交易關係,這意味著需要關注長期容量保證和以安全為先的分散式架構。
  • 速度(Speed): 這是當前時代的決定性指標,資源配置必須在數小時內完成,而非數週。否則,AI創新所需的「快速失敗」開發方法將難以維持。

QumulusAI 提出「超高速運算」(hyperspeed compute)的概念,認為企業AI的未來將是混合式的。大型雲端供應商在提供全球覆蓋和整合軟體生態系統方面仍然至關重要,但成功的企業會透過專業的AI基礎設施供應商來增強這些平台,將特定的、高速度的AI工作負載(如訓練和模型微調)轉移到專為此目的構建的基礎設施上,從而繞過傳統雲端配置的延遲。

Kerravala 認為,「基礎設施速度差距」是真實存在的。如果開發新AI功能的障礙是需要等待三週才能獲得GPU運算週期,那麼創新的成本將變得過高。對企業而言,這代表客戶選擇和採購AI資源的方式正在發生轉變。在AI領域取得領先地位的企業,將把基礎設施視為戰略資產,而不是商品。他建議,企業應採用分散式、專用的AI基礎設施,以確保其獲得洞察的時間與演算法本身一樣快。

Kerravala 總結,資訊科技領導者應牢記,基礎設施的選擇現在是一種戰略差異化。那些繼續將AI運算視為標準雲端服務的公司,將會被那些能夠快速擴展、迭代和部署的公司超越。企業應參考 FACTS 架構,以確保其基礎設施是為智慧時代的速度而構建,而不僅僅是資訊時代。

對於台灣企業而言,在AI應用快速發展的同時,如何評估現有基礎設施的瓶頸,並採取相應的升級或轉型策略,將是提升AI競爭力的關鍵。選擇合適的雲端服務和硬體設備,建立彈性、高效的AI運算環境,將有助於台灣企業在AI浪潮中脫穎而出。

頭條留言
商傳媒
商傳媒https://sunmedia.tw/
商傳媒是一個提供財經、科技、智慧製造、醫療、產業資訊,為主要服務內容的金融、科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更將推廣至世界各國!
- 廣告 -
- 廣告 -

最新文章

屏東陸興國高中會考三連冠 郭勁5A10+摘屏東榜首...

墨新聞|記者游宏琦/高雄報導115年國中教育會考放...

秩序的隱形勳章:從農安街的「隔夜假」到金鐘獎的品牌...

民國七十一年,台北的霓虹燈火裡,藏著一種不安分的躁動。 那時服役憲兵,日子在鋼盔與哨音的嚴謹規律中流轉。

文大開講!打造零距離感的職場 劉安立縱橫廣告業的「...

「AI時代,人們更需要思考的能力,有自己的觀點,否則,AI錯了,你也不知道。」而誠信、善良、溫暖和用心,永遠不會被取代。彥星僑商廣告創辦人劉安立於昨(6/4)日下午,應華岡文教基金會的邀請,返回母校中國文化大學演講。華岡文教基金會董事長王徐勳說,這是同學們在課本裏學不到、但重要的一課。

白鹿、丞磊攜手揭開權謀復仇風暴 陸劇《莫離》6/9...

由白鹿與丞磊主演的古裝權謀愛情劇 莫離,將於6月9日在Disney+上線。該劇開播前已在騰訊平台累積超過400萬預約人次,成為近期最受矚目的古裝新作之一。

地標網通 618 祭出 iPhone 最高省逾 8...

面對全球手機供應鏈成本持續攀升、記憶體價格高檔與先進製程報價上漲,多家品牌陸續調整新機售價,帶動消費者換機成本增加。搶攻618年中購物檔期,地標網通宣布推出「618夏殺祭」優惠活動,不僅針對iPhone與熱門安卓手機祭出大幅折扣,也同步推出攜碼資費加碼方案。業者表示,隨著下半年平價機種選擇可能持續縮減,有換機需求的消費者可趁此波促銷檔期提前入手。