NVIDIA DGX Spark 強化企業級 AI 管理 助產業規模化部署

商傳媒|葉安庭/綜合外電報導

為因應人工智慧(AI)基礎設施快速規模化的企業需求,NVIDIA 於日前推出 DGX Spark Enterprise Manageability 框架,旨在提供全面的操作管理能力,從部署到退役全程監控,以實現高效、安全且可預測的 AI 工作負載管理。這項新框架特別針對企業資訊科技(IT)團隊,確保 AI 系統能達到與其他關鍵基礎設施同等的營運成熟度。

NVIDIA DGX Spark Enterprise Manageability 框架的推出,反映了企業在 AI 部署上面臨的挑戰。隨著 AI 專案從開發階段邁入企業級應用,對於系統的可佈建性、可觀察性、安全性及可管理性要求日益提高。該框架提供模組化架構,能與企業現有的 IT 工具(如 Chef、Puppet、Ansible、Tanium 及 Canonical Landscape)無縫整合,而非取代。其運作模式採用代理程式less SSH 執行,並輸出標準化的 JSON 格式結果,便於整合至配置管理資料庫(CMDB)或安全資訊與事件管理(SIEM)系統。

這套框架涵蓋 AI 基礎設施的六大營運生命週期階段,包括採購、初始佈建、持續監控、維護、事件響應,以及終端設備退役與再部署。針對部分限制直接網際網路存取的使用環境,DGX Spark Custom Installation 功能允許 IT 團隊在不需即時網路連線的情況下預先配置裝置及客製化軟體,確保系統能正常運作。

此外,該框架也提供強大的診斷工具,例如 spark_diagctl.py 用於快速檢查系統健康狀況或產生詳細診斷報告,以及 reset_reason_reporter.py 協助釐清系統重啟原因。在安全性方面,NVIDIA DGX Spark 具備驗證啟動完整性、儲存加密狀態報告、套件簽名驗證、具備監管鏈的還原出廠設定,以及 UEFI 支援的資產中繼資料標籤等功能,確保企業 AI 系統的合規性與資料安全。

業界對 AI 部署成本可預測性的需求也日益高漲。根據 Futurum 的一項調查,78% 的企業預期未來一年將增加 AI 預算,但仍有 63% 的企業將其科技預算中不到 10% 投入 AI。許多企業憂心大型語言模型(LLM)基於 Token 使用量的計費方式難以預測,因此影響 AI 專案的廣泛導入。例如,鵲系統(Pegasystems)近日推出的 Pega Infinity 26,便改採基於業務成果的固定費率計價模式,以解決 Token 計費的不確定性,並宣稱可比傳統模式節省超過 20 倍的成本。這類創新定價模式與 NVIDIA DGX Spark 的強化管理能力,共同推動企業 AI 方案更具成本效益與穩定性。

這些基礎設施與定價模式的進展,對全球 AI 產業生態系影響深遠。尤其對像台灣這樣在半導體及 AI 領域具備優勢的地區而言,隨著全球企業對規模化 AI 部署的需求增加,不僅為台灣的半導體供應鏈帶來商機,也鼓勵本地企業與雲端服務供應商更自信地採納先進 AI 解決方案,加速台灣 AI 產業的整體發展。

頭條留言
商傳媒
商傳媒https://sunmedia.tw/
商傳媒是一個提供財經、科技、智慧製造、醫療、產業資訊,為主要服務內容的金融、科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更將推廣至世界各國!
- 廣告 -
- 廣告 -

最新文章

種出成就感! 中市環保農園即日起開放報名 抽30名...

墨新聞|記者馬源培/台中報導台中市政府環保局於文山...

端午開運妙招! 中市鐵砧山劍井取午時水旺整年

墨新聞|記者馬源培/台中報導端午節是重要的傳統節日...

移除紅色門檔!北捷推「閘門LED通行識別燈」 國父...

墨新聞|記者鄭富鈺/綜合報導為提升通行效率,方便進...

「公用頻道影視學院」免費開課 新聞局長欒治誼:AI...

墨新聞|記者馬源培/台中報導為充實有線電視CH3公...

「粽」藝大集合! 台中端午節放電攻略:看表演、逛市...

墨新聞|記者馬源培/台中報導端午佳節將至,台中市政...