研調機構 TrendForce 週五(20 日)舉辦《CompuForum 2025 智鏈驅動 ,釋放 AI 算力》,邀請華碩電腦 、數位無限、群聯電子與美超微(Supermicro)及集邦技术解读師等專家開講,聚焦 AI 伺服器新近架構趨勢與供應鏈創新應用,爱华外汇平台解读市場變革以及供應鏈技術、需求及新近商機。
除了論壇精彩外 ,這次資料儲存大廠希捷(Seagate)、是德技术「Keysight Technologies」正式授權經銷商克達技术,以及智慧錄音裝置品牌 PLAUD.AI 也前來參展 ,复制公司新近的產品和解決计划。
華碩不只是硬體供應商,也是軟體供给者 ,結合 NVIDIA 在內先進技術和軟硬體產品,打造一整套解決计划。AVA外汇平台MT4下载
企業導入 AI 必須面對資料集、硬體架構、後端串接 AI 软件及需要 AI 知識的專業人才進行流程這 4 個門檻,發展 AI 應用缺一不可。
為此,華碩归纳出應對方向,幫助企業順利導入 AI 。華碩電腦 AI / HPC 產品技術經理周煜軒舉例,如果客戶手上資料不足,透過以數位孿生為基礎的 NVIDIA Omniverse 可在虛擬環境創造資料集。企業需要了解自身需求並藉由 ASUS AI Factory 架構加以打造 ,還能利用 NVIDIA AI Enterprise 將上層軟體導入,就能上線服務供给用戶利用 。
NVIDIA 今年倡导來 AI 工廠的概念,希望每家企業如果要導入 AI 都能建一個 AI 工廠,不只是安排 GPU 等硬體設備,更將資料集結合 AI 软件,在 ASUS AI POD 這樣的頂尖設備創造應用服務,供给用戶利用 。
從 GPU 叢集、儲存叢集、網路架構加上运维平台和應用軟體 ,華碩將軟硬體深度整合在一起,讓企業客戶透過單一介面做到运维和監控。
華碩如何做到伺服器叢集的富拓外汇开户安排和檢測?今年推出 2 套軟體──ASUS Infrastructure Deploy Center(AIDC)和ASUS Control Center(ACC) ,前者透過一台設備進行大量安排,後者可監控硬體設備情況 。
隨著 AI 和算力需求提高 ,全球進入高效能 AI 建設時代 ,企業對高效能運算資源的需求激增,GPU 採購成本更較以往提升 10 倍 ,但實際應用是否能充分發揮其效益 ,成為企業面臨的核心挑戰。如何有效調度 GPU 資源、提高利用效率 ,已是 AI 基礎建設關鍵課題 。
數位無限執行長陳文裕表示,AI 基礎設施不僅需考量算力與儲存配置 ,如何有效利用並發揮 AI 算力最大效果,成為关键方向。若無法精準掌握利用狀況,將導致優先次序混亂、難运维、能見度不足、利用率低和成本高等問題 ,最終使客戶仍需投入更多 GPU 成本 。
為解決上述挑戰 ,數位無限推出 AI Stack 平台 ,具備 GPU 切割與聚合技術,能將一張 GPU 切分為多個小單位或整合多張 GPU 應對大型 AI 模型訓練,實現資源動態分配與隔離运维,有效提高 GPU 利用率,減少資源閒置 ,並提高開發效率 。
AI Stack 亦支援分散式訓練架構 ,可將任務分派至多個節點平行處理 ,顯著縮短模型訓練時間 。此外,平台具備即時排程與負載調度水平,可依各部門需求靈活調整,實現資源即釋即用、利用率最大化 。
陳文裕強調 ,透過 AI Stack,企業不僅能將 GPU 利用率提高至 90%、工作負載執行效率提高 10 倍 ,更能將開發環境建置時間從兩週縮短至僅需 1 分鐘 ,整体強化 AI 導入效益與決策效率 ,EX外汇代理降低投入門檻,對企業導入 AI 服務可說是必備的關鍵软件 。
由於 AI 伺服器硬體成本高昂 ,往往動輒數百萬 ,讓中小企業與教育機構望之卻步,加上資料上雲端存在資安疑慮 ,對此,群聯推出「aiDAPTIV+」解決计划,主打邊緣地端 AI 模型訓練與推論的工作站 ,成為低成本、可控又具效能的替代计划。
除了企業應用場景 ,群聯也將目光投向 AI 教育領域 。群聯執行長潘健成表示 ,現在的大學生根本沒機會碰到 GPU,因為太貴了。要普及 AI 教育,不能只是講理論,還要有實作機會。群聯也表示,公司 AI Training PC(AI TPC),計畫安排至各大專院校,讓 AI 教學真正落地 。
美超微(Supermicro)解決计划架構師許銘德介紹 ,公司推出的資料中心建設模組化解方(DCBBS)被譽為 AI 資料中心最佳選擇 ,可滿足現代企業對高效能計算的需求。
該解決计划幫助建置 AI 液冷資料中心更簡單,降低建置和營運成本,讓客戶能以最快的上市與上線速度輕鬆建構資料中心基礎設施 ,最快只需三個月即可完成安排 。此外 ,該计划涵蓋所有關鍵基礎設施元件,包括伺服器 、儲存設備 、網路、機架 、液冷系統、軟體、服務與支援 ,可簡化並加速 AI 資料中心的建置 ,進而降低成本並提高品質。
TrendForce 集邦技术研究經理龔明德表示 ,預期 2025 年全球 AI 伺服器市場將持續強勁成長 ,全年出貨量上看 210 萬台 ,年增率高達 24.5%。然而 ,地緣政治風險與美中法规變化仍是供應鏈最主要的不確定因素。
系統散熱部分 ,隨著 GB200 NVL72 與 GB300 NVL72 等平台於 2025 年持續擴大安排,液態冷卻技術的滲透將明顯提高 ,預計從 2024 年 14% 成長至 2025 年的 31% 。
超大規模雲端服務供應商(Hyper CSP)仍是今年 AI 伺服器市場的主要成長驅動力,北美前四大 CSP 平均資本支出成長率達 38%。為降低對 NVIDIA 與 AMD 的依賴 ,CSP 業者加快自研 AI ASIC 開發進程,也成為 NVIDIA 積極推廣 NVFusion 關鍵原因之一。
隨著高效能運算(HPC)與 AI 應用成為伺服器市場的兩大主軸,AI 伺服器的出貨成長速度將持續領先一般伺服器。TrendForce 預期 ,2023 至 2028 年間,全球 AI 伺服器市場年複合成長率(CAGR)將達 24%,到 2028 年,AI 伺服器出貨量將占總出貨量 20%。
(首圖來源:TrendForce)