數位通國際根據企業使用AI情境、資料量、模型規模,量身配置企業級AI地端(On-Prem)算力方案,以高效能GPU主機、AI 運算平台,提供H200、H100、Pro6000 等多規格GPU,協助企業打造高效、安全、可控的私有AI運算環境。



高效能GPU主機,採用專屬實體GPU伺服器架構,搭配企業級CPU、GPU、記憶體與儲存資源,持續穩定的高密度運算效能,確保長時間訓練或高併發推論時,仍可維持效能一致。適用於大型語言模型(LLM)訓練、資料分析、圖像影片生成、深度學習推論等場景,是建構專屬AI與提升企業數位轉型的競爭力核心。
從硬體到軟體層,涵蓋所有AI管理工具,一站式完成MLOps的各項流程,透過直覺式的操作介面,支援多部門管理,可輕鬆設定專案/團隊配額、GPU分片使用、試算運行成本、鏡像版本管理等功能,並搭載任務排程器、即時監控面板以及儲存叢集管理,協助企業掌握算力使用效率,快速上線AI應用服務。
GPU主機可無縫整合GWS CLOUD,將現有虛擬主機、資料庫、應用系統與GPU主機串接,達到虛擬化、儲存、網路、安全與災難復原功能整合於單一平台,進一步簡化部署、管理與維運流程,免除多家軟體供應商整合的複雜度。企業可視業務需求動態擴展至不同站點或跨區環境,提供更具彈性的混合式運算架構。
可放置自家機房或託管於數位通資料中心
7×24 技術支援及監控、IDC多據點與備援
專屬實體運算資源,適合長時間運算
支援與虛擬主機、IaaS與既有系統整合
多種GPU伺服器規格 (記憶體與儲存空間)
非上述型號,歡迎洽詢業務專案討論
數位通GPU主機的卡別挑選,可根據模型參數量(Parameter Count)、精度(Precision)去計算RAM的大小做粗略的規劃,並參考各卡別的詳細規格。
計算公式 GPU RAM用量(GB) ≈ 模型參數量(B)X 精度(每參數所需記憶體 bytes)X 2.5(初估訓練容量膨脹參數)
以開源模型GPT-OSS-120B、FP8為例 = 120x1x2.5≈ 300GB ≈ 4張H100的量
如需依模型規模、訓練批次、序列長度等細部條件做更精準評估,歡迎洽詢數位通的AI顧問。
若是任務與企業需求還在規劃中,建議採用AI Cloud的AI算力租用方案(月/季/年租),或是以預儲值金的方式多卡切換、隨開隨用,降低採購硬體的開銷,提升導入AI的速度,此外數位通也提供AI顧問的服務,解決企業在導入AI中的各種疑難雜症。
GPU主機可建置於企業內部機房,或部署於數位通ISO認證資料中心,我們提供7×24 監控、異常告警與多據點備援,依企業需求整合雲端備份或跨區備援,提升AI運算安全與穩定性。
GPU主機價格通常依照 GPU / RAM / 硬碟 / 頻寬等硬體與網路配置,及支援與管理服務而有所不同。詳細金額會因卡別與實際需求規格而定,詳情請洽專人討論。