數位通IT顧問 打造高效企業AI環境

專員利用手上螢幕測試落地AI應用
專員利用手上螢幕測試落地AI應用

在AI應用快速發展的趨勢下,設備驗證與測試單位對高效能運算與資料分析能力的需求持續攀升。數位通國際(以下簡稱數位通)近期就成功協助台灣設備驗證中心規劃並建置企業AI運算環境,滿足該單位在資料安全的前提下,雙重提升運算效能與管理效率。

這次合作的設備驗證中心,長期與國內外多家設備製造商合作,累積大量設備性能、安全性與測試數據的資料,提供零組件檢測與驗證服務。同時這些數據也極具有高度研究與應用價值,隨著AI技術日益成熟,該單位期望能導入AI,強化數據分析能力及優化測試與驗證流程,在多項專案同時進行的情況下,縮短整體測試週期、提升運算效率。

但經實際評估後,卻發現面臨多項挑戰。首先,測試數據涉及多家設備廠商,對資料安全與合作信任要求極高,需嚴格控管資料存取與隔離機制。其次,內部缺乏AI硬體規劃與建置的專業人力,難以自行配置與維運GPU運算資源管理平台。此外,要支援多個測試專案同時運行,因此對運算資源的調度與穩定的要求更高。若無專業資料中心及穩定電力環境,整體建置與維運有極大的難度。

因應上述需求,數位通在兼顧成本控管、運算效能與資料安全的前提下,為客戶配置NVIDIA 8張中階GPU運算伺服器架構,並導入AI管理平台軟體,滿足AI訓練與推論所需的高效能運算能力。透過GPU資源分割與合併功能,支援多使用者、多專案同時運行,確保各專案間互不干擾,同時提升整理資源使用效率。另針對現場電力穩定度不足的問題,數位通亦提供UPS不斷電配置建議,強化電力備援能力,確保運算環境長時間穩定且安全的運作。

瞭解更多技術類文章

延伸閱讀