輕鬆構建企業本地Gen AI 基礎架構兼具效能、擴充性與節能設計
台北2023年12月11日 /美通社/ -- 從即時監測天氣模式、預測能源消耗與二氧化碳排放，到協助企業靈活創新轉型，人工智慧（AI）不僅能對永續發展有所助益，更是企業加速決策、形塑未來的重要依據。尤其是在ChatGPT爆紅後，人工智慧再度成為眾所矚目的焦點，生成式AI（Gen AI）不只掀起話題浪潮，更是企業眼中用來釋放資料價值、創新業務營運的新利器。根據Gartner在近期公布的人工智慧技術成熟曲線調查（2023 Gartner Hype Cycle for Artificial Intelligence），Gen AI正在被推向技術成熟度曲線的高峰；而且可望在未來的2至5年內成為主流採用的技術。
戴爾科技集團資深技術顧問黃敏俊觀察，消費級生成式AI幾乎擄獲了所有人的心，根據調查，高達91%的受訪者均表示，生活中已經以某種方式運用生成式AI。然而對企業而言，運用公開的模型可能潛藏著諸多的隱憂，尤其是資料與隱私外洩的風險，「企業真正的機會是運用手上掌握的數據來打造企業級的Gen AI，進一步優化服務與體驗，強化核心競爭力。這其中，建構好的運算力更是其基礎，若是沒有運算力作為資料的動力引擎，企業將很難朝向生成式AI邁進。」
他提到，實務上技術與基礎架構也是企業採用AI過程中經常面臨的挑戰之一。不只在高效、可靠、安全與軟硬整合的能力，還要能滿足綠色節能的要求，「隨著國際發展趨勢，ESG永續已成為評估企業的關鍵指標，企業在加速數位創新同時，勢必也必須納入能源優化考量，而選擇具有綠色概念的基礎架構方案，將能為企業帶來節能減碳的雙重優勢。」
融入先進冷卻技術 兼顧ESG永續承諾
為了協助企業更快實現全端Gen AI 部署，戴爾科技與輝達攜手合作，包括戴爾基礎架構、軟體和服務，再加上輝達的加速運算和軟體創新，協助企業快速推動Gen AI計劃，並且加速轉化為價值。其中，也涵蓋了數款已通過驗證的最佳化伺服器，包含PowerEdge XE9680、PowerEdge XE9640/XE8640以及PowerEdge R760xa，同樣搭載第4代Intel Xeon可擴充處理器，這款處理器最大的特色就是內建整合式加速器，可實現更高的效能與電源效率。
黃敏俊進一步說明，PowerEdge XE9680是專為人工智慧、機器學習及深度學習所建立的高效能應用程式伺服器，可快速開發、訓練及部署大型機器學習模型。在6U高度下，可支援8張H100或A100 SXM GPU，不僅可以獲得最高的效能、突破各種侷限，有效的空間運用也可以讓企業在效能與能源間取得最佳的平衡，雖然是氣冷機種，卻能運行在35℃的環境中；PowerEdge XE8640在4U高度中也搭載4張H100 SXM GPU，更有助於推動AI訓練、HPC及資料分析應用，其特色是運用了封閉式的內循環水冷技術（LAAC），以液冷來輔助氣冷帶走運作時產生的大量熱能。
PowerEdge XE9640則提供了提供 GPU多樣性、密度和冷卻功能，在2U外形中，可配置4張H100 SXM GPU或Intel Data Center GPU Max和Dell智慧冷卻技術，藉由液冷來提高效能與速度，釋放資料潛力；PowerEdge R760xa最高能擴充到4張GPU，可依企業成長需求來選擇與擴充更多樣的加速器，發揮優異效能。
他提到，在技術演進下，電力與能源需求勢必會有所增加，但隨著全球對淨零排放議題越來越重視，各國紛紛祭出法規要求緊縮限制，合規ESG規範也箭在弦上，如何透過現代化的技術，使其保持平衡，在系統效能不妥協的情況下還能達到更好的冷卻成效，是現今伺服器發展的主流方向，戴爾科技也正在逐步往先進冷卻技術前進，例如，新一代的智慧冷卻技術能將正確的氣流引導到所需的位置，並且具有智慧散熱控制功能，能在工作負載或環境變化時，自動調整氣流。
若是在更高密度的環境，以直接液態冷卻（DLC）設計的伺服器就能達到更好的散熱效果，由於液體能在設備內直接進行冷熱交換，對於提升整體系統效率將很有助益；若是不想改變氣冷環境，戴爾科技也能結合第三方輔助冷卻方案，例如節能背板冷卻器（RDHx）的輔助來滿足散熱需求。針對PUE值改善，浸沒式冷卻技術也可協助企業大幅降低總體PUE值。
最適架構加速Gen AI之旅
人工智慧正在顛覆每個產業，而生成式AI更可能打破遊戲規則，帶來更大的革命。舉例而言，生成式AI能比對話式聊天機器人更準確，也更能理解語氣與反應；或是依據要求產生程式碼，協助程式工程師加速軟體開發，大幅減少程式撰寫時間；在製造業中，也可以協助教育訓練與生成作業流程或協助異常事件處理等等；於醫療產業的應用也能加速醫療與照護流程自動化來提昇整體醫護品質與效率。
「生成式AI正在改變各產業的營運、創新與競爭方式，如何運用生成式AI找到新的機遇與商業價值，甚至進一步帶動營收成長，已成企業亟需思考的課題。」黃敏俊強調，與值得信賴的夥伴合作是企業落實Gen AI最快的策略與方法，戴爾科技提供了多元的選項，透過預先測試的模組化解決方案可依據企業需求打造最適合的基礎架構，協助企業簡化並加速 Gen AI之旅。
SOURCE Dell Inc.
分享這篇文章