諾亞鴻云致力于構(gòu)建一套整體的人工智能基礎(chǔ)建設(shè)方案 ，CPU通算 + GPU智算一體機(jī)、通過先進(jìn)的混合算力體系。

方案優(yōu)勢

自主可控

從CPU到GPU全國產(chǎn)化體系結(jié)構(gòu)， 規(guī)避貿(mào)易摩擦，地緣政治等不穩(wěn)定因素，構(gòu)建持續(xù)的智算發(fā)展戰(zhàn)略

獨樹一幟的設(shè)計體系

采用創(chuàng)新型的兩段式設(shè)計體系，既：通算部分仍然使用高性能國產(chǎn)處理器體系結(jié)構(gòu)，智算部分則采用自研的獨立GPU基板。通過2顆GPU 加速模組，促使GPUs在系統(tǒng)內(nèi)部高速互聯(lián)，以此來規(guī)避PCIe帶寬瓶頸

開放式 & 易用性

始終遵循開放式的體系結(jié)構(gòu)設(shè)計， 可根據(jù)預(yù)算，喜好選擇廣泛的GPU 品牌。通過自研的AIOS可在出廠便預(yù)制了GPU驅(qū)動程序，算子與框架適配服務(wù)，甚至包含友好的GPU調(diào)度與管理的統(tǒng)一可視化平臺。解決國產(chǎn)GPU因為易用性推廣的最后一公里

All in One 交付能力

混合算力系統(tǒng)具備構(gòu)建完整人工智能應(yīng)用所需的配套環(huán)境。 為復(fù)雜的AI應(yīng)用程提供性能強(qiáng)大的虛擬化，容器等環(huán)境。而以GPU為核心的智算池也耦合在同一系統(tǒng)。支持混合算力的分布式部署，通過橫向擴(kuò)展，具備構(gòu)建高可用性的大型GPU智算組網(wǎng)的能力

更多了解請點擊：

全信創(chuàng) 鴻云智算大模型一體機(jī)AWS-P2 /AWS-P4/MGP-410/MGP-820ls （2卡/4卡/10卡/20卡）

方案介紹
 

在當(dāng)今人工智能產(chǎn)業(yè)快速的變革中，企業(yè)需要迅速的做出反應(yīng)，通過擁抱人工智能帶來的 關(guān)鍵優(yōu)勢，降低運營成本，提高生產(chǎn)力，以此來提升企業(yè)在經(jīng)濟(jì)市場的競爭力。 然而，以通用算力構(gòu)建的私有云向人工智能的戰(zhàn)略性轉(zhuǎn)型總是面臨著各種問題，例如現(xiàn)有 資產(chǎn)的利用率、設(shè)計人工智能基礎(chǔ)設(shè)施的復(fù)雜度、如何確保國產(chǎn)化的自主可控、引入國產(chǎn) GPU與模型和框架的適配、以及智算架構(gòu)的可擴(kuò)展性為了應(yīng)對企業(yè)不斷發(fā)展的業(yè)務(wù)需求等等。 
 

構(gòu)建自主可控的人工智能基礎(chǔ)設(shè)施 利用諾亞鴻云打造的HCP混合算力系統(tǒng) 
 

HCP-48是諾亞鴻云基于創(chuàng)新理念“Hybrid-Computing Platform”打造企業(yè)級混合型算力系統(tǒng)。 通過HCP系統(tǒng)，耦合了以處理器為核心的通用算力來構(gòu)建私有云平臺，還包含了以GPU為 核心的高性能智算體系，符合全國產(chǎn)化設(shè)計，讓智算基礎(chǔ)設(shè)施高效運行的同時更加自主可控。 
HCP方案突出高性能和無與倫比的可擴(kuò)展性，這體現(xiàn)在： 1).我們的科研人員通過先進(jìn)的電子電路設(shè)計，重新塑造了GPU的互聯(lián)方式。 2).通過兩段式的設(shè)計，重新設(shè)計高帶寬的GPU基板，規(guī)避當(dāng)前PCIe通道在智算產(chǎn)業(yè)的帶寬瓶頸。 3).內(nèi)置GPU加速模組，智算整機(jī)可通過模組直接 P2P互聯(lián)，無需通過處理器與PCIe的中轉(zhuǎn)。 4).通用基礎(chǔ)算力配置自研的IPU加速卡，可有效的卸載國產(chǎn)化處理器與內(nèi)存對于云組件的處理，如：云管平臺、存儲系統(tǒng)、磁盤IO、以及磁盤糾刪 /條帶等、帶來的性   能開銷。

在私有云的建設(shè)中很多用戶會顧及“國產(chǎn)化處理器體系”性能，是否能在融合架構(gòu)中發(fā)揮更大 性能與兼容性。我們的工程師為HCP通算層開發(fā)了具備自主可控的IPU加速中間件，通過有效的 卸載與云組件相關(guān)的堆棧，促使處理器與內(nèi)存等通用算力可以更加專注的服務(wù)應(yīng)用程序。 IPU加速卡通過創(chuàng)新型的FPGA+ASIC嵌入式設(shè)計，預(yù)制云管平臺、分布式存儲系統(tǒng)、磁盤與 IO的高級特性處理堆棧、以及一顆具備數(shù)百GB的RAID 分區(qū)芯片、服務(wù)于磁盤的High Caching。 IPU加速卡還具備自組網(wǎng)特性，使存儲相關(guān)的流量和服務(wù)在跨節(jié)點交互時不經(jīng)由額外的以太網(wǎng) 適配器。綜上，HPC的混合算力系統(tǒng)通過一系列先進(jìn)的體系結(jié)構(gòu)設(shè)計，可有效的加速依賴于人 工智能的應(yīng)用程序，包含與之相關(guān)的存儲服務(wù)：向量化知識庫、語料數(shù)據(jù)、模型載入與數(shù)據(jù)庫。

 

Hybrid-Computing Platform 致力于打造一套完整的人工智能運行環(huán)境的解決方案，降低企業(yè)邁入人工智能的部署成本，通過創(chuàng)新型混合 算力的體系結(jié)構(gòu)。通算與智算兩段化的系統(tǒng)設(shè)計標(biāo)準(zhǔn)，在安全方面通算體系結(jié)構(gòu)全部采用國產(chǎn)化自主可控設(shè)計，滿足日益嚴(yán)苛的信息安全 政策，而智算方面則適配了主流的國產(chǎn)GPU廠商，做到了從通用算力到智算的全國產(chǎn)化方案落地。
1).高性能--是在體系結(jié)構(gòu)設(shè)計之初另一個重要的考量。我們工程師通過創(chuàng)新型的電子電路設(shè)計，開發(fā)了GPU的互聯(lián)基板，通過交換芯片使 GPU之間的互聯(lián)帶寬到達(dá)500Gbps。GPU加速模組卡則是把多個廠商GPU智算卡異構(gòu)整合的又一個先進(jìn)創(chuàng)新，還具備整機(jī)互聯(lián)的直出端口， 既:通過GPU模組卡400Gbps整機(jī)組網(wǎng)互聯(lián)。人工智能高度依賴的應(yīng)用程序可運行在由HCP-48系統(tǒng)集成的云環(huán)境，通過虛擬化或容器環(huán)境屏蔽不相關(guān)性，而唯一被關(guān)注的則是國產(chǎn)化 服務(wù)器體系帶來的性能擔(dān)憂。 

2).我們工程師通過自研的“硬件中間件”方法，高效的卸載云組件相關(guān)的堆棧，讓國產(chǎn)處理器與內(nèi)存能夠火力全開的服務(wù)應(yīng)用程序，而在 廣泛的云組件中，存儲與磁盤IO處理相關(guān)的的性能開銷則是首當(dāng)其沖。IPU加速卡具備完整的存儲與磁盤IO處理堆棧，同時集成了通用 的存儲分布式技術(shù)，甚至還保留了10Gb/25Gbps存儲組網(wǎng)端口，能夠支持大規(guī)模的橫向擴(kuò)展需求。 
 

3).系統(tǒng)結(jié)構(gòu)的開放性和靈活性是我們一直追求的目標(biāo)。HCP具備高度的靈活性，這不僅體現(xiàn)在您可以自由選擇第三方的通用GPU算力卡。 還可根據(jù)需求獨立的擴(kuò)展通用算力。GPU算力同樣可以獨立擴(kuò)充，無需出廠既滿配，可以根據(jù)應(yīng)用需求、預(yù)算、喜好隨需擴(kuò)容。 
 

4).易用性與維護(hù)性也是完整方案的一部分，HCP系統(tǒng)出廠既預(yù)裝了主流國產(chǎn)廠商的GPU驅(qū)動程序，根據(jù)需求適配了廣泛的框架和算子， 甚至貼心的為用戶下載大模型，這一切被高度集成在AIOS系統(tǒng)中。提供一套友好的可視化WebUI，隨時供用戶掌控集群內(nèi)部的GPU調(diào)度、 維護(hù)、監(jiān)測、以及模型下載后的進(jìn)行測試的工具。 

方案效益

·開放式&易用性

支持廣泛的國產(chǎn)GPU智算卡與英偉達(dá)

自研的AIOS具備豐富的GPU可視化調(diào)度工具

·異構(gòu)融合：

同一個GPU服務(wù)器內(nèi)部可以支持不同廠家的國產(chǎn)GPU卡， 實現(xiàn)單服務(wù)器異構(gòu)算力融合。

 ·提供一站式交付平臺  

提供國產(chǎn)+ 英偉達(dá)等主流算力，用戶選擇更自由。

開“箱”即用，涵蓋AI開發(fā)全流程，包含數(shù)據(jù)集、模型開發(fā)、訓(xùn)練、管理、 部署功能，可靈活使用其       中一個或多個功能。

企業(yè)從人工智能入門到擴(kuò)展大型算力需求，橫向擴(kuò)展能力始終伴隨人工智能 業(yè)務(wù)的發(fā)展。