內(nèi)蒙古大學(xué)采購(gòu)AI服務(wù)器1等網(wǎng)上詢價(jià)項(xiàng)目網(wǎng)上詢價(jià)成交公告

自定義 : 1.原廠正品 2.高度：≤6U機(jī)架式服務(wù)器 3.處理器：配置≥2顆Intel Xeon處理器，單顆處理器≥56核，基本主頻≥2.0GHz 4.內(nèi)存：配置≥32條64GB DDR5 4800MHz內(nèi)存 5.硬盤：配置≥2塊480G SSD硬盤，≥4塊7.68T NVME SSD硬盤； 6.RAID卡：配置≥1塊RAID卡，緩存≥2GB； 7.網(wǎng)絡(luò)：配置≥2個(gè)萬(wàn)兆網(wǎng)絡(luò)接口（含SFP+光模塊），配置≥1塊雙口HDR 200Gb HCA卡及1根IB線纜； 8.GPU卡：配置≥8塊NVIDIA H20 96GB GPU卡；為滿足AI計(jì)算通信需求，要求基于bandwidthTest的Host to Device帶寬≥55GB/s、基于p2pBandwidthLatencyTest實(shí)測(cè)的GPU卡間通信帶寬≥740GB/s、基于stream實(shí)測(cè)的顯存帶寬≥3.2TB/s、基于nccl-test實(shí)測(cè)的8卡Allreduce通信性能≥420GB/s； 9.I/O擴(kuò)展槽：可擴(kuò)展≥10個(gè)PCIe 5.0 x16插槽； 10. 管理：配置AI服務(wù)器統(tǒng)一管理軟件，支持服務(wù)器全方位性能監(jiān)控，包括CPU 利用率、CPU溫度、內(nèi)存使用率、SWAP使用率，TCP重傳率，UDP連接數(shù)，硬盤讀寫次數(shù)及讀寫時(shí)速率，出入風(fēng)口溫度，風(fēng)扇轉(zhuǎn)速及風(fēng)扇占空比，網(wǎng)絡(luò)發(fā)送速率、接收速率等，系統(tǒng)進(jìn)程數(shù)等；支持服務(wù)器BMC、BIOS、硬盤、RAID卡、網(wǎng)卡批量升級(jí)，服務(wù)器BIOS、BMC、RAID批量配置；支持服務(wù)器硬盤故障預(yù)測(cè)、內(nèi)存故障預(yù)測(cè)功能；支持流程管理功能，包括設(shè)備上架流程、設(shè)備下架流程、問(wèn)題處理流程、測(cè)試環(huán)境變更流程、硬件變更改配流程、設(shè)備位置變更流程等； 11.AI平臺(tái)：配置2個(gè)節(jié)點(diǎn)及以上的AI訓(xùn)推一體平臺(tái)軟件；支持通過(guò)平臺(tái)快速構(gòu)建交互式AI開(kāi)發(fā)環(huán)境，提供Jupyter、Webshell在線交互開(kāi)發(fā)功能，支持對(duì)接第三方開(kāi)發(fā)工具VSCode、PyCharm；支持單機(jī)或分布式訓(xùn)練任務(wù)，可以提交Tensorflow、Caffe、pytorch、PaddlePaddle、MXNet框架的單機(jī)或分布式訓(xùn)練作業(yè)，支持大模型訓(xùn)練容錯(cuò)；****服務(wù)部署，支持基于標(biāo)準(zhǔn)模型文件、自定義Docker鏡像、yaml、Helm等多種部署方式；支持推理服務(wù)生命周期管理，支持服務(wù)上線過(guò)程中的離線測(cè)試、定時(shí)發(fā)布、流量調(diào)節(jié)、在線部署、多分桶測(cè)試、在線滾動(dòng)更新、灰度發(fā)布、在線服務(wù)評(píng)估、服務(wù)下線等全流程服務(wù)管理能力；支持GPU共享，支持GPU顯存隔離切分、GPU復(fù)用、Mig配置三種GPU共享方式；支持親和性調(diào)度策略、可基于數(shù)據(jù)集緩存位置、交換機(jī)拓?fù)洹⒐?jié)點(diǎn)親和性等親和性策略進(jìn)行調(diào)度；支持平臺(tái)內(nèi)創(chuàng)建持久卷聲明，****服務(wù)部署模式掛載持久卷聲明進(jìn)行；提供數(shù)據(jù)緩存加速機(jī)制，數(shù)據(jù)集可高速并行緩存到計(jì)算節(jié)點(diǎn)本地，并提供緩存數(shù)據(jù)的生命周期管理，支持緩存進(jìn)度查看，可進(jìn)行緩存數(shù)據(jù)的增量更新、手動(dòng)清理等。 12. 支持基于yum的模塊安裝與更新、實(shí)現(xiàn)應(yīng)用軟件及其依賴組件的高效安裝與更新。 13. 售后服務(wù)：提供三年原廠售后支持服務(wù)，官方網(wǎng)站查詢配置與實(shí)際供貨配置一致； 14. 電源：配置冗余電源； 15. 制造商進(jìn)行過(guò)至少1個(gè)NLP大模型如GPT2、GPT3等參數(shù)量大于10億的NLP語(yǔ)言模型的擴(kuò)展性測(cè)試，測(cè)試內(nèi)容需包含單機(jī)多卡的性能測(cè)試和多機(jī)多卡的性能測(cè)試； 16. 制造商進(jìn)行過(guò)AI多機(jī)并行加速性能測(cè)試，測(cè)試至少兩種深度學(xué)習(xí)框架，使用ImageNet圖片集，測(cè)試模型采用AlexNet，或Resnet從1個(gè)GPU卡到16個(gè)GPU卡的性能，加速比≥14x；;

自定義 : 1.原廠正品 2.高度：≤6U機(jī)架式服務(wù)器 3.處理器：配置≥2顆Intel Xeon處理器，單顆處理器≥28核，基本主頻≥2.0GHz 4.內(nèi)存：配置≥16根32GB ECC 內(nèi)存，可擴(kuò)展≥32根內(nèi)存條 5.硬盤：配置≥2塊480G SSD硬盤，≥4塊3.84T NVME SSD硬盤，支持≥12塊3.5寸硬盤擴(kuò)展； 6.RAID卡：配置≥1塊RAID卡，緩存≥2GB； 7.網(wǎng)絡(luò)：配置≥4個(gè)千兆網(wǎng)絡(luò)接口，配置≥2個(gè)萬(wàn)兆網(wǎng)絡(luò)接口（含SFP+光模塊），配置≥1塊雙口HDR 200GbHCA卡及1根IB線纜； 8.GPU卡：配置≥6塊NVIDIA L20 48GB GPU卡； 9.I/O擴(kuò)展槽：滿配GPU卡后，同時(shí)支持≥4個(gè)PCIe x16插槽； 10.拓?fù)淝袚Q：支持在不斷電情況下實(shí)現(xiàn)CPU-GPU間拓?fù)淝袚Q，支持Balance/Common/Cascade三種拓?fù)洌?11. 管理：配置AI服務(wù)器統(tǒng)一管理軟件，支持服務(wù)器全方位性能監(jiān)控，包括CPU 利用率、CPU溫度、內(nèi)存使用率、SWAP使用率，TCP重傳率，UDP連接數(shù)，硬盤讀寫次數(shù)及讀寫時(shí)速率，出入風(fēng)口溫度，風(fēng)扇轉(zhuǎn)速及風(fēng)扇占空比，網(wǎng)絡(luò)發(fā)送速率、接收速率等，系統(tǒng)進(jìn)程數(shù)等；支持服務(wù)器BMC、BIOS、硬盤、RAID卡、網(wǎng)卡批量升級(jí)，服務(wù)器BIOS、BMC、RAID批量配置；支持服務(wù)器硬盤故障預(yù)測(cè)、內(nèi)存故障預(yù)測(cè)功能；支持流程管理功能，包括設(shè)備上架流程、設(shè)備下架流程、問(wèn)題處理流程、測(cè)試環(huán)境變更流程、硬件變更改配流程、設(shè)備位置變更流程等； 12.AI平臺(tái)：配置1個(gè)節(jié)點(diǎn)（物理服務(wù)器）人工智能訓(xùn)推一體平臺(tái)；支持通過(guò)平臺(tái)快速構(gòu)建交互式AI開(kāi)發(fā)環(huán)境，提供Jupyter、Webshell在線交互開(kāi)發(fā)，支持對(duì)接第三方開(kāi)發(fā)工具VSCode、PyCharm；支持單機(jī)或分布式訓(xùn)練任務(wù)，可以提交Tensorflow、Caffe、pytorch、PaddlePaddle、MXNet框架的單機(jī)或分布式訓(xùn)練作業(yè)，支持大模型訓(xùn)練容錯(cuò)；****服務(wù)部署，支持基于標(biāo)準(zhǔn)模型文件、自定義Docker鏡像、原生部署yaml、Helm部署多種部署方式；支持推理服務(wù)生命周期管理，支持服務(wù)上線過(guò)程中的離線測(cè)試、定時(shí)發(fā)布、流量調(diào)節(jié)、在線部署、多分桶測(cè)試、在線滾動(dòng)更新、灰度發(fā)布、在線服務(wù)評(píng)估、服務(wù)下線等全流程服務(wù)管理能力；支持GPU共享，支持GPU顯存隔離切分、GPU復(fù)用、Mig配置三種GPU共享方式；支持親和性調(diào)度策略、可基于數(shù)據(jù)集緩存位置、交換機(jī)拓?fù)洹⒐?jié)點(diǎn)親和性等親和性策略進(jìn)行調(diào)度；支持平臺(tái)內(nèi)創(chuàng)建持久卷聲明，****服務(wù)部署模式掛載持久卷聲明進(jìn)行；提供數(shù)據(jù)緩存加速機(jī)制，數(shù)據(jù)集可高速并行緩存到計(jì)算節(jié)點(diǎn)本地，并提供緩存數(shù)據(jù)的生命周期管理，支持緩存進(jìn)度查看，可進(jìn)行緩存數(shù)據(jù)的增量更新、手動(dòng)清理等； 13.支持基于yum 的模塊安裝與更新、實(shí)現(xiàn)應(yīng)用軟件及其依賴組件的高效安裝與更新，提供一年原廠技術(shù)支持服務(wù)。 14.電源：配置≥4個(gè)2200W電源； 15.售后服務(wù)：提供三年原廠售后質(zhì)保服務(wù)；官網(wǎng)查詢配置與實(shí)際供貨配置一致； 16.要求制造商進(jìn)行過(guò)至少1個(gè)NLP大模型如GPT2、GPT3等參數(shù)量大于10億的NLP語(yǔ)言模型在GPU服務(wù)器上的擴(kuò)展性測(cè)試，其中測(cè)試內(nèi)容需包含單機(jī)多卡的性能測(cè)試和多機(jī)多卡的性能測(cè)試； 17. 制造商進(jìn)行過(guò)AI多機(jī)并行加速性能測(cè)試，測(cè)試至少兩種深度學(xué)習(xí)框架，使用ImageNet圖片集，測(cè)試模型采用AlexNet，或Resnet從1個(gè)GPU卡到16個(gè)GPU卡的性能，加速比≥14x；;