訊飛星火推理一體機(jī)
產(chǎn)品規(guī)格
訊飛星火推理一體機(jī)集成了星火標(biāo)準(zhǔn)版推理能力,
并支持行業(yè)版定制,提供全私有化星火大模型的推理應(yīng)
用,廣泛應(yīng)用于辦公、數(shù)字員工、智能客服等AI場景。
形態(tài) 2U AI服務(wù)器(標(biāo)準(zhǔn)機(jī)架)
CPU 2 * 鯤鵬920
NPU 2 * 昇騰910(PCIE板卡)
AI算力
560 TFLOPS FP16
150 TFLOPS FP32
內(nèi)存 16 * 16GB RDIMM DDR4 3200MHz
本地存儲(chǔ) 系統(tǒng)盤:2 * 480G SATA SSD
數(shù)據(jù)盤:2 * 1920GB SATA SSD
RAID支持 RAID 0 / 1 / 10 / 5 / 50 / 6 / 60等
網(wǎng)絡(luò) 2 * 25GE雙端口網(wǎng)卡
電源 2000W 白金交流雙電源,1+1冗余
供電
200 ~ 240 V AC
240 V DC
整機(jī)功耗 最大功耗 1.7 kW
散熱方式 風(fēng)冷
風(fēng)扇 4個(gè)熱拔插風(fēng)扇,支持N+1冗余備份
工作環(huán)境溫度 5°C ~ 40°C(41℉~104℉)
結(jié)構(gòu)尺寸 86.1 mm(高) * 447 mm(寬)* 790 mm(深)
整機(jī)重量 最大凈重:24KG
包裝材料重量:5KG
? 集成星火大模型推理應(yīng)用,能夠基于自然對(duì)話方式理
解與執(zhí)行推理任務(wù)
? 內(nèi)置高算力AI芯片、高性能算子庫,支持多卡高速互
聯(lián)、分布式存儲(chǔ)
? 為星火大模型量身定制的高性價(jià)比硬件方案,提升大
模型推理效率
性能領(lǐng)先
? 客戶內(nèi)網(wǎng)部署,物理層隔離,保障數(shù)據(jù)內(nèi)容安全
? 國產(chǎn)自主可控的星火大模型,搭配高性能的國產(chǎn)底層硬件
? 在企業(yè)內(nèi)網(wǎng),數(shù)據(jù)不出域,安全使用大模型能力
安全可控
? 內(nèi)置星火桌面企業(yè)版,實(shí)現(xiàn)即開即用
? 5種大模型智能應(yīng)用快速開發(fā)模式:對(duì)話開發(fā)、任務(wù)編
排、插件執(zhí)行、知識(shí)接入、提示工程
開箱即用