元腦企智DeepSeek一體機NF5698A7原生支持FP8計算引擎,以1536GB HBM3顯存、5.3 TB/s 內(nèi)存帶寬實現(xiàn)了顯存容量與通信效率的黃金組合,適配 DeepSeek R1模型“短輸入長輸出、顯存帶寬敏感”的技術(shù)特性,單機支持全量DeepSeek R1與V3模型推理情況下,仍保留充足的KV緩存空間。
了解詳細>>基于AI創(chuàng)新培養(yǎng)綜合服務(wù)平臺所構(gòu)建的“教-學(xué)-訓(xùn)-賽-評”閉環(huán)體系已在全國多所高校上線,日均處理實訓(xùn)數(shù)據(jù)超過百萬條,使人才與崗位的匹配度提升了40%以上,推動了戰(zhàn)略新興產(chǎn)業(yè)的高質(zhì)量人才輸送。
了解詳細>>浪潮推出元腦CPU推理服務(wù)器,可運行DeepSeek和千問QwQ等新一代大推理模型。元腦CPU推理服務(wù)器NF8260G7和NF8480G7設(shè)計采用4顆高性能通用CPU和多通道內(nèi)存系統(tǒng),通過張量并行策略和AMX加速技術(shù),單機即可運行DeepSeek-R1 32B和QwQ-32B推理模型,單用戶性能超20 tokens/s
了解詳細>>浪潮NF3290G8服務(wù)器采用模塊化解耦設(shè)計,可根據(jù)客戶應(yīng)用場景和業(yè)務(wù)規(guī)模,靈活配置1~2顆CPU,可支持兩個單路節(jié)點,計算密度翻番,成為多元算力時代,企業(yè)應(yīng)用算力的性能之選。
了解詳細>>NF5468G7是浪潮信息暢銷的NF5468系列的新產(chǎn)品,是具備多元算力性能、彈性架構(gòu)擴展的全新一代人工智能服務(wù)器,4U空間內(nèi)部署8顆性能GPU,可根據(jù)應(yīng)用場景實現(xiàn)拓撲切換。搭載2顆Intel第四代/第五代至強可擴展處理器。
了解詳細>>浪潮信息元腦R1推理服務(wù)器已完成對開源框架SGLang新版本的深度適配,成功實現(xiàn)在單機高性能運行DeepSeek R1 671B模型時可支持超過1000路的用戶并發(fā)訪問。
了解詳細>>日月更迭,華彩煥新。2024年對于我們而言拼搏是貫穿全年工作的主旋律,我們用汗水澆灌希望,以實干鑄就輝煌。面對挑戰(zhàn),我們一路披荊斬棘毫不退縮。2025年開啟新征程,讓我們在這一年繼續(xù)以夢為馬,不負韶華,續(xù)寫更加璀璨的篇章。
了解詳細>>