首页 > 科技创作 > 科技创作 > 英伟达完成DeepSeek-V4全系模型适配,支持百万级上下文与开源部署

英伟达完成DeepSeek-V4全系模型适配,支持百万级上下文与开源部署

发布时间:2026-04-26 20:14:42 来源: 19911111100

四月二十五日,英伟达正式宣布完成对DeepSeek-V4人工智能模型的适配支持。开发者可通过NVIDIA NIM微服务直接并部署该模型,也可基于SGLang或vLLM等主流推理框架开展灵活定制化应用。

DeepSeek-V4-Pro版本具备1.6万亿总参数与490亿激活参数,专为高复杂度推理任务设计;而DeepSeek-V4-版本则配置2840亿总参数与130亿激活参数,聚焦于低延迟、高吞吐的实时应用场景。两款模型均支持百万级Token上下文长度及最高达38.4万Token的单次输出能力,可全面支撑长文本理解、大规模文档解析等关键任务,并以MIT许可证形式开源。

实际部署测试表明,借助vLLM提供的即用型优化方案,开发者可在Blackwell架构B300硬件平台上实现快速启动与高效运行。后续随着Dynamo编译器、NVFP4稀疏精度支持以及CUDA底层内核的持续迭代升级,模型整体推理性能有望进一步增强。

科技创作更多>>

腾势N8L闪充版实车到店,35-40万预售补齐综合产品力 续航最高605km 吉利银河星舰7 EV将于6月10日正式上市 比亚迪澄清人形机器人传闻:代号“尧舜禹”等多项描述均不实 17.49万元起 纯电续航127km 一汽-大众迈腾PHEV 开启预售 放下溢价惯性后,奔驰给35万级豪华纯电上了一课 华为高管官宣享界SUV即将问世:定位方盒子SUV 比亚迪大唐EV搭载超快充技术,将于6月17日上市,预售25—32万元 从城市通勤到长途自驾,理想L9表现如何?老司机带你一探究竟 全新一代奥迪Q7预告,放心,还是传统门把手 环塔收官焕新登场,瑞虎8冠军家族新品发布 5月车市回暖,出口激增成主要拉动力 宾利新款飞驰官图,回归单头灯,调校更运动 新车“轮番轰炸”密集上市,国产爆款为何越来越稀缺? 领克10+和领克10开卖,信息量够大 魏牌高山7新款官图曝光,优化外观升级车身尺寸 比亚迪Racco即将上市,价格竞猜直接送车 错位对标,极狐问道V9 vs魏牌高山,家用MPV到底该选谁? 吉利5月卖23.8万辆背后,藏着三个“反常识”的信号 马自达最大的问题不是车,而是没人能说清马自达是什么 同日亮剑!问界M9对比蔚来ES9,双9对决谁能笑到最后 新款吉利牛仔上市,限时优享价7.59万元起 华为境系首车,预售21.99万起的启境GT7藏着哪些惊喜 奕境X9:华为乾崑够新的技术,奕境全搭载 零跑A10实测分享:顶配不到9万,续航505km,配激光雷达+8295芯片 中式豪华旗舰平权:2026 款魏牌 V9X 新车解析 10.49万元起!一汽悦意08开启预售,增程/纯电动力,顶配激光雷达 6.18万起,全新吉利星愿轮胎会说话 有华为和宁德时代护航,极狐问道V9却定了个低价,行得通吗? 首搭“迪迪虾”+纯电续航310km,比亚迪宋Ultra DM-i售12.99万起 9万起配半固态加后驱五连杆,MG4X