北大与DeepSeek联合开源DSpark框架，高并发下生成速度提升超60%
今日，DeepSeek联合北京大学正式发布DSpark推理加速框架，旨在解决大语言模型在高并发生产环境中的推理效率瓶颈。该框架已部署于DeepSeek-V4-Flash与DeepSeek-V4-Pro的预览版服务引擎中，相比此前生产环境采用的单token推测解码基线MTP-1，在同等吞吐量水平下可将单用户生成速度提升60%至85%。相关论文、训练代码及模型检查点已在GitHub平台DeepSpec项目中开源。（IT之家）文章来源于网络，若侵犯了您的合法权益，请来信通知我们，我们会及时删除，给您带来的不便，我们深表歉意。 |
特别提示：
本站不为所提供数据的错误、残缺、延迟或因依靠此信息所采取的任何行为负责。本股票网提供的所有内容仅供参考，不构成投资建议，投资者据此操作，风险自担。若侵犯了您的合法权益，请来信通知我们，我们会及时删除，给您带来的不便，我们深表歉意。
