跳到正文
36氪·· 4 天前同新闻AI 评分54

DeepSeek 决定全面开源内部推理框架 DeepInfer

DeepSeek:进一步将内部推理框架DeepInfer全面开源

AI 导读

DeepSeek决定全面开源内部推理框架DeepInfer,并计划持续更新新模型的推理代码及后续优化。基于DeepInfer,DeepSeek已实现V4.1 Flash的高吞吐、低延迟大规模推理服务。

同一新闻,精选展示《DeepSeek 推理框架对等支持华为、英伟达芯片意味着什么?》

来源:36氪 · 36kr.com