跳到正文
原文
The Decoder· Matthias Bastian·· 3 小时前AI 评分67

DeepSeek 开源推理框架 DeepInfer,支撑 V4.1-Flash 高速低价推理

Deepseek open-sources the inference engine that powers its fastest and cheapest AI model

AI 导读

DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架是 DeepSeek V4.1-Flash 模型在大规模下快速生成回答的 serving 软件。

来源:The Decoder · the-decoder.com