首页
AI 快讯
教程
开源项目
首页
›
标签
›
推理框架
#推理框架
共 1 篇,按时间排序
DeepInfer
开源项目
DeepSeek 开源推理框架 DeepInfer:支撑 V4.1-Flash 线上服务,但只放出离线推理部分
Apache-2.0 许可,目前只支持 V4.1-Flash,要 NVIDIA SM100 或昇腾 950;KV 缓存、PD 分离和负载均衡没有放出,不能直接搭成完整服务。
z
zovo
2026-10-21
–