Hugging Face 开源 Carbon-X:能读 DNA 序列的 14.8B 模型,单张 80GB 显卡可部署
01它是怎么读懂 DNA 的
Carbon-X 在 Qwen3-14B 的基础上继续训练,总参数 14.8B。词表在原有文字 BPE 之外新增 5,515 个 DNA 词元:4,096 个 6-mer(每个词元对应 6 个碱基)、1,364 个处理尾部碱基的词元和若干标记。DNA 和文字走同一个 Transformer,不需要单独的 DNA 编码器。分词器会自动识别提示词里不少于 6 个的 A/C/G/T 序列并打上 <dna> 标记。
训练分三步:约 302B token 的继续预训练(其中原始 DNA 占 55%、英文 20%、生物文本 15%、指令数据 10%),再做监督微调,最后用可验证奖励做强化学习。上下文窗口 40,960 token,官方建议关闭思考模式使用。
02成绩:接近前沿闭源模型,但要看是哪一项
以下为官方模型卡自述,本站未复现。Carbon-X 关闭思考,对比模型取各自得分最高的推理档位。
| 基准 | Carbon-X | GPT-6.1 Sol | Opus 5.5 |
|---|---|---|---|
| BioReason Coding(编码区变异) | 74.9 | 71.0 | 70.3 |
| BioReason Non-SNV(复杂变异) | 85.1 | 91.7 | 94.8 |
| GenomeQA(序列理解) | 63.6 | 67.2 | 62.2 |
| NextBase(后续碱基预测) | 39.4 | 32.9 | 1.1 |
| FrontierVEP(单碱基变异) | 70.4 | 74.9 | 76.2 |
| 五项平均 | 66.7 | 67.5 | 60.9 |
也就是说,它在编码区变异和后续碱基预测上领先,在复杂变异和单碱基变异上仍落后于最强的闭源模型。其中 FrontierVEP 与 NextBase 是作者团队自建的基准,BioReason 和 GenomeQA 来自已有文献。剪接位点(29.8%)和组蛋白标记(34.6%)两项 GenomeQA 子任务得分偏低。
官方还给出成本估算:按 H200 每小时 5 美元计,分析 ClinVar 中 240 万个意义未明变异约需 300 美元,而文中评测的前沿模型为 3.2 万到 400 万美元。这是官方的估算,不是实测账单。
03怎么跑起来
BF16 权重可放进单张 80GB 显卡;需要 Transformers v5 及以上,分词器要加 trust_remote_code=True。vLLM 提供服务的命令如下(本站未实际运行,来自模型卡):
pip install -U vllm vllm serve HuggingFaceBio/Carbon-X --trust-remote-code
仓库里还附带了给 Claude Code、Codex CLI 用的 carbon-dna 技能,以及通用工具调用示例。llama.cpp 等 GGUF 运行时不支持,因为自定义的 DNA 分词器它们加载不了。
04限制
- 官方明确说明未经临床验证,不能用于医疗决策。
- 精确计数、坐标和序列编辑容易出错,建议这类操作交给代码。
- 只擅长读取和解释现有序列,不是为生成新序列训练的,长序列生成质量会下降。
- 提示里缺少基因、链、坐标等上下文时,模型可能编造序列的身份或功能。
- 基因数据敏感,使用第三方推理服务或在线 Demo 前要确认数据如何处理。
对做基因组分析的研究者,它的意义在于可以私有化部署、成本低,适合做大批量初筛,再由专业流程复核。


Claude Code
Hy-Memory
Octop