zovo.imzovo.im
首页›AI 快讯›正文

Hugging Face 开源 Carbon-X:能读 DNA 序列的 14.8B 模型,单张 80GB 显卡可部署

zovo约 3 分钟读完
Carbon-X 是 Hugging Face 生物研究团队联合中关村学院、意大利 TIGEM 与那不勒斯大学发布的开源模型。你可以把原始 DNA 序列放进普通对话里,让它判断突变更像良性还是致病、某段序列是否属于调控区域,或预测接下来的碱基。模型卡在 10 月 21 日上线,10 月 23 日有更新,许可证为 Apache 2.0。

01它是怎么读懂 DNA 的

Carbon-X 在 Qwen3-14B 的基础上继续训练,总参数 14.8B。词表在原有文字 BPE 之外新增 5,515 个 DNA 词元:4,096 个 6-mer(每个词元对应 6 个碱基)、1,364 个处理尾部碱基的词元和若干标记。DNA 和文字走同一个 Transformer,不需要单独的 DNA 编码器。分词器会自动识别提示词里不少于 6 个的 A/C/G/T 序列并打上 <dna> 标记。

训练分三步:约 302B token 的继续预训练(其中原始 DNA 占 55%、英文 20%、生物文本 15%、指令数据 10%),再做监督微调,最后用可验证奖励做强化学习。上下文窗口 40,960 token,官方建议关闭思考模式使用。

02成绩:接近前沿闭源模型,但要看是哪一项

以下为官方模型卡自述,本站未复现。Carbon-X 关闭思考,对比模型取各自得分最高的推理档位。

基准Carbon-XGPT-6.1 SolOpus 5.5
BioReason Coding(编码区变异)74.971.070.3
BioReason Non-SNV(复杂变异)85.191.794.8
GenomeQA(序列理解)63.667.262.2
NextBase(后续碱基预测)39.432.91.1
FrontierVEP(单碱基变异)70.474.976.2
五项平均66.767.560.9

也就是说,它在编码区变异和后续碱基预测上领先,在复杂变异和单碱基变异上仍落后于最强的闭源模型。其中 FrontierVEP 与 NextBase 是作者团队自建的基准,BioReason 和 GenomeQA 来自已有文献。剪接位点(29.8%)和组蛋白标记(34.6%)两项 GenomeQA 子任务得分偏低。

官方还给出成本估算:按 H200 每小时 5 美元计,分析 ClinVar 中 240 万个意义未明变异约需 300 美元,而文中评测的前沿模型为 3.2 万到 400 万美元。这是官方的估算,不是实测账单。

03怎么跑起来

BF16 权重可放进单张 80GB 显卡;需要 Transformers v5 及以上,分词器要加 trust_remote_code=True。vLLM 提供服务的命令如下(本站未实际运行,来自模型卡):

bash
pip install -U vllm
vllm serve HuggingFaceBio/Carbon-X --trust-remote-code

仓库里还附带了给 Claude Code、Codex CLI 用的 carbon-dna 技能,以及通用工具调用示例。llama.cpp 等 GGUF 运行时不支持,因为自定义的 DNA 分词器它们加载不了。

04限制

  • 官方明确说明未经临床验证,不能用于医疗决策。
  • 精确计数、坐标和序列编辑容易出错,建议这类操作交给代码。
  • 只擅长读取和解释现有序列,不是为生成新序列训练的,长序列生成质量会下降。
  • 提示里缺少基因、链、坐标等上下文时,模型可能编造序列的身份或功能。
  • 基因数据敏感,使用第三方推理服务或在线 Demo 前要确认数据如何处理。

对做基因组分析的研究者,它的意义在于可以私有化部署、成本低,适合做大批量初筛,再由专业流程复核。

标签:
本文由 zovo 编辑撰写,转载请注明出处。

相关文章