Hugging Face 发布可在笔记本本地运行的 DNA 对话模型 Carbon-X
Hugging Face’s New AI Biology Model Lets You Chat With DNA
Hugging Face 发布开源模型 Carbon-X,用户可用自然语言询问 DNA 变化对基因活动和健康的影响,并获得对话式回答。模型使用 300 billion tokens 训练,规模为 14 billion parameters,可在本地运行;用户每次只能查询约 50,000 个碱基对,不能上传完整人类基因组。开发者尚未通过实际湿实验验证模型预测的准确性。
Carbon-X 将 DNA 与自然语言结合成对话界面,并可在本地运行;报道也交代了其与 AlphaGenome、Evo 2 的差异及实验验证边界。
AI 平台 Hugging Face 于周四发布了一款新的开源模型,可在笔记本电脑上本地运行,用于理解 DNA。
这款模型由中国中关村学院和意大利那不勒斯费德里科二世大学的研究人员合作开发,基于基因组序列和自然语言进行训练。人们可以询问 DNA 变化对基因活性和健康的影响,并获得对话式回答。
Hugging Face 的高级研究科学家 Lewis Tunstall 表示,这款工具旨在帮助研究人员设计新药和基因疗法,也有望帮助患者解读自己的基因组。
“我们解锁了语言模型的一项新能力,其核心是能够与 DNA 对话,”他在谈及这款名为 Carbon-X 的新模型时说。借助自然语言,即使是非技术用户“也能提出关于 DNA 的问题,而这些问题通过其他任何工具都无法解答”。
Hugging Face 本质上是面向 AI 模型的 GitHub,提供现成 AI 工具库和平台,让开发者、研究人员、企业以及希望尝试 AI、但不想从头构建一切的人运行以开放权重和开源 AI 应用为主的工具。9 月,Nvidia 同意以近 130 亿美元收购该公司。(今年早些时候,Hugging Face 也因遭到 OpenAI 模型的大规模攻击而成为焦点。)
DNA 更像计算机代码,而非自然语言。不过,它使用 A、C、G 和 T 来编码信息,而不是 0 和 1。人类基因组包含 60 亿个这样的字母。尽管人类基因组已经完成全序列测定,科学家仍不了解其中大部分内容的运作方式。
如今,AI 模型正帮助研究人员破解其中的一些谜团。去年,Google DeepMind 发布了 AlphaGenome,它能预测 DNA 序列和基因突变的影响,但以数字格式呈现结果,而且需要更多算力。Arc Institute 和 Nvidia 与学术合作伙伴共同开发的模型 Evo 2 能够“说”DNA 的语言,并从零开始生成完整基因组。
Carbon-X 将 DNA 和自然语言整合到一个对话界面中。可以把它想象成 DNA 领域的 ChatGPT。
团队从一个现有语言模型入手,扩展其词汇表,使其能够读取由六个字母组成的 DNA 片段。随后,他们继续使用 3000 亿个数据块(即 token)进行训练,这些数据将 DNA 序列、英文文本以及关联 DNA 与生物学描述的示例结合起来。DNA 序列来自哺乳动物(包括人类)、其他脊椎动物、无脊椎动物、植物、真菌和原生动物。Tunstall 表示,团队没有使用病毒训练模型,因为他们不希望模型被用于可能危险的应用。
用户无法上传完整的人类基因组。该模型经过训练,能够输入约 50,000 个碱基对长度的 DNA 序列,因此用户一次只能查询基因组中的一小部分。
科学家使用 Carbon-X 的一种方式,是帮助判断某种基因突变是良性的还是致病的;这对于开发靶向药物或基因疗法至关重要。如果干预措施针对了错误的突变,可能会完全无效,甚至造成意想不到的伤害。
研究人员在将可识别身份或敏感的患者数据上传到前沿 AI 模型时会受到限制,因此 Tunstall 表示,他的团队有意设计了一个拥有 14 billion 个参数的小型模型。这样一来,模型就能在用户的硬件上本地运行,而不必依赖基于云端的模型。他表示,任何数据都不会发送到 Hugging Face 或其他公司。
Carbon-X 的开发者提醒称,他们尚未通过实际的湿实验室实验验证该模型,因此无法判断其预测有多准确。
来源:Wired · AI · wired.com