美人工智能初创公司推出可模拟5亿年生命进化的ESM3模型

1月16日，由前Meta首席科学家Alexander Rives领衔的美国人工智能初创公司Evolutionary Scale推出新一代多模态生成式模型ESM3。该模型首次实现了对蛋白质序列、结构和功能的统一推理，并设计了一个新的绿色荧光蛋白（GFP）。新蛋白的基因序列与已知荧光蛋白的差异巨大，如果通过天然荧光蛋白的生物进化，则需要超过5亿年左右的时间。研究人员使用了超过31.5亿条蛋白质序列、2.36亿个蛋白质结构，以及5.39亿个带有功能注释的蛋白质数据来训练ESM3模型。该模型总共有三种不同的规模，分别为14亿、70亿和980亿参数。实验表明，随着模型参数规模的增加，ESM3在生成能力和表示学习上的性能有显著提升，特别是在生成蛋白质结构时，980亿参数的模型表现出超越现有模型的强大能力。相关研究成果已发表在《Science》期刊上。