NVIDIA的研究团队携手加拿大魁北克省的人工智能研究机构Mila，共同研发出了一种名为La-Proteina的原子级蛋白质设计新方法，该方法的核心技术是部分潜在流匹配。它成功融合了明确的骨干建模以及每个残基固定尺寸的潜在表示，有效捕捉到了序列与原子侧链的信息，从而克服了蛋白质生成过程中，显式侧链表示在维度上的变化难题。

众所周知，新型蛋白质的设计，其结构独特且功能明确，在药物研发和生物工程等多个领域展现出巨大的应用前景。然而，要达成这一目标并非易事，特别是在探索蛋白质序列与其结构之间的联系上，这始终是蛋白质从头设计过程中的一大挑战。

过往诸多研究多将蛋白质序列与结构设计过程各自独立，诸如先构建序列而后展开折叠，亦或先确定骨架结构再决定序列。然而，若要精确描绘蛋白质序列与全原子结构的联合分布，进而实现对功能区域的精确调控，以及完成诸如原子基序支架设计等关键蛋白质设计任务，这依旧是一项充满挑战的课题。这任务不仅要求我们处理零散的序列和连贯的坐标点，还必须面对随着序列变化而变化的侧链维度问题。

在此情境下，NVIDIA的研究团队携手加拿大魁北克省的人工智能研究机构Mila，共同推出了La-Proteina。该方法是一种基于部分潜在流匹配原理的原子级蛋白质设计技术。该模型成功融合了直观的骨干结构建模与每个残基的固定规模潜在表示，有效捕捉了序列与原子侧链的信息，克服了蛋白质生成过程中显式侧链表示维度变化的难题，为蛋白质设计领域带来了显著的创新与突破。

该研究成果以“La-Proteina：通过部分潜在流匹配实现原子级蛋白质生成”为题，已在arXiv上发表。

研究亮点：

提出了一种名为La-Proteina的部分隐式流匹配框架，该框架特别针对联合生成蛋白质序列及其完整的原子级结构而构建。它巧妙地融合了清晰的主链建模技术与每个残基固定大小的隐式表示，从而有效地捕捉了序列信息以及原子级侧链的特征。

在众多基准实验的广泛测试中，La-Proteina 在无条件的蛋白质合成领域实现了业界顶尖水平，其能力足以构建出由多达800个氨基酸残基组成的多样化、可协同设计且结构上高度有效的全原子级蛋白质。

该研究成功实现了La-Proteina在构建索引与非索引原子级基序支架设计中的应用，这一应用涉及两个关键的蛋白质设计任务。实验结果表明，该模型在性能上超越了以往的全原子生成器。

该论文的链接为：https://go.hyper.ai/3csT5，其中所提供的数据集旨在用于培养无监督学习模型，并分析蛋白质数据的特点及其功能。

该研究使用了 2 个训练无条件模型的数据集：

该数据集是经过Foldseek聚类处理的，来源于AlphaFold数据库（AFDB）的精选与归类。在聚类过程中，它综合了序列与结构信息。起初，大约拥有300万个独一无二的样本。经过一系列严格的优化标准筛选——包括平均pLDDT分数需达到80分以上、蛋白质长度介于32至512个氨基酸之间、卷曲率低于50%，且连续的卷曲氨基酸不超过20个——并且特别强调了β-折叠的存在，以解决模型生成蛋白质中β-折叠含量不足的问题。最终，筛选出了大约55万个蛋白质样本。这一数据集经过精心挑选，有助于使模型生成的蛋白质在结构特征上更加均衡，特别是在提升β-折叠含量方面表现尤为显著。

第二点，是专为长序列训练设计的AFDB子集。研究人员在AFDB数据库中挑选出平均pLDDT值不低于70，且序列长度介于384至896个氨基酸之间的样本。经过聚类分析，最终获得了超过400万个聚类，用于训练目的。这一子集专注于处理更长的蛋白质序列，从而满足了长序列训练的特定需求。

此外，蛋白质数据中不仅包含了序列信息，涉及20种不同的残基类型，还包含了其三维结构信息。这些信息是通过Atom37表示法进行统一存储的。Atom37表示法为每一个残基定义了一个包含37个潜在原子的标准化集合。因此，一个L型残基的蛋白质结构可以被存储为一个特定形状的张量，并且根据残基的具体类型，会选择相应的坐标子集进行存储。

这种标准化方法具有为各类残基结构信息提供一致存储与展示特性的特点，其作用在于为模型统一处理各种残基结构信息打下了坚实的基础；同时，AFDB的大规模数据特性为模型提供了充足的样本，有助于其学习更广泛的蛋白质序列和结构特性，从而增强性能和泛化能力。通过这些数据的训练与实验，相关模型能够更有效地捕捉蛋白质序列与结构之间的关联，实现更加精确的设计。

La-Proteina：在原子级别上，对蛋白质设计模型进行创新性架构构建及其训练策略的深入研究

La-Proteina 模型是一种专门针对原子级蛋白质构建的创新性设计方案，其设计精髓聚焦于“部分隐式表示”这一核心概念，目的在于应对原子级结构完全生成过程中所面临的诸多复杂难题。

在设计阶段，我们注意到在构建全原子结构时，必须同时应对处理大规模骨架、氨基酸种类以及侧链（侧链的维度会随着氨基酸的不同而变化）的难题。为此，La-Proteina 提出了一种方法，即将每个残基的原子级详细信息及其类型编码到一个固定长度的连续隐空间中，并且利用 α-碳坐标来确保主链结构的准确性。

该设计具有多方面优点——不仅成功解决了模型核心生成部分混合连续-分类建模的难题，使得全连续流匹配技术能够高效地生成隐变量，还基于主链建模的高性能进展实现了拓展；此外，清晰的主链建模使得对全局α-碳主链和残基原子级细节的生成时间表可以进行个性化设置，这是实现高性能的关键所在，同时也增强了模型的扩展性，使其能够应用于生成多达800个残基的大型蛋白质，而这种混合方法正是其相较于完全隐式建模框架所具有的核心优势。

观察其构成要素，我们可以发现，La-Proteina的核心部分由三个神经网络组成，具体包括编码器（encoder）、解码器（decoder）以及去噪器（denoiser）。这三个神经网络共同采用了基于偏置注意力机制的 Transformer 核心架构。

编码器主要任务是将输入蛋白质的序列与结构信息转化为潜在变量，这包括原始原子坐标、侧链、backbone的扭转角以及残基类型等初始序列信息，同时还有残基间的相对序列间隔、成对距离和相对方向等初始对信息；解码器负责根据潜在变量和α-碳原子坐标来重构完整的蛋白质结构，它需要处理每个残基的8维潜在变量和α-碳原子坐标；而去噪器网络则致力于预测样本从标准高斯参考分布转换到目标数据分布的速度场，并在其Transformer模块中对插值时间进行条件化处理。

La-Proteina 的组成

训练方式上，La-Proteina 采用两阶段训练策略。

在第一阶段，我们针对变分自编码器（VAE）的训练条件进行了设置：编码器负责将输入的蛋白质映射至潜在变量，而解码器则根据这些潜在变量以及 α-碳原子的坐标来重建蛋白质结构。整个VAE模型通过最大化β加权的证据下界（ELBO）来实现优化。对于这一建模过程，重建项可以被简化为序列的交叉熵损失以及蛋白质结构的平方L2损失。

在第二阶段，我们着重对流匹配模型进行了优化，使其更接近目标分布。去噪器网络通过最小化条件流匹配（CFM）的目标进行训练。而在此阶段，采用两个独立的插值时间tx和tz成为了一个关键的设计——这一设计使得在推理过程中，我们可以对α-碳原子坐标和潜在变量实施不同的积分调度，从而显著提升了模型的表现。

通过这种设计和训练方法，La-Proteina 能够高效地学习蛋白质序列和全原子结构的联合分布，从而为原子级蛋白质的设计提供了强有力的技术支持。

实验结果显示，La-Proteina 在所有四种实验中均表现出显著优势，领先幅度较大。

为了检验La-Proteina的性能，研究团队针对无条件的原子级蛋白质生成以及基于原子的序列支架设计这两个核心领域，开展了一系列的实验研究，并全面评估了该模型在多种不同场景中的表现。

在实施无条件的原子级蛋白质生成实验时，如图所示，该研究团队选取了La-Proteina的两个版本（分别包含和不含三角乘法层）作为研究对象，并将它们与P（all-atom）、APM、PLAID等多种公开的全原子生成基准方法进行了详细的比较。在评估过程中，他们考虑了包括全原子协同设计能力、多样性、创新程度以及标准设计能力在内的多个评价指标。

研究结果表明，La-Proteina的两个变异形式在实现全原子协同设计、设计效能以及多样性方面均超越了所有基准方法，同时在创新性方面也展现出了显著的优势。

La-Proteina 生成无条件长链的性能

值得关注的是，La-Proteina即便不采用三角乘法层，也能实现顶尖的性能水平，并且展现出较强的可扩展性；相比之下，性能稍逊一筹的P(all-atom)模型，由于必须依赖计算代价高昂的三角更新层，因而只能处理较短的蛋白质序列。

研究团队进一步证明了 La-Proteina 在构建大型全原子结构方面的扩展能力。他们通过在包含约 4,600 万个样本的 AFDB 数据集上进行训练，发现该模型在处理长度超过 500 个残基的蛋白质生成任务时表现尤为出色。与此同时，其他基于全原子的方法在相同长度范围内往往难以产生有效的样本。

在生物物理领域的研究中，我们运用了MolProbity工具对结构的有效性进行了细致的评估。评估结果显示，La-Proteina所生成的结构质量明显更优，其得分显著高于所有基准方法。这些结构在物理属性上更为真实，与实际蛋白质的相似度更高。此外，通过可视化分析侧链的二面角分布，并将结果与PDB和AFDB数据库中的参考数据进行对比，我们发现La-Proteina能够精确地模拟氨基酸旋转异构体的构象空间。相比之下，基准方法往往偏离参考数据，容易出现遗漏特定模式或填充不切实际角度区域的问题。

La-Proteina 在结构有效性方面超越了当前全原子生成的基准线。

在原子基序支架设计实验中，研究团队对该模型在完成原子基序支架设计任务时的表现进行了细致的评估。这项任务规定模型必须根据预先设定的基序原子结构，构建出能够精确支撑该基序的蛋白质结构。实验是在4种不同的评估条件下进行的，涵盖了全原子与尖端原子支架设计，以及索引与非索引版本的对比。

实验结果表明，在所有四种配置中，La-Proteina 的表现均显著超越那唯一可对比的全原子基准方法Protpardelle，并且有效解决了大部分基准测试任务。尤其是那些由三个或更多不同残基段构成的基序，非索引版的La-Proteina在性能上超越了索引版，这或许是因为固定多个段落的相对位置，从而限制了模型在寻找不同结构解决方案时的灵活性。

原子级蛋白质设计领域的科研突破和创新实践

在蛋白质设计这一前沿领域，La-Proteina所倡导的原子级蛋白质设计理念受到了学术界及企业界的普遍关注，众多高等院校与企业在该领域实现了显著的科研成果与创新的实践探索。

在学术领域，若干研究集体正着力提升蛋白质生成模型的性能与扩展能力。以NVIDIA携手魁北克人工智能研究所Mila、蒙特利尔大学以及麻省理工学院的研究团队为例，他们共同研发的Proteina模型，通过在庞大的AlphaFold数据库（AFDB）中接受训练，成功展现了流式蛋白质结构生成模型在扩展性方面的优势。

某些研究采纳了扩散模型来辅助蛋白质的设计，例如早期的RFDiffusion和Chroma等基于扩散原理的蛋白质生成工具，它们主要致力于骨架结构的构建。随着研究的深入，扩散模型在蛋白质设计领域的应用得到了进一步扩展，包括在SO(3)流形上的扩散技术和欧几里得流匹配等多种方法。

部分研究团队专注于对蛋白质序列及其结构的综合模拟。比如，由英伟达与麻省理工学院共同开发的 ProtComposer，它运用辅助统计模型及三维基元来构建蛋白质结构；另外一些研究则采用联合建模方法，对蛋白质的主干结构及序列进行模拟，或是利用潜在变量模型来处理蛋白质的全原子结构。此外，蛋白质设计的领域也引入了语言模型，其中某些技术专攻于蛋白质序列的分析，而其他技术则对结构信息进行编码，并将其与序列信息结合进行联合建模。

在企业领域，荷兰的生物技术企业Cradle致力于运用人工智能技术来简化蛋白质设计的流程。该公司通过构建湿实验室，积累了数十亿个蛋白质序列以及相应的数据，以此为基础训练专有的生成式人工智能模型。这一举措使得蛋白质的设计与优化工作变得更加高效便捷。美国一家AI制药公司Xaira Therapeutics，凭借其在高级机器学习研究、海量数据生产以及治疗法研发上的卓越能力，专注于为特定病症研发合适的分子。此外，部分企业正致力于将蛋白质设计技术同人工智能与机器学习技术融合，以提升蛋白质设计的效率与精确度。

这些高校在科研领域取得的突破以及企业在创新方面的实践，为蛋白质设计这一领域带来了宝贵的经验和强有力的技术支持，从而不断推动其向前迈进。伴随着技术的持续发展，我们有理由相信，蛋白质设计在未来的更多领域中必将扮演关键角色。

请查阅以下链接获取相关文章：1.https://mp.weixin.qq.com/s/7r69S3XpNMjemo3EiXzNeQ，2.https://mp.weixin.qq.com/s/DrZEdsb1SqSSkv_hbrp3TA。