独家整理，盗用必究
在药物发现领域,如何高效地从浩瀚的化学空间中找到具有潜力的先导化合物一直是一个巨大的挑战。近年来,随着人工智能特别是深度学习技术的飞速发展,一种全新的药物设计范式正在兴起 – 基于深度生成模型的化学空间探索与药物分子设计。
那么,这些先进的生成模型到底是如何工作的?它们在药物发现中有哪些潜在应用?又面临着哪些挑战?本文将为您深入解析一篇最新综述论文,全面介绍五种主流的深度生成模型在药物发现中的应用。
1. 化学空间探索的挑战与机遇
化学空间(Chemical Space,CS)是指所有可能存在的小分子化合物的集合。据估计,整个药物化学空间的规模在10^23到10^63之间,这是一个令人难以想象的庞大数字。传统的药物筛选方法,无论是实验室高通量筛选还是计算机虚拟筛选,都只能探索其中极其微小的一部分。
深度生成模型(Deep Generative Models,GMs)的出现为我们打开了一扇新的大门。这些模型能够从已知分子中学习复杂的化学规律,然后生成全新的、具有类似特性的分子结构。与传统方法不同,GMs不依赖于直接的结构相似性,而是通过复杂的、非透明的过程来生成新颖分子,极大地拓展了我们探索化学空间的能力。
2. 五大主流生成模型详解
本综述重点介绍了五种在药物发现领域广泛应用的深度生成模型架构:循环神经网络(RNNs)、变分自编码器(VAEs)、生成对抗网络(GANs)、标准化流(NF)和Transformer模型。让我们逐一深入了解这些模型的工作原理和特点。图1
2.1 循环神经网络(RNNs)
RNNs是一种具有循环连接的神经网络,能够处理和保留序列数据中的复杂信息。在分子生成任务中,RNNs通常用于处理SMILES这样的线性分子表示。
图1中的(a)部分展示了RNN的基本结构。RNN层递归地处理输入序列,在每一步接收一个输入向量和前一步的隐藏状态,然后输出一个新的向量和更新后的隐藏状态。这种结构使RNN能够”记住”之前的信息,非常适合处理SMILES字符串这样的序列数据。
然而,标准RNN在处理长序列时存在梯度消失或爆炸的问题。为解决这一问题,研究人员开发了长短期记忆(LSTM)网络和门控循环单元(GRU)等变体。这些改进使RNN能够更好地处理长距离依赖关系,捕捉分子结构中的复杂语法规则。
在实际应用中,RNN不仅可以单独使用,还常作为其他架构(如GAN和VAE)的重要组成部分。例如,在基于VAE的分子生成模型中,RNN可以作为编码器和解码器,将SMILES序列压缩为潜在空间中的向量,再从向量重构出分子结构。
2.2 变分自编码器(VAEs)
VAE是一种概率生成模型,由编码器和解码器两部分组成。与传统自编码器不同,VAE在潜在空间中引入了概率分布(通常是多元高斯分布),使得模型能够生成连续、平滑的潜在表示。
图1的(b)部分展示了VAE的基本架构。编码器将输入分子映射到潜在空间中的概率分布,而解码器则从这个分布中采样,重构出原始分子或生成新的分子。这种设计使VAE能够捕捉分子结构的连续性和相似性关系。
在药物发现中,VAE的一个重要应用是条件VAE(ConditionalVAE)。这种模型不仅学习分子结构,还能将分子性质(如生物活性)作为条件信息输入,从而生成具有特定性质的新分子。
此外,对抗自编码器(AAE)是VAE的一个有趣变体。AAE结合了GAN的思想,使用判别器网络来确保生成的潜在分布符合预设的先验分布,进一步提高了模型的生成能力。
2.3 生成对抗网络(GANs)
GAN由生成器和判别器两个相互竞争的神经网络组成,通过对抗训练来生成高质量的样本。
图1的(c)部分展示了GAN的基本结构。在分子生成任务中,生成器负责创造新的SMILES字符串,而判别器则试图区分这些生成的分子和真实的训练集分子。通过不断的对抗训练,生成器逐渐学会产生越来越真实的分子结构。
为了生成具有特定性质的分子,研究人员often将GAN与强化学习(RL)结合。例如,ORGAN和ORGANIC算法就采用了GAN+RL的训练策略,用于逆向分子设计。这些模型不仅能生成有效的分子结构,还能优化特定的分子性质,如类药性评分(QED)。
另一个值得关注的GAN变体是LatentGAN,它将自编码器与GAN结合,使用自编码器生成的潜在变量作为GAN的输入,显示出了很大的潜力。
2.4 标准化流(NF)模型
NF模型是一类基于可逆变换的概率生成模型,能够精确地表示真实的概率密度函数。
图1的(d)部分展示了NF模型的基本原理。NF使用一系列可逆变换,将简单的概率分布(如高斯分布)转换为复杂的分子数据分布。这种设计使NF模型在稳定性、收敛性和局部方差建模等方面具有优势。
在分子生成任务中,NF模型已经取得了一些令人瞩目的成果。例如,GraphAF是一个基于流的自回归模型,能够逐步生成分子图结构。MoFlow则是一个可逆的基于流的生成模型,在分子图生成、重构和性质优化方面达到了最先进的水平。
尽管NF模型在某些方面表现出色,但它们也面临一些挑战,如模型的可解释性较差,以及如何确保生成分子的可合成性等问题。
2.5 Transformer模型
Transformer模型最初是为自然语言处理任务设计的,但近年来在分子生成领域也显示出了巨大的潜力。
图1的(e)部分展示了Transformer的基本架构。Transformer的核心是多头自注意力机制,这使得模型能够有效地捕捉序列中的长距离依赖关系。在分子生成任务中,Transformer通常用于学习SMILES字符串的嵌入表示,并生成新的分子结构。
Transformer模型的一个重要应用是分子性质的条件生成。例如,多约束分子生成(MCMG)模型使用条件Transformer结合强化学习和知识蒸馏,能够有效地生成具有多种所需特性的分子。另一个例子是回归Transformer,它能够生成具有高质量连续属性的分子,在回归任务中表现优异。
此外,Transformer的跨域翻译能力也被应用于药物发现。例如,有研究者训练Transformer将氨基酸序列翻译成SMILES,从而为特定靶蛋白生成潜在的配体分子。
3. 分子表示方法的选择
选择合适的分子表示方法对生成模型的性能至关重要。目前,主要有两种表示方式:基于图的表示和基于字符串的表示。
基于图的表示将分子视为一个图结构,其中原子是节点,化学键是边。这种表示方法能够直接捕捉分子的拓扑结构,但需要复杂的图神经网络算法来处理。
基于字符串的表示,如SMILES(Simplified Molecular-Input Line-Entry System),将分子编码为一串字符。SMILES表示简单直观,易于处理,但存在一些局限性,如一个分子可能有多个SMILES表示。
为了克服SMILES的一些缺点,研究者提出了改进的表示方法,如DeepSMILES和SELFIES(SELF-referencing Embedded Strings)。这些新方法旨在提高分子表示的有效性和唯一性,但在实际应用中的效果还有待进一步验证。
4. 模型训练与定向化学空间探索
在药物发现中,我们通常需要生成具有特定性质(如对某个靶点的活性)的分子。然而,用于训练的高质量数据往往很稀缺。为了解决这个问题,研究者主要采用了两种策略:迁移学习(TL)和强化学习(RL)。
4.1 迁移学习(TL)
TL是一种两步训练过程:
首先在一个大型通用分子数据集(通常包含10^5到10^6个分子)上预训练模型。然后使用一个小型的、具有目标性质的分子集进行微调。这种方法能够显著减少在目标数据集上的训练时间,并提高模型性能。
4.2 强化学习(RL)
在RL框架中,生成模型被视为一个智能体,通过与环境(化学空间)交互来学习生成最优分子的策略。奖励函数通常基于所需的分子性质(如药性、生物活性或合成可行性)来定义。
图2的(b)部分展示了RL的基本框架。RL已被成功地整合到多种生成模型中,如RNNs、AAEs和GANs,为定向化学空间探索提供了强大的工具。
5. 生成模型的评估指标
评估生成模型的性能是一个复杂的问题。研究者提出了多种指标来衡量生成分子的质量和多样性:
有效性(Validity):生成的分子结构是否合法。新颖性(Novelty):生成的分子是否不同于训练集。独特性(Uniqueness):生成的分子中不重复的比例。多样性(Diversity):生成分子的结构多样性。此外,还需要评估生成分子的物理化学性质分布是否与目标分布一致。常用的指标包括分子量、logP、拓扑极性表面积等。
表1列出了评估生成模型的主要指标。这些指标涵盖了分子的结构特征、物理化学性质、生物学相关性等多个方面,为全面评估生成模型的性能提供了依据。
6. 结语与未来展望
深度生成模型为药物发现开辟了一条全新的道路,使我们能够更高效地探索广阔的化学空间。然而,这一领域仍然面临着诸多挑战:
分子表示方法的改进:现有的表示方法(如SMILES)仍有局限性,特别是在表示3D结构信息方面。未来需要开发能够更好地捕捉分子空间结构的表示方法。
可解释性:大多数深度学习模型是”黑箱”式的,难以理解它们是如何生成分子的。提高模型的可解释性对于指导药物设计至关重要。
合成可行性:生成的分子需要能够被实际合成。如何在模型中整合合成可行性的考量是一个重要的研究方向。
多目标优化:在实际药物设计中,我们通常需要同时优化多个分子性质。如何有效地进行多目标优化仍是一个挑战。
实验验证:虽然生成模型在计算机模拟中表现出色,但还需要更多的实验验证来证明其在实际药物发现中的价值。
尽管存在这些挑战,基于深度学习的生成模型在药物发现中的应用前景仍然是巨大的。随着算法的不断改进、计算资源的增加和更多高质量数据的积累,我们有理由相信,这些模型将在未来的药物研发中发挥越来越重要的作用,加速新药的发现和开发过程。
Lavecchia A. Navigating the frontier of drug-like chemical space with cutting-edge generative AI models[J]. Drug Discovery Today, 2024: 104133.
合肥科生景肽生物科技有限公司成立于2018年，目前已经打造了全球领先的以肽为核心的生命分子发现、合成生产、结构优化、递送平台，主要瞄准肽发现及靶向递送，专注于为各大制药企业、生物技术公司、科研单位提供一站式的定制化研发服务。 公司独有的KPDS™平台(KS-V Peptide Discovery Services Platform)是国际领先的的多肽药物发现平台，我们致力于创新药物的高效和精准开发，以科生景肽专有KPDS技术为核心，提供一站式，定制化的多肽发现服务，以灵活的产品形式和服务模式助力广大客户各类药物发现项目的快速推进和应用探究，包括但并不限于疾病诊断及保健功能产品、多肽药物、核素偶联药物(RDC)、基于小分子的肽药物偶联物（PDC)和多功能肽偶联物等。 中文官网地址：https://www.ks-vpeptide.com.cn/ 英文官网地址：https://www.ks-vpeptide.com
