北大&望石智慧提出全新模型:弥合化学反应预训练与条件分子生成之间的鸿沟!
化学反应是药物设计和有机化学研究的基础。研究界越来越需要一种能够有效捕获化学反应基本规则的大规模深度学习框架。
近日,来自北京大学和望石智慧的研究团队提出了一种新方法来弥合基于反应的分子预训练和生成任务之间的差距。
受到有机化学机制的启发,研究人员开发了一种新的预训练框架,使其能够将归纳偏差纳入模型中。这个提出的框架在执行具有挑战性的下游任务时取得了最先进的结果。通过掌握化学知识,该框架克服了目前依赖少量反应模板的分子生成模型的局限性。在大量的实验中,该模型生成了高质量的可合成药物样结构
总的来说,该研究向各种基于反应的应用程序的大规模深度学习框架迈出了重要一步。
该研究以《Bridging the gap between chemical reaction pretraining and conditional molecule generation with a unified model》为题,于 2023 年 12 月 5 日发布在《Nature Machine Intelligence》上。
论文链接:https://www.nature.com/articles/s42256-023-00764-9
深度学习模型已经在许多科学研究领域得到广泛应用。预训练框架对于新任务的无缝集成起到了积极作用,可以加快建模过程,特别是在标记数据有限的情况下
药物设计和有机化学研究的基础是化学反应。目前,数据挖掘的研究和应用已经使得深度学习模型可以用于化学反应。基于这些数据,已经有许多数据驱动的研究深入研究化学反应的表征学习
表征学习是指从数据中自动学习有用的特征,然后将其用于各种下游任务。现有方法忽略了有机化学的基本理论,限制了其性能。
基于化学反应的分子生成
除了反应分类任务外,基于化学反应的分子生成也是一个重要的应用。在早期的研究中,通常采用基于模板的逐步分子生成策略
这些基于模板的方法在很大程度上依赖于预定义的构建模块和反应,这缩小了可访问的化学空间。在反应产物预测领域也发现了类似的趋势,其中基于模板的方法不能外推到复杂的反应;这个问题可以通过使用无模板方法来解决。
在基于反应的分子生成任务中,无模板方法也表现出了优于基于模板方法的泛化优势。然而,现有的无模板分子生成方法只能基于预定义的反应物库生成分子。除此之外,对于药物设计中的先导化合物或先导化合物优化阶段,利用化学反应作为编辑工具来修改给定的结构是更有利的。生成的化学库将重点关注可以用更少的反应步骤合成的化学空间的子集。
一个新、全面的化学反应深度学习框架
在此,研究人员提出了一个新的、全面的化学反应深度学习框架,称为 Uni-RXN。旨在解决两个基本任务:自监督表征学习和条件生成建模。
展示:Uni-RXN的组成和方法。(引自:论文)
与现有方法不同,研究人员提出了一套专门针对化学反应精心设计的自监督任务。这些任务包括反应中心预测、主反应物与子反应物配对以及反应物-产物配对。在对具有挑战性的反应任务的广泛评估中,Uni-RXN 方法超越了最先进的水平,证明了其有效捕获化学反应领域知识的能力。所获得的有希望的结果为广泛的下游应用铺平了道路
通过有效捕获化学规则,Uni-RXN 非常适合生成任务。与依赖于从预定义反应物库中选择片段的传统方法不同,Uni-RXN 将分子结构作为输入条件并生成相应反应物的表示,同时保持反应内的排列不变性。利用密集向量相似性搜索包的强大功能,Uni-RXN 能够从大型反应物和试剂库中高效检索反应物。随后,采用反应预测模型来生成产物输出。
与仅探索化学空间的有限子集的基于模板的方法相比,Uni-RXN 在生成更广泛的可合成药物样结构方面表现出卓越的性能。这一特点使其特别适合虚拟 library 枚举,并得到全面统计分析和案例研究的支持。
Uni-RXN 方法有许多优势,可以为具有挑战性的化学反应分类任务生成丰富的表达。相对于其他基线模型,Uni-RXN 在每类仅提供 4 个数据点的情况下,准确率达到了 58.7%
重写后的内容:化学反应分类的准确度见表1。(来源:论文)
Transformer 模型可以被用来区分优化和未优化的化学反应数据。此外,编码器也可以轻松应用于结构条件的生成
需要重新改写的内容是:图表展示了Uni-RXN的检索性能和注意力权重。(来源:论文)
研究结果强调了所提出的模型所生成的分子具有有利的特性,这使得它们非常适合于药物发现任务。该模型可以生成更多具有类似药物特性和可合成性的分子
图示:Uni-RXNGen 流程与性能。(来源:论文)
与分子对接等虚拟筛选方法相结合,该生成模型可以实现高效的构效关系研究。该模型生成的巨大的可合成类药物化学空间可以提高药物再利用或命中分子搜索的真阳性率。
以上是北大&望石智慧提出全新模型:弥合化学反应预训练与条件分子生成之间的鸿沟!的详细内容。更多信息请关注PHP中文网其他相关文章!

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

热门话题

想象一下,一个人工智能模型,不仅拥有超越传统计算的能力,还能以更低的成本实现更高效的性能。这不是科幻,DeepSeek-V2[1],全球最强开源MoE模型来了。DeepSeek-V2是一个强大的专家混合(MoE)语言模型,具有训练经济、推理高效的特点。它由236B个参数组成,其中21B个参数用于激活每个标记。与DeepSeek67B相比,DeepSeek-V2性能更强,同时节省了42.5%的训练成本,减少了93.3%的KV缓存,最大生成吞吐量提高到5.76倍。DeepSeek是一家探索通用人工智

AI,的确正在改变数学。最近,一直十分关注这个议题的陶哲轩,转发了最近一期的《美国数学学会通报》(BulletinoftheAmericanMathematicalSociety)。围绕「机器会改变数学吗?」这个话题,众多数学家发表了自己的观点,全程火花四射,内容硬核,精彩纷呈。作者阵容强大,包括菲尔兹奖得主AkshayVenkatesh、华裔数学家郑乐隽、纽大计算机科学家ErnestDavis等多位业界知名学者。AI的世界已经发生了天翻地覆的变化,要知道,其中很多文章是在一年前提交的,而在这一

波士顿动力Atlas,正式进入电动机器人时代!昨天,液压Atlas刚刚「含泪」退出历史舞台,今天波士顿动力就宣布:电动Atlas上岗。看来,在商用人形机器人领域,波士顿动力是下定决心要和特斯拉硬刚一把了。新视频放出后,短短十几小时内,就已经有一百多万观看。旧人离去,新角色登场,这是历史的必然。毫无疑问,今年是人形机器人的爆发年。网友锐评:机器人的进步,让今年看起来像人类的开幕式动作、自由度远超人类,但这真不是恐怖片?视频一开始,Atlas平静地躺在地上,看起来应该是仰面朝天。接下来,让人惊掉下巴

本月初,来自MIT等机构的研究者提出了一种非常有潜力的MLP替代方法——KAN。KAN在准确性和可解释性方面表现优于MLP。而且它能以非常少的参数量胜过以更大参数量运行的MLP。比如,作者表示,他们用KAN以更小的网络和更高的自动化程度重现了DeepMind的结果。具体来说,DeepMind的MLP有大约300,000个参数,而KAN只有约200个参数。KAN与MLP一样具有强大的数学基础,MLP基于通用逼近定理,而KAN基于Kolmogorov-Arnold表示定理。如下图所示,KAN在边上具

谷歌力推的JAX在最近的基准测试中性能已经超过Pytorch和TensorFlow,7项指标排名第一。而且测试并不是在JAX性能表现最好的TPU上完成的。虽然现在在开发者中,Pytorch依然比Tensorflow更受欢迎。但未来,也许有更多的大模型会基于JAX平台进行训练和运行。模型最近,Keras团队为三个后端(TensorFlow、JAX、PyTorch)与原生PyTorch实现以及搭配TensorFlow的Keras2进行了基准测试。首先,他们为生成式和非生成式人工智能任务选择了一组主流

今天我想分享一个最新的研究工作,这项研究来自康涅狄格大学,提出了一种将时间序列数据与自然语言处理(NLP)大模型在隐空间上对齐的方法,以提高时间序列预测的效果。这一方法的关键在于利用隐空间提示(prompt)来增强时间序列预测的准确性。论文标题:S2IP-LLM:SemanticSpaceInformedPromptLearningwithLLMforTimeSeriesForecasting下载地址:https://arxiv.org/pdf/2403.05798v1.pdf1、问题背景大模型

特斯拉机器人Optimus最新视频出炉,已经可以在厂子里打工了。正常速度下,它分拣电池(特斯拉的4680电池)是这样的:官方还放出了20倍速下的样子——在小小的“工位”上,拣啊拣啊拣:这次放出的视频亮点之一在于Optimus在厂子里完成这项工作,是完全自主的,全程没有人为的干预。并且在Optimus的视角之下,它还可以把放歪了的电池重新捡起来放置,主打一个自动纠错:对于Optimus的手,英伟达科学家JimFan给出了高度的评价:Optimus的手是全球五指机器人里最灵巧的之一。它的手不仅有触觉

目标检测在自动驾驶系统当中是一个比较成熟的问题,其中行人检测是最早得以部署算法之一。在多数论文当中已经进行了非常全面的研究。然而,利用鱼眼相机进行环视的距离感知相对来说研究较少。由于径向畸变大,标准的边界框表示在鱼眼相机当中很难实施。为了缓解上述描述,我们探索了扩展边界框、椭圆、通用多边形设计为极坐标/角度表示,并定义一个实例分割mIOU度量来分析这些表示。所提出的具有多边形形状的模型fisheyeDetNet优于其他模型,并同时在用于自动驾驶的Valeo鱼眼相机数据集上实现了49.5%的mAP
