目录
引言
用于图生成的无条件深度生成模型
用于图生成的条件深度生成模型
首页 科技周边 人工智能 如何生成「好」的图?面向图生成的深度生成模型系统综述

如何生成「好」的图?面向图生成的深度生成模型系统综述

Apr 12, 2023 pm 09:04 PM
模型 深度学习

图片

https://www.zhuanzhi.ai/paper/a904f0aa0762e65e1dd0b8b464df7168

图是描述对象及其关系的重要数据表示形式,它们出现在各种各样的现实场景中。图生成是该领域的关键问题之一,它考虑的是学习给定图的分布,生成更多新的图。然而,由于其广泛的应用,具有丰富历史的图的生成模型传统上是手工制作的,并且只能对图的一些统计属性建模。

最近在用于图生成的深度生成模型方面的进展是提高生成图的保真度的重要一步,并为新类型的应用铺平了道路。本文对用于图生成的深度生成模型领域的文献进行了广泛的概述。首先,给出了面向图生成的深度生成模型的形式化定义和初步知识;其次,分别提出了用于无条件和条件图生成的深度生成模型的分类;对各自已有的工作进行了比较分析。在此之后,将概述此特定领域中的评估指标。最后,总结了深度图生成的应用,并指出了五个有发展前景的研究方向。 

引言

图在现实世界中无处不在,表示对象及其关系,如社会网络、引文网络、生物网络、交通网络等。众所周知,图还具有复杂的结构,其中包含丰富的底层值[1]。人们在这方面做出了巨大的努力,产生了丰富的相关文献和处理各种图问题的方法。

这些工作可分为两类:1)预测和分析给定图的模式。2)学习给定图的分布,生成更多新颖的图。第一种类型涵盖了许多研究领域,包括节点分类、图分类和链接预测。在过去的几十年里,在这个领域已经做了大量的工作。与第一类问题相比,第二类问题与图生成问题有关,这也是本文的重点。

图生成包括建模和生成真实世界的图的过程,它在几个领域都有应用,例如理解社交网络[2],[3],[4]中的交互动态,异常检测[5],蛋白质结构建模[6],[7],源代码生成和翻译[8],[9],语义解析[10]。由于其广泛的应用,图的生成模型的发展有着丰富的历史,产生了著名的模型,如随机图、小世界模型、随机块模型和贝叶斯网络模型,这些模型基于先验结构假设[11]生成图。这些图生成模型[12]、[13]、[14]旨在建模预先选择的图族,如随机图[15]、小世界网络[16]和无标度图[12]。然而,由于其简单性和手工制作的性质,这些随机图模型通常对复杂依赖的建模能力有限,只能对图的一些统计属性建模。

这些方法通常很适合预定义原则为之量身定制的属性,但通常不能很好地适用于其他属性。例如,接触网络模型可以拟合流感流行,但不能拟合动态功能连接。然而,在许多领域,网络的性质和生成原理在很大程度上是未知的,如那些解释大脑网络中的精神疾病的机制,网络攻击和恶意软件的传播。对于另一个例子,Erdos-Renyi的图没有许多现实世界网络中典型的重尾度分布。此外,先验假设的使用限制了这些传统技术在更大规模的领域中探索更多的应用,在这些领域中,图的先验知识总是不可用。

考虑到传统图生成技术的局限性,一个关键的开放挑战是开发可以从观察到的图集合中直接学习生成模型的方法,这是提高生成图的保真度的重要一步。它为新类型的应用铺平了道路,如发现新的药物[17],[18],和蛋白质结构建模[19],[20],[21]。深度生成模型的最新进展,如变分自编码器(VAE)[22]和生成对抗网络(GAN)[23],已被提出用于生成图的许多深度学习模型,这些模型形式化了用于生成图的深度生成模型的有前途的领域,这是本综述的重点。

在深度图生成方面已经开展了各种先进的工作,从一次性图生成到顺序图生成过程,适应了各种深度生成学习策略。这些方法旨在通过不同领域的工作解决上述挑战中的一个或几个,包括机器学习、生物信息学、人工智能、人类健康和社交网络挖掘。但是,不同的研究领域开发的方法往往使用不同的词汇,从不同的角度解决问题。

此外,缺乏标准和全面的评估程序来验证所开发的图的深度生成模型。为此,本文对用于图生成的深度生成模型进行了系统的综述。目的是帮助跨学科研究者选择合适的技术来解决其应用领域的问题,更重要的是帮助图生成研究者理解图生成的基本原理,并识别深度图生成领域的开放研究机会。据我们所知,这是第一次对用于图生成的深度生成模型的全面综述。下面,我们总结了这次综述的主要贡献:

本文提出一种用于图生成的深度生成模型分类法,按问题设置和方法进行分类。介绍了不同子类别之间的优缺点和关系。对用于图生成的深度生成模型以及基础的深度生成模型进行了详细的描述、分析和比较。

  • 我们总结和分类现有的评估程序和指标,基准数据集和对应的图生成任务的深度生成模型的结果。
  • 我们介绍了图深度生成模型的现有应用领域,以及它们给这些应用带来的潜在好处和机会。
  • 我们提出了用于图生成的深度生成模型领域的几个开放问题和有前途的未来研究方向。

图片

用于图生成的无条件深度生成模型

无条件深度图生成的目的是通过深度生成模型从真实分布p(G)中抽样的一组观察到的真实图来学习分布pmodel(G)。根据生成过程的风格,我们可以将这些方法分为两个主要分支:(1)顺序生成:按顺序依次生成节点和边;(2)一次生成:根据矩阵表示建立一个概率图模型,一次生成所有节点和边。这两种生成图的方法各有优缺点。顺序生成虽然高效地执行了前一种生成的局部决策,但在保持长期依赖性方面存在困难。因此,图的一些全局属性(如无标度属性)很难包含进去。此外,现有的关于序列生成的工作仅限于预先定义的序列的顺序,从而留下了排列的作用。一次性生成方法可以通过多次迭代同步生成和细化整个图(即节点和边),从而对图的全局属性进行建模,但由于需要对节点之间的全局关系进行集体建模,其时间复杂度通常超过O(N2),因此大多数方法难以扩展到大型图。

图片

用于图生成的条件深度生成模型

条件深度图生成的目标是根据观察到的一组现实图G及其对应的辅助信息(即条件y)学习条件分布pmodel(G|y)。辅助信息可以是类别标签、语义上下文、来自其他分布空间的图等。与无条件深度图生成相比,条件生成除了在生成图方面的挑战外,还需要考虑如何从给定条件中提取特征并将其整合到图的生成中。

因此,为了系统地介绍现有的条件深度图生成模型,我们主要描述这些方法如何处理条件。由于条件可以是任何形式的辅助信息,因此它们被分为三种类型,包括图、序列和语义上下文,如图1中分类法树的黄色部分所示

图片

以上是如何生成「好」的图?面向图生成的深度生成模型系统综述的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

全球最强开源 MoE 模型来了,中文能力比肩 GPT-4,价格仅为 GPT-4-Turbo 的近百分之一 全球最强开源 MoE 模型来了,中文能力比肩 GPT-4,价格仅为 GPT-4-Turbo 的近百分之一 May 07, 2024 pm 04:13 PM

想象一下,一个人工智能模型,不仅拥有超越传统计算的能力,还能以更低的成本实现更高效的性能。这不是科幻,DeepSeek-V2[1],全球最强开源MoE模型来了。DeepSeek-V2是一个强大的专家混合(MoE)语言模型,具有训练经济、推理高效的特点。它由236B个参数组成,其中21B个参数用于激活每个标记。与DeepSeek67B相比,DeepSeek-V2性能更强,同时节省了42.5%的训练成本,减少了93.3%的KV缓存,最大生成吞吐量提高到5.76倍。DeepSeek是一家探索通用人工智

AI颠覆数学研究!菲尔兹奖得主、华裔数学家领衔11篇顶刊论文|陶哲轩转赞 AI颠覆数学研究!菲尔兹奖得主、华裔数学家领衔11篇顶刊论文|陶哲轩转赞 Apr 09, 2024 am 11:52 AM

AI,的确正在改变数学。最近,一直十分关注这个议题的陶哲轩,转发了最近一期的《美国数学学会通报》(BulletinoftheAmericanMathematicalSociety)。围绕「机器会改变数学吗?」这个话题,众多数学家发表了自己的观点,全程火花四射,内容硬核,精彩纷呈。作者阵容强大,包括菲尔兹奖得主AkshayVenkatesh、华裔数学家郑乐隽、纽大计算机科学家ErnestDavis等多位业界知名学者。AI的世界已经发生了天翻地覆的变化,要知道,其中很多文章是在一年前提交的,而在这一

谷歌狂喜:JAX性能超越Pytorch、TensorFlow!或成GPU推理训练最快选择 谷歌狂喜:JAX性能超越Pytorch、TensorFlow!或成GPU推理训练最快选择 Apr 01, 2024 pm 07:46 PM

谷歌力推的JAX在最近的基准测试中性能已经超过Pytorch和TensorFlow,7项指标排名第一。而且测试并不是在JAX性能表现最好的TPU上完成的。虽然现在在开发者中,Pytorch依然比Tensorflow更受欢迎。但未来,也许有更多的大模型会基于JAX平台进行训练和运行。模型最近,Keras团队为三个后端(TensorFlow、JAX、PyTorch)与原生PyTorch实现以及搭配TensorFlow的Keras2进行了基准测试。首先,他们为生成式和非生成式人工智能任务选择了一组主流

超越ORB-SLAM3!SL-SLAM:低光、严重抖动和弱纹理场景全搞定 超越ORB-SLAM3!SL-SLAM:低光、严重抖动和弱纹理场景全搞定 May 30, 2024 am 09:35 AM

写在前面今天我们探讨下深度学习技术如何改善在复杂环境中基于视觉的SLAM(同时定位与地图构建)性能。通过将深度特征提取和深度匹配方法相结合,这里介绍了一种多功能的混合视觉SLAM系统,旨在提高在诸如低光条件、动态光照、弱纹理区域和严重抖动等挑战性场景中的适应性。我们的系统支持多种模式,包括拓展单目、立体、单目-惯性以及立体-惯性配置。除此之外,还分析了如何将视觉SLAM与深度学习方法相结合,以启发其他研究。通过在公共数据集和自采样数据上的广泛实验,展示了SL-SLAM在定位精度和跟踪鲁棒性方面优

你好,电动Atlas!波士顿动力机器人复活,180度诡异动作吓坏马斯克 你好,电动Atlas!波士顿动力机器人复活,180度诡异动作吓坏马斯克 Apr 18, 2024 pm 07:58 PM

波士顿动力Atlas,正式进入电动机器人时代!昨天,液压Atlas刚刚「含泪」退出历史舞台,今天波士顿动力就宣布:电动Atlas上岗。看来,在商用人形机器人领域,波士顿动力是下定决心要和特斯拉硬刚一把了。新视频放出后,短短十几小时内,就已经有一百多万观看。旧人离去,新角色登场,这是历史的必然。毫无疑问,今年是人形机器人的爆发年。网友锐评:机器人的进步,让今年看起来像人类的开幕式动作、自由度远超人类,但这真不是恐怖片?视频一开始,Atlas平静地躺在地上,看起来应该是仰面朝天。接下来,让人惊掉下巴

替代MLP的KAN,被开源项目扩展到卷积了 替代MLP的KAN,被开源项目扩展到卷积了 Jun 01, 2024 pm 10:03 PM

本月初,来自MIT等机构的研究者提出了一种非常有潜力的MLP替代方法——KAN。KAN在准确性和可解释性方面表现优于MLP。而且它能以非常少的参数量胜过以更大参数量运行的MLP。比如,作者表示,他们用KAN以更小的网络和更高的自动化程度重现了DeepMind的结果。具体来说,DeepMind的MLP有大约300,000个参数,而KAN只有约200个参数。KAN与MLP一样具有强大的数学基础,MLP基于通用逼近定理,而KAN基于Kolmogorov-Arnold表示定理。如下图所示,KAN在边上具

特斯拉机器人进厂打工,马斯克:手的自由度今年将达到22个! 特斯拉机器人进厂打工,马斯克:手的自由度今年将达到22个! May 06, 2024 pm 04:13 PM

特斯拉机器人Optimus最新视频出炉,已经可以在厂子里打工了。正常速度下,它分拣电池(特斯拉的4680电池)是这样的:官方还放出了20倍速下的样子——在小小的“工位”上,拣啊拣啊拣:这次放出的视频亮点之一在于Optimus在厂子里完成这项工作,是完全自主的,全程没有人为的干预。并且在Optimus的视角之下,它还可以把放歪了的电池重新捡起来放置,主打一个自动纠错:对于Optimus的手,英伟达科学家JimFan给出了高度的评价:Optimus的手是全球五指机器人里最灵巧的之一。它的手不仅有触觉

FisheyeDetNet:首个基于鱼眼相机的目标检测算法 FisheyeDetNet:首个基于鱼眼相机的目标检测算法 Apr 26, 2024 am 11:37 AM

目标检测在自动驾驶系统当中是一个比较成熟的问题,其中行人检测是最早得以部署算法之一。在多数论文当中已经进行了非常全面的研究。然而,利用鱼眼相机进行环视的距离感知相对来说研究较少。由于径向畸变大,标准的边界框表示在鱼眼相机当中很难实施。为了缓解上述描述,我们探索了扩展边界框、椭圆、通用多边形设计为极坐标/角度表示,并定义一个实例分割mIOU度量来分析这些表示。所提出的具有多边形形状的模型fisheyeDetNet优于其他模型,并同时在用于自动驾驶的Valeo鱼眼相机数据集上实现了49.5%的mAP

See all articles