用决策树、深度学习和迭代比例拟合来生成数据,方法根据要求和目的选择。
1、按分布生成
对于没有真实数据但数据分析师了解数据集分布的情况,分析师可以生成各种分布的随机样本,如正态、指数、卡方、对数正态和均匀分布。这样可以模拟不同类型的数据,用于分析和预测。
在这种技术中,合成数据的效用取决于分析师对特定数据环境的了解程度。
2、将真实数据拟合到已知分布
如果有真实数据,可以通过拟合已知分布来生成合成数据。蒙特卡罗方法可用于生成数据,前提是已知分布参数和真实数据的拟合情况。
虽然蒙特卡洛方法可找到最佳拟合,但实用性可能不足。
可以考虑使用机器学习模型如决策树来拟合非经典分布,包括多模态分布和没有已知共同特征的分布。
使用机器学习拟合分布可以生成高度相关的合成数据,但过度拟合是一个风险。
对于仅存在部分真实数据的情况,还可以使用混合合成数据生成。在这种情况下,分析师根据理论分布生成数据集的一部分,并根据真实数据生成其他部分。
3、使用深度学习
变分自动编码器(VAE)和生成对抗网络(GAN)等深度生成模型可以生成合成数据。
变分自动编码器(VAE)是一种无监督方法,编码器将原始数据集压缩成更紧凑的结构并将数据传输到解码器。然后解码器生成一个输出,它是原始数据集的表示。通过优化输入和输出数据之间的相关性来训练系统。
生成对抗网络(GAN),在GAN模型中,生成器和判别器这两个网络迭代地训练模型。生成器采用随机样本数据并生成合成数据集。鉴别器根据之前设置的条件将综合生成的数据与真实数据集进行比较。
在数据合成之后,通过将合成数据与真实数据进行比较来评估合成数据的效用。效用评估过程有两个阶段:
通用比较:比较从两个数据集测量的分布和相关系数等参数。
工作负载感知实用程序评估:通过对合成数据进行分析来比较特定用例的输出准确性。
以上是常见的3种数据生成技术及其应用领域是什么?的详细内容。更多信息请关注PHP中文网其他相关文章!