机器学习之模型管理:集成建模
译者 | 崔皓
审校 | 孙淑娟
开篇
机器学习被企业应用到不同的业务场景解决不同的业务问题,随着机器学习的广泛应用也让组织在选择学习方法时不堪重负。
很多组织在机器学习的应用中使用了高级和经典的学习方法。有大家熟悉的监督学习和无监督学习二分法,还有例如对比学习、强化学习和自我监督学习等机器学习的新兴变体。
此外,还有涉及图形分析、深度神经网络、分割、行为分析和其他技术。当面对大规模复杂业务问题时——例如加强反洗钱措施从而打击金融犯罪——组织如何决定使用哪种机器学习的方法呢?
使用集成建模,让这个问题变得不那么重要了。这种机器学习方法使组织能够利用各种模型并将它们与预测准确性结合起来,从而获得最佳结果。
这种方法帮助金融服务、欺诈检测和网络安全中的高维数据提供完整上下文。使用集成建模的组织表示“集成建模让模型的建立更加多样化“,Resistant AI首席执行官Martin Rehak 承认,“我们并不希望单一模型一枝独秀。”
使用模型的多样性使组织能够用不同的算法来评估业务问题的各个方面,以便采用完全知情的、一致的决策方法——这些方法是可以解释的。
基于共识的模型决策
前面提到的集成建模的原理是毋庸置疑的,数据科学家无需花费大量时间来为业务案例设计完美的模型,只需要将那些不完美的模型组合起来产生预测能力。“当你以集成方法看待机器学习时,你会从小型算法中做出决策,”Rehak 指出。“而且,在我们的案例中,这些算法是针对每笔交易动态组合的,以便做出最佳决策。” 更重要的是,也许这些模型中的每一个都可以专注于某一个垂直领域,例如识别洗钱事件。
例如,一种模型只专注于交易的规模。另一个模型专注于交易的位置。不同的模型可以检查出哪些特定参与者参与了交易。目标是“没有出现任何峰值”的情况,Rehak 解释说。“模型的分布非常平坦,与模型对应的证据页相对较弱。通过结合许多弱证据元素,就能够做出更强有力的决定。” 另一个好处是,通过经典的机器学习和更简单的模型,将模型投入生产所需的训练数据(和注释)减少。这样的模型比需要大量训练数据的深度神经网络更容易解释。
上下文建模
将 Rehak 所描述的分布平坦的建模方式与其他集成建模技术区分开来是很重要的。最常见的集成建模示例涉及 bagging 或boosting(后者可能需要 Xtreme Gradient Boosting)。随机森林是一个基于不同决策树组合的提升示例。使用这种方法,“你可以根据集合中的先前版本一个一个地构建集合,”Rehak 评论道。尽管它是一种快速构建具高预测准确性的模型方法,但它存在过度拟合的风险(由于训练数据集太小,导致模型变得不太适用于生产数据)。
Rehak 的集成方法更适合 AML 用例,因为它基于影响这些事件的上下文。“如果您询问洗钱专家交易是否恶意,他们首先是查看账户的历史以及该人过去的行为方式,”雷哈克说。通过他的方法,与地理位置、时间、相关方和金融机构等相关因素,使用单独的机器学习模型进行检查。只有将这些模型的每个结果组合在一起,人工智能系统才能确定是否存在犯罪交易,通过这种做法的误报会明显减少。“通过机器学习可以解释大多数异常值,否则海量的异常值会淹没反洗钱团队,”雷哈克说。
决策边界
在用例进行集成建模时,使用超过 60 个模型针对分析交易的不同方面进行建模是常见的事情。集成方法的实时结果非常适合这种应用场景。“这 60 种算法中的一种可以将所有内容分割成段,然后对每秒平均事务大小进行建模,”Rehak 透露。“我们可以有数千个片段,这些片段都是同时动态更新的。”
由于将大量模型整合到集合中,每个模型都会评估交易的不同方面从而发现潜在的犯罪行为,除此之外再不能创建更全面的方法了。Rehak 透露:“我们从多个角度看待你,以至于塑造你行为的同时让你避免所有这些犯罪行为变得非常困难。”“因为,为了不被识别出来,“犯罪分子”需要避免的不止一个决策边界,而是大量动态的决策边界。这些算法中的每个模型都是独立学习的,然后我们将它们组合在一起。”
可解释的人工智能
这些集合如何增强可解释性以及所对应的许多方面。 首先,他们没有过度依赖先进的机器学习,只包含简单、更可解释的算法(涉及传统机器学习)。这些模型成为评估交易犯罪的基石。“当我们说某件事很重要时,我们可以告诉你原因,”雷哈克说。“我们可以告诉你哪些指标表明了这一点。我们可以针对为每个发现写一份报告,指出由于这些因素会造成交易犯罪的高风险。” 尽管每种算法都专注于特征,但并非所有算法在模型中都具有相同的权重。一般而言,涉及图形分析(擅长检查关系)的算法比其他模型具有更大的权重。
模型不仅可以解释可疑的行为,也可以告诉你异常值出现的原因。“通常我们在集成中有四到五个占主导地位的算法,也就是说当我相信这是一个异常值时由于有算法的支撑,其他人也会表示同意,”Rehak 指出。“而且,我们有四五个触发因素,这就保证了在某种程度上使结果更偏向于异常。” 由于单个模型仅评估交易中的一个因素,因此它们提供了分数的可解释性和单词的可解释性。“因为我们知道集合,知道微分段,还知道交易量,我们可以很容易地在分数旁边通过问题显示这些信息,而交易量对一家公司的财务部门非常重要,”雷哈克补充道。
集成模式
最终,集成建模的使用效果超过了任何一种应用程序,尽管它对 AML 活动有巨大的帮助。如果应用得当,该技术可以提高可解释性,同时减少解决业务关键问题所需的训练数据和注释数量。
集成建模利用各种数据科学技术来解决多种业务问题,而不是将问题限制在一个或两个。因此,这种集成解决问题的方法可能会成为AI 部署的典型代表。
译者介绍
崔皓,51CTO社区编辑,资深架构师,拥有18年的软件开发和架构经验,10年分布式架构经验。曾任惠普技术专家。乐于分享,撰写了很多热门技术文章,阅读量超过60万。《分布式架构原理与实践》作者。
原文标题:Machine Learning Model Management: Ensemble Modeling
以上是机器学习之模型管理:集成建模的详细内容。更多信息请关注PHP中文网其他相关文章!

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

热门话题

在机器学习和数据科学领域,模型的可解释性一直是研究者和实践者关注的焦点。随着深度学习和集成方法等复杂模型的广泛应用,理解模型的决策过程变得尤为重要。可解释人工智能(ExplainableAI|XAI)通过提高模型的透明度,帮助建立对机器学习模型的信任和信心。提高模型的透明度可以通过多种复杂模型的广泛应用等方法来实现,以及用于解释模型的决策过程。这些方法包括特征重要性分析、模型预测区间估计、局部可解释性算法等。特征重要性分析可以通过评估模型对输入特征的影响程度来解释模型的决策过程。模型预测区间估计

本文将介绍如何通过学习曲线来有效识别机器学习模型中的过拟合和欠拟合。欠拟合和过拟合1、过拟合如果一个模型对数据进行了过度训练,以至于它从中学习了噪声,那么这个模型就被称为过拟合。过拟合模型非常完美地学习了每一个例子,所以它会错误地分类一个看不见的/新的例子。对于一个过拟合的模型,我们会得到一个完美/接近完美的训练集分数和一个糟糕的验证集/测试分数。略有修改:"过拟合的原因:用一个复杂的模型来解决一个简单的问题,从数据中提取噪声。因为小数据集作为训练集可能无法代表所有数据的正确表示。"2、欠拟合如

通俗来说,机器学习模型是一种数学函数,它能够将输入数据映射到预测输出。更具体地说,机器学习模型就是一种通过学习训练数据,来调整模型参数,以最小化预测输出与真实标签之间的误差的数学函数。在机器学习中存在多种模型,例如逻辑回归模型、决策树模型、支持向量机模型等,每一种模型都有其适用的数据类型和问题类型。同时,不同模型之间存在着许多共性,或者说有一条隐藏的模型演化的路径。将联结主义的感知机为例,通过增加感知机的隐藏层数量,我们可以将其转化为深度神经网络。而对感知机加入核函数的话就可以转化为SVM。这一

20世纪50年代,人工智能(AI)诞生。当时研究人员发现机器可以执行类似人类的任务,例如思考。后来,在20世纪60年代,美国国防部资助了人工智能,并建立了实验室进行进一步开发。研究人员发现人工智能在许多领域都有用武之地,例如太空探索和极端环境中的生存。太空探索是对宇宙的研究,宇宙涵盖了地球以外的整个宇宙空间。太空被归类为极端环境,因为它的条件与地球不同。要在太空中生存,必须考虑许多因素,并采取预防措施。科学家和研究人员认为,探索太空并了解一切事物的现状有助于理解宇宙的运作方式,并为潜在的环境危机

C++中机器学习算法面临的常见挑战包括内存管理、多线程、性能优化和可维护性。解决方案包括使用智能指针、现代线程库、SIMD指令和第三方库,并遵循代码风格指南和使用自动化工具。实践案例展示了如何利用Eigen库实现线性回归算法,有效地管理内存和使用高性能矩阵操作。

机器学习是人工智能的重要分支,它赋予计算机从数据中学习的能力,并能够在无需明确编程的情况下改进自身能力。机器学习在各个领域都有着广泛的应用,从图像识别和自然语言处理到推荐系统和欺诈检测,它正在改变我们的生活方式。机器学习领域存在着多种不同的方法和理论,其中最具影响力的五种方法被称为“机器学习五大派”。这五大派分别为符号派、联结派、进化派、贝叶斯派和类推学派。1.符号学派符号学(Symbolism),又称为符号主义,强调利用符号进行逻辑推理和表达知识。该学派认为学习是一种逆向演绎的过程,通过已有的

译者|李睿审校|重楼人工智能(AI)和机器学习(ML)模型如今变得越来越复杂,这些模型产生的输出是黑盒——无法向利益相关方解释。可解释性人工智能(XAI)致力于通过让利益相关方理解这些模型的工作方式来解决这一问题,确保他们理解这些模型实际上是如何做出决策的,并确保人工智能系统中的透明度、信任度和问责制来解决这个问题。本文探讨了各种可解释性人工智能(XAI)技术,以阐明它们的基本原理。可解释性人工智能至关重要的几个原因信任度和透明度:为了让人工智能系统被广泛接受和信任,用户需要了解决策是如何做出的

MetaFAIR联合哈佛优化大规模机器学习时产生的数据偏差,提供了新的研究框架。据所周知,大语言模型的训练常常需要数月的时间,使用数百乃至上千个GPU。以LLaMA270B模型为例,其训练总共需要1,720,320个GPU小时。由于这些工作负载的规模和复杂性,导致训练大模型存在着独特的系统性挑战。最近,许多机构在训练SOTA生成式AI模型时报告了训练过程中的不稳定情况,它们通常以损失尖峰的形式出现,比如谷歌的PaLM模型训练过程中出现了多达20次的损失尖峰。数值偏差是造成这种训练不准确性的根因,
