首页 web前端 js教程 在用户的浏览器中本地运行 AI

在用户的浏览器中本地运行 AI

Oct 26, 2024 am 09:34 AM

我们都知道人工智能有多么伟大,但是,仍然存在两个主要问题:数据隐私和成本

现在所有使用人工智能的应用程序都连接到云API。这些 API 记录提示和上下文,在某些情况下,它们使用这些数据来训练模型。这意味着您在其中包含的任何敏感数据都可能会暴露。

大多数 Web 应用程序使用以下模式集成 AI 功能:

Running AI locally in your users

这里的问题是应用服务器需要将用户数据发送到AI API,这是第三方API,我们无法真正知道用户数据会发生什么。

但是,我们为什么不在用户设备而不是云端处理人工智能?我已经对其进行了几周的测试,取得了惊人的结果。我发现了 3 个主要优点:

  1. 用户数据绝不会发送给第三方。它始终保留在用户设备上。
  2. 对于应用开发者来说是免费的,您不需要为用户推理付费,因为它直接发生在用户设备上。
  3. 可扩展性是无限的,因为每个新用户都会带来自己的计算能力。

让我们快速看一下当我们将 AI 计算卸载给用户时,之前的架构如何变化:

Running AI locally in your users

这是一个非常简单的概念。用户一如既往地使用我们的应用程序,但是当有一些任务需要执行人工智能计算时,我们不使用第三方API,而是将其发送给用户,用户的设备将以最安全的方式执行该计算,本地。

这不仅仅是一个梦想,它已经功能齐全了,我创建了一个名为Offload的平台,让每个人都可以轻松使用这个架构,只需更改几行代码。 SDK 将处理幕后的所有事务,从下载适合用户设备的模型,到帮助您在本地管理提示和评估提示响应,将评估结果发送回给您,而不会暴露用户数据。一切都通过单个函数调用透明地进行。

我正在寻找可能从中受益的网络开发人员,即使它只是为了业余爱好项目,所以,如果你喜欢这种方法ping我!我很乐意帮助您在应用程序中进行设置,您会发现在几分钟内迁移实际上非常简单。

将 Offload 集成到您的应用程序中

以上是在用户的浏览器中本地运行 AI的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门文章

两个点博物馆:邦格荒地地点指南
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
3 周前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
3 周前 By 尊渡假赌尊渡假赌尊渡假赌

热门文章

两个点博物馆:邦格荒地地点指南
4 周前 By 尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
3 周前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
3 周前 By 尊渡假赌尊渡假赌尊渡假赌

热门文章标签

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

在JavaScript中替换字符串字符 在JavaScript中替换字符串字符 Mar 11, 2025 am 12:07 AM

在JavaScript中替换字符串字符

jQuery检查日期是否有效 jQuery检查日期是否有效 Mar 01, 2025 am 08:51 AM

jQuery检查日期是否有效

jQuery获取元素填充/保证金 jQuery获取元素填充/保证金 Mar 01, 2025 am 08:53 AM

jQuery获取元素填充/保证金

前5个日期操纵JS插件 前5个日期操纵JS插件 Feb 28, 2025 am 12:34 AM

前5个日期操纵JS插件

10值得检查jQuery插件 10值得检查jQuery插件 Mar 01, 2025 am 01:29 AM

10值得检查jQuery插件

10个jQuery手风琴选项卡 10个jQuery手风琴选项卡 Mar 01, 2025 am 01:34 AM

10个jQuery手风琴选项卡

jQuery添加卷轴到Div jQuery添加卷轴到Div Mar 01, 2025 am 01:30 AM

jQuery添加卷轴到Div

10 Ajax/jQuery自动完成教程/插件 10 Ajax/jQuery自动完成教程/插件 Feb 28, 2025 am 01:03 AM

10 Ajax/jQuery自动完成教程/插件

See all articles