扎克伯格大力支持开源AGI:全力培训Llama 3,预计年底达到35万H100
小扎宣布新目标:All in 开源AGI。
不错,小扎又All in了,正是OpenAI谷歌必争之地。
不过在AGI之前,着重强调了是Open Sourse(开源)的。
图片
此举受到不少好评,一如此前LIama系列大模型开源之时。
图片
图片
不过此次又一波All in,不禁让网友想起上一波All in了:元宇宙去哪里了???
图片
但必须要说的是,此次列的Flag确实更具体一些,甚至也透露了一些关键数据。
比如,
- 年底将有35万块H100,而包括其他GPU在内,总算力将相当于60万块H100。
- FAIR团队的工作将与GenAI团队更为紧密。
- LIama 3即将到来。
最后他还打了个小广告。他们正在打造以AI为中心的新型计算设备,比如Ray Ban Meta 智能眼镜。
看来元宇宙还在继续。
小扎又All in了
现在,小扎正式宣布加入AGI之争。
虽然没有明确的时间表,但作为长期愿景,明确表示两个关键点:
负责任地开源,并广泛提供,让每个人都能从中获益。
而为了实现这一目标,主要有两件事:
第一,将现有两大AI研究工作团队(FAIR 和 GenAI)紧密结合在一起。
按照LeCun的话说,就是两个成为兄弟部门。
图片
并表示,Llama-3 is coming!
第二,建设大规模的计算基础设施:今年年底将拥有35万块H100,总算力相当于60万个H100。
按照2.5万美元至3万美元出售价来测算,总算力价值将达到150亿美元至180亿美元。
此前曾有机构预计,2023年英伟达朝Meta的H100出货量能达到15万块,同微软持平,并且至少是其他公司的三倍。
为此小扎表示,我们已经建立了这样的能力,其规模可能比任何其他单独的公司都大。
有网友算了算计算能力直呼:大脑大小的模型即将到来。
图片
不过也有人质疑,英伟达应该生产不了那么多。
图片
但有Meta领导现身说法:H100是包含现有在内,一共35万块。
图片
除此之外,还强调了硬件设备上的进展。
大佬们对于AGI的评价
在小扎宣布这一消息之前,不少大佬在达沃斯世界经济论坛上发表了不少关于AGI的评论。
像LeCun则在The Expanding Universe of Generative Models这一论坛上强调了AGI实现路径中开源的重要性。
我们之所以能在人工智能领域看到如此快速的进步,是因为人们进行了开放研究。
即便他经常经常对AGI很快到来(当然不是在未来五年内)表示怀疑,但AGI还是到来了。
图片
而Transformer主创Aidan Gomez则表示:
目前我们还没有完成扩展,我们还需要继续努力。
至于像OpenAI CEO奥特曼表示,人类水平的人工智能很快到来,但对世界的改变远比我们想象的要小。
通用人工智能(AGI)可能会在“相当接近的未来”得到开发。
对于AGI的发展,你们怎么看?
以上是扎克伯格大力支持开源AGI:全力培训Llama 3,预计年底达到35万H100的详细内容。更多信息请关注PHP中文网其他相关文章!

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

Video Face Swap
使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

热门话题











本站6月27日消息,剪映是由字节跳动旗下脸萌科技开发的一款视频剪辑软件,依托于抖音平台且基本面向该平台用户制作短视频内容,并兼容iOS、安卓、Windows、MacOS等操作系统。剪映官方宣布会员体系升级,推出全新SVIP,包含多种AI黑科技,例如智能翻译、智能划重点、智能包装、数字人合成等。价格方面,剪映SVIP月费79元,年费599元(本站注:折合每月49.9元),连续包月则为59元每月,连续包年为499元每年(折合每月41.6元)。此外,剪映官方还表示,为提升用户体验,向已订阅了原版VIP

通过将检索增强生成和语义记忆纳入AI编码助手,提升开发人员的生产力、效率和准确性。译自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。虽然基本AI编程助手自然有帮助,但由于依赖对软件语言和编写软件最常见模式的总体理解,因此常常无法提供最相关和正确的代码建议。这些编码助手生成的代码适合解决他们负责解决的问题,但通常不符合各个团队的编码标准、惯例和风格。这通常会导致需要修改或完善其建议,以便将代码接受到应

大型语言模型(LLM)是在巨大的文本数据库上训练的,在那里它们获得了大量的实际知识。这些知识嵌入到它们的参数中,然后可以在需要时使用。这些模型的知识在训练结束时被“具体化”。在预训练结束时,模型实际上停止学习。对模型进行对齐或进行指令调优,让模型学习如何充分利用这些知识,以及如何更自然地响应用户的问题。但是有时模型知识是不够的,尽管模型可以通过RAG访问外部内容,但通过微调使用模型适应新的领域被认为是有益的。这种微调是使用人工标注者或其他llm创建的输入进行的,模型会遇到额外的实际知识并将其整合

如果AI模型给的答案一点也看不懂,你敢用吗?随着机器学习系统在更重要的领域得到应用,证明为什么我们可以信任它们的输出,并明确何时不应信任它们,变得越来越重要。获得对复杂系统输出结果信任的一个可行方法是,要求系统对其输出产生一种解释,这种解释对人类或另一个受信任的系统来说是可读的,即可以完全理解以至于任何可能的错误都可以被发现。例如,为了建立对司法系统的信任,我们要求法院提供清晰易读的书面意见,解释并支持其决策。对于大型语言模型来说,我们也可以采用类似的方法。不过,在采用这种方法时,确保语言模型生

编辑|ScienceAI问答(QA)数据集在推动自然语言处理(NLP)研究发挥着至关重要的作用。高质量QA数据集不仅可以用于微调模型,也可以有效评估大语言模型(LLM)的能力,尤其是针对科学知识的理解和推理能力。尽管当前已有许多科学QA数据集,涵盖了医学、化学、生物等领域,但这些数据集仍存在一些不足。其一,数据形式较为单一,大多数为多项选择题(multiple-choicequestions),它们易于进行评估,但限制了模型的答案选择范围,无法充分测试模型的科学问题解答能力。相比之下,开放式问答

编辑|KX在药物研发领域,准确有效地预测蛋白质与配体的结合亲和力对于药物筛选和优化至关重要。然而,目前的研究没有考虑到分子表面信息在蛋白质-配体相互作用中的重要作用。基于此,来自厦门大学的研究人员提出了一种新颖的多模态特征提取(MFE)框架,该框架首次结合了蛋白质表面、3D结构和序列的信息,并使用交叉注意机制进行不同模态之间的特征对齐。实验结果表明,该方法在预测蛋白质-配体结合亲和力方面取得了最先进的性能。此外,消融研究证明了该框架内蛋白质表面信息和多模态特征对齐的有效性和必要性。相关研究以「S

本站8月1日消息,SK海力士今天(8月1日)发布博文,宣布将出席8月6日至8日,在美国加利福尼亚州圣克拉拉举行的全球半导体存储器峰会FMS2024,展示诸多新一代产品。未来存储器和存储峰会(FutureMemoryandStorage)简介前身是主要面向NAND供应商的闪存峰会(FlashMemorySummit),在人工智能技术日益受到关注的背景下,今年重新命名为未来存储器和存储峰会(FutureMemoryandStorage),以邀请DRAM和存储供应商等更多参与者。新产品SK海力士去年在

本站7月5日消息,格芯(GlobalFoundries)于今年7月1日发布新闻稿,宣布收购泰戈尔科技(TagoreTechnology)的功率氮化镓(GaN)技术及知识产权组合,希望在汽车、物联网和人工智能数据中心应用领域探索更高的效率和更好的性能。随着生成式人工智能(GenerativeAI)等技术在数字世界的不断发展,氮化镓(GaN)已成为可持续高效电源管理(尤其是在数据中心)的关键解决方案。本站援引官方公告内容,在本次收购过程中,泰戈尔科技公司工程师团队将加入格芯,进一步开发氮化镓技术。G
