IT之家 11 月 14 日消息，Meta 生成式人工智能工程总监谢尔盖・埃杜诺夫近日在硅谷数字工人论坛上分享了他对人工智能推理需求的预测。他认为，明年全球新增的人工智能应用推理需求，如果使用合理规模的语言模型，仅需两座核电站的发电量就可以满足。
图源: Pexels
人工智能推理是指利用已经训练好的人工智能模型，在实际场景中进行各种任务，如生成文本、回答问题、识别图像等。埃杜诺夫表示，他通过简单的数学计算，估计了明年全球推理需求的用电量。他假设，明年全球会新增100万到200万个Nvidia H100图形处理器，每个处理器的功率约为1千瓦。如果每个处理器每天运行24小时，每人每天可生成10万个“token”。他认为以人类规模来看，这用电量尚属合理。全球仅需新增两座核电站，就可以提供足够电力
然而，IT之家注意到，埃杜诺夫也指出，人工智能的发展面临着一些挑战和限制。其中之一是数据量的问题。目前，训练人工智能模型需要大量的数据，但公开的互联网数据已经不足以支持下一代模型的训练。下一代模型可能需要10倍的数据量，这意味着需要更多的专业领域数据，或者更多的多模态数据，如视频、音频等。另一个挑战是供应链问题。由于全球芯片产能紧张，人工智能模型的改进速度也会受到影响。因此，研究人员正在努力提高模型效率，减少对数据和硬件的依赖。例如，Salesforce公司开发了一项名为Blib-2的技术，它可以自动调整模型大小，根据不同的任务和资源需求，动态地缩小或扩大模型
根据业内专家的普遍观点，语言模型在未来两年内将为企业带来巨大的价值。埃杜诺夫预测，三到四年内我们将会知道当前的技术是否能够实现通用人工智能
以上是全球AI推理用电量增长需求可通过新增两座核电站满足的详细内容。更多信息请关注PHP中文网其他相关文章！
