从金融,到制造,再到别的行业,企业正在纷纷使用 NVIDIA 技术实现可持续 AI。
推动 NVIDIA 慢慢的提升的双引擎 —— AI 和加速计算正在助力许多行业提高能效。
Lisbon Council Research 是一个成立于 2003 年、专门研究经济和社会问题的非营利组织。该组织在一份报告中指出:“即使数据中心的能耗很快将占到全球总能耗的 4% 的这一预测成为现实, AI 也在减少其余 96% 的能耗方面发挥着及其重要的作用。”
位于布鲁塞尔的研究机构发表了一篇文章,是少数几项崭露头角的宏观 AI 政策研究之一。文章以意大利 Leonardo 超级计算机为例,该计算机配备了近 14,000 个 NVIDIA GPU,是作为系统推动汽车设计、药物发现和天气预测等领域工作的一个例证。
加速计算利用 NVIDIA GPU 的并行解决能力,能够在更短的时间内完成更多的工作。因此,与使用 CPU 一次处理一项任务的通用服务器相比,加速计算的能耗更少。
与 CPU 相比,加速系统利用 GPU 上的并行解决能力,能够在更短的时间内完成更多的工作,所消耗的能源也更少
当加速系统应用 AI 时,收益会更大。这是一种固有的并行计算形式,是我们这个时代最具变革性的技术。
该报告称:“在机器学习或深度学习等前沿应用方面,GPU 的性能比 CPU 高出一个数量级。”
如果将仅使用 CPU 的操作转换到使用 GPU 加速系统,HPC 和 AI 工作负载每年可节省超过 40 太瓦时的能源,相当于近 500 万个美国家庭的用电需求。
NVIDIA 提供了一种结合 GPU、CPU 和 DPU 的方案组合,通过加速计算实现能效的最大化
Murex 是一家总部在巴黎的金融服务企业,每天有超过 6 万人使用该公司的交易和风险管理平台。Murex 公司测试了 NVIDIA Grace Hopper 超级芯片。在 Murex 的工作负载上,CPU-GPU 的组合与仅使用 CPU 的系统相比,能耗降低至其四分之一,完成时间缩短至其七分之一(见下图)。
Murex 量化研究负责人 Pierre Spatz 表示:“在风险计算方面,Grace 不仅是速度最快的处理器,而且更加节能,从而在交易领域使得绿色 IT 成为现实。”
在制造业领域,纬创为 NVIDIA DGX 系统来进行热应力测试的房间建立了数字副本,以改善现场的运营,其使用了工业数字化平台 NVIDIA Omniverse 和一种可以有效的进行模拟仿真的 AI 的代理模型。
该数字孪生与数千个联网传感器相连,使纬创能够将其设施的整体能效提升了高达 10%。这相当于每年减少 12 万千瓦时的耗电量和高达 6 万千克的碳排放量。
根据最近的一项基准测试,The RAPIDS Accelerator for Apache Spark 可以将数据分析(一种普遍的使用的机器学习形式)的碳排放量降低高达 80%,同时将平均速度提高 5 倍,并将计算成本降低至四分之一。
数千家公司(包括绝大多数《财富》500 强企业)使用 Apache Spark 来分析其日渐增长的海量数据603138)。使用 NVIDIA Spark 加速器的公司包括 Adobe 和 AT&T 和美国国税局等。
在医疗健康领域,得益于 NVIDIA 驱动的 AI 平台,Insilico Medicine 发现了一种治疗相对罕见呼吸道疾病的候选药物。目前,该药物已进入到第二阶段临床试验。
如果使用传统方法,这项工作将耗费超过 4 亿美元且耗时长达 6 年。但利用生成式 AI,Insilico 只用了十分之一的成本和三分之一的时间就达到了这一阶段。
Insilico Medicine 首席执行官 Alex Zhavoronkov 表示:“这项创新对我们以及 AI 加速药物发现领域的每个人而言,都是一个重要的里程碑。”
安进、宝马、Foxconn、PayPal 等公司也正在使用加速计算和 AI 实现突破性成果。
在基础研究领域,美国能源部科学局下设机构——美国国家能源研究科学计算中心(NERSC)评估了其四个关键高性能计算和 AI 应用在搭载四颗 NVIDIA A100 Tensor Core GPU 的服务器上的运行结果,并与在双插槽 x86 CPU 服务器上的运行结果进行了对比。
研究人员发现,这些应用在经过 NVIDIA A100 GPU 加速后,平均能效提高了 5 倍(见下图)。其中一款天气预报应用的能效提高了近 10 倍。
NVIDIA 连续多年为 Green500 全球最节能超级计算机榜单上的系统提供支持。
行业和科学领域的诸多效益有时在预测中被低估了,这些预测只关注了训练超大型 AI 模型的能耗,而忽视了一个事实,AI 模型在其生命周期中大部分时间都能在消耗相比来说较低的能源的前提下,为用户更好的提供上述各种效率。
最近的一项研究引用了几十个资料来源做多元化的分析并指出,之前有关模型训练消耗能源多的预测是被夸大的。
华盛顿智库美国信息技术与创新基金会(ITIF)在其报告中表示:“正如对电子商务和视频流媒体能源消耗的早期预测最终被证明是夸大其词一样,对 AI 的估计也很可能是有误的。”
该报告指出,一个 AI 模型运行成本(以及所有效率提升)的 90% 都发生在模型训练完成并将其部署到应用中后。
该报告作者在最近播客中提出了自己的观点:“鉴于使用 AI 造福经济和社会,包括向低碳未来转型所带来的巨大机会,政策制定者和媒体必须更加严谨地审核有关 AI 对环境产生影响的说法。”
另一个来自华盛顿特区的组织 R Street Institute 的政策分析师对此表示赞同。
该组织在一篇 1200 字的文章中写道:“政策制定者需要做的是帮大家认识到 AI 的潜在收益,而不是叫停。”
R Street Institute 提到了 AI 在药物发现、银行业务、股票交易和保险方面的明显优势并表示:“加速计算以及 AI 的兴起为未来带来了巨大利好,将在经济稳步的增长和社会福利方面带来显著的社会效益。”
R Street 表示:“AI 能大大的提升天气建模的准确性,进而改善公共安全,并且更加准确地预测农作物的产量。AI 还有助于开发更精准的气候模型。”
Lisbon Council Research 在报告还指出,AI 在“推动解决气候变化问题所需的创新工作中发挥着至关重要的作用”,例如发现更高效的电池材料。
公共和私营组织机构已经在使用 NVIDIA AI 来保护珊瑚礁、加强对野火和极端天气的追踪以及促进可持续农业。
NVIDIA 也正在与数百家初创企业合作来使用 AI 解决气候问题。NVIDIA 还宣布了 Earth-2 的计划,该计划有望成为全世界最强大的、气候科学专用的 AI 超级计算机。
自 1993 年成立以来,NVIDIA 始终致力于提高其全部的产品的能效,包括 GPU、CPU、DPU、网络、系统和软件以及 Omniverse 等平台。
在 AI 领域,AI 模型的第一个任务是通过推理来提供洞察以帮助用户提高效率。NVIDIA GB200 Grace Blackwell 超级芯片在 AI 推理方面的能效实现了显著提升。
在过去八年中,NVIDIA GPU 运行大语言模型的能效提高了 45,000 倍(见下图)。
得益于 NVIDIA GPU 的进步,LLM 推理能耗在八年内降低至原本的四万五千分之一
TensorRT-LLM 是软件领域的最新创新成果之一。它能够在一定程度上帮助 GPU 将 LLM 推理的能耗降低至三分之一。
一个令人惊讶的数据:如果汽车效率的提升可以像 NVIDIA 在其加速计算平台上所实现的 AI 效率的提升一样高的程度,那么汽车的油耗可达到每加仑 28 万英里。这在某种程度上预示着你可以用不到 1 加仑的汽油开车到月球。
从 2016 年到 2025 年,NVIDIA 的 AI 训练和推理效率提高了 10,000 倍,与汽车燃油效率的提升幅度形成了天壤之别(见下图)。
NVIDIA 通过系统级创新实现了多种优化。例如,NVIDIA BlueField-3 DPU 通过在效率较低的 CPU 上卸载必要的数据中心网络和基础设施功能,减少了 30% 的功耗。
如果网络基础设施运营过渡到 DPU,数据中心运营商每台服务器可节约 30% 的能源
去年,NVIDIA 设计了一种新型数据中心液冷技术,该技术的运行效率将比目前的风冷技术高出 20%,而且碳排放量更小。
ITIF 的报告说明,2010 年至 2018 年间,全球数据中心的计算实例增加了 550%,存储容量增加了 2400%,但由于硬件和软件方面的改进,能耗仅增加了 6%。
NVIDIA 将继续提升加速 AI 的能效,帮助科学界、政府和各行业用户加速实现可持续计算。
投资者关系关于同花顺软件下载法律声明运营许可联系我们友情链接招聘英才使用者真实的体验计划
不良信息举报电话举报邮箱:增值电信业务经营许可证:B2-20090237