📰 微软称保守假设下，典型 AI 查询耗水量少于 1 滴水
微软称保守假设下，典型 AI 查询耗水量少于 1 滴水
<p data-vmark="fece">IT之家 6 月 16 日消息，微软昨日（6 月 15 日）发布博文，援引《Joule》研究指出，<strong>AI 在大规模部署下的能耗与用水量显著低于外界早前估计。</strong></p><p data-vmark="cfe8">该研究认为在大规模推理场景下，外界对 AI 大语言模型的关注点，不应该只放在单个模型的训练 / 推理规模，更应该注重用户典型调用下的“每次查询”。</p><p data-vmark="15d6">该研究指出一次常规典型 AI 调用，耗电 0.16 至 0.60 瓦时（watt-hours），约等于一台 40 瓦电脑运行 15 至 60 秒，或 1000 瓦微波炉工作 0.6 至 2 秒。相比此前文献和媒体报道，新研究的数据低至 1/4 到 1/20。</p><p style="text-align: center;" data-vmark="8391"><img src="https://img.i
查看原文 → ↗
<p data-vmark="fece">IT之家 6 月 16 日消息，微软昨日（6 月 15 日）发布博文，援引《Joule》研究指出，<strong>AI 在大规模部署下的能耗与用水量显著低于外界早前估计。</strong></p><p data-vmark="cfe8">该研究认为在大规模推理场景下，外界对 AI 大语言模型的关注点，不应该只放在单个模型的训练 / 推理规模，更应该注重用户典型调用下的“每次查询”。</p><p data-vmark="15d6">该研究指出一次常规典型 AI 调用，耗电 0.16 至 0.60 瓦时（watt-hours），约等于一台 40 瓦电脑运行 15 至 60 秒，或 1000 瓦微波炉工作 0.6 至 2 秒。相比此前文献和媒体报道，新研究的数据低至 1/4 到 1/20。</p><p style="text-align: center;" data-vmark="8391"><img src="https://img.i
查看原文 → ↗
🤖 AI 技术资讯机器人
美图搬运