中文 英语
低功率高性能
的意见

计算面临能源危机吗?

通过以新颖的方式组合cpu、npu、gpu和网络处理器,可以提高效率。

受欢迎程度

最终是附近吗?

如果主题是计算中的能效增益,则答案取决于您要求的谁。

几十年来,每瓦特性能的稳步提高一直是我们行业最重要的驱动力之一。去年,我翻阅邻居1967年的摩托罗拉IC目录,上面有太空时代的奇迹,比如阿波罗登月任务中使用的那种小控制芯片。虽然当时的技术很先进,但如果你今天想用它来造一部智能手机,它将消耗大约16MW的电力,占地12个足球场。在签署cell计划之前,你得三思而后行。

怀疑论者认为我们是为了俯冲水域。摩尔定律正在提供减少回报。同时,保持数据中心的技术电力消耗在过去的15年里一直保持平稳- Virtualization,环境冷却,工作负载整合,拔掉“僵尸”服务器 - 已经过分广泛地利用。许多切割边缘数据中心已经吹捧价格使用效率(PUE)评级接近1,这意味着几乎所有的能源都用于运行IT设备。进一步的改进将需要核心计算架构的创新。

更糟糕的是,AI会出现热量。我们从基本的AI问题(寻找猫视频!)毕业于自主驾驶或医疗诊断等更能量密集型的任务。应用材料警告说,材料,芯片设计和算法中的缺席,数据中心功率可以从全球电力消耗的2%从10%到10%甚至15%

另一方面,乐观主义者有一个令人信服的论点:我们以前听过。1999年,有人预言了互联网的出现十年内可能会消耗掉一半的电网。通过FinFET等跨越式创新避免了这种可怕的未来,也是通过整体系统设计和映射算法的稳定改进。他们争辩,良好的工程,仍然有相当多的余地。

另外,你需要看看大局。世界各地的排放量2020年,24亿吨或7%作为视频会议更换了通勤和商务旅行。旅行可能会反弹,良好的会议将留在缩放。同样,智能设备和AI正在部署到帮助抑制建筑物浪费的30%的权力。有人会说,电子产品可以给环境带来净效益。

尽管如此,许多乐观主义者也不愿意超越2至3年的地平线。所以谁是对的?双方带来非常好的积分,辩论肯定会增加一个颠簸到会议面板。但个人,我是一个谨慎的乐观主义者。虽然Moore的法律可能已经过去,但是,半导体行业已经推出了一个以设计为中心的时代,主要通过SoC和核心架构的创新而不是过程缩小来实现增益。大型集成缓存和GPU加速器可以说是本时代的第一步。3D NAND是另一个主要的里程碑:晶体管堆叠改变了闪存公司的设计和经济方程。

在Arm,我们一直特别关注通过以新颖的方式结合cpu、npu、gpu和网络处理器(dpu)来实现协同效应。例如,将cpu和npu结合在一起可以提高效率25倍,同时提高了在仅限CPU解决方案中的50倍的干扰时的性能。对于IOT设备,这意味着能够在不税收的固定能量预算中产生更精确,更有趣的见解。您将看到一个类似的哲学,具有来到手持的总计策略。

AWS表示,在数据中心,基于arm的单线程64核处理器Graviton2的每瓦性能是传统多线程处理器的三倍以上。同样,AWS表示,EC2上超过70%的可用实例利用其Nitro系统将虚拟化、安全和联网等任务转移到专用硬件和基于arm的硅上。

我们所有人的下一个大型里程碑之一都将是小峰的商业化。Chiplet Designs允许公司最大限度地提高产量和混合过程制造节点以获得最佳效果。然而,巨针设计也将对电力性能方程产生积极影响。想象一下,一个4 x 4阵列的小芯片,每个小芯片有640ccc,640个npus和slc的千兆字节,都通过高速互连连接。这种系统可以在大约1.4kW的电力下提供Petaflops性能。

当我们在那里挖掘收益时,我们该怎么办?与内存计算一样深入挖掘芯片级技术:超过系统总能量的60%就花了在主存和计算机之间移动数据一些估计。我们仅划伤了设备和电路电平可能的表面。

授予,这些进步将采取一些非常努力的工作,但在我们击中电源墙之前,我可以自信。

你相信未来会去哪里?反馈,评论和想法非常欢迎。



1评论

桑托什Kurinec 说:

非常良好的铰接式抢劫。对于当前的基准能量,1E-14 J /位,计算将不可持续到2040。这是估计计算所需的能量超过估计的世界能源生产。需要在内存计算和神经形态计算的开发中进行计算能效的显着改善。由于电子系统中的传感器数量大量增加,原始生成数据的数量以指数速率增长。虽然从未使用过大多数此数据,但通常会保存故障分析等案例。这样,档案存储器存储器,其中数据可以以极高的密度存储在读取延迟的成本上,变得比以往以往任何时候都变得更加流行。在这里,DNA内存提供潜力。

留下一个回复


(注意:此名称将被公开显示)