直到最近,在本地机器上运行人工智能任务还需要使用 CPU、GPU 或两者的组合。这种方式并不理想,原因有以下几点:CPU 和 GPU 并未针对人工智能任务进行优化,因此使用它们会影响系统的整体性能,并加快电池的耗尽。
神经处理单元(NPU)目前已开始进入消费类设备,专门用于尽可能高效地处理人工智能工作负载。IDC概述了以下三类支持 NPU 的人工智能个人电脑:
支持硬件的人工智能 PC包括一个 NPU,其性能小于每秒 40 太运算(TOPS),通常可使应用程序中的特定人工智能功能在本地运行。目前,高通公司、苹果公司、AMD 公司和英特尔公司都在推出此类芯片。
下一代人工智能 PC包括一个具有 40-60 TOPS 性能的 NPU 和一个人工智能优先的操作系统(OS),可在操作系统和应用程序中实现持久和普遍的人工智能功能。高通公司、AMD 公司和英特尔公司预计都将为这一类别推出未来的芯片,交付时间可能从 2024 年开始。微软预计也将推出 Windows 11 的重大更新(和更新的系统规格),以利用这些高 TOPS NPU。
高级 AI PC是指 NPU 性能大于 60 TOPS 的 PC。虽然目前还没有芯片供应商发布此类产品,但 IDC 预计它们将在未来几年内出现。IDC 的这一预测不包括高级 AI PC,但它们将被纳入未来的更新中。
IDC 预计,在下一代人工智能个人电脑接棒之前,支持硬件的人工智能个人电脑的出货量将在未来两年内大幅增长。该研究公司认为,到2027年,下一代人工智能个人电脑的出货量将是支持硬件的人工智能个人电脑的两倍。这些系统中的许多将出售给商业客户,但消费者也应该有很多期待,包括新的数字内容创建工具和人工智能增强型PC游戏。
将人工智能工作负载从云端带到客户端有三个主要的技术原因:消除当前人工智能工作负载必须通过网络往返云端的过程,从而提高性能;将数据保留在设备上而不是移动中,从而提高隐私性和安全性;限制对昂贵的云资源的访问,从而降低成本。