AI PC之NPU漫谈

AI 1个月前 admin
21 0 0

点击蓝字 关注我们

AI PC之NPU漫谈


AI PC之NPU漫谈
AI PC之NPU漫谈
AI PC之NPU漫谈


AI PC之NPU漫谈




前言


AI的发展日新月异,形成了一个时代的强大潮流。然而,真正推动这一势头的,是AI算力的持续扩张,特别是向边缘计算设备的扩张。

AI已经不再只是数据中心的专属领域,它已经延伸到涉及我们日常生活方方面面的边缘设备。这种现象的出现,离不开精于执行AI运算的神经处理器(NPU)的发展和创新。通过集成NPU,这些设备能够在离源数据更近的地点,实时执行AI算法,而无需依赖于远端数据中心。

根据IDC发布的《AI PC产业(白皮书)》,AI PC分为AI ready和AI on两个阶段。目前,整个行业还处于AI ready阶段。其实,在这一阶段落地的产品AI PC和传统PC在硬件上就差了一个NPU,只要在传统硬件加入一个AI计算模块,也就是在架构设计上嵌入AI芯片,形成“CPU+GPU+NPU”的异构方案,这样的电脑就能称之为AI PC。

通过混合算力的加持,AI PC可以帮助用户离线使用AI技术,更高效地享受到AI算力带来的便捷。随着AI on阶段的启动,AI技术将全面渗透到用户日常的PC使用场景中,对工作流产生革命性的升级。


AI PC之NPU漫谈


AI PC之NPU漫谈

01

AI PC上的各种NPU


前面提到,在AI PC生态中的计算单元主要有CPU、GPU和NPU。对于CPU和GPU,大家想必都十分了解,可能也听说过各种的NPU、TPU等等,各种的ABCD…PU,那它们都是用来做什么的呢?其实,上文提到的NPU是一种对AI协处理器的统称,而各个厂商针对不同的领域都根据自己的产品定位推出了自己的NPU。下面介绍几种常见的AI协处理器。

• IPU — Intelligence Processing Unit,是Deep Mind投资的Graphcore公司出品的AI处理器产品。AMD的AI协处理器也使用IPU这一缩写,可能使用的是同一技术。

• NPU — Neural Network Processing Unit,神经网络处理器,是基于神经网络算法与加速的新型处理器总称,如中科院计算所/寒武纪公司出品的diannao系列。

• TPU — Tensor Processing Unit 张量处理器, Google 公司推出的加速人工智能算法的专用处理器。目前,一代TPU面向Inference,二代面向训练。

• VPU– Vector Processing Unit 矢量处理器,Intel收购的Movidius公司推出的图像处理与人工智能的专用芯片的加速计算核心。Intel还有一项技术叫做视觉处理单元(Vision Processing Unit,VPU)(截至2023年)是一类新兴的微处理器,它是一种特定类型的人工智慧加速器,用于加速机器视觉任务。不能确定这两者是否相同。

此外,Apple做为个人电脑市场的有力竞争者,也早早就做好了布局,早在M1处理器发布的时候中就内置了NPU,而在最新发布的M3处理器中更是将NPU的性能提升了60%以应对日渐增长的AI需求。

另一个值得期待的技术是高通的Snapdragon X Elite处理器,高通是AI芯片的老玩家了,早在2018年就开始在各种移动处理器中集成NPU功能,而这次推出的Snapdragon X Elite是特别针对PC的。预计今年中旬就能看到搭载Snapdragon X Elite的笔记本电脑,ARM的低功耗+高性能的NPU加持,相信这是帮助ARM进一步扩张PC市场的有力支持。



AI PC之NPU漫谈

02

你的电脑是否支持NPU


目前市场上最容易买到的PC或笔记本还是搭载Intel或者AMD处理器的机型。如果你的电脑比较新,可能它已经具备NPU的能力了。


AI PC之NPU漫谈

Intel

AI PC之NPU漫谈

Intel作为芯片行业的老大哥,自然不会缺席这场AI盛宴。从Meteor Lake系列开始,Intel就在CPU中引入了NPU(Intel称之为VPU)技术。想知道你电脑中是否存在NPU也非常简单,windows系统中只需打开任务管理器即可。

AI PC之NPU漫谈

可以看到,在左侧视图中有NPU 0 Intel AI Boost这样一个处理单元,它就是NPU。

你可以跑一些AI应用,比如一些图像识别之类的算法,就可以看到NPU在工作了。

当然,前提是你使用的框架需要支持NPU才行,目前,还有一些框架对NPU支持的并不是太好,但这个情况正在逐步好转,越来越多的框架开始支持NPU计算。



AI PC之NPU漫谈

 AMD

AI PC之NPU漫谈

AMD的AI协处理器称为IPU。如果你是AMD的粉丝,想找一款搭载NPU的AMD处理器是非常容易的。AMD提供了一个页面可以帮助筛选出具备AI能力的处理器。

AI PC之NPU漫谈

AMD的IPU功能在windows环境下并不是开箱即用的,许多机型甚至默认不开启这项功能,有时候需要去BIOS设置中仔细搜索看看是否有相关的使能开关,有些机型甚至需要联系厂商更新特殊的BIOS固件。

确定了BIOS中IPU相关功能开启后,需要安装驱动程序,目前笔者还没有看到AMD的IPU驱动可以通过windows update安装。需要手动去ryzenai的官网上下载并安装。

如果一切顺利你将在设备管理器中看到IPU设备。

AI PC之NPU漫谈

AMD的IPU在系统层面的支持并不像Intel VPU那样完善,并不能在任务管理器中看到IPU的实时使用情况。但这并不代表AMD的IPU能力逊于VPU,在笔者的测试过程中IPU的各项能力都很出色,而且对开发者更加友好,如果你是一名极客应该会更喜欢AMD的文档描述。



AI PC之NPU漫谈

03

NPU面临的安全风险


目前来看,NPU的安全风险主要来自于供应链。通过一段时间对Intel和AMD的NPU分析,这两款NPU的底层硬件可能使用了FPGA,而且不同厂商在NPU向上对深度学习框架的支持方式也各有不同,这涉及到多个厂商以及各种开源产品的集成。因此,从软件、驱动、固件、硬件这四个层面都可能引入一些安全问题。联想安全实验室正在积极关注这个领域,目前已经帮助相关厂商修复了多个安全漏洞。

联想安全实验将致力于为客户交付更安全的产品,继续为产品安全保驾护航,让用户享受更安全的AI PC所的提供的新质生产力。



AI PC之NPU漫谈



往期精彩合集



● 栈溢出漏洞利用之ret2txt&ret2shellcode

● 保护你的信息安全:代码安全的重要性

● 如何绕过APP数据包完整性校验

● CISCO NGFW RAVPN安全配置

● 为NVDIA_ChatWithRTX构建中文LLM

● AIGC产品内容安全测试浅析

● 浅析常见加密算法

● Android LocalSocket 安全风险探讨

● 企业漏洞管理实践分享

● 从OS到BIOS SMM


联想GIC全球安全实验室(中国)

[email protected]


AI PC之NPU漫谈


原文始发于微信公众号(联想全球安全实验室):AI PC之NPU漫谈

版权声明:admin 发表于 2024年4月10日 上午10:01。
转载请注明:AI PC之NPU漫谈 | CTF导航

相关文章