Intel Ultra5 NPUの初体验

shiangyeh · 发表于 2024-3-24 17:21

本帖最后由 shiangyeh 于 2024-3-25 19:17 编辑

昨晚电脑就送出去了，没想到今天就送回来装软件了(LOL售后来的太快了)，就把功耗测试的部分补充一下（昨天的功耗部分因为在播放测试视频，所以算不上准确）

改了下代码，就只在terminal输出FPS，避免视频播放带来的功耗增长，最后的结果如下：
CPU: 69FPS 封装功耗: 17-21W波动
NPU: 98FPS 封装功耗: 8-11W波动
GPU: 220FPS 封装功耗: 15-20W波动

其实如果只是语音降噪、视频背景替换、实时字幕、工作状态感知，这一类要求不高的功能里面，NPU至少在功耗上的优势还是挺明显的，但是吧这又会扯到生态问题，如果开发商为了通用性使用了directML，那NPU的低功耗优势在现阶段就不存在了，要能利用上NPU的低功耗优势又需要使用openvino，但是这个时候通用性又不行了，当然这都是小弟自己的瞎想罢了，intel也许是有自己的考虑吧，轮不到我来考虑这些。

不过相比十年前穷学生只有用mkl的时候，都是大提升，哈哈哈哈哈。

-------------------------------------------UPDATE--------------------------------------------

最近我舅妈需要一个新笔记本来放PPT，刚好看到红米Pro14在打折，只要4999，就在京东买了一台送给她。
配置如下
屏幕截图 2024-03-24 170101.png

看到任务管理器的NPU，就忍不住想知道这个NPU性能如何，于是乎就跑了下Intel自己的官方jupyter notebook来试了试

这个是仅用NPU的表现

这个是仅用GPU的表现

这个是仅用CPU的表现

首先，不用在意CPU和NPU计算时的GPU占用，那是因为视频输出而导致的占用。

功耗我暂且是不知道有没有办法看到NPU单独的功耗，我只看了一下系统总功耗，结果如下：
NPU：28W
CPU：35W
GPU：34-38W浮动

这样看下来只能说这个NPU相比于CPU还是有优势的，但是和Intel自己的那个入门核显比起来好像也没有多大优势，虽然功耗更低了，但是处理的帧数也只有GPU的不到一半。

待会就把笔记本给我舅妈了，所以也只是随便测测，大家看一乐。

ttt5t5t · 发表于 2024-3-24 17:23

能跑涩图吗
这个姿态识别是安防方面的吗

shiangyeh · 发表于 2024-3-24 17:30

ttt5t5t 发表于 2024-3-24 17:23
能跑涩图吗
这个姿态识别是安防方面的吗

没来得及试，只是跑了个官方demo大概看看。

不过就算可以，也别难为这个NPU了，性能连Ultra5里面阉割版的a380都跑不过，我估计就算能跑，也是慢到天荒地老的级别。

银月 · 发表于 2024-3-24 17:32

npu不能跟gpu一起跑么，单独跑目前cpu内集成的npu算力基本都还是废品级。。。

炼金术士 · 发表于 2024-3-24 18:51

爆显存的话，GPU能跑多快呢
npu最大好处还是独立单元，又能用大碗的内存

jxljk · 发表于 2024-3-24 19:26

CPU+GPU+NPU=完全体

slymitec · 发表于 2024-3-24 19:33

提示: 作者被禁止或删除内容自动屏蔽

yangzi123aaa20 · 发表于 2024-3-24 20:07

炼金术士发表于 2024-3-24 18:51
爆显存的话，GPU能跑多快呢
npu最大好处还是独立单元，又能用大碗的内存

以前有人测试过用APU的GPU去跑图，和CPU跑没什么区别
你要是不在乎速度直接用CPU跑就行

YsHaNg · 发表于 2024-3-24 20:21

银月发表于 2024-3-24 09:32
npu不能跟gpu一起跑么，单独跑目前cpu内集成的npu算力基本都还是废品级。。。 ...

Intel：吃我oneAPI啦（自行放慢100倍

赫敏 · 发表于 2024-3-24 20:22

这么废物吗？还以为至少性能可以和GPU持平

ioko · 发表于 2024-3-24 22:30

npu这个东西肯定有广阔市场前景的，但可以肯定至少前两代是没有卵用的，就算能用，普通用户也找不到场景。

某人的马甲 · 发表于 2024-3-24 22:31

NPU主要作用就和MTL里面那俩LPE一样，用来增加续航的......

labyrin · 发表于 2024-3-25 09:48

这不就是gt1030上的光追一个意思么

Narumi · 发表于 2024-3-25 10:07

labyrin 发表于 2024-3-25 09:48
这不就是gt1030上的光追一个意思么

帕斯卡1030也没tensorcore和RTcore带来的光追功能。

labyrin · 发表于 2024-3-25 12:18

Narumi 发表于 2024-3-25 10:07
帕斯卡1030也没tensorcore和RTcore带来的光追功能。

假设有的话

javascripet · 发表于 2024-3-25 13:26

提示: 作者被禁止或删除内容自动屏蔽

YsHaNg · 发表于 2024-3-26 05:17

openvino还是有音频驱动用的 Realtek配waves的有用到硬件加速

chenwen834 · 发表于 2024-3-26 10:21

和苏妈那个性能比如何

赫敏 · 发表于 2024-3-26 11:44

YsHaNg 发表于 2024-3-25 16:17
openvino还是有音频驱动用的 Realtek配waves的有用到硬件加速

更干嘛？降噪吗？

fluttershy · 发表于 2024-3-26 13:01

有用但是太弱 APU那个也一样真要跑还得显卡大显存
就像第一代光追至今的光追效能还没有达到用起来舒服的程度

fluttershy · 发表于 2024-3-26 13:03

这玩意就像路由器上的NPU 用企业级算法辅助时候实现交换的比没有好很多
但是没有专用算法来就是没用但是本体性能也要更得上算法

YsHaNg · 发表于 2024-3-26 19:20

赫敏发表于 2024-3-26 03:44
更干嘛？降噪吗？

waves是降噪虚拟环绕eq这些的

账号		自动登录	找回密码
密码			加入我们

slymitec slymitec 当前离线积分 3598	发表于 2024-3-24 19:33 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽
slymitec slymitec 当前离线积分 3598
	回复举报

javascripet javascripet 当前离线积分 128	发表于 2024-3-25 13:26 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽
javascripet javascripet 当前离线积分 128
	回复举报

[CPU] Intel Ultra5 NPUの初体验