Intel Ultra5 NPUの初体验
本帖最后由 shiangyeh 于 2024-3-25 19:17 编辑昨晚电脑就送出去了，没想到今天就送回来装软件了(LOL售后来的太快了)，就把功耗测试的部分补充一下（昨天的功耗部分因为在播放测试视频，所以算不上准确）
改了下代码，就只在terminal输出FPS，避免视频播放带来的功耗增长，最后的结果如下：
CPU: 69FPS 封装功耗: 17-21W波动
NPU: 98FPS 封装功耗: 8-11W波动
GPU: 220FPS 封装功耗: 15-20W波动
其实如果只是语音降噪、视频背景替换、实时字幕、工作状态感知，这一类要求不高的功能里面，NPU至少在功耗上的优势还是挺明显的，但是吧这又会扯到生态问题，如果开发商为了通用性使用了directML，那NPU的低功耗优势在现阶段就不存在了，要能利用上NPU的低功耗优势又需要使用openvino，但是这个时候通用性又不行了，当然这都是小弟自己的瞎想罢了，intel也许是有自己的考虑吧，轮不到我来考虑这些。
不过相比十年前穷学生只有用mkl的时候，都是大提升，哈哈哈哈哈。
-------------------------------------------UPDATE--------------------------------------------
最近我舅妈需要一个新笔记本来放PPT，刚好看到红米Pro14在打折，只要4999，就在京东买了一台送给她。
配置如下
看到任务管理器的NPU，就忍不住想知道这个NPU性能如何，于是乎就跑了下Intel自己的官方jupyter notebook来试了试
这个是仅用NPU的表现
这个是仅用GPU的表现
这个是仅用CPU的表现
首先，不用在意CPU和NPU计算时的GPU占用，那是因为视频输出而导致的占用。
功耗我暂且是不知道有没有办法看到NPU单独的功耗，我只看了一下系统总功耗，结果如下：
NPU：28W
CPU：35W
GPU：34-38W浮动
这样看下来只能说这个NPU相比于CPU还是有优势的，但是和Intel自己的那个入门核显比起来好像也没有多大优势，虽然功耗更低了，但是处理的帧数也只有GPU的不到一半。
待会就把笔记本给我舅妈了，所以也只是随便测测，大家看一乐。
能跑涩图吗
这个姿态识别是安防方面的吗 ttt5t5t 发表于 2024-3-24 17:23
能跑涩图吗
这个姿态识别是安防方面的吗
没来得及试，只是跑了个官方demo大概看看。
不过就算可以，也别难为这个NPU了，性能连Ultra5里面阉割版的a380都跑不过，我估计就算能跑，也是慢到天荒地老的级别。 npu不能跟gpu一起跑么，单独跑目前cpu内集成的npu算力基本都还是废品级。。。 爆显存的话，GPU能跑多快呢
npu最大好处还是独立单元，又能用大碗的内存 CPU+GPU+NPU=完全体 炼金术士 发表于 2024-3-24 18:51
爆显存的话，GPU能跑多快呢
npu最大好处还是独立单元，又能用大碗的内存
以前有人测试过用APU的GPU去跑图，和CPU跑没什么区别
你要是不在乎速度直接用CPU跑就行 银月 发表于 2024-3-24 09:32
npu不能跟gpu一起跑么，单独跑目前cpu内集成的npu算力基本都还是废品级。。。 ...
Intel：吃我oneAPI啦 （自行放慢100倍 这么废物吗？还以为至少性能可以和GPU持平 npu这个东西肯定有广阔市场前景的，但可以肯定至少前两代是没有卵用的，就算能用，普通用户也找不到场景。 NPU主要作用就和MTL里面那俩LPE一样，用来增加续航的...... 这不就是gt1030上的光追一个意思么 labyrin 发表于 2024-3-25 09:48
这不就是gt1030上的光追一个意思么
帕斯卡1030也没tensorcore和RTcore带来的光追功能。 Narumi 发表于 2024-3-25 10:07
帕斯卡1030也没tensorcore和RTcore带来的光追功能。
假设有的话 openvino还是有音频驱动用的 Realtek配waves的有用到硬件加速 和苏妈那个性能比如何 YsHaNg 发表于 2024-3-25 16:17
openvino还是有音频驱动用的 Realtek配waves的有用到硬件加速
更干嘛？降噪吗？ 有用但是太弱 APU那个也一样 真要跑还得显卡大显存
就像第一代光追 至今的光追效能还没有达到用起来舒服的程度 这玩意就像路由器上的NPU 用企业级算法辅助时候 实现交换的比没有好很多
但是没有专用算法来 就是没用 但是本体性能也要更得上算法 赫敏 发表于 2024-3-26 03:44
更干嘛？降噪吗？
waves是降噪虚拟环绕eq这些的
页:
[1]