未来的CPU，有无AI（NPU）是区别新旧时代的分水岭么？

QYE

看目前这发展趋势，引入AI大概就是区别新旧世代CPU的分水岭？

这种感觉就像当年32位到64位的换代一样，会不会迎来一个大的革新。

当然说是卖点噱头也行，毕竟至少在目前初期NPU确实起不到什么实质性作用，对于普通用户来说各种应用都远没跟上，专业生产力么人家直接用GPU去了。

fluttershy

NPU来解决大核核能效核切换么 现在系统那么傻
路由上还能处理信号

novagforce

inference的瓶颈从来都不在算力上。小模型不吃算力，吃算力的大模型主流内存/显存放不下。
恕我直言，所有能在个人设备上inference的小模型，和各个领域的SOTA比都是垃圾。

kartanus

个人觉得不是，CPU里整合其他的控制器来来回回那么多，合久必分分久必合
AI这个玩意儿堆小了是电阻丝，堆多了还不如单独出来变成协处理器
移动端应该会大小核+AI核搞下去
办公PC估计也是这个路数
工作站、服务器啥的还是全大核，配独显来得实在

且看移动端SoC发展历程，天玑9000可以算是全大核设计了，只要架构、制程牛，纯靠大核的能耗表现也比大中小核要好，所以还是让子弹飞一飞

南山下土著

颠覆性的通用应用出来，然后对算力的要求到达一定的水平，我认为这才是分水岭

番茄沙丁鱼

为了保持售价和利润炒作而已,就本地那点算力够干啥的
你看看手机都有了多长时间了,有什么本质上的变化么
真正能做到影视作品里面那种拟人化的AI还早呢,现在都是炒作,就跟前几年的元宇宙一样

ssl0008

没有意义，npu不是光有芯片就行的，有大量的基础软件需要开发，大量的应用需要适配。
从这个角度看，假如我是应用程序员，我有一个轻量ai加速模型需要部署（重量级的npu和cpu都搞不定，需要上n卡），优先cpu，然后是au的npu（rocm不完善但好过没有），根本不考虑iu的npu

saiyaman5

AI算力不都在云端吗？ 本地化真的有市场？

l1pco

不是 等真正的硬件AI跟上来 这些也都不能用了全是弟弟

netjunegg

用户 发表于 2024-3-5 01:44
别急，你先退一步，问问集显时代，有没有集显是不是cpu的分水岭

挺多时候集显太卡没法用了，cpu还没淘汰。 ...

这东西消耗内存带宽，独立的话，可能要自带内存。
当然，独立后，有利于国产，毕竟这东西实现起来比gpu简单一点

netjunegg

jxljk 发表于 2024-3-4 23:18
不是压对宝了 而是老黄属于技术狂人  牙膏和农企属于不思进取  牙膏才换上技术ceo 开始狂抄移动端的异构 ...

确实，像老黄这种几十年如一日踏实专注技术的ceo真罕见

tengyun

看win11需求吧

据说现在低于50t ai算力的  对于电子垃圾。不妨等等党等到win11(win12) 这个ai相关版本正式上线

zwgkg

个人愚见，现在的AI是资本市场炒作的风口，真AI还没来，人类量子计算机才摸到边，怎么有脸说自己开发了AI

arbicool

ttsammammb 发表于 2024-3-5 09:26
轻度ai的话，uhd630也能跑

14nm那個算力太慘了，還不如12代CPU直接上好了

Ultra的NPU int8不過15TOPS...

ttsammammb

arbicool 发表于 2024-3-5 09:22
桌上型只要有RTX2060最丐的卡還有筆記本有RTX2050 64bit就比CPU那可憐的NPU算力還高了...

Ai PC的門檻其實 ...

轻度ai的话，uhd630也能跑

gladiator

赫敏 发表于 2024-3-5 09:21
然而现在强推youtube music订阅恶心死人。以前我花钱在Google play上买的歌现在变成了youtube里面的上传 ...

我给谷歌掏钱也就在googlepaly买应用和看看pixel手机，内容类的从来不碰，不用流媒体音乐也压根不用手机听歌

arbicool

桌上型只要有RTX2060最丐的卡還有筆記本有RTX2050 64bit就比CPU那可憐的NPU算力還高了...

Ai PC的門檻其實非常低的

赫敏

gladiator 发表于 2024-3-4 20:08
高通和谷歌现在手机的SoC里就有吧，主要是没什么应用，谷歌那个自己搞的Tensor确实是把一小部分应用完全本 ...

然而现在强推youtube music订阅恶心死人。以前我花钱在Google play上买的歌现在变成了youtube里面的上传，还不能和其它本地音乐一起播放恶心死。我绝对不会再给谷歌任何服务花钱

赫敏

QYE 发表于 2024-3-4 10:06
老黄一个是在技术上压对了宝这个不假，还有一个么现在的信息时代也发展到了瓶颈，不管是软件还是硬件上的 ...

老黄可不是押对了一次宝，算上以前做的各种tegra不也押错了很多次。老黄放弃果断，不怕重开才迎来了起飞的风口

KimmyGLM

桌面性能U要省电干嘛？NPU是指望它能AI 修图呢，还是给office AI 水文，还是自动求和？

xks07

核显的AI能力比不上老黄的独立显卡吧
真有ai需求上独显一样的。

gladiator

高通和谷歌现在手机的SoC里就有吧，主要是没什么应用，谷歌那个自己搞的Tensor确实是把一小部分应用完全本地化了，好像也就听歌识曲啥的

BH1PXK

用户 发表于 2024-3-5 01:44
别急，你先退一步，问问集显时代，有没有集显是不是cpu的分水岭

挺多时候集显太卡没法用了，cpu还没淘汰。 ...

现在就有, 寒武纪的卡就是的

BH1PXK

过几年再说吧.  十年前我买的一台电视还支持3D功能呢..

xsdianeht

和指令集差不多，推出来得有厂商愿意用，现在就连用AVX2的软件都屈指可数

zhjook

其实现在的ai 电脑 都是很初级的，能帮忙减轻一下办公压力就很不错了，硬件基本的还差滴远，还得等几年

用户

别急，你先退一步，问问集显时代，有没有集显是不是cpu的分水岭

挺多时候集显太卡没法用了，cpu还没淘汰。集成在一起加重了木桶效应，一个不行就要整体淘汰。NPU这玩意就是一个u盘一样的加速器塞到cpu里，如果真有需要，买个扩展卡就行。目测以后会有m2形态的独立npu。

issues

上次听到类似的言论是前些年IU上了AVX512

deng198679

老黄厉害之处在于快速迭代创新，他自己在斯坦福的讲话上说的，要快速失败，总结，立即转向，才有成功创新，所以当年砍tegra 移动soc 一点不含糊。老黄：只要我试错够快，总能找到正确的创新方向

木子滴血

那得看哪些AI必须让CPU算而不是GPU了

轻度用户的话：翻译？美颜？