AMD 这几款新的 AI CPU 意义何在？

feeeei

客户端AI应用，基本也就两种吧：Stable diffusion代表的AI画画、llama一类代表的语言大模型

在这两个场景里面，真的有人会用TDP仅28W的低功耗CPU，或者小NUC上跑自己的生产力工具吗？

AI画画，真的用作生产力的，都是上4090或者专业卡吧，llama更是能在个人PC上跑的都是“玩具”而已

感觉定位十分奇怪...


感觉真的要落地的话，应该像是X3D一样，7800X3D都已经定位成游戏神U无脑上了，照葫芦画瓢再来一个XAI系列，做一个9950XAI才合适

archxm

pc 领域需要故事啊，没故事，资本不肯投资啊，股价就跌

manwomans

也就是让一些2b以下的小参数大模型能在本地运行
大参数量的还得联网
但是得吹出点卖点好让韭菜买单

大头吃小头

有没有很重要～～ 先开个头
反正别人有你没有 这就是巨大劣势了
其实本地生成个图也挺方便的 没cuda无非也就是慢一点而已，ai画图和吹牛逼估计是最早能彻底脱离cuda的应用吧

其他的我看还要nv的各种依赖 我半年前各种折腾都没折腾明白

feeeei

archxm 发表于 2024-9-18 18:11
pc 领域需要故事啊，没故事，资本不肯投资啊，股价就跌

对，感觉就是个纯资本向的产品

实际没有什么场景给他落地

aibo

先有个feature，可以去让喜欢玩的人先试试水。
当年老黄的粗大和光追也是这么来的。当然也有很多其他的就这么死掉了

qiuhepeng

对面不是还要夸张，直接给了105tops

jcd_chh

别问amd，ai pc各家都一样
我家还真买了，zenbook 16air，装着win 11 24h2(ai pc特供的翔)。其中AI 部分，完全没用，cpu gpu部分倒是满意
然后就是win 11shi一样的登录认证和稳定性

zhuifeng88

先得有才能找应用场景, 想想当年一个个"桌面有独显还要核显干嘛", 现在还能那么理直气壮的说这话吗....

gladiator

8845hs的mini pc更新了下驱动任务管理器就出现了NPU

xxyyy159

archxm 发表于 2024-9-18 18:11
pc 领域需要故事啊，没故事，资本不肯投资啊，股价就跌

赞同 zsbd

HyperSPH

提高U的进货价是需要有故事可讲的。
现在的迷你pc战场已经来到了内置扬声器、麦克风，开展AI对话了

af_x_if

40T是微软对Copilot+的要求呀。

ekiuc

新的硬件架构能完美适应现有软件框架的事情是几乎不存在的，靠一两次代迭代能救回来已经是谢天谢地了

风口来了不上，等着大家都探索完了再入场，是准备跟头部公司拼工程能力吗

Demir

AMD只会在后面跟着。应该问赢特尔和微软为什么要推广。

新城舊夢

参考一下英伟达20系的光追功能

六月冰激凌

苹果不也是在搞么，iphone16上搞点本地模型，再搞点需要联网的高阶需求。 都在试水 本地 + 联网 模式

落寞之心

我在CJ AMD展台体验的AI 370，有一个摄像头识别手势的功能，你比一个手势摄像里会直接出现对应手势表情包，有点类似直播皮套的意思；一个本地文生图，但是效率较低。
基本AI 处理器就是个噱头吧，AMD自己也没展示出什么实际有用的AI应用场景。

邪恶的光B

Siri这类辅助的软件本来也应该慢慢提升的，软件要发展，硬件也要跟上来吧。

看上去这是个开始，以后要是真的可以对电脑说一句分析所有工作计划内容和进度，把最近一周的工作排一下，就能安排出一个最优化的日程安排这些，可能很多翻译、老板助理这些工作岗位都可以不用招人了。

gartour

谁说AI就一定是生产力了，日常应用有很多可以用到AI的地方还没得用。

比如我想把十多年的上万张照片中有某个特定人的照片全部搜出来，得靠AI识别吧？

比如我想把本地音乐符合某个节奏得全部找出来，配合我跑步的节奏，需要AI吧？

比如看个片子要超分，现在得用独显吧？如果能让NPU来跑，独显就可以免了吧？

自挂东南枝

微软让的啊

allensakura

现在有意义吗？没有
能战未来吗？不行
意义在哪里？就是没有意义，行销噱头

Troy小法师

有没有可能不少软件已经有本地ai的应用了...zoom的视频抠图替换背景，语音降噪；lightroom的ai降噪，ai超分，ai抠图；照片应用的人像识别，物体识别，场景识别。以前这些可能是cpu，gpu跑的，以后都可以丢给npu，轻薄本也能支持这些应用

Mashiro_plan_C

消费者往往并不明确自己需要什么，不创造出新的需求怎么让消费者买单呢

feeeei

gartour 发表于 2024-9-18 20:27
谁说AI就一定是生产力了，日常应用有很多可以用到AI的地方还没得用。

比如我想把十多年的上万张照片中有某 ...

你所说的这几个场景，都是 GPU 能干的比 NPU 更快更好的

而且 CUDA 生态是最好的，算力是远高于现有的这些集成 NPU 的，那么 NPU 的优势，好像就只剩功耗了

总结来看相较GPU：更低的性能、差得多的开发生态、更低的市场占有率，仅有的优势就是功耗优势，感觉很难有出路。

feeeei

Troy小法师 发表于 2024-9-18 22:59
有没有可能不少软件已经有本地ai的应用了...zoom的视频抠图替换背景，语音降噪；lightroom的ai降噪，ai超分 ...

嗯，好像确实是

在这种轻 AI 应用场景 + 移动端低功耗，NPU 能相较 GPU 再降低一档功耗，确实有一些价值

不过，我扒了半天 B 站各种 NPU 相关视频，很少有 CPU  vs GPU vs NPU 做比较的，基本都是公关稿。

有个用剪映对比视频 AI 抠图的，只敢用 NPU 比 CPU，GPU 提都不敢提，笑死...

allensakura

feeeei 发表于 2024-9-19 00:56
嗯，好像确实是

在这种轻 AI 应用场景 + 移动端低功耗，NPU 能相较 GPU 再降低一档功耗，确实有一些价值 ...

NPU的最终目标是低功耗待机集成COPILOT等级的应用
到那个时候NPU将会成为CPU内部占比最大的部份，绝大部分的操作直接用语音发命令
举个例子：「我下午要做个内部销售PTT，要求XXXOOO，帮我搞出来」

当然这一天还很遥远

用户

能装steam，比steam deck性能更强。

巴特沃斯

stp可能真就为了宣传，halo有可能成为青春版mi300a？但也可能落地就幻灭

kzfile

如果你推出一个我暂时用不上的功能，成本不高我还能接受，就当是送的。如果成本占大头我就无法接受了。
至于战不战未来，未来谁知道呢，比如我至今也用不上什么视频解码编码单元