本地大模型的发展必然会导致显卡和计算卡的彻底分离

jxljk · 发表于 2024-2-16 12:23

游戏卡专业卡 AI卡挖** 没区别

InuYasha · 发表于 2024-2-16 12:35

以前有种玩意儿叫物理加速卡

蒸熟的虾仁 · 发表于 2024-5-8 16:40

我觉得边缘小模型+在线大模型可能会是未来的趋势吧，端侧小模型也有一些厂商在尝试

装陈醋的酱油瓶 · 发表于 2024-5-9 13:46

我輩樹である发表于 2024-2-15 12:48
当年我就跟intel建议，利用自己在x86和atx上的话语权，直接搞一个独立的npu出来，开辟另外一个战场。 ...

当年intel买altera 和amd 买xilinx，也应该有这方面的考量。
不过牙膏厂的三哥太多了

kljhfg · 发表于 2024-5-9 13:59

这是必然的，参考比特·币矿机，AI发展的太快了，主要问题是现在还没有人能刚过老黄的显卡，只能老黄说了算。

PolyMorph · 发表于 2024-5-9 15:37

pc要啥子本地大模型

ximen15555 · 发表于 2024-5-9 15:44

台式机也就老视频改高分辨，其他用途好像没多少啊，还有给大姐姐解码吗,感觉这也是门挺高深的学问

Wurenji · 发表于 2024-5-9 16:06

本帖最后由 Wurenji 于 2024-5-9 16:08 编辑

ximen15555 发表于 2024-5-9 15:44
台式机也就老视频改高分辨，其他用途好像没多少啊，还有给大姐姐解码吗,感觉这也是门挺高深的学问 ...

PC的端侧AI除了视频超采样之外，其实还有个可行的方向是视频补帧，现在很多轻薄本都用上120Hz的屏幕了，但流媒体还是24帧为主。
传统的基于固定算法的补帧，要么画面缺陷比较明显，比如电视上的MEMC，要么效果可以但是用显卡或者CPU的通用计算资源实现，能效不行，就像SVP4之类的。DLSS3算是开了个方向，利用深度学习的手段实现补帧，视频流因为是提前渲染好的，比游戏画面更有可预测性，效果应该比DLSS3还好。
可惜现在PC端增加NPU都是去凹端侧大模型的方向了，这个属实没啥必要

BloodRaining · 发表于 2024-5-10 10:53

cloud 发表于 2024-2-15 11:52
其实本地大模型才是邪路除了实时性要求高的(比如动作捕捉/语音识别/自动驾驶) 都还是云端好

大多终端(手 ...

但是本地可以搞瑟瑟啊创作不受限制

账号		自动登录	找回密码
密码			加入我们

[显卡] 本地大模型的发展必然会导致显卡和计算卡的彻底分离