Chiphell - 分享与交流用户体验

标题: RX7900XTX & DeepSeek [打印本页]

作者: 可以抱的萝卜 时间: 2025-1-30 00:34
标题: RX7900XTX & DeepSeek
本帖最后由可以抱的萝卜于 2025-1-30 00:37 编辑

RX7900XTX即将成为抢手货？

APU最低8700G/8600G起步，显卡最低RX7600起步

作者: atiufo 时间: 2025-1-30 00:41
抓住机遇炒一波是吧

作者: yangzi123aaa20 时间: 2025-1-30 00:42
这几个蒸馏出来的模型还是很弱智……

作者: yolohu 时间: 2025-1-30 00:49
农企倒是会抓住机会炒一波啊

作者: sq89688 时间: 2025-1-30 00:50
那真是阖家欢乐了

作者: forfans 时间: 2025-1-30 00:52
7840 32G都行，应该是最便宜了。。。

作者: 无奈的精灵 时间: 2025-1-30 00:55
太好了，期待能有AMD核显能跑得动的AI视频插帧方案出来

作者: fangl2002 时间: 2025-1-30 01:51
6950XT能跑吗？我下载一个本地部署试试？

作者: 可以抱的萝卜 时间: 2025-1-30 01:54

fangl2002 发表于 2025-1-30 01:51
6950XT能跑吗？我下载一个本地部署试试？

不清楚
https://community.amd.com/t5/ai/experience-the-deepseek-r1-distilled-reasoning-models-on-amd/ba-p/740593

作者: 银月 时间: 2025-1-30 02:45
ds小模型没啥用吧，还是直接用api比较好，除非本地部署671b

作者: BFG9K 时间: 2025-1-30 02:51
给AMD蹭完了

作者: jihuan 时间: 2025-1-30 08:07
amd就算了吧，各种bug

作者: af_x_if 时间: 2025-1-30 08:23
部署32b不爆显存？

作者: 大头吃小头 时间: 2025-1-30 08:47

af_x_if 发表于 2025-1-30 08:23
部署32b不爆显存？

卸载部分到内存吧应该能用

作者: klxq15 时间: 2025-1-30 09:17
这是蒸馏版，不是原版，没啥用，别瞎炒

作者: 459413498 时间: 2025-1-30 10:12
蒸馏的本体还是qwen啊 deepseek当老师而已不同于现实世界语境的老师蒸馏后的学生上限无法超过老师的

作者: jihuan 时间: 2025-1-30 10:14

459413498 发表于 2025-1-30 10:12
蒸馏的本体还是qwen啊 deepseek当老师而已不同于现实世界语境的老师蒸馏后的学生上限无法超过老师的 ...

qwen写东西比ds强

作者: ykdo 时间: 2025-1-30 10:15
9070XT性能接近7900XTX，可配的显存只有16G

作者: wun_008 时间: 2025-1-30 11:12
ollama 32b 实测用16g 的3070移动版可以跑，有点慢一秒3 4 个字，反正笔记本可以跑不错 cpu 用70% 内存32g 吃到15g 显存基本全部吃完

作者: mkkkno1 时间: 2025-1-30 11:56

fangl2002 发表于 2025-1-30 01:51
6950XT能跑吗？我下载一个本地部署试试？

官方说支持nv和amd

作者: Leciel 时间: 2025-1-30 12:06
讲个笑话，24.12.1驱动之前，装了当月驱动的amd显卡有大几率只能用cpu进行推理，gpu摆烂躺平。

当然，能用的时候确实很好用，llama, gemini, phi, qwen, deepseek提示词突突突地往外冒。

作者: lqw1314 时间: 2025-1-30 13:01
嘛二手可以卖多一丢丢啦？

作者: fangl2002 时间: 2025-1-30 19:01

可以抱的萝卜发表于 2025-1-30 01:54
不清楚
https://community.amd.com/t5/ai/experience-the-deepseek-r1-distilled-reasoning-models-on-am ...

没有看到测试有6950XT，我在等等看后续

作者: fangl2002 时间: 2025-1-30 19:02

mkkkno1 发表于 2025-1-30 11:56
官方说支持nv和amd

明天上班拉，没空玩了，哎。等休礼拜假在玩了

作者: CptQ 时间: 2025-1-30 19:04
给NV用的是vulkan llama.cpp吗？

作者: gzpony 时间: 2025-1-30 19:42
转：AMD非常兴奋的发布了旗下RX7900XTX消费级显卡在部署DeepSeek蒸馏小模型上和英伟达同级别显卡的速度差异 [并不简单]

结果显示7900XTX大幅领先4080SUPER，除32B模型外，其他模型均小幅领先4090 [666]

要知道7900XTX价格比4080SUPER还低，只有4090的一半不到。部署顶尖AI大模型再也不是CUDA的专利了 [酷]

作者: dreamyeah 时间: 2025-1-30 19:49
deepseek应该要吃官司了,打输要赔倾家荡产

作者: yopmai 时间: 2025-1-31 11:42
看上去不错！

欢迎光临 Chiphell - 分享与交流用户体验 (https://www.chiphell.com/)