AMD兴奋了

mkkkno1

momo77989724 发表于 2025-1-31 11:43
他这个是蒸馏后小模型吧  看其他论坛说的 就是蹭个热度

个人没事也没有部署671B的大模型吧，我16G部署了个14B的也不错占用了11G显存。671B的模型量化压缩后都需要上几百G的显存。