完整版DeepSeek r1 671b本地运行 1.58bit动态量化版本 128G内存+3090显卡

coolcoolbear

manwomans 发表于 2025-2-18 03:01
满血版没啥折腾的必要
直接申请api用就行了
速度比本地部署的快多了

api有挺多限制，还是本地的用着爽，可以7*24让它干活，活活。

coolcoolbear

一懒众衫小 发表于 2025-2-15 10:00
看到很多测试，llama 70b 的蒸馏还不如 qwen 32b的，不过这个对联都没答对。
昨天又试了下1.58b，居然还 ...

在ollama下的70b, 繁体字都出来了。

下联：四靈龍鳳麟