找回密码
 加入我们
搜索
      
查看: 3689|回复: 20

[软件] deepseek 70b大模型下载链接是什么?

[复制链接]
发表于 2025-2-11 12:05 | 显示全部楼层
发表于 2025-2-11 12:13 | 显示全部楼层
本帖最后由 a010301208 于 2025-2-11 12:15 编辑
wjm47196 发表于 2025-2-11 12:07
官方没有70b的,说的70b都是拿llama或者千问做基座模型蒸馏出来的,得去huggingface上面下,没科学就去镜像 ...


qwen效果更好,所以70b是垃圾,因为不是qwen

https://ollama.com/huihui_ai/dee ... b-qwen-distill-fp16

这个32b fp16的qwen蒸馏的越狱版就是现在除原版外最强的了

不需要科学上网,直接ollma加载就行
发表于 2025-2-11 14:16 | 显示全部楼层
本帖最后由 a010301208 于 2025-2-11 14:17 编辑
abbot 发表于 2025-2-11 12:27
lm能加载ollama的模型么?


ollama直接运行就行了,效率最高,UI界面的话chrome下载个Page Assist直接就能图形化调用了,还能联网
发表于 2025-2-11 19:55 | 显示全部楼层
一懒众衫小 发表于 2025-2-11 19:41
这个32b模型高达60G,真的比70b还好么,不是说同等文件大小下,大参数低量化的模型优于小参数高量化的模 ...

这个是FP16,精度越高越好,deepseek原版是1.3T,600多G那个是精度减半的

当然了你也可以下30G那个低精度的,20G显存就能跑了
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-10-23 10:25 , Processed in 0.008214 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表