找回密码
 加入我们
搜索
      
查看: 20838|回复: 85

[装机] 最近我想本地部署deepseek真是魔怔了,大家看看这个跑70b模型速度怎么样

[复制链接]
发表于 2025-2-7 10:25 | 显示全部楼层
截屏2025-02-07 10.17.49.png 截屏2025-02-07 10.19.47.png

内存有点紧张,但应该还是可以跑的,另外你需要留出最少8GB的内存给系统。用sysctl iogpu.wired_limit_mb=<最大内存,(系统内存-8)*1024>命令。

跑之前可以sudo purge一下。

速度有10t,但mac跑主要是看gpu的速度。


评分

参与人数 1邪恶指数 +5 收起 理由
Barcelona + 5 就是NB

查看全部评分

您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-6-9 13:01 , Processed in 0.084023 second(s), 7 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表