设为首页收藏本站

 找回密码
 加入我们
搜索
      
Chiphell - 分享与交流用户体验»社区 › 讨论区-生活与技术的讨论 › 电脑讨论(新) › 不同代显卡混用，来跑LLM 是否可行？
返回列表 发新帖
查看: 2366|回复: 21

[显卡] 不同代显卡混用，来跑LLM 是否可行？

[复制链接]
自挂东南枝
发表于 2025-3-23 19:15 | 显示全部楼层
当然可以，llamacpp和koboldcpp这种可以直接在gui里设置分层，根据显存设置分层比例就行。
回复

举报

返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-5-31 10:48 , Processed in 0.660858 second(s), 6 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表