Chiphell - 分享与交流用户体验

标题: 折腾好久了终于完成了理想中的aio [打印本页]

作者: 大头吃小头    时间: 2023-5-23 13:59
标题: 折腾好久了终于完成了理想中的aio
配置如下
CPU:5700g

主板:**b550m小雕

内存:金百达16g*2 3000  (贪便宜,结果频率就差这么多)

显卡:久经战阵憾讯rx6600竞技版 (显卡非常短 就20cm 非常适合小机箱)

硬盘:久经战阵希捷x16 16t*3宣称国行(当时好像1100一块买的)
          致钛tiplus5000 2t  反正够便宜我还要用来当游戏机用的

电源:校友淘换的航嘉mvp k650 (手贱反装了风扇,现在出风口还是出风,温度也还行吧...

机箱:御夫座机箱 (这个机箱我看来还是不错的,拓展性完美符合我的预期,支持matx版型,6盘位,全高挡板支持显卡和网卡一起插。吐槽几点,钢板太软,随便用力就变形了,风道有点不太友好,还是闷罐了(我已经用他的散热器了,结果不论是正装反装,5700g 30%负载下就会来到70摄氏度,这时候出风口确实是热风,一会儿机箱就会发热)

SATA扩展卡:乐扩asm1166    这个卡不知道是pcb太薄还是啥原因,我插sata的时候形变过大,插得我胆战心惊。

网卡:咸鱼淘换来的华为sp331 (x550t2华为版马甲,x8的槽,在家用主板上大概需要全长x16槽了(pch引出) 这也就是我选择matx平台的原因,槽位不够啊


使用的系统软件

PVE 7.4  (前面翻车是因为vfio只挂载了显卡没挂载显卡自带的声卡,导致只有7.0版本能正常直通)
vfio挂载rx6600(需要注意硬件地址不光是显卡,还要包括显卡的声卡
win10 LTSC2021(我下的初始版本,拿上手必须本地部署微软商店,不然系统后台永远有10%占用,输入法无选词框)
ikuai主路由
openwrt单臂旁路由   目标机器手动改改网关即可无软件实现目标(Linux平台下的我至今没搞懂) 其他功能有待开发
lxc部署Debian再部署jellyfin实现核显转码nas视频  (越过了amd在nas的解码问题,目前看片随便拖还没功耗
黑群晖7.1.1 用的arpl的版本


拓扑图(随便画画)


作者: 大头吃小头    时间: 2023-5-23 14:06
本帖最后由 大头吃小头 于 2023-5-23 14:08 编辑

参考的资料(真就是东拉西凑搞来的)

https://toscode.gitee.com/spoto/PVE_Generic_AIO

BV1dt4y147kE  (实测除了设备id地址剩下的不用改)

bilibili:BV1iM411t7x3(pve直通显卡来玩游戏)


https://www.jb51.net/softjc/867003_all.html

还有诸如img直接转硬盘之类的操作百度应该能随便百度到了.... 我脑子记不住东西都写记事本上了

强关虚拟机命令 (101替换为需要强关的vm的id)

ls -l /run/lock/qemu-server
rm -f /run/lock/qemu-server/lock-101.conf
qm unlock 101
qm stop 101
qm status 101


镜像转换磁盘命令(100为vm id op.img为镜像名称)
cd /var/lib/vz/template/iso/
qm importdisk 100 op.img local-lvm

搞了好久,还是有成就感的
之前搞了半成品,一更新就死,搞得我难受得要死

作者: weston    时间: 2023-5-23 14:14
win10 LTSC2021(我下的初始版本,拿上手必须本地部署微软商店,不然系统后台永远有10%占用,输入法无选词框)
=================================================
这个bug已经修了,安装更新就行了
作者: 大头吃小头    时间: 2023-5-23 14:15
最后是一点遗憾


第一、 温度还是有点高,我在写这个贴的时候,虚拟机的Windows正在下载大表哥2,epic平台下载占用百分之十几  pve占用30%的时候  因为开启了pbo+功耗限制50w  
cpu温度已经上升到70度上下 风扇已经提高了转速(当然比我用的上一台aio  乔斯伯n1好太多了,这个噪音也还行,能接受)

第二、平台功耗,不开Windows 待机功耗在50-60之间  (nas有负载的时候会上升到70-80w)
开启Windows,并且进行一定的负载操作,功耗就会在130w-140w,超级节能党可能会暴怒吧。游戏功耗还没测,我预计是200w左右,这块rx6600我没破解功耗,所以总功耗就100w,这显卡待机固定显示功耗17w  可能虚拟机平台解决不了了。 相比核显aio平台,还是太耗电了


第三、这个平台已经没有未来,升级余量除了显卡和硬盘之外,其他都没有了。  再升级就只能平台升级,重新部署pve了(设备地址乱了就是灾难性的啊....)
作者: 5jwoj    时间: 2023-5-23 14:15
我是爱快和OP网关互指,这样局域网内所有设备都可以魔法了。
作者: ksong    时间: 2023-5-23 14:17
用到x550了,网卡去桥,sr-iov一波带走就好了
作者: 大头吃小头    时间: 2023-5-23 15:04
weston 发表于 2023-5-23 14:14
win10 LTSC2021(我下的初始版本,拿上手必须本地部署微软商店,不然系统后台永远有10%占用,输入法无选词 ...

这个更新是怎么解决的? 修掉了这个重复安装的bug吗?
作者: 蓝色星芒    时间: 2023-5-23 15:07
linux装一个魔法,开启ipv4转发功能,然后只要linux是网关的都魔法了。或者ikuai主,然后ikuai里改需要魔法的设备的网关

作者: 大头吃小头    时间: 2023-5-23 15:29
蓝色星芒 发表于 2023-5-23 15:07
linux装一个魔法,开启ipv4转发功能,然后只要linux是网关的都魔法了。或者ikuai主,然后ikuai里改需要魔法 ...

学习了,我前面还是手动在设备里固定ip... 有点傻
作者: tsaotse    时间: 2023-5-23 15:37
没想到把ASM1166用在B550M AORUS ELITE上做M2/SATA扩展,感觉好亏啊……
作者: 大头吃小头    时间: 2023-5-23 15:39
tsaotse 发表于 2023-5-23 15:37
没想到把ASM1166用在B550M AORUS ELITE上做M2/SATA扩展,感觉好亏啊……

而且还是主m2  另一个m2只有x2 但是位置卡住了没办法装了

后面仔细想想,实现功能就好了,反正m2用完了  pci-e也用完了 ...
作者: 散落烟灰    时间: 2023-5-23 15:40
AIO还是得windows+hyper-v,linux系的功耗管理非常粗暴,主要还是以性能释放为主,之前测试过我的12700平台,前后测过三次,一模一样的配件,pve(已经装了功耗管理组件调了之后仍然)比win(平衡模式)高20W出头。

而且楼主的轻量AIO用5700G感觉浪费了
作者: 大头吃小头    时间: 2023-5-23 15:41
散落烟灰 发表于 2023-5-23 15:40
AIO还是得windows+hyper-v,linux系的功耗管理非常粗暴,主要还是以性能释放为主,之前测试过我的12700平台 ...

有一个Windows跑游戏用的啊....  
我前面测试的时候还把steam os和batocera都装上去了,都能实现功能
作者: tsaotse    时间: 2023-5-23 15:50
大头吃小头 发表于 2023-5-23 15:39
而且还是主m2  另一个m2只有x2 但是位置卡住了没办法装了

后面仔细想想,实现功能就好了,反正m2用完了  ...

2#M2跟显卡冲突啦?有种神奇的东西叫着M2延长线。

作者: 大头吃小头    时间: 2023-5-23 16:23
tsaotse 发表于 2023-5-23 15:50
2#M2跟显卡冲突啦?有种神奇的东西叫着M2延长线。

想想也是,等手痒了再说,2x 4x也差不太多
作者: weston    时间: 2023-5-23 17:44
大头吃小头 发表于 2023-5-23 15:04
这个更新是怎么解决的? 修掉了这个重复安装的bug吗?

不需要安装商城,window update更新补丁到最新就行,不会有后台占用10%的问题
作者: zhao137314    时间: 2023-5-23 17:49
没有ecc,不够完美
作者: 深圳老胡    时间: 2023-5-23 18:01
网上只要一看到PVE,就一定会出现iKuai+OpenWRT的组合,自己作为裸机跑OpenWRT的,真的非常好奇,到底iKuai有哪些神奇的功能,是单纯一个OpenWRT搞不定的?
作者: 大头吃小头    时间: 2023-5-23 18:10
深圳老胡 发表于 2023-5-23 18:01
网上只要一看到PVE,就一定会出现iKuai+OpenWRT的组合,自己作为裸机跑OpenWRT的,真的非常好奇,到底iKuai ...

我一开始用ikuai的原因是方便上手,openwrt一些封装版本还得摸索试水啥的。
作者: thereone    时间: 2023-5-23 19:09
本帖最后由 thereone 于 2023-5-23 19:10 编辑
深圳老胡 发表于 2023-5-23 18:01
网上只要一看到PVE,就一定会出现iKuai+OpenWRT的组合,自己作为裸机跑OpenWRT的,真的非常好奇,到底iKuai ...


稳定这个很重要,虽然openwrt折腾好了完全不动也不会有问题但是经不住折腾。我这边两个实体机专门一个爱快一个openwrt,爱快专门拨号和看流量占用加上远程控制,openwrt跑科学和异地组网IPv6的V#P#N。由于部署在老家 老家没有人所以一定要稳定。openwrt上面做重要操作都会专门实验一遍再在实体机上面做。不管怎么搞爱快是不会挂的这个是openwrt难比得上的。
作者: 深圳老胡    时间: 2023-5-23 19:14
thereone 发表于 2023-5-23 19:09
稳定这个很重要,虽然openwrt折腾好了完全不动也不会有问题但是经不住折腾。我这边两个实体机专门一个爱 ...

好吧,明白了,看下来iKuai这个只是因为功能少,所以没人折腾,然后就稳定
作者: thereone    时间: 2023-5-23 19:22
深圳老胡 发表于 2023-5-23 19:14
好吧,明白了,看下来iKuai这个只是因为功能少,所以没人折腾,然后就稳定 ...

应该说想折腾也折腾不了商业固件稳定性还是第一的,只能在固件有的功能里面折腾。openwrt升级一个包或者卸载一个包连带卸载一堆依赖包也许就挂了的这个很正常。
作者: 大头吃小头    时间: 2023-5-23 20:50
游戏功耗240w 测试游戏大表哥2
作者: danety    时间: 2023-5-23 20:56
同是allinone,用起来很舒服
作者: qhdxy    时间: 2023-5-23 21:05
深圳老胡 发表于 2023-5-23 19:14
好吧,明白了,看下来iKuai这个只是因为功能少,所以没人折腾,然后就稳定 ...

爱快上手容易简单不太折腾
其实两个op也是可以的

单op要折腾的时候会全屋断网
作者: kevincat    时间: 2023-5-25 09:26
我的原先也是 类似的方案 5600g的 主机  接2固态 3机械盘  但是目前 还想改进下
作者: 大头吃小头    时间: 2023-5-25 10:50
kevincat 发表于 2023-5-25 09:26
我的原先也是 类似的方案 5600g的 主机  接2固态 3机械盘  但是目前 还想改进下 ...

哪方面改进?
作者: jimmyjin    时间: 2023-5-25 17:19
本帖最后由 jimmyjin 于 2023-5-25 17:20 编辑

PVE 7.4 其实可以直接tasksel 点选安装Gnome或KDE GUI界面, 然后,......然后就和你用win10差不多了, 直接宿主机装Kodi, 装Chrome, 装Jellyfin, 什么直通什么的, 直通了这个 那个docker 不能用什么的, 都不存在了。

All-in-one, 连HTPC 都兼了。

就是linux的PulseAudio HDMI 直通太恼人了, 似乎只能自己k 命令行启动Kodi了

直通就搞搞网卡 和 SATA 控制器 给软路由虚拟机和NAS虚拟机就好
作者: 网仙    时间: 2023-5-29 21:20
本帖最后由 网仙 于 2023-5-29 23:01 编辑

请教楼主,您的网卡能协商2.5G吗?

看了楼主的帖子,咸鱼买了个SP331的华为网卡回来,
插在ESXI 6.7u3,一个口直通给op,另一个虚拟化作为管理口使用。分别连接2.5G光猫和AX86u的2.5G口,均只能协商为1000Mbps.
没法协商为2.5G,又升级了一个寂寞。



原本DQ77kb作为aio的NAS,用板载的两张网卡,一个直通给OP作为WAN,一个作为管理口虚拟化LAN使用。

作者: bxhomd    时间: 2023-5-29 21:41
也有个5700g,学习下
作者: Anderson997    时间: 2023-5-29 22:45
请问下lz,6600直通给windows之后,在关机的情况下,功耗多少呢?
作者: 大头吃小头    时间: 2023-5-29 22:56
Anderson997 发表于 2023-5-29 22:45
请问下lz,6600直通给windows之后,在关机的情况下,功耗多少呢?

没测试,不过按我的预估应该是20w左右

我的上一台aio同样是am4平台,无独显  平台功耗显示45w

现在这台机器空载功耗在70w(当然 也多了个asm1166芯片  独显)
作者: 大头吃小头    时间: 2023-5-29 22:57
网仙 发表于 2023-5-29 21:20
请教楼主,您的网卡能协商2.5G吗?

看了楼主的帖子,咸鱼买了个SP331的华为网卡回来,

等我测试一下,我家里装修还没落地。万兆交换机还没投入使用
作者: 大头吃小头    时间: 2023-5-29 23:02
网仙 发表于 2023-5-29 21:20
请教楼主,您的网卡能协商2.5G吗?

看了楼主的帖子,咸鱼买了个SP331的华为网卡回来,

https://support.huawei.com/enter ... 1100198575/2669e789

我找了一下,sp331好像没有弄2.5的协商......
作者: qjj2857    时间: 2023-5-29 23:04
all in one 除非不用windows,否则肯定首选win+hyper-v
作者: 大头吃小头    时间: 2023-5-29 23:07
qjj2857 发表于 2023-5-29 23:04
all in one 除非不用windows,否则肯定首选win+hyper-v

我这个实现了在线视频转码的功能

我的上一台就是基于Windows hyper-v的机器

当时搭建存储系统的时候选择了群晖5.2 导致我的存储池出不来了,hyper-v不支持后续版本的群晖了,只能pve平台

Windows的节能策略确实可以,我上一台待机功耗相对来说很低了
作者: 眉目明如画    时间: 2023-5-29 23:10
提示: 作者被禁止或删除 内容自动屏蔽
作者: qjj2857    时间: 2023-5-29 23:11
大头吃小头 发表于 2023-5-29 23:07
我这个实现了在线视频转码的功能

我的上一台就是基于Windows hyper-v的机器

win的jellyfin 转码直接双击exe就行了,没什么值得特别说明的吧。。。。。不过建议入plex ,根本不是一个体验级别
作者: 大头吃小头    时间: 2023-5-29 23:17
眉目明如画 发表于 2023-5-29 23:10
关注一波,其实跟我的nas目标差不多,不过我是b150加个g4600,hd630也可以加速吧,还想着弄个gt1010显卡 ...

视频教程基本都是intel平台的,好弄不少,跟着视频来就行了
作者: 眉目明如画    时间: 2023-5-29 23:23
提示: 作者被禁止或删除 内容自动屏蔽
作者: 大头吃小头    时间: 2023-5-29 23:34
眉目明如画 发表于 2023-5-29 23:23
能不能虚拟个win11?然后在里面直接装安卓app,直播电视节目的,还有什么游戏直播app ...

win10可以
11我没试过,应该是没什么问题的,Windows虚拟机不冷门,新版本应该会支持
作者: kevincat    时间: 2023-5-30 13:53
大头吃小头 发表于 2023-5-25 10:50
哪方面改进?

准备改成小主机+硬盘柜的方式
作者: limon    时间: 2023-8-10 20:26
麻烦能不能看下这块主板的 iommu 分组情况,也想弄一套折腾下
作者: 大头吃小头    时间: 2023-8-10 21:59
本帖最后由 大头吃小头 于 2023-8-10 22:04 编辑
limon 发表于 2023-8-10 20:26
麻烦能不能看下这块主板的 iommu 分组情况,也想弄一套折腾下


添加acs补丁和开启iommu之后每个设备都是一组iommu了

等我截个图




好像情况不对劲,我主板没有开启iommu支持,pve里添加了acs补丁
目前是这样,基本不影响设备直通
作者: mqwxp    时间: 2023-8-11 00:27
CPU温度高,乔思伯N3向你招手,130MM塔式风冷支持

几乎所有做NAS机箱的都觉得存储服务器就应该搭配赛扬垃圾U

给个50,60MM高的CPU散热空间已经是非常大方了


作者: 大头吃小头    时间: 2023-8-11 02:01
mqwxp 发表于 2023-8-11 00:27
CPU温度高,乔思伯N3向你招手,130MM塔式风冷支持

几乎所有做NAS机箱的都觉得存储服务器就应该搭配赛扬垃 ...

我的下一个aio估计就是全塔机箱了,我家的电视柜应该是可以直接放进去的......

作者: 星河    时间: 2023-8-11 02:13
5700G功耗还挺高的,我最近也在组AIO,双路E5 功耗也不低
作者: iamyangyi    时间: 2023-8-11 08:21
本帖最后由 iamyangyi 于 2023-8-11 08:24 编辑

感觉电源会 ALL IN BOOM 电源长期开 还是买好点 电脑心脏
作者: danety    时间: 2023-8-11 08:26
竟然还有独立显卡

这是还有其他什么用途吧
作者: 大头吃小头    时间: 2023-8-11 13:43
Anderson997 发表于 2023-5-29 22:45
请问下lz,6600直通给windows之后,在关机的情况下,功耗多少呢?

想起来我回复一下,关机功耗比Windows待机功耗高

因为Linux下我没正确加载amd显卡驱动,显卡待机功耗没被压制

开启Windows后(Windows开启节能) 是65w功耗

关闭后是74w功耗  不过待机状态下Windows偶尔抽风会增加功耗
作者: Anderson997    时间: 2023-8-11 13:47
大头吃小头 发表于 2023-8-11 13:43
想起来我回复一下,关机功耗比Windows待机功耗高

因为Linux下我没正确加载amd显卡驱动,显卡待机功耗没 ...

嗯,之前在别处看到说开着的时候没负载还能降频控制下功耗,关掉直接起飞。害,又是拖延的一天
作者: 大头吃小头    时间: 2023-8-11 19:01
danety 发表于 2023-8-11 08:26
竟然还有独立显卡

这是还有其他什么用途吧

扔到客厅电视柜里

拉根hdmi先出来当htpc用,可以狠狠的打游戏
作者: nowitzkiypc    时间: 2023-8-18 11:55
学习了 周末搞一波
作者: 大头吃小头    时间: 2023-11-15 00:55
网仙 发表于 2023-5-29 21:20
请教楼主,您的网卡能协商2.5G吗?

看了楼主的帖子,咸鱼买了个SP331的华为网卡回来,

用上交换机之后来回复一下,中间用个万兆交换机可以解决协商速率问题……… 只要交换机支持2.5g协商就行
作者: brok    时间: 2023-11-15 11:28
支持一下,谢谢




欢迎光临 Chiphell - 分享与交流用户体验 (https://www.chiphell.com/) Powered by Discuz! X3.5