Chiphell - 分享与交流用户体验

标题: ESXi管理-硬件-PCI设备中板载SATA AHCI Controller显示灰度不支持直通是什么原因? [打印本页]

作者: 红色狂想    时间: 2023-8-16 17:51
标题: ESXi管理-硬件-PCI设备中板载SATA AHCI Controller显示灰度不支持直通是什么原因?
我的服务器是HP ProLiant DL360 Gen9,主板上有个microSD卡槽,插了一张TF工业存储卡,HPE-ESXi-6.7.0-Update3-19195723-iso-Gen9plus-670.U3.10.9.0.8 (Hewlett Packard Enterprise)安装部署在上面。现在想尝试将板载Wellsburg AHCI Controller直通给Windows虚拟机做数据盘,可是在ESXi WEB UI管理-硬件-PCI设备中看不到这个Wellsburg AHCI Controller设备,通过搜索栏关键字搜索才出来,但是却显示为灰度不支持直通,不知是什么原因,难道HP服务器板载SATA控制器真的无法直通吗?

(, 下载次数: 29)
作者: yuyiop    时间: 2023-8-16 17:57
本帖最后由 yuyiop 于 2023-8-16 18:00 编辑

https://blog.csdn.net/njj0803/article/details/104525777/
百度可以解决你的问题
作者: c2h6o    时间: 2023-8-16 20:24
不在兼容列表里面的硬件都不支持直接设置,除非硬改,但有没有问题自己判断把握。
我给用户设置过直通满足兼容列表FC SAN的一个LUN,给WIN虚拟机直接用,无问题。
作者: 红色狂想    时间: 2023-8-16 20:52
yuyiop 发表于 2023-8-16 17:57
https://blog.csdn.net/njj0803/article/details/104525777/
百度可以解决你的问题

这个我也有搜到,但通过底层修改强制直通,说明ESXi默认不允许主板集成的SATA控制器直通,这一限制是因为原厂原本就不兼容呢,还是出于一种保护措施,防止用户默认把ESXi系统装到板载SATA控制器的硬盘上,然后又选择直通给某虚拟机导致系统启动出错呢?
作者: 红色狂想    时间: 2023-8-16 21:12
c2h6o 发表于 2023-8-16 20:24
不在兼容列表里面的硬件都不支持直接设置,除非硬改,但有没有问题自己判断把握。
我给用户设置过直通满足 ...

加装的设备几乎都在兼容列表里支持直通,连P440ar阵列卡都深度支持,板载SATA AHCI Controller不支持真是太可惜了,本来还想着把这两个盘直通给黑群晖做数据盘呢……

(, 下载次数: 31)
作者: 雨季不再来    时间: 2023-8-16 21:25
红色狂想 发表于 2023-8-16 20:52
这个我也有搜到,但通过底层修改强制直通,说明ESXi默认不允许主板集成的SATA控制器直通,这一限制是因为 ...

要这么想的话,就只能买esxi认证的电脑服务器了。基本上都是xeon的u。
作者: aaronlong    时间: 2023-8-16 21:36
雨季不再来 发表于 2023-8-16 21:25
要这么想的话,就只能买esxi认证的电脑服务器了。基本上都是xeon的u。

楼主的CPU整机就是服务器的XEON的C612的,不过这个应当是ESXI的系统为了防止死机的机制啊,或楼主你装个HP G9专用版的ESXI 6.5试试。
作者: c2h6o    时间: 2023-8-16 21:47
红色狂想 发表于 2023-8-16 21:12
加装的设备几乎都在兼容列表里支持直通,连P440ar阵列卡都深度支持,板载SATA AHCI Controller不支持真是 ...

你加装的这些本来就都是服务器常用且ESXI认证过的设备,板载的SATA在服务器上除了接光驱没其他用处。
作者: 红色狂想    时间: 2023-8-16 21:49
雨季不再来 发表于 2023-8-16 21:25
要这么想的话,就只能买esxi认证的电脑服务器了。基本上都是xeon的u。

我这就是HP的Xeon平台呀,30块钱的E5-2650 v3,装的还是HPE官方定制版的ESXi,难道这还不算原厂认证?
作者: gnattu    时间: 2023-8-16 21:56
这个机制很白名单的,硬件ID稍微对不上就要手动加了才能直通
作者: 红色狂想    时间: 2023-8-16 21:57
aaronlong 发表于 2023-8-16 21:36
楼主的CPU整机就是服务器的XEON的C612的,不过这个应当是ESXI的系统为了防止死机的机制啊,或楼主你装个H ...

我装的就是HPE-ESXi-6.7.0-U3啊,为什么要降级到6.5版?
作者: 红色狂想    时间: 2023-8-16 22:34
c2h6o 发表于 2023-8-16 21:47
你加装的这些本来就都是服务器常用且ESXI认证过的设备,板载的SATA在服务器上除了接光驱没其他用处。 ...

HP DL360 Gen9上的板载SATA控制器的确是接光驱的,但使用手册中说还可以选装扩展套件2SFF SAS/SATA Universal Media Bay Kit,将光驱位改成双2.5寸硬盘笼子,插上硬盘ESXi也能识别,在存储里面可以看到该适配器,创建数据存储使用也一切正常

(, 下载次数: 29)
(, 下载次数: 25)
作者: 红色狂想    时间: 2023-8-16 22:42
gnattu 发表于 2023-8-16 21:56
这个机制很白名单的,硬件ID稍微对不上就要手动加了才能直通

貌似本坛已经有人在这款机器上折腾过硬盘直通了,期待他的解答,少让我走弯路
作者: 雨季不再来    时间: 2023-8-17 00:15
本帖最后由 雨季不再来 于 2023-8-17 00:17 编辑
红色狂想 发表于 2023-8-16 21:49
我这就是HP的Xeon平台呀,30块钱的E5-2650 v3,装的还是HPE官方定制版的ESXi,难道这还不算原厂认证? ...


那你应该问hp客服的。有人告诉你可以命令行直通,你又不放心,那怎么办呢?
作者: zhongli_1978    时间: 2023-8-17 10:01
可以直通的。 (, 下载次数: 39)
C612主板,ESXI8
作者: c2h6o    时间: 2023-8-17 10:15
红色狂想 发表于 2023-8-16 22:34
HP DL360 Gen9上的板载SATA控制器的确是接光驱的,但使用手册中说还可以选装扩展套件2SFF SAS/SATA Unive ...

只是不推荐直通而已。
而且我装了这么多年的虚拟化设备,也很少在企业中采用直通的方式挂载外部设备
作者: aaronlong    时间: 2023-8-17 10:42
红色狂想 发表于 2023-8-16 21:57
我装的就是HPE-ESXi-6.7.0-U3啊,为什么要降级到6.5版?

因为HP GEN9官方ESXI最高就是6.5
作者: aaronlong    时间: 2023-8-17 10:45
ESXI在HP服务器上板载件直通我试过N次,会有各种问题,板载USB板载SATA都试过,GEN9上就板载的4口网卡可以一个个直通没啥问题。到了ML 110 GEN10上板载网卡也会紫屏,也不知道是啥原因。
作者: 红色狂想    时间: 2023-8-17 17:09
aaronlong 发表于 2023-8-17 10:42
因为HP GEN9官方ESXI最高就是6.5

那为什么网上会流出这个 HPE-ESXi-6.7.0-Update3-19195723-iso-Gen9plus-670.U3.10.9.0.8 (Hewlett Packard Enterprise) 版镜像,名称中写着Gen9 plus,难道这个不是官方发布的?
作者: 红色狂想    时间: 2023-8-17 17:23
aaronlong 发表于 2023-8-17 10:45
ESXI在HP服务器上板载件直通我试过N次,会有各种问题,板载USB板载SATA都试过,GEN9上就板载的4口网卡可以 ...

那看来HP服务器板载设备直通确实存在各种问题,之前@Dreamwalker 已经在我另一篇帖子中提起过这个问题了,他也是我这款机器,只不过是3.5寸4盘位的,发现P440AR阵列卡和南桥AHCI在ESXi直通都有问题,他的ESXi也是装在TF卡上,从6.7到7.0再到8.0,都试过了,只要是板载AHCI控制器或者P440AR这种都不行,换成插PCIe的HBA、RAID卡就没问题

作者: 红色狂想    时间: 2023-8-17 17:41
c2h6o 发表于 2023-8-17 10:15
只是不推荐直通而已。
而且我装了这么多年的虚拟化设备,也很少在企业中采用直通的方式挂载外部设备 ...

是的,因为直通违背了虚拟化的初衷,设备一旦脱离了容器,必将带来可靠性和灵活性方面的问题。那我是不是应该放弃,不用再折腾了,如果板载AHCI控制器上的盘想给黑群晖做数据盘,还有其他好办法吗?
作者: 红色狂想    时间: 2023-8-17 17:44
雨季不再来 发表于 2023-8-17 00:15
那你应该问hp客服的。有人告诉你可以命令行直通,你又不放心,那怎么办呢? ...

我估计应该不行,详见20#楼的帖子……
作者: 红色狂想    时间: 2023-8-17 17:50
zhongli_1978 发表于 2023-8-17 10:01
可以直通的。。
C612主板,ESXI8

你是HP的哪款服务器,也是必须通过Shell命令行才能强制直通吗,装的应该不是HPE定制版ESXi吧?详见20#楼的帖子……
作者: 雨季不再来    时间: 2023-8-17 18:29
红色狂想 发表于 2023-8-16 21:49
我这就是HP的Xeon平台呀,30块钱的E5-2650 v3,装的还是HPE官方定制版的ESXi,难道这还不算原厂认证? ...

官方的兼容性系是这个:

(, 下载次数: 35)
作者: 雨季不再来    时间: 2023-8-17 18:32
aaronlong 发表于 2023-8-17 10:42
因为HP GEN9官方ESXI最高就是6.5

vmware兼容性列表里面显示最高到7.0u3
作者: 雨季不再来    时间: 2023-8-17 18:35
红色狂想 发表于 2023-8-17 17:44
我估计应该不行,详见20#楼的帖子……

我认为可以尝试一下的,行了最好,不行也没啥大关系的。不能直通,你也可以把ahci控制器上的硬盘给群晖做数据盘的,只是以后没办法把硬盘迁移到实体机而已。
作者: 红色狂想    时间: 2023-8-17 20:31
雨季不再来 发表于 2023-8-17 18:29
官方的兼容性系是这个:

为什么这个兼容列表里没有 HPE-ESXi-6.7.0-Update3-19195723-iso-Gen9plus-670.U3.10.9.0.8 (Hewlett Packard Enterprise) 这个版本,难道还有很多次版本未一一列举?
作者: 红色狂想    时间: 2023-8-17 20:42
雨季不再来 发表于 2023-8-17 18:35
我认为可以尝试一下的,行了最好,不行也没啥大关系的。不能直通,你也可以把ahci控制器上的硬盘给群晖做 ...

那回头我试一下,就算直通出现问题,也不会导致ESXi启动不了系统崩溃吧?另一种把硬盘给黑群晖做数据盘的办法是不是RDM,这种是不是性能最好的了,还能针对单个驱动器映射
作者: c2h6o    时间: 2023-8-17 20:53
红色狂想 发表于 2023-8-17 17:41
是的,因为直通违背了虚拟化的初衷,设备一旦脱离了容器,必将带来可靠性和灵活性方面的问题。那我是不是 ...

命令行改吧,黑群无所谓,你也没有迁移这些应用,问题应该不大。
不过我觉得黑群如果测试可以跑个虚拟机,如果正式用还是搭个物理的比较好
作者: 雨季不再来    时间: 2023-8-17 21:25
红色狂想 发表于 2023-8-17 20:42
那回头我试一下,就算直通出现问题,也不会导致ESXi启动不了系统崩溃吧?另一种把硬盘给黑群晖做数据盘的 ...

你esxi系统不装在sata硬盘上就没事。rdm直通性能稍差,但好处是几个硬盘可以分开用。
作者: zhongli_1978    时间: 2023-8-17 21:54
红色狂想 发表于 2023-8-17 17:50
你是HP的哪款服务器,也是必须通过Shell命令行才能强制直通吗,装的应该不是HPE定制版ESXi吧?详见20#楼 ...

不是hp的,不过gen8那个sata也是这样直通的,感觉不会是hp做的限制。sata直通肯定都是要编辑passmap文件才行的
作者: fell9999    时间: 2023-8-17 21:58
(, 下载次数: 25)
直接改就是了.
又不是不能改.
改了就能用.
你确定你的esxi没装在这个控制器下属的接口就行
改的方法直接百度.大把教程
作者: 红色狂想    时间: 2023-8-17 22:24
fell9999 发表于 2023-8-17 21:58
直接改就是了.
又不是不能改.
改了就能用.

HP服务器主板上都带有一个microSD卡槽,虽然不清楚这个TF卡的控制器是否与主板内置USB 3.0接口同属一个控制器,但绝对不可能与Wellsburg AHCI Controller有关系吧?
作者: fell9999    时间: 2023-8-17 22:30
如果你担心这个.那么推荐你ILO用起来.然后硬盘拔掉.再在U盘中装esxi.做做实验.就只有时间成本而已
作者: 红色狂想    时间: 2023-8-17 22:30
雨季不再来 发表于 2023-8-17 21:25
你esxi系统不装在sata硬盘上就没事。rdm直通性能稍差,但好处是几个硬盘可以分开用。 ...

在ESXi环境下,除了硬件直通,难道还有比RDM性能更好的直通方案吗?
作者: aaronlong    时间: 2023-8-17 23:27
本帖最后由 aaronlong 于 2023-8-17 23:29 编辑
红色狂想 发表于 2023-8-17 17:09
那为什么网上会流出这个 HPE-ESXi-6.7.0-Update3-19195723-iso-Gen9plus-670.U3.10.9.0.8 (Hewlett Packa ...


https://techlibrary.hpe.com/us/e ... tmatrix/vmware.aspx

HPE官方ESXI是看HPE官网啊,而不是去找ESXI的官网。

才看到楼主的是DL360 G9,那是有7.0 U3的。。。
作者: 煎饼果子chh    时间: 2023-8-18 13:04
我黑群都是直接esxi把阵列初始化成vmfs,随便怎么分硬盘给群晖。我玩esxi从来不直通,充分利用虚拟化特性。
作者: 红色狂想    时间: 2023-8-18 15:41
煎饼果子chh 发表于 2023-8-18 13:04
我黑群都是直接esxi把阵列初始化成vmfs,随便怎么分硬盘给群晖。我玩esxi从来不直通,充分利用虚拟化特性。 ...

哦,比如8盘位组个RAID 6,然后ESXi里面创建datastore,给黑群晖虚拟机添加vmfs虚拟磁盘做数据盘,类型选厚置备,是吗?
作者: 红色狂想    时间: 2023-8-18 15:45
aaronlong 发表于 2023-8-17 23:27
https://techlibrary.hpe.com/us/en/enterprise/servers/supportmatrix/vmware.aspx

HPE官方ESXI是看HPE ...

据说HPE-ESXi-6.7.0-U3版是最稳定的
作者: 红色狂想    时间: 2023-8-18 16:06
c2h6o 发表于 2023-8-17 20:53
命令行改吧,黑群无所谓,你也没有迁移这些应用,问题应该不大。
不过我觉得黑群如果测试可以跑个虚拟机 ...

弄个ESXi服务器不就是为了All-in-One的嘛,单独搞一台物理机做黑群晖有点浪费,另一台物理服务器我是用来做iSCSI存储的。不过那台HP MicroServer Gen8后期退役了倒是可以装个黑群晖
作者: c2h6o    时间: 2023-8-18 16:16
红色狂想 发表于 2023-8-18 16:06
弄个ESXi服务器不就是为了All-in-One的嘛,单独搞一台物理机做黑群晖有点浪费,另一台物理服务器我是用来 ...

ALLINONE也要看应用啊,NAS这种消耗硬盘的应用不适合ALLINONE。稳定为先
作者: 红色狂想    时间: 2023-8-18 16:17
zhongli_1978 发表于 2023-8-17 21:54
不是hp的,不过gen8那个sata也是这样直通的,感觉不会是hp做的限制。sata直通肯定都是要编辑passmap文件 ...

我记得在Linux环境下用vi命令打开编辑完文本后输入:wq保存文件并退出是吗?
作者: zhongli_1978    时间: 2023-8-18 16:25
红色狂想 发表于 2023-8-18 16:17
我记得在Linux环境下用vi命令打开编辑完文本后输入:wq保存文件并退出是吗? ...

详细步骤是:
1、esxi web管理上打开ssh
2、用工具(如putty)登录
3、vi /etc/vmware/passthru.map
4、方向键移到编辑的位置, 按i键进入编辑模式,
5、输入完成后按esc键,再按shift+:  输入wq回车保存退出
作者: c2h6o    时间: 2023-8-18 16:30
红色狂想 发表于 2023-8-18 16:17
我记得在Linux环境下用vi命令打开编辑完文本后输入:wq保存文件并退出是吗? ...

按ESC然后输入:wq保存退出。
其他命令网上都能查到。
作者: 红色狂想    时间: 2023-8-18 16:51
c2h6o 发表于 2023-8-18 16:16
ALLINONE也要看应用啊,NAS这种消耗硬盘的应用不适合ALLINONE。稳定为先

那倒是,1U的机架服务器也不可能有多大的存储容量,我弄这个虚拟机黑群晖主要还是实验兼简单使用,重要数据还是要在另一台存储服务器里的。
作者: c2h6o    时间: 2023-8-18 16:56
红色狂想 发表于 2023-8-18 16:51
那倒是,1U的机架服务器也不可能有多大的存储容量,我弄这个虚拟机黑群晖主要还是实验兼简单使用,重要数 ...

实验就直接VMDK里面存下,不需要厚置备。
作者: 红色狂想    时间: 2023-8-18 16:59
zhongli_1978 发表于 2023-8-18 16:25
详细步骤是:
1、esxi web管理上打开ssh
2、用工具(如putty)登录

必须用第三方终端仿真软件登录操作吗,ESXi控制台alt+F1进入shell界面无权限编辑passthru.map吗?
作者: 雨季不再来    时间: 2023-8-18 18:28
红色狂想 发表于 2023-8-18 16:59
必须用第三方终端仿真软件登录操作吗,ESXi控制台alt+F1进入shell界面无权限编辑passthru.map吗? ...

用windows自带的Windows PowerShell就行。
作者: 雨季不再来    时间: 2023-8-18 18:29
c2h6o 发表于 2023-8-18 16:16
ALLINONE也要看应用啊,NAS这种消耗硬盘的应用不适合ALLINONE。稳定为先

所以才需要直通硬盘!
作者: c2h6o    时间: 2023-8-18 19:43
雨季不再来 发表于 2023-8-18 18:29
所以才需要直通硬盘!

不知道为什么DIY的都喜欢直通,官方基本没有最佳指南推荐直通的。然后一群人在不支持直通的设备上各种改,再抱怨各种问题。这种事情本来就是你要稳定就按官方的来,你要折腾就接受各种后果,包括丢数据。
个人的观点,ALLINONE本来就适合折腾,对于保存数据的NAS不适合。
在官方不支持的硬件上,虚拟了一个非官方的黑群晖,还跟其他系统共存,然后用非官方的直通方法直通硬盘,然后在存上重要的数据,而且还要稳定可靠,本身这个路子就有问题。
作者: 雨季不再来    时间: 2023-8-18 19:53
c2h6o 发表于 2023-8-18 19:43
不知道为什么DIY的都喜欢直通,官方基本没有最佳指南推荐直通的。然后一群人在不支持直通的设备上各种改 ...


直通的硬盘,拿到物理机群晖上是可以直接使用的!这个才是要直通的关键所在!


DIY的乐趣之一就是突破官方的限制!
作者: c2h6o    时间: 2023-8-18 20:08
雨季不再来 发表于 2023-8-18 19:53
直通的硬盘,拿到物理机群晖上是可以直接使用的!这个才是要直通的关键所在!

直通不知道是不是稳定,是不是会丢数据,掉分区之类,会不会增加硬盘非正常关机次数这些,都是问题所在。
折腾没问题,不要指望你折腾出来的能比官方的更稳定,这个概率太低了。不考虑数据,那随便怎么玩都没问题。
个人的观点,数据重要,就不要折腾。想折腾就要有心理准备随时丢数据。
作者: 雨季不再来    时间: 2023-8-18 20:45
c2h6o 发表于 2023-8-18 20:08
直通不知道是不是稳定,是不是会丢数据,掉分区之类,会不会增加硬盘非正常关机次数这些,都是问题所在。 ...

事实证明直通是没有问题的,最起码的,我用到现在快3年了,没啥问题。唯一没留意的,就是“会不会增加硬盘非正常关机次数”。因为系统没报警,我觉得没必要去留意这个。

折腾的目的是为了方便,而不是什么比官方更稳定!前提、方向就错了。真要稳定,电脑本身就该是买官方认可的型号、配置,而不是自己去换什么未经官方认证的配件!但问题是真的做到了这点,该不稳定的照样不稳定!我以前呆过的公司,当年服务器是dell的,全套官方软硬件,但过了3年保服务器就坏!后来老板光火,找人DIY了一台服务器,intel服务器主板的,用了7年都没出问题!
作者: 红色狂想    时间: 2023-8-18 21:50
雨季不再来 发表于 2023-8-18 18:28
用windows自带的Windows PowerShell就行。

我电脑上装的有SecureCRT 9.0,用SSH2方式登录上了,但是我看到这篇文章远程修改ESXi 6.7管理IP地址中说,SecureCRT还可以通过dcui命令打开ESXi的系统管理界面,可是我按照文中说的方法设置后执行dcui没任何反应啊

作者: 红色狂想    时间: 2023-8-18 22:00
c2h6o 发表于 2023-8-18 20:08
直通不知道是不是稳定,是不是会丢数据,掉分区之类,会不会增加硬盘非正常关机次数这些,都是问题所在。 ...

你是说直通给虚拟机的物理硬盘,在虚拟机正常重启或关机时,有可能会使直通给他的硬盘出现非正常关机次数,这个原理机制和系统直接在宿主物理机上性质不同吗?

作者: 雨季不再来    时间: 2023-8-18 22:06
本帖最后由 雨季不再来 于 2023-8-18 22:08 编辑
红色狂想 发表于 2023-8-18 21:50
我电脑上装的有SecureCRT 9.0,用SSH2方式登录上了,但是我看到这篇文章远程修改ESXi 6.7管理IP地址中说 ...


这个我就不清楚了,我使用powershell,远程修改ip地址可以通过命令行输入命令实现的:

esxcli network ip interface ipv4 set -i vmk1 -I ip address -N subnet -t static



参考vmware官方文档:更改 ESXi Server 管理 IP 地址 (2084629)
作者: c2h6o    时间: 2023-8-18 22:52
雨季不再来 发表于 2023-8-18 20:45
事实证明直通是没有问题的,最起码的,我用到现在快3年了,没啥问题。唯一没留意的,就是“会不会增加硬 ...

我只是说数据安全性。如果你觉得可以接受数据丢失,那当然没问题。否则的话肯定是选择最稳妥的方案。
你的单独例子只能算特例。我自己也有很多特例,比如有400多个坏道的硬盘用了好几年都没别的问题,10多年前的NAS还在正常使用,还有一台E2220的机器能正常使用,一台15寸显示器我还自己修过液晶上的电路,至今也正常。你可以说我是运气好,也可以说我维护的好,但这些都是特例,因为我已经做了最坏的打算,坏了没问题,数据丢了没问题,重要的数据有3份。所以随便。
DIY如果不能符合使用要求,或者达到目的,那就没有任何意思。
作者: c2h6o    时间: 2023-8-18 22:55
红色狂想 发表于 2023-8-18 22:00
你是说直通给虚拟机的物理硬盘,在虚拟机正常重启或关机时,有可能会使直通给他的硬盘出现非正常关机次数 ...

我自己也试过改出来的这种直通,似乎有随机掉盘然后又连接上的问题,不知道是不是休眠之类影响。我也没长期用,觉得这种直通非官方,就放弃了。
仅供参考,不代表你这个就有问题。
作者: 雨季不再来    时间: 2023-8-18 23:12
c2h6o 发表于 2023-8-18 22:52
我只是说数据安全性。如果你觉得可以接受数据丢失,那当然没问题。否则的话肯定是选择最稳妥的方案。
你 ...

DIY和数据安全、备份是两码事。

重要数据,备份是必须的,而这个必须,和是用原厂机器还是用DIY机器,没一点关系的。
作者: 红色狂想    时间: 2023-8-18 23:25
雨季不再来 发表于 2023-8-18 22:06
这个我就不清楚了,我使用powershell,远程修改ip地址可以通过命令行输入命令实现的:

esxcli network i ...

再请教一个问题,当默认安装部署好ESXi后,它会自动创建一个虚拟交换机vSwitch0,并添加VMkernel网卡vmk0,也就是管理ESXi系统的ip
每次创建虚拟机时,默认添加的虚拟网卡都会是VM Network端口组,也就是在vSwitch0下,与vmk0管理ESXi系统的ip同一个网段,这就会存在一个安全问题,如果虚拟机需要访问互联网,vSwitch0绑定的那个物理网卡端口就要接入外网,那么vmk0也就暴露在外网了,这样显然是不专业的,因为所有服务器设备管理端口都应该位于隔离的内网中才对。所以在此想探讨一下,对于vmk0设在内网网段,vSwitch0又可以访问外网段,大家都是怎么实现的呢?
我目前想到的方案是,安装部署好ESXi后,它会自动创建的vSwitch0、vmk0物理网口就接在内网中。另外创建个vSwitch1,再绑定一个物理网口接外网。不知这样是否科学合理
作者: c2h6o    时间: 2023-8-19 07:58
本帖最后由 c2h6o 于 2023-8-19 08:01 编辑
红色狂想 发表于 2023-8-18 23:25
再请教一个问题,当默认安装部署好ESXi后,它会自动创建一个虚拟交换机vSwitch0,并添加VMkernel网卡vmk0 ...


可以通过VLAN隔离,多交换机多网卡隔离。只要资源够,物理网络上的隔离方法都是可以用的。
另外,为了速度和稳定性,对于ISCSI,VMOTION,或者FT这些流量,在实际应用中会单独配置VMKERNEL,VSWTICH和外联接口。
作者: 红色狂想    时间: 2023-8-19 18:02
c2h6o 发表于 2023-8-18 22:55
我自己也试过改出来的这种直通,似乎有随机掉盘然后又连接上的问题,不知道是不是休眠之类影响。我也没长 ...

为什么VMware在开发ESXi产品时要给他加入硬件直通功能,既然直通会给系统带来不稳定因素,那何不干脆不支持规避开风险呢,难道在实际企业生产力环境中有需要使用设备直通的例子?
作者: c2h6o    时间: 2023-8-19 20:13
红色狂想 发表于 2023-8-19 18:02
为什么VMware在开发ESXi产品时要给他加入硬件直通功能,既然直通会给系统带来不稳定因素,那何不干脆不支 ...

确实有,但很少而已。而且本来就有兼容列表,理论上列表里面的都是经过兼容性测试的,会标明硬件型号,硬件版本,固件版本。
我只在生产环境中直通过存储的LUN为了保存非结构化数据。
生产环境中直通单独一块硬盘的可能性非常的小。
作者: 红色狂想    时间: 2023-8-20 16:45
fell9999 发表于 2023-8-17 22:30
如果你担心这个.那么推荐你ILO用起来.然后硬盘拔掉.再在U盘中装esxi.做做实验.就只有时间成本而已 ...

VMware vSphere ESXi 7.0U1 修改配置达成SATA设备直通

按照以上说的操作步骤,一路很顺利,重启ESXi系统后切换直通也显示成功了,再次重启ESXi可以看到Wellsburg AHCI Controller的直通状态为活动,但当我新建一个Windows虚拟机并添加这个PCI直通设备后无法启动,打开电源,引导到Windows安装程序视窗画面就黑屏自动关闭虚拟机电源了,查看事件日志没有任何相关错误信息
看来HP服务器板载SATA AHCI Controller直通真的存在兼容性问题,还不是小问题,而是直接断了你的念想

(, 下载次数: 30)
(, 下载次数: 19)
(, 下载次数: 25)
(, 下载次数: 18)
(, 下载次数: 20)
作者: 红色狂想    时间: 2023-8-20 17:59
c2h6o 发表于 2023-8-19 20:13
确实有,但很少而已。而且本来就有兼容列表,理论上列表里面的都是经过兼容性测试的,会标明硬件型号,硬 ...

嗯,DL360 Gen9的板载Wellsburg AHCI Controller直通后也无法使用,虚拟机一启动就被关闭了,详见64#楼的回帖……
作者: c2h6o    时间: 2023-8-20 21:22
红色狂想 发表于 2023-8-20 17:59
嗯,DL360 Gen9的板载Wellsburg AHCI Controller直通后也无法使用,虚拟机一启动就被关闭了,详见64#楼的 ...

不行就放弃吧。我是没什么建议,也没折腾过,因为不符合我的使用理念。
作者: fell9999    时间: 2023-8-21 10:21
红色狂想 发表于 2023-8-20 16:45
VMware vSphere ESXi 7.0U1 修改配置达成SATA设备直通

按照以上说的操作步骤,一路很顺利,重启ESXi系统 ...


应该使用winpe.
再装windows.

winpe如果认不到硬盘.可以使用sysceo的.虽然他会劫持首页.但是卸载掉驱动管家即可.

作者: 红色狂想    时间: 2023-8-21 12:44
fell9999 发表于 2023-8-21 10:21
应该使用winpe.
再装windows.

这是什么原理,为什么通过winpe、sysceo装Windows就能认到板载直通的硬盘?
作者: 红色狂想    时间: 2023-8-21 12:55
c2h6o 发表于 2023-8-20 21:22
不行就放弃吧。我是没什么建议,也没折腾过,因为不符合我的使用理念。 ...

嗯,我就是验证一下,看到底直通后是个什么结果。正如37#楼说的,使用ESXi就不应该脱离vmfs虚拟化,否则就没意义了
作者: 雨季不再来    时间: 2023-8-21 13:13
红色狂想 发表于 2023-8-20 16:45
VMware vSphere ESXi 7.0U1 修改配置达成SATA设备直通

按照以上说的操作步骤,一路很顺利,重启ESXi系统 ...

预留内存了?
作者: Dreamwalker    时间: 2023-8-21 14:17
恭喜楼主 又踩入HP巨坑
作者: 红色狂想    时间: 2023-8-21 17:20
雨季不再来 发表于 2023-8-21 13:13
预留内存了?

必须的,内存锁定,该搞的都搞了
作者: 红色狂想    时间: 2023-8-21 17:27
Dreamwalker 发表于 2023-8-21 14:17
恭喜楼主 又踩入HP巨坑

还好吧,至少彻底死心可以全神投入玩儿ESXi虚拟化了。至于巨坑,再坑也没有DELL坑,他不但坑还没良心
作者: 雨季不再来    时间: 2023-8-21 18:48
红色狂想 发表于 2023-8-21 12:55
嗯,我就是验证一下,看到底直通后是个什么结果。正如37#楼说的,使用ESXi就不应该脱离vmfs虚拟化,否则 ...

那么,问题来了:ESXi为什么提供直通功能呢?而且还提供2种不同方式的直通功能!
作者: 红色狂想    时间: 2023-8-21 20:56
雨季不再来 发表于 2023-8-21 18:48
那么,问题来了:ESXi为什么提供直通功能呢?而且还提供2种不同方式的直通功能! ...

应该是为了功能扩展吧,尽可能满足更多用户的不同需求,只是受限于OEM品牌设备制造商的硬件限制,无法做到所有设备都能直通,这一点HP的产品尤为明显,比如HP ProLiant系列服务器板载集成的331i网卡和FlexibleLOM端口万兆网卡,都可以直通。
作者: 雨季不再来    时间: 2023-8-21 21:04
红色狂想 发表于 2023-8-21 20:56
应该是为了功能扩展吧,尽可能满足更多用户的不同需求,只是受限于OEM品牌设备制造商的硬件限制,无法做 ...

你其实可以试试取消sata控制器直通,再装一次win看看的。一般来说不能直通最多是认不出控制器,和黑屏没关系啊。
作者: 红色狂想    时间: 2023-8-21 21:52
雨季不再来 发表于 2023-8-21 21:04
你其实可以试试取消sata控制器直通,再装一次win看看的。一般来说不能直通最多是认不出控制器,和黑屏没 ...

试过了呀,只要把添加的PCI直通AHCI设备删除,虚拟机就能启动,就能正常安装Windows系统。就是说不是认不出AHCI控制器的问题,而是只要添加了PCI直通AHCI设备,就会导致虚拟机无法启动


作者: 雨季不再来    时间: 2023-8-21 22:19
红色狂想 发表于 2023-8-21 21:52
试过了呀,只要把添加的PCI直通AHCI设备删除,虚拟机就能启动,就能正常安装Windows系统。就是说不是认不 ...


这个就奇怪了,难道是hp的问题?同样的控制器,有人成功过的:ESXi6.7直通板载SATA控制器
作者: Dreamwalker    时间: 2023-8-21 22:21
红色狂想 发表于 2023-8-21 17:27
还好吧,至少彻底死心可以全神投入玩儿ESXi虚拟化了。至于巨坑,再坑也没有DELL坑,他不但坑还没良心 ...

磁盘控制器就别想直通了,  网卡 GPU都没问题
作者: 红色狂想    时间: 2023-8-22 12:44
雨季不再来 发表于 2023-8-21 22:19
这个就奇怪了,难道是hp的问题?同样的控制器,有人成功过的:ESXi6.7直通板载SATA控制器 ...

就是HP的限制,估计还是那个RMRR的问题,不同型号系列直通后又有所不同,那篇文章中指的不一定是HP服务器


作者: 红色狂想    时间: 2023-8-22 12:52
Dreamwalker 发表于 2023-8-21 22:21
磁盘控制器就别想直通了,  网卡 GPU都没问题

你有直通过板载的USB控制器吗,是不是一直通后面的USB接口给虚拟机,板载microSD卡槽上的TF卡ESXi系统就废了?
作者: c2h6o    时间: 2023-8-22 14:06
红色狂想 发表于 2023-8-22 12:52
你有直通过板载的USB控制器吗,是不是一直通后面的USB接口给虚拟机,板载microSD卡槽上的TF卡ESXi系统就 ...

这个好像没问题,我给客户直通过USB的加密狗是可以的。
但USB可以用USB OVER 以太网的方式处理,这种方式还可以VMOTION。
作者: Dreamwalker    时间: 2023-8-22 14:50
红色狂想 发表于 2023-8-22 12:52
你有直通过板载的USB控制器吗,是不是一直通后面的USB接口给虚拟机,板载microSD卡槽上的TF卡ESXi系统就 ...

板载microSD卡槽是作为USB接口的存储设备
你把控制器直通了 那还玩啥
作者: 红色狂想    时间: 2023-8-22 15:02
c2h6o 发表于 2023-8-22 14:06
这个好像没问题,我给客户直通过USB的加密狗是可以的。
但USB可以用USB OVER 以太网的方式处理,这种方式 ...

USB OVER以太网方式ESXi系统原生支持吗,有没有相关教程?服务器上的USB 2.0和3.0接口平常闲着也没用,想插个USB无线网卡给虚拟机用
作者: 红色狂想    时间: 2023-8-22 15:07
Dreamwalker 发表于 2023-8-22 14:50
板载microSD卡槽是作为USB接口的存储设备
你把控制器直通了 那还玩啥

DL360 Gen9有6个USB接口,难道它们全部属于同一个控制器?
作者: Dreamwalker    时间: 2023-8-22 15:32
红色狂想 发表于 2023-8-22 15:07
DL360 Gen9有6个USB接口,难道它们全部属于同一个控制器?

显然你已经踩坑了
作者: 红色狂想    时间: 2023-8-22 15:39
c2h6o 发表于 2023-8-19 07:58
可以通过VLAN隔离,多交换机多网卡隔离。只要资源够,物理网络上的隔离方法都是可以用的。
另外,为了速 ...

我现在就是通过物理交换机的VLAN分组隔离的,iSCSI走独立的SFP+万兆网络,你说的vMotion和Fault Tolerance应该都没问题,以下是主交换机端口关系图,这样拓扑存在不合理的地方吗?

(, 下载次数: 24)
作者: c2h6o    时间: 2023-8-22 17:23
红色狂想 发表于 2023-8-22 15:02
USB OVER以太网方式ESXi系统原生支持吗,有没有相关教程?服务器上的USB 2.0和3.0接口平常闲着也没用,想 ...

就一个软件,但需要外面 还要一个物理机器配合,如果多的话也有USB 服务器,但这个太贵。主要解决的是USB-KEY的问题。
作者: c2h6o    时间: 2023-8-22 17:26
红色狂想 发表于 2023-8-22 15:39
我现在就是通过物理交换机的VLAN分组隔离的,iSCSI走独立的SFP+万兆网络,你说的vMotion和Fault Toleranc ...

交换机端口设置成TRUNK,设置允许哪些VLAN通过,对应的虚拟交换机只要设置成对应的端口组,绑定VLAN ID就行了。其他需求之间物理交换机实现。
作者: 红色狂想    时间: 2023-8-22 17:48
c2h6o 发表于 2023-8-22 17:23
就一个软件,但需要外面 还要一个物理机器配合,如果多的话也有USB 服务器,但这个太贵。主要解决的是USB ...

是不是ESXi系统下要装这个软件的Server端,然后虚拟机里再装他的Client端?
作者: c2h6o    时间: 2023-8-22 18:56
红色狂想 发表于 2023-8-22 17:48
是不是ESXi系统下要装这个软件的Server端,然后虚拟机里再装他的Client端?

SERVER端装在其他机器上或者有专用的USB SERVER(应该是个嵌入式的设备),虚拟机装CLIENT端。
作者: 红色狂想    时间: 2023-8-23 17:35
c2h6o 发表于 2023-8-22 18:56
SERVER端装在其他机器上或者有专用的USB SERVER(应该是个嵌入式的设备),虚拟机装CLIENT端。 ...

什么是USB Server?工作原理是什么?
虚拟化部署----USB Server
Linux 系统使用 USB/IP 远程共享 USB 设备
这玩意儿专用硬件设备真贵,而且还是冷门产品,没什么可选的,除了银行等金融企业估计也没人用它
作者: c2h6o    时间: 2023-8-23 17:37
红色狂想 发表于 2023-8-23 17:35
什么是USB Server?工作原理是什么?
虚拟化部署----USB Server
Linux 系统使用 USB/IP 远程共享 USB 设 ...

很多企业要用,否则虚拟化平台上的软件用不了,比如OA,ERP这些,行业软件也有加密狗。
量少的话买个小电脑,加个USB HUB也能凑合用,但稳定性不如专用SERVER。
几千块万把块对企业来说也还是可以接受的。
作者: zhongli_1978    时间: 2023-8-23 17:40
本帖最后由 zhongli_1978 于 2023-8-23 17:41 编辑
红色狂想 发表于 2023-8-20 17:59
嗯,DL360 Gen9的板载Wellsburg AHCI Controller直通后也无法使用,虚拟机一启动就被关闭了,详见64#楼的 ...


装linux系统试试看。windows貌似也成功过,再pe下检查硬盘。
难道gen9特殊些?
作者: 红色狂想    时间: 2023-8-23 22:25
c2h6o 发表于 2023-8-23 17:37
很多企业要用,否则虚拟化平台上的软件用不了,比如OA,ERP这些,行业软件也有加密狗。
量少的话买个小电 ...

可选的品牌非常少,既然这个产品在企业领域非重要,为什么HPE/DELL/H3C等这些主流制造商不开发生产呢?
作者: 红色狂想    时间: 2023-8-23 22:31
zhongli_1978 发表于 2023-8-23 17:40
装linux系统试试看。windows貌似也成功过,再pe下检查硬盘。
难道gen9特殊些? ...

不可靠的使用方法,还是不折腾为好,毕竟直通硬盘也是为了存数据,既然存在各种兼容性问题,就更谈不上安全了。。。
作者: 红色狂想    时间: 2023-8-23 23:34
c2h6o 发表于 2023-8-18 16:56
实验就直接VMDK里面存下,不需要厚置备。

关于你说的安装部署虚拟机时VMDK设为精简置备就可以了,不需要厚置备这个问题,我查阅了一下VMware官网关于虚拟磁盘置备策略,发现文中并未提到 厚置备延迟置零、厚置备快速置零、精简置备 这三种磁盘类型在I/O性能上有什么区别,只不过精简置备不支持集群 Fault Tolerance 等高级功能而已。那么这是不是就意味着,对于实际生产力环境下的Linux虚拟机,系统盘选精简置备和选厚置备I,其/O性能是完全一样的呢?
作者: c2h6o    时间: 2023-8-24 09:06
本帖最后由 c2h6o 于 2023-8-24 09:10 编辑
红色狂想 发表于 2023-8-23 22:25
可选的品牌非常少,既然这个产品在企业领域非重要,为什么HPE/DELL/H3C等这些主流制造商不开发生产呢? ...


据说国外用加密狗的不多,国内环境软件用加密狗比较多。几款USB OVER 以太网的软件也都是国外软件公司开发的。USB SERVER有部分就是基于这几款软件改造的。
作者: c2h6o    时间: 2023-8-24 09:09
红色狂想 发表于 2023-8-23 23:34
关于你说的安装部署虚拟机时VMDK设为精简置备就可以了,不需要厚置备这个问题,我查阅了一下VMware官网关 ...

按照VMWARE之前的最佳实践,对IO要求高的建议是厚置备。当时是HDD为主的环境。实际使用普通应用厚置备和精简置备没看出区别,现在是SSD比较多,理论上影响更小。
作者: 红色狂想    时间: 2023-8-24 12:51
c2h6o 发表于 2023-8-24 09:06
据说国外用加密狗的不多,国内环境软件用加密狗比较多。几款USB OVER 以太网的软件也都是国外软件公司开 ...

USB over Network - share USB devices over Ethernet
USB over Ethernet Share USB device over Network
以上这两家公司的USB OVER产品哪个最好用呀,都是免费的吗?




欢迎光临 Chiphell - 分享与交流用户体验 (https://www.chiphell.com/) Powered by Discuz! X3.5