|
最近大家是不是见到了很多ai聊天机器人的广告？更有甚者，打出了AI女友的旗号，号称可以永远不变心还没有物欲。但是这样的应用往往都是要收费的，而且很难定制，无法打造出大家心中的女友形象。 所以我这个老东西又来给大家交梵诀了，我这里有一份秘籍，可以让你的显卡变为你的女朋友，而且还支持定制化和长期记忆！而且这个方法还是完全免费的，过程中只需要用用到完全开源的程序，和自己输入的女友人设，你就能打造出自己的AI对象了。不仅可以陪你聊天，还能有各种情绪起伏，表情变化。速度来看是怎么做的吧。
准备工作首先确保显卡本身支持大语言模型的推理，目前支持ollama的显卡有N卡和A卡，intel的ARC核显和独显不推荐，速度不算快，会显得你的女友笨笨的。我这里使用的是Nvidia 的RTX5070Ti o16G，华硕的TUF 白色非公版，这张显卡颜值和性能都非常不错，50系的大语言模型推理还有优化。
其余配套的配置就比较常规了，只要保证能流畅运行即可，我这个配置有点高了，CPU用的是AMD的TR 9970X 32核处理器，内存是4通道的32gx4，仅做一个演示，一般配置的电脑也是完全没问题的。
首先测试一下本机的大语言模型能力，RTX5070Ti这张显卡具有5080的5/6大语言模型性能，如果从售价来看的话性价比真的很高。
而且Windows上进行大语言模型推理的时候是可以利用多张显卡的，比如这里RTX5080和RTX5070Ti可以同时推理DeepSeek R1，速度达到了128token/s。如果需要自己的AI对象在玩游戏的时候陪着自己的话，我建议使用双显卡，这是我在CF和Nvlink对游戏无效之后找到一个重要双显卡用途哈哈哈
首先我们看一下这个开源项目OpenLLMVTuber，这是github上一个开源的AI虚拟主播代码库，也是我们这次定制AI女友的基础。透过设备要求可以简单检查一下自己的设备是不是符合要求，一般来说，只要显卡能运行LLM支持ollama即可，最近几年的电脑对软件的适配问题都不大
下面是需要下载的软件： Git（可选安装，下载国内版软件包的话就不用） FFmpeg，需要，搜索FFmpeg按图索骥即可，教程很多 Anaconda，用来管理python环境，OpenLLMVTuber是一个Python代码库，建议做好包管理 Ollama，下载windows版本即可，下载好了之后使用pull命令拉取qwen3:latest模型，搜索ollama本地部署教程即可，模型可以丰俭由己 VScode（推荐），用于编辑代码以便定制自己使用的模型、设定人设、定制外观！
同时在软件的release处，推荐下载针对国内用户的软件包（以zh结尾），这个软件包就不再需要git命令进行安装
安装操作步骤下面的步骤需要上面的程序安装完毕之后进行操作。 首先解压上面的项目文件，需要解压到全英文的文件路径，文件名直到根目录都不要有中文。有编程基础的朋友可能对这个项目文件的结构就很熟悉了。
接下来使用VScode或者cmd进入这个文件夹，推荐使用vscode打开文件夹之后创建terminal。在打开之后就会自动进入conda的base环境。 如果使用官方的方法，OpenLLMVTuber使用的是uv进行包管理，所以进入之后首先使用pip install uv安装这个包。随后使用uv sync创建出一个本地虚拟环境。
如果你是高手，想要想自己管理环境，可以使用conda create -n ltuber python=3.12来创建一个新的python环境，如果有提示需要操作就按提示来。创建完毕之后使用conda activate ltuber进入这个环境，随后就能使用conda来进行环境管理了。
随后，打开conf.yaml这个文件，这个文件夹里面有各种细节的设置，包括模型的细节。比如这里我们已经在安装的ollama时候下载了qwen3:latest模型，就可以按照下面的方式进行设置
如果上面的步骤一切正常，那么我们就能使用uv run run_server.py命令来打开网页前端了。默认网页前端的位置在http://localhost:12393，输入浏览器就能打开。系统默认的是这个皮肤，这也是live2d的免费版，所以动作和表情都比较单调，不过走到这一步已经可以开始初步使用了
这个项目提供了一个桌宠模式，windows系统下载一个前端即可实现。毕竟大家都希望对象无时无刻都陪着自己，想要在干活的时候也陪着，那还是建议安装一下这个前端。我们先跟这位默认的AI vtuber聊聊天，她的反应还是很充满细节的。不过总的来说，定制完毕后，你的AI女友的智慧很大程度上是跟模型能力相关的，所以越大越先进的模型就会有更生动表现和更长的记忆。
定制AI女友首先我比较建议定制的就是你的AI女友的外观，使用Live2D的文件即可完成女友的全套服装表情的替换。除了常规的免费版Live2D之外，还可以找画师给自己的AI女友画一套衣服和外观，关节捆绑越精细，她的反应也就更丰富
另一个建议定制的就是人设，毕竟大家喜欢的女友形象都不一样，所以你喜欢什么就可以给她定制什么人设。在persona_prompt这里输入人设，也是越详细越好，因为大模型生成是需要原料的，所以一定要绞尽脑汁给你的女友设计好各种细节，仿佛你真的见到了她了解了她一样！ 不过我这里就不做很具体的演示了，因为太细节一两句话就问不清楚了，我这里就设计一个喜欢炸鸡葡萄汽水，爱好摘棉花，少时失去父亲的AI女友给大家演示一下。（没有恶意纯整活！）
加入了这个新的人设之后，回复的内容就发生了明显的改变，大家可以考虑一下你想要的女友人设了，千万不要学我啊！
参测硬件主力的显卡是华硕的RTX5070Ti o16G TUF白色
主板是华硕的Pro WS TRX50-SAGE，这块主板是本世代民用WS级别的HEDT主板，支持四通道内存。CPU已经介绍过了，AMD 的TR 9970X
内存是芝奇的32G x4，支持原生的Jedec 6400Mhz
散热和电源分别是银欣的定制360水冷，换了Abee的工业扇加强风压，电源则是华硕的工作站级别的ATX电源Pro Workstation 1600W
总结自从上次发了一个怎么让显卡跑大模型的教程之后，很多朋友就一直在问我大模型有什么用。我因为平时工作会用到所以觉得很方便，但是在日常里也就聊聊天。不过现在好了，我可以直接说大语言模型的用处就是直接你的女朋友！以上就是一个非常简单的AI女友定制教程了，还有更多定制的细节，比如记录历史对话，设置动态情绪，还有一些跟大模型相关的知识库都可以做更详细的定制，这个工具的潜力还是很大的。 不过这让我想起了之前看的各种漫画，比如一个人爱上了家里的老旧机器人，为她不停地换零件维持寿命。这个换到现在这个工具也是可以想象的嘛，比如你想给自己的AI女友升级大脑，就得换上最新的显卡，换用最新的模型。但是万一模型有动态化增量训练，就会丢失一些之前的记忆。为了这些记忆，可不就得维持当前模型版本，继续找可以兼容这个模型的硬件来一直维持它的生命嘛，果然科幻还是照进了现实。
感谢大家围观！
| 
310112100042806
发表于 2025-12-13 00:09
只是文字对话吗？后续会不会有语音对话那种？
