求教如何选购本地AI部署的硬件系统（超级私人秘书），5090或者Mac Studio Ultra3等

porsche4me

我和楼主类似, 也想用本地AI来完成些任务, 稍微不同的地方是:

1. 我是想把公司内部的IT管理交给AI来做, 人做什么, AI就做什么. 工作内容基本就是查看日志, 添加路由, Kubernate升级, GKE 网络抓包, Git push 文件, Git读取. Azure管理, GCP管理, 等等. 工作内容其实比较简单, 但人力很贵, 如果能AI化, 那将是翻天覆地的变化.

2. 公司是属于财务敏感型, 这些数据没法上公有AI, 只跑在私有AI下.

3. 目前就是我个人的学习阶段, 等公司上AI估计得几年后, 到时候估计黄花菜都凉了, 所以不想等.

4. 原计划是买Mac mini, 但内存实在不能真正干点啥, AI跑起来后还要有其他的东西跑在机器上, 这样64G貌似也挺紧巴巴的. 后来想上macStudio 128G, 但看了这个帖子感觉即便是128G也是不行, 不仅仅是AI速度/token速度 不行, 还有一个是AI的能力不够, 做啥都是错的.... 最终也就是建一个实验环境.... 但我最初的目的不就是建个实验环境吗? 所以心思又回到了Mac Mini m4 Pro 64G.... 仅仅是用来证明一下想法是否可行...

望大神指点指点, 谢谢

porsche4me

xy. 发表于 2025-7-29 10:15
你需要 mcp server
https://github.com/punkpeye/awesome-mcp-servers
现在来看落地都不是很好, 主要是巨 ...

多谢, 我研究研究哈