大家好!今天我想和大家聊聊我是如何一步步从云服务器用户变成打算自己 DIY 一个全能主机的。希望能听听大家的意见,特别是有经验的大佬们,你们的建议对我来说非常宝贵!!
最开始,我使用云服务器来部署日常任务。虽然第一年的价格相对划算,但续费时就是老用户不得进内了。所以,我就有了自己搭建一个的想法,然后整个内网穿透,多好。
于是,我决定购买一台简单的 Mini 主机(比如 N100 ),配置 32GB 内存和 2TB 硬盘,这配置不比云服务器香多了。
但是,我对大模型服务又很感兴趣,比如部署个服务跑跑 SD 画图和语音合成等。于是我找到了一款支持显卡的 Mini 主机,准备搭配 4070 Ti Super 显卡,这样既能满足游戏需求,又能支持模型运算,岂不是一举两得!
然后我就在网上都各种方案,经过这两天让我高强度冲浪,原来这种“既要又要”的需求就是 All In One
我的计划是使用 PVE 系统管理几个虚拟机,具体配置如下:
我的需求是,平时不玩游戏和模型的时候,希望主机能够低功耗、低噪音(毕竟得放在卧室里)。同时,我希望它能玩游戏、部署模型服务,NAS 功能则是附带的,并不是刚需。我的整体预算大概在 15K 左右。
对于我这种需求,All-In-One 是否是一个好选择?如果使用直连显卡用于游戏和模型,一个显卡是否足够?希望各位大佬能给予一些指点,万分感谢!
此帖可有偿回复,欢迎各位大佬不吝赐教!
1
ztmzzz 104 天前 via iPhone
卧室和机械硬盘是冲突的
4070 跑大模型只能说想多了 |
2
dongzhuoyao 104 天前
这需求 15k 是不是太少了点
|
4
abc0123xyz 104 天前
建议把路由独立出来,要不然就是 all in boom.
网络崩了,连搜索问题都搜不了 |
5
zbatman 104 天前
反正这一套让我用的话我会很别扭,All in one 也不是这么 All 的
15k 让我分配的话 500 买个好点的路由器,刷 OpenWrt 2.5K - 3K 淘个 7840HS 的小主机,带 16/32G 内存+1T nvme ,看看能不能挤出点再搞个大点的机械硬盘 剩下的 1 万多配台 4070 Ti super 的台式机 小主机上装 PVE ,可以做软路由+Linux (日常开发)+NAS ,平时一直开着,也不怎么耗电 台式机玩游戏+WSL 跑模型(不太清楚 WSL 能不能用显卡) |
6
xwjlucky 104 天前
我家都是分开的
|
7
songyoucai 104 天前
安装我的部署,一定要把网络分开, 走硬路由,主机 boom 不影响家庭网络。
同时把下载器,算,存进行分开。 硬路由: 家庭路由器即可 300 内 24 小时开机。 下载器: 星际蜗牛等矿渣 300 内 加上你得 8T*2 的硬盘,来安装黑裙,主做 nas ,可以安装 docker 服务,来提供爬墙等代理。功耗 60w 左右 算力服务器:普通主机电脑+显卡 底层用 pve 安装虚拟机, 当不需要用的时候,把整个主机关机。需要的时候,通过群晖 nas 来进行远程唤醒即可。 这个需要考虑散热,扩展性,以及不用的时候卖出回血。 普通台式机是最好的选择,内存可以插满,显卡到时候也能上到 5090 。 这样才是最好的规划。 |
8
xwjlucky 104 天前
800 块的 J6412 小主机当软路由/1200 的 J4125 的当 nas 配了一块 16t 硬盘/主力机 12700k+48g 内存玩游戏写代码/9700x+48g 内存小主机当服务器开虚拟机后期可以外接显卡跑各种东西
|
9
songyoucai 104 天前
@songyoucai 我自己 homeserver 为 11700+128g+2T*2 以及一个 2T 机械。 我是通过下载器(群晖 nas)和算力服务器 同时备份。来做的我说的存的部分。重要资料我都是手动存储,群晖 nas 一份,homeserver 一份,网盘一份。
这就是我的 网络,下载器,算,存的方案。 |
10
phenixc 104 天前
建议将存储独立出来,分两个模块:网络和计算,存储。或者三个模块:网络,计算,存储
|
11
ztmzzz 104 天前 via iPhone
@heisenyu mistral7b ,float16 ,占用 16253mb 。加上显示占用的显存,不好说。
要显卡的 linux 改为 wsl ,docker 默认支持调用显卡,还不用在本机装 cuda 。 |
12
phenixc 104 天前
我目前的结构是:
j4125 负责网络和智能家居:安装 pve,挂 ikuai, dae, singbox, homeassistant, zerotier, tailscale, frpc 。功耗大概 10w ,无风扇,无声音。 8845hs 负责计算:挂 win11, centos, docker, dsm 这些服务,待机功耗大概 12w,50cm 以外基本听不到声音,重度使用就另说了。 极空间 z4pro 负责存储,也挂了一些 docker,两块 16t hc550 待机功耗 14w, 使用功耗 25w 。 还有一台台式机 10850k, 6600xt, 安装 win11, 黑苹果。 ups 给 j4125 和极空间,路由器,交换机,以及米家网关供电,nas 待机情况下,ups 统计电量大概 0.8 度/每天 |
13
ellermister 104 天前
把路由独立出来,上面有人说的。
另外把游戏机也独立出来,虚拟机里容易被检测封号,体验也不好。 all in one 之后一个非常大的缺点,一旦物理机有个什么参数要改,要重启系统,所有机器实例都中断! |
14
sn0wdr1am 104 天前
别人的 ALL——IN:我有好多篮子的鸡蛋。
你的 ALL——IN:我把鸡蛋都放在一个篮子里。 |
16
heisenyu OP @songyoucai 感谢回复,确实打开了新思路。我也准备分开了,请教一下这边科学上网是通过部署 docker 服务,然后用到的话通过 配置代理 ip 进行科学上网的吗?如果这样的话是不是就不需要软路由了
|