请不要把任何和邀请码有关的内容发到 NAS 节点。

邀请码相关的内容请使用 /go/in 节点。

如果没有发送到 /go/in,那么会被移动到 /go/pointless 同时账号会被降权。如果持续触发这样的移动,会导致账号被禁用。
zcbgood
V2EX  ›  NAS

自建了个"多模型并排"的 AI 入口,跑在 NAS 上,全家共享

  •  
  •   zcbgood · Jun 26 · 1050 views

    想输入一句话,让 Claude / GPT / Gemini 同时回答、并排比较。现成工具不顺手(收费 / 不让填 key / 不能并排),就自己搭了。

    做法:

    • 把访问统一成一个 OpenAI 兼容接口
    • 前面套 Open WebUI (并排 + 合成一个答案)
    • 两个服务 Docker 跑在群晖 NAS ,24h 常驻
    • key 只存服务端,永不下发浏览器
    • 规则分流:只让国外模型域名走代理,国内直连

    踩的坑:半夜崩是 NAS 的 inotify 实例数满了;代理坏节点用"健康检查指向真实模型接口"自动剔除。

    写成长文 + 架构图了: https://zerblion.github.io/zrxl_blog/#/post/2026-06-21-multi-model-ai-gateway 顺便问下,大家的自托管多模型都怎么搞的?

    2 replies    2026-06-28 00:33:49 +08:00
    alfawei
        1
    alfawei  
       Jun 26
    挺有意思的想法 要能在手机端实现就好了。我用 docker 在群晖上部署了一个 deepseek 接口接入到 synology chat
    zcbgood
        2
    zcbgood  
    OP
       Jun 28
    @alfawei 感谢回复 事实上手机端可以实现 因为部署在了 nas 上 所以多端都可以访问的 我已经开源在我的 git 上了 有兴趣可以看看 https://github.com/zerbLion/openwebui-cliproxy-gateway
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5009 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 09:41 · PVG 17:41 · LAX 02:41 · JFK 05:41
    ♥ Do have faith in what you're doing.