V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
gtese
V2EX  ›  OpenAI

如果是 3-5 个人自己搭开源模型用什么好?

  •  
  •   gtese · 129 天前 · 1418 次点击
    这是一个创建于 129 天前的主题,其中的信息可能已经有所发展或是发生改变。
    openwebui 有时候会卡住。
    有推荐吗?
    11 条回复    2024-07-25 08:50:00 +08:00
    wentx
        1
    wentx  
       129 天前
    comfyui ?
    gtese
        2
    gtese  
    OP
       129 天前
    @wentx 不玩生图和视频,只是 gpt 。
    yinmin
        3
    yinmin  
       129 天前
    Ollama+LobeChat

    开源大模型能达到 GPT 水平的,基本要 700 亿以上参数的 AI 模型,例如:qwen2(72B),对服务器硬件要求不低哦。
    lekai63
        4
    lekai63  
       129 天前 via iPhone
    目前用 librechat
    利用 hf 、mongo 服务,railway 之类打个配合,确实可以做到不用出自己的服务器
    gtese
        5
    gtese  
    OP
       129 天前
    @yinmin 手里 2 路 4210 ,256g ,rtx5000 不要求 72b 。14 ,22 就可以了
    kangfenmao
        6
    kangfenmao  
       129 天前
    Ollama + Cherry Studio

    💡模型支持:

    1. OpenAI
    2. SiliconFlow
    3. deepseek
    4. 零一万物
    5. 智谱 AI
    6. 月之暗面
    7. OpenRouter
    8. Groq
    9. Ollama
    10. 百川智能
    11. 阿里云 DashScope
    12. AiHubMix
    13. Anthropic

    https://hao.logosc.cn/p/3748
    yinmin
        7
    yinmin  
       129 天前
    试试这个组合,体验度不错的:Ollama + one api + ChatGPT-Next-Web
    或者 Ollama + ChatGPT-Next-Web
    hkshawn
        8
    hkshawn  
       128 天前
    给你个免费的 别纠结了

    api.66d.eu
    gtese
        9
    gtese  
    OP
       128 天前
    @hkshawn 广告滚粗
    hkshawn
        10
    hkshawn  
       128 天前
    @gtese 有本事你别用啊
    gtese
        11
    gtese  
    OP
       127 天前   ❤️ 1
    @hkshawn 有本事的门槛这么低。。。。笑。。。。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1405 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 00:00 · PVG 08:00 · LAX 16:00 · JFK 19:00
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.