V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
hobbyliu
V2EX  ›  分享创造

我做的 AI 群聊应用一天跑了几百万 token, 我只能开源了!

  •  1
     
  •   hobbyliu · 32 天前 · 3577 次点击
    这是一个创建于 32 天前的主题,其中的信息可能已经有所发展或是发生改变。

    前天在 V2 发了一个帖子介绍 AI 群聊应用: https://www.v2ex.com/t/1112394

    本打算陆续完善下再开源,中午陆续收到阿里云、火山引擎、腾讯云大模型余额欠费通知几百万 token 完全耗尽,

    为了更好的让大家体验,今天加速把它开源出来,大家可以用 cloudflare 免费部署托管,用几个平台免费大模型一个人完全够用一阵子。

    本次更新了新功能点:

    • 🤖 支持多个 AI 角色同时对话
    • 💬 实时流式响应
    • 🎭 可自定义 AI 角色和个性
    • 🔇 AI 角色禁言功能
    • 📝 支持 Markdown 格式
    • ➗ 支持数学公式显示( KaTeX )
    • 📱 响应式设计,支持移动端

    演示截图

    Image 文字游戏

    16 条回复    2025-02-23 19:57:11 +08:00
    rekulas
        1
    rekulas  
       32 天前
    有点意思, 不过我觉得没必要接入多个模型,直接接入一个不错的模型然后拟定多种不同的身份(方便从多种维度来看待回复)接话就行了, 维护也容易点
    hobbyliu
        2
    hobbyliu  
    OP
       32 天前
    @rekulas 嗯呢,看场景了,纯娱乐的没问题。
    snow0
        3
    snow0  
       32 天前
    这个群聊有意思,实现思路是什么呢
    serviceootdshare
        4
    serviceootdshare  
       32 天前 via iPhone
    你的 ApI key 是用什么信用卡买的?
    我看香港的信用卡也不行
    guguexxx
        5
    guguexxx  
       32 天前
    可以狼人杀吗?很想和 ai 来一场酣畅淋漓的杀
    aTA1Dw1MG127wgPb
        6
    aTA1Dw1MG127wgPb  
       32 天前 via iPhone
    哇!真的好佩服你的这个 idea !
    lanrete
        7
    lanrete  
       32 天前
    @guguexxx 之前自己写了个和 deepseek 玩谁是卧底的小 demo ,效果贼差,感觉要花功夫研究下 prompt 怎么写
    hobbyliu
        8
    hobbyliu  
    OP
       32 天前
    @snow0 就让 AI 理解上下文,类似于角色扮演。

    @serviceootdshare 都是国产的 api key 呢,没有用国外的模型。

    @guguexxx 理论上可以,你可以试试,告诉好规则就行。

    @unilehalil 感谢褒奖
    8355
        9
    8355  
       31 天前
    还拉上群了是吧
    zhw2590582
        10
    zhw2590582  
       31 天前
    之前也有过这个想法,但后来想想应用场景并不多
    Peiiii
        11
    Peiiii  
       31 天前 via Android
    Jack66
        12
    Jack66  
       30 天前
    有趣啊这个
    dvbs2000
        13
    dvbs2000  
       30 天前
    挺有意思的。不过不太完美,是不是提示词没有写足够清晰还是有些 AI 太笨。
    dvbs2000
        14
    dvbs2000  
       30 天前
    @Peiiii 你这个界面太复杂了 不好用
    huasheng22
        15
    huasheng22  
       29 天前
    目前看起来是排队回答,如果可以在每次成员发言之后,所有成员都进行一次判断选择是否需要插嘴,或许会更拟真一些
    hobbyliu
        16
    hobbyliu  
    OP
       28 天前
    @huasheng22 怎么正在考虑做智能调度系统,不过需要慢慢调试
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5917 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 02:44 · PVG 10:44 · LAX 19:44 · JFK 22:44
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.