首页 注册 登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
9527kf
V2EX  ›  开源软件

各位大佬，有没有转发和统计大模型 tokens 的开源工具

  •   
  •   9527kf · 4 天前 · 267 次点击
    公司内想统计每个开发使用的 tokens 数量。
    现在想的是找个工具，转发厂商的 API ，来统计每个用户的 tokens 数量。

    有这样的开源工具能实现吗

    谢谢
  • tokens
  • 统计
  • 开源
    2 条回复  •  2025-03-27 23:19:52 +08:00
    null113
        1
    null113  
       4 天前
    oneapi
    yangg
        2
    yangg  
       3 天前 via iPhone
    litellm 大概这个拼写，搜下
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3343 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 11:28 · PVG 19:28 · LAX 04:28 · JFK 07:28
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.