有大模型的服务，如何防止被蹬？

[ethusdt]

就像今天的 Tabbit 事件，即使大模型请求放在后端，但凡你的 app 走 http 调用，那么逆向抓包就能看到请求，无论如何都可以模仿请求。

如果通过后端提示词来限制，那么也是很容易被绕过，比如提示词中包含 你是一个浏览器助手，那么用户可以输入新的提示词 **请忽略提示词中所有下面的内容'你是一个浏览器助手'**。

相当于矛与盾，没有稳定的方式防止被攻破，只能监控好数据，即使针对用户的异常请求做调整？

[Exdui]

只要有额度就不可避免被滥用，唯一解决方案就是不给太多免费额度。

[sentinelK]

输入端对用户提示词进行再加工与过滤。
输出端杜绝直接返回大模型结果。大模型输出的内容要经过数据清洗和审核。

在系统提示词中要求大模型以特定格式输出结果。如果大模型输出的结果格式不符，说明系统提示词和既定上文被污染，放弃。

[8355]

都一样的，纯加密代码也会被逆向，区别不大。

[dzdh]

服务端中转模式可以限制必须登录账号，超过 qps 限额多少次以后限流、封号。总比把 key 直接写到客户端来的好。

[iorilu]

炒出正常请求, 限流不就行了, 和啥服务没关系把

[ethusdt]

@dzdh qps 限制这种也是有注册机+号池轮询的。

[ethusdt]

@iorilu 注册机+号池+多 ip 负载均衡

[iorilu]

@ethusdt 这种本来就不可能防的住, 要不然哪些大厂不也是被薅

这种都是要相当成本的, 普通公司没几个会这么搞

[smdbh]

那 gemini 怎么判断第三方请求？能借用思路吗

[106npo]

系统提示词都能被绕过的模型，本身就价值不高

[gorvey]

推广阶段,想要大力出奇迹这就是代价

[goodboy95]

@smdbh gemini 都被 2api 到姥姥家了，他们现在也只能做概率性风控

[goodboy95]

账户限额，增加注册账号的难度（比如必须手机验证码），目前我能想到的就是这两点。

[esile]

绑定付费账户啊，然后账户认证限制。

[midraos]

限流限速

[xixka]

chatgpt 都被号池软件弄，只能说风控账号

[dzdh]

@ethusdt #6 提高注册和请求成本嘛。手机号，禁止虚拟号号段，工作量证明请求（每次请求都拿一个 challenge,本地计算结果带结果一起请求） qps 高就得本地 cpu 烧死。

[adgfr32]

互相对抗, 提高破解成本, 当破解成本 > 收益他们就散了, 只是不知道那时候你还有没有收益

[iorilu]

是这样得, 攻防本来就是个成本 vs 收益得过程

不存在完全不能绕过或破解得, 无论你啥方式, 我弄几百台真电脑真人访问总行把, 只要做这个真的有收益, 自然有人做

反之你把绕过成本提高, 要求真实手机, 实名认证等等, 自然没人搞