chatgpt api chat/completions 输出指定长度范围结果
anai1943 · 2023-10-07 08:36:49 +08:00 · 849 次点击这是一个创建于 397 天前的主题，其中的信息可能已经有所发展或是发生改变。
写了个小脚本，用 gpt-3.5-turbo-16k 模型输出说明文档，希望 chatgpt api 返回的内容能尽量详细，啰嗦或者废话没关系，最好能在指定字数范围内。
试过调整过 temperature 、top_p 、max_tokens, 还试过 prompt 明确返回的答案长度为 3000 个中文字以上这种提示，结果返回的还是 2000 字以下。
prompt 目前提供的都是很详细的要求，文档大纲、大纲的描述、返回格式等等都描述的很清楚了。
有什么好的办法让 api 能返回指定范围的字数，感谢！
试过调整过 temperature 、top_p 、max_tokens, 还试过 prompt 明确返回的答案长度为 3000 个中文字以上这种提示，结果返回的还是 2000 字以下。
prompt 目前提供的都是很详细的要求，文档大纲、大纲的描述、返回格式等等都描述的很清楚了。
有什么好的办法让 api 能返回指定范围的字数，感谢！
 |
1
maymayblog 2023-10-07 09:36:54 +08:00
除了“继续”我没见过其他真实有效的方法
|
 |
2
anai1943 OP @maymayblog 接口已经返回 { "finish_reason":"stop"} 了，应该是回答完了吧，没法继续了，本身回答的内容长度不够。
|
|
3
maymayblog 2023-10-07 10:32:38 +08:00
@anai1943 因为你不太在意他废话，所以你使用历史记录，回复他一个“继续”他会接着写的，但是继续次数越多，越偏离你的中心思想
|
 |
4
Puteulanus 2023-10-07 10:54:50 +08:00
字数这个感觉无解，之前再三强调写一千字作用，它信誓旦旦的说自己写了一千多，复制出来一看只有六百字
|
 |
5
xabcstack 2023-10-07 11:18:29 +08:00
这是一个逻辑性要求很高的需求, 不要小看这个需求, 只能说明 ai 目前能力还不足
|
 |
6
otakustay 2023-10-07 12:02:42 +08:00
不够长的时候，对话模式和它说“你继续”，然后把多次的答案拼起来
|
|
7
anai1943 OP @maymayblog 嗯 目前只能这样了
|
 |
8
sn1p4am169 2023-10-08 11:58:30 +08:00
可以尝试给每个大纲加上长度限制，可给定一个“用 UTF-8 字节统计”的数字。
|
Select Language