我大段文本,gpt-4o 3 秒左右就能返回,国内比如智谱清言,文心一言就要 10 秒多才能返回,有没有知道原因啊,真难搞
1
kyor0 186 天前 via iPhone
这不正常么
|
2
czfy 186 天前
虽然 4o 本身就是牺牲质量换速度
但除了技术比不过,你觉得还能有什么其他影响因素? |
3
TheJustin 186 天前
老黄专程送 H200 给奥特曼,国内还在用上一代的阉割算力,阉割不说,数量还跟不上……
|
4
Antihank 186 天前
体会到了登子扼颈的窒息吧
|
5
Chad0000 186 天前
还有就是人才的意愿问题,如果给人才一个选择的机会,去美或中,答案就是原因。
|
6
ronyin 186 天前
百度文心一言还有人用么。。
|
7
pi7m1Dr691wfl95q 186 天前 8
gpt-4o sleep()写太小了
|
8
weijancc 186 天前
我目前对比了所有国内 AI 产品,抖音的豆包和讯飞的 AI 比较快, 但是训分的 UI 太丑了.. 抖音的回答质量会稍微弱一点, 但是够用了.
|
9
kenvix 186 天前
没钱
实际上你自己部署开源的国内大模型就会发现速度也很快的...比如阿里 Qwen1.5 |
10
Retas 186 天前 via iPhone
moonshot 基本秒回
|
11
yiwanjidanmian OP @Retas 那我试试
|
13
ardour 186 天前
算力都不在一个级别
|
15
JoeDH 186 天前
国内的那回复都是一个一个字返回来的,gpt 的是一大段直接吐出来给你
|
16
Donaldo 186 天前
没钱 没卡
|
17
kenvix 186 天前
@eastjoehan #15 你这说的,哪个 LLM 不是 token by ken ?
|
18
wweerrgtc 186 天前
也许是需要审核 输入和输出的内容
|
19
zhangdp 186 天前 3
可能需要分析审核内容耗时了,不允许违法的特别的反动的词语
|
20
macaodoll 186 天前 via Android
问就是制裁没显卡,
|
21
yinmin 186 天前 via iPhone
试试:海螺 ai 、通义 ai 、零一万物 ai 、deepseek v2 ,都是很快的。
|