3090 跑文本向量模型可以么？ 3090 是不是有点过剩？

[catyun88]

如题 3090 涡轮 24G 客户拿来跑文本向量模型,配的铂金 8259CL 的处理器 是不是有点过剩

[malusama]

这还过剩？ 4090 我都嫌弃不够

[coefu]

embedding 的话，凑合 带宽窄了点，主要是 GPU core 算的快一点，Tensor core 多一点。 用 qwen3 embedding FP16 ，显存差不多可以用完。