g0147456g 最近的时间轴更新
g0147456g

g0147456g

V2EX 第 665227 号会员,加入于 2023-11-30 19:10:16 +08:00
g0147456g 最近回复了
4090 估计是完全不行。4bit 量化下仍然需要 40+GB 的显存,而 4090 不支持 nvlink ,难以多卡并行
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3939 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 10:18 · PVG 18:18 · LAX 02:18 · JFK 05:18
Developed with CodeLauncher
♥ Do have faith in what you're doing.