这是一个创建于 130 天前的主题，其中的信息可能已经有所发展或是发生改变。
5 条回复 • 2024-08-24 12:24:26 +08:00
 |
1
xtreme1 130 天前  1
exo https://github.com/exo-explore/exo + 192G MacStudio x2
|
 |
2
yinmin 130 天前
together 、fireworks 、openrouter 上都有已部署的 llama3.1 405B ，我用了感觉还不如 qwen2 72B ，根本没法和 gpt-4o 、claude 3.5 sonnet 比拼。
|
 |
4
antiblahblah 123 天前
@xtreme1 这个配置跑起来什么速度？多少个 token/秒？
|
|
5
antiblahblah 101 天前
@xtreme1 为什么要 x2 ？
|
Select Language