64g 的 mac 真的有能跑能用的 ai 本地大模型么,Qwen3.8-27B-8bit 都费劲
 |
1
Wxh16144 6 days ago
我的 m4 pro mac mini 同内存，反正是跑不了.. 折腾一圈还是 ds 香
|
 |
2
rockddd 6 days ago
看用来做什么，编码不行.但是可以跑解禁大模型，例如猎奇了一下如何制作 C4...
|
 |
3
foryou2023 6 days ago
不能干活，聊天可以。
|
 |
4
x86 6 days ago  1
🙅♂️不利于涨价卖设备的帖子不要发🐶
|
 |
5
NG6 6 days ago
我也挺好奇的，真的有人专门买几十 GB 的 Mac 跑本地大模型么，这个级别的内存能跑动的 AI 智力都挺底下的吧，远不如便宜的厂商直供 API
|
 |
7
BretTaylor 6 days ago
主要本地搭建一些无审查的模型。
|
 |
8
idcidc 6 days ago
只是你刚好有 而且要求不高 可以玩玩 特地去买没必要 还不如用 api 一台机器的钱能用好几年的 api 呢
|
 |
9
Cruzz 6 days ago
可以猎奇。问点在线模型不能问的。前两天在 x 上看不有个姑娘做个赛博调教工具么。
|
 |
10
Sezxy 6 days ago
也就跑跑 8B 的小模型用来梵音
|
|
11
Sezxy 6 days ago
梵音 =》 翻译
|
 |
12
keyu1103 6 days ago
64g 挺尴尬的 能用的模型跑不起来，小模型又没必要
|
 |
13
qweruiop 6 days ago
只能聊天，不能干活，那个 context length 太小了，感觉吹能干活的都是收了广子的。。。
|
 |
14
Hilong 6 days ago
干不了活。但是一些分类的事情还是能跑。我本地跑了个 2B 的小模型，用来给我的账单做分类打标。速度很快
|
 |
15
dushixiang 6 days ago
跑不动，我的建议是等
|
 |
16
kuhung 6 days ago
性价比一般，只能跑垂直模型。不如直接用官方 API ，本地模型一般只适合大企业出于安全和微调考虑，或者极客玩玩罢了。
|
Select Language