wwhc 最近的时间轴更新 wwhc 最近的时间轴更新 |
wwhcV2EX 第 145809 号会员，加入于 2015-11-05 06:54:06 +08:00今日活跃度排名 18497 |
| Taalas 推出首款专用 ASIC 加速卡 声称实现亚毫秒级推理 分享发现 • wwhc • 2 月 23 日 • 最后回复来自 7gugu | 2 |
| Marie Fredriksson 去世了，流行音乐黄金时代的代表乐队 Roxette 不复存在 音乐 • wwhc • 2019 年 12 月 12 日 • 最后回复来自 KentY | 4 |
| 寻求中国境内网站开发合作伙伴 外包 • wwhc • 2018 年 5 月 1 日 • 最后回复来自 bingod | 4 |
wwhc 最近回复了
4 天前 回复了 unt 创建的主题 › Local LLM › Gemma 4 31B 大概什么水平，本地部署是不是又成为现实了 |
差一点就能赶上 Qwen3.5 了
4 天前 回复了 unt 创建的主题 › Local LLM › 为什么 Qwen 吹这么牛，但是用起来体验这么拉啊，它的真实能力究竟怎么样 |
Qwen3.5 是适于本地部署的开源模型中最强的，Google 昨天新发布的开源 Gemma 4 模型也仅仅是追上 Qwen3.5 而已
6 天前 回复了 laikicka 创建的主题 › 生活 › 这条不是愚人节新闻：中国全国范围内的“后排乘客不系安全带罚款”政策将推行 |
罚太少了，我建议至少 5000 起步
3 月 28 日 回复了 beimenjun 创建的主题 › 分享发现 › 赛博斗蛐蛐 - 大模型写翻页时钟 - Opus-4.6/GPT-5.4/K2.5/MiMo-V2-Pro/GLM-5/Qwen3.5-Plus/某 2.7/某包 |
Token 自由的感觉蛮不错
3 月 28 日 回复了 beimenjun 创建的主题 › 分享发现 › 赛博斗蛐蛐 - 大模型写翻页时钟 - Opus-4.6/GPT-5.4/K2.5/MiMo-V2-Pro/GLM-5/Qwen3.5-Plus/某 2.7/某包 |
经验是用一到两块高性能大显存卡如 3090/4090/5090 ，再加上若干便宜的中低端卡(8-16GB 显存)，把所有层都放进显存（能容纳的上下文越多越好，256k 大概需要 60GB 显存以上），尽可能多的把专家权重放到显存，一般能实现 10-20t/s 或以上的速度，建议使用 llama.cpp 而不是 vllm ，以便于快速迭代及灵活的硬件搭配
3 月 28 日 回复了 beimenjun 创建的主题 › 分享发现 › 赛博斗蛐蛐 - 大模型写翻页时钟 - Opus-4.6/GPT-5.4/K2.5/MiMo-V2-Pro/GLM-5/Qwen3.5-Plus/某 2.7/某包 |
本地开源模型的表现：用楼主的复杂提示词，gpt-oss-120b 一次就成功完成了. Qwen3-Coder-Next-MXFP4 用了 5 次才成功,Qwen3.5-397B-A17B-MXFP4 3 次成功完成.成品质量最好的是 Qwen3.5-397B ，gpt-oss-120b 也算可以，但确实翻页有点慢
3 月 12 日 回复了 coderluan 创建的主题 › OpenClaw › 上门安装龙虾 499，卸载龙虾 299，如果我一趟全包了，什么都不干，我要收 800，对方只肯给 200，谁有理？ |
Qwen3.5 27B 很聪明，直接判定对方更“有理”，你是在耍流氓。
3 月 7 日 回复了 Livid 创建的主题 › OpenAI › GPT-5.4 Thinking 依然过不了洗车测试 |
不至于吧？ Qwen3.5 35B/27B 这样的小模型都能给出正确答案
2 月 14 日 回复了 Zhipuai 创建的主题 › 程序员 › GLM-5 开源：从代码到工程， Agentic Engineering 时代最好的开源模型 |
支持开源模型，希望能尽快开源 air 版本
2 月 13 日 回复了 everettjf 创建的主题 › Rust › 开源这两天 Vibe 的 Rust 重写的 OpenClaw |
非得要绑定社交媒体才能使用？一直在找不是用 python 开发的能离线使用的本地模型 agent
Select Language