 |
neosfung🏢 Microsoft / Someone Do Everything V2EX 第 183202 号会员，加入于 2016-07-22 14:33:02 +08:00今日活跃度排名 11085 |
neosfung 最近回复了
10 分钟前 回复了 hresh 创建的主题 › 分享创造 › 我把“小约翰可汗”做成了一个可逛的内容站，这次终于完成了一轮大升级 |
真的是电锯砍屁股，开了个大眼啊
2 月 15 日 回复了 seafog 创建的主题 › 阅读 › 有什么书是读完以后，对自己的心理状况有改善的呢？ |
呼兰河传
2025 年 12 月 31 日 回复了 edisonwong 创建的主题 › 投资 › 2025 年收益率 48.7%就已经打败 96.5%的人了，大家今年投资情况如何呢 |
今年美股收益 76%
2025 年 12 月 31 日 回复了 wshn13 创建的主题 › 投资 › ibkr 绑定汇丰 edda 失败 |
IBKR 能够绑定的 edda ，只有永隆。这里有两个证件，分别是通行证和身份证，ibkr 用的是身份证，汇丰用的是通行证，两个号码对不上，肯定不行的
2025 年 12 月 24 日 回复了 cMoon 创建的主题 › 摄影 › 想入手胶片机，有推荐吗 |
@cMoon 都很好
2025 年 12 月 23 日 回复了 cMoon 创建的主题 › 摄影 › 想入手胶片机，有推荐吗 |
FM2 ，om1 吧，反正不管怎么样你都会买一次这两款的
2025 年 12 月 21 日 回复了 thevenin1416 创建的主题 › 职场话题 › 适合程序员的副业 |
股票投资吧，尤其是港美股，这是程序员门槛比较低的了
2025 年 12 月 21 日 回复了 microscopec 创建的主题 › Local LLM › 目前开源可以本地部署的模型有哪些？ |
好吧，才看到不是语言大模型
2025 年 12 月 21 日 回复了 microscopec 创建的主题 › Local LLM › 目前开源可以本地部署的模型有哪些？ |
比较简单的计算方法，例如 6B 模型，如果用 BF16 的话，乘以 2 ，就是 12GB 运存（显存/内存）。然后还有激活 activation ，就是我们常说的 KV Cache ，也会随着上下文长度增加，具体不太好估计，得看看是 MHA ，GQA 还是 MLA 结构才知道增长倍数
Select Language