 |
|
ExplodingDragon
🏢 Umbrella Corporation
V2EX member #461106, joined on 2019-12-24 22:13:39 +08:00Today's activity rank 7165
|
 |
Per ExplodingDragon's settings, the topics list is hidden |
Deals info, including closed deals, is not hidden
ExplodingDragon's recent replies
看到群组有人发了也测试了下,但还是字体有问题

本地部署模型避免的是上下文的直接泄露,上下文注入这类只能设计一个沙盒 + 独立的审计, 还有操作的完整回滚机制
回复快了 ( ollama 不适合,自从搞了所谓的 cloud 后新模型适配很慢了,还有 lm studio 是闭源的并且也是 llama.cpp ,不如直接用 llama.cpp ; 至于说使用复杂度,你都提到了 vllm 了,llama.cpp 那不是更简单,现在 llama.cpp 也可以去拉 hf 的模型了
ollama / LM Studio 本质还是 llama.cpp ,而且你这个不是框架/引擎对比吗,没太大参考价值
Jetbrains 最强的是推导,重构和分析能力,只不过这部分还没有完整接到 ai 里
btw Jetbrains 2026.1 支持 acp 接入任何 cli 了
准备放弃 Google One AI Pro 了,正价用户不如狗,全是薅羊毛 + 跑反代 OpenClaw 的
有点意思欸,要不 .. 贴下论文或者 Github 项目链接看看,如果是闭源的就算了
语言的消亡是跟不上时代变化,AI coding 只能说是很小的一部分