@foam 大体上是灵感一类的，用户传入一些描述内容后，我们再根据用户的习惯作为历史记录，让 LLM 补充完整之类的。

同一年 AIGC 项目经验，值得肯定的是目前大模型已经解决了“重复劳动"这件事情了，我自己在用的有：编码的 github copilot ，搜索用 RAG+传统引擎，二次元图片推荐有向量数据库（也可以当作小说检索器），AI 语音以及 AI 翻唱都在用 BV2 或者 DDSP ，公司内就有部署 Dify 作为 Agent 调用 LLM 已经合并到一些工作流中了。

现在感觉 AI 的泡沫还是不够大，明明是改变了世界的玩意看国内融资情况远不如 web3 、区块链时期。

如果只是跑一些小模型或者作业之类的，我更加推荐用云 GPU 更划算

以 autodl 里的 4090 为例子，CPU 是 12 核 Xeon(R) Platinum 8352V,内存是 90GB ，每周的价格为 342 元，一个月下来优惠价格是 1276 元，一年也就 13176 元，这个价格比 1 万 5 的主机还要便宜一些

而且考虑到实验室有专门的机器来跑正式的作业，云上 GPU 在不运行的时候可以关掉更加省钱，并且显存不够还可以换其他机型这个是本地无法比较的优势

当然以上都是建议，希望能帮助上 OP 的需求。

礼貌问下有校招岗位吗

我自己测试了一下，在 qwen1.5 32B-Chat 模型下能够有效的提取 HTML 结构并且返回想要的结果，不一定要使用 GPT4 而且还省下了大量 Token 的费用，具体测试代码在这 https://gist.github.com/charSLee013/e3feebf457b3650e8c84095789da55d7

想请教一下下，采用其他平替的开源模型效果如何？比如说 01-Yi 34B 200K 这种支持超长文本输入的，在成本和推理速度上会不会更优秀一些？

+1 ，不过是下半年，上次考试差 10 分过线遗憾了好久 😔

盲猜一个是途游游戏? 🤔

给生蚝大佬点赞👍了

很显然是爆内存了（尤其是在小内存上启动 vscode remote ），表现为 ssh 连接不上 IO 超高

避免这种情况最好手动创建个 large swap 或者换 nvim 作 editor

当然可以呀 很早之前我就写过使用 llama.cpp 在 M1 上直接使用 CPU 来运行 llama 7B 模型 https://www.v2ex.com/t/923536

现在的话 llama.cpp 还支持 openblas 加速，CPU 跑 1.3B 或者 3B 4bit 量化后的都是没问题的

> 训练的时候需不需要用到显卡？
训练最好还是用显卡，而且还是大显存那种避免 Out of CUDA Memory

训练完毕后删掉一些不用的层转 onnx 格式直接用 CPU 跑应该是没问题的，就是速度懂得都懂 🤔

@bazbaozhilv XX+1 ，虽然是在 NS 上，超特打的不亦乐乎，比起 MHRS 耐刷多了

希望多写点开源项目给社区吧 😃

滴～签到 600 多天卡

报一个 bug ，在第二关的场景中间有个巨大的弹跳版，猫猫在被弹跳起来之后

如果在空中遇到震动判定，只会将猫猫的 x 轴移到到起点，但是 y 轴没有移动，导致猫猫还在空中被震第二次

还有一个名称的问题，玩家可以取很长的名称，导致名称的横幅挡住了一部分的画面体验上不太好

> 因为 golang 是多线程，多线程并发就会有可见性问题，一个线程修改了共享变量，这个修改对于其它线程来说不一定能观测到

不要被 Java 多线程带偏了，Golang 是多协程而不是多线程，Golang 中唯一使用多线程场景是 GMP 中的 M 用来跟内核的线程进行绑定

这里首先是 `a = "hello, world"` 执行后，主协程中的 `c <- 0` 阻塞到 f() 协程执行到 `<-c` 后才会继续下去，此刻无论如何 a 变量已经被安全的修改了

恭喜荣获兔宝宝一名🎉🎉