riceball

@mark2025 这个是预留和 quotas 相关。

@uprit 人家是学习，cpu 足够了，微调个 7b int qlora 。真要训练，那不得上服务集群。

@ltaoo1o 是的，需要机器支持。gem12pro 有接口

如果个人实验，现在的纯 cpu(最好 amd ） 可以跑 70b 4int 量化用 llamacpp ，不过很慢，但能忍。30b 以下很快。
这时限制在内存，内存尽可能要大，内存至少要 32G, 最好 64G ， 然后支持 Oculink 接口，外接显卡。这样的 miniPC 机器 我配了一台 天呗 gem12pro 2400 + 4t ssd + 64g DDR5 大概 5k 左右

还有这个 https://ml5js.org/

@ryd994 崩溃后，已经没用 zfs 了，当时我主用 zfs ，连 root 和 boot 分区都是 zfs, 导致挂了后不能启动，一直卡在 scrub.

另外，现在想来，zfs 最好还是要经常 cron scrub 。我的 ZFS 系统当时已经稳定工作很长的一段的时间(大概 3 年)，一直到仓库快满了，才出现的问题。

对桌面 PC 来说，是的，compression 不是问题。但是基于应用级的压缩无法做到压缩后的数据在整个盘中只保存一份，而 dedup 能做到。

自从 zfs 挂了，我现在用的就是支持 bbu cache 的 raid 卡，当时买成 900 多，带超级电容,1G RAM ，现在只要 400 多（不带超级电容）。raid 上是纯机械硬盘，放需要安全保存的数据； ssd 只放 boot 分区，以及需要加速的应用和数据。

@ryd994 就因为 zfs 有 dedup 才用的，省硬盘。如果不用的话，为啥不直接 mdadm,组软 raid ，后期直接上 raid 卡也成。

取决于你想干啥，比如,🙆‍♀️也许想这么干：

翻译家.ai.yaml

---
input: ['lang', 'text']
output: {type: 'object', properties: {target_text: {type: string}}}
parameters:
temperature: 0
---
system: 你是全球最棒的多语言翻译家。
user: 请直接把接下来的文字翻译为{{lang}}："{{text}}"
assistant: [[AI]]
-> json(output)


nodejs 调用：

import {AIScript} from '@...'
const result = await AIScript.execFile('翻译家.ai.yaml', {text: 'here is text', lang: '中文'})
// result: {target_text: '这是文本'}