V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  WuSiYu  ›  全部回复第 2 页 / 共 21 页
回复总数  403
1  2  3  4  5  6  7  8  9  10 ... 21  
性能值得期待,但膏睾糕槁高通的东西不会便宜,参考现有的 windows on arm 产品,价格至少也是中端起步
@gridsah 有点意思,看起来它确实实现了 mdadm 和 brtfs 联动,虽然糙了点,但这方面的能力上大概已经和 zfs 相当了
@gridsah 是这样,我又看了下群晖官网的宣传说法:“一旦发现不匹配(静默数据损坏),Btrfs 文件系统就能通过镜像元数据自动检测到损毁的文件(静默数据损坏),并使用支持的 RAID 存储卷来还原受损的数据,包括 RAID 1 、RAID 5 、RAID 6 、RAID 10 、F1 和 SHR 。”,很好奇它是如何实现的,如果确实是不能,那有虚假宣传的嫌疑。感觉可以用黑群晖虚拟机做个实验
群晖要是说普通的 mdadm + btrfs 下能用 btrfs 对 data 的 self-healing 感觉是瞎扯,如果发生了数据静默错误,btrfs 根本不知道 mdadm 下的冗余,mdadm 也无法在不一致时被 btrfs 指导去选择正确的那份数据,除非他们改了 btrfs 和 mdadm

另外 QNAP 的企业级产品才有 zfs ,家用级是更普通的 lvm + ext4
cockpit
171 天前
回复了 lxiian 创建的主题 站长 把你们的博客交出来
https://wusiyu.me
快十年的博客了,提醒了我有一阵没更新了🌚
跑 sd 就用 4090 吧,跑推理的话显存需求不大,24G 完全够用。而别的实现连 flash attention 都没有,反而会需要更多的内存,O ( n )和 O ( n^2 )的区别。

mac 是很一般的算力 + 大容量的(内存)显存的组合,唯一的用处是跑单 batch LLM 推理这种极为特殊的 workload ,跑别的计算密集的负载,比如 stable diffusion ,都极为拉垮:m2 max gpu 的 fp16 性能为 26.98 TFLOP/s ,而 4090 为 350 TFLOP/s 以上( tensor core )
190 天前
回复了 hunono 创建的主题 iPhone 传 iPhone15 可以严格限制充电不超过 80%
今天又学到了新名词:“苹果极客”
我们作为他人要证伪这点很简单:直接把你嘎了,或者等你自然死亡,而之后如果世界一切照旧,即可证明了你没了后这个世界照样存在

不过有趣的是你永远没法知道这个实验的结果,所以我们没法向你证明这点
191 天前
回复了 sunmacarenas 创建的主题 NVIDIA Nvidia Jetson AGX Ori 开发者套件
@sunmacarenas 作为参考,A100 上跑推理大概能到 3000+ token/s ,当然这是比较大 batch 的情况
191 天前
回复了 sunmacarenas 创建的主题 NVIDIA Nvidia Jetson AGX Ori 开发者套件
@sunmacarenas
首先跑 LLM 和跑 stable diffusion 是截然不同的工况,LLM 如果你个人用,也就是 batch 1 的话,对计算的需求很低,GPU 上基本都跑不满,但 llama2-13b 2token/s 也不算快的了。
int4 量化仅是权重是 int4 的,主要还是为了节省显存,实际推理的时候都是 fp16 (更常见)或者 int8 ,并且都不是稀疏。

而 stable diffusion 非常的计算密集(尤其是跑大图),对显存容量需求不高,十几 G 肯定够用,4090 是最合适的,从浮点算力上估计会比 orin agx 快 5 到 10 倍
192 天前
回复了 sunmacarenas 创建的主题 NVIDIA Nvidia Jetson AGX Ori 开发者套件
jetson 是给嵌入式(比如车机)用的,规模和普通 GPU 还是差不少,那个 270TOPS 是 int8+稀疏,实际跑常见的 fp16 非稀疏得除 4 ,实际性能会比 3070 还低一两倍,跑 sd 会非常慢。另外 nvdla 主要是低功耗用途,性能不高,跑大模型没帮助
212 天前
回复了 ThinkStu 创建的主题 5G 5G 在哪里?
5G 主要是末端延迟更低、带宽更高、承载量更高
但一般受制于基站密度,很多地方带宽其实都跑不满的,所以现实中后两者建更多 4G 基站也能有效果,谁不定性价比还更高
20w 的特斯拉 == 美国红米
232 天前
回复了 ghostwind 创建的主题 iPad Apple 真的环保吗?
苹果的环保是“卖点”
如果你问它有没有真的环保?那它确实可能在某些地方环保了。但这种环保的前提是作为卖点,并且优先级和别的卖点没有区别。而赚钱的优先级显然是更高的。

举个例子,一些苹果设备如果确实是用可回收材料制作,那确实环保了,值得肯定。但另一方面,iPhone 直到今年才换 type-c ,之前的大量 lighting 配件都会逐渐变成垃圾,由于 type-c 大一统是早晚的事,所以苹果拖一年就是不环保一年,但能再赚一年的认证费,因此苹果在赚钱、环保二选一的时候依然会选择赚钱,高于环保的优先级
扔内存里用哈希表就行,用 redis 即可
1  2  3  4  5  6  7  8  9  10 ... 21  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   5742 人在线   最高记录 6543   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 61ms · UTC 06:24 · PVG 14:24 · LAX 23:24 · JFK 02:24
Developed with CodeLauncher
♥ Do have faith in what you're doing.