V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  ryd994  ›  全部回复第 46 页 / 共 496 页
回复总数  9910
1 ... 42  43  44  45  46  47  48  49  50  51 ... 496  
2021-08-09 05:18:57 +08:00
回复了 LeeReamond 创建的主题 NAS 关于自建 NAS 服务的,主板 CPU 平台选择
@pydiff 你这绝对是买到 smr 盘了
而且普通 raid 重建不知道你已用容量多少
只有高级的 raid 卡才支持 trim,或者 zfs 这样的文件系统才区分已用容量
2021-08-08 07:33:54 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
@singerll 你如果真的把我的话看懂。用你的比喻:
你:汽车有天窗,要透气的时候可以打开,所以汽车比自行车通风更好
我:你不开汽车要个毛的天窗
你:你就说有没有通风吧

人家自行车透气比汽车好多了好吧。是因为汽车开得快,才需要做车厢罩起来,然后才有的通风问题。

你说汽车(一般情况下)比自行车跑得快,没问题。但是你要说汽车比自行车更透气,那就有问题。

你不能把“创造一个本不存在的问题,然后用其他办法解决它”,截掉前一半,变成“解决了 xx 问题”吧。
2021-08-08 00:10:33 +08:00
回复了 LeeReamond 创建的主题 NAS 关于自建 NAS 服务的,主板 CPU 平台选择
笔记本虽然省电,但是有几个问题:
1. IO 能力很弱,PCIE 槽没几条
2. 装不进机箱。你想用满 PCIE 槽的话你还得开后盖
3. 没有 ECC
4. 没有远程管理

如果笔记本就能解决的,那树莓派或者路由器自带的也差不多可以了

笔记本的 CPU 的规格 intel 官网都有,你自己看看有哪个笔记本 CPU 有 ECC 的?
2021-08-07 23:18:56 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
@singerll 小学生呗。发现自己错了就开始死犟,吵不过就 b 。然后继续在自己的 echo chamber 里以为自己就是对的。

硬件 raid 能保证写入?笑了。写软件不考虑缓存问题就在这指望硬件救你呢?
2021-08-07 23:14:43 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
@singerll 我再说一遍,硬件缓存对数据一致性没有任何正面作用。
你连缓存是做什么用的都没整明白就在和我吵硬件 raid 能不能保证数据写入?
硬件 raid 对数据一致性有用?那你软件没 bug 哪来的一致性问题?正常的数据库没 cache 就该掉数据?

到底是谁在用 corner case 说事?
2021-08-07 23:10:47 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
@singerll 硬件 raid 比软件 raid 多个缓存?
就 tm 是因为多了个缓存才需要多考虑一个一致性问题好吧。
没这缓存就没这破事了。没缓存还要个毛的 bbu 。直接写硬盘啊,写一字节 flush 一次,连硬盘本身的缓存也 bypass 掉。和 raid 卡有个毛关系。性能是一沓糊涂但是错是绝对没错的。我就问你,硬件 raid 为什么需要加缓存?
你不会以为缓存就是好吧?不会吧不会吧?
2021-08-07 23:07:01 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
@singerll “硬件 raid 是有缓存的,有的还有电容保护,在你掉电时能保证数据写入。”
这是你原话。那我问你,如果不是开了 writeback cache,你为什么需要保证数据写入?软件从来就不应该认为写了文件就是保证落盘。
何况你还说错了。即使有电容保护也不能保证数据写入。

然后你又说“软件 raid 的问题是,万一 win 系统挂了怎么办?”
这也是错的。Windows 挂了对数据没有任何影响。系统盘挂了的效果就和 raid 卡挂了效果一样:换一个继续用。
2021-08-07 22:59:30 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
@singerll bbu 就是用来开 writeback cache 的。你不用 writeback cache 的话 bbu 对数据一致性没有任何作用,无论是否有 bbu,用的是软件 raid 还是硬件 raid 。
2021-08-07 22:52:58 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
@singerll 你对硬件 raid 能解决的问题有根本性误解。硬件 raid 是能提供一个非易失的写入缓存。软件 raid 是靠 ssd 来提供。这两者的数据一致性是一样的。区别在于性能。
机械硬盘,你发出 flush 指令,硬盘告诉你 flush 完成了就是完成了,断电也不会没有。
所有软件在编写的时候就必须考虑数据的写入缓存和同步的时机。就算基于硬件的 raid,操作系统也在多个级别上有各种各样的缓存,包括 libc,vfs,page cache,io queue 。不 flush 到 raid 卡的缓存区你的 bbu 有个毛用。数据一致性是靠正确的缓存管理,问题在缓存管理,你往 raid 技术上用力有个毛用?

我不是在说数据一致性问题不存在而是在说硬件 raid 无法解决你说的问题。而当你正确地解决了数据一致性问题时,软件 raid 也一样没有问题。
2021-08-07 22:43:02 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
@singerll 你对硬件 raid 特别是写入缓存的认识有根本性问题。
1. 硬件 raid 的 bbu 不能保证数据写入,而是保护缓存数据,如果你不及时重启还是会完蛋,你这是根本性错误。
你就没有想过 raid 卡那点小电池 /电容怎么可能驱动几十块硬盘?
企业级 ssd 内置的电容也是提高随机写性能用的。没有电容的 ssd 就不能用了吗?就会丢数据吗?固件写得差的时候才会。

2. 硬件 raid 并不会提高数据一致性。文件系统本身就可以保证断电不崩。缓存的作用而是提高性能,让你可以忽略 flush 指令。如果没有缓存,数据正确性和安全性不会有问题,只有随机写入性能问题。不管实际情况瞎配置才会丢失数据。

没有缓存不会导致数据丢失,只会导致性能问题。只有你自己软件写的垃圾才会丢数据。
2021-08-07 21:23:59 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
@singerll
1. 那你得找啊。软件随便你换什么设备什么系统,只要有对应的软件支持,都能读出来。如果系统挂了,数据盘换台机器就能导入。硬件 raid 能实现的功能,配置信息多写一份的事情,软件 raid 怎么可能实现不了?软件相对硬件的优势首先就是灵活性。

2. 软件 raid 的配置信息和硬件 raid 一样,是在数据盘上分布的。你有没有用过软件 raid ? mdadm 或者 zfs 。就算你只插一块盘,系统也能识别这是 raid 盘还能告诉你缺了什么。硬件 raid 碰上傻逼 raid 控制器的,要保证顺序一样否则直接重建。工业上当然不会用这么傻逼的控制器。但是家用你买低端卡的话还真能买到。

3. bbu 和超级电容还是要上 ups 啊。你最大的误区在于:writeback cache 到底有什么用?
如果你是顺序写入,writeback cache 是没有用的。这也是家用 nas 的使用场景。瓶颈就是磁盘速度。日志文件系统不会因为断电就损坏,只会损失最后写入的一点数据。反正你软件已经没了,只要文件系统不崩,差这点数据没区别。

writeback cache 的作用是提高随机写入。对于数据库来说,差最后这点数据,数据库结构就崩了。所以数据库必须在每个修改之后都 flush 。而是数据库操作大多数随机的。结果就是性能会非常差。有非易失写缓存的情况下,raid 控制器可以忽略 flush 请求,只要写到缓存就算 flush 完成。

就算没有写缓存,只要合理配置,而不是瞎关 flush,那么即使断电也不会损失数据。只是性能差。而这对于家用的文件储存 nas 来说就不是问题。

4. 你停电就开始关机的话 ups 会耗尽?家用 nas 又没有在线率要求,停电了反正你其他设备也停了,关机就行了。
你说冗余电源会坏还不如先问问 raid 卡和 hba 哪个更容易坏?
冗余 hba 很简单,sas 协议本来就支持,全插上去就行了。设置管理冗余 raid 控制器则复杂得多。

软件 raid 还有一大优势就是可以选择性地恢复和校验。这是 zfs 这些基于文件系统的阵列相对于基于块的磁盘 raid 的优势。

生产上用硬件 raid 主要还是因为性能问题。高速读写时软 raid,特别是 raid5/6 这些 hash,对 CPU 还有 pcie 带宽的占有都很厉害。
2021-08-07 19:10:08 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
@singerll
1. 只有 writeback 缓存才有数据安全的问题。硬件 raid 如果没有 bbu 的话是不会使用 writeback 模式的。而且 bbu 保护是保护缓存数据直到来电,而不是驱动硬盘继续写入。
软件 raid 想要高随机写入可以用 ssd 缓存,比如 zfs slog 。硬件缓存撑死了也就那点 ram,ssd 缓存容量大得多

正常用 nas 肯定是要配 ups 的,停电就开始关机。服务器还有双电源。所以不存在你说的突然掉电问题。
2.“硬件 raid 无论磁盘还是 raid 卡,挂了换一个都能恢复 raid 信息。”
前提是你得有同品牌甚至同型号地区。
软件 raid 的配置信息也是保存在盘上啊,你以为保存在系统盘里吗?
软件 raid 的硬盘换个系统,导入一下就可以了。
所以大家用 nas 的时候都是用垃圾 ssd 或者 U 盘做系统盘。就是因为挂了也无所谓。系统配置平时很少动。定期备份到 U 盘就好了。

如果硬件 raid 找不到对应的硬件,救数据还得靠软件。毕竟软件只要知道是什么格式,总能找到支持的软件,性能且不论。
2021-08-07 18:47:24 +08:00
回复了 cncmmdwl 创建的主题 NAS 有人配过过机房用 nas 服务器么,差不多带 100 台服务器读写
还有一个问题,你这种大量客户端同时满速传输的情况,最好考虑 rdma 或者其他 lossless 网络技术。这个在超算课上讲过,超算和储存节点之间的通讯基本没有用 TCP 的,原因就在于 TCP 的流控和 backoff 机制对于大量同步的连接,效果很不好。同时启动,同时 backoff,同时再启动,结果大量丢包同时跑不满带宽。
所以你这个做法可能不管用,要有心理准备。限制并发连接数可能反而速度更好。
2021-08-07 11:32:17 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
频繁通电的问题是磁头会磨损
磁头不是固定在盘片上方,而是靠气动力学在盘片上“飞行”。所以如果盘片转速不对就会磨损磁头。磁头有石墨、钻石涂层,所以正常使用不成问题。但是你要是每几分钟就停一次,那很快就会出问题了。
一直转的话,反而没什么磨损。最多就是磨损电机轴承
2021-08-07 11:28:54 +08:00
回复了 LeeReamond 创建的主题 问与答 关于硬盘 RAID 配置的科普与疑问
1.差不多是这个意思。也有硬件 RAID 卡。重点在于 RAID 逻辑由 CPU 程序还是由专门的硬件处理。
2.RAID 无法保护坏道和错误数据。RAID 的设计前提假设了硬盘挂就是彻底挂。现实中会有两个问题:1. 数据错了,但硬盘不知道 (冷错误)。2. 硬件工作不正常,卡死了。便宜的 RAID 卡就会傻等。所以企业级 NAS 盘有 TLER 功能。
ZFS 等带校验的文件系统可以解决前者。

4. 真遇到过。我之前的笔记本 bios 默认省电。用了一年,硬盘 SMART 里 load in 健康掉了 40%

乖乖搞远程和离线备份。RAID 救不了手抖和加密病毒。这也是为什么我不在 NAS 上跑乱七八糟的应用。储存就是纯储存。挂机下载放到另一台机器上。NAS 上定时 ZFS snapshot 。只要 NAS 本身不被攻破,就不怕勒索病毒。

RAID 是保护在线率(availability)的,不是保护数据留存率(durability)的
2021-08-07 02:39:30 +08:00
回复了 cncmmdwl 创建的主题 NAS 有人配过过机房用 nas 服务器么,差不多带 100 台服务器读写
@cncmmdwl 非推荐,纯举例
https://www.broadcom.com/products/storage/host-bus-adapters/sas-9300-8e
关键字 SAS3 external hba
lsi 的卡最后一位是 e 就是外置口,i 就是内置口

内置口也可以通过转换器转成外置口。实际上就是一条延长线,固定在 pci 挡板上。这样就不怕拉扯问题了。

你确定只有一通道? minisas 一条线是 4 个通道。所以 lsi 8 port sas 卡只有两个 minisas 头。

你说生产数据可以丢这个问题。把可以丢的数据放在另一个 zpool/dataset 上,可以强制忽略 sync 。不 sync 的话性能会好很多。或者扔到一个 raid0 上。钱够的话 ssd 组 raid
2021-08-07 00:34:16 +08:00
回复了 cncmmdwl 创建的主题 NAS 有人配过过机房用 nas 服务器么,差不多带 100 台服务器读写
避免误导你,我先讲清楚,我是外行,不是大佬。所以我说的内容很可能都是业余瞎玩的
1 ... 42  43  44  45  46  47  48  49  50  51 ... 496  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5647 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 66ms · UTC 03:12 · PVG 11:12 · LAX 19:12 · JFK 22:12
Developed with CodeLauncher
♥ Do have faith in what you're doing.