V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
roseduan
V2EX  ›  程序员

数据库/存储学习路径推荐

  •  2
     
  •   roseduan ·
    roseduan · 2023-02-04 14:50:21 +08:00 · 2960 次点击
    这是一个创建于 386 天前的主题,其中的信息可能已经有所发展或是发生改变。

    数据库 /存储学习路径推荐

    我自己就是从业务自学转入数据库内核研发岗位的,根据自己的经历,简单总结了一下入门数据库相关的学习路线、学习资料、项目书籍推荐等,大家可以参考。

    必看课程

    CMU-15445 和 CMU-15721

    https://www.youtube.com/@CMUDatabaseGroup

    这两个不用多说,经典的数据库入门教程,由数据库的大佬 Andy Pavlo 亲自授课。可以了解到数据库的基本概念,例如存储、BufferPool 管理、索引、优化器、执行器、事务、MVCC 等。

    15445 的实验部分是基于其开源的教学项目 bustub,补全其中几个重要的部分,这个项目是 C++ 写的,如果对 C++ 不熟悉的话,那么我觉得实验部分可以暂时跳过,有多余的精力再来搞,毕竟我们是来学数据库的,而不是学 C++ 的。

    存储小项目

    学习教学课程的同时,顺便可以了解下存储方面的内容,例如 B+ 树,bitcask ,LSM Tree ,以及 LSM Tree 的优化 Wisckey ,不用专门去学,找几篇文章看看,了解下基本概念,或者直接看看论文。

    然后自己去实践写一个,例如写一个简单的 bitcask 、B+ 树存储引擎,或者 LSM 存储引擎。

    之所以推荐写存储类的小项目,主要是因为存储层的 KV 一般比较好实现,同时又能够了解到一些数据库的基本设计理念。

    这里推荐下我的两个项目:

    https://github.com/flower-corp/rosedb

    https://github.com/flower-corp/lotusdb

    事务 /MVCC

    这部分网上的资料比较多,可以看看事务的一些基本概念 ACID ,然后看看如何去实现的,可以借鉴其他数据库例如 MySQL 、PostgreSQL ,关于事务实现原理分析这方面的文章比较多。

    概念了解差不多之后,可以自己动手实现,例如可以在自己写的存储项目的基础上,加上事务的功能,保证事务原子性、隔离性,以及并发读写的性能,自己上手撸肯定比只了解理论好很多。

    其他的一些部分,例如 parser 、执行器、优化器、向量化等等,比较复杂,自己从头搞一个的难度比较大,我觉得可以简单看看资料,了解一下基本概念,工作之中再针对性的查漏补缺。

    当然如果你对某个部分特别感兴趣的话,比如优化器之类的,也可以多去了解然后自己实践,我这里推荐存储和事务的实现,是因为相对来说比较容易上手。

    分布式

    这部分内容首推 Mit.6824 ,分布式系统入门的首选课程。

    https://www.youtube.com/@6.824/videos

    有精力的话可以跟着把实验部分做完。

    然后可以挑战下 PingCAP 的 talent plan 中的 TinyKV ,它和 6824 的实验部分比较类似,实现一个基于 raft 的分布式 KV 存储系统,难度比较大,但是代码框架已经搭好了,只需要往里面添加内容即可,测试也比较完备。

    https://github.com/talent-plan/tinykv

    如果还有时间的话,可以再上一个台阶,挑战下 PingCAP talent plan 的 TinySQL 项目,主要是实现一个简单的分布式数据库项目,有完备的文字教程

    https://github.com/talent-plan/tinysql

    工作或实习

    当然,其实最好的办法,还是能够直接参与到工作实践当中,这样学习起来是最快的,可以向 leader 请教,和同事交流等。

    如果自身又没有太多经验的话,可以试试那些愿意接纳转数据库内核的公司,这可能会要求你有其他亮眼的东西了,比如基础比较扎实,折腾过自己的项目之类的。

    能把上面提到的这些东西认真学习下,完成个 60% 左右,我觉得应对一些面试就应该没有太大的问题了。


    为了帮助你更高效的学习,我还整理了一份数据库开发的学习资料,数据库的各个方面都涉及到了,例如 SQL 、优化器、执行引擎、存储等等,包含一些优质的书籍、论文、视频课程、博客等,还有一些优质的教学类项目。

    image.png

    总计十几页的 PDF ,一次性送给你,方便提升学习效率。image.png还有一些关于数据库方面的优质 PDF 书籍,可以参考学习:image.png这份学习资料 PDF 和所有的书籍都可以在我的公众号领取,后台回复关键字 [数据库] 。

    Snipaste_2023-02-01_09-58-05.png

    10 条回复    2023-03-06 00:03:28 +08:00
    ETCartman
        1
    ETCartman  
       2023-02-04 15:03:44 +08:00 via iPhone
    感谢分享:)
    guanzhangzhang
        2
    guanzhangzhang  
       2023-02-04 15:19:46 +08:00
    来我收藏夹吃灰吧
    SolarAA
        3
    SolarAA  
       2023-02-04 15:32:47 +08:00
    感谢大佬~
    Jason0803
        4
    Jason0803  
       2023-02-04 17:28:03 +08:00
    好多存储引擎开发相关的工作都转 Rust 了
    littlewing
        5
    littlewing  
       2023-02-04 18:43:54 +08:00
    分享一本关于数据库事务的书,Jim Gray 的《 Transaction Processing: Concepts and Techniques 》
    roseduan
        6
    roseduan  
    OP
       2023-02-04 20:08:25 +08:00
    @littlewing 感谢分享
    littlewing
        7
    littlewing  
       2023-02-04 23:23:20 +08:00   ❤️ 2
    bigbyto
        8
    bigbyto  
       2023-02-04 23:50:49 +08:00
    看了下楼主经历,很强,让吾辈汗颜。
    roseduan
        9
    roseduan  
    OP
       2023-02-05 08:48:24 +08:00
    @bigbyto 也没有哦,一起加油!
    notvalid
        10
    notvalid  
       357 天前 via Android
    收藏学习,非常感谢大佬分析分享。
    我原本也是数据分析师,现在在转数据工程师的途中,正好可以学习到。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   929 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 18:53 · PVG 02:53 · LAX 10:53 · JFK 13:53
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.