V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
samin
V2EX  ›  程序员

记一次 PostgreSQL 事故处理

  •  
  •   samin · 2022-08-24 23:10:43 +08:00 · 4632 次点击
    这是一个创建于 582 天前的主题,其中的信息可能已经有所发展或是发生改变。

    notion 文章链接: https://gaudy-feels-700.notion.site/PostgreSQL-eb2ae9499ae94be583058f6e0cad5fa1

    via: https://github.com/SaminZou/study-prj

    处理完问题心血来潮写了个记录 mark 一下,希望对大家处理问题可以有点启发

    42 条回复    2022-08-26 09:52:21 +08:00
    ppllss
        1
    ppllss  
       2022-08-24 23:23:04 +08:00   ❤️ 1
    线上时区问题怎么会等到线上有流量后才发现?上线后测试不走一边数据?难以理解
    FYFX
        2
    FYFX  
       2022-08-24 23:23:56 +08:00
    不是,你线上数据库在还提供服务的情况下重启这么果断的,我看你总结的时候没反思这个问题啊
    FYFX
        3
    FYFX  
       2022-08-24 23:25:18 +08:00   ❤️ 3
    对生产环境有敬畏之心啊
    wtfedc
        4
    wtfedc  
       2022-08-25 00:50:32 +08:00   ❤️ 1
    ```PG 重启的过程中有 Pod 被 K8s 强制关闭```
    好奇一共有几个 pod ,有配置主从吗?
    k8s 在你新的 replica 跑起来,在 ready 之前,不会终止旧的 replica 的,你是直接在 pod 里操作的重启?
    kkeep
        5
    kkeep  
       2022-08-25 07:03:29 +08:00 via Android
    瞎胡闹罢了。。
    billccn
        6
    billccn  
       2022-08-25 07:24:44 +08:00
    你敢这么重启数据库,真是勇!


    `pg_ctl reload`不好吗?
    sadfQED2
        7
    sadfQED2  
       2022-08-25 07:43:26 +08:00 via Android
    卧槽,生产环境,勇士啊
    LinYa
        8
    LinYa  
       2022-08-25 08:42:22 +08:00
    `本次修复消耗时间大概 3 小时,排查问题,合理的修复手段很重要`
    sardina
        9
    sardina  
       2022-08-25 09:01:55 +08:00 via iPhone
    pg 可以在一个连接的 session 里设置时区吗 mysql 是可以的
    laolaowang
        10
    laolaowang  
       2022-08-25 09:06:09 +08:00
    不懂数据库,看到大家的评论,说明你还是没认识到问题
    wingor2015
        11
    wingor2015  
       2022-08-25 09:35:33 +08:00
    这个重启来得猝不及防,有点好奇重启是怎么操作的?
    sujin190
        12
    sujin190  
       2022-08-25 09:43:04 +08:00
    大家也别这么苛刻吧,谁还不犯个傻啊,但是不能在有频繁写入过程中重启数据库,这个傻确实犯的有点低级
    lookStupiToForce
        13
    lookStupiToForce  
       2022-08-25 09:47:34 +08:00
    可以的,瞎胡闹的评价是正确的
    lookStupiToForce
        14
    lookStupiToForce  
       2022-08-25 09:48:11 +08:00
    @sardina #9 可以设置,估计他们不想动生产端代码吧
    HashV2
        15
    HashV2  
       2022-08-25 09:54:49 +08:00
    能详细描述一下问题产生的原因吗?我生产环境从来没调过 pgsql 的时区,也没出过问题。
    Huelse
        16
    Huelse  
       2022-08-25 10:04:31 +08:00
    @HashV2 #15 我们也从来没调整过,一直默认的 UTC ,我猜是他们的代码存入时带时区了
    HashV2
        17
    HashV2  
       2022-08-25 10:04:51 +08:00
    @HashV2 #15 好吧 我看完文章后赶紧检查了一下,原来是框架写接口的时候会自动根据框架设置的时区转一下,我跟别人对接也都是通过自己写的接口,所以没出问题, 如果其它业务直接连这个数据库拿数据也是会出问题的
    sss495088732
        18
    sss495088732  
       2022-08-25 10:06:18 +08:00
    emm...业务层 UTC,监控,日志 SH
    HashV2
        19
    HashV2  
       2022-08-25 10:08:27 +08:00
    @Huelse #16 你直接用命令行查一下,是有他这个问题的
    samin
        20
    samin  
    OP
       2022-08-25 10:15:39 +08:00
    @ppllss
    @FYFX
    @billccn
    @sadfQED2

    各位放心,这个是 UAT 环境,我文章里面没提到是生产吧,给我 100 个胆也不敢去搞生产的。😂DEV 环境的 PG 是裸机装的,服务应用他们在 DEV 环境是正常的时间,上了 UAT 就不正常了,排查很多变量最终定位 PG ,所以尝试去修改。

    BTW:虽说是 UAT ,但是我们做的项目大量的类真实数据假设没了,也是致命的重建工作量。
    killva4624
        21
    killva4624  
       2022-08-25 10:15:49 +08:00
    线上用容器跑 PgSQL 是最佳实践吗?哪怕是单 Node 单 Pod 的方式。
    encounter2017
        22
    encounter2017  
       2022-08-25 10:26:09 +08:00
    用 timestamp with time zone 是不是就没这么多事情了
    samin
        23
    samin  
    OP
       2022-08-25 10:26:40 +08:00
    @killva4624 感谢,线上是 K8s 跑的 stolon

    看来本帖更大的意义是让我完善文章,没交代清楚不是生产环境

    再次表示感谢哈😂
    samin
        24
    samin  
    OP
       2022-08-25 10:27:40 +08:00
    @encounter2017 确实是小伙伴对 PG 的数据类型不够清晰
    Huelse
        25
    Huelse  
       2022-08-25 10:32:57 +08:00
    @HashV2 #19 好吧,我刚查了下 timestamp 的确存的 utc ,但 pg 会根据我服务器的时区自动转换,命令行查就已经是转过的了
    Huelse
        26
    Huelse  
       2022-08-25 10:39:19 +08:00
    @encounter2017 #22
    @samin #24

    如果服务器或连接的服务器设置过时区也不用这些设置

    https://www.postgresql.org/docs/current/datatype-datetime.html#DATATYPE-TIMEZONES

    ```
    For timestamp with time zone, the internally stored value is always in UTC (Universal Coordinated Time, traditionally known as Greenwich Mean Time, GMT). An input value that has an explicit time zone specified is converted to UTC using the appropriate offset for that time zone. If no time zone is stated in the input string, then it is assumed to be in the time zone indicated by the system's TimeZone parameter, and is converted to UTC using the offset for the timezone zone.
    ```
    csx163
        27
    csx163  
       2022-08-25 10:45:49 +08:00
    看了还是不敢用容器跑数据库啊
    fisherwei
        28
    fisherwei  
       2022-08-25 10:57:29 +08:00
    k8s 部署 pg 有严重的 cache 问题,楼主你们生产环境没有遇到吗?
    HashV2
        29
    HashV2  
       2022-08-25 11:47:31 +08:00
    @Huelse #25 ok 那只要确保服务器时区正确就可以了,所以这其实是个 future ?😆
    adoal
        30
    adoal  
       2022-08-25 12:18:49 +08:00
    硬生生把开发和配置问题转变成了故障修复问题
    samin
        31
    samin  
    OP
       2022-08-25 13:55:47 +08:00
    @adoal DevOps 方式研发界限不清
    samin
        32
    samin  
    OP
       2022-08-25 13:57:26 +08:00
    @fisherwei 有 Sample 或者连接看一下吗 ? 目前确实没遇到过 这个问题产生可能和 PG Cache 机制参数配置有关 ?
    yjhatfdu2
        33
    yjhatfdu2  
       2022-08-25 14:00:35 +08:00
    @sardina 可以的,set timezone to 'Asia/Shanghai'
    samin
        34
    samin  
    OP
       2022-08-25 14:02:40 +08:00
    @yjhatfdu2 这种方式在于 PG 服务不能重启,探究永久修改的原因是得保证减少运维变量
    yjhatfdu2
        36
    yjhatfdu2  
       2022-08-25 17:42:53 +08:00
    @samin 永久修改的话可以
    ALTER SYSTEM SET timezone to 'Asia/Shanghai';
    select pg_reload_conf();
    这样不用重启,连配置文件都不用手动改
    raysonlu
        37
    raysonlu  
       2022-08-25 17:53:25 +08:00
    不懂就问,如果不是用 k8s 部署,是不是就能避免这种事?
    sampeng
        38
    sampeng  
       2022-08-25 18:39:43 +08:00
    看到这一句。。。线上使用 K8s 部署(单 Node 单 Pod ) bitnami PostgreSQL 14 版本数据库。。我就表示,不是这次出事就是下次出事。
    数据库放 k8s 不是不可以,开发测试环境无所谓。生产环境?你是真不怕挂啊。。。。
    sampeng
        39
    sampeng  
       2022-08-25 18:41:13 +08:00
    最后看到总结。。。。
    what ?你这叫啥总结????
    julyclyde
        40
    julyclyde  
       2022-08-26 08:50:45 +08:00
    @adoal 哈哈哈哈
    ljf
        41
    ljf  
       2022-08-26 09:06:23 +08:00
    k8s 部署生产环境 pg ,不用考虑数据高可用,主备切换吗,我们线上都不敢直接 statefulset 跑 pg ,哪怕绑定单节点,机器挂了咋办。大佬搞个 https://github.com/sorintlab/stolon
    samin
        42
    samin  
    OP
       2022-08-26 09:52:21 +08:00
    @sampeng 哈哈 感谢 当头棒喝 写得比较口水话

    bwt:其实我也就是文笔不好 不善于表达的千万程序员中的一个 想实践提升一下
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2888 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 11:20 · PVG 19:20 · LAX 04:20 · JFK 07:20
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.