V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
leavan
V2EX  ›  程序员

关于使用 docker 后从 hdfs 短路读(short-circuit read)的问题

  •  
  •   leavan · 2020-10-12 10:59:26 +08:00 · 522 次点击
    这是一个创建于 674 天前的主题,其中的信息可能已经有所发展或是发生改变。

    明明在同一台物理机上,但由于不同的 container 需要分配不同的 IP,所以 yarn 之类的组件无法识别yarn-nodemanager1hdfs-datanode1两台机器是可以通过短路读(也就是hdfs-datanode1在本地打开需要传输的 block,然后把 fd 交给yarn-nodemanager1)传输数据的,最后数据还是通过网络传输的,浪费了很多性能。如果要解决这个问题,具体要解决两个方面的内容:

    1. yarn-resourcemanager需要感知到不同yarn-nodemangerhdfs-datanode的对应关系,并且尽可能把任务分配到可以短路读的节点上;
    2. yarn-nodemanager需要感知到自己可以从哪个hdfs-datanode短路读。

    目前的做法就是硬编码+改源码,现在要上 impala 了类似的事情又要再做一遍,感到十分头疼。各位老哥有没有什么优雅点的解决方案?

    目前尚无回复
    关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   3788 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 10:08 · PVG 18:08 · LAX 03:08 · JFK 06:08
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.