ICode9

精准搜索请尝试: 精确搜索
首页 > 编程语言> 文章详细

HIVE源码(5):HQL 转换为 MR 源码详细解读(4)

2021-08-22 19:33:14  阅读:210  来源: 互联网

标签:execute hadoop HIVE 源码 HQL hive apache 方法


接下来的步骤包括: 1)将 AST 转换为 QueryBlock 进一步转换为 OperatorTree; 2)对 OperatorTree 进行逻辑优化(LogicalOptimizer); 3)将 OperatorTree 转换为 TaskTree(任务树); 4)对 TaskTree 进行物理优化(PhysicalOptimizer)。 之所以将这 4 个步骤写在一起,是因为这几个步骤在源码中存在于一个方法中。 1 compile 方法(接 2.4.2 节 compile 方法继续往下)

 

 

2 analyze 方法

3 analyzeInternal 方法

此方法为“org.apache.hadoop.hive.ql.parse.BaseSemanticAnalyzer”抽象类的抽象方法, 我们进入实现类“org.apache.hadoop.hive.ql.parse.SemanticAnalyzer”的 analyzeInternal 方法。

 

4 继续调用重载的 analyzeInternal 方法 注意:该段源码中出现的“1,2,3,4…11”均为源码所定义步骤,该方法代码虽然很长, 但是由于存在官方提供的步骤注释,其实读懂并不难。

 

 

 

 

 

 

 

 

5 提交任务并执行(接 2.3.8 节 runInternal 方法继续往下) 此处接 2.3.8 节中的第二步: 6 execute 方法

 

7 launchTask 方法

 

 

8 runSequential 方法

9 executeTask 方法 

10 execute 方法 

此时我们进入了一个抽象“org.apache.hadoop.hive.ql.exec.Task”的“execute”方法,我们 则 需 要 找 到 一 个 实 现 类 的 “ execute ” 方 法 , 此 处 我 选 择 “org.apache.hadoop.hive.ql.exec.mr.MapRedTask”这个类。 

 

 

 

 

 

 

标签:execute,hadoop,HIVE,源码,HQL,hive,apache,方法
来源: https://www.cnblogs.com/qiu-hua/p/15173241.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有