ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

使用Sqoop导入导出parquet格式的Hive表

2021-06-22 13:32:38  阅读:245  来源: 互联网

标签:mysql hcatalog -- Sqoop hive Hive parquet table password


 

1、导入

sqoop import \
--connect jdbc:mysql://10.10.0.1:3306/test \
--username root \
--password 123456 \
--table session_detail \
--hive-import \
--hive-overwrite \
--hive-databbase xiet \
--fields-terminated-by '\001' \
--target-dir /user/hive/temp_sqoop/transfer_sjdk.db/session_detail \
--delete-target-dir \
--outdir /home/ \
--hive-drop-import-delims \
--null-string '\\N' \
--null-non-string '\0' \
-m 1 \
--as-parquetfile

2、导出

sqoop export \
--connect jdbc:mysql://ip-172-31-22-86.ap-southeast-1.compute.internal:3306/test_db \
--username testuser \
--password password \
--table mytest_parquet \
--hcatalog-database default \
--hcatalog-table mytest_parquet --num-mappers 1

参数说明:
--table:MySQL库中的表名
--hcatalog-database:Hive中的库名
--hcatalog-table:Hive库中的表名,需要抽数的表

--num-mappers:执行作业的Map数

使用传统的指定文件目录的方式无法导出hive数据到mysql。原因:这是Sqoop已知的问题,参考SQOOP-2907:

https://issues.apache.org/jira/browse/SQOOP-2907

标签:mysql,hcatalog,--,Sqoop,hive,Hive,parquet,table,password
来源: https://blog.csdn.net/hellojoy/article/details/118104940

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有