阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Sqoop安装及验证

432次阅读
没有评论

共计 2641 个字符,预计需要花费 7 分钟才能阅读完成。

Sqoop 安装及验证环境:

系统

Red Hat linux 6.4

Hadoop 版本

1.2.1

Sqoop 版本

1.4.4

Mysql 数据库版本

5.6.15

通过 Sqoop 实现 Mysql / Oracle 与 HDFS / Hbase 互导数据 http://www.linuxidc.com/Linux/2013-06/85817.htm

[Hadoop] Sqoop 安装过程详解 http://www.linuxidc.com/Linux/2013-05/84082.htm

用 Sqoop 进行 MySQL 和 HDFS 系统间的数据互导 http://www.linuxidc.com/Linux/2013-04/83447.htm

Hadoop Oozie 学习笔记 Oozie 不支持 Sqoop 问题解决 http://www.linuxidc.com/Linux/2012-08/67027.htm

Hadoop 生态系统搭建(hadoop hive hbase zookeeper oozie Sqoop)http://www.linuxidc.com/Linux/2012-03/55721.htm

Hadoop 学习全程记录——使用 Sqoop 将 MySQL 中数据导入到 Hive 中 http://www.linuxidc.com/Linux/2012-01/51993.htm

获取 sqoop:http://sqoop.apache.org/

Step1. 下载 sqoop 及 mysqlconnector 并解压

Sqoop 安装及验证

Step2. 将解压后的 connector 中的 jar 包拷贝到 sqoop 的 lib 目录下

Sqoop 安装及验证

修改 bin 目录下 configure-sqoop 文件:

注释掉 hbase 和 zookeeper 检查,因为目前还没有启用 hbase/zookeeper 等 hadoop 上的组件

Sqoop 安装及验证

Step3. 设置环境变量

注意重新连接使环境变量生效!

Sqoop:

Sqoop 安装及验证

Hadoop_home:

Sqoop 安装及验证

测试运行下 sqoop:

Sqoop 安装及验证

可以使用 help 命令查看帮助:

Sqoop 安装及验证

Step4. 测试 mysql 导入 HDFS:

创建一张测试表并插入数据:

Sqoop 安装及验证

利用 sqoop 将测试表导入到 hdfs:

注意:可以用 sqoop help import 查看帮助信息

登陆 mysql 创建用户,授予从任何 ip 登陆 mysql 权限

这里创建用户 sqoopuser

GRANT ALL PRIVILEGES ON *.* TO ‘sqoopuser’@’%’ IDENTIFIED BY ‘sqoopuser’ WITH GRANT OPTION;

Sqoop 安装及验证

查看数据库列表:

sqoop list-databases –connect jdbc:mysql://10.55.15.89:3306/ –username sqoopuser –P

Sqoop 安装及验证

执行导入命令将 sqoop_test 表导入到 hdfs:

sqoop import –connect jdbc:mysql://10.55.15.89:3306/sqoop_db –username sqoopuser –P –table sqoop_test -m 1

语法备注:

sqoop import –connect jdbc:mysql://mysqlserver_IP/database_name –username 数据库用户名 –P –table 表名 -m 1

最后一个 - m 表示并发数

Sqoop 安装及验证

结果查询:

Sqoop 安装及验证

可以看到 hdfs 里面多出了一个文件

查看里面具体的内容:

Sqoop 安装及验证

可以看到 sqoop_test 表内的数据已经导入 HDFS

Sqoop 的详细介绍 :请点这里
Sqoop 的下载地址 :请点这里

Sqoop 安装及验证环境:

系统

Red Hat linux 6.4

Hadoop 版本

1.2.1

Sqoop 版本

1.4.4

Mysql 数据库版本

5.6.15

通过 Sqoop 实现 Mysql / Oracle 与 HDFS / Hbase 互导数据 http://www.linuxidc.com/Linux/2013-06/85817.htm

[Hadoop] Sqoop 安装过程详解 http://www.linuxidc.com/Linux/2013-05/84082.htm

用 Sqoop 进行 MySQL 和 HDFS 系统间的数据互导 http://www.linuxidc.com/Linux/2013-04/83447.htm

Hadoop Oozie 学习笔记 Oozie 不支持 Sqoop 问题解决 http://www.linuxidc.com/Linux/2012-08/67027.htm

Hadoop 生态系统搭建(hadoop hive hbase zookeeper oozie Sqoop)http://www.linuxidc.com/Linux/2012-03/55721.htm

Hadoop 学习全程记录——使用 Sqoop 将 MySQL 中数据导入到 Hive 中 http://www.linuxidc.com/Linux/2012-01/51993.htm

获取 sqoop:http://sqoop.apache.org/

Step1. 下载 sqoop 及 mysqlconnector 并解压

Sqoop 安装及验证

Step2. 将解压后的 connector 中的 jar 包拷贝到 sqoop 的 lib 目录下

Sqoop 安装及验证

修改 bin 目录下 configure-sqoop 文件:

注释掉 hbase 和 zookeeper 检查,因为目前还没有启用 hbase/zookeeper 等 hadoop 上的组件

Sqoop 安装及验证

Step3. 设置环境变量

注意重新连接使环境变量生效!

Sqoop:

Sqoop 安装及验证

Hadoop_home:

Sqoop 安装及验证

测试运行下 sqoop:

Sqoop 安装及验证

可以使用 help 命令查看帮助:

Sqoop 安装及验证

Step4. 测试 mysql 导入 HDFS:

创建一张测试表并插入数据:

Sqoop 安装及验证

利用 sqoop 将测试表导入到 hdfs:

注意:可以用 sqoop help import 查看帮助信息

登陆 mysql 创建用户,授予从任何 ip 登陆 mysql 权限

这里创建用户 sqoopuser

GRANT ALL PRIVILEGES ON *.* TO ‘sqoopuser’@’%’ IDENTIFIED BY ‘sqoopuser’ WITH GRANT OPTION;

Sqoop 安装及验证

查看数据库列表:

sqoop list-databases –connect jdbc:mysql://10.55.15.89:3306/ –username sqoopuser –P

Sqoop 安装及验证

执行导入命令将 sqoop_test 表导入到 hdfs:

sqoop import –connect jdbc:mysql://10.55.15.89:3306/sqoop_db –username sqoopuser –P –table sqoop_test -m 1

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计2641字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19350
评论数
4
阅读量
7960729
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

每天一个好玩的网站 - 手机博物馆 -CHAZ 3D Experience 一句话介绍:一个用 3D 方式重温...
Prometheus:监控系统的部署与指标收集

Prometheus:监控系统的部署与指标收集

Prometheus:监控系统的部署与指标收集 在云原生体系中,Prometheus 已成为最主流的监控与报警...
星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的NAS中!

星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的NAS中!

星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的 NAS 中! 大家对「数据安全感」的需求越来越高 ...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统

从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统

从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统 大家好,我是星哥。公司的项目文档存了一堆 ...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
安装并使用谷歌AI编程工具Antigravity(亲测有效)

安装并使用谷歌AI编程工具Antigravity(亲测有效)

  安装并使用谷歌 AI 编程工具 Antigravity(亲测有效) 引言 Antigravity...
免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

  免费无广告!这款跨平台 AI RSS 阅读器,拯救你的信息焦虑 在算法推荐主导信息流的时代,我们...
仅2MB大小!开源硬件监控工具:Win11 无缝适配,CPU、GPU、网速全维度掌控

仅2MB大小!开源硬件监控工具:Win11 无缝适配,CPU、GPU、网速全维度掌控

还在忍受动辄数百兆的“全家桶”监控软件?后台偷占资源、界面杂乱冗余,想查个 CPU 温度都要层层点选? 今天给...
星哥带你玩飞牛NAS硬件 01:捡垃圾的最爱双盘,暴风二期矿渣为何成不老神话?

星哥带你玩飞牛NAS硬件 01:捡垃圾的最爱双盘,暴风二期矿渣为何成不老神话?

星哥带你玩飞牛 NAS 硬件 01:捡垃圾的最爱双盘,暴风二期矿渣为何成不老神话? 前言 在选择 NAS 用预...
恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击

恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击

恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击 PHP-FPM(FastCGl Process M...