阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

CentOS 7中手动编译Greenplum

422次阅读
没有评论

共计 5940 个字符,预计需要花费 15 分钟才能阅读完成。

一、编译环境

  • Linux version 3.10.0-327.el7.x86_64 (builder@kbuilder.dev.CentOS.org) (gcc version 4.8.3 20140911 (Red Hat 4.8.3-9) (GCC) ) 
  • greenplum 5.3.0

二、编译过程

 

2.1、下载 greenplum 源码

可从该位置下载需要的版本:https://github.com/greenplum-db/gpdb/releases/(此处使用 5.3.0)

2.2、解压

下载后再 centos 中解压到指定目录,如 /home/gpdb_src

2.3、安装必备的工具

  • psutil
  • lockfile (>= 0.9.1)
  • paramiko
  • setuptools
  • conan

注意,以上工具使用 pip(>=7.x.x)安装,如果没有 pip,可以参考 https://pip.pypa.io/en/stable/installing/ 步骤进行安装。

如果 pip 版本太低,可使用如下命令升级:

pip install --upgrade

2.4、配置 ld.so.conf

由于我们使用的是 CentOS 系统, 所以一定要加上 /usr/local/lib 和 /usr/local/lib64 的路径到 /etc/ld.so.conf 文件中,这一步尤为重要,目的是将常用的动态函数库加载到内存中,可以提高函数库的访问效率。另外,如果不配置这一步,在后面编译的过程中会遇到一些奇奇怪怪的缺少引用的错误

修改后的文件内容类似如下:

include ld.so.conf.d/*.conf
/usr/local/lib
/usr/local/lib64

修改完成后保存,之后运行 ldconfig 命令

2.5、创建 gpadmin 用户和配置 ssh

这一步可以使用源码中自带的脚本完成,脚本位置如下:/home/gpdb_src/concourse/scripts/setup_gpadmin_user.bash,执行如下命令:

cd /home
bash ./gpdb_src/concourse/scripts/setup_gpadmin_user.bash

这里说明下,这一步如果使用脚本操作,一定要把源码文件放到 gpdb_src 中,执行脚本时需要进入到与 gpdb_src 同级的目录执行,如果要手动配置也是可以的。具体的操作也不复杂,有兴趣的朋友可以读下 setup_gpadmin_user.bash 脚本。

执行完成后,进行如下两步操作验证:

su - gpadmin
ssh < 当前主机名称 >

如果切换账户正常并且 ssh 正常,不需要输入密码,这说明这一步成功

 

2.6、修改内核参数

cat >> /etc/sysctl.conf <<-EOF
kernel.shmmax = 500000000
kernel.shmmni = 4096
kernel.shmall = 4000000000
kernel.sem = 250 512000 100 2048
kernel.sysrq = 1
kernel.core_uses_pid = 1
kernel.msgmnb = 65536
kernel.msgmax = 65536
kernel.msgmni = 2048
net.ipv4.tcp_syncookies = 1
net.ipv4.ip_forward = 0
net.ipv4.conf.default.accept_source_route = 0
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_max_syn_backlog = 4096
net.ipv4.conf.all.arp_filter = 1
net.ipv4.ip_local_port_range = 1025 65535
net.core.netdev_max_backlog = 10000
net.core.rmem_max = 2097152
net.core.wmem_max = 2097152
vm.overcommit_memory = 2

EOF

cat >> /etc/security/limits.conf <<-EOF
* soft nofile 65536
* hard nofile 65536
* soft nproc 131072
* hard nproc 131072

EOF

cat >> /etc/ld.so.conf <<-EOF
/usr/local/lib

EOF

这一步很重要,否则在后期使用 greenplum 的时候会遇到问题,详细的问题后面会解析。

2.7、编译 GPORCA

这里提一下,如果不需要优化器这一步也可以跳过。毕竟 greenplum 在不安装 orca 的情况下使用的是 legacy 优化器。

GPORCA 是 postgresql 新一代的优化器,在性能上有很大提升,至于为什么要有两个优化器,其实是有历史原因的,早期 legacy 是针对单节点 PostgreSQL 而构建的,主要应用于 OLTP 场景,现在的 greenplum 使用 MPP,主要应用场景变为 OLAP 场景,legacy 对此虽然进行了修改,但是从架构设计上,使得其维护和添加新的功能越来越困难,所以有了 GPORCA 优化器。

虽然 greenplum 提供了直接安装的方式,但是本人一直没有安装成功。很简单,就是执行如下命令:

cd /home/gpdb_src/depends
./configure make make install_local

本人遇到的错误是:

Unable to connect to gpdb-oss=https://api.bintray.com/conan/greenplum-db/gpdb-oss
ERROR: All remotes failed

如果有知道怎么解决的朋友还请告诉我。

下面提供手动编译的方法。特别注意,安装前一定要确认当前的版本是否和 greenplum 版本相匹配,如果不匹配将无法编译 greenplum,详情参见问题 6

首先,编译 gporca 前需要安装如下必备工具:

  • CMake(>=3.1)
  • gp-xerces
  • re2c(>= 0.11.3)

 2.7.1 下载安装 cmake

进入 https://cmake.org/download/ 页面下载自己需要的版本

2.7.2 下载安装 gp-xerces

可以使用 git 下载:https://github.com/greenplum-db/gp-xerces.git

2.7.3  下载安装 re2c

进入 http://re2c.org/install/install.html 页面下载自己需要的版本

安装 re3c 是由于配置 ninja 时需要

2.7.4 下载安装 Ninja

可以使用 git 下载:https://github.com/ninja-build/ninja.git

下载后进入 ninja 目录执行如下命令:

./configure.py --bootstrap

2.7.5 下载安装 gporca

可以使用 git 下载:https://github.com/greenplum-db/gporca.git

解压后进入目录执行如下命令安装:

cmake -GNinja -H. -Bbuild
ninja install -C build

待安装完成后,进入 /gporca/build 目录,执行 ctest 命令进行检查

如果最后输出类似如下结果:

100% tests passed, 0 tests failed out of 119

Total Test time (real) = 195.48 sec

这说明编译成功了。

 2.8 安装 greenplum

执行如下命令:

cd /home/gpdb_src
./configure --with-perl --with-Python --with-libxml --with-gssapi --prefix=/usr/local/gpdb
make -j8
make -j8 install

注意:这里如果跳过了第七步,则 configure 时需要使用如下命令:

./configure --with-perl --with-python --with-libxml --with-gssapi --disable-orca --prefix=/usr/local/gpdb

configure 有很多的组件可以加上,如果需要添加自定义可以使用./configure –help 查看,加上自己需要的组件即可

 通过以上步骤,就完成了编译。虽然本人已经力求写的详细,但是还是略过了一些自认为大家一看到就能知道原因,同时环境的差异也会导致一些本人没有遇到过的错误,所以有理由相信大家编译的时候还是会遇到一些问题,如果遇到了本文没有涉及到的错误可以告诉我,大家一起讨论。

三、错误处理

1)

安装必备工具或者升级 pip 时可能报类似如下错误:

Could not fetch URL https://pypi.python.org/simple/conan/: There was a problem confirming the ssl certificate: [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed (_ssl.c:765) - skipping

可以执行如下命令:

pip install --trusted-host pypi.python.org XXXX
pip install --trusted-host pypi.python.org --upgrade pip
XXXX 为你要安装的工具

2)

checking for xsltCleanupGlobals in -lxslt... no
configure: error: library 'xslt' is required for XSLT support

执行如下命令:yum install libxslt libxslt-devel

3)

/bin/ld: libpq/SUBSYS.o: undefined reference to symbol 'gss_delete_sec_context@@gssapi_krb5_2_MIT'
/bin/ld: note: 'gss_delete_sec_context@@gssapi_krb5_2_MIT' is defined in DSO /lib64/libgssapi_krb5.so.2 so try adding it to the linker command line
/lib64/libgssapi_krb5.so.2: could not read symbols: Invalid operation
collect2: error: ld returned 1 exit status
make[2]: *** [postgres] Error 1
make[2]: Leaving directory `/home/greenplum/src/backend'make[1]: *** [all] Error 2
make[1]: Leaving directory `/home/greenplum/src'make: *** [all] Error 2

类似这种错误基本都是安装步骤中第 4 步没有配置导致的

4)

checking for flags to link embedded Perl... Can't locate ExtUtils/Embed.pm in @INC (@INC contains: /usr/local/lib64/perl5 /usr/local/share/perl5 /usr/lib64/perl5/vendor_perl /usr/share/perl5/vendor_perl /usr/lib64/perl5 /usr/share/perl5 .).
BEGIN failed--compilation aborted.
no
configure: error: could not determine flags for linking embedded Perl.
This probably means that ExtUtils::Embed or ExtUtils::MakeMaker is not installed.

yum install perl-ExtUtils-Embed -y

5)

checking for xmlSaveToBuffer in -lxml2... no
configure: error: library 'xml2' (version >= 2.6.23) is required for XML support

yum install libxml2 libxml2-devel -y

6)

checking Checking ORCA version... configure: error: Your ORCA version is expected to be 2.51.XXX

这说明你装的 orca 的版本是不匹配的,需要安装匹配版本,那么如何在安装前知道需要什么版本,执行如下命令:

cd /home/gpdb_src/depends
cat conanfile_orca.txt

这里在文件中可以看到如下记录:

[requires]
orca/v2.51.0@gpdb/stable

到 github 上找到对应版本下载安装即可。

当需要更换版本时,需要清理掉之前已经安装的版本。默认情况下安装在 /usr/local/ 目录下,根据安装的路径,执行如下命令删除已经安装的版本

rm -rf build/*
rm -rf /usr/local/include/naucrates
rm -rf /usr/local/include/gpdbcost
rm -rf /usr/local/include/gpopt
rm -rf /usr/local/include/gpos
rm -rf /usr/local/lib/libnaucrates.so*
rm -rf /usr/local/lib/libgpdbcost.so*
rm -rf /usr/local/lib/libgpopt.so*
rm -rf /usr/local/lib/libgpos.so*

注意:

1、build 位于 gporca 编译目录,其是编译时 cmake 产生的一些文件

2、如果重新安装了版本一定要执行 ldconfig 命令,否则新的版本不会在缓存中更新,会一直报上述错误

四、参考资料

http://www.linuxidc.com/Linux/2017-12/149769.htm

 本文永久更新链接地址:http://www.linuxidc.com/Linux/2017-12/149770.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-22发表,共计5940字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7982786
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
【开源神器】微信公众号内容单篇、批量下载软件

【开源神器】微信公众号内容单篇、批量下载软件

【开源神器】微信公众号内容单篇、批量下载软件 大家好,我是星哥,很多人都希望能高效地保存微信公众号的文章,用于...
星哥带你玩飞牛NAS硬件03:五盘位+N5105+双网口的成品NAS值得入手吗

星哥带你玩飞牛NAS硬件03:五盘位+N5105+双网口的成品NAS值得入手吗

星哥带你玩飞牛 NAS 硬件 03:五盘位 +N5105+ 双网口的成品 NAS 值得入手吗 前言 大家好,我...
安装Black群晖DSM7.2系统安装教程(在Vmware虚拟机中、实体机均可)!

安装Black群晖DSM7.2系统安装教程(在Vmware虚拟机中、实体机均可)!

安装 Black 群晖 DSM7.2 系统安装教程(在 Vmware 虚拟机中、实体机均可)! 前言 大家好,...
星哥带你玩飞牛NAS-5:飞牛NAS中的Docker功能介绍

星哥带你玩飞牛NAS-5:飞牛NAS中的Docker功能介绍

星哥带你玩飞牛 NAS-5:飞牛 NAS 中的 Docker 功能介绍 大家好,我是星哥,今天给大家带来如何在...
飞牛NAS玩转Frpc并且配置,随时随地直连你的私有云

飞牛NAS玩转Frpc并且配置,随时随地直连你的私有云

飞牛 NAS 玩转 Frpc 并且配置,随时随地直连你的私有云 大家好,我是星哥,最近在玩飞牛 NAS。 在数...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
星哥带你玩飞牛NAS-12:开源笔记的进化之路,效率玩家的新选择

星哥带你玩飞牛NAS-12:开源笔记的进化之路,效率玩家的新选择

星哥带你玩飞牛 NAS-12:开源笔记的进化之路,效率玩家的新选择 前言 如何高效管理知识与笔记,已经成为技术...
国产开源公众号AI知识库 Agent:突破未认证号限制,一键搞定自动回复,重构运营效率

国产开源公众号AI知识库 Agent:突破未认证号限制,一键搞定自动回复,重构运营效率

国产开源公众号 AI 知识库 Agent:突破未认证号限制,一键搞定自动回复,重构运营效率 大家好,我是星哥,...
免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

  免费无广告!这款跨平台 AI RSS 阅读器,拯救你的信息焦虑 在算法推荐主导信息流的时代,我们...
星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定!

星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定!

星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定! 前言 作为 NAS 玩家,你是否总被这些...
让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级

让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级

让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级 大家好,我是星哥,之前写了一篇文章 自己手撸一...