阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

基于arm架构单片机的Hadoop服务器尝试

421次阅读
没有评论

共计 2869 个字符,预计需要花费 8 分钟才能阅读完成。

之前听说了百度用 arm 服务器搭建了 webserver 和网盘之类的东西,然后又看到有人用 Android 电视棒里面装 Ubuntu,于是就有了用 arm 尝试做 Hadoop 服务器的想法。但是目前 arm 64 位的 cpu 还没有出货,所以这只是个前奏性质的尝试。

从淘宝上面买了一个 arm 的单片机,上面有一颗基于 ARMv7 架构的单核 cpu,1G 内存,4G 存储。但是最主要的,是上面有网卡接口,虽然是 100M 的,但这让构建集群成为了一个可能。另外这个比树莓派更好的是,上面有 sata 硬盘的接口,这样,存储的问题也可以解决。虽然我现在手里没有 sata 2.5 寸的硬盘,但是起码给了个想象的空间。

基于 arm 架构单片机的 Hadoop 服务器尝试

很小的一块板子,表就是 casio 的 ef339,去年博客大赛的奖品,也是我唯一的一块表,而且我不担任任何公职,也不是党员,不要平我祖坟。

关于操作系统方面,cubieboard 本身内置 android 4.0.4,连上 HDMI 在电视上刷微博很爽,40 寸的大 pad,谁有?但是 android 不是我们所需要的,可以用 linaro 系统,for arm 的 ubuntu。从网上找了一个国外网友自制的 linaro server 版,用工具烧进 TF(microSD) 卡。不比自己本身的 android 启动速度快,这个启动速度比较慢。不过要做好心理准备,TF 卡一旦烧了操作系统 img 上去,就再也不能当存储用了。

昨天晚上在家通过网线用 apt-get install 了 openjdk6,也下载好了 hadoop-1.0.4。今天在公司利用午休时间配置了单机的 hadoop 环境。并跑了一下 pi 任务,结果比我想象的要好,先看几张图吧,最后写上测试数据和对比测试数据。

开机启动图

基于 arm 架构单片机的 Hadoop 服务器尝试

因为公司绑定 mac,所以没有联网,懒得去找 ops 做 mac 绑定了。

测试命令,启动 10 个 map,每 map 投掷 100 次飞镖,计算 pi 值。因为主要是看 cpu 计算能力,sd 卡当存储,肯定拼不过 sata 硬盘的速度。下图有 cpu 信息和操作系统的信息。

基于 arm 架构单片机的 Hadoop 服务器尝试

cpu 信息大图

基于 arm 架构单片机的 Hadoop 服务器尝试

连线图,本身采用 HDMI 作为显示输出,还得去找 HDMI 转 VGA 的转换头。

基于 arm 架构单片机的 Hadoop 服务器尝试

arm hadoop 服务器大小,比中南海略大。

基于 arm 架构单片机的 Hadoop 服务器尝试

最后让我们回到数据上来,琢磨这种方式其实我最关心的是性价比,主要看多少颗 arm v7 可以顶一颗 intel cpu。因为除去这一点,硬盘,内存等等都是必不可少的开销,用哪种架构都是一样的。而性价比主要就集中在 cpu 单价和能耗上。

在 64 位 arm 没有出来以前,就拿 arm v7 说事吧。

用台式机里的 intel 做虚拟机单核 1G 内存做了个对比,Hadoop pi 任务对比数据如下。

首先 intel 和 arm 的 hadoop 配置相同,都是 hadoop 官网的单机,单复制块默认配置,HEAPSIZE 均设置为 128M。

午休时间有限,只做了 pi 的测试。而且没有服务器上的虚拟机,没法测试至强 CPU 的性能,台式机做个大概的参考好了。

测试命令:sudo -u hadoop hadoop jar hadoop-example-1.0.4.jar pi 10 100

  第一次 第二次 第三次
intel i3 2100 1core CentOS82.064s75.992s81.971s
arm v7 1core Ubuntu173.46s157.165s168.397s

 

读写存储的效率对比,分别顺序读写 200M 文件。

intel+ 机械硬盘 200M 写,500M 读

arm+sd 卡 60M 写,60M 读,可见读写硬盘 intel 占大便宜了,不过因为没有外挂硬盘,所以也不知道 arm 读写效率如何。sd 卡就别想了,太慢了,尽管这个 SD 卡已经算快的了。

且不论读写磁盘操作的差距,仅以这个作为计算能力的差距参考,可以看到,大概 2 - 3 颗 arm v7 可以抵的上 intel i3 2100 里面的一个核,那么大概 12 颗可以超越一颗 i3 2100。i3 2100 的功耗每小时大概在 50-60 瓦左右,而 12 颗 arm v7 的功耗每小时不到 4 瓦。

在我写这篇作文的时候,i3 2100 大约 600 多一颗,12 颗 arm v7 大约 40 美元,折合起来不到 300。所以无论从能耗还是价格上看,arm cpu 还是具备一定优势的。只是现在 64 位 cpu 没出来,做 hadoop 服务器没有什么计算优势,但是拿来当 webserver 或者存储服务器还是绰绰有余的。

不过我个人觉得,未来用 arm 服务器做 hadoop 服务器还是极具诱惑的。无论从能耗还是采购成本上,arm 都很低廉,至少在我来看,还是很性感的。

更多 Hadoop 相关信息见 Hadoop 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=13

之前听说了百度用 arm 服务器搭建了 webserver 和网盘之类的东西,然后又看到有人用 Android 电视棒里面装 Ubuntu,于是就有了用 arm 尝试做 Hadoop 服务器的想法。但是目前 arm 64 位的 cpu 还没有出货,所以这只是个前奏性质的尝试。

从淘宝上面买了一个 arm 的单片机,上面有一颗基于 ARMv7 架构的单核 cpu,1G 内存,4G 存储。但是最主要的,是上面有网卡接口,虽然是 100M 的,但这让构建集群成为了一个可能。另外这个比树莓派更好的是,上面有 sata 硬盘的接口,这样,存储的问题也可以解决。虽然我现在手里没有 sata 2.5 寸的硬盘,但是起码给了个想象的空间。

基于 arm 架构单片机的 Hadoop 服务器尝试

很小的一块板子,表就是 casio 的 ef339,去年博客大赛的奖品,也是我唯一的一块表,而且我不担任任何公职,也不是党员,不要平我祖坟。

关于操作系统方面,cubieboard 本身内置 android 4.0.4,连上 HDMI 在电视上刷微博很爽,40 寸的大 pad,谁有?但是 android 不是我们所需要的,可以用 linaro 系统,for arm 的 ubuntu。从网上找了一个国外网友自制的 linaro server 版,用工具烧进 TF(microSD) 卡。不比自己本身的 android 启动速度快,这个启动速度比较慢。不过要做好心理准备,TF 卡一旦烧了操作系统 img 上去,就再也不能当存储用了。

昨天晚上在家通过网线用 apt-get install 了 openjdk6,也下载好了 hadoop-1.0.4。今天在公司利用午休时间配置了单机的 hadoop 环境。并跑了一下 pi 任务,结果比我想象的要好,先看几张图吧,最后写上测试数据和对比测试数据。

开机启动图

基于 arm 架构单片机的 Hadoop 服务器尝试

因为公司绑定 mac,所以没有联网,懒得去找 ops 做 mac 绑定了。

测试命令,启动 10 个 map,每 map 投掷 100 次飞镖,计算 pi 值。因为主要是看 cpu 计算能力,sd 卡当存储,肯定拼不过 sata 硬盘的速度。下图有 cpu 信息和操作系统的信息。

基于 arm 架构单片机的 Hadoop 服务器尝试

cpu 信息大图

基于 arm 架构单片机的 Hadoop 服务器尝试

连线图,本身采用 HDMI 作为显示输出,还得去找 HDMI 转 VGA 的转换头。

基于 arm 架构单片机的 Hadoop 服务器尝试

arm hadoop 服务器大小,比中南海略大。

基于 arm 架构单片机的 Hadoop 服务器尝试

最后让我们回到数据上来,琢磨这种方式其实我最关心的是性价比,主要看多少颗 arm v7 可以顶一颗 intel cpu。因为除去这一点,硬盘,内存等等都是必不可少的开销,用哪种架构都是一样的。而性价比主要就集中在 cpu 单价和能耗上。

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计2869字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19350
评论数
4
阅读量
7962568
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
开源MoneyPrinterTurbo 利用AI大模型,一键生成高清短视频!

开源MoneyPrinterTurbo 利用AI大模型,一键生成高清短视频!

  开源 MoneyPrinterTurbo 利用 AI 大模型,一键生成高清短视频! 在短视频内容...
300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

300元就能买到的”小钢炮”?惠普7L四盘位小主机解析

  300 元就能买到的 ” 小钢炮 ”?惠普 7L 四盘位小主机解析 最近...
浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍 前言 在 AI 自动化快速发展的当下,浏览器早已不再只是...
【开源神器】微信公众号内容单篇、批量下载软件

【开源神器】微信公众号内容单篇、批量下载软件

【开源神器】微信公众号内容单篇、批量下载软件 大家好,我是星哥,很多人都希望能高效地保存微信公众号的文章,用于...
还在找免费服务器?无广告免费主机,新手也能轻松上手!

还在找免费服务器?无广告免费主机,新手也能轻松上手!

还在找免费服务器?无广告免费主机,新手也能轻松上手! 前言 对于个人开发者、建站新手或是想搭建测试站点的从业者...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

  颠覆 AI 开发效率!开源工具一站式管控 30+ 大模型 ApiKey,秘钥付费 + 负载均衡全...
星哥带你玩飞牛NAS-14:解锁公网自由!Lucky功能工具安装使用保姆级教程

星哥带你玩飞牛NAS-14:解锁公网自由!Lucky功能工具安装使用保姆级教程

星哥带你玩飞牛 NAS-14:解锁公网自由!Lucky 功能工具安装使用保姆级教程 作为 NAS 玩家,咱们最...
星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的NAS中!

星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的NAS中!

星哥带你玩飞牛 NAS-10:备份微信聊天记录、数据到你的 NAS 中! 大家对「数据安全感」的需求越来越高 ...
仅2MB大小!开源硬件监控工具:Win11 无缝适配,CPU、GPU、网速全维度掌控

仅2MB大小!开源硬件监控工具:Win11 无缝适配,CPU、GPU、网速全维度掌控

还在忍受动辄数百兆的“全家桶”监控软件?后台偷占资源、界面杂乱冗余,想查个 CPU 温度都要层层点选? 今天给...
多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞定

多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞定

多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞...