学LinuxJava大数据,开多个虚拟机,苹果笔记本安装虚拟机需要什么

梁山夫妻大办离婚庆典,两人亲自把喜字剪开。
让人意想不到的是,其中还有产妇和6个月孕妇。
声明:本文由入驻搜狐公众平台的作者撰写,除搜狐官方账号外,观点仅代表作者本人,不代表搜狐立场。
  CDA大数据分析师 「大数据分析师理论基础 」千人拼团正在火热进行,人多优惠多,最低可至99元!别人拼爹,我们「拼」实力,来为自己拼出一个当上数据科学就的未来吧~
  点击底部阅读原文加入拼团
  报名福利
  参团成功后,长按二维码,添加申请第七期大数据分析师课程 豪华大礼(海量视频+文字资料)
  学员对象
  大数据分析,数据挖掘 兴趣爱好者及转行人士 ;
  职位晋升 薪酬提高人士;
  在校数学,经济,计算机 在校数学,经济,计算机 ,统计等专业教师和学生;
  各大数据项目负责人 及其团队人士。
  课程简介
  课程信息
  开课时间:日 早9点到12点 下午2点到5点
  上课方式:直播学习+直播互动+录播复习+在线答疑
  授课讲师
  曹正凤
  软件工程专业硕士,统计学专业博士,具有多年的JAVA程序设计和统计教学经验,经管之家CDA金牌讲师,研究方向为数据挖掘领域的前沿算法研究,包括随 机森林算法、神经网络等内容,发表多篇论文,且发表的EI核心收录论文受到多次检索。目前致力于大数据分析前沿领域研究,主持人大经济论坛基于 hadoop架构的论坛主题推荐系统项目,参与《大数据背景下基于中国烟草消费需求的供给结构分析研究》、《基于数据整合的空气质量测度方法研究》等大数 据项目。
  课程大纲
  一、大数据基础知识
  1.大数据前沿知识介绍
  2.大数据分析特征解读
  3.大数据的数据存放介绍
  4.大数据生态环境简介
  5.大数据人才需求现状
  二、Hadoop环境架构与实战
  1.Linux及Unbuntu系统介绍
  2.常用Shell命令
  3.Hadoop单机与伪分布模式
  4.Hadoop生态系统概览
  5.Hadoop安装方法
  6.安装虚拟机
  7.Unbuntu中的Java的安装配置
  三、大数据案例应用
  1.客流量案例分析
  2.蒙特卡洛求π实验
  课程顾问
  张老师
  微信:Neumann_zzx
  电话:010-
  点击阅读原文加入拼团~~
欢迎举报抄袭、转载、暴力色情及含有欺诈和虚假信息的不良文章。
请先登录再操作
请先登录再操作
微信扫一扫分享至朋友圈
搜狐公众平台官方账号
生活时尚&搭配博主 /生活时尚自媒体 /时尚类书籍作者
搜狐网教育频道官方账号
全球最大华文占星网站-专业研究星座命理及测算服务机构
经管之家论坛
主演:黄晓明/陈乔恩/乔任梁/谢君豪/吕佳容/戚迹
主演:陈晓/陈妍希/张馨予/杨明娜/毛晓彤/孙耀琦
主演:陈键锋/李依晓/张迪/郑亦桐/张明明/何彦霓
主演:尚格?云顿/乔?弗拉尼甘/Bianca Bree
主演:艾斯?库珀/ 查宁?塔图姆/ 乔纳?希尔
baby14岁写真曝光
李冰冰向成龙撒娇争宠
李湘遭闺蜜曝光旧爱
美女模特教老板走秀
曝搬砖男神奇葩择偶观
柳岩被迫成赚钱工具
大屁小P虐心恋
匆匆那年大结局
乔杉遭粉丝骚扰
男闺蜜的尴尬初夜
客服热线:86-10-
客服邮箱:&&国之画&&&& &&
版权所有 京ICP备号-2
迷上了代码!简介:VMware可以在个人本地一台笔记本机器上同时运行二个或更多Windows、DOS、LINUX系统。与“多启动”系统相比,VMWare采用了完全不同的概念。多启动系统在一个时刻只能运行一个系统,在系统切换时需要重新启动机器。VMWare是真正“同时”运行,多个操作系统在主系统的平台上,就象标准Windows应用程序那样切换。而且每个操作系统你都可以进行虚拟的分区、配置而不影响真实硬盘的数据,你甚至可以通过网卡将几台虚拟机用网卡连接为一个局域网,极其方便。安装在VMware操作系统性能上比直接安装在硬盘上的系统低不少,因此,比较适合学习和测试。
搭建环境准备如下:& & & &因为没有实体机做测试,要学习hadoop搭建环境,在本地笔记本做几台linux虚拟机是个蛮不错的选择。
Linux虚拟机ISO:CentOS-6.2-x86_64-bin-DVD1.ISO,CentOS-6.2-x86_64-bin-DVD2.ISO。
虚拟机平台服务器版本:VMware-workstation-full-10.0.1-1379776.exe
PS:关于软件,有需要的给我留言留下联系方式,可以share给你,软件描述如下所示:
本地笔记本:T430I,6G内存,64位操作系统,配置如下:
&以下是详细步骤:1,安装VMware-workstation,一路下一步即可,导入Centos,使用ISO方式搭建linux虚拟机。
2,选择路径
3,选择多核
4,选择1G内存
5,选择桥连接的方式
6,选择磁盘I/O方式
7,创建全新的虚拟机
8,选择磁盘类型
9,虚拟机文件存储方式
10,设置虚拟机文件存放路径
11,完成打开,报错如下:
Could not prepare the install disc at E:\software\wmware\CentOS-6.5-x86_64-bin-DVD1.iso.&Make sure that you are using a valid Linux install disc. If the error persists,you may need to reinstall VMware Workstation.
原因是笔记本没有开启虚拟机功能选项,重启笔记本T430i,然后按住F1键,进入BIOS设置,找到Virtual选项,设置成enable,然后保存退出。
打开报错:EDD: Error 8000 reading sector 2073976
原因是:VMware&Workstation&9,版本太老,升级到10版本,就OK了。
12,设置虚拟机网络连接
12.1,验证虚拟机网络连接
[root@name01 ~]# ping
ping: unknown host
[root@name01 ~]#
[root@name01 ~]# ping 115.239.211.110
connect: Network is unreachable
[root@name01 ~]
12.2,设置连接方式为NAT模式
看下是否能上外网,左键点击笔记本右下角无线图标,再点击打开网络与共享中心,关闭VMnet01,只保留VMnet08,然后使用默认的IPv4的ip地址192.168.52.1
(1)&自己设置
现在启动虚拟机,进入虚拟机操作系统,设置虚拟机的网络连接,设置IP为192.168.52.11,子网掩码为255.255.255.0,网关为192.168.52.1(网关是VMware Network Adapter VMnet8虚拟网卡的IP地址),DNS设为主机网络连接的DNS,(是我们连接到外网的连接的DNS,我使用的是无线网络连接,所以我找到无线网络连接的DNS就是了,如果是宽带连接,就是本地连接的DNS),如下所示:
[root@name01 ~]# vim /etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE=eth0
BOOTPROTO=none
HWADDR=00:0c:29:ae:6b:a7
IPV6INIT=yes
NM_CONTROLLED=yes
ONBOOT=yes
IPADDR=192.168.52.11
NETMASK=255.255.255.0
TYPE=Ethernet
GATEWAY=192.168.52.1
DNS1=192.168.180.254
USERCTL=no
[root@name01 ~]#
然后重启network
[root@name01 ~]# service network restart
Shutting down interface eth0:& Device state: 3 (disconnected)
&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&& [& OK& ]
Shutting down loopback interface:&&&&&&&&&&&&&&&&&&&&&&&&& [& OK& ]
Bringing up loopback interface:&&&&&&&&& &&&&&&&&&&&&&&&&&&[& OK& ]
Bringing up interface eth0:& Active connection state: activating
Active connection path: /org/freedesktop/NetworkManager/ActiveConnection/1
state: activated
Connection activated
&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&& &&&&&&&&[& OK& ]
[root@name01 ~]#
(2) dhcp方式自动设置网络
[root@name01 ~]# cat /etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE=eth0
BOOTPROTO=dhcp
HWADDR=00:0c:29:ae:6b:a7
ONBOOT=yes
TYPE=Ethernet
[root@name01 ~]#
重启network服务
[root@name01 ~]# service network restart
Shutting down interface eth0:& Device state: 3 (disconnected)
&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&& [& OK& ]
Shutting down loopback interface:&&&&&&&&&&&&&&&&&&&&&&&&& [& OK& ]
Bringing up loopback interface:&&&&&&&&& &&&&&&&&&&&&&&&&&&[& OK& ]
Bringing up interface eth0:& Active connection state: activating
Active connection path: /org/freedesktop/NetworkManager/ActiveConnection/3
state: activated
Connection activated
&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&& &&&&&&&&[& OK& ]
[root@name01 ~]#
(3)&验证网络,使用wget下载lib包,如下所示:
[root@name01 ~]# wget http://ftp.gnu.org/gnu/glibc/glibc-2.12.1.tar.gz
-- 03:03:38--& http://ftp.gnu.org/gnu/glibc/glibc-2.12.1.tar.gz
Resolving ftp.gnu.org... 208.118.235.20, 4:3::b
Connecting to ftp.gnu.org|208.118.235.20|:80... connected.
HTTP request sent, awaiting response... 200 OK
Length: M) [application/x-gzip]
Saving to: ?.libc-2.12.1.tar.gz?
100%[=====================================================================================================================================================&] 21,119,201& 89.1K/s&& in 7m 23s&
03:11:03 (46.6 KB/s) - ?.libc-2.12.1.tar.gz?.saved [19201]
[root@name01 ~]#
[root@name01 ~]# ping
PING www. (58.217.200.15) 56(84) bytes of data.
64 bytes from 58.217.200.15: icmp_seq=1 ttl=128 time=281 ms
64 bytes from 58.217.200.15: icmp_seq=2 ttl=128 time=223 ms
64 bytes from 58.217.200.15: icmp_seq=3 ttl=128 time=1925 ms
64 bytes from 58.217.200.15: icmp_seq=4 ttl=128 time=1166 ms
64 bytes from 58.217.200.15: icmp_seq=6 ttl=128 time=318 ms
--- www. ping statistics ---
6 packets transmitted, 5 received, 16% packet loss, time 5646ms
rtt min/avg/max/mdev = 223.089/782.893/.220 ms, pipe 2
[root@name01 ~]#
OK,虚拟机外网连接设置成功。
13,克隆另外一台完全一模一样的虚拟机
在第一台虚拟机上安装好各种必须的软件,比如jdk,比如mysql,比如openssl,比如yum,比如python等等。然后通过vm特有的clone功能,快捷的复制出第N台虚拟机。
13.1,在虚拟机name02上右键弹出菜单里点击”管理(M)”,然后点击右边下拉菜单”克隆(C)”,如下所示:
13.2,继续下一步
13.3,选择创建完成克隆(F)
13.4,设置好名称和为止,点击完成
13.5,开始复制,时间较长,耐心等待,如下
点击关闭按钮,完成本次clone。
在使用同样的办法,clone另外一台data02出来,如下图所示:OK,最后3台一模一样配置的虚拟机全部搭建完成,可以去搭建hadoop环境,可以开始大数据学习之旅了。当前所在位置: >
零基础学大数据需要了解的培训课程
导读如果你想学习大数据,有没有任何的基础。那么,接下来科多大数据给大家详细介绍一下,零基础学习大数据在课程方面需要了解的地方! 一:课程概述 Java部分 本套课程由科多讲师团
如果你想学习大数据,又没有任何的基础。那么,接下来科多大数据给大家详细介绍一下,零基础学习大数据在课程方面需要了解的地方!
一:课程概述
本套课程由科多讲师团队、一线技术大咖、大数据研究中心专家参与强强联手合作,打造的&实战、实操、实用&的课程体系,丰富的项目库、多种实验数据、仿真云端环境为学员营造最好的学习环境。学习内容涵盖了 J2EE、HTML5、Struts2、SpringMVC、Mybatis、Hibernate。
课程大纲体系
Java部分的课程涵盖了J2EE、HTML5、Struts2、SpringMVC、Mybatis、Hibernate等专业课程,旨在培训基础扎实的JAVA技术,为大数据部分课程学习做好准备,也能够在完成Java学习后进入J2EE项目进行研发。
课程培训定位
科多致力于培养具有实操能力、入职既上手的技术人才。扎实的Java技术功底为未来在大数据领域的发展和深入做好准备
就业前景方向
Java、大数据岗位自由选择,培养&实战、实操、实用&的技术人才。
大数据部分
本套课程由科多讲师团队、一线技术大咖、大数据研究中心专家参与强强联手合作,打造的&实战、实操、实用&的课程体系,丰富的项目库、多种实验数据、仿真云端环境为学员营造最好的学习环境。学习内容涵盖了Hadoop、HBase、Hive、Scala、strom、Spark。
课程大纲体系
Java部分的课程涵盖了Hadoop、HBase、Hive、Scala、MapReduce、strom、Spark等专业课程,旨在培训大数据技术人才,在完成学习后能进入大数据项目或产品组中参与研发工作。
课程培训定位
科多致力于培养具有实操能力、入职既上手的技术人才。良好的大数据技术原理和项目实训,未来在大数据领域的发展和深入做好准备
就业前景方向
Java、大数据岗位自由选择,培养&实战、实操、实用&的技术人才。
二:课程结构
Java部分:
课程一:HTML & CSS& JS
课程二:java 基础语法
课程三:java 面向对象
课程四:java 高级特性
课程五:JDBC与数据库
课程六:JSP Java web技术
课程七:jQuery与AJAX技术
课程八:传统MVC框架SSH
课程九:CRM用户管理模块实战
课程十:流行框架SpringMVC+Mybatis
课程十一:在线考试管理系统
大数据部分
课程十二:Linux常用命令
课程十三:CM&CDHHadoopCloudera版
课程十四:HadoopHDFS分布式存储
课程十五:HBase分步式存储
课程十六:HadoopMapReduce分布式计算
课程十七:Hive数据挖掘
课程十八:Scala高级编程语言
课程十九:Spark分布式计算
课程二十:数据存储类项目实战
在项目库中选取
课程二十一:数据分析类项目实战
在项目库中选取
以上只是科多大数据简单的介绍了一下零基础学大数据中课程的概况,有关课程非常详细的内容,你可以在线向我们的课程老师获取!
祝大家国庆节快乐!科多在此友情提示各位学员,假期可以好好玩耍,稍微放
大数据热门标签
Copyright (C) 2016 科多大数据培训. All Rights Reserved. 蜀ICP备号
地址:成都市高新区天府五街天府软件园C区10栋20楼单项选择题
1. 下面哪个程序负责 HDFS 数据存储。
a)NameNode
b)Jobtracker
c)Datanode
d)secondaryNameNode
e)tasktracker
2. HDfS 中的 block 默认保存几份?
3. 下列哪个程序通常与 NameNode 在一个节点启动?
a)SecondaryNameNode
b)DataNode
c)TaskTracker
d)Jobtracker
4. Hadoop 作者
a)Martin Fowler
b)Kent Beck
c)Doug cutting
5. HDFS 默认 Block Size
6. 下列哪项通常是集群的最主要瓶颈
7. 关于 SecondaryNameNode 哪项是正确的?
a)它是 NameNode 的热备
b)它对内存没有要求
c)它的目的是帮助 NameNode 合并编辑日志,减少 NameNode 启动时间
d)SecondaryNameNode 应与 NameNode 部署到一个节点
8. 下列哪项可以作为集群的管理工具
c)Cloudera Manager
d)d)Zookeeper
9. 配置机架感知的下面哪项正确
a)如果一个机架出问题,不会影响数据读写
b)写入数据的时候会写到不同机架的 DataNode 中
c)MapReduce 会根据机架获取离自己比较近的网络数据
10. Client 端上传文件的时候下列哪项正确
a)数据经过 NameNode 传递给 DataNode
b)Client 端将文件切分为 Block,依次上传
c)Client 只上传数据到一台 DataNode,然后由 NameNode 负责 Block 复制工作
11. 下列哪个是 Hadoop 运行的模式
b)伪分布式
12. Cloudera 提供哪几种安装 CDH 的方法
a)Cloudera manager
b)Tar ball
c)Yum d)Rpm
13. Ganglia 不仅可以进行监控,也可以进行告警。( )
14. Block Size 是不可以修改的。( )
15. Nagios 不可以监控 Hadoop 集群,因为它不提供 Hadoop 支持。( )
16. 如果 NameNode 意外终止,SecondaryNameNode 会接替它使集群继续工作。( )
17. Cloudera CDH 是需要付费使用的。( )
18. Hadoop 是 Java 开发的,所以 MapReduce 只支持 Java 语言编写。( )
19. Hadoop 支持数据的随机读写。( )
20. NameNode 负责管理 metadata,client 端每次读写请求,它都会从磁盘中读取或则会写入 metadata 信息并反馈 client 端。( )
21. NameNode 本地磁盘保存了 Block 的位置信息。( )
22. DataNode 通过长连接与 NameNode 保持通信。( )
23. Hadoop 自身具有严格的权限管理和安全措施保障集群正常运行。( )
24. Slave 节点要存储数据,所以它的磁盘越大越好。( )
25. hadoop dfsadmin –report 命令用于检测 HDFS 损坏块。( )
26. Hadoop 默认调度器策略为 FIFO( )
27. 集群内每个节点都应该配 RAID,这样避免单磁盘损坏,影响整个节点运行。( )
28. 因为 HDFS 有多个副本,所以 NameNode 是不存在单点问题的。( )
29. 每个 map 槽就是一个线程。( )
30. Mapreduce 的 input split 就是一个 block。( )
31. NameNode 的 Web UI 端口是 50030,它通过 jetty 启动的 Web 服务。( )
32. Hadoop 环境变量中的 HADOOP_HEAPSIZE 用于设置所有 Hadoop 守护线程的内存。它默认是 200 GB。( )
33. DataNode 首次加入 cluster 的时候,如果 log 中报告不兼容文件版本,那需要 NameNode执行“Hadoop namenode -format”操作格式化磁盘。( )
别走开,答案在后面哦!
1. 下面哪个程序负责 HDFS 数据存储。答案C datanode
a)NameNode
b)Jobtracker
c)Datanode
d)secondaryNameNode
e)tasktracker
2. HDfS 中的 block 默认保存几份? 答案A默认3分
3. 下列哪个程序通常与 NameNode 在一个节点启动?答案D
a)SecondaryNameNode
b)DataNode
c)TaskTracker
d)Jobtracker
此题分析:
hadoop的集群是基于master/slave模式,namenode和jobtracker属于master,datanode和tasktracker属于slave,master只有一个,而slave有多个SecondaryNameNode内存需求和NameNode在一个数量级上,所以通常secondary NameNode(运行在单独的物理机器上)和NameNode运行在不同的机器上。
JobTracker和TaskTracker
JobTracker 对应于 NameNode
TaskTracker 对应于 DataNode
DataNode 和NameNode 是针对数据存放来而言的
JobTracker和TaskTracker是对于MapReduce执行而言的
mapreduce中几个主要概念,mapreduce整体上可以分为这么几条执行线索:obclient,JobTracker与TaskTracker。
1、JobClient会在用户端通过JobClient类将应用已经配置参数打包成jar文件存储到hdfs,并把路径提交到Jobtracker,然后由JobTracker创建每一个Task(即MapTask和ReduceTask)并将它们分发到各个TaskTracker服务中去执行。
2、JobTracker是一个master服务,软件启动之后JobTracker接收Job,负责调度Job的每一个子任务task运行于TaskTracker上,并监控它们,如果发现有失败的task就重新运行它。一般情况应该把JobTracker部署在单独的机器上。
3、TaskTracker是运行在多个节点上的slaver服务。TaskTracker主动与JobTracker通信,接收作业,并负责直接执行每一个任务。TaskTracker都需要运行在HDFS的DataNode上。
4. Hadoop 作者 答案C Doug cutting
a)Martin Fowler
b)Kent Beck
c)Doug cutting
5. HDFS 默认 Block Size 答案:B
(因为版本更换较快,这里答案只供参考)
6. 下列哪项通常是集群的最主要瓶颈:答案:C磁盘
该题解析:
首先集群的目的是为了节省成本,用廉价的pc机,取代小型机及大型机。小型机和大型机有什么特点?
1.cpu处理能力强
2.内存够大
所以集群的瓶颈不可能是a和d
3.网络是一种稀缺资源,但是并不是瓶颈。
4.由于大数据面临海量数据,读写数据都需要io,然后还要冗余数据,hadoop一般备3份数据,所以IO就会打折扣。
7. 关于 SecondaryNameNode 哪项是正确的?答案C
a)它是 NameNode 的热备
b)它对内存没有要求
c)它的目的是帮助 NameNode 合并编辑日志,减少 NameNode 启动时间
d)SecondaryNameNode 应与 NameNode 部署到一个节点。
8. 下列哪项可以作为集群的管理?答案:ABD
c)Cloudera Manager
d)Zookeeper
9. 配置机架感知的下面哪项正确:答案ABC
a)如果一个机架出问题,不会影响数据读写
b)写入数据的时候会写到不同机架的 DataNode 中
c)MapReduce 会根据机架获取离自己比较近的网络数据
10. Client 端上传文件的时候下列哪项正确?答案B
a)数据经过 NameNode 传递给 DataNode
b)Client 端将文件切分为 Block,依次上传
c)Client 只上传数据到一台 DataNode,然后由 NameNode 负责 Block 复制工作
该题分析:
Client向NameNode发起文件写入的请求。
NameNode根据文件大小和文件块配置情况,返回给Client它所管理部分DataNode的信息。
Client将文件划分为多个Block,根据DataNode的地址信息,按顺序写入到每一个DataNode块中。
11. 下列哪个是 Hadoop 运行的模式:答案ABC
b)伪分布式
12. Cloudera 提供哪几种安装 CDH 的方法?答案:ABCD
a)Cloudera manager
13. Ganglia 不仅可以进行监控,也可以进行告警。( 正确)
分析:此题的目的是考Ganglia的了解。严格意义上来讲是正确。ganglia作为一款最常用的Linux环境中的监控软件,它擅长的的是从节点中按照用户的需求以较低的代价采集数据。但是ganglia在预警以及发生事件后通知用户上并不擅长。最新的ganglia已经有了部分这方面的功能。但是更擅长做警告的还有Nagios。Nagios,就是一款精于预警、通知的软件。通过将Ganglia和Nagios组合起来,把Ganglia采集的数据作为Nagios的数据源,然后利用Nagios来发送预警通知,可以完美的实现一整套监控管理的系统。
14. Block Size 是不可以修改的。(错误 )
分析:它是可以被修改的Hadoop的基础配置文件是hadoop-default.xml,默认建立一个Job的时候会建立Job的Config,Config首先读入hadoop-default.xml的配置,然后再读入hadoop-site.xml的配置(这个文件初始的时候配置为空),hadoop-site.xml中主要配置需要覆盖的hadoop-default.xml的系统级配置。
15. Nagios 不可以监控 Hadoop 集群,因为它不提供 Hadoop 支持。(错误 )
分析:Nagios是集群监控工具,而且是云计算三大利器之一
16. 如果 NameNode 意外终止,SecondaryNameNode 会接替它使集群继续工作。(错误 )
分析:SecondaryNameNode是帮助恢复,而不是替代,如何恢复,可以查看
17. Cloudera CDH 是需要付费使用的。(错误 )
分析:第一套付费产品是Cloudera Enterpris,Cloudera Enterprise在美国加州举行的 Hadoop 大会 (Hadoop Summit) 上公开,以若干私有管理、监控、运作工具加强 Hadoop 的功能。收费采取合约订购方式,价格随用的 Hadoop 叢集大小变动。
18. Hadoop 是 Java 开发的,所以 MapReduce 只支持 Java 语言编写。(错误 )
分析:rhadoop是用R语言开发的,MapReduce是一个框架,可以理解是一种思想,可以使用其他语言开发。
19. Hadoop 支持数据的随机读写。(错 )
分析:lucene是支持随机读写的,而hdfs只支持随机读。但是HBase可以来补救。HBase提供随机读写,来解决Hadoop不能处理的问题。HBase自底层设计开始即聚焦于各种可伸缩性问题:表可以很“高”,有数十亿个数据行;也可以很“宽”,有数百万个列;水平分区并在上千个普通商用机节点上自动复制。表的模式是物理存储的直接反映,使系统有可能提高高效的数据结构的序列化、存储和检索。
20. NameNode 负责管理 metadata,client 端每次读写请求,它都会从磁盘中读取或则会写入 metadata 信息并反馈 client 端。(错误)
此题分析:
NameNode 不需要从磁盘读取 metadata,所有数据都在内存中,硬盘上的只是序列化的结果,只有每次 namenode 启动的时候才会读取。
1)文件写入
Client向NameNode发起文件写入的请求。
NameNode根据文件大小和文件块配置情况,返回给Client它所管理部分DataNode的信息。
Client将文件划分为多个Block,根据DataNode的地址信息,按顺序写入到每一个DataNode块中。
2)文件读取
Client向NameNode发起文件读取的请求。
21. NameNode 本地磁盘保存了 Block 的位置信息。( 个人认为正确,欢迎提出其它意见)
分析:DataNode是文件存储的基本单元,它将Block存储在本地文件系统中,保存了Block的Meta-data,同时周期性地将所有存在的Block信息发送给NameNode。NameNode返回文件存储的DataNode的信息。
Client读取文件信息。
22. DataNode 通过长连接与 NameNode 保持通信。( )
这个有分歧:具体正在找这方面的有利资料。下面提供资料可参考。
首先明确一下概念:
(1).长连接
Client方与Server方先建立通讯连接,连接建立后不断开,然后再进行报文发送和接收。这种方式下由于通讯连接一直存在,此种方式常用于点对点通讯。
(2).短连接
Client方与Server每进行一次报文收发交易时才进行通讯连接,交易完毕后立即断开连接。此种方式常用于一点对多点通讯,比如多个Client连接一个Server.
23. Hadoop 自身具有严格的权限管理和安全措施保障集群正常运行。(错误 )
hadoop只能阻止好人犯错,但是不能阻止坏人干坏事
24. Slave 节点要存储数据,所以它的磁盘越大越好。( 错误)
分析:一旦Slave节点宕机,数据恢复是一个难题
25. hadoop dfsadmin –report 命令用于检测 HDFS 损坏块。(错误 )
26. Hadoop 默认调度器策略为 FIFO(正确 )
27. 集群内每个节点都应该配 RAID,这样避免单磁盘损坏,影响整个节点运行。(错误 )
分析:首先明白什么是RAID,可以参考百科磁盘阵列。这句话错误的地方在于太绝对,具体情况具体分析。题目不是重点,知识才是最重要的。因为hadoop本身就具有冗余能力,所以如果不是很严格不需要都配备RAID。具体参考第二题。
28. 因为 HDFS 有多个副本,所以 NameNode 是不存在单点问题的。(错误 )
29. 每个 map 槽就是一个线程。(错误 )
分析:首先我们知道什么是map 槽,map 槽-&map slotmap slot 只是一个逻辑值 ( org.apache.hadoop.mapred.TaskTracker.TaskLauncher.numFreeSlots ),而不是对应着一个线程或者进程
30. Mapreduce 的 input split 就是一个 block。(错误 )
31. NameNode 的 Web UI 端口是 50030,它通过 jetty 启动的 Web 服务。(错误 )
32. Hadoop 环境变量中的 HADOOP_HEAPSIZE 用于设置所有 Hadoop 守护线程的内存。它默认是 200 GB。( 错误)
hadoop为各个守护进程(namenode,secondarynamenode,jobtracker,datanode,tasktracker)统一分配的内存在hadoop-env.sh中设置,参数为HADOOP_HEAPSIZE,默认为1000M。
33、33. DataNode 首次加入 cluster 的时候,如果 log 中报告不兼容文件版本,那需要 NameNode执行“Hadoop namenode -format”操作格式化磁盘。(错误 )
首先明白介绍,什么ClusterID
添加了一个新的标识符ClusterID用于标识集群中所有的节点。当格式化一个Namenode,需要提供这个标识符或者自动生成。这个ID可以被用来格式化加入集群的其他Namenode。
有的同学问题的重点不是上面分析内容:内容如下:
这个报错是说明 DataNode 所装的Hadoop版本和其它节点不一致,应该检查DataNode的Hadoop版本
转载请注明来自36大数据(): &
除非特别注明,本站所有文章均不代表本站观点。报道中出现的商标属于其合法持有人。请遵守理性,宽容,换位思考的原则。

我要回帖

更多关于 linux java虚拟机内存 的文章

 

随机推荐