随着科技的发展，是以互联网产业化、人工智能为代表的第四次工业革命悄然而至，越来越多的大小宝宝们在体验大数据带来便利的同时，也竖起了学习大数据的耳朵，然而很多人有些胆怯（零基础）、有些人有些偏见（略知一二），但都对大数据带来的巨大社会变化产生着浓厚兴趣，甚至有些前瞻性的家长，为了不让自己的孩子输在起跑线上、赶上革命的浪潮，成为不被社会进步抛弃的沙滩石子，开始和孩子们一起学习大数据。总而言之越来越多人，已经悄然开始了大数据的学习！
那么今天带大家感受一下，大数据学习课程有都有啥？零基础应该怎么学习呢？闲言少叙，本人也不是任何一家机构的水军，但凭借个人在不同网站学习大数据的对比，为大家推荐一些非常有效果的、根据社会需要来的大数据学习路径。根据我个人学习大数据的经验来说，零基础小白需要如下一系列系统课程：
要记住：一切大数据相关知识都是纸老虎！请您在学习之前仔细阅读如下3点须知，让小伙伴先了然于胸：1、： 学习大数据课程体系需要具备的基础条件 ① 电脑建议 8G+的运行内存+500G 以上的磁盘 ② 虚拟机安装包 Linux ③ Javase 的基础 2、ITSTAR 大数据课程体各个阶段详解①Linux：13 个课时 企业开发用 Linux,Linux 是大数据的基石。企业用廉价的 Linux PC 组 成分布式节点，对开源操作系统有一定了解，待深 入后可以找一些运维相关的工作。②关于 hadoop 能学到什么。 主要学习 hadoop 中的四大框架:hdfs、mapreduce、hive、hbase。这四大框架是 hadoop 最核心的，也是应用最广泛的。Hadoop：39 个课时，以实战角度来实践 Hadoop,Yarn 的高性能大数据工具的开发技巧。 了解并掌握大不是计算的核心，如何利用分布式算 法把运行在单台机器上的程序扩展到多 台机器上并且运行。学完后掌握分布式开发流程。③Storm 用于流式计算范式。应用范围很广，对于增量信息的实时处理，都应该能应用到， 比如：1) 对用户上传图片/文本实时打标签（用预先训练的模型）2) 在线学习 (on-line learning)，实时对模型进行增量学习。比如广告点击率、推荐预测率之类的模型。Storm：19 课时，学完之后 掌握 storm 集群搭建，连接实时计算原理，可以做实时计算 的项目。④ Spark 框架 相比 hadoop 在磁盘中运行快 10 倍 基于内存块 100 倍 快速大数据分析，其特点主要是代码优美 精简 快速 效率高。Spark：29 课时，学完之后可以 1）数据获取和存储 2）数据清洗和 转化 3）利用内存计算， 更快速的进行技术开发。4）掌握实时和内存计算的特征和本质。3、大数据实战项目大数据实战特训项目：24 个课时，学完之后可以独立完成从数据抓取，存储，计算，可视 化完整实战项目。一切大数据都是纸老虎！我认为整套课程下来，确实省去了不少摸着石头过河的时间，装B必须装备，直接加我的微信号：TBanna521，跟你分享更多本人的学习经验和技巧，学好了大数据发现与妹子交流又多了一种帅气！ITSTAR 睿思达学院公司http://itstaredu.com成立于 2007 年，2017 年 4 月创立 ITSTAR 睿思达学院。经过 11 年的发展，ITSTAR 睿思达学院专注于中高端 IT 教育课程，主要开 设 : 大数据、机器学习、AI、云计算、java、前端、运维、区块链、等相关课程， 老师全部来自于 BAT 等中国乃至全球最顶尖的一线工程师，致力于推动全球的 IT 教育的进步和发展。ItStar大数据课程即将开班，名额有限，想参加的朋友请抓紧时间报名。免费咨询电话：。或者直接加美女安娜老师微信：TBanna521 ,了解详情。特别声明：本文为网易自媒体平台“网易号”作者上传并发布，仅代表该作者观点。网易仅提供信息发布平台。
一键安装官方客户端
重大事件及时推送 阅读更流畅
http://dingyue.nosdn.127.net/LJR=MmVz1J4GDIvT8YU3o8d3Mj4Zkb0WTm2vJlPPFLzwi8.jpeg大数据初学者怎样学习？-业界动态-@大数据资讯
你好，游客
大数据初学者怎样学习？
来源：极客头条&
　　很多人都知道很火，就业很好，薪资很高，想往大数据方向发展。但该学哪些技术，学习路线是什么样的呢?用不用参加大数据培训呢?如果自己很迷茫，为了这些原因想往大数据方向发展，也可以，那么大讲台老师就想问一下，你的专业是什么，对于计算机/软件，你的兴趣是什么?是计算机专业，对操作系统、硬件、网络、服务器感兴趣?是软件专业，对软件开发、编程、写代码感兴趣?还是数学、统计学专业，对数据和数字特别感兴趣。
　　其实这就是想告诉你的大数据的三个发展方向，平台搭建/优化/运维/监控、大数据开发/设计/架构、/挖掘。请不要问我哪个容易，哪个前景好，哪个钱多。
　　先说一下大数据的4V特征：
　　数据量大，TB-&PB
　　数据类型繁多，结构化、非结构化文本、日志、视频、图片、地理位置等;
　　商业价值高，但是这种价值需要在海量数据之上，通过数据分析与机器学习更快速的挖掘出来;
　　处理时效性高，海量数据的处理需求不再局限在离线计算当中。
　　现如今，正式为了应对大数据的这几个特点，开源的大数据框架越来越多，越来越强，再列举一些常见的：
　　文件存储： HDFS、Tachyon、KFS
　　离线计算：Hadoop MapReduce、Spark
　　流式、实时计算：Storm、Spark Streaming、S4、Heron
　　K-V、NOSQL数据库：HBase、Redis、MongoDB
　　资源管理：YARN、Mesos
　　日志收集：Flume、Scribe、Logstash、Kibana
　　消息系统：Kafka、StormMQ、ZeroMQ、RabbitMQ
　　查询分析：Hive、Impala、Pig、Presto、Phoenix、SparkSQL、Drill、Flink、Kylin、Druid
　　分布式协调服务：Zookeeper
　　集群管理与监控：Ambari、Ganglia、Nagios、Cloudera Manager
　　、机器学习：Mahout、Spark MLLib
　　数据同步：Sqoop
　　任务调度：Oozie
　　眼花了吧，上面的有30多种吧，别说精通了，全部都会使用的，估计也没几个。
　　大讲台老师推荐第二个方向(开发/设计/架构)，因为这个方向容易找工作，下面给大家具体讲解一下。
　　第一章：初识Hadoop
　　1.1 学会百度与Google
　　不论遇到什么问题，先试试搜索并自己解决。
　　Google首选，翻不过去的，就用百度吧。
　　1.2 参考资料首选官方文档
　　特别是对于入门来说，官方文档永远是首选文档。
　　相信搞这块的大多是文化人，英文凑合就行，实在看不下去的，请参考第一步。
　　1.3 先让Hadoop跑起来
　　Hadoop可以算是大数据存储和计算的开山鼻祖，现在大多开源的大数据框架都依赖Hadoop或者与它能很好的兼容。
　　关于Hadoop,你至少需要搞清楚以下是什么：
　　Hadoop 1.0、Hadoop 2.0
　　MapReduce、HDFS
　　NameNode、DataNode
　　JobTracker、TaskTracker
　　Yarn、ResourceManager、NodeManager
　　自己搭建Hadoop，请使用第一步和第二步，能让它跑起来就行。
　　建议先使用安装包命令行安装，不要使用管理工具安装。
　　另外：Hadoop1.0知道它就行了，现在都用Hadoop 2.0.
　　1.4 试试使用Hadoop
　　HDFS目录操作命令;
　　上传、下载文件命令;
　　提交运行MapReduce示例程序;
　　打开Hadoop WEB界面，查看Job运行状态，查看Job运行日志。
　　知道Hadoop的系统日志在哪里。
　　1.5 你该了解它们的原理了
　　MapReduce：如何分而治之;
　　HDFS：数据到底在哪里，什么是副本;
　　Yarn到底是什么，它能干什么;
　　NameNode到底在干些什么;
　　ResourceManager到底在干些什么;
　　1.6 自己写一个MapReduce程序
　　请仿照WordCount例子，自己写一个(照抄也行)WordCount程序，
　　打包并提交到Hadoop运行。
　　你不会Java?Shell、Python都可以，有个东西叫Hadoop Streaming。
　　如果你认真完成了以上几步，恭喜你，你的一只脚已经进来了。
　　第二章：更高效的WordCount
　　2.1 学点SQL吧
　　你知道数据库吗?你会写SQL吗?
　　如果不会，请学点SQL吧。
　　2.2 SQL版WordCount
　　在1.6中，你写(或者抄)的WordCount一共有几行代码?
　　给你看看我的:
　　SELECT word,COUNT(1) FROM wordcount GROUP BY
　　这便是SQL的魅力，编程需要几十行，甚至上百行代码，我这一句就搞定;使用SQL处理分析Hadoop上的数据，方便、高效、易上手、更是趋势。不论是离线计算还是实时计算，越来越多的框架都在积极提供SQL接口。
　　2.3 SQL On Hadoop之Hive
　　什么是Hive?官方给的解释是：
　　The Apache Hive data warehouse software facilitates reading, writing, and managing large datasets residing in distributed storage and queried using SQL syntax.
　　为什么说Hive是数据仓库工具，而不是数据库工具呢?有的朋友可能不知道数据仓库，数据仓库是逻辑上的概念，底层使用的是数据库，数据仓库中的数据有这两个特点：最全的历史数据(海量)、相对稳定的;所谓相对稳定，指的是数据仓库不同于业务系统数据库，数据经常会被更新，数据一旦进入数据仓库，很少会被更新和删除，只会被大量查询。而Hive，也是具备这两个特点，因此，Hive适合做海量数据的数据仓库工具，而不是数据库工具。
　　2.4 安装配置Hive
　　请参考1.1和 1.2 完成Hive的安装配置。可以正常进入Hive命令行。
　　2.5 试试使用Hive
　　请参考1.1和 1.2 ，在Hive中创建wordcount表，并运行2.2中的SQL语句。
　　在Hadoop WEB界面中找到刚才运行的SQL任务。
　　看SQL查询结果是否和1.4中MapReduce中的结果一致。
　　2.6 Hive是怎么工作的
　　明明写的是SQL，为什么Hadoop WEB界面中看到的是MapReduce任务?
　　2.7 学会Hive的基本命令
　　创建、删除表;
　　加载数据到表;
　　下载Hive表的数据;
　　请参考1.2，学习更多关于Hive的语法和命令。
　　如果你已经按照《写给大数据开发初学者的话》中第一章和第二章的流程认真完整的走了一遍，那么你应该已经具备以下技能和知识点：
　　0和Hadoop2.0的区别;
　　MapReduce的原理(还是那个经典的题目，一个10G大小的文件，给定1G大小的内存，如何使用Java程序统计出现次数最多的10个单词及次数);
　　HDFS读写数据的流程;向HDFS中PUT数据;从HDFS中下载数据;
　　自己会写简单的MapReduce程序，运行出现问题，知道在哪里查看日志;
　　会写简单的SELECT、WHERE、GROUP BY等SQL语句;
　　Hive SQL转换成MapReduce的大致流程;
　　Hive中常见的语句：创建表、删除表、往表中加载数据、分区、将表中数据下载到本地;
　　从上面的学习，你已经了解到，HDFS是Hadoop提供的分布式存储框架，它可以用来存储海量数据，MapReduce是Hadoop提供的分布式计算框架，它可以用来统计和分析HDFS上的海量数据，而Hive则是SQL On Hadoop，Hive提供了SQL接口，开发人员只需要编写简单易上手的SQL语句，Hive负责把SQL翻译成MapReduce，提交运行。
　　那么问题来了，海量数据如何到HDFS上呢?
　　第三章：把别处的数据搞到Hadoop上
　　此处也可以叫做数据采集，把各个数据源的数据采集到Hadoop上。
　　3.1 HDFS PUT命令
　　这个在前面你应该已经使用过了。
　　put命令在实际环境中也比较常用，通常配合shell、python等脚本语言来使用。
　　建议熟练掌握。
　　3.2 HDFS API
　　HDFS提供了写数据的API，自己用编程语言将数据写入HDFS，put命令本身也是使用API。
　　实际环境中一般自己较少编写程序使用API来写数据到HDFS，通常都是使用其他框架封装好的方法。比如：Hive中的INSERT语句，Spark中的saveAsTextfile等。
　　建议了解原理，会写Demo。
　　3.3 Sqoop
　　Sqoop是一个主要用于Hadoop/Hive与传统关系型数据库Oracle/MySQL/SQLServer等之间进行数据交换的开源框架。
　　就像Hive把SQL翻译成MapReduce一样，Sqoop把你指定的参数翻译成MapReduce，提交到Hadoop运行，完成Hadoop与其他数据库之间的数据交换。
　　自己下载和配置Sqoop(建议先使用Sqoop1，Sqoop2比较复杂)。
　　了解Sqoop常用的配置参数和方法。
　　使用Sqoop完成从MySQL同步数据到HDFS;
　　使用Sqoop完成从MySQL同步数据到Hive表;
　　PS：如果后续选型确定使用Sqoop作为数据交换工具，那么建议熟练掌握，否则，了解和会用Demo即可。
　　3.4 Flume
　　Flume是一个分布式的海量日志采集和传输框架，因为&采集和传输框架&，所以它并不适合关系型数据库的数据采集和传输。
　　Flume可以实时的从网络协议、消息系统、文件系统采集日志，并传输到HDFS上。
　　因此，如果你的业务有这些数据源的数据，并且需要实时的采集，那么就应该考虑使用Flume。
　　下载和配置Flume。
　　使用Flume监控一个不断追加数据的文件，并将数据传输到HDFS;
　　PS：Flume的配置和使用较为复杂，如果你没有足够的兴趣和耐心，可以先跳过Flume。
　　3.5 阿里开源的DataX
　　之所以介绍这个，是因为我们公司目前使用的Hadoop与关系型数据库数据交换的工具，就是之前基于DataX开发的，非常好用。
　　现在DataX已经是3.0版本，支持很多数据源。
　　你也可以在其之上做二次开发。
　　PS：有兴趣的可以研究和使用一下，对比一下它与Sqoop。
　　第四章：把Hadoop上的数据搞到别处去
　　前面介绍了如何把数据源的数据采集到Hadoop上，数据到Hadoop上之后，便可以使用Hive和MapReduce进行分析了。那么接下来的问题是，分析完的结果如何从Hadoop上同步到其他系统和应用中去呢?
　　其实，此处的方法和第三章基本一致的。
　　4.1 HDFS GET命令
　　把HDFS上的文件GET到本地。需要熟练掌握。
　　4.2 HDFS API
　　同3.2.
　　4.3 Sqoop
　　同3.3.
　　使用Sqoop完成将HDFS上的文件同步到MySQL;
　　使用Sqoop完成将Hive表中的数据同步到MySQL;
　　4.4 DataX
　　同3.5.
　　你应该已经具备以下技能和知识点：
　　知道如何把已有的数据采集到HDFS上，包括离线采集和实时采集;
　　你已经知道sqoop(或者还有DataX)是HDFS和其他数据源之间的数据交换工具;
　　你已经知道flume可以用作实时的日志采集。
　　从前面的学习，对于大数据平台，你已经掌握的不少的知识和技能，搭建Hadoop集群，把数据采集到Hadoop上，使用Hive和MapReduce来分析数据，把分析结果同步到其他数据源。
　　接下来的问题来了，Hive使用的越来越多，你会发现很多不爽的地方，特别是速度慢，大多情况下，明明我的数据量很小，它都要申请资源，启动MapReduce来执行。
　　第五章：快一点吧，我的SQL
　　其实大家都已经发现Hive后台使用MapReduce作为执行引擎，实在是有点慢。
　　因此SQL On Hadoop的框架越来越多，按我的了解，最常用的按照流行度依次为SparkSQL、Impala和Presto.
　　这三种框架基于半内存或者全内存，提供了SQL接口来快速查询分析Hadoop上的数据。关于三者的比较，请参考1.1.
　　我们目前使用的是SparkSQL，至于为什么用SparkSQL，原因大概有以下吧：
　　使用Spark还做了其他事情，不想引入过多的框架;
　　Impala对内存的需求太大，没有过多资源部署;
　　5.1 关于Spark和SparkSQL
　　什么是Spark，什么是SparkSQL。
　　Spark有的核心概念及名词解释。
　　SparkSQL和Spark是什么关系，SparkSQL和Hive是什么关系。
　　SparkSQL为什么比Hive跑的快。
　　5.2 如何部署和运行SparkSQL
　　Spark有哪些部署模式?
　　如何在Yarn上运行SparkSQL?
　　使用SparkSQL查询Hive中的表。
　　PS: Spark不是一门短时间内就能掌握的技术，因此建议在了解了Spark之后，可以先从SparkSQL入手，循序渐进。
　　第六章：一夫多妻制
　　请不要被这个名字所诱惑。其实我想说的是数据的一次采集、多次消费。
　　在实际业务场景下，特别是对于一些监控日志，想即时的从日志中了解一些指标(关于实时计算，后面章节会有介绍)，这时候，从HDFS上分析就太慢了，尽管是通过Flume采集的，但Flume也不能间隔很短就往HDFS上滚动文件，这样会导致小文件特别多。
　　为了满足数据的一次采集、多次消费的需求，这里要说的便是Kafka。
　　6.1 关于Kafka
　　什么是Kafka?
　　Kafka的核心概念及名词解释。
　　6.2 如何部署和使用Kafka
　　使用单机部署Kafka，并成功运行自带的生产者和消费者例子。
　　使用Java程序自己编写并运行生产者和消费者程序。
　　Flume和Kafka的集成，使用Flume监控日志，并将日志数据实时发送至Kafka。
　　这时，使用Flume采集的数据，不是直接到HDFS上，而是先到Kafka，Kafka中的数据可以由多个消费者同时消费，其中一个消费者，就是将数据同步到HDFS。
　　你应该已经具备以下技能和知识点：
　　为什么Spark比MapReduce快。
　　使用SparkSQL代替Hive，更快的运行SQL。
　　使用Kafka完成数据的一次收集，多次消费架构。
　　自己可以写程序完成Kafka的生产者和消费者。
　　从前面的学习，你已经掌握了大数据平台中的数据采集、数据存储和计算、数据交换等大部分技能，而这其中的每一步，都需要一个任务(程序)来完成，各个任务之间又存在一定的依赖性，比如，必须等数据采集任务成功完成后，数据计算任务才能开始运行。如果一个任务执行失败，需要给开发运维人员发送告警，同时需要提供完整的日志来方便查错。
　　第七章：越来越多的分析任务
　　不仅仅是分析任务，数据采集、数据交换同样是一个个的任务。这些任务中，有的是定时触发，有点则需要依赖其他任务来触发。当平台中有几百上千个任务需要维护和运行时候，仅仅靠crontab远远不够了，这时便需要一个调度监控系统来完成这件事。调度监控系统是整个数据平台的中枢系统，类似于AppMaster，负责分配和监控任务。
　　7.1 Apache Oozie
　　1. Oozie是什么?有哪些功能?
　　2. Oozie可以调度哪些类型的任务(程序)?
　　3. Oozie可以支持哪些任务触发方式?
　　4. 安装配置Oozie。
　　7.2 其他开源的任务调度系统
　　Azkaban：
　　https://azkaban.github.io/
　　light-task-scheduler：
　　https://github.com/ltsopensource/light-task-scheduler
　　Zeus：
　　https://github.com/alibaba/zeus
　　等等&&
　　第八章：我的数据要实时
　　在第六章介绍Kafka的时候提到了一些需要实时指标的业务场景，实时基本可以分为绝对实时和准实时，绝对实时的延迟要求一般在毫秒级，准实时的延迟要求一般在秒、分钟级。对于需要绝对实时的业务场景，用的比较多的是Storm，对于其他准实时的业务场景，可以是Storm，也可以是Spark Streaming。当然，如果可以的话，也可以自己写程序来做。
　　8.1 Storm
　　1. 什么是Storm?有哪些可能的应用场景?
　　2. Storm由哪些核心组件构成，各自担任什么角色?
　　3. Storm的简单安装和部署。
　　4. 自己编写Demo程序，使用Storm完成实时数据流计算。
　　8.2 Spark Streaming
　　1. 什么是Spark Streaming，它和Spark是什么关系?
　　2. Spark Streaming和Storm比较，各有什么优缺点?
　　3. 使用Kafka + Spark Streaming，完成实时计算的Demo程序。
　　至此，你的大数据平台底层架构已经成型了，其中包括了数据采集、数据存储与计算(离线和实时)、数据同步、任务调度与监控这几大模块。接下来是时候考虑如何更好的对外提供数据了。
　　第九章：我的数据要对外
　　通常对外(业务)提供数据访问，大体上包含以下方面：
　　离线：比如，每天将前一天的数据提供到指定的数据源(DB、FILE、FTP)等;离线数据的提供可以采用Sqoop、DataX等离线数据交换工具。
　　实时：比如，在线网站的推荐系统，需要实时从数据平台中获取给用户的推荐数据，这种要求延时非常低(50毫秒以内)。
　　根据延时要求和实时数据的查询需要，可能的方案有：HBase、Redis、MongoDB、ElasticSearch等。
　　OLAP分析：OLAP除了要求底层的数据模型比较规范，另外，对查询的响应速度要求也越来越高，可能的方案有：Impala、Presto、SparkSQL、Kylin。如果你的数据模型比较规模，那么Kylin是最好的选择。
　　即席查询：即席查询的数据比较随意，一般很难建立通用的数据模型，因此可能的方案有：Impala、Presto、SparkSQL。
　　这么多比较成熟的框架和方案，需要结合自己的业务需求及数据平台技术架构，选择合适的。原则只有一个：越简单越稳定的，就是最好的。
　　第十章：逼格高的机器学习
　　关于这块，大讲台老师只是简单介绍一下了。
　　在我们的业务中，遇到的能用机器学习解决的问题大概这么三类：
　　分类问题：包括二分类和多分类，二分类就是解决了预测的问题，就像预测一封邮件是否垃圾邮件;多分类解决的是文本的分类;
　　聚类问题：从用户搜索过的关键词，对用户进行大概的归类。
　　推荐问题：根据用户的历史浏览和点击行为进行相关推荐。
　　大多数行业，使用机器学习解决的，也就是这几类问题。
　　入门学习线路：
　　数学基础;
　　机器学习实战(Machine Learning in Action)，懂Python最好;
　　SparkMlLib提供了一些封装好的算法，以及特征处理、特征选择的方法。当然，你如果想更快掌握大数据，可以了解大讲台主推的大数据培训相关课程，不会让你失望的。
相关新闻 & & &
& (昨 14:47)
& (昨 14:41)
& (昨 14:53)
& (昨 14:45)
　　　同意评论声明
　　　发表
尊重网上道德，遵守中华人民共和国的各项有关法律法规
承担一切因您的行为而直接或间接导致的民事或刑事法律责任
本站管理人员有权保留或删除其管辖留言中的任意内容
本站有权在网站内转载或引用您的评论
参与本评论即表明您已经阅读并接受上述条款怎样进行大数据的入门级学习？ - 知乎<strong class="NumberBoard-itemValue" title="被浏览<strong class="NumberBoard-itemValue" title="7,359分享邀请回答cran.r-project.org/doc/contrib/usingR.pdf），stackoverflow上有tag-R的问题集（），遇到复杂的问题可在上面搜索，总会找到解决方案的。这样一来，用这本书拿来入门学习也问题不大。而且这本书作者写得也比较轻松，紧贴实战。Data analysis and graphics using R：使用R语言做数据分析的入门书。这本书的特点也是紧贴实战，没有过多地讲解统计学理论，所以喜欢通过情境应用来学习的人应该会喜欢这本入门书。而且这本书可读性比较强，也就是说哪怕你手头没电脑写不了代码，有事没事拿出这本书翻一翻，也能读得进去。但如果你先用R来从事实实在在的数据工作，那么上面两本恐怕不够，还需要这些：Modern applied statistics with S：这本书里统计学的理论就讲得比较多了，好处就是你可以用一本书既复习了统计学，又学了R语言。（S/Splus和R的关系就类似于Unix和Linux，所以用S教程学习R，一点问题都没有）Data manipulation with R：这本书实务性很强，它教给你怎么从不同格式的原始数据文件里读取、清洗、转换、整合成高质量的数据。当然和任何一本注重实战的书一样，本书也有丰富的真实数据或模拟数据供你练习。对于真正从事数据处理工作的人来说，这本书的内容非常重要，因为对于任何研究，一项熟练的数据预处理技能可以帮你节省大量的时间和精力。否则，你的研究总是要等待你的数据。R Graphics Cookbook：想用R做可视化，就用这本书吧。150多个recipes，足以帮你应付绝大多数类型的数据。以我现在极业余的可视化操作水平来看，R是最容易做出最漂亮的图表的工具了。An introduction to statistical learning with application in R：这本书算是著名的the element of statistical learning的姊妹篇，后者更注重统计（机器）学习的模型和算法，而前者所涉及的模型和算法原没有后者全面或深入，但却是用R来学习和应用机器学习的很好的入口。A handbook of statistical analysis using R：这本书内容同样非常扎实，很多统计学的学生就是用这本书来学习用R来进行统计建模的。PythonThink Python，Think Stats，Think Bayes：这是Allen B. Downey写的著名的Think X series三大卷。其实是三本精致的小册子，如果想快速地掌握Python在统计方面的操作，好好阅读这三本书，认真做习题，答案链接在书里有。这三本书学通了，就可以上手用Python进行基本的统计建模了。Python For Data Analysis： 作者是pandas的主要开发者，也正是Pandas使Python能够像R一样拥有dataframe的功能，能够处理结构比较复杂的数据。这本书其实analysis讲得不多，说成数据处理应该更合适。掌握了这本书，处理各种糟心的数据就问题不大了。Introduction to Python for Econometrics, Statistics and Data Analysis：这本书第一章就告诉你要安装Numpy, Scipy, Matplotlib, Pandas, IPython等等。然后接下来的十好几章就是逐一介绍这几个库该怎么用。很全面，但读起来比较枯燥，可以用来当工具书。Practical Data Analysis： 这本书挺奇葩，貌似很畅销，但作者把内容安排得东一榔头西一棒子，什么都讲一点，但一个都没讲透。这本书可以作为我们学习数据分析的一个索引，看到哪块内容有意思，就顺着它这个藤去摸更多的瓜。Python Data Visualization Cookbook： 用Python做可视化的教材肯定不少，我看过的也就这一本，觉得还不错。其实这类书差别都不会很大，咬住一本啃下来就是王道。Exploratory Data Analysis 和 Data VisualizationExploratory Data Analysis：John Tukey写于1977年的经典老教材，是这一领域的开山之作。如今EDA已经是统计学里的重要一支，但当时还是有很多人对他的工作不屑一顾。可他爱数据，坚信数据可以以一种出人意料的方式呈现出来。正是他的努力，让数据可视化成为一门无比迷人的技术。但这本书不推荐阅读了，内容略过时。要想完整地了解EDA，推荐下一本：Exploratory Data Analysis with MATLAB：这本书虽然标题带了个MATLAB，但实际上内容几乎没怎么讲MATLAB，只是每讲一个方法的时候就列出对应的MATALB函数。这本书的重要之处在于，这是我读过的讲EDA最系统的一本书，除了对visualization有不输于John Tucky的讲解外，对于高维的数据集，通过怎样的方法才能让我们从中找到潜在的pattern，这本书也做了详尽的讲解。全书所以案例都有对应的MATALB代码，而且还提供了GUI（图形用户界面）。所以这本书学起来还是相当轻松愉悦的。Visualize This：中译本叫“鲜活的数据”，作者是个“超级数据迷”，建立了一个叫的网页展示他的数据可视化作品，这本书告诉你该选择什么样的可视化工具，然后告诉你怎样visualize关系型数据、时间序列、空间数据等，最后你就可以用数据讲故事了。如果你只想感受一下数据可视化是个什么，可以直接点开下面这个链接感受下吧！A tour through the visualization zoo（）Machine Learning & Data Mining这一块就不多说了，不是因为它不重要，而是因为它太太太重要。所以这一部分就推两本书，都是”世界名著“，都比较难读，需要一点点地啃。这两本书拿下，基本就算是登堂入室了。其实作为机器学习的延伸和深化，概率图模型（PGM）和深度学习（deep learning）同样值得研究，特别是后者现在简直火得不得了。但PGM偏难，啃K.Daphne那本大作实在太烧脑，也没必要，而且在数据领域的应用也不算很广。deep learning目前工业界的步子迈得比学术界的大，各个domain的应用如火如荼，但要有公认的好教材问世则还需时日，所以PGM和deep learning这两块就不荐书了。The Element of Statistical Learning：要学机器学习，如果让我只推荐一本书，我就推荐这本巨著。Hastie、Tibshirani、Friedman这三位大牛写书写得太用心了，大厦建得够高够大，结构也非常严谨，而且很有前瞻性，纳入了很多前沿的内容，而不仅仅是一部综述性的教材。（图表也做得非常漂亮，应该是用R语言的ggplot2做的。）这本书注重讲解模型和算法本身，所以需要具备比较扎实的数理基础，啃起这本书来才不会太吃力。事实上掌握模型和算法的原理非常重要。机器学习（统计学习）的库现在已经非常丰富，即使你没有完全搞懂某个模型或算法的原理和过程，只要会用那几个库，机器学习也能做得下去。但你会发现你把数据代进去，效果永远都不好。但是，当你透彻地理解了模型和算法本身，你再调用那几个库的时候，心情是完全不一样的，效果也不一样。Data Mining: Concepts and Techniques, by Jiawei Han and Micheline Kamber 数据挖掘的教材汗牛充栋，之所以推荐这本韩家炜爷爷的，是因为虽然他这本书的出发点是应用，但原理上的内容也一点没有落下，内容非常完整。而且紧跟时代，更新的很快，我看过的是第二版，就已经加进去了social network analysis这种当时的前沿内容。现在已经有第三版了，我还没看过，但应该也加入了不少新内容。其实这本书并不难读，只是篇幅较长，啃起来比较耗时。其实这两本书里单拎出来一块内容可能又是几本书的节奏，比如bayesian方法，再拿出两三本书来讲也不为过，我个人用到的比较多，而且也确实有不少好书。但并非是所有data scientist都要用到，所以这一块就不再细说。还有一些印象比较深刻的书：Big Data Glossary： 主要讲解大数据处理技术及工具，内容涵盖了NoSQL，MapReduce，Storage，Servers，NLP库与工具包，机器学习工具包，数据可视化工具包，数据清洗，序列化指南等等。总之，是一本辞典式的大数据入门指导。Mining of Massive Datasets：这本书是斯坦福大学Web Mining的讲义，里面很多内容与韩家炜的Data Mining那本书重合，但这本书里详细地讲了MapReduce的设计原理，PageRank（Google创业时期的核心排序算法，现在也在不断优化更新）讲解得也比较详细。Developing Analytic Talent： 作者是个从事了十几年数据工作的geek，技术博客写得很有个人风格，写的内容都比较偏门，通常只有具备相关数据处理经验的人能体会出来，丝毫不照顾初学者的感受。比如他会谈到当数据流更新太快时该怎么办，或者MapReduce在什么时候不好用的问题，才不管你懂不懂相关基础原理。所以这本书不太适合初学者阅读。这本书其实是作者的博客文章的集结，用how to become a data scientist的逻辑把他近几年的博客文章串联了起来。Past, Present and Future of Statistical Science：这本书是由COPSS（统计学社主席委员会，由国际各大统计学会的带头人组成）在50周年出版的一本纪念册，里面有50位统计学家每人分别贡献出的一两篇文章，有的回忆了自己当年如何走上统计学这条路，有的探讨了一些统计学的根本问题，有的谈了谈自己在从事的前沿研究，有的则给年轻一代写下了寄语。非常有爱的一本书。其它资料Harvard Data Science：这是H大的Data science在线课，我没有修过，但口碑很好。这门课需要费用8千刀左右，比起华盛顿大学的4千刀的Data science在线课虽贵一倍，但比斯坦福的14千刀要便宜将近一半（而且斯坦福的更偏计算机）。如果想自学，早有好心人分享了slides: （）和homeworks and solutions: （）PyData：PyData是来自各个domain的用Python做数据的人每年举行一次的聚会，期间会有各路牛人举行一些规模不大的seminar或workshop，有好心人已经把video上传到github，有兴趣的去认领吧（）工具R/Python/MATLAB（必备）：如果是做数据分析和模型开发，以我的观察来看，使用这三种工具的最多。R生来就是一个统计学家开发的软件，所做的事也自然围绕统计学展开。MATLAB虽然算不上是个专业的数据分析工具，但因为很多人不是专业做数据的，做数据还是为了自己的domain expertise（特别是科学计算、信号处理等），而MATLAB又是个强大无比的Domain expertise工具，所以很多人也就顺带让MATLAB也承担了数据处理的工作，虽然它有时候显得效率不高。Python虽然不是做数据分析的专业软件，但作为一个面向对象的高级动态语言，其开源的生态使Python拥有无比丰富的库，Numpy, Scipy 实现了矩阵运算/科学计算，相当于实现了MATLAB的功能，Pandas又使Python能够像R一样处理dataframe，scikit-learn又实现了机器学习。SQL（必备）：虽然现在人们都说传统的关系型数据库如Oracle、MySQL越来越无法适应大数据的发展，但对于很多人来说，他们每天都有处理数据的需要，但可能一辈子都没机会接触TB级的数据。不管怎么说，不论是用关系型还是非关系型数据库，SQL语言是必须要掌握的技能，用什么数据库视具体情况而定。MongoDB（可选）：目前最受欢迎的非关系型数据库NoSQL之一，不少人认为MongoDB完全可以取代mySQL。确实MongoDB方便易用，扩展性强，Web2.0时代的必需品。Hadoop/Spark/Storm（可选）: MapReduce是当前最著名也是运用最广泛的分布式计算框架，由Google建立。Hadoop是基于MapReduce的框架建立起来的分布式计算系统，Spark在Map Reduce的基础上利用有向无环图构建了RDD，目的就是为了减少Map和Reduce之间的数据交换次数，所以速度就快了。另一个区别就是，Hadoop用硬盘存储数据，Spark用内存存储数据，Storm只接受实时数据流而不存储数据。Hadoop因为“历史”最为悠久，有不少技术和产品都是基于Hadoop开发的，所以在较长的时间内Hadoop并不会不会被淘汰。而Spark是目前生态最好，最活跃的分布式框架。如果刚刚起步研究分布式计算，可从Spark入手。OpenRefine（可选）：Google开发的一个易于操作的数据清洗工具，可以实现一些基本的清洗功能。Tableau（可选）：一个可交互的数据可视化工具，操作简单，开箱即用。而且图表都设计得非常漂亮。专业版1999美刀，终身使用。媒体和公关方面用得比较多。Gephi（可选）：跟Tableau类似，都是那种可交互的可视化工具，不需要编程基础，生成的图表在美学和设计上也是花了心血的。更擅长复杂网络的可视化。------------------------------------正
完-----------------------------------------除了比较难找到资料给出链接之外，其余都需要各位自己动手了。也请多多支持正版。刚开通了值乎，欢迎来扰。 (二维码自动识别)2.3K69 条评论分享收藏感谢收起99075 条评论分享收藏感谢收起