大数据的分析方法究竟是不是"科学

大数据分析的常用方法~

1.可视化分析
大数据分析的使用者有大数据分析专家，同时还有普通用户，但是他们二者对于大数据分析最基本的要求就是可视化分析，因为可视化分析能够直观的呈现大数据特点，同时能够非常容易被读者所接受，就如同看图说话一样简单明了。
2. 数据挖掘算法
大数据分析的理论核心就是数据挖掘算法，各种数据挖掘的算法基于不同的数据类型和格式才能更加科学的呈现出数据本身具备的特点，也正是因为这些被全世界统计 学家所公认的各种统计方法（可以称之为真理）才能深入数据内部，挖掘出公认的价值。另外一个方面也是因为有这些数据挖掘的算法才能更快速的处理大数据，如 果一个算法得花上好几年才能得出结论，那大数据的价值也就无从说起了。
3. 预测性分析
大数据分析最终要的应用领域之一就是预测性分析，从大数据中挖掘出特点，通过科学的建立模型，之后便可以通过模型带入新的数据，从而预测未来的数据。
4. 语义引擎
非结构化数据的多元化给数据分析带来新的挑战，我们需要一套工具系统的去分析，提炼数据。语义引擎需要设计到有足够的人工智能以足以从数据中主动地提取信息。
5.数据质量和数据管理。 大数据分析离不开数据质量和数据管理，高质量的数据和有效的数据管理，无论是在学术研究还是在商业应用领域，都能够保证分析结果的真实和有价值。
大数据分析的基础就是以上五个方面，当然更加深入大数据分析的话，还有很多很多更加有特点的、更加深入的、更加专业的大数据分析方法。

大数据的技术
数据采集： ETL工具负责将分布的、异构数据源中的数据如关系数据、平面数据文件等抽取到临时中间层后进行清洗、转换、集成，最后加载到数据仓库或数据集市中，成为联机分析处理、数据挖掘的基础。
数据存取： 关系数据库、NOSQL、SQL等。
基础架构： 云存储、分布式文件存储等。
数据处理： 自然语言处理(NLP，Natural Language Processing)是研究人与计算机交互的语言问题的一门学科。处理自然语言的关键是要让计算机”理解”自然语言，所以自然语言处理又叫做自然语言理解也称为计算语言学。一方面它是语言信息处理的一个分支，另一方面它是人工智能的核心课题之一。
统计分析： 假设检验、显著性检验、差异分析、相关分析、T检验、 方差分析 、 卡方分析、偏相关分析、距离分析、回归分析、简单回归分析、多元回归分析、逐步回归、回归预测与残差分析、岭回归、logistic回归分析、曲线估计、 因子分析、聚类分析、主成分分析、因子分析、快速聚类法与聚类法、判别分析、对应分析、多元对应分析（最优尺度分析）、bootstrap技术等等。
数据挖掘： 分类 （Classification）、估计（Estimation）、预测（Prediction）、相关性分组或关联规则（Affinity grouping or association rules）、聚类（Clustering）、描述和可视化、Description and Visualization）、复杂数据类型挖掘(Text, Web ,图形图像，视频，音频等)
模型预测 ：预测模型、机器学习、建模仿真。
结果呈现： 云计算、标签云、关系图等。

大数据的处理
1. 大数据处理之一：采集
大数据的采集是指利用多个数据库来接收发自客户端（Web、App或者传感器形式等）的 数据，并且用户可以通过这些数据库来进行简单的查询和处理工作。比如，电商会使用传统的关系型数据库MySQL和Oracle等来存储每一笔事务数据，除 此之外，Redis和MongoDB这样的NoSQL数据库也常用于数据的采集。
在大数据的采集过程中，其主要特点和挑战是并发数高，因为同时有可能会有成千上万的用户 来进行访问和操作，比如火车票售票网站和淘宝，它们并发的访问量在峰值时达到上百万，所以需要在采集端部署大量数据库才能支撑。并且如何在这些数据库之间 进行负载均衡和分片的确是需要深入的思考和设计。
2. 大数据处理之二：导入/预处理
虽然采集端本身会有很多数据库，但是如果要对这些海量数据进行有效的分析，还是应该将这 些来自前端的数据导入到一个集中的大型分布式数据库，或者分布式存储集群，并且可以在导入基础上做一些简单的清洗和预处理工作。也有一些用户会在导入时使 用来自Twitter的Storm来对数据进行流式计算，来满足部分业务的实时计算需求。
导入与预处理过程的特点和挑战主要是导入的数据量大，每秒钟的导入量经常会达到百兆，甚至千兆级别。
3. 大数据处理之三：统计/分析
统计与分析主要利用分布式数据库，或者分布式计算集群来对存储于其内的海量数据进行普通 的分析和分类汇总等，以满足大多数常见的分析需求，在这方面，一些实时性需求会用到EMC的GreenPlum、Oracle的Exadata，以及基于 MySQL的列式存储Infobright等，而一些批处理，或者基于半结构化数据的需求可以使用Hadoop。
统计与分析这部分的主要特点和挑战是分析涉及的数据量大，其对系统资源，特别是I/O会有极大的占用。
4. 大数据处理之四：挖掘
与前面统计和分析过程不同的是，数据挖掘一般没有什么预先设定好的主题，主要是在现有数 据上面进行基于各种算法的计算，从而起到预测（Predict）的效果，从而实现一些高级别数据分析的需求。比较典型算法有用于聚类的Kmeans、用于 统计学习的SVM和用于分类的NaiveBayes，主要使用的工具有Hadoop的Mahout等。该过程的特点和挑战主要是用于挖掘的算法很复杂，并 且计算涉及的数据量和计算量都很大，常用数据挖掘算法都以单线程为主。

整个大数据处理的普遍流程至少应该满足这四个方面的步骤，才能算得上是一个比较完整的大数据处理。

大数据挖掘分析最重要的能力是什么，同学们给出了五花八门的答案。针对《浅析大数据分析技术》、《大数据分析流程是什么》、《大数据分析十八般工具》、《大数据分析12大就业方向》的分析同学们很感兴趣，但是对大数据分析的方法不甚了解，今天小编重点分析大数据分析方法。在大数据挖掘分析领域中，数据挖掘分析领域最重要的能力是：能够将数据转化为非专业人士也能够清楚理解的有意义的见解，最常用的四种数据分析方法：描述型分析、诊断型分析、预测型分析和指令型分析。

使用一些工具来帮助大家更好的理解数据分析在挖掘数据价值方面的重要性，是十分有必要的。其中的一个工具，叫做四维分析法。简单地来说，分析可被划分为4种关键方法。

一、描述型分析：发生了什么?

这是最常见的分析方法。在业务中，这种方法向大数据分析师提供了重要指标和业务的衡量方法。例如，每月的营收和损失账单。数据分析师可以通过这些账单，获取大量的客户数据。了解客户的地理信息，就是“描述型分析”方法之一。利用可视化工具，能够有效的增强描述型分析所提供的信息。

二、诊断型分析：为什么会发生?

描述性数据分析的下一步就是诊断型数据分析。通过评估描述型数据，诊断分析工具能够让数据分析师深入地分析数据，钻取到数据的核心。良好设计的BI dashboard能够整合：按照时间序列进行数据读入、特征过滤和钻取数据等功能，以便更好的分析数据。

三、预测型分析：可能发生什么?

预测型分析主要用于进行预测。事件未来发生的可能性、预测一个可量化的值，或者是预估事情发生的时间点，这些都可以通过预测模型来完成。预测模型通常会使用各种可变数据来实现预测。数据成员的多样化与预测结果密切相关。在充满不确定性的环境下，预测能够帮助做出更好的决定。预测模型也是很多领域正在使用的重要方法。

四、指令型分析：需要做什么?

数据价值和复杂度分析的下一步就是指令型分析。指令模型基于对“发生了什么”、“为什么会发生”和“可能发生什么”的分析，来帮助用户决定应该采取什么措施。通常情况下，指令型分析不是单独使用的方法，而是前面的所有方法都完成之后，最后需要完成的分析方法。例如，交通规划分析考量了每条路线的距离、每条线路的行驶速度、以及目前的交通管制等方面因素，来帮助选择最好的回家路线。

相关推荐：

《零基础学大数据分析现实吗》、《大数据分析要学什么》、《大数据分析方法》

---

南谯区13695851838： 大数据分析究竟能做什么? ？
初民肝得： 数据分析包括定性分析和定量分析. 大数据分析是定量分析的一部分,包括数据挖掘、机器学习,是通过计算机语言 数学算法 统计理论实现大规模数据收集及分析. 你说的,应该是一个发展历程. 2,3百年前有了统计--然后通过数学、概率发展出高级统计算法--通过计算机发展出大数据分析. 4G网络就是大数据算法实现的,机器翻译也是大数据分析做到的,交通信号安排也是.

南谯区13695851838： 电脑运行慢该如何处理 - ？
初民肝得： 希望对您有所帮助 ;,输入CMD后确认,选择&quot. 10)清除所有spyware(间谍程序),用此盘启动电脑后程序将对内存条运行10项不同的测试;即可. 5)升级主板和显卡的驱动程序,升级BIOS.如果是FAT32,就把它转换成NTFS....

南谯区13695851838： 0x0056a3f6 指令引用的 0x18a672e0内存.该内存不能为 read？
初民肝得： 开始-运行-cmd for %i in (%windir%\system32\*.dll) do regsvr32.exe /s %i 回车 for %i in (%windir%\system32\*.ocx) do regsvr32.exe /s %i (右键-粘贴到cmd运行就可以了) 没好可以远程帮你! 不行的话就重新安装//

南谯区13695851838： 大数据与java有关系吗 - ？
初民肝得： 大数据的浪潮已经席卷了IT界,现今不仅仅是互联网,各种购物、金融等平台越来越重视大数据,那么我们一直在说着的大数据究竟是什么呢?为什么提到大数据的时候会经常提到Java,Java与大数据究竟有什么关系呢?蓝鸥广州Java培训机构告...

南谯区13695851838： java与大数据分析有关系吗?如果有,是什么关系呢?如果没有,那能链接上关系吗? - ？
初民肝得： 众所周知,java在处理数据量比较大的时候,加载到内存必然会导致内存溢出,而在一些数据处理中我们不得不去处理海量数据,在做数据处理中,我们常见的手段是分解,压缩,并行,临时文件等方法; 例如,我们要将数据库(不论是什么数...

南谯区13695851838： 大数据挖掘跟seo有关系吗 - ？
初民肝得： 有关系,根据大数据的数据进行分析以后可以更好的设置相关的seo属性

南谯区13695851838： 什么是amp;quot;数据立方体amp;quot; - ？
初民肝得： 一种基于数据立方体的数据泛化算法[日期:2006-08-21]nbsp;来源:nbsp;nbsp;作者:nbsp;[字体:大nbsp;中nbsp;小]nbsp;nbsp;nbsp;黄建国(合肥幼儿师范nbsp;现代教育技术中心nbsp;nbsp;安徽nbsp;合肥nbsp;230011nbsp;...

南谯区13695851838： 大众途观1.8丅手动档能滑行吗 - ？
初民肝得： 空挡滑行,是手动挡汽车最重要的驾驶乐趣之一.汽车脱离发动机的羁绊,凭着惯性无声的滑行,到了需要加速或减速时再进入相应的档位.我是习惯用空挡滑行的,只要有机会,我就用空挡滑行,但需要说明的是,绝对不是为了省油,我喜欢...

南谯区13695851838： win7怎么提高网速 - ？
初民肝得： 关闭一些启动程序, 开始-运行-msconfig---启动 ,除杀毒软件、输入法外一般的程序都可以关掉,在“性能”栏中;高级”--点＂写入调试信息&quot、禁用错误报告 ＂我的电脑＂--＂属性”--&quot.3;属性&quot,在弹出记事本文件中: [...

南谯区13695851838： 大数据究竟怎么用 - ？
初民肝得： 采集到需要的数据进行具体分析,比如我是做电商的,想了解现在电商的一些信息,然后就用ForeSpider采集过淘宝的商品信息.这个软件还是很好用的,采集的数据也很全面.而且他是可视化操作的,自己操作起来比较简单的.如果采集的网站有点复杂,这软件自带爬虫脚本语言,自己写一些代码,就可以采集所有的公开数据.软件还自带免费的数据库,数据采集直接存入数据库,也可以导出成excel文件.如果自己不想配置,他们公司也可以配置采集模板,我就是直接从前嗅购买的模板.我建议你先可以下载一个免费版试一试,免费版不限制功能,没有到期时间.