大数据的挖掘“大”在哪里?
来源：曾剑平|
类型：网站百科|
时间：2017-12-11
以前我们谈论数据挖掘，而大数据时代我们谈论大数据挖掘。那么大数据挖掘“大”在哪里? 本文对此进行了一些归纳，希望能提供一些思考问题的方法。
不足之处请留言发表意见。
一、数据量的大
数据量大到多少? 这是一个很多人在进行大数据挖掘时要问的问题。
从一些实际应用看，一般每天处理的数据量达到T、P级别的，可以考虑部署Hadoop、Spark之类的大数据处理平台，一定量级的数据处理才能突显这些平台的优越性。
数据量少，数据的读取、搬迁所花费的时间占比太多，反而无法体现大数据处理平台的优势。不少应用只是为了大数据而大数据，几百M也弄个Hadoop。因此，现在一谈大数据就认为是Hadoop、Spark等平台是很有局限性的。
当然，实际在决定是否使用大数据平台时，可能需要考虑更多的因素，例如：要集成很多的低性能机器、异构软硬件平台间的可移植性、大量的非结构化数据处理等。
二、数据类型的多样化
在数据挖掘时代，我们挖掘的数据主要以关系型数据为主。大数据时代，各种应用产生了各种数据，通常在大数据挖掘中会涉及到多种数据类型。这里所说的数据类型不是程序设计中的普通数据类型，而是更接近于应用的数据表现形式，通常有时间序列数据、轨迹数据、图数据、文本数据等等。
每天的销售记录、价格是普通数据类型，但是从时间维度将它们按照顺序连接起来，构成的时间序列数据能体现出价格的变化规律，理所当然具有更丰富的含义。
每个人所处的位置不过是一个（x,y）的普通数据类型，但是按照移动的先后顺序把位置连接起来，就构成了某人的活动轨迹，背后体现的是他的生活、习惯，这些隐藏信息才是大数据应当关注的。
微博或论坛中每个人是独立存在的，也是普通数据，但是如果把每个人按照粉丝、关注等关系连接起来，就可以构成一张很大的图，即图数据。图中的人群、离群，以及加上群体偏好、群体运动等属性后的高等图数据，就是大数据挖掘的关注点。
三、数据处理的噪音
在数据挖掘时代，数据来源于关系型数据库，都是一些与业务相关、质量比较高的数据，一般拿来就可以直接挖。大数据挖掘肯定就不是这样，大数据思维决定了我们要考虑不同来源的数据的质量、数据结构鱼龙混杂，以增强数据处理的鲁棒性。比如，要进行企业级的客户分析，不同的分公司可能使用不同的客户管理系统，有的系统采用本科/硕士/博士来区分客户的学历，而有的采用本科/研究生来区分，这就要求考虑数据的一致性处理。此外，数据格式、数据完整性等等都是大数据挖掘需要考虑的。
四、数据挖掘的多样化
在数据挖掘时代，一般侧重于单项的数据分析，而大数据挖据可能会更侧重于多项数据挖掘任务同时存在，如业务上同时要求分类、预测、相关性、聚类等。尽管业务需求多了，但是这些分类、预测、相关性、聚类可能在底层上采用的是同一种模型，因此，在大数据挖据时考虑模型、算法与业务的分离是非常重要的，即所谓的大数据处理层次结构。
来源声明：本文章系尚品中国编辑原创或采编整理，如需转载请注明来自尚品中国。以上内容部分(包含图片、文字)来源于网络，如有侵权，请及时与本站联系（010-60259772）。
TAG标签：
推荐新闻
更多行业-
天津网站建设提醒您不利于网站优化的几种常见做法
网站建设，积累了一些网站优化方面的知识。现在我们总结一下网站优化中的弊...
2021-07-29 -
如何尽善尽美的做好页面标题优化
那就是标题标签seo方面是个很重要的因素，综上分析我也能得到一定的结论...
2012-07-06 -
论高端网站设计中的美学知识
每一个好的网站设计都应该是一件不可多得的艺术品，艺术品比如书法、绘画、...
2022-07-06 -
品牌网站设计：提供创意设计和完善功能
当涉及到展示独特品牌和吸引力产品时，创意设计和完善功能确实是关键因素。...
2023-12-07 -
网站建设中如何利用百度引流？
百度是全球最大的中文查找引擎,悉数人都有一个共性，哪就是”...
2019-07-30 -
外贸网站建设必须要做好哪些工作？
在之前的网站设计发表的文章中，提到了客户也要懂得网站建设的常识，因为在...
2020-11-18
如果您的网站可以增加转化次数并提高客户满意度，该怎么办？
预约专业咨询顾问沟通！
Copyright © 2024 恒久尚品 版权所有 | 京ICP备09066521号
| 公安机关备案号:11011502003910
免责声明
诚信企业
尚品专注高端网站建设，系统平台开发，微信小程序及APP开发服务
尚品专注高端网站建设，系统平台开发，微信小程序及APP开发服务
免责声明
非常感谢您访问我们的网站。在您使用本网站之前，请您仔细阅读本声明的所有条款。
1、本站部分内容来源自网络，涉及到的部分文章和图片版权属于原作者，本站转载仅供大家学习和交流，切勿用于任何商业活动。
2、本站不承担用户因使用这些资源对自己和他人造成任何形式的损失或伤害。
3、本声明未涉及的问题参见国家有关法律法规，当本声明与国家法律法规冲突时，以国家法律法规为准。
4、如果侵害了您的合法权益，请您及时与我们,我们会在第一时间删除相关内容!
联系方式：010-60259772
电子邮件：394588593@qq.com
