登陆注册
49122600000001

第1章 前言

什么是大数据

最早提出“大数据”时代来临的是全球知名的咨询公司麦肯锡。麦肯锡公司称:“数据已经渗透到每一个行业和业务领域,成为重要的组成部分之一。人们对于海量数据的挖掘和运用,预示着新一波生产率增长和消费者盈余浪潮的到来。”

2008年9月,《自然》杂志推出了封面专栏—“大数据”,内容讲述了数据在生物、物理、工程、数学及社会经济等多方面学科所占据的位置和角色的重要性。

如今,“大数据”这个词汇俨然成了工商界和金融界的新宠。在哈佛大学担任社会学教授的加里·金说:“这是一场革命,庞大的数据资源使得各个领域开始了量化进程。无论学术界、商界还是政府,所有领域都将开始这种进程。”

说到这里,还是有人对“大数据”不明所以:到底什么是大数据?

“大数据”是从英语“Big Data”一词翻译而来的。“大数据”这一概念在近几年逐渐被人们所熟知,并为全球各大企业所重视。简单来说,“大数据”是一种巨量资料库,可以在合理时间内达到撷取、管理、处理并整理为帮助公司、企业经营和决策的资讯信息。

随着云时代的悄然到来,“大数据”渐渐得到了越来越多的企业关注。后来,业界将“大数据”概括成四个V,即大量化(Volume)、多样化(Variety)、快速化(Velocity)和价值化(Value)。

大数据不仅是量大而已

“大数据”的量到底有多大?根据2012年3月的一份调查结果显示:在短短的一天之内,互联网产生的资料内容可以刻满1.68亿张DVD;发出的社区帖子高达200万个,相当于《时代》杂志770年的文字数量;发出的邮件高达2940亿封,相当于美国两年的纸质信件数量;卖出的手机为37.8万台,高于全世界每天出生的婴儿数量37.1万……

截止到2012年,数据量已经从TB级别跃升到PB、EB乃至ZB级别。(1024GB=1TB,1024TB=1PB,1024PB=1EB,1024EB=1ZB)。国际数据公司(IDC)经过详细的调查研究,得出一个结论:2008年,全球产生的数据量为0.49ZB;2009年的数据量为0.8ZB;2010年的数据量为1.2ZB;2011年的数据量更是持续增长,竟高达1.82ZB。这个数据量,相当于全世界的每个人产生200GB以上的数据。可见,大数据的信息量有多大。

IBM公司称,截止到2013年10月,全世界所获得的数据中,有90%都是过去两年内产生的。预计到2020年时,全世界所产生的数据规模将达到今天的44倍。

当然了,“大数据”不仅是量大而已,它还具有多样化、快速化、价值化等优势。

多样化:数据的类型繁多。这种特质也让数据被分为两部分—结构化数据和非结构化数据。相对于以往那些以文本为主的结构化数据,非结构化数据越来越多,包括日志、图片、音频、视频、地理位置信息等。

快速化:处理的速度快。这是大数据区分于传统数据挖掘的最明显的特征。根据IDC的一份名为“数字宇宙”的报告,预计到2020年,全世界的数据使用量将高达35.2ZB。在如此浩瀚的数据面前,处理数据的效率快慢决定了企业生命的长短。

价值化:价值密度低。价值密度的高低与数据总量的大小成反比。

我们来举个例子:一部时长为一小时的视频,在持续不间断的监控中,有用的数据仅仅有那么一两秒而已。因此,如何通过强大的计算方式迅速地完成数据的价值“精纯度”,已成为目前“大数据”背景下需要解决的难题。

大数据—潜藏的金库

随着技术的革新,我们已经踏进大数据时代,而数据背后潜藏着巨大的商业机会,值得我们去挖掘。

根据技术研究机构IDC的研究结果可知,近年来,大量的新数据无孔不入,它们以每年50%的速度在增长。或者说,它们每两年就要翻一番,完全超出人们的预料。

事实上,我们生活的方方面面,都会因大数据的存在而发生变化。如消费习惯、兴趣爱好、人际关系,以及整个互联网的走向与潮流等,都将成为IT行业所关注的重点。当然了,这一切的获取和分析都与大数据息息相关。

我们不能说数据的圈子越来越大,而是全新的圈子越来越多。比如,全世界有数不清的数字传感器依附在汽车、工业设备、电表和板条箱上,它们能准确地掌握方位、温度、湿度、运动、振动,以及大气中的化学变化。

从一方面来说,大众媒体基础上的大数据挖掘和分析,将衍生出令人意想不到的应用;从另一方面来说,基于数据分析的营销和咨询服务也正在崛起。这些专注于数据挖掘和数据服务的公司,将成为IT行业乃至互联网服务业中的新兴力量。

以往,只有像谷歌、微软这样的全球化公司能做关于大数据的深挖和分析。但现在,大数据偏向平民化,让越来越多的IT公司有机会进入这个领域。也因此,大数据领域有了不同的数据分析和服务,促使人们不断地创新商业模式。比如在一分钟内,用户就会在Facebook(脸谱网)上发布近70万条信息;在一分钟内,用户会在Flicker(雅虎旗下图片分享网站)上传3125张照片;在一分钟内,用户就会在YouTube(世界上最大的视频网站)上点击200万次观赏……

铁一般的事实告诉互联网从业人员,这些庞大数字意味着一种全新的致富手段。可以说,它的价值不可估量。

虽然在目前来说,大数据在中国还处于初级阶段,但是它的商业价值已经告诉人们—凡是掌握大数据的公司,就相当于站在“金库的门口”。基于数据交易产生的经济效益和创新商业模式的诞生,能帮助企业进行内部数据挖掘,以便更准确地找到潜在客户,从而降低营销成本,提高企业的销售利润。

百分点信息科技的联合创始人苏萌曾说过:“未来,数据可能成为最大的交易商品。但数据量大并不能算是大数据,大数据的特征是数据量大、数据种类多、非标准化数据的价值最大化。因此,大数据的价值是通过数据共享、交叉复用后获取的最大的数据价值。”在他看来,未来,大数据将会如基础设施一样,有数据提供方、管理者、监管者,数据的交叉复用将大数据变成一大产业。

据一项统计结果显示:截止到2012年10月,大数据所形成的市场规模在51亿美元左右。到了2017年,此数据预计会上涨到530亿美元。

由此,可见“大数据”的价值所在。

改变思维模式,用数据说话

近几年,“大数据”变成了香饽饽,成为各大企业、公司、媒体甚至是学者都津津乐道的东西。他们有着不同的见解和理论,唯一相同的观点就是—大数据时代对人类有着至关重要的影响,甚至即将成为改变未来社会的重要力量。

然而,大数据究竟改变了什么呢?在人们的脑中,这个问题仍然是一个乱糟糟的毛线团,想要找到毛线的一头,却又不知道从哪里入手。

在“第五届中国云计算大会”的第二天,中国电子学会云计算专家委员会候任主任委员、中国科学院院士怀进鹏发表了一篇演讲,题为《大数据及大数据的科学与技术问题》。在演讲中,他表示:“大数据的发展可能会改变经济和社会生活,可能会改变科学研究的途径,甚而改变人类的思维方式。”

我们可以来举一个简单的例子:

苹果公司创始人史蒂夫·乔布斯在罹患癌症后,不惜花费巨额抽取了全身的DNA信息。这样一来,医生就可以根据他全身的DNA信息来判断癌细胞的变化,从而对症下药。然而,对于普通的患者来说,是拿不出巨额钱款来做这种抽取检测的。换句话说,医生只能从普通患者身上提取很小的一部分DNA信息。两者的治疗效果有多大差异,可想而知。

对此,或许你还有疑问,大数据真的能获得最全面的信息,能够找到信息的源头和结果吗?

我们再来举个简单的例子:

如果你上淘宝,登录支付宝账户,点开电子对账单,你是不是能够看到自己一年的消费曲线图?是不是能够看到每个月的支出和收入?是不是能够看到自己的钱花到哪里去了?是不是比拿笔记账清晰和准确得多?根据网络购物的数据中,你还会发现:哪个城市的男人比女人购买的东西还要多;哪个城市的人用支付宝缴纳水电费的频率最高;什么星座的男性或女性在某年的消费额最高;在一年里,在父母或亲友身上花费了多少;节假日时,什么东西最畅销……

这样庞大的数据分析,在过去单一的小数据时代根本无法做到,甚至想都想不到。大数据专家维克托·迈尔-舍恩伯格在《大数据时代》中是这样解释的:云计算在获取海量数据的同时,也带来了数据的混杂性,这会给传统的数据分析带来一些困扰。在以往,我们习惯于由数据得出具体结果。而在大数据时代,我们应当关注的是数据之间的相关关系,而不是数据之间的因果关系。

数据之间的相关关系可以帮助我们捕捉现在的线索和预测未来。如A和B的情况经常一起发生,那么只要注意到B情况发生,就能预测A的情况是怎么样的。这种“A和B”的关系在零售行业和IT行业中已被广泛运用。7-11便利店通过分析零售终端的数据,得出了这样的一个相关关系—温度低于15摄氏度,暖宝宝的销售量便增加5%。于是,只要温度低于这一度数,7-11便利店内的暖宝宝就会上架;豆瓣电台会推荐一些你可能会喜欢的音乐;当你在当当网买某本书后,系统就会提醒你—购买这本书的人中,有30%也购买了另外一本书……

这些结论或预测,都是基于大数据分析而来的。当然了,大数据也为我们带来了另一种生活方式,那就是还有更多的事物都可以数据化。通过对关键词的分析和搜索,我们可以看到购物的习惯被数据化、人际关系被数据化、社会热点和考试重点的走向也被数据化。这些数据可以导出商业潜能,更能导出社会走向。

阿里巴巴创始人马云敏锐地捕捉到大数据的巨大潜能。在2012年,他提出大数据战略,通过资源共享与数据互通创造商业价值。在每年一度的“双十一”销售热潮中,阿里巴巴以云计算为基础的数据服务,对数以亿万计的消费者需求信息进行详细地捕捉,并帮助电商随时调整销售决策。

的确,大数据的出现,不仅改变了人们的思维方式,还让更多的企业和社会决策有足够的力量和依据—以数据说话。

同类推荐
  • 团队精神

    团队精神

    有句古话叫“三个臭皮匠,能胜诸葛亮”。然而,三个臭皮匠到底凭什么能够取胜足智多谋的诸葛亮呢?难道仅仅是由于臭皮匠的人数多吗?我想肯定不是,因为人多并不一定力量大。其实,只要我们认真地去探究其原因,就会明白三个臭皮匠能胜过诸葛亮,主要是因为他们的相互协作和共同努力。
  • 销售就是提问

    销售就是提问

    有这样一个关于“提问引导”的实验:让人们观看关于一场车祸的幻灯片。其中一张幻灯片里有一辆红色的达特桑(Datsun,一种小型跑车)在一个黄色的让行牌旁。然后有人被试问:“你有没有看见别的车经过停车牌旁边的达特桑?”结果,大部分人都记成了达特桑旁有一个停车牌.而不是让行牌。研究人员的口头信息、词汇以及问题改变了人们对于所见的记忆。
  • 与领导干部谈领导心理

    与领导干部谈领导心理

    本书共分七辑,分别介绍了领导者的个性心理、领导者的交往心理、领导决策心理、领导用人心理、领导激励心理、领导群体心理、领导者的心理调适等内容。
  • 现代全面预算管理

    现代全面预算管理

    本书的基本框架和内容是针对当前企业预算管理中存在的问题,基于预算管理的新理念、新理论、新模式、新方法,围绕企业在预算管理中亟待解决的问题而编写的。体现了如下特点:1 全面性与系统性。本书涵盖了企业预算管理的几乎所有方面,包括理论体系、指标体系、组织体系、责任体系、监控体系、方法体系、考评体系等,并合理安排章节结构框架以及其内容,重点明确,详略得当。2 现代性与前瞻性。本书侧重于对现代企业预算管理前沿理论、模式与方法的研究与介绍。除系统论述了通行的预算编制方法和管理控制方法外,更着眼于吸收近年来企业预算管理控制理论、方法方面的最新研究、实践成果。
  • 激励不用钱

    激励不用钱

    心理学强调,人的需求是多层次的,物质的需求属于最低层次的需求,所以简单的金钱激励一定是最愚蠢、效果最差的激励方式——也许有些人拿高薪就有干劲,但他们绝对不是企业的中坚力量!本书提倡非金钱的激励方式,从不同的角度阐释了非物质激励的方法,结合大量发生在知名企业里的真实案例,既有完善员工激励制度的方法指导,又有激励员工的技巧展现,相信不同层级的管理者都能从中受到启发。
热门推荐
  • 主宰天下——绝杀倾城

    主宰天下——绝杀倾城

    前世的无敌女杀手,因队友的背叛,穿越到以武者为尊的大陆,先天废物,一丝灵力都没有?却不知是绝世天才。绝世丑女,让人见了作呕,却不知是倾国倾城的美女。灵宠,灵气,绝世美男,不是样样收入囊中。看她宫楠冰情如何主宰天下,笑傲江湖。
  • 宠妻上天:聋女重生记

    宠妻上天:聋女重生记

    什么?我怀着孩子你跟我妹妹在阁楼乱搞?什么?我之所以会变聋是因为我爹?我是造了什么孽才受这个罪?好在天怜佑我,再给我一次机会,你们准备好迎接我了吗?
  • 我是宇宙漏洞

    我是宇宙漏洞

    为了看热闹,王空宇和宇宙唯一的漏洞融为一体,然后游戏人生,赏世间变化,超脱宇宙,亘古不灭。
  • 超然成神

    超然成神

    在皓月大陆,武者炼体、术者炼气,先天境界是每一位修炼者的终极目标,殊不知人法地、地法天、天法道、道法自然……而先天境界在那浩瀚无垠的强者世界中,只不过是沧海一粟,掀不起半点涟漪,待看主角如何逐鹿群雄,问鼎超然成神之路。
  • 洗天戒

    洗天戒

    灵石灵纹这一切隐藏着什么一王人界二闯地狱三度天界看人界草根如何争霸三界
  • 月落樱城

    月落樱城

    当她还只是一个普通的人类时便爱急了樱花,爱它温润且冷冽的花香;爱她温暖且淡然的颜色;爱它平和且疏远的气质。她以为是她选中了樱花,却从为想过自己是为守护这美丽且娇弱的花朵而生。如果我找到了我的使命,那么我会怎样,会不会去樱花般绽放在春日。片段:“妹妹,你一定要早点回来!”林叶“樱月,你就听一听王子的话吧!如果你还要我这个朋友,那你就快一点从他带给你的阴影中走出来。”蓝菲“别怕。我会一直守护你,无论发生什么我都会在你身边,就算你不承认我们之间的关系。”百合樱恒“只要是你要的,我有的,我都给你。”北风呼“樱月,花开了。你怎么还不回来。”千凌?蓝月天“我就算背叛全世界都不会背叛你。”紫渊
  • 天降布洛尼亚什么鬼

    天降布洛尼亚什么鬼

    夜悠:这一切的一切都要从一只蝙蝠说起……
  • 超神学院之旧文明

    超神学院之旧文明

    三万年前虚空造成了神河文明的毁灭,神武文明的销声匿迹。三万年后‘神武王’阿瑞斯带领超神宇宙征服虚空。第一阶段:神武文明独步宇宙,阿瑞斯喜提三王;恐惧降临,神河毁灭,神武隐世。第二阶段:宇宙争霸,多方实力层出不穷,阿瑞斯横叉一脚,宇宙重新洗牌。第三阶段:宇宙的奥秘即将揭开,敬请期待!ps:我是看书两年半的新人作者,求支持!
  • 食鬼神君在都市

    食鬼神君在都市

    【本书已经升级为《我与总裁老婆捉鬼的日子》】老道宽衣解带,跳入一具女尸棺材,一番震动和低吼之后,老道印堂发黑爬出棺材,棺材内传来女人尖叫老道拍了拍身旁少年:“爷爷老了该你接班了,先下山历练半年吧,记住你是玲珑神族后裔。”天啦!山下校花、空姐、警花、美女总裁、丝袜老师都被鬼上身了夜小枪毫不犹豫扒开衣服,大吼一声,“放开那个女孩,要上上我!老子肚子正饿着呢。”
  • 邪神boss的旅途

    邪神boss的旅途

    这是一个疯狂的世界,死亡与机遇无人能测。