关于大数据的陷阱!小心!

作者: leo 分类: 案例分析 发布时间: 2015-10-16 09:02 ė16次查看 6没有评论

很多人都认为现在的时代是数据的时代,关于大数据,大家炒作得更多的是机遇、威力,比方说越来越多人利用 Google 的大数据来研究趋势,辅助分析决策,但是医微达从另一个角度分享了一个很好的思考:大数据也可能是 “大忽悠”!如何预防大数据忽悠?且看医微达的分析。

而最近对 Google Flu Trends(流感趋势)的一些研究正好佐证了这一点。

p230344171-1

说到 Google Flu Trends,医微达必须先提一提 Google Trends 和 Google Correlate。Google Trends 利用对用户搜索的大数据分析来获得人类某些活动的趋势,只要在 Google Trends 上输入某些查询关键字即可返回相关活动的数据序列。而 Google Correlate 则是输入数据序列可返回一组结果呈类似模式(相关性)的查询,有点类似于 Google Trends 的反函数。

Google Flu Trends 是 Google Trends 最早也是最知名的应用之一。鉴于很多人患流感是往往会上 Google 查询了解疾病情况和用药,因此 Google 发现这种查询与流感爆发存在着某种相关关系。Google Trends 曾经有过多次对流感的成功预测,包括 2011/12年 的美国流感、2007/08年 瑞士流感、2005/06年 德国流感、2007/08 比利时流感等,其及时性甚至要比美国疾病预防控制中心还要高。

这显示出了搜索 “流感” 与流感爆发的相关性。

另一个例子是 “宿醉”。比方说在 Google Trends 输入 “hangover(宿醉)”,你会发现这种情况在周六开始冒头,然后周日到达巅峰,而到了周一则急剧下降。这种模式与输入 “伏特加” 的查询结果类似(滞后一天)。

但是数据越大未必就能带来更高的预测率。甚至还会带来 “假规律” 和 “伪相关”。医微达曾见过,搜索 2004 至 2012年 间的美国汽车销售与 “印度餐馆”,结果发现二者之间竟然存在相关关系。这个东西显然是无法解释的。

伪相关的原因是什么呢?

首先,相关性并不意味着因果关系。比方说,Google Flu Trends 对趋势的预测并非屡试不爽。有几次 Google Trends 就严重高估了流感病例的数量,包括 2011/12 的美国流感,2008/09 瑞士流感,2008/09 德国流感、2008/09 比利时流感等。

英国伦敦大学学院的研究人员对此进行了研究。结果发现,到 Google 搜索 “流感” 的人可以分成两类,一类是感冒患者,一类是跟风搜索者(可能是因为媒体报道而对感冒话题感兴趣者)。

显然第一类人的数据才是有用的。其搜索是内部产生的,独立于外界的。因此这些人的搜索模式应该与受到外界影响而进行搜索的人的模式不同。而正是第二类人的社会化搜索使得 Google Flu Trends 的预测失真。这正是因为 Google Flu Trends 把搜索 “流感” 与得流感的相关性当成了因果关系所致。

071544xvraaaz4rdrviz4w

而稍早前美国东北大学与哈佛大学的研究人员对 Google Flu Trends 的失真案例进行的另一组研究则认为,这反映出了热炒大数据的氛围下诞生的一股大数据自大思潮。这股思潮认为,大数据完全可以取代传统的数据收集方法。但是医微达认为其最大问题在于,绝大多数大数据与经过严谨科学试验和采样设计得到的数据之间存在很大的不同。首先,大未必全;其次,大则可能鱼龙混杂。

此外,Google搜索算法本身的变化也有可能影响到 Google Flu Trends 的结果。这个原因不难理解。医微达知道,Google 搜索的调整非常频繁,单去年就进行了 890 项改进。其中就有不少属于算法的调整。媒体对于流感流行的报道会增加与流感相关的词汇的搜索次数,也会令 Google 增加相关搜索的推荐。从而令一些本身并不感冒的人也对流感产生了兴趣,进而把数据弄脏。

201004221529516549

如何清洗数据呢?归根到底还是需要对数据进行模式分析。在流感趋势这个例子,研究人员认为,执行独立搜索的患流感人群的模式会随着时间推移而异于社会化搜索。其表现应该是在流感爆发时搜索急剧攀升,然后随着流感消失而缓慢下降。相反,社会化搜索则会表现得更为匀称。数据表明,在 Google 流感趋势出现高估的时候,趋势曲线的对称性的确更高。

医微达表示在分析大数据时必须要注意此类陷阱。充斥的大数据集以及统计学家对分析结果的传播会令真实的数据被放大或弄脏。

正如《The Parable of Google Flu: Traps in Big Data Analysis》的作者所认为那样,数据的价值并不仅仅体现在其 “大小” 上。利用创新性数据分析方法去分析数据才是本质。

当然,在未来数据能够逐步成为真正的大数据,并且数字世界与实体世界的映射趋于一致时,大数据也许就能发挥其完全的威力,乃至于改变我们解决问题的方式。医微达希望你们都能正确的认识到大数据的好与不好,正确的利用他们。

0

本文永久链接: http://www.e-weida.com/16445.html

发表评论

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>

微信二维码
全国分支机构
  • 电话:400-888-9746
  • 邮箱:医微达邮箱地址
  • 网址:www.e-wangbao.com
  • QQ:2021627922
  • 青岛总部地址:青岛市北区开封路88号百洋科技园6楼
  • 上海地址:上海长宁区长宁路1027号3308室
  • 北京地址:北京市东城区东长安街1号东方广场E1-21层

医微达攻略 |  微营销分享 |  案例分享 |  服务资费 |  了解医微达 |  友情链接