文本大数据分析 文本数据分析方法

有备考软考的小伙伴，想积分落户，单位评职称？科目太多不知道怎么选？考试考点难点太多没有头绪？刚准备1个多月过了高级，关注我，我整理了软考各科目的报考条件、适合人群以及备考攻略，可以直接领取：

温馨提示：本文是《数据分析中，文本分析远比数值型分析重要！》的上篇，聊的是文本分析的一些基本知识，下篇将以一个实际案例来聊聊基于大数据的文本分析是如何应用在商业场景中的，将于明天推送，敬请期待~

图片太小看不清的话，点击即可放大~ 

1.我们日常所理解的“数据分析”

在我们日常的产品和运营工作中，经常接触的数据分析方法、形式绝大部分是基于对数字（值）的描述性分析，如销量情况、用户增长情况、留存情况和转化情况等，高级一些的数据分析方法有因子分析、聚类分析和回归分析等方法（见下图）。

常用的数据分析方法/形式

这些分析方法/形式有一个共同点：都是跟数字在打交道，说的专业一点，就是基于对结构性数据（即行数据，存储在数据库里，可以用二维表结构来逻辑表达实现的数据）的分析，比如姓名、性别、年龄这些信息，以Word、Excel等形式呈现的数据。这种类别的数据比较好处理，只要简单的建立一个对应的表就可以了。

典型的结构性数据表格

然而，数据分析仅仅只有这一种类型吗？

答案当然是：NO.

一个完整而清晰的数据分析过程，除了在范围上，要进行宏观和微观的分析外，还需要在分析的层次上有所递进和深入，以下是我们进行数据分析时常会考虑到7个维度。（见下图）。

数据分析的7个维度（来源：《谁说菜鸟不会数据分析（工具篇）》）

在上图中，对数值型数据的分析能覆盖绝大部分的维度，但它更多的是描述事物的表层现象，主要是在事物的“量”上进行描述。也就是说，对数值型数据的分析并不能回答其中最为重要的一个维度---“Why”，但在产品和运营的实际工作中，发掘出用户的喜好、购买/使用及流失的内在原因（也就是洞察用户的行为动机），对我们的工作至关重要，它会直接影响产品的功能设定和运营策略。

这时，对非结构性的文本型数据进行分析呼之欲出。

根据2011年IDC的调查，非结构化数据将占未来十年所创造数据的90%。作为一个尚未得到充分开发的信息源，非结构化数据分析可以揭示之前很难或无法确定的重要相互关系。

所以，我们有必要对非结构性数据引起高度重视！！！

那什么是非结构性数据呢？

2.基于大数据的文本分析

非结构性数据是与结构性数据相对的一个概念，它包括所有格式的办公文档、文本、图片、XML、HTML、各类报表、图像和音频/视频信息等等。

非结构性数据组成部分

本文所提及的非结构性数据特指文本数据，这里包括且不限于社交网络（微博、微信、QQ和脉脉等）、客户反馈（客户抱怨邮件、社交媒体网站的帖子、开放式问卷调查、消费者点评）新闻媒体、销售人员的拜访记录等。

那对文本数据进行分析，我们能得到哪些有价值的线索或洞察呢？

3.基于大数据的文本分析的商业价值

文本数据来源异常广泛且多样，很多时候需要搜索海量的网页。当然，只有基于恒河沙数般体量的大数据文本分析，才可能得出比较可靠、有说服力的商业insight。

“文本分析”，或者“语义分析”是分析海量的非结构性的文本（信息）数据，回答的不仅是“是什么”的描述性分析，更多的回答了“为什么”，即目标用户购买和使用产品的潜在动机/真实需求。

基于大数据的文本分析被广泛应用于各种行业来解决关键的知识性问题，例如从CRM 数据、 社交媒体、 新闻网站和购物网站评论等渠道获取文本数据，再通过计算机自然语言处理，从而揭示出在任何非结构化文本信息中的人物、事件、时间、地点等内容，从而能够提供贯穿所有业务的全新层面的理解。

大数据文本分析提取出的主要维度

举例来说，用户满意度的上升，可以从评论量中好评的增加以及服务评价几颗星来看出，但这只是描述性的分析，并不能知道为什么用户会给好评，产品或服务的哪些方面会得到好评。借助文本/语义分析，我们可以了解到这段时间排名靠前的评论词汇大都是正面的评论，而且可以清楚的看到用户对哪些方面感到满意，这是成功的经验，是需要巩固和加强的地方。反之，用户关于产品/服务反馈较负面的方面是我们需要重点注意和改善的。

简而言之，基于大数据的文本分析能够揭示出潜藏在文本信息当中的趋势和关联，为商业决策、行业趋势研究和热点内容追踪提供有力支持。

4.这些有价值的海量文本数据“藏”在哪里？

社会化媒体时代，用户在购买产品/服务前，或是使用产品/服务之后，会在互联网上表达自己的对产品的疑虑或看法，通过互联网这个平台表达社情民意，体现自身的真实意愿和产品/服务的体验感受等。

以下是用户所产生的海量的、有价值的文本信息“聚集地”：

大数据文本信息的来源

同时，在互联网的产品和运营工作中，我们主要注意如下3类文本信息来源渠道，即社交媒体、电商平台及APP应用市场上的用户对于产品/服务的“发声”。

（1）社交媒体

社交媒体发展日益瞩目，论坛、博客、微博、微信等社交网络接踵而至，它们在悄无声息中改变着我们的生活方式。

在交互性强、容易沉淀价值信息的网络论坛上，网民们可以获得各种信息服务，同时可以发布信息、进行讨论、聊天，用发帖回帖来表达对事件、产品、品牌和企业的看法。

在容易爆发热点话题的微博上，用户除了会主动发布的微博外，还会主动追踪热点事件、喜爱的兴趣频道和明星的微博，转发和评论这些微博。

在具有强关系属性的微信上，用户会对自己关注的公众号发布的内容进行评论和转发，以此来表达自己的观点和情绪…

在这个社会化的媒体时代，用户成为企业最好的品牌推广大使。如何从这些可观的社交媒体数据中分析出用户的潜在且准确的购物意愿及用户需求，将成为提高品牌价值和声誉，改善用户体验的新兴途径。

这就需要互联网从业者们加强社交媒体的监测功能，综合利用高级分析能力，发掘为消费者创造惊喜的良机。比如，新浪微博上粉丝过万的零售商，可以根据用户发表的微博、所参与的微话题和签到地点，为用户个性化的去推送优惠及新品信息。因为这些看似庞大无规则的社交数据，往往包含着大量的用户基本信息和兴趣标签，进而绘制出潜在的用户画像。

（2）电子商务平台

电子商务网站上的海量的用户言论数据隐含着巨大的信息，这些网站包括且不限于淘宝网、京东商城、亚马逊和大众点评网等主流购物、服务平台。

例如，亚马逊上的用户对某商品的评论，商家可以根据用户的评论和反馈为用户提供定制性的服务，甚至可以预测用户的需求，从而达到更加准确的销售目的。

（3）其他第三方应用市场

移动互联网时代诞生了的APP，这些APP除了“挂”在自家的官方网站以外，更多的是分布于第三方应用市场（如苹果商店、91助手、豌豆荚、小米应用市场、百度手机助手等），这时收集用户的大量吐槽对于改善APP的用户体验至关重要。通过对用户大量评论的文本分析，我们可以第一时间了解到产品的哪些方面是用户喜欢的，哪些方面是用户比较嫌弃的，哪些是无关痛痒的“伪需求”，力求在短时间内改善产品的功能与设计。

综上所述，相关文本数据的来源多样，而且覆盖了非常广泛的话题。任何和产品/服务相关的陈述和评论本质上都是有用的信息，因为这些陈述可以让产品/品牌所有者了解用户的最真实的想法。

5.大数据文本分析的一些应用场景

以上说的是大数据文本分析的一些原理、数据来源及其商业价值，现在笔者就从以下5点来谈谈它的实际应用场景。

（1）开放式作答处理

大量问卷调研中的开放式问题的处理，这些开放式的问题以电子文档的形式进行存储，使计算机进行文本分析成为可能，可以在短时间内从数以万计的作答中提取出有价值的分析维度，获得对（潜在）用户的需求的洞察。

从近万份某3.15开放式问答题中提炼出的焦点话题

（2）内容运营优化

捕捉优秀作者的写作风格

对于一些初入新媒体运营岗位的小伙伴来说，研究和模仿某些知名自媒体作者的写作风格很有必要，学习他们的写作手法和套路可以使我们的文案写作进步神速。

要想对这些优秀作者的行文风格进行深入研究，除了熟悉他们的行文脉络和篇章结构，更要熟稔其遣词造句上的套路（包括措辞特点、常用关键词和情感倾向等），在模仿中逐步形成自己的写作风格。

如下图，对咪蒙10几篇具有代表性的文章进行文本分析，从如下各种属性的关键词，再结合对咪蒙作品的一定了解，可以得出这样的结论：咪蒙的文章里经常进行宣泄负面情绪，把粉丝心中想说却不敢说的话酣畅淋漓的表达了出来，使万千粉丝感同身受，被其感染；另一方面，她身边的人常是被吐槽和分析的对象。。。

对咪蒙10几篇具有代表性文章进行文本分析

新媒体热点采集、追踪及预测

基于大数据的文本分析能快速获取全网具有趋势传播的关键词，可以实时监测传播趋势（包括全面研究阅读数、评论数、分享量、传播趋势），并且通过分析内容属性和成功原因，预测内容在未来的传播潜力。

能够娴熟使用大数据的媒体人在未来的媒体行业才有立足之地，就如热巢网CEO穆青所强调的：

在未来的媒体竞争中，媒体人需要转型变成“内容+技术”的复合型人才，一方面发挥自己在内容创作中的人性的独立判断和分析，另一方面需要借助大数据分析技术提升文章的传播效果。

（3）口碑管理

基于大数据的文本分析能快速准确的识别出企业/品牌/产品自身及竞争对手在互联网上的口碑变化，深度挖掘文本数据价值，在消费者洞察、产品研发、运营管理、市场营销、品牌战略方面，为管理决策提供科学依据。

某餐饮品牌的口碑管理

（4）舆情监测及分析

利用基于大数据的文本分析，我们可以清晰的知晓事件从始发到发酵期、发展期、高涨期、回落期和反馈期等阶段的演变过程，分析舆情的传播路径、传播节点、发展态势和受众反馈等情报。

对沪文化广播影视管理局的舆情监测

（5）了解用户反馈

通过基于大数据的文本分析，企业可以用正确的方式阅读用户散落在网络上的“声音”，企业可以直接读懂自己用户的想法，挖掘出用户对于产品/服务的情绪和态度。比如，大数据文本分析可以回答如下问题：

用户喜欢的是它产品的哪一方面？比起其他公司的产品来，客户是否更倾向他的产品？这些偏好会随着时间发展和变化吗？

本文偏向于科普大数据文本分析的基本知识，下一篇将用一个生动的案例来说明，大数据文本分析是如何在互联网商业实践中体现其巨大商业价值的。

有备考软考的小伙伴，想积分落户，单位评职称？科目太多不知道怎么选？考试考点难点太多没有头绪？刚准备1个多月过了高级，关注我，我整理了软考各科目的报考条件、适合人群以及备考攻略，可以直接领取：

网址：文本大数据分析 文本数据分析方法 https://mxgxt.com/news/view/254862

相关内容

数据分析和数据挖掘基本思路及手法
数据分析的方法论
网络社交平台数据的分析方法
数据分析（7）路径挖掘分析法 & 行为序列分析法
追星文化的数据分析怎么写
大数据电影分析：数据可视化的力量
大数据的舆情分析
虚拟服装大数据分析
社交网络数据分析
新媒体数据分析与应用 课件 第 8 章 微博数据分析.pptx

随便看看