LDA主题模型简介及Python实现

一、LDA主题模型简介 LDA主题模型主要用于推测文档的主题分布,可以将文档集中每篇文档的主题以…

一、LDA主题模型简介

LDA主题模型主要用于推测文档的主题分布,可以将文档集中每篇文档的主题以概率分布的形式给出根据主题进行主题聚类或文本分类。

LDA主题模型不关心文档中单词的顺序,通常使用词袋特征(bag-of-word feature)来代表文档。词袋模型介绍可以参考这篇文章:文本向量化表示——词袋模型 – 知乎

了解LDA模型,我们需要先了解LDA的生成模型,LDA认为一篇文章是怎么形成的呢?

LDA模型认为主题可以由一个词汇分布来表示,而文章可以由主题分布来表示

比如有两个主题,美食美妆。LDA说两个主题可以由词汇分布表示,他们分别是:

{面包:0.4,火锅:0.5,眉笔:0.03,腮红:0.07}
{眉笔:0.4,腮红:0.5,面包:0.03,火锅:0.07}

同样,对于两篇文章,LDA认为文章可以由主题分布这么表示:

《美妆日记》{美妆:0.8,美食:0.1,其他:0.1}

《美食探索》{美食:0.8,美妆:0.1,其他:0.1}

所以想要生成一篇文章,可以先以一定的概率选取上述某个主题,再以一定的概率选取那个主题下的某个单词,不断重复这两步就可以生成最终文章。

在LDA模型中,一篇文档生成的方式如下:

其中,类似Beta分布是二项式分布的共轭先验概率分布,而狄利克雷分布(Dirichlet分布)是多项式分布的共轭先验概率分布。

如果我们要生成一篇文档,它里面的每个词语出现的概率为:

更详细的数学推导可以见:通俗理解LDA主题模型_结构之法 算法之道-CSDN博客_lda模型

看到文章推断其隐藏的主题分布,就是建模的目的。换言之,人类根据文档生成模型写成了各类文章,然后丢给了计算机,相当于计算机看到的是一篇篇已经写好的文章。现在计算机需要根据一篇篇文章中看到的一系列词归纳出当篇文章的主题,进而得出各个主题各自不同的出现概率:主题分布。

至于LDA主题模型在计算机中具体是怎么实现的,我们也可以不必细究,现在有很多可以直接用来进行LDA主题分析的包,我们直接用就行。(没错,我就是调包侠)

二、Python实现

在用Python进行LDA主题模型分析之前,我先对文档进行了分词和去停用词处理(详情可以看我之前的文章:用python对单一微博文档进行分词——jieba分词(加保留词和停用词)_阿丢是丢心心的博客-CSDN博客_jieba 停用词

我下面的输入文件也是已经分好词的文件

1.导入算法包

2.加载数据

先将文档转化为一个二元列表,其中每个子列表代表一条微博:

构建词典,语料向量化表示:

3.构建LDA模型

这是确定主题数时LDA模型的构建方法,一般我们可以用指标来评估模型好坏,也可以用这些指标来确定最优主题数。一般用来评价LDA主题模型的指标有困惑度(perplexity)和主题一致性(coherence),困惑度越低或者一致性越高说明模型越好。一些研究表明perplexity并不是一个好的指标,所以一般我用coherence来评价模型并选择最优主题,但下面代码两种方法我都用了。

4.绘制主题-coherence曲线,选择最佳主题数

最终能得到各主题的词语分布和这样的图形:

5.结果输出与可视化

通过上述主题评估,我们发现可以选择5作为主题个数,接下来我们可以再跑一次模型,设定主题数为5,并输出每个文档最有可能对应的主题

同时我们可以用pyLDAvis对LDA模型结果进行可视化:

大概能得到这样的结果:

左侧圆圈表示主题,右侧表示各个词语对主题的贡献度。

所有代码如下:

有需要自取~

还可以关注我,之后我还会发更多关于数据分析的干货文章~

本文来自网络,不代表软粉网立场,转载请注明出处:https://www.rfff.net/p/3974.html

作者: HUI

发表评论

您的电子邮箱地址不会被公开。

返回顶部