提出的原因:给出“数据属于哪一类?” 这种明确的结果,分类器可能会给出错误的结果,可以让分类器给出一个最优的类别猜测结果,同时给出这个猜测的概率估计值。
在文档分类中,整个文档(如一个电子邮件)是实例,而电子邮件的某些元素则构成特征。
把每个词的出现或不出现作为一个特征,这样得到的特征数就和词汇表中的词目一样多。
使用python进行文本分类:
1. 准备数据:从文本中构建词向量
把句子转为向量--->需要建一个不重复词的列表(用set)--->1表示词条出现在文档中,0表示词条未出现在文档中
#创建实验样本
def loadDataSet():
postingList=[['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'],
['maybe', 'not', 'take', 'him', 'to', 'dog', 'park', 'stupid'],
['my', 'dalmation', 'is', 'so', 'cute', 'I', 'love', 'him'],
['stop', 'posting', 'stupid', 'worthless', 'garbage'],
['mr', 'licks', 'ate', 'my', 'steak', 'how', 'to', 'stop', 'him'],
['quit', 'buying', 'worthless', 'dog', 'food', 'stupid']]
classVec = [0,1,0,1,0,1] #1 is abusive, 0 not
return postingList,classVec
#创建一个包含在所有文档中出现的不重复词的列表,输入参数为某个文档,输出参数为不重复词的列表
def createVocabList(dataSet):
vocabSet = set([]) #create empty set
for document in dataSet:
vocabSet = vocabSet | set(document) #union of the two sets
return list(vocabSet)
def setOfWords2Vec(vocabList,inputSet):#输入参数是词汇表,文档
returnVec=[0]*len(vocabList)
for word in inputSet:
if word in vocabList:
returnVec[vocabList.index(word)]=1
else:
print"the word :%s is not in my Vocabulary!"%word
return returnVec
将上述代码保存在bayes.py的文件中。
在python提示符下输入:
>>> import bayes
>>> postingList,classVec=bayes.loadDataSet()
>>> vocabList=bayes.createVocabList(postingList)
>>> vocabList
['love', 'posting', 'ate', 'how', 'not', 'so', 'dalmation', 'help', 'my', 'stop', 'buying', 'park', 'worthless', 'stupid', 'to', 'licks', 'is', 'take', 'mr', 'garbage', 'him', 'I', 'please', 'maybe', 'food', 'problems', 'steak', 'quit', 'has', 'cute', 'dog', 'flea']
>>> returnVec=bayes.setOfWords2Vec(vocabList,postingList[0])
>>> returnVec
[0, 0, 0, 0, 0, 0, 0, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 1, 0, 0, 1, 0, 1, 1]
2.训练算法:从词向量计算概率
def _trainNB0(trainMatrix, trainCategory):
"""
训练数据原版
:param trainMatrix: 文件单词矩阵 [[1,0,1,1,1....],[],[]...]
:param trainCategory: 文件对应的类别[0,1,1,0....],列表长度等于单词矩阵数,其中的1代表对应的文件是侮辱性文件,0代表不是侮辱性矩阵
:return:
"""
# 文件数
numTrainDocs = len(trainMatrix)
# 单词数
numWords = len(trainMatrix[0])
# 侮辱性文件的出现概率,即trainCategory中所有的1的个数,
# 代表的就是多少个侮辱性文件,与文件的总数相除就得到了侮辱性文件的出现概率
pAbusive = sum(trainCategory) / float(numTrainDocs)
# 构造单词出现次数列表
p0Num = zeros(numWords) # [0,0,0,.....]
p1Num = zeros(numWords) # [0,0,0,.....]
# 整个数据集单词出现总数
p0Denom = 0.0
p1Denom = 0.0
for i in range(numTrainDocs):
# 是否是侮辱性文件
if trainCategory[i] == 1:
# 如果是侮辱性文件,对侮辱性文件的向量进行加和
p1Num += trainMatrix[i] #[0,1,1,....] + [0,1,1,....]->[0,2,2,...]
# 对向量中的所有元素进行求和,也就是计算所有侮辱性文件中出现的单词总数
p1Denom += sum(trainMatrix[i])
else:
p0Num += trainMatrix[i]
p0Denom += sum(trainMatrix[i])
# 类别1,即侮辱性文档的[P(F1|C1),P(F2|C1),P(F3|C1),P(F4|C1),P(F5|C1)....]列表
# 即 在1类别下,每个单词出现的概率
p1Vect = p1Num / p1Denom# [1,2,3,5]/90->[1/90,...]
# 类别0,即正常文档的[P(F1|C0),P(F2|C0),P(F3|C0),P(F4|C0),P(F5|C0)....]列表
# 即 在0类别下,每个单词出现的概率
p0Vect = p0Num / p0Denom
return p0Vect, p1Vect, pAbusive