1. NLP
NLP（Natural Language Processing）是指自然语言处理，他的目的是让计算机可以听懂人话。
下面是我将2万条豆瓣影评训练之后，随意输入一段新影评交给神经网络，最终AI推断出的结果。
"很好，演技不错",0.91799414===>好评"要是好就奇怪了",0.19483969===>差评"一星给字幕",0.0028086603===>差评"演技好，演技好，很差",0.17192301===>差评"演技好，演技好，演技好，演技好，很差"0.8373259===>好评
看完本篇文章，即可获得上述技能。
2. 读取数据
首先我们要找到待训练的数据集，我这里是一个csv文件，里面有从豆瓣上获取的影视评论50000条。
他的格式是如下这样的：
部分数据是这样的：
代码是这样的：
#导入包importcsvimportjieba#读取csv文件csv_reader=csv.reader(open("datasets/douban_comments.csv"))#存储句子和标签sentences=[]labels=[]#循环读出每一行进行处理i=1forrowincsv_reader:#评论内容用结巴分词以空格分词comments=jieba.cut(row[2])comment="".join(comments)sentences.append(comment)#存入标签，1好评，0差评labels.append(int(row[3]))i=i+1ifi>20000:break#先取前2万条试验，取全部就注释#取出训练数据条数，分隔开测试数据条数training_size=16000#0到16000是训练数据training_sentences=sentences[0:training_size]training_labels=labels[0:training_size]#16000以后是测试数据testing_sentences=sentences[training_size:]testing_labels=labels[training_size:]这里面做了几项工作：
文件逐行读入，选取评论和标签字段。
评论内容进行分词后存储。
将数据切分为训练和测试两组。
2.1 中文分词
重点说一下分词。
分词是中文特有的，英文不存在。
下面是一个英文句子。
This is an English sentence.
请问这个句子，有几个词？
有6个，因为每个词之间有空格，计算机可以轻易识别处理。
下面是一个中文句子。
欢迎访问我的掘金博客。
请问这个句子，有几个词？
恐怕你得读几遍，然后结合生活阅历，才能分出来，而且还带着各类纠结。
今天研究的重点不是分词，所以我们一笔带过，采用第三方的结巴分词实现。
安装方法
代码对 Python 2/3 均兼容
全自动安装：easy_install jieba 或者 pip install jieba / pip3 install jieba
半自动安装：先下载 http://pypi.python.org/pypi/jieba/ ，解压后运行 python setup.py install
手动安装：下载代码文件将 jieba 目录放置于当前目录或者 site-packages 目录
通过 import jieba 来引用
引入之后，调用jieba.cut("欢迎访问我的掘金博客。")就可以分词了。
importjiebawords=jieba.cut("欢迎访问我的掘金博客。")sentence="".join(words)print(sentence)#欢迎访问我的掘金博客。为什么要有分词？因为词语是语言的最小单位，理解了词语才能理解语言，才知道说了啥。
对于中文来说，同一个的词语在不同语境下，分词方法不一样。
关注下面的“北京大学”：
importjiebasentence="".join(jieba.cut("欢迎来北京大学餐厅"))print(sentence)#欢迎来北京大学餐厅sentence2="".join(jieba.cut("欢迎来北京大学生志愿者中心"))print(sentence2)#欢迎来北京大学生志愿者中心所以，中文的自然语言处理难就难在分词。
至此，我们的产物是如下格式：
sentences=['我喜欢你','我不喜欢他',……]labels=[0,1，……]
3. 文本序列化
文本，其实计算机是无法直接认识文本的，它只认识0和1。
你之所以能看到这些文字、图片，是因为经过了多次转化。
就拿字母A来说，我们用65表示，转为二进制是0100 0001。
当你看到A、B、C时，其实到了计算机那里是0100 0001、0100 0010、0100 0011，它喜欢数字。
Tips：这就是为什么当你比较字母大小是发现 A<B ，其实本质上是65<66。
那么，我们的准备好的文本也需要转换为数字，这样更便于计算。
3.1 fit_on_texts 分类
有一个类叫Tokenizer，它是分词器，用于给文本分类和序列化。
这里的分词器和上面我们说的中文分词不同，因为编程语言是老外发明的，人家不用特意分词，他起名叫分词器，就是给词语分类。
fromtensorflow.keras.preprocessing.textimportTokenizersentences=['我喜欢你','我不喜欢他']#定义分词器tokenizer=Tokenizer()#分词器处理文本，tokenizer.fit_on_texts(sentences)print(tokenizer.word_index)#{'我':1,'喜欢':2,'你':3,'不':4,'他':5}上面做的就是找文本里有几类词语，并编上号。
看输出结果知道：2句话最终抽出5种不同的词语，编号1~5。
3.2 texts_to_sequences 文本变序列
文本里所有的词语都有了编号，那么就可以用数字表示文本了。
#文本转化为数字序列sequences=tokenizer.texts_to_sequences(sentences)print(sequences)#[[1,2,3],[1,4,2,5]]
这样，计算机渐渐露出了笑容。
3.3 pad_sequences 填充序列
虽然给它提供了数字，但这不是标准的，有长有短，计算机就是流水线，只吃统一标准的数据。
pad_sequences 会把序列处理成统一的长度，默认选择里面最长的一条，不够的补0。
fromtensorflow.keras.preprocessing.sequenceimportpad_sequences#padding='post'后边填充，padding='pre'前面填充padded=pad_sequences(sequences,padding='post')print(padded)#[[123][1425]]->[[1230][1425]]
这样，长度都是一样了，计算机露出了开心的笑容。
少了可以补充，但是如果太长怎么办呢？
太长可以裁剪。
#truncating='post'裁剪后边，truncating='pre'裁剪前面padded=pad_sequences(sequences,maxlen=3,truncating='pre')print(padded)#[[1,2,3],[1,4,2,5]]->[[123][425]]
至此，我们的产物是这样的格式：
sentences=[[1230][1425]]labels=[0,1，……]
4. 构建模型
所谓模型，就是流水线设备。我们先来看一下流水线是什么感觉。
看完了吧，流水线的作用就是进来固定格式的原料，经过一层一层的处理，最终出去固定格式的成品。
模型也是这样，定义一层层的“设备”，配置好流程中的各项“指标”，等待上线生产。
#导入包importcsvimportjieba#读取csv文件csv_reader=csv.reader(open("datasets/douban_comments.csv"))#存储句子和标签sentences=[]labels=[]#循环读出每一行进行处理i=1forrowincsv_reader:#评论内容用结巴分词以空格分词comments=jieba.cut(row[2])comment="".join(comments)sentences.append(comment)#存入标签，1好评，0差评labels.append(int(row[3]))i=i+1ifi>20000:break#先取前2万条试验，取全部就注释#取出训练数据条数，分隔开测试数据条数training_size=16000#0到16000是训练数据training_sentences=sentences[0:training_size]training_labels=labels[0:training_size]#16000以后是测试数据testing_sentences=sentences[training_size:]testing_labels=labels[training_size:]04.1 Sequential 序列
你可以理解为整条流水线，里面包含各类设备（层）。
4.2 Embedding 嵌入层
嵌入层，从字面意思我们就可以感受到这个层的气势。
嵌入，就是插了很多个维度。一个词语用多个维度来表示。
下面说维度。
二维的是这样的（长，宽）：
三维是这样的（长，宽，高）：
100维是什么样的，你能想象出来吗？除非物理学家，否则三维以上很难用空间来描述。但是，数据是很好体现的。
性别，职位，年龄，身高，肤色，这一下就是5维了，1000维是不是也能找到。
对于一个词，也是可以嵌入很多维度的。有了维度上的数值，我们就可以理解词语的轻重程度，可以计算词语间的关系。
如果我们给颜色设置R、B、G 3个维度： | 颜色 | R |G |B | | --- | --- | --- | --- | | 红色|255|0|0| | 绿色|0|255|0| | 蓝色|0|0|255| | 黄色|255|255|0| | 白色|255|255|255| | 黑色|0|0|0|
下面见证一下奇迹，懂色彩学的都知道，红色和绿色掺在一起是什么颜色？
来，跟我一起读：红色+绿色=黄色。
到数字上就是：[255,0,0]+[0,255,0] = [255,255,0]
这样，颜色的明暗程度，颜色间的关系，计算机就可以通过计算得出了。
只要标记的合理，其实计算机能够算出：国王+女性=女王、精彩=-糟糕，开心>微笑。
那你说，计算机是不是理解词语意思了，它不像你是感性理解，它全是数值计算。
嵌入层就是给词语标记合理的维度。
我们看一下嵌入层的定义：Embedding(vocab_size,embedding_dim,input_length)
vocab_size：字典大小。有多少类词语。
embedding_dim：本层的输出大小。一个词用多少维表示。
input_length：输入数据的维数。一句话有多少个词语，一般是max_length（训练集的最大长度）。
4.3 GlobalAveragePooling1D 全局平均池化为一维
主要就是降维。我们最终只要一维的一个结果，就是好评或者差评，但是现在维度太多，需要降维。
4.4 Dense
这个也是降维，Dense(64,activation='relu')降到Dense(1,activation='sigmoid')，最终输出一个结果，就像前面流水线输入面粉、水、肉、菜等多种原材料，最终出来的是包子。
4.5 activation 激活函数
activation是激活函数，它的主要作用是提供网络的非线性建模能力。
所谓线性问题就是可以用一条线能解决的问题。 可以来TensorFlow游乐场来试验。
如果是采用线性的思维，神经网络很快就能区分开这两种样本。
但如果是下面的这种样本，画一条直线是解决不了的。
如果是用relu激活函数，就可以很轻易区分。
这就是激活函数的作用。
常用的有如下几个，下面有它的函数和图形。
我们用到了relu和sigmoid。
relu：线性整流函数（Rectified Linear Unit），最常用的激活函数。
sigmoid：也叫Logistic函数，它可以将一个实数映射到(0,1)的区间。
Dense(1,activation='sigmoid')最后一个Dense我们就采用了sigmoid，因为我们的数据集中0是差评，1是好评，我们期望模型的输出结果数值也在0到1之间，这样我们就可以判断是更接近好评还是差评了。
4. 训练模型
4.1 fit 训练
训练模型就相当于启动了流水线机器，传入训练数据和验证数据，调用fit方法就可以训练了。
#导入包importcsvimportjieba#读取csv文件csv_reader=csv.reader(open("datasets/douban_comments.csv"))#存储句子和标签sentences=[]labels=[]#循环读出每一行进行处理i=1forrowincsv_reader:#评论内容用结巴分词以空格分词comments=jieba.cut(row[2])comment="".join(comments)sentences.append(comment)#存入标签，1好评，0差评labels.append(int(row[3]))i=i+1ifi>20000:break#先取前2万条试验，取全部就注释#取出训练数据条数，分隔开测试数据条数training_size=16000#0到16000是训练数据training_sentences=sentences[0:training_size]training_labels=labels[0:training_size]#16000以后是测试数据testing_sentences=sentences[training_size:]testing_labels=labels[training_size:]1启动后，日志打印是这样的：
#导入包importcsvimportjieba#读取csv文件csv_reader=csv.reader(open("datasets/douban_comments.csv"))#存储句子和标签sentences=[]labels=[]#循环读出每一行进行处理i=1forrowincsv_reader:#评论内容用结巴分词以空格分词comments=jieba.cut(row[2])comment="".join(comments)sentences.append(comment)#存入标签，1好评，0差评labels.append(int(row[3]))i=i+1ifi>20000:break#先取前2万条试验，取全部就注释#取出训练数据条数，分隔开测试数据条数training_size=16000#0到16000是训练数据training_sentences=sentences[0:training_size]training_labels=labels[0:training_size]#16000以后是测试数据testing_sentences=sentences[training_size:]testing_labels=labels[training_size:]2经过训练，神经网络会根据输入和输出自动调节参数，包括确定词语的具体维度，以及维度的数值取多少。这个过程变为黑盒了，这也是人工智能和传统程序设计不同的地方。
最后，调用save_weights可以把结果保存下来。
5. 自动分析结果
5.1 predict 预测
#导入包importcsvimportjieba#读取csv文件csv_reader=csv.reader(open("datasets/douban_comments.csv"))#存储句子和标签sentences=[]labels=[]#循环读出每一行进行处理i=1forrowincsv_reader:#评论内容用结巴分词以空格分词comments=jieba.cut(row[2])comment="".join(comments)sentences.append(comment)#存入标签，1好评，0差评labels.append(int(row[3]))i=i+1ifi>20000:break#先取前2万条试验，取全部就注释#取出训练数据条数，分隔开测试数据条数training_size=16000#0到16000是训练数据training_sentences=sentences[0:training_size]training_labels=labels[0:training_size]#16000以后是测试数据testing_sentences=sentences[training_size:]testing_labels=labels[training_size:]3model.predict()会返回预测值，这不是个分类值，是个回归值（也可以做到分类值，比如输出1或者0，但是我们更想观察0.51和0.49有啥区别）。我们假设0.5是分界值，以上是好评，以下是差评。
最终打印出结果：
#导入包importcsvimportjieba#读取csv文件csv_reader=csv.reader(open("datasets/douban_comments.csv"))#存储句子和标签sentences=[]labels=[]#循环读出每一行进行处理i=1forrowincsv_reader:#评论内容用结巴分词以空格分词comments=jieba.cut(row[2])comment="".join(comments)sentences.append(comment)#存入标签，1好评，0差评labels.append(int(row[3]))i=i+1ifi>20000:break#先取前2万条试验，取全部就注释#取出训练数据条数，分隔开测试数据条数training_size=16000#0到16000是训练数据training_sentences=sentences[0:training_size]training_labels=labels[0:training_size]#16000以后是测试数据testing_sentences=sentences[training_size:]testing_labels=labels[training_size:]4本文阅读对象为初级人员，为了便于理解，特意省略了部分细节，展现的知识点较为浅薄，旨在介绍流程和原理，仅做入门用。完整代码已上传github，地址点击此处 https://github.com/hlwgy/douban_embedding