文本分析工具箱
分析和建模文本数据
Text Analytics Toolbox™为文本数据的预处理、分析和建模提供了算法和可视化。使用工具箱创建的模型可用于情感分析、预测维护和主题建模等应用程序。
文本分析工具箱包括用于处理来自设备日志、新闻源、调查、运营商报告和社交媒体等来源的原始文本的工具。您可以从流行的文件格式中提取文本，预处理原始文本，提取单个单词，将文本转换为数字表示，并构建统计模型。
使用机器学习技术，如LSA、LDA和单词嵌入，您可以从高维文本数据集找到聚类并创建特征。使用Text Analytics Toolbox创建的功能可以与来自其他数据源的功能相结合，以构建利用文本、数字和其他类型数据的机器学习模型。
开始:
提取文本数据
导入文本数据到MATLAB®从单个文件或大型文件集合，包括PDF、HTML和Microsoft®词®和Excel®文件。
从Microsoft Word文档集合中提取文本。
单词云显示使用字体大小和颜色的单词的相对频率。
简化原始文本(左)以使用最有意义的单词(右)。
过滤停止词和正常化词的根形式
在分析中，通过过滤常见单词、出现频率过高或过低的单词、太长或太短的单词，对有意义的文本数据进行优先级排序。减少词汇量，将注意力集中在文档的更广泛的意义或情感上，方法是将单词词根化或词根化到字典形式。
删除文档中的停顿词，如“a”和“of”。
向标记化的文档添加词性和句子细节。
识别并可视化模型中最频繁出现的单词。
单词嵌入与编码
训练词嵌入模型，如word2vec连续词袋(CBOW)和跳跃图模型。导入预先训练的模型，包括fastText和GloVe。
使用单词嵌入在文本散点图中可视化集群。
主题建模
使用机器学习算法，如潜在Dirichlet分配(LDA)和潜在语义分析(LSA)，发现并可视化大型文本数据集中的底层模式、趋势和复杂关系。
确定风暴报告数据中的主题。
文档摘要和关键字提取
自动从一个或多个文档中提取摘要和相关关键字，并评估文档的相似性和重要性。
从文本中提取摘要。
识别预测积极和消极情绪的词汇。
变压器模型
利用BERT和GPT-2等转换器模型对文本数据执行迁移学习，以完成情感分析、分类和总结等任务。
文本数据迁移学习的转换器模型。
训练深度神经网络对文本数据进行分类。
文本生成使用简奥斯汀的《傲慢与偏见》深度学习LSTM网络。
