TensorFlow 文本处理教程提供了解决常见文本和自然语言处理 (NLP) 问题的分步指南。
TensorFlow 为文本和自然语言处理提供了两种解决方案:KerasNLP 和 TensorFlow Text。KerasNLP 是一个高级 NLP 库,包含所有最新的基于 Transformer 的模型以及底层分词工具。它是大多数 NLP 用例的推荐解决方案。
如果您需要使用底层文本处理工具,可以使用 TensorFlow Text。TensorFlow Text 提供了一系列算子和库,帮助您处理文本格式的输入,例如原始文本字符串或文档。
KerasNLP
- KerasNLP 入门:通过执行不同复杂度等级的情感分析来学习 KerasNLP,从使用预训练模型到从零开始构建您自己的 Transformer。
文本生成
- 使用 RNN 进行文本生成:使用基于字符的 RNN 和莎士比亚著作数据集来生成文本。
- 带有注意力机制的神经机器翻译:训练一个序列到序列 (seq2seq) 模型,用于西班牙语到英语的翻译。
- 使用 Transformer 和 Keras 进行神经机器翻译:创建并训练一个序列到序列 Transformer 模型,将葡萄牙语翻译成英语。
- 带有视觉注意力的图像描述生成:使用由注意力层构建的 Transformer 解码器模型来生成图像描述。
文本分类
- 使用 BERT 进行文本分类:微调 BERT 以在 IMDb 纯文本电影评论数据集上执行情感分析。
- 使用 RNN 进行文本分类:训练一个 RNN 在 IMDb 电影评论上执行情感分析。
- TF.Text 指标:了解可通过 TensorFlow Text 使用的指标。该库包含了诸如 ROUGE-L 等文本相似度指标的实现,可用于文本生成模型的自动评估。
使用 BERT 进行 NLP
- 在 TPU 上使用 BERT 解决 GLUE 任务:学习如何为 GLUE 基准测试中的任务微调 BERT。
- 微调 BERT 模型:使用 TensorFlow Model Garden 微调 BERT 模型。
- 基于 BERT-SNGP 的不确定性感知深度语言学习:将 SNGP 应用于自然语言理解 (NLU) 任务。在 BERT 编码器的基础上,您将提高 NLU 模型检测范围外查询的能力。
嵌入
- 词嵌入:使用简单的 Keras 模型为情感分类任务训练您自己的词嵌入,并使用 Embedding Projector 将其可视化。
- 热启动嵌入层矩阵:学习如何为文本情感分类模型“热启动”训练过程。
- word2vec:在小型数据集上训练 word2vec 模型,并在 Embedding Projector 中可视化训练后的嵌入。