使用 TensorFlow Lite 模型根据给定段落的內容回答问题。
入门
如果您是 TensorFlow Lite 的新手,并且正在使用 Android 或 iOS,我们建议您探索以下示例应用程序,它们可以帮助您入门。
如果您使用的是 Android/iOS 以外的平台,或者您已经熟悉 TensorFlow Lite API,您可以下载我们的入门问答模型。
有关元数据和相关字段(例如 vocab.txt
)的更多信息,请参阅 从模型中读取元数据。
工作原理
该模型可用于构建一个系统,该系统可以使用自然语言回答用户的提问。它使用在 SQuAD 1.1 数据集上微调的预训练 BERT 模型创建。
BERT 或来自 Transformer 的双向编码器表示,是一种预训练语言表示的方法,它在各种自然语言处理任务中获得了最先进的结果。
此应用程序使用 BERT 的压缩版本 MobileBERT,它运行速度快 4 倍,模型大小小 4 倍。
SQuAD 或斯坦福问答数据集,是一个阅读理解数据集,包含来自维基百科的文章以及每篇文章的一组问答对。
该模型以段落和问题作为输入,然后返回最有可能回答问题的段落部分。它需要半复杂的预处理,包括 BERT 论文 中描述的标记化和后处理步骤,并在示例应用程序中实现。
性能基准
性能基准数字是使用 此处描述的工具 生成的。
模型名称 | 模型大小 | 设备 | CPU |
---|---|---|---|
Mobile Bert | 100.5 Mb | Pixel 3 (Android 10) | 123ms* |
Pixel 4 (Android 10) | 74ms* | ||
iPhone XS (iOS 12.4.1) | 257ms** |
* 使用 4 个线程。
** 在 iPhone 上使用 2 个线程以获得最佳性能结果。
示例输出
段落(输入)
Google LLC 是一家美国跨国科技公司,专门从事与互联网相关的服务和产品,包括在线广告技术、搜索引擎、云计算、软件和硬件。它被认为是四大科技公司之一,与亚马逊、苹果和 Facebook 并驾齐驱。
Google 由 Larry Page 和 Sergey Brin 于 1998 年 9 月创立,当时他们还是加州斯坦福大学的博士生。他们共同拥有 Google 约 14% 的股份,并通过超级投票权股票控制着 56% 的股东投票权。他们于 1998 年 9 月 4 日在加州将 Google 注册为加州私人控股公司。Google 随后于 2002 年 10 月 22 日在特拉华州重新注册。首次公开募股 (IPO) 于 2004 年 8 月 19 日进行,Google 搬迁至其位于加州山景城的总部,绰号为 Googleplex。2015 年 8 月,Google 宣布计划将其各种业务重组为一家名为 Alphabet Inc. 的企业集团。Google 是 Alphabet 的主要子公司,并将继续是 Alphabet 互联网业务的母公司。Sundar Pichai 被任命为 Google 首席执行官,接替 Larry Page,后者成为 Alphabet 首席执行官。
问题(输入)
谁是 Google 的首席执行官?
答案(输出)
Sundar Pichai