TensorFlow Lite 推理与元数据

推理 带元数据的模型 可以像几行代码一样简单。TensorFlow Lite 元数据包含对模型功能和使用方法的丰富描述。它可以使代码生成器能够自动为您生成推理代码,例如使用 Android Studio ML 绑定功能TensorFlow Lite Android 代码生成器。它还可以用于配置您的自定义推理管道。

工具和库

TensorFlow Lite 提供各种工具和库来满足不同级别的部署需求,如下所示

使用 Android 代码生成器生成模型接口

有两种方法可以自动生成 TensorFlow Lite 带元数据的模型所需的 Android 包装代码

  1. Android Studio ML 模型绑定 是 Android Studio 中可用的工具,用于通过图形界面导入 TensorFlow Lite 模型。Android Studio 将自动配置项目的设置并根据模型元数据生成包装类。

  2. TensorFlow Lite 代码生成器 是一个可执行文件,它根据元数据自动生成模型接口。它目前支持使用 Java 的 Android。包装代码消除了直接与 ByteBuffer 交互的需要。相反,开发人员可以使用类型化对象(如 BitmapRect)与 TensorFlow Lite 模型交互。Android Studio 用户也可以通过 Android Studio ML 绑定 访问代码生成功能。

使用 TensorFlow Lite 任务库利用开箱即用的 API

TensorFlow Lite 任务库 为流行的机器学习任务(如图像分类、问答等)提供优化的即用型模型接口。模型接口专为每个任务而设计,以实现最佳性能和可用性。任务库跨平台工作,并在 Java、C++ 和 Swift 上得到支持。

使用 TensorFlow Lite 支持库构建自定义推理管道

TensorFlow Lite 支持库 是一个跨平台库,有助于自定义模型接口和构建推理管道。它包含各种实用程序方法和数据结构,用于执行预/后处理和数据转换。它还旨在匹配 TensorFlow 模块(如 TF.Image 和 TF.Text)的行为,确保从训练到推理的一致性。

探索带元数据的预训练模型

浏览 TensorFlow Lite 托管模型TensorFlow Hub 以下载带元数据的预训练模型,用于视觉和文本任务。还可以查看 可视化元数据 的不同选项。

TensorFlow Lite 支持 GitHub 仓库

访问 TensorFlow Lite 支持 GitHub 仓库 获取更多示例和源代码。通过创建 新的 GitHub 问题 告知我们您的反馈。