TensorFlow 模型优化 - TensorFlow 中文

优化机器学习模型

import tensorflow as tf
import tensorflow_model_optimization as tfmot
import tf_keras as keras

model = keras.Sequential([...])

pruning_schedule = tfmot.sparsity.keras.PolynomialDecay(
                      initial_sparsity=0.0, final_sparsity=0.5,
                      begin_step=2000, end_step=4000)

model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude(
    model, pruning_schedule=pruning_schedule)
...

model_for_pruning.fit(...)

TensorFlow 模型优化工具包 是一套用于优化 ML 模型以进行部署和执行的工具。在许多用途中，该工具包支持用于以下目的的技术

减少云和边缘设备（例如移动设备、物联网）的延迟和推理成本。
将模型部署到对处理、内存、功耗、网络使用和模型存储空间有限制的边缘设备。
启用在现有硬件或新的专用加速器上执行并针对其进行优化。

根据您的任务选择模型和优化工具

使用现成模型提高性能

在许多情况下，预优化模型可以提高应用程序的效率。
使用 TensorFlow 模型优化工具包

尝试使用训练后工具来优化已训练的 TensorFlow 模型。
进一步优化

使用训练时优化工具并了解相关技术。