BulkInferrer TFX 管道组件

BulkInferrer TFX 组件对未标记数据执行批处理推断。生成的 InferenceResult(tensorflow_serving.apis.prediction_log_pb2.PredictionLog) 包含原始特征和预测结果。

BulkInferrer 使用

以 SavedModel 格式训练的模型。
包含特征的未标记 tf.Examples。
(可选) 来自 Evaluator 组件的验证结果。

BulkInferrer 发出

InferenceResult

使用 BulkInferrer 组件

BulkInferrer TFX 组件用于对未标记的 tf.Examples 执行批处理推断。它通常部署在 Evaluator 组件之后，以使用经过验证的模型执行推断，或者部署在 Trainer 组件之后，以直接对导出的模型执行推断。

它目前执行内存中模型推断和远程推断。远程推断需要将模型托管在 Cloud AI Platform 上。

典型的代码如下所示

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

有关更多详细信息，请参阅 BulkInferrer API 参考。