如何解决Tensorflow Lite基准测试应用说明
我正在使用Tensorflow Lite Benchmark Android application在Android设备上测试我的模型。 输出示例如下:
我们的平均推理时间:预热:83235,初始化:38467,推理:79760.9
虽然Inference
的含义对我来说很清楚(即平均推断时间(以微秒为单位)),但我不知道Warmup
和Init
是指什么?不幸的是,documentation没有解释这一点。
解决方法
Init :加载模型和构建解释器对象所花费的时间,这是开始时需要进行的初始化步骤(即一次性费用)
热身:根据warmup_runs
的配置,热身所需的平均推断时间从一开始就开始运行。换句话说,将第一个warmup_runs
个推理结果平均为输出中的Warmup
个结果,而仅随后的num_runs
个推理结果平均为Inference
个输出
有关更多详细信息,请参见基准测试工具README。 https://github.com/tensorflow/tensorflow/blob/master/tensorflow/lite/tools/benchmark/README.md#parameters
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。