AI_人工智能 TFLite

tflite 模型推理浅见

发布于 2021-07-01 11:41:31 浏览：940 订阅该版

[tocm]

将神经网络模型转换好之后怎么验证模型是否转换成功呢？

1. 看模型大小
2. 用代码验证（模型推理一次）

# 前后模型大小对比

![image.png](https://oss-club.rt-thread.org/uploads/20210701/92be3909d19b28aa0788ea199dde6d05.png.webp)

# 代码验证

## 运行模型

运行 TensorFlow Lite 模型涉及几个简单的步骤：

1. 将模型加载到内存中。
2. `Interpreter` 基于现有模型构建一个。
3. 设置输入张量值。
4. 运行推理推理。
5. 读取输出

## Python 示例代码

请参阅 [label_image.py](https://github.com/tensorflow/tensorflow/blob/master/tensorflow/lite/examples/python/label_image.py)

```python
import numpy as np
import tensorflow as tf

# Load the TFLite model and allocate tensors.
interpreter = tf.lite.Interpreter(model_path="converted_model.tflite")
interpreter.allocate_tensors()

# Get input and output tensors.
input_details = interpreter.get_input_details()
output_details = interpreter.get_output_details()

# Test the model on random input data.
input_shape = input_details[0]['shape']
input_data = np.array(np.random.random_sample(input_shape), dtype=np.float32)
interpreter.set_tensor(input_details[0]['index'], input_data)

interpreter.invoke()

# The function `get_tensor()` returns a copy of the tensor data.
# Use `tensor()` in order to get a pointer to the tensor.
output_data = interpreter.get_tensor(output_details[0]['index'])
print(output_data)
```