获取tensorflow lite模型指定中间层的输出

以`mobilenet v2`为例子，我已经训练好了模型，有`tflite`格式和`onnx`格式两种模型的权重文件，我想获取`tflite`模型在推理阶段`neck`部分的输出。

咚咚锵咚咚锵

1040人浏览 · 2024-02-25 14:13:46

咚咚锵咚咚锵 · 2024-02-25 14:13:46 发布

以mobilenet v2为例子，我已经训练好了模型，有tflite格式和onnx格式两种模型的权重文件，我想获取tflite模型在推理阶段neck部分的输出。

查看onnx模型得到neck最后一层位置

使用netron查看onnx模型结构

在这里插入图片描述

从name中能知道Reshape是neck的最后一层

得到neck最后一层的output在tflite模型中的编号

使用netron查看tflite模型结构找到Reshape的输出的编号

在这里插入图片描述

在推理脚本中增加保存中间层输出

在这里插入图片描述

其他说明：

偶尔同样的操作就会报错ValueError: Tensor data is null. Run allocate_tensors() first，原因有说是tf的版本的原因，但我不更改版本的情况下有时也出现这个问题，以后再细究吧，保存下当前的tf版本：

在这里插入图片描述

天启AI社区

GitCode 天启AI是一款由 GitCode 团队打造的智能助手，基于先进的LLM（大语言模型）与多智能体 Agent 技术构建，致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话，还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力，真正做到“一句话，让 Al帮你完成复杂任务”。

更多推荐