6.6. 常见问题及故障处理¶
本节为您带来 训练后量化(PTQ)常见问题 及 常见故障处理, 为您解释在使用 PTQ 进行转换的过程中可能会遇到的一些常见疑问、故障现象及对应处理建议。
- 6.6.1. 训练后量化(PTQ)常见问题
- 6.6.1.1. 如何理解算子约束中提及的 BPU 加速和 CPU 计算两种形式?
- 6.6.1.2. 如何理解模型分段的性能影响?
- 6.6.1.3. 如何理解模型尾部部分 BPU 可加速算子运行在 CPU 上?
- 6.6.1.4. 如何理解地瓜机器人的 default 校准方式?
- 6.6.1.5. 如何理解地瓜机器人的 mix 校准方式?
- 6.6.1.6. 如何理解 yaml 文件中的编译器优化等级参数?
- 6.6.1.7. 为何 nv12 模型 hb_perf 得出的输入大小和预测库不一致?
- 6.6.1.8. 量化模型和上板 bin 模型的输入的数据排布是否一定一致?
- 6.6.1.9. 如何编译得到多 batch 模型?
- 6.6.1.10. 多输入模型在转换过程中,模型输入顺序发生变化,此种情况正常么?
- 6.6.1.11. 如何理解 PTQ 模型转换过程中的主动量化和被动量化?
- 6.6.2. 常见故障处理