10.3. 进阶指南(PTQ)

• 10.3.1. 概述
• 10.3.2. 环境安装
  • 10.3.2.1. 交付物使用说明
    • 示例包源码目录结构说明
  • 10.3.2.2. 开发机部署
    • 开发机准备
    • 使用Docker环境
  • 10.3.2.3. 开发板部署
    • 补充文件准备
  • 10.3.2.4. 版本管理工具使用说明
    • ddk_vcs list
    • ddk_vcs install
    • ddk_vcs uninstall
    • ddk_vcs patch
    • ddk_vcs show
• 10.3.3. PTQ原理及步骤详解
  • 10.3.3.1. 简介
  • 10.3.3.2. 模型准备
  • 10.3.3.3. 模型验证
    • 使用 hb_mapper checker 工具验证模型
    • 检查异常处理
    • 检查结果解读
    • 检查结果的调优指导
  • 10.3.3.4. 模型转换
    • 准备校准数据
    • 使用 hb_mapper makertbin 工具转换模型
    • 模型转换yaml配置参数说明
      • 预处理HzPreprocess算子说明
    • 转换内部过程解读
    • 转换结果解读
    • 转换产出物解读
  • 10.3.3.5. 模型性能分析
    • 开发机评测性能
    • 开发板实测性能
    • 模型性能优化
      • 检查影响模型性能的yaml参数
      • 处理CPU算子
      • 高性能模型设计建议
  • 10.3.3.6. 模型精度分析
    • 精度分析
    • 精度调优
      • 精度有明显损失（4%以上）
      • 较小精度损失提升
  • 10.3.3.7. 其它工具使用说明
    • hb_perf 工具
      • hb_perf的命令行参数
    • hb_pack 工具
      • hb_pack的命令行参数
    • hb_model_info 工具
      • hb_model_info的命令行参数
    • hb_model_modifier 工具
      • hb_model_modifier的命令行参数
    • hb_model_verifier 工具
      • hb_model_verifier的命令行参数
    • hb_eval_preprocess 工具
      • hb_eval_preprocess的命令行参数
• 10.3.4. 模型算子支持列表
  • 10.3.4.1. 使用限制说明
  • 10.3.4.2. 支持的Caffe算子列表
  • 10.3.4.3. 支持的ONNX算子列表
• 10.3.5. 模型上板运行(runtime)应用开发说明
  • 10.3.5.1. 模型推理DNN API使用示例说明
    • 概述
      • 示例代码包结构介绍
    • 环境构建
      • 开发板准备
      • 编译
    • 示例使用
      • basic_samples 示例
        • quick_start
        • api_tutorial
        • advanced_samples
        • misc
    • 辅助工具和常用操作
      • 日志
        • 示例日志
        • 模型推理 DNN API日志
  • 10.3.5.2. 模型上板分析工具说明
    • 概述
    • hrt_model_exec 工具使用说明
      • 输入参数描述
      • 使用说明
        • model_info
          • 输入参数补充说明
        • infer
          • 多输入模型说明
          • 输入参数补充说明
        • perf
          • 多线程Latency数据说明
          • 输入参数补充说明
    • hrt_bin_dump 工具使用说明
      • 输入参数描述
      • 使用说明
        • 示例说明
  • 10.3.5.3. 公版模型精度评测说明
    • 公版模型性能精度指标
    • 评测方法说明
      • 简介
        • 示例代码包结构
        • 示例模型
        • 公共数据集
      • 环境构建
        • 开发板准备
        • 编译环境准备
      • 测评示例使用说明
        • 性能评测
          • 测评脚本使用说明
          • 命令行参数说明
          • 配置文件说明
        • 精度评测
          • 数据预处理
          • 数据挂载
          • 模型推理
          • 精度计算
      • 模型集成
        • 后处理文件添加
        • 增加模型运行脚本及配置文件
      • 辅助工具和常用操作
        • 日志系统使用说明
          • 示例日志
          • 模型推理API DNN日志
        • 算子耗时说明
        • dump工具