6. 算法工具链开发指南

• 6.1. 简介
  • 6.1.1. 使用注意事项
• 6.2. 入门指南
  • 6.2.1. 概述
  • 6.2.2. 环境安装
  • 6.2.3. 快速体验
    • 6.2.3.1. 开发环境准备
    • 6.2.3.2. 模型准备
    • 6.2.3.3. 模型验证
    • 6.2.3.4. 模型转换
    • 6.2.3.5. 模型上板运行
    • 6.2.3.6. 公版模型性能精度指标
• 6.3. 进阶指南(PTQ)
  • 6.3.1. 概述
  • 6.3.2. 环境安装
    • 6.3.2.1. 交付物使用说明
      • 示例包源码目录结构说明
    • 6.3.2.2. 开发机部署
      • 开发机准备
      • 使用Docker环境
    • 6.3.2.3. 开发板部署
      • 补充文件准备
    • 6.3.2.4. 版本管理工具使用说明
      • ddk_vcs list
      • ddk_vcs install
      • ddk_vcs uninstall
      • ddk_vcs patch
      • ddk_vcs show
  • 6.3.3. PTQ原理及步骤详解
    • 6.3.3.1. 简介
    • 6.3.3.2. 模型准备
    • 6.3.3.3. 模型验证
      • 使用 hb_mapper checker 工具验证模型
      • 检查异常处理
      • 检查结果解读
      • 检查结果的调优指导
    • 6.3.3.4. 模型转换
      • 准备校准数据
      • 使用 hb_mapper makertbin 工具转换模型
      • 模型转换yaml配置参数说明
        • 预处理HzPreprocess算子说明
      • 转换内部过程解读
      • 转换结果解读
      • 转换产出物解读
    • 6.3.3.5. 模型性能分析
      • 开发机评测性能
      • 开发板实测性能
      • 模型性能优化
        • 检查影响模型性能的yaml参数
        • 处理CPU算子
        • 高性能模型设计建议
    • 6.3.3.6. 模型精度分析
      • 精度分析
      • 精度调优
        • 精度有明显损失（4%以上）
        • 较小精度损失提升
    • 6.3.3.7. 其它工具使用说明
      • hb_perf 工具
      • hb_pack 工具
      • hb_model_info 工具
      • hb_model_modifier 工具
      • hb_model_verifier 工具
      • hb_eval_preprocess 工具
  • 6.3.4. 模型算子支持列表
    • 6.3.4.1. 使用限制说明
    • 6.3.4.2. 支持的Caffe算子列表
    • 6.3.4.3. 支持的ONNX算子列表
  • 6.3.5. 模型上板运行(runtime)应用开发说明
    • 6.3.5.1. 模型推理DNN API使用说明
      • 模型推理DNN API说明
        • 概述
        • 数据类型和数据结构
          • 版本信息类
          • HB_DNN_VERSION_MAJOR
          • HB_DNN_VERSION_MINOR
          • HB_DNN_VERSION_PATCH
          • 模型类
          • HB_DNN_TENSOR_MAX_DIMENSIONS
          • HB_DNN_INITIALIZE_INFER_CTRL_PARAM
          • hbPackedDNNHandle_t
          • hbDNNHandle_t
          • hbDNNTaskHandle_t
          • hbDNNTensorLayout
          • hbDNNDataType
          • hbDNNTensorShape
          • hbDNNQuantiShift
          • hbDNNQuantiScale
          • hbDNNQuantiType
          • hbDNNTensorProperties
          • hbDNNTaskPriority
          • hbDNNTensor
          • hbDNNRoi
          • hbDNNInferCtrlParam
          • 系统类
          • hbBPUCore
          • hbDSPCore
          • hbSysMem
          • hbSysMemFlushFlag
          • 前处理类
          • HB_DNN_INITIALIZE_RESIZE_CTRL_PARAM
          • hbDNNResizeType
          • hbDNNResizeCtrlParam
          • 插件类
          • hbDNNLayerCreator
        • API接口
          • 版本信息
          • hbDNNGetVersion()
          • 模型加载/释放
          • hbDNNInitializeFromFiles()
          • hbDNNInitializeFromDDR()
          • hbDNNRelease()
          • 模型信息
          • hbDNNGetModelNameList()
          • hbDNNGetModelHandle()
          • hbDNNGetInputCount()
          • hbDNNGetInputName()
          • hbDNNGetInputTensorProperties()
          • hbDNNGetOutputCount()
          • hbDNNGetOutputName()
          • hbDNNGetOutputTensorProperties()
          • 模型推理
          • hbDNNInfer()
          • hbDNNRoiInfer()
          • hbDNNWaitTaskDone()
          • hbDNNReleaseTask()
          • 内存操作
          • hbSysAllocMem()
          • hbSysAllocCachedMem()
          • hbSysFlushMem()
          • hbSysFreeMem()
          • hbSysWriteMem()
          • hbSysReadMem()
          • hbSysRegisterMem()
          • hbSysUnregisterMem()
          • 前处理
          • hbDNNResize()
          • 插件
          • hbDNNRegisterLayerCreator()
          • hbDNNUnregisterLayerCreator()
        • 数据排布及对齐规则
          • 数据排布
          • BPU对齐限制规则
            • 模型输入要求
            • stride要求
          • NV12介绍
            • YUV格式
            • NV12排布
        • 错误码
        • 配置信息
        • 开发机模拟器使用注意事项
      • 模型推理DNN API使用示例说明
        • 概述
          • 示例代码包结构介绍
        • 环境构建
          • 开发板准备
          • 编译
        • 示例使用
          • basic_samples 示例
            • quick_start
            • api_tutorial
            • advanced_samples
            • misc
        • 辅助工具和常用操作
          • 日志
            • 示例日志
            • 模型推理 DNN API日志
    • 6.3.5.2. 模型上板分析工具说明
      • 概述
      • hrt_model_exec 工具使用说明
        • 输入参数描述
        • 使用说明
          • model_info
            • 输入参数补充说明
          • infer
            • 多输入模型说明
            • 输入参数补充说明
          • perf
            • 多线程Latency数据说明
            • 输入参数补充说明
      • hrt_bin_dump 工具使用说明
        • 输入参数描述
        • 使用说明
          • 示例说明
    • 6.3.5.3. 公版模型精度评测说明
      • 公版模型性能精度指标
      • 评测方法说明
        • 简介
          • 示例代码包结构
          • 示例模型
          • 公共数据集
        • 环境构建
          • 开发板准备
          • 编译环境准备
        • 测评示例使用说明
          • 性能评测
            • 测评脚本使用说明
            • 命令行参数说明
            • 配置文件说明
          • 精度评测
            • 数据预处理
            • 数据挂载
            • 模型推理
            • 精度计算
        • 模型集成
          • 后处理文件添加
          • 增加模型运行脚本及配置文件
        • 辅助工具和常用操作
          • 日志系统使用说明
            • 示例日志
            • 模型推理API DNN日志
          • 算子耗时说明
          • dump工具