Contacta con nosotros

Temario del curso

Visión general de las capacidades de optimización de CANN

  • Cómo se maneja el rendimiento de inferencia en CANN
  • Objetivos de optimización para sistemas de IA embebida y en el borde
  • Comprensión del uso del Núcleo de IA y la asignación de memoria

Uso del Motor de Gráficos para análisis

  • Introducción al Motor de Gráficos y la canalización de ejecución
  • Visualización de grafos de operadores y métricas de tiempo de ejecución
  • Modificación de grafos computacionales para optimización

Herramientas de perfilado y métricas de rendimiento

  • Uso de la herramienta de perfilado de CANN (profiler) para análisis de carga de trabajo
  • Análisis del tiempo de ejecución del núcleo y los cuellos de botella
  • Perfilado del acceso a memoria y estrategias de fragmentación

Desarrollo de operadores personalizados con TIK

  • Visión general de TIK y modelo de programación de operadores
  • Implementación de un operador personalizado utilizando TIK DSL
  • Pruebas y evaluación comparativa del rendimiento del operador

Optimización avanzada de operadores con TVM

  • Introducción a la integración de TVM con CANN
  • Estrategias de autoajuste para grafos computacionales
  • Cuándo y cómo cambiar entre TVM y TIK

Técnicas de optimización de memoria

  • Gestión del diseño de memoria y la ubicación de búferes
  • Técnicas para reducir el consumo de memoria en el chip
  • Mejores prácticas para ejecución asíncrona y reutilización

Implementación del mundo real y estudios de caso

  • Estudio de caso: ajuste de rendimiento para el flujo de trabajo de cámaras de ciudades inteligentes
  • Estudio de caso: optimización de la pila de inferencia para vehículos autónomos
  • Directrices para perfilado iterativo y mejora continua

Resumen y próximos pasos

Requerimientos

  • Conocimiento sólido de arquitecturas de modelos de aprendizaje profundo y flujos de trabajo de entrenamiento
  • Experiencia con implementación de modelos utilizando CANN, TensorFlow o PyTorch
  • Familiaridad con CLI de Linux, scripting de shell y programación en Python

Público objetivo

  • Ingenieros de rendimiento de IA
  • Especialistas en optimización de inferencia
  • Desarrolladores que trabajan con IA en el borde o sistemas en tiempo real
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas