Redes Neuronales Artificiales, Aprendizaje Automático y Pensamiento Profundo

DÍA 1 - REDES NEURONALES ARTIFICIALES

Introducción y Estructura de las RNA

• Neuronas biológicas y neuronas artificiales.
• Modelo de una RNA.
• Funciones de activación utilizadas en las RNA.
• Clases típicas de arquitecturas de red.

Fundamentos Matemáticos y Mecanismos de Aprendizaje

• Repaso del álgebra vectorial y matricial.
• Conceptos de espacio de estados.
• Conceptos de optimización.
• Aprendizaje por corrección de error.
• Aprendizaje basado en memoria.
• Aprendizaje de Hebb.
• Aprendizaje competitivo.

Perceptrones de una sola capa

• Estructura y aprendizaje de los perceptrones.
• Clasificador de patrones - introducción y clasificadores de Bayes.
• El perceptrón como clasificador de patrones.
• Convergencia del perceptrón.
• Limitaciones de los perceptrones.

RNA Feedforward (de propagación hacia adelante)

• Estructuras de redes feedforward multicapa.
• Algoritmo de retropropagación (Backpropagation).
• Retropropagación - entrenamiento y convergencia.
• Aproximación funcional con retropropagación.
• Cuestiones prácticas y de diseño del aprendizaje por retropropagación.

Redes de Funciones Base Radial (RBF)

• Separabilidad de patrones e interpolación.
• Teoría de regularización.
• Regularización y redes RBF.
• Diseño y entrenamiento de redes RBF.
• Propiedades de aproximación de las RBF.

Aprendizaje Competitivo y RNA Autoorganizada

• Procedimientos generales de agrupamiento (clustering).
• Cuantización Vectorial de Aprendizaje (LVQ).
• Algoritmos y arquitecturas de aprendizaje competitivo.
• Mapas de características autoorganizados.
• Propiedades de los mapas de características.

Redes Neuronales Difusas (Fuzzy)

• Sistemas neuro-difusos.
• Fundamentos de conjuntos difusos y lógica difusa.
• Diseño de sistemas difusos.
• Diseño de RNA difusas.

Aplicaciones

• Se discutirán algunos ejemplos de aplicaciones de redes neuronales, así como sus ventajas y problemas.

DÍA 2 - APRENDIZAJE AUTOMÁTICO (MACHINE LEARNING)

• Marco de Aprendizaje PAC (Probably Approximately Correct)
  • Garantías para conjunto de hipótesis finito – caso consistente
  • Garantías para conjunto de hipótesis finito – caso inconsistente
  • Generalidades
    • Escenarios determinísticos vs. estocásticos
    • Ruido de error de Bayes
    • Errores de estimación y aproximación
    • Selección de modelo
• Complejidad de Rademacher y Dimensión VC
• Compromiso sesgo-varianza
• Regularización
• Sobreajuste (Overfitting)
• Validación
• Máquinas de Vectores de Soporte (SVM)
• Kriging (regresión de procesos gaussianos)
• PCA y PCA de núcleos (Kernel PCA)
• Mapas de Autoorganización (SOM)
• Espacio vectorial inducido por núcleos (Kernels)
  • Núcleos de Mercer y métricas de similitud inducidas por núcleos
• Aprendizaje por Refuerzo (Reinforcement Learning)

DÍA 3 - APRENDIZAJE PROFUNDO (DEEP LEARNING)

Este tema se enseñará en relación con los contenidos cubiertos en el Día 1 y el Día 2

• Regresión Logística y Softmax
• Autoencoders Esparcidos (Sparse Autoencoders)
• Vectorización, PCA y Blanqueamiento (Whitening)
• Aprendizaje Autosuficiente (Self-Taught Learning)
• Redes Profundas
• Decodificadores Lineales
• Convolución y Pooling
• Codificación Esparcida (Sparse Coding)
• Análisis de Componentes Independientes (ICA)
• Análisis de Correlación Canónica (CCA)
• Demos y Aplicaciones