El teorema No-Free-Lunch (NFL) de optimización nos dice que no existe un algoritmo de aprendizaje universal. En tareas de clasificación, para cada algoritmo de aprendizaje, siempre existirá una distribución de probabilidad (que genera los datos entrada-salida) en la que falle. Una definición intuitiva, como la aportada en el libro de Shalev-Shwartz y Ben-David, establece que... Seguir leyendo →
Autograd, clave de la flexibilidad de PyTorch
Esta entrada es parte del curso de Deep learning con PyTorch. En los últimos dos años hemos visto como PyTorch, el framework basado en Torch para Deep Learning creado por Facebook, está siendo una alternativa potente a Tensorflow. Una de las principales ventajas de PyTorch es que es un framework imperativo, en el que las... Seguir leyendo →
Neurociencias, inspiración para el machine learning
En un post pasado analizamos las relaciones entre el campo del machine learning y las neurociencias. Vimos, que de las relaciones existentes, un área bastante productiva y prometedora es el desarrollo de algoritmos de machine learning inspirados en el procesamiento de información en el cerebro. En la actualidad existe un debate sobre si hace falta... Seguir leyendo →
Problema del desvanecimiento del gradiente (vanishing gradient problem)
Como hemos comentado en otros posts, en los modelos de machine learning el objetivo es encontrar los parámetros del modelo que minimizan una función de coste. En redes neuronales se usa el algoritmo de descenso por gradiente, que va realizando sobre los parámetros iteraciones proporcionales al valor negativo del gradiente en el punto actual. El... Seguir leyendo →
Aumentando la explicabilidad de los algoritmos de machine learning
En los últimos años hemos visto un aumento del uso de algoritmos de machine learning y deep learning para resolver problemas de clasificación de imágenes, predicción de series, aprendizaje reforzado, procesamiento de lenguaje, etc. Sin embargo, con el aumento de la complejidad de los algoritmos utilizados, como es el caso del deep learning, es muy... Seguir leyendo →
Por qué el deep learning funciona tan bien?
En los últimos años hemos visto un gran desarrollo y éxito del deep learning en el aprendizaje automático y la inteligencia artificial. El deep learning utiliza redes neuronales con muchas capas en las que cada capa extrae información de la capa anterior formando una jerarquía de representaciones. Como hemos comentado en otras entradas, el éxito... Seguir leyendo →
