En la base de muchos algoritmos de machine learning está encontrar los parámetros del modelo que minimizan una función de coste dados los datos de entrenamiento. Este problema de optimización es clave ya que si tenemos garantizada su solución podremos encontrar los parámetros que minimizan el error. Las claves para que este problema de optimización... Seguir leyendo →
Ejemplo de Word Embeddings con Gensim
En posts anteriores vimos como las representaciones distribuidas permiten extraer mucha información de las palabras y mejorar el rendimiento de las aplicaciones de procesamiento de lenguaje natural. Uno de los modelos más usados es Word2vec, creado en 2013 por Tomas Mikolov en Google, que se basa en redes neuronales de varias capas y tiene dos... Seguir leyendo →
Word2vec, representaciones distribuidas en procesamiento de lenguaje
En un post anterior vimos como el uso de representaciones distribuidas en procesamiento de lenguaje natural permite extraer mucha más información y realizar un procesado más eficiente que las representaciones locales. El objetivo de las representaciones distribuidas del lenguaje es encontrar una función f que sea capaz de convertir cada palabra en un vector de... Seguir leyendo →
Machine learning, aportando valor a la inversión
En un post anterior de machine learning aplicado a las finanzas vimos cómo y en qué casos puede el machine learning aportar valor a la inversión. En el mundo de la inversión, cualquier herramienta que aporte una ventaja competitiva al inversor puede ser de gran ayuda. El machine learning, unido a la disponibilidad de gran... Seguir leyendo →
Aumentando la explicabilidad de los algoritmos de machine learning
En los últimos años hemos visto un aumento del uso de algoritmos de machine learning y deep learning para resolver problemas de clasificación de imágenes, predicción de series, aprendizaje reforzado, procesamiento de lenguaje, etc. Sin embargo, con el aumento de la complejidad de los algoritmos utilizados, como es el caso del deep learning, es muy... Seguir leyendo →
Representaciones distribuidas para procesamiento de lenguaje natural
En un post anterior vimos la importancia de las representaciones distribuidas en machine learning y cómo permiten captar la estructura estadística y los factores que explican la variación de los datos. En el procesamiento del lenguaje natural también es muy importante cómo representemos el texto ya que nos condicionará el proceso de aprendizaje. La representación... Seguir leyendo →
Método de Monte Carlo basado en cadenas de Markov
Cuando aplicamos modelos probabilísticos a los datos normalmente es necesario integrar distribuciones de probabilidad complejas. El ejemplo más sencillo lo tenemos en el cálculo del valor esperado. En ocasiones estas integrales no se pueden calcular analíticamente y se usan métodos numéricos de muestreo para aproximar la integral. El conocido método de Monte Carlo genera muestras... Seguir leyendo →
Teoría de la Información en Deep Learning
Cuando hablábamos sobre información relevante y suficiente en machine learning describíamos el método del cuello de botella de la información (information bottleneck method) de Tishby. El método calcula cuánto resumir o reducir la variable X preservando la máxima información sobre la variable relevante objetivo Y usando la información mutua. En los últimos años Tishby y... Seguir leyendo →
Machine learning, aportando valor en finanzas (inversión)
Conforme el machine learning va penetrando en los diferentes sectores de la economía, una de las preguntas que más se repite es qué impacto tendrá en el sector financiero y si supondrá una auténtica revolución. Para responder a esa pregunta es necesario tener claro cómo y en qué casos puede aportar valor el machine learning... Seguir leyendo →
Importancia de las representaciones distribuidas
Una de las claves del éxito del Deep Learning ha sido la capacidad de las redes neuronales con muchas capas de extraer representaciones distribuidas de los datos y de esa forma facilitar el proceso de entrenamiento y aprendizaje. Estas representaciones distribuidas permiten captar la estructura estadística y los factores que explican la variación de los... Seguir leyendo →
