En un post pasado vimos una introducción a la interpretabilidad mecanicista. Vimos que una sola neurona de un modelo de lenguaje (LLM) se activa ante conceptos completamente diferentes y que los SAEs (Sparse Autoencoders) descomponen estas activaciones complejas en características o conceptos (features) dispersos y monosemánticos (que significan una sola cosa). También referenciamos tutoriales de... Seguir leyendo →
Introducción a la interpretabilidad mecanicista de los LLMs
La interpretabilidad mecanicista tiene como objetivo aplicar ingeniería inversa a los pesos y activaciones aprendidos en los modelos de lenguaje de gran tamaño (LLMs) y modelos basados en redes neuronales para convertirlos en algoritmos comprensibles para los seres humanos. En lugar de tratar los modelos como cajas negras o depender de atribuciones de características de... Seguir leyendo →
LoRA para adaptación eficiente
LoRA (Low-Rank Adaptation) es una técnica ideada en 2021 por un equipo de investigadores de Microsoft que reduce drásticamente el número de parámetros entrenables en modelos de lenguaje de gran tamaño. En el ajuste fino tradicional, el modelo ajusta una matriz de pesos para obtener la matriz adaptada. LoRA congela el modelo base y calcula... Seguir leyendo →
Recursos (memoria) para LLMs en producción
Debido al auge que han tenido los LLMs (grandes modelos de lenguaje), que consumen grandes recursos (procesador, memoria, almacenamiento) durante su entrenamiento, es también importante estimar el consumo de recursos cuando desplegamos esos modelos en producción. De hecho, la escalada de precios actual de la memoria RAM, HBM (Memoria de Alto Ancho de Banda) y... Seguir leyendo →
Deep learning y sistemas complejos
El objetivo de este proyecto es desarrollar y divulgar conocimiento de sistemas complejos, ciencia de redes y especialmente relacionar el deep learning y los sistemas complejos. Complementar los modelos de sistemas complejos con deep learning, aplicarlo sobre datos representados en redes tanto para resolver problemas sobre redes (clasificación de nodos, enlaces, propiedades de las redes,... Seguir leyendo →
Curso IA y deep learning con PyTorch
Hemos creado una serie de tutoriales para introducir uno de los frameworks de inteligencia artificial y deep learning más avanzados, PyTorch, y sus principales módulos. A continuación se puede ver un listado con las partes del curso: Programación orientada a objetos en PyTorch. Tensores en PyTorch. Almacenamiento de tensores en PyTorch. Módulo de redes neuronales.... Seguir leyendo →
Regresión simbólica con GPlearn
La regresión simbólica es un modelo de machine learning que busca en el espacio de posibles expresiones matemáticas la expresión que mejor se ajusta a los datos. Al contrario que otras técnicas de regresión, como la regresión lineal, no se especifica una estructura previa del modelo a optimizar sino que va construyendo expresiones matemáticas aleatoriamente.... Seguir leyendo →
Riesgo de las startups dependientes de modelos generativos de terceros
En un post pasado describimos la cadena de valor de los modelos generativos como ChatGPT y en otro analizamos si hay una burbuja en la inteligencia artificial (IA) generativa debido a la gran cantidad de startups que están surgiendo. En dichos posts identificamos las siguientes partes de la cadena de valor de los modelos generativos:... Seguir leyendo →
Modelos discriminativos y generativos en deep learning
Una pregunta que siempre nos planteamos en machine learning y en deep learning es la diferencia entre algoritmos discriminativos y generativos y cuál escoger para un problema concreto. Los algoritmos discriminativos modelan la dependencia de una variable objetivo Y en función de una variable observada X. De esta forma se puede predecir la variable Y ... Seguir leyendo →
¿Una burbuja en la IA generativa?
En los últimos meses hemos visto mucha discusión sobre si la IA generativa es una burbuja económica o no. Ahora parece que todas las startups tienen algún componente de IA generativa. Recientemente, Financial Times nos dio su visión escéptica. Bank of America primero dijo que era una burbuja y luego se desdijo. Goldman Sachs a... Seguir leyendo →
