En posts pasados hemos visto cómo funcionan los mecanismos de atención y como han supuesto un fuerte avance en el campo del deep learning.
En el cerebro, los mecanismos de atención permiten al cerebro centrarse en una parte de la entrada (imagen, texto, cualquier percepción) y darle menos atención a otras. Esta es una función muy importante ya que permite realizar un razonamiento secuencial basándose en la percepción o la memoria.
De la misma manera, en aprendizaje automático, los mecanismos de atención permiten guiar una tarea focalizándose en una parte de la entrada, de un elemento intermedio o de una memoria.
En este artículo en la revista Entropy, exploramos los mecanismos de atención en machine learning, su descripción, porque han supuesto un avance en el aprendizaje automático, sus modos de empleo y sus principales aplicaciones para modelar sistemas complejos.
Deja una respuesta