GRPO paso a paso para ajustar LLMs

GRPO (Group Relative Policy Optimization) es un algoritmo de aprendizaje por refuerzo para afinar LLMs, creado por DeepSeek. Es clave en DeepSeek-R1. Es una variante de PPO (Proximal Policy Optimization) que elimina la necesidad de un modelo crítico (value network).  Para cada prompt genera un grupo de respuestas, cada una recibe una recompensa (usando una... Seguir leyendo →

Orgullosamente ofrecido por WordPress | Tema: Baskerville 2 por Anders Noren.

Subir ↑