Definitions
El razonamiento latente es la idea de que un modelo de lenguaje puede llevar parte de su proceso de razonamiento dentro de vectores continuos del estado oculto en lugar de sólo a través de palabras explícitas. En un LLM, el impulso se proyecta en representaciones de alta dimensión, transformadas a través de capas modelo y decodificadas en texto. La investigación sobre el razonamiento latente trata a un estado oculto final modelo como una representación reutilizable de un pensamiento intermedio, permitiendo que el razonamiento continúe directamente en el espacio latente.
Latent reasoning is the idea that a language model can carry part of its reasoning process inside continuous hidden-state vectors instead of only through explicit words. In an LLM, the prompt is projected into high-dimensional representations, transformed through model layers, and decoded into text. Research on latent reasoning treats a model final hidden state as a reusable representation of an intermediate thought, allowing reasoning to continue directly in latent space.
“Instead of forcing every reasoning step into written text, an experiment may feed a hidden-state vector back into the model and let the next step happen in latent space.”