#latent-space

Las operaciones latentes son ediciones, traversales o mediciones realizadas en vectores dentro de un espacio latente modelo. Las operaciones comunes incluyen cambiar un vector a lo largo de una dirección aprendida, interpolar entre dos vectores, restar un vector de concepto de otro, enmascarar dimensiones o muestrear puntos cercanos. Estas operaciones se utilizan para explorar cómo un modelo organiza conceptos y guía generación sin reescribir todo el modelo.

El razonamiento latente es la idea de que un modelo de lenguaje puede llevar parte de su proceso de razonamiento dentro de vectores continuos del estado oculto en lugar de sólo a través de palabras explícitas. En un LLM, el impulso se proyecta en representaciones de alta dimensión, transformadas a través de capas modelo y decodificadas en texto. La investigación sobre el razonamiento latente trata a un estado oculto final modelo como una representación reutilizable de un pensamiento intermedio, permitiendo que el razonamiento continúe directamente en el espacio latente.

La cirugía espacial latente es una técnica de edición modelo que identifica direcciones en un espacio latente correspondiente a conceptos, estilos o comportamientos, luego añade, resta o humecta esas direcciones para cambiar salidas o representaciones internas. En lugar de volver a entrenar un modelo completo, los practicantes pueden utilizar ediciones de vectores dirigidas a comportamientos de fangos, tales como mover una música incrustando desde una dirección clásica hacia una dirección de jazz.