GOLQUI
Volver a la Galería de Conceptos
Modelos & Representación
Maestría IA — AI Wiki

Temperatura (Temperature Parameter)

Parámetro de control que regula el grado de aleatoriedad y diversidad en la selección de tokens.

TemperatureLogitsSoftmaxGreedy SearchGeneration Parameter

Definición Técnica & Formal

La Temperatura es un escalar numérico (0.0 a 1.0+) que divide los logits proyectados por la capa final del Transformer antes de aplicar la función Softmax. Una temperatura de 0.0 (Greedy Search) siempre elige el token de máxima probabilidad, produciendo respuestas deterministas. Temperaturas más altas aplanan la distribución aumentando la variabilidad y creatividad.

Puntos Clave & Aplicaciones

Temperatura 0.0: Ideal para generación de código, extracción de datos estructurados y RAG.
Temperatura 0.7 - 0.9: Recomendada para redacción creativa, lluvia de ideas y storytelling.
Interactúa directamente con estrategias de muestreo Top-P y Top-K.
Intuición Visual para Mente Gráfica

"Un selector de música: temperatura 0.0 siempre reproduce el éxito número 1; temperatura 0.8 explora canciones variadas de toda la lista."

💡 Tip: Puedes presionar el botón "Dibujar / Apuntes" en la barra superior para hacer anotaciones gráficas sobre este diagrama.

Fórmula Matemática

Softmax(z_i / T)

Demostración Visual e Interactiva

Interactúa con los controles para simular dinámicamente el funcionamiento de Temperatura (Temperature Parameter).

Creativo / Storytelling
Filtra tokens hasta sumar 90% de probabilidad acumulada.

Distribución de Probabilidades para la frase "El resultado es: [...]"

"42"
94%
"100"
4%
"azul"
1%
"banana"
0%

Ejemplo de Código & Demostración

python
import numpy as np

def apply_temperature(logits, temperature=0.7):
    if temperature == 0:
        return np.argmax(logits)
    scaled_logits = logits / temperature
    exp_logits = np.exp(scaled_logits - np.max(scaled_logits))
    probs = exp_logits / np.sum(exp_logits)
    return np.random.choice(len(probs), p=probs)

logits = np.array([2.0, 1.5, 0.1])
token_selected = apply_temperature(logits, temperature=0.2)
print("Token seleccionado:", token_selected)
💡 Escalado de logits con parámetro de temperatura y cálculo de probabilidades Softmax.

Conceptos Relacionados

LLM Model Dimensiones & Embeddings
La longitud o número de números flotantes (D) que componen el vector de representación de un modelo de IA.
Transformer Architecture
Arquitectura fundacional de red neuronal basada en mecanismos de Auto-Atención (Self-Attention) para procesar secuencias en paralelo.
Sampling (Top-P & Top-K)
Técnicas de truncamiento de la distribución de probabilidad para filtrar tokens irrelevantes.