← Curso agentivo

Cuantización: pesos y KV

Módulo 3 · v4.3

Descargar MP3 · Abrir guion

Objetivo

Separar peso Q4 de KV Q4/Q8 y diseñar A/B a 8K, 32K y 98K.

Prerequisitos

Lectura del Atlas y comprensión básica de mensajes, herramientas y límites de ejecución.

Estado de evidencia

Demostrado: vLLM activo usa KV INT4. Pendiente de trazabilidad: KV Q8 y métricas históricas.

Video verificado

No hay video incluido para este módulo; la lectura técnica es la fuente principal.

Lectura y resumen

Consultar Atlas v4.3, sección correspondiente. El resumen es original y conserva las etiquetas de evidencia.

Práctica segura

Diseñar fixtures, manifests o tablas con datos sintéticos y mocks locales; no tocar servicios, pesos, flags ni datos privados.

Criterio de éxito

Resultado reproducible, etiquetado y sin convertir hipótesis en resultados; conservar hashes y métricas permitidas.

Fuentes

Fuentes primarias enlazadas desde el Atlas v4.3.