Atlas integrado · v4.7 · 23 septiembre 2026

Perfiles, pruebas y resultados históricos

Recuperación de sólo lectura: 23-09-2026. Las corridas de esta página son del 17-09-2026. No se repitieron, no se reinició ningún motor y no se activó ninguno de estos perfiles. El perfil observado en GPU0 es sólo una entrada, no toda nuestra historia.

Corrección de trazabilidad: las notas previas dejaban P3/P4 pendientes porque no mostraban su final. Los archivos originales recuperados ahora sí contienen resúmenes completos. Un resumen histórico no certifica el estado actual del servidor ni la corrección del evaluador.

Matriz llama.cpp: pesos iguales, caché y DFlash distintos

Modelo de estas suites: Ornith 1.5 9B Q4_K_L. Los sufijos Q4/Q8 de las filas describen caché K/V, no nuevos pesos. Cada bloque usa su propia carga; no ordenar cifras de bloques distintos como si fueran un benchmark común. FAIL no equivale a velocidad cero ni a un diagnóstico de causa.

Perfil Contexto configurado K / V DFlash VRAM MiB Prefill tok/s Generación tok/s Estado
A-q4q4-dflash 262144 q4_0 / q4_0 on 16174 32.01 88.42 Medición; calidad no establecida por esta tabla
B-q8q4-dflash 262144 q8_0 / q4_0 on 17198 32.07 97.38 Medición; calidad no establecida por esta tabla
C-q8q8-dflash 262144 q8_0 / q8_0 on 18222 31.96 109.07 Medición; calidad no establecida por esta tabla
D-q4q4-base 262144 q4_0 / q4_0 off 10262 213.62 98.59 Medición; calidad no establecida por esta tabla
E-q8q4-base 262144 q8_0 / q4_0 off 11286 208.85 97.87 Medición; calidad no establecida por esta tabla
F-q4q4-no-fa 262144 q4_0 / q4_0 off FAIL — — Fallo registrado
G-q8q8-base 262144 q8_0 / q8_0 off 12310 485.60 79.61 Medición; calidad no establecida por esta tabla
H-q4q4-draftq4 262144 q4_0 / q4_0 on 15352 336.40 109.92 Medición; calidad no establecida por esta tabla
I-q8q4-draftq4 262144 q8_0 / q4_0 on 16376 335.50 108.67 Medición; calidad no establecida por esta tabla
J-q8q8-draftq4 262144 q8_0 / q8_0 on 17400 339.08 111.50 Medición; calidad no establecida por esta tabla
K-512-q4q4-dflash 524288 q4_0 / q4_0 on 20300 326.70 86.17 Medición; calidad no establecida por esta tabla
L-512-q8q8-dflash 524288 q8_0 / q8_0 on FAIL — — Fallo registrado
M-512-q4q4-base 524288 q4_0 / q4_0 off 14616 475.84 96.57 Medición; calidad no establecida por esta tabla

No se promueve DFlash por una cifra de tokens/s: hay que medir calidad, aceptación del borrador, prefill, contexto, memoria y carga completa. Las filas 512K describen configuración/medición de esa suite, no una evaluación universal de 512K. Los scripts históricos pueden parar y recrear servicios; descárgalos para revisión, no los ejecutes sobre GPU0.

P1: reutilización de caché

Cada caso tiene 15 muestras; el resumen usa 12 en régimen estable. Las latencias son las definidas por el script de la suite. Reporte original

Caso TTFT mediano ms Reuso mediano % Tokens procesados medianos
P1-A-cache-on-same 161.93 99.48 31.00
P1-B-cache-on-rotate 3421.65 49.22 9005.50
P1-C-cache-off-same 6114.08 0.00 17933.00
P1-D-cache-off-rotate 6436.19 0.00 17933.00
P1-E-cold 5871.94 0.00 17933.00

La diferencia observada entre prefijo idéntico con caché y sin ella no implica que cualquier conversación tendrá esa latencia; cambiar el prefijo modifica el trabajo reutilizable.

P1-F: revisitar prefijos

Reporte original

Caso Revisitas Revisitas calientes TTFT mediano ms
F12 24 24 452.84
F3 6 6 416.78
F6 12 12 464.06

P2: recuperación de marcadores en contexto largo

Reporte original · Modelo, imagen y parámetros

Variante Casos aprobados Prompt mediano reportado por servidor Tiempo total mediano s
P2-NATIVE-262K 2/2 245165.50 164.94
P2-YARN-512K 2/2 500156.50 490.91

Ambas variantes terminaron con stop. Son dos casos de recuperación por variante, no prueba suficiente de razonamiento general, estabilidad prolongada o múltiples contextos máximos concurrentes. La variante YaRN es extrapolación configurada; no se cambia el límite oficial del modelo por este resultado.

P3 y P3B: no confundir evaluadores

P3 inicial y P3B estricto no comparten criterio de aprobación; no se deben mezclar sus porcentajes.

P3

Reporte original

Presupuesto Aprobados Formato correcto Mediana total s
256 3/3 3/3 25.58
1024 2/3 3/3 19.98
2048 1/3 2/3 33.81

P3B estricto

Reporte original

Presupuesto Aprobados Formato correcto Mediana total s
256 0/5 0/5 14.90
512 0/5 2/5 18.18
1024 0/5 3/5 13.28
2048 5/5 5/5 19.30

En P3B, 2048 obtuvo 5/5 y los otros presupuestos 0/5 en aceptación estricta. Es evidencia de ese examen y ese criterio, no un presupuesto óptimo universal. Algunos casos de presupuestos menores sí cerraron correctamente y/o tuvieron formato válido: terminar no equivale a acertar.

P4: concurrencia, geometría y estrés

Seis solicitudes simultáneas por ronda, tres rondas frías por geometría; presupuesto de razonamiento 2048 y salida máxima 4096. Reporte original · Manifiesto de ejecución · 54 resultados por solicitud

Perfil Slots Capacidad configurada por slot Aprobados Tok/s agregados medianos Pico VRAM MiB Máx. °C
G3-256K 3 262144 14/18 113.43 17066.00 80.00
G4-192K 4 196608 15/18 95.97 16858.00 76.00
G4-160K 4 163840 16/18 109.86 15068.00 76.00

No son tres o cuatro prompts de 256K llenos. La columna indica capacidad configurada por slot; la carga es el examen concurrente de la suite. Ninguna geometría pasó todos los casos. Las tasas agregadas no son velocidad por usuario. El máximo de 80 °C es un dato histórico, no una declaración de operación segura continua.

Las tres filas se reconciliaron con los 54 registros individuales; eso comprueba el agregado, no vuelve a puntuar las respuestas ni repite la inferencia. Cada geometría conserva sus argumentos en los archivos G3-256K-last-args.json, G4-192K-last-args.json y G4-160K-last-args.json del catálogo.

Otros motores y estado observado

El manual de instalación conserva SGLang FP8, INT8/BF16 8K, INT8 E5M2 256K, vLLM NF4 y AWQ+KV4. Sus pruebas tienen cargas distintas. El resumen modular se puede descargar sin buscar dentro del ZIP.

El proceso de GPU0 descrito en el manual fue observado el 23-09-2026. No convierte los perfiles de 17-09 en configuraciones actualmente activas. No se volvió a medir throughput ni a cambiar procesos en esta actualización.

Cómo encontrar y repetir una prueba

Usa Buscar archivos para ver ruta remota, miembro del ZIP y descarga. Fija modelo/hash, imagen/commit, flags, entrada, semilla, evaluador y condiciones de temperatura. Repite primero una carga pequeña en una GPU reservada; no lances las suites históricas contra servicios activos.

Estados separados: configurado, ejecutado, aprobado en una carga concreta, fallido, incompleto. No convertir un archivo de parámetros, HTTP 200 o memoria reservada en prueba de calidad.