Atlas integrado · v4.7 · 23 septiembre 2026
- Perfiles, pruebas y resultados históricos
Perfiles, pruebas y resultados históricos
Recuperación de sólo lectura: 23-09-2026. Las corridas de esta página son del 17-09-2026. No se repitieron, no se reinició ningún motor y no se activó ninguno de estos perfiles. El perfil observado en GPU0 es sólo una entrada, no toda nuestra historia.
Corrección de trazabilidad: las notas previas dejaban P3/P4 pendientes porque no mostraban su final. Los archivos originales recuperados ahora sí contienen resúmenes completos. Un resumen histórico no certifica el estado actual del servidor ni la corrección del evaluador.
Matriz llama.cpp: pesos iguales, caché y DFlash distintos
Modelo de estas suites: Ornith 1.5 9B Q4_K_L. Los sufijos Q4/Q8 de las filas describen caché K/V, no nuevos pesos. Cada bloque usa su propia carga; no ordenar cifras de bloques distintos como si fueran un benchmark común. FAIL no equivale a velocidad cero ni a un diagnóstico de causa.
| Perfil | Contexto configurado | K / V | DFlash | VRAM MiB | Prefill tok/s | Generación tok/s | Estado |
|---|---|---|---|---|---|---|---|
| A-q4q4-dflash | 262144 | q4_0 / q4_0 | on | 16174 | 32.01 | 88.42 | Medición; calidad no establecida por esta tabla |
| B-q8q4-dflash | 262144 | q8_0 / q4_0 | on | 17198 | 32.07 | 97.38 | Medición; calidad no establecida por esta tabla |
| C-q8q8-dflash | 262144 | q8_0 / q8_0 | on | 18222 | 31.96 | 109.07 | Medición; calidad no establecida por esta tabla |
| D-q4q4-base | 262144 | q4_0 / q4_0 | off | 10262 | 213.62 | 98.59 | Medición; calidad no establecida por esta tabla |
| E-q8q4-base | 262144 | q8_0 / q4_0 | off | 11286 | 208.85 | 97.87 | Medición; calidad no establecida por esta tabla |
| F-q4q4-no-fa | 262144 | q4_0 / q4_0 | off | FAIL | — | — | Fallo registrado |
| G-q8q8-base | 262144 | q8_0 / q8_0 | off | 12310 | 485.60 | 79.61 | Medición; calidad no establecida por esta tabla |
| H-q4q4-draftq4 | 262144 | q4_0 / q4_0 | on | 15352 | 336.40 | 109.92 | Medición; calidad no establecida por esta tabla |
| I-q8q4-draftq4 | 262144 | q8_0 / q4_0 | on | 16376 | 335.50 | 108.67 | Medición; calidad no establecida por esta tabla |
| J-q8q8-draftq4 | 262144 | q8_0 / q8_0 | on | 17400 | 339.08 | 111.50 | Medición; calidad no establecida por esta tabla |
| K-512-q4q4-dflash | 524288 | q4_0 / q4_0 | on | 20300 | 326.70 | 86.17 | Medición; calidad no establecida por esta tabla |
| L-512-q8q8-dflash | 524288 | q8_0 / q8_0 | on | FAIL | — | — | Fallo registrado |
| M-512-q4q4-base | 524288 | q4_0 / q4_0 | off | 14616 | 475.84 | 96.57 | Medición; calidad no establecida por esta tabla |
No se promueve DFlash por una cifra de tokens/s: hay que medir calidad, aceptación del borrador, prefill, contexto, memoria y carga completa. Las filas 512K describen configuración/medición de esa suite, no una evaluación universal de 512K. Los scripts históricos pueden parar y recrear servicios; descárgalos para revisión, no los ejecutes sobre GPU0.
P1: reutilización de caché
Cada caso tiene 15 muestras; el resumen usa 12 en régimen estable. Las latencias son las definidas por el script de la suite. Reporte original
| Caso | TTFT mediano ms | Reuso mediano % | Tokens procesados medianos |
|---|---|---|---|
| P1-A-cache-on-same | 161.93 | 99.48 | 31.00 |
| P1-B-cache-on-rotate | 3421.65 | 49.22 | 9005.50 |
| P1-C-cache-off-same | 6114.08 | 0.00 | 17933.00 |
| P1-D-cache-off-rotate | 6436.19 | 0.00 | 17933.00 |
| P1-E-cold | 5871.94 | 0.00 | 17933.00 |
La diferencia observada entre prefijo idéntico con caché y sin ella no implica que cualquier conversación tendrá esa latencia; cambiar el prefijo modifica el trabajo reutilizable.
P1-F: revisitar prefijos
| Caso | Revisitas | Revisitas calientes | TTFT mediano ms |
|---|---|---|---|
| F12 | 24 | 24 | 452.84 |
| F3 | 6 | 6 | 416.78 |
| F6 | 12 | 12 | 464.06 |
P2: recuperación de marcadores en contexto largo
Reporte original · Modelo, imagen y parámetros
| Variante | Casos aprobados | Prompt mediano reportado por servidor | Tiempo total mediano s |
|---|---|---|---|
| P2-NATIVE-262K | 2/2 | 245165.50 | 164.94 |
| P2-YARN-512K | 2/2 | 500156.50 | 490.91 |
Ambas variantes terminaron con stop. Son dos casos de recuperación por variante, no prueba suficiente de razonamiento general, estabilidad prolongada o múltiples contextos máximos concurrentes. La variante YaRN es extrapolación configurada; no se cambia el límite oficial del modelo por este resultado.
P3 y P3B: no confundir evaluadores
P3 inicial y P3B estricto no comparten criterio de aprobación; no se deben mezclar sus porcentajes.
P3
| Presupuesto | Aprobados | Formato correcto | Mediana total s |
|---|---|---|---|
| 256 | 3/3 | 3/3 | 25.58 |
| 1024 | 2/3 | 3/3 | 19.98 |
| 2048 | 1/3 | 2/3 | 33.81 |
P3B estricto
| Presupuesto | Aprobados | Formato correcto | Mediana total s |
|---|---|---|---|
| 256 | 0/5 | 0/5 | 14.90 |
| 512 | 0/5 | 2/5 | 18.18 |
| 1024 | 0/5 | 3/5 | 13.28 |
| 2048 | 5/5 | 5/5 | 19.30 |
En P3B, 2048 obtuvo 5/5 y los otros presupuestos 0/5 en aceptación estricta. Es evidencia de ese examen y ese criterio, no un presupuesto óptimo universal. Algunos casos de presupuestos menores sí cerraron correctamente y/o tuvieron formato válido: terminar no equivale a acertar.
P4: concurrencia, geometría y estrés
Seis solicitudes simultáneas por ronda, tres rondas frías por geometría; presupuesto de razonamiento 2048 y salida máxima 4096. Reporte original · Manifiesto de ejecución · 54 resultados por solicitud
| Perfil | Slots | Capacidad configurada por slot | Aprobados | Tok/s agregados medianos | Pico VRAM MiB | Máx. °C |
|---|---|---|---|---|---|---|
| G3-256K | 3 | 262144 | 14/18 | 113.43 | 17066.00 | 80.00 |
| G4-192K | 4 | 196608 | 15/18 | 95.97 | 16858.00 | 76.00 |
| G4-160K | 4 | 163840 | 16/18 | 109.86 | 15068.00 | 76.00 |
No son tres o cuatro prompts de 256K llenos. La columna indica capacidad configurada por slot; la carga es el examen concurrente de la suite. Ninguna geometría pasó todos los casos. Las tasas agregadas no son velocidad por usuario. El máximo de 80 °C es un dato histórico, no una declaración de operación segura continua.
Las tres filas se reconciliaron con los 54 registros individuales; eso comprueba el agregado, no vuelve a puntuar las respuestas ni repite la inferencia. Cada geometría conserva sus argumentos en los archivos G3-256K-last-args.json, G4-192K-last-args.json y G4-160K-last-args.json del catálogo.
Otros motores y estado observado
El manual de instalación conserva SGLang FP8, INT8/BF16 8K, INT8 E5M2 256K, vLLM NF4 y AWQ+KV4. Sus pruebas tienen cargas distintas. El resumen modular se puede descargar sin buscar dentro del ZIP.
El proceso de GPU0 descrito en el manual fue observado el 23-09-2026. No convierte los perfiles de 17-09 en configuraciones actualmente activas. No se volvió a medir throughput ni a cambiar procesos en esta actualización.
Cómo encontrar y repetir una prueba
Usa Buscar archivos para ver ruta remota, miembro del ZIP y descarga. Fija modelo/hash, imagen/commit, flags, entrada, semilla, evaluador y condiciones de temperatura. Repite primero una carga pequeña en una GPU reservada; no lances las suites históricas contra servicios activos.
Estados separados: configurado, ejecutado, aprobado en una carga concreta, fallido, incompleto. No convertir un archivo de parámetros, HTTP 200 o memoria reservada en prueba de calidad.