← Biblioteca 02

Receta Q4_K_L en Qwen3-8B-GGUF

Q4_K_LGGUFcuantización

Ficha

Tipo
model card comunitaria
Autor / canal
bartowski
Idioma
inglés
Fecha
2025-04-28
Estado de evidencia
Compatible sin probar
Procedencia
Comunitaria anecdótica

Abrir fuente original

Resumen original

Esta model card comunitaria documenta una receta concreta llamada Q4_K_L para un artefacto Qwen3-8B: cuantización base acompañada de embeddings y salida en Q8_0, generada con una revisión identificada de llama.cpp y una importance matrix. Su utilidad es semántica y operativa. Demuestra qué quiso decir el productor con ese sufijo en ese repositorio y ofrece tamaño y archivos verificables. También evidencia por qué el nombre no debe generalizarse sin inspección: distintas colecciones pueden aplicar mezclas o convenciones diferentes. La recomendación de calidad del autor no viene acompañada aquí de una batería que permita trasladarla a Ornith. Esta fuente tampoco prueba el origen, hash o composición del GGUF activo del Atlas, ni rendimiento, visión, MTP o KV. Se marca de forma explícita como comunitaria y anecdótica; no es prueba técnica de resultados locales. Para Ornith, funciona como pista para inspeccionar tensores y metadata del archivo activo y para redactar una definición verificable del baseline. Conviene leerla cuando un nombre de archivo Q4_K_L se usa como si fuera una especificación completa. La acción posterior es obtener hash, model card y receta del artefacto exacto, no copiar la definición de otro modelo.

Qué enseña

Una definición concreta y verificable de Q4_K_L usada por un productor de GGUF.

Qué no demuestra

No prueba que todos los Q4_K_L compartan receta ni que Ornith conserve calidad o capacidades.

Relación con Ornith

Sirve como pista para auditar qué significa el sufijo del GGUF activo, nunca como equivalencia automática.

Resumen en audio

Leer transcripción del resumen