S5-nano se distribuye en GGUF con los mejores puntajes brasileños

S5-nano, el modelo de 4 mil millones de parámetros de Maritaca AI, obtiene los mejores puntajes en benchmarks brasileños entre los modelos de su tamaño, a la vez que conserva las capacidades de tool-calling y salida estructurada. Las compilaciones GGUF llevan el modelo a los usuarios de llama.cpp para ejecutarlo localmente. — huggingface.co

Cuantizaciones GGUF de Emma-6 llevan el modelo italiano a llama.cpp

Una conversión no oficial empaqueta la Emma-6 de Egomnia, un modelo concebido ante todo para el italiano y de aproximadamente 1.500 millones de parámetros, como cuantizaciones GGUF para inferencia local con llama.cpp. — huggingface.co

El GGUF de Qwen3.8 Flash corre un tercio más rápido

Un GGUF comunitario para Qwen3.8-Flash-Next recorta expertos de cada capa para que quepa en una PC con GPU modesta, y decodifica alrededor de un tercio más rápido que la compilación de referencia de unsloth, a la vez que mejora la calidad de la salida en japonés. — huggingface.co

El fine-tune de LFM3 añade trazas de razonamiento a la programación

Un fine-tune comunitario basado en LoRA del LFM3-1.7B de LiquidAI, entrenado con setenta trazas de alto razonamiento, orienta al pequeño modelo hacia un estilo de pensar y luego responder en programación, y se distribuye como pesos MLX y GGUF. — huggingface.co

El GGUF de Kitchoon 26B MoE apunta a la escritura de roleplay

La versión final de Kitchoon incluye cuantizaciones GGUF ajustadas para roleplay, con el LoRA Anthropos v3 integrado para reducir las frases trilladas y fomentar respuestas más variadas. — huggingface.co

Más sobre este tema