S5-nano chega em GGUF com as melhores pontuações em benchmarks brasileiros

S5-nano, o modelo de 4 bilhões de parâmetros da Maritaca AI, alcança as melhores pontuações em benchmarks brasileiros entre modelos do seu porte, mantendo capacidades de tool calling e saída estruturada. As versões GGUF levam o modelo aos usuários de llama.cpp para execução local. — huggingface.co

Quants GGUF da Emma-6 levam modelo italiano ao llama.cpp

Uma conversão não oficial empacota a Emma-6 da Egomnia, modelo com foco em italiano e cerca de 1,5 bilhão de parâmetros, em quantizações GGUF para inferência local com llama.cpp. — huggingface.co

Qwen3.8 Flash GGUF roda um terço mais rápido

Um GGUF da comunidade para Qwen3.8-Flash-Next remove experts de cada camada para caber em um PC com GPU modesta, decodificando cerca de um terço mais rápido que a build de referência do unsloth e melhorando a qualidade da saída em japonês. — huggingface.co

Fine-tune do LFM3 adiciona traces de raciocínio à codificação

Um fine-tune LoRA da comunidade para o LFM3-1.7B da LiquidAI, treinado em setenta traces de alto raciocínio, direciona o modelo pequeno para um estilo de pensar-antes-de-responder em codificação, distribuído como pesos MLX e GGUF. — huggingface.co

Kitchoon 26B MoE GGUF mira escrita de roleplay

O lançamento final do Kitchoon traz quantizações GGUF ajustadas para roleplay, com a LoRA Anthropos v3 embutida para cortar frases genéricas e incentivar respostas mais variadas. — huggingface.co

Mais sobre este tópico