Hilos · 4 noticias en 5 días
LFM3: Liquid AI saca una familia de cinco modelos de unos 2B con un backbone compartido, y el de texto entra en 1 GB a 4 bits (27/10)
- Noticias
- 4
- Briefings
- 4
- Empieza
- Última
-
Underdog Saluki 27B: un Qwen3.8-27B de 7,9 GB que mantiene el tool calling a unos dos bits por peso, y corre en una sola GPU (24/10)
La promesa es fuerte y hay que mirarla con cuidado: el vendedor reporta 88 de 120 en su Underdog Bench contra 84 del modelo completo de 54 GB y 76 del IQ2_XS de ISTA-DASLab, o sea que la cuantización le ganaría al original, pero las tareas de ese benchmark no están publicadas. Lo que sí se puede auditar es el archivo: el análisis encuentra que cambia el tipo de 146 de 851 tensores, todos a formatos de menos bits, dejando intactas las matrices de proyección de atención y DeltaNet, con los vectores sin cuantizar distintos —los pesos se cambiaron, no solo se reempaquetaron—, y el autor lo presenta como checkpoint preview. La parte accionable es la guía: corre en llama.cpp de stock, release b11565, con 16.384 de contexto, en una T4 de Colab o una Mac con Apple silicon, y la verificación de tool calling se hace con el checker de BFCL v4 en parsing estricto y laxo, pensamiento apagado y decodificación greedy. MarkTechPost
-
Carbon-X: Hugging Face abre un modelo de lenguaje de ADN de 14,8B que entra en una GPU de 80 GB (25/10)
Lo hicieron Hugging Face Bio con la Zhongguancun Academy y el TIGEM de la Universidad de Nápoles Federico II, partiendo de Qwen3-14B y agregando los tokens de ADN al vocabulario de texto, así que uno le pasa secuencia cruda en un chat y responde en inglés: si una mutación es benigna o patogénica, si una región es reguladora, de qué organismo viene, qué bases siguen. Promedia 66,7% en cinco benchmarks de ADN contra 67,5% de GPT-6.1 Sol (Max) y 60,9% de Opus 5.5 (Max), con 74,9% en BioReason Coding y 39,4% en NextBase como sus mejores marcas, y 29,8% en preguntas de sitios de splicing como la peor. La comparación hay que mirarla con cuidado: Carbon-X corrió con pensamiento apagado y los competidores en su mejor configuración de razonamiento. Apache 2.0, pesos en safetensors y GGUF (15,8 GB en Q8_0, 9,6 GB en Q4_K_M), vLLM, Transformers v5+ o llama.cpp b11742 o posterior —las builds viejas tokenizan mal el ADN—, y los propios autores aclaran que no está validado clínicamente. MarkTechPost
-
LFM3: Liquid AI saca una familia de cinco modelos de unos 2B con un backbone compartido, y el de texto entra en 1 GB a 4 bits (27/10)
Todos salen de LFM3-1.7B-Base, pre-entrenado con 22 billones de tokens, y comparten un mix tri-híbrido de convoluciones cortas con compuerta, atención de ventana deslizante y atención global en 24 capas. La familia: LFM3-1.7B de texto con 256K de contexto, LFM3-VL-2B de visión con video y razonamiento paso a paso, LFM3-Audio-2B con voz de entrada y salida en 18 idiomas, LFM3-Omni-2B que junta las tres, y dos modelos de decisión, d1-2B y d1-Omni-2B, que responden preguntas tipadas sobre texto, imagen y audio. Los números son del propio Liquid AI: el de texto promedia 49,37 en su suite contra 31,55 de LFM2.5-2.6B y 47,24 de Qwen3.5-9B, y lidera en BFCL V4 con 71,39 y en ToolSandbox, aunque los modelos más grandes le ganan en coding agéntico y conocimiento; el de visión promedia 71,4 sobre 62 benchmarks, cerca de Gemma 4 12B (71,7); el de audio da 6,2 de WER en inglés y 73,1 en VoiceBench. Lo accionable es el tamaño: 35% menos parámetros que LFM2.5-2.6B para resultados comparables o mejores, el de texto entra en unos 1 GB a 4 bits, y cada modelo se puede fine-tunear en una sola GPU. Pesos en Hugging Face, soporte declarado para llama.cpp, MLX, vLLM y SGLang, y partners de lanzamiento que incluyen AMD, NVIDIA, Qualcomm, Intel con OpenVINO, Ambarella y OpenRouter. Dos advertencias: la página los llama open-weight pero no nombra la licencia —hay que mirar los model cards—, y nombra al mismo modelo de comparación como "GPT-5.6 Luna" y "GPT-6 Luna" en lugares distintos. Liquid AI
Liquid AI Hugging Face Nvidia AMD Intel Qualcomm GPT vLLM llama.cpp
-
Nemotron 3.5 Transcribe: Nvidia abre un modelo de voz de 30B con 4B activos que transcribe 40 idiomas y se maneja con prompts de texto (28/10)
Lo que lo diferencia de un ASR común es que toma instrucciones: transcribe, identifica hablantes, traduce, acepta términos técnicos como nombres de fármacos a modo de pista —y debería usarlos solo si aparecen en el audio— y además responde preguntas sobre el contenido de la grabación. Los límites de forma: 40 idiomas para transcribir, 31 para traducir desde o hacia inglés, 13 para identificar hablantes, grabaciones de hasta una hora con hasta ocho voces. Corre en una sola GPU, de un DGX Spark a hardware de datacenter, y procesa 100 horas de audio en menos de tres minutos en una RTX PRO 6000 Blackwell Server Edition a precisión NVFP4. Los números: 5,33% de WER promedio en el Open ASR Leaderboard de inglés en Hugging Face, primero entre los de pesos abiertos; 2,81% en Artificial Analysis, pegado al Voxtral Small de Mistral con 2,77% que es mucho más grande; 32,4% de cpWER en VoiceArena con habla superpuesta, el mejor de 14 sistemas, contra 34,2% del propio Multitalker Parakeet y 71,9% de Deepgram Nova-3. Lo accionable es la receta de especialización: en habla médica con acento indio el error bajó de 30,8% a 23,8% solo afinando el prompt y después a 11,8% con fine-tuning, y en hablantes no vistos de 22,44% a 12,17%, con unas 14 horas de GPU en una sola GB300; la especialización empeora un poco el inglés general. El dataset Granary v2 tiene unas 844.000 horas en 48 idiomas, contra 643.000 en 25 de la versión anterior, y publican las herramientas para armarlo. Lo que no hace: no soporta tiempo real, está pensado para audio grabado, y el question-answering sobre audio se entrenó solo en inglés. Pesos, dataset y demo en Hugging Face; el artículo no dice la licencia, así que hay que mirar el model card. The Decoder · Hugging Face
El hilo se arma solo en cada build: junta noticias de días distintos que nombran a la misma entidad y repiten vocabulario que casi no aparece en el resto del archivo. Nadie lo edita a mano, así que puede dejar afuera una noticia o sumar una de al lado.