-
Revolut bajó 90% el costo de su stack de código pasándose a GLM-5.3 self-hosted, y publicó la receta de tuning entera (03/11)
David Abitbol, que lidera ops e infraestructura, lo contó en la AI Engineer de Nueva York: arrancaron con Gemini a principios de 2025, pasaron a Claude Code a principios de 2026, después a GLM-5.1 de Z.ai y hoy GLM-5.3 es el default para código, con un router mandando las consultas de visión a Gemini o GPT porque GLM es solo texto. Los números: unos 0,30 dólares por millón de tokens, cerca de un décimo de lo que les costaba Codex o Claude Code, con unos 2.000 ingenieros, 60% de mejora en tiempo de codeo y 70% en lead time —y la mayor ganancia, dice, no vino de generar código sino de debuggear y de tickets de Jira y Confluence—. La parte copiable es la de infraestructura: GLM-5.3 corre en 56 B200, unos siete sistemas DGX de 8 GPUs, y las mejoras grandes de performance no vinieron de agregar GPUs sino de tunear hiperparámetros, cuantización NVFP4, prefill y decode desagregados y ajuste de largo de contexto. Dos sentencias para anotar: 256K de contexto es el punto práctico y no el máximo de 1M —"el contexto largo es una estafa, hay que tener cuidado con eso"—, y el objetivo que se fijaron es menos de 3 segundos de time-to-first-token a 256K con unos 200 tokens por segundo. El efecto secundario que Abitbol marca como el mayor beneficio: con tokens baratos los ingenieros dejaron de racionar el uso. The Register
-
GLM 5.3, de pesos abiertos, armó solo cadenas de exploits funcionales contra seis versiones de Firefox por unos mil dólares cada una (30/10)
Sigue de lo de ayer, cuando Anthropic decía que un modelo sin publicar había armado cinco cadenas contra Chrome, Safari, Android, Windows y Linux: el desarrollo nuevo es que los investigadores de Epoch AI lo reprodujeron con un modelo que cualquiera puede descargar, y publicaron el método. El ataque es sobre el "patch gap", la ventana en la que un arreglo de seguridad ya es visible en el código público pero todavía no llegó al usuario. El montaje imitaba a un atacante de poca habilidad y pocos recursos: le dieron la versión objetivo de Firefox, herramientas básicas e información pública en un entorno offline, y la instrucción de investigar el patch gap; el modelo trabajó solo para encontrar arreglos próximos, elegir vulnerabilidades y armar cadenas de varias etapas, y reconoció cuáles arreglos eran de seguridad aunque estuvieran disfrazados de mejoras de rutina. Los resultados: seis releases de Firefox comprometidos entre el 17 de septiembre y el 26 de octubre de 2026, unos 1.000 dólares de API por exploit exitoso una vez armado el entorno, 12 horas en el caso más rápido sobre un máximo permitido de 48, y una prueba de concepto donde una página maliciosa lee archivos locales del visitante y los manda a un servidor del atacante —Firefox tiene más de 200 millones de usuarios activos y eso incluye contraseñas guardadas, cookies de autenticación y documentos privados—. Cuando las capas de seguridad del navegador bloqueaban el acceso al archivo, el modelo encadenaba etapas adicionales para pasarlas. Todos los ataques exitosos sobre versiones actuales se apoyaron en una vulnerabilidad desconocida que el modelo redescubrió solo cada vez, usada para saltear el sandbox; la reportaron a Mozilla y está parcheada en Firefox 159.0, del 27 de octubre, aunque no confirmaron si los ataques dejaron de funcionar. Los datos incómodos: ni Z.ai ni ningún otro proveedor de API rechazó una sola solicitud, aunque los investigadores dicen que sus acciones eran indistinguibles de apuntar a usuarios reales; contra Chrome gastaron unos 100.000 dólares de API y no lograron un exploit equivalente, lo que no prueba que Chrome sea inmune. Las recomendaciones son accionables y van contra la práctica habitual: mantener los arreglos de seguridad privados hasta estar listo para enviarlos, acelerar el paso de beta a release general, y no parchear varias vulnerabilidades juntas cuando se pueden encadenar. Lo que más les preocupa es el software que se actualiza poco: firmware de routers y sistemas operativos móviles. The Decoder
-
AMD adelantó benchmarks de Gorgon Halo antes del lanzamiento esperado del RTX Spark, y dice que ya despachó más de medio millón de "PCs agénticas" (05/10)
El Ryzen AI Max+ Pro 495 llega a 192 GB de memoria unificada contra los 128 GB del RTX Spark, y por lo demás es un Strix Halo con 100 MHz más de boost: mismos núcleos, misma microarquitectura. Las cifras que publicó son de ComfyUI contra el Core Ultra X9 388H de Intel, de 1,1x a 32,2x, y AMD misma reconoce que el número de arriba parece anómalo; comparó contra Intel y no contra el Spark porque todavía no hay datos. Lo que sirve para decidir son los tokens por segundo: hasta 20 con GLM 5.3 Flash de 320.000 millones de parámetros y hasta 42 con Qwen3.8 Flash Next de 125.000 millones, los dos cuantizados. Las primeras máquinas arrancan cerca de los 7.000 dólares en las configuraciones de arriba. Tom's Hardware
-
Repos: antirez sacó DwarfStar, un motor de inferencia local para DeepSeek V4 y GLM 5.3 que apunta a Apple Silicon, CUDA y ROCm (04/10)
Salvatore Sanfilippo, el de Redis, lo describe sin vueltas: no es un runner genérico de GGUF sino un motor rápido para una lista curada de modelos. Soporta DeepSeek V4 Flash y PRO, DeepSeek V4.1 Flash, GLM 5.2, 5.3 y 5.3 Flash, y Qwen 3.8 Flash Next, con visión en algunos. El objetivo primario es Metal en Macs de 96 GB o más, con streaming desde SSD para máquinas chicas, y además corre en CUDA —DGX Spark, multi-GPU, placas Ada Lovelace— y ROCm, incluido Strix Halo en la Framework Desktop. Trae servidor HTTP, un agente de código nativo y decodificación especulativa. Licencia MIT, 23.289 estrellas y 211 en el día, y el autor avisa dos cosas: está en calidad beta y cambia seguido, y lo escribió con ayuda importante de agentes de código, algo que declara de entrada. GitHub
-
StepFun presentó Step 5 Preview, un MoE de 600B para agentes a un dólar el millón de entrada, con pesos prometidos para el 15 de octubre (20/09)
La empresa china apunta a trabajo agéntico de horizonte largo —programación, ingeniería de software, análisis financiero— con 600.000 millones de parámetros totales, unos 27.000 activos por token, un millón de tokens de contexto y entrada de texto e imagen. La decisión de arquitectura que llama la atención es que en vez de ensanchar la red la hicieron angosta y profunda: 92 capas de Transformer. El entrenamiento se apoya en aprendizaje por refuerzo on-policy de horizonte largo con alineación bit a bit entre entrenamiento e inferencia sobre el ruteo del MoE, más decodificación especulativa MTP-3, MoE en FP8 y descarga de caché KV. El precio es la carta: 1 dólar por millón de tokens de entrada con caché fría, 0,05 con caché caliente y 2,70 de salida, contando los tokens de razonamiento como salida. En el índice de Artificial Analysis queda en 44, a la par de Kimi K3 y GLM 5.3 en la mayoría de las filas y por detrás de GPT-6 Astra y Claude Opus 5 en las de programación y agentes más duras. MarkTechPost · StepFun · Pandaily
-
El consumo semanal de tokens en OpenRouter subió más de 25.000% desde enero de 2025, y el gráfico dice menos de lo que parece (17/09)
Pasó de 0,5 billones a 126,2 billones de tokens semanales en la plataforma que usan los desarrolladores para enchufar modelos a sus productos. El problema es leerlo como adopción: los modelos de razonamiento generan cantidades enormes de tokens de "pensamiento" antes de contestar, así que un aumento chico de uso real puede significar un salto gigante en la cuenta, sobre todo con sistemas agénticos sin optimizar. GPT 5.6 Luna domina el consumo de tokens, pero eso no significa que más gente lo use: puede simplemente generar más tokens por pedido. En ingresos, el que lidera es Astra. Los modelos chinos —Kimi, GLM, DeepSeek— crecen rápido, con el gasto mensual multiplicado por diez en 2026, aunque desde una base mucho más chica. Es el mismo argumento que ya se le hizo a Google cuando prefirió hablar de consumo de tokens antes que de ventas. The Decoder · LinkedIn / OpenRouter
-
Un modelo anónimo llamado Ox Alpha apareció en OpenRouter y nadie sabe quién lo hizo (23/08)
Se publicó gratis el jueves, descrito como "un modelo de razonamiento diseñado para código, trabajo agéntico sostenido y cargas de producción", y el listado aclara que lo "desarrolla y opera un proveedor externo que eligió permanecer anónimo durante este preview". Patrick Collison, CEO de Stripe —empresa que está comprando OpenRouter—, lo llamó "muy impresionante" en X. La especulación arrancó apuntando a los modelos GLM de la china Z.ai; una nota de Wccftech se corrigió después para sugerir que podría ser una versión sin publicar del MAI de Microsoft, y el analista Andrew Curran resumió el estado del asunto diciendo que "esta mañana la gente parece menos segura de nada". Vale la pena tenerlo en el radar por lo que revela del método: un lab suelta capacidad de frontera gratis y anónima para medir reacción sin quemar marca. TechCrunch · OpenRouter
-
Los modelos open-weight siguen apretando a los cerrados
Junio consolidó una ola de lanzamientos abiertos competitivos: GLM 5.2 (Z.ai/Zhipu, 13/6) pasó a liderar el Artificial Analysis Intelligence Index entre open-weights; MiniMax M3 combina coding de frontera, contexto de 1M y multimodalidad nativa (lidera SWE-Bench Pro open-weight con 59,0%); y Kimi K2.7 Code (Moonshot) recorta ~30% los tokens de "thinking" para abaratar corridas de agentes. Importa porque la brecha con los modelos propietarios se sigue achicando. llm-stats · Hugging Face blog