🐳 How DeepSeek’s inference engine works.
A deep dive into how experts spread across GPUs, a scheduler that keeps them busy, and how they cut prefill compute nearly in half.
This is a technical piece about how to serve inference for a MoE
The $6.3 Billion Binance Hack Was Pulled Off in Just 20 Minutes wired.com/story/the-dollar63…
Asier Marqués retweeted
Este año estrenamos una sección en la web para las empresas que quieran ayudarnos a hacer posible otra edición de BilboStack.
🤝 Si os apetece apoyar el evento y conectar con nuestra comunidad tech, ¡echadle un vistazo!
bilbostack.com/sponsorship/
Asier Marqués retweeted
Last night an AI agent performed brain surgery on a mouse.
We gave it 19 gene therapy vectors in a spreadsheet, a mouse model of epilepsy, access to a motorize surgery rig with cameras and one goal: reduce seizures.
It picked the drug. It picked the brain region. It derived the coordinates from three papers. Then it drove the stereotaxic arms into the brain and injected 250 nanolitres while watching the entry site through the rig camera for bleeding.
A licensed vet gated every irreversible step and held a physical kill switch to stop the AI agent.
Thread on what it decided, what it saw, and the moment it refused to let me override it.
[Writing this on the spot out of excitement, but I've been 18hrs in front of my laptop coding and coordinating this, so keeping it brief and descriptive, more cohesive thoughts on this soon...]
Asier Marqués retweeted
Una demostración matemática de unas 15.000 páginas en la que trabajaron más de 100 matemáticos durante décadas
Axiom la ha formalizado en Lean usando decenas de agentes de IA en solo 24 días
Han acabado siendo 43 millones de líneas de código
Encima por el camino han encontrado errores en algunas de las demostraciones originales
Qué barbaridad
Really really nice talk by @morganepeng
En Torremolinos por fin.
En una hora salgo en coche para Málaga. Si alguien va al jonthebeach desde Madrid y quiere compartir trayecto, encantado @JOTBConf
En una hora salgo en coche para Málaga. Si alguien va al jonthebeach desde Madrid y quiere compartir trayecto, encantado @JOTBConf
Ha habido otro choque de trenes. Me ha pillado en el AVE camino a Málaga y nos devuelven a Madrid 🫠🫠🫠
Cutting our inference bill by 68% by being obsessive about optimization blog.cloudflare.com/obsessiv…
Hacía tiempo desde la última vez que experimenté el síndrome de impostor de forma tan fuerte.
Mucho nivel en mi clase de escritura.
Una cosa es que te guste el café y otra que te abras la puerta al mundo de los portafiltros sin fondo. Crafter a la fuerza.
Asier Marqués retweeted
🔴 ¡TRES NUEVOS AVANCES CIENTÍFICOS!
Ayer OpenAI publicó -con un perfil muy bajo- tres nuevos avances científicos de gran calibre en matemáticas, computación y física.
Avances que además atacan al corazón de dos problemas del Milenio (Yang–Mills y NP vs. P)
Os cuento 👇🧵
Asier Marqués retweeted
Del folleto de Anthropic:
- Unos 1.900 clientes, el 0,005% de la base, generan en torno a dos tercios de los ingresos. Los otros 40 millones pagan de media unos 220 $ al año. Distribución cabezona no, lo siguiente.
- Su NRR es del 900%. Pero el NRR no mide cuántos clientes se quedan, sino cuánto gastan los que había. Con esa expansión, cualquier abandono queda tapado.
- ¿El CAC? Calculado con su gasto comercial, se recupera en mes y medio. Lo que capta y retiene clientes no son las ventas: es el siguiente modelo y la reducción de costes.
He analizado el folleto de salida a bolsa de Anthropic buscando lo que cuenta del valor de sus clientes.
Lo cuento con detalle en mi blog: manueldelgado.com/blog/folle…















