Un podcast sobre cómo la Inteligencia Artificial está reescribiendo el desarrollo de softwareUn podcast sobre cómo la Inteligencia Artificial está reescribiendo el desarrollo de softwareUn podcast sobre cómo la Inteligencia Artificial está reescribiendo el desarrollo de softwareUn podcast sobre cómo la Inteligencia Artificial está reescribiendo el desarrollo de software
← Todos los episodios
59:59

Una comunidad compró GPUs, montó su inferencia y dejó de pedirle permiso a nadie.

Sobre este episodio

Cristian Córdoba publicó un tweet pidiendo que se juntaran 5 personas para alquilar una GPU. Hoy son casi 500, con 9 servidores, 12 GPUs y hardware propio en Finlandia. NAN Builders es una comunidad que corre modelos open weight a escala, sin depender de ningún lab. Hoy Cristian nos cuenta cómo pasó de un tweet a una cooperativa de inferencia: qué hardware usan, cómo resolvieron la concurrencia, por qué la caché en GPUs no funciona como crees, y qué se siente construir algo que se parece a las comunidades originales de open source. CHAPTERS 00:00 Presentación de Cristian Córdoba y su proyecto Gemcode 01:41 Cómo nació la comunidad de inferencia de Gemcode 06:14 Modelos que ofrece la comunidad: DeepSeek, Qwen3 y Hermes 07:58 De infraestructura tradicional a IA: la historia de Gemcode 11:33 El tuit viral que disparó la demanda de la comunidad 14:52 Limitaciones de hardware al inicio: RTX PRO 6000 y VRAM 17:30 Modelos de pesos abiertos y su impacto en el desarrollo 21:39 Cómo construir un proveedor de inferencia: OpenAI y Anthropic 26:42 Por qué los modelos chinos se acoplan mejor al harness 28:14 El reto técnico de la concurrencia y la caché en GPUs 36:06 Equipo y servidores: la infraestructura de Gemcode en Finlandia 39:33 Precios de la comunidad de Gemcode: tarifa plana sin límites 43:12 La sobrecarga con GLM 5.2 y el nuevo tier de 200 euros 47:43 De Claude Code a Pi: así arma Cristian su propio harness 55:10 La importancia de construir tu propio harness de IA 57:14 El futuro de la IA: modelos pequeños ultra especializados