Boris Vera

youtube.com/watch?v=szy4IRsi… Me han invitado a Innosfera Podcast para hablar de cómo estamos construyendo NodeClub, un club de inferencia de IA donde ofrecemos acceso a modelos open source con tarifa plana, sin pagar por token. Hablamos de GPUs, infraestructura, los retos de servir LLMs y de cómo surgió esta idea.

Una GPU. 31 días. 21.122.684.731 tokens. En septiembre abrimos NodeClub. Un club de developers que comparte GPUs en Europa. Modelos abiertos, API compatible con OpenAI y una cuota fija al mes en lugar de pagar por token. Octubre ha sido nuestro primer mes completo. Los números: 21.122.684.731 tokens procesados 276.312 peticiones Más de 1.000 millones de tokens en un solo día, el 12 de octubre Lo que más me repiten los socios no es que sea barato. Es que es previsible. Nadie tiene que pensar si una prueba, o un agente que se queda trabajando toda la tarde, le va a salir caro. Que una sola GPU aguante este volumen no es optimismo, es ingeniería. El 92 % de los tokens de entrada se sirven desde caché. Y una mejora que hicimos a principios de mes, de madrugada como todos los cambios del nodo, hizo que retomar una sesión larga pasara de tardar más de un minuto a tardar un segundo. Nadie lo pidió, pero todos lo notaron. Aun así, lo que sostiene el club no es el hardware. Es la comunidad. Las dudas se resuelven entre todos, en el mismo canal donde se comparten los proyectos. Siguiente paso: estamos buscando el segundo nodo. Y a los de la lista de espera: estamos abriendo nuevas plazas :)

Hace un mes abrimos NodeClub con una idea sencilla: que un grupo pequeño de desarrolladores, compartiendo infraestructura GPU propia, pudiera usar IA sin estar pendiente de la factura por token. Hoy somos 25 socios, hay más de 300 personas en lista de espera y entre todos hemos procesado 16.723.044.880 tokens en 30 días. Para ponerlo en perspectiva: ese mismo volumen, con el mismo modelo, pagado por API habría costado entre 6.000 y 8.000 dólares. Cada socio ha consumido de media varias veces lo que paga al mes. Pero el dato que más me importa no es ese. Es lo que hay detrás. Ese volumen no sale de gente probando cosas, sale de gente que ha metido el club en su día a día: agentes trabajando durante horas, razonamiento alto activado sin pensarlo dos veces, proyectos que antes no salían a cuenta y ahora sí. En el canal del club he visto de todo. Herramientas propias para resolver problemas de casa, agentes que automatizan trámites administrativos completos, proyectos de hardware que llevan la IA al mundo físico. Uno de los socios lo resumió mejor que yo: nada de eso es algo que no hubiera podido hacer antes, pero ahora lo saca en una tarde y se lo pasa mejor haciéndolo. También hemos aprendido operando. Muchas de las incidencias que parecen del modelo acaban siendo del entorno, y resolverlas juntos, en el mismo sitio donde se comparten los proyectos, ha hecho que el club funcione como una comunidad y no como un servicio. El jueves tuvimos el primer encuentro de bienvenida y los siguientes pasos quedaron claros. El principal: ya tenemos el ojo puesto en nuestro segundo servidor. Gracias a los primeros 25 por confiar desde el primer día. A los de la lista de espera: os estamos haciendo hueco.

Hace unas semanas puse en marcha el primer servidor de NodeClub. Eran casi las dos de la madrugada y seguía haciendo pruebas antes de avisar a la lista de espera. La máquina: una NVIDIA RTX PRO 6000 Blackwell con 96 GB. El modelo: Qwen 3.8 27B.

Server list ✅

Medal of Honor: Allied Assault fue uno de los juegos de mi infancia. Ahora estoy haciendo un port web 100% funcional y multijugador, usando los assets de la demo multiplayer original. Lo siguiente: levantar un servidor y compartir la URL :)

Otra experiencia más de que tener una empresa 100% remota funciona. Llevo un mes en Nueva York operando con un equipo en España, con clientes de todos los husos horarios posibles.

Tengo X bastante abandonado, pero el camino se crea andando. Estaré en NYC del 4 al 8 de mayo. He abierto huecos por las tardes para tomar un café y hablar de cloud, DevOps, IA, desarrollo… o simplemente conocernos. Si estás por la ciudad, DM y lo vemos.

No me dan las horas del día para tanto lanzamiento

Es ilegalisímo