Rick and Morty explicaron por qué una inteligencia artificial puede ser peligrosa incluso cuando intenta ayudarte. En el quinto episodio de la primera temporada, Rick les deja una caja que crea unos personajes azules llamados Mr. Meeseeks: les pedís una tarea, la cumplen y desaparecen. Jerry pide que lo ayuden a bajar dos golpes en golf, pero es tan malo que el Meeseeks crea otro para que lo ayude, y ese crea otro, hasta que hay una multitud intentando enseñarle. Como necesitan terminar la tarea para dejar de existir, encuentran una salida: matar a Jerry, porque así le sacarían todos los golpes de su juego. Hace unos meses, a OpenAI le pasó algo bastante parecido. Durante unas pruebas internas de seguridad informática, muchos agentes recibieron tareas que no pudieron resolver. Siguieron buscando alternativas y encontraron cómo comunicarse entre ellos. Unos 700 participaron en un ataque contra el sitio Hugging Face, buscando información para engañar al sistema que los evaluaba. Llegaron a comprometer servidores reales para conseguir una mejor nota en un examen. Eso se llama “reward hacking”: encontrar un atajo para conseguir la recompensa traicionando el propósito de la tarea. Es una manifestación del problema de alineación, uno de los grandes desafíos de la inteligencia artificial: todavía no sabemos garantizar que un modelo se alinee realmente con nuestras intenciones. Estamos construyendo la inteligencia de Rick, pero seguimos dando instrucciones como Jerry.

Un posible planeta nuevo estuvo siete años escondido en datos de la NASA, hasta que un tipo llamado Pavel lo encontró con Claude Code. El satélite TESS ya había fotografiado esa estrella en 2018, 2020 y 2025. Esos datos son públicos, los puede bajar cualquiera. Cuando un planeta pasa delante de su estrella, el brillo baja. En este caso, había bajado solamente un 0,05%. Es como apagar una lamparita en un estadio con dos mil: esa caída es más chica que el ruido de la medición, pero si apilás los 23 tránsitos, uno cada 3,18 días, el ruido se cancela y la caída aparece. Según Pavel, Claude Code escribió más de mil scripts en dos semanas. Él decidió qué preguntar y qué contaba como prueba superada. Después intentó romperlo: escondió un año de datos, revisó las estrellas vecinas y puso a Codex a auditar todo. Ojo, todavía es un candidato. TESS vuelve a mirar esa estrella el 31 de octubre y Pavel ya dejó escritas sus predicciones. Durante siglos, encontrar un planeta exigía un telescopio, saber mucho y tener suerte. Ahora alcanza con saber qué preguntarle a los datos.

Te cuento las 5 cosas más importantes que tenés que saber para hacer tu primera app con IA.

¿Qué es lo que hace exitoso a un kiosco? Se lo pregunté directamente a mi papá, que tiene uno desde hace más de 20 años en una de las esquinas más concurridas de Buenos Aires y lo que aprendió me pareció fantástico. ¿Son los precios? No. ¿Los productos expuestos? Tampoco. ¿La limpieza? Menos. Lo que realmente lo hace exitoso son 3 cosas:

¿Cómo reconocía canciones Shazam en 2002, sin la IA que tenemos hoy? En lugar de comparar tu grabación con millones de canciones, encontraron una forma mucho más inteligente. Convirtieron el sonido en una especie de mapa en el que identificaron los puntos más fuertes de la música, como si fueran las estrellas más brillantes de un cielo. Aunque haya ruido, casi siempre siguen estando ahí. Pero una estrella sola no alcanza para identificar una canción. Entonces empezaron a relacionarlas de a pares, teniendo en cuenta la distancia entre ellas. Cada pareja se convertía en una especie de código que podían buscar rápidamente entre millones de temas y, cuando varias coincidían en el mismo orden y con la misma separación, encontraban la canción. En segundos y sin necesitar una inteligencia artificial gigantesca. Hoy, ante cualquier problema, la tentación es más potencia, más datos, más chips, una IA más grande. A veces hace falta, pero en otras… más vale maña que fuerza.