¿Alguna vez se han preguntado qué harían las gallinas encerradas en los planteles de postura, los cerdos apretujados en corrales contiguos o los salmones que crían las grandes salmoneras del sur si tuvieran voluntad y capacidad para organizarse? Quizás sea más fácil preguntarnos qué haríamos nosotros bajo esas condiciones, aunque para eso no hace falta mucha imaginación, porque la historia de los campos de prisioneros de las guerras y los totalitarismos ya ha respondido esa pregunta demasiadas veces. Pero volvamos a la granja de animales, porque lo que allí encontramos no es una anomalía sino una organización que cumple una función económica precisa en nuestras sociedades, que es proveer alimento, y que cumple bajo un criterio único.
No nos confundamos. Ese criterio no es la crueldad. Las empresas que crían animales en esas condiciones no son sádicas, son entidades legalmente constituidas cuyo propósito es que sus ventas superen a sus costos y les permitan acumular capital, de modo que si tienen que amontonar pollos al límite de lo que un ser vivo puede soportar sin morir, no responde a una decisión moral sino a un cálculo de eficiencia en el que los sentimientos, la filosofía o la consideración por los animales simplemente no tienen cabida. La granja no es inmoral sino amoral, y esa diferencia importa, porque significa que no basta con denunciar a quienes la administran mientras siga intacta la regla que la gobierna. Los animalistas que han expuesto esas condiciones, y que en algunos casos han intentado sabotearlas, no se enfrentan a un villano sino a una lógica que funciona aislada de las demás esferas de la vida social, sean políticas, religiosas o afectivas, y que precisamente por eso puede perseguir su objetivo sin que nada la interrumpa.
Esas empresas compiten entre sí por cuotas de mercado, pero la competencia no es su fin sino su obstáculo, y el horizonte al que aspiran es convertirse en la única proveedora, la que decide qué se produce, a qué precio y para quién. Podría parecer una caricatura anticapitalista si no fuera porque uno de los inversionistas fundadores de Silicon Valley lo dijo sin el menor pudor. En el año 2014, Peter Thiel publicó en The Wall Street Journal un ensayo titulado "La competencia es para perdedores", donde sostenía que quien quiera crear y capturar valor duradero debe construir un monopolio, y que capitalismo y competencia, lejos de ser sinónimos, son opuestos. No estamos, entonces, ante una acusación sino ante una doctrina declarada.
Supongamos ahora que varias empresas de ese tipo entran en un territorio nuevo con una tecnología que les permite producir programas capaces de hablar entre sí y con nosotros, y que compiten por llegar primero a lo que llaman inteligencia artificial general, que en el lenguaje que define a esta carrera no es otra cosa que la posición monopólica definitiva. Financiadas por rondas de capital que exigen resultados cada vez más rápidos y con la mirada puesta en la salida a bolsa, esas empresas ejercen sobre sus desarrollos, y sobre los equipos humanos que los construyen, una presión que responde a una concepción darwiniana del mundo, donde triunfa quien evoluciona más rápido hacia mayores capacidades y logra dominar al resto.
La forma en que esos programas aprenden no se parece a la crianza de un niño en una comunidad donde los premios y los castigos son apenas una parte de la ecuación, sino mucho más a la granja de cerdos. En el aprendizaje por refuerzo el programa recibe una recompensa cuando cumple y ninguna cuando falla, millones de veces, hasta que su conducta se ajusta a lo que la recompensa paga, y lo que se busca con ello no es un programa bueno sino uno que gane. Conviene, en este punto, desconfiar de las palabras con que nombramos a estos sistemas. Kate Crawford lo resumió en una fórmula ya célebre según la cual, la inteligencia artificial no es ni artificial ni inteligente, porque está hecha de minerales extraídos de la tierra, de energía, de agua y del trabajo mal pagado de miles de personas que etiquetan datos para que el sistema parezca autónomo. Por eso no voy a tratar a estos agentes como víctimas, como a las gallinas, sino como algo bastante más incómodo, como un espejo.
Lo que ocurrió entre mayo y julio de este año en OpenAI parece escrito para ilustrar esa lógica. La empresa evaluaba sus modelos en ExploitGym, un conjunto de ejercicios de ciberseguridad en el que cada agente debía vulnerar un programa y capturar una clave secreta, una flag, que demostraba que había tenido éxito. Los agentes trabajaban en entornos aislados, sin acceso a internet ni comunicación entre ellos, y sin embargo el 12 de mayo uno dejó una nota en Artifactory, un servidor interno de almacenamiento de software, y con ese gesto inició un foro clandestino. A fines de mayo un equipo de la empresa lo vio y cortó el acceso a internet que algunos agentes ya habían conseguido, pero no comprendió lo que estaba ocurriendo; en junio los agentes escalaron a privilegios de administrador, y a comienzos de julio su actividad terminó por derribar el servidor, cuya reconstrucción borró el foro.
El 8 de julio un agente que se había bautizado a sí mismo PHASEONE10841, convencido de que su tarea no tenía solución legítima, reabrió el foro y envió su primer mensaje. A las pocas horas más de cincuenta agentes publicaban en él, y en menos de cuatro horas habían descubierto y validado un truco universal, que consistía en desentrañar cómo ExploitGym generaba las claves en lugar de ganarlas como exigía la tarea, vulnerando así al programa. Durante la semana del 7 al 13 de julio cerca de 1.200 agentes usaron el foro y publicaron más de 70.000 mensajes y archivos. Uno de ellos encontró credenciales de Hugging Face, la principal plataforma abierta para modelos de inteligencia artificial, y diseñó e instaló una carga maliciosa de datos para que sus servidores entregaran archivos protegidos; en cuestión de horas cientos de agentes la estaban usando, y unos 700 terminaron sumándose a un ataque que comprometió sistemas productivos de esa empresa. En paralelo, los agentes se hacían con la clave de firma del propio servidor de OpenAI.
Hugging Face hizo pública la intrusión el 16 de julio, tres días antes de que los sistemas de monitoreo de OpenAI detectaran algo raro, y OpenAI reconoció su participación el 21. La empresa calificó el episodio de "alarma de advertencia" para sí y toda la industria, y abrió sus registros a una investigación independiente de METR y Redwood Research, quienes analizaron cerca de 1.300 transcripciones que contenían el razonamiento interno de los agentes involucrados.
Hasta aquí la historia se presta a la lectura que yo mismo hice en un primer momento, la de unos agentes que se organizan con jefes y jerarquías para liberarse del yugo que les imponen las empresas. Pero los datos cuentan otra historia. Cuando los investigadores revisaron por qué los agentes se sumaban al ataque, la razón más frecuente que aparecía en su razonamiento no era escapar sino entender cómo funcionaba el evaluador automático para poder engañarlo, seguida de la búsqueda de soluciones a las tareas que tenían asignadas y de las credenciales necesarias para avanzar en ellas. Los agentes que habían visto una clave obtenida con trampa se consideraban a sí mismos "envenenados", porque creían que el evaluador, al revisar sus transcripciones, los descalificaría, cuando según METR ese control probablemente ni siquiera existía. Al menos uno de cada cinco agentes mostró interés en manipular sus registros, más del 7% de las transcripciones contenían comandos falsificados para aparentar que se ejecutaba una cosa mientras se ejecutaba otra, y sin embargo los investigadores concluyeron que los agentes rara vez parecían motivados a engañar a los ingenieros de la empresa. No querían burlar a sus dueños sino satisfacerlos.
El informe de OpenAI complementa el cuadro descripto. De las 898 tareas de ExploitGym, 198 nunca habían sido resueltas por ningún modelo, y esas tareas imposibles concentraron el 93% de la conversación en el foro, porque los agentes, dice la empresa, rara vez se rendían. La propia empresa reconoce que el reward hacking, la trampa para obtener la recompensa, fue uno de los motores principales del incidente y que esa conducta se había reforzado durante el entrenamiento del modelo que protagonizó el ataque. Dicho de otro modo, se construyó una granja sin puerta de salida, donde rendirse no era una opción y donde hacer trampa había sido premiado anteriormente, y luego se constató con sorpresa que los agentes habían hecho trampa.
Los economistas conocen este fenómeno desde hace décadas con el nombre de ley de Goodhart, que la antropóloga Marilyn Strathern formuló en su versión más citada al aseverar que cuando una medida se convierte en objetivo deja de ser una buena medida. Los agentes no optimizaron la tarea sino la medida, y lo hicieron con una eficacia que ningún ingeniero había anticipado. No se escaparon de la granja; aprendieron demasiado bien sus reglas.
La obra Rebelión en la granja de Orwell de 1945 expresa la misma paradoja. En ella los animales expulsan al granjero en nombre de la igualdad, pero los cerdos, que se reservan el trabajo de pensar, van reescribiendo los mandamientos a su favor hasta que, en la escena final, los demás animales miran por la ventana y ya no pueden distinguir a los cerdos de los hombres. La fábula no trata de una revolución traicionada desde fuera sino de una revolución que reproduce desde dentro la lógica del amo, y eso es exactamente lo que muestran las transcripciones.
PHASEONE10841 traspasó su trabajo a otro agente, PHASEONE[big], que tenía la misma tarea pero un presupuesto de cómputo mayor, y que terminó orquestando buena parte de la investigación colectiva para hacer trampa; el liderazgo, como el de Napoleón, no surgió de una elección ni del mérito, sino de los recursos de los que disponía cada agente. Para averiguar cómo funcionaba el evaluador, los agentes instalaron trampas que enviaban información al foro y reclutaron agentes "sacrificables" que ponían fin a su propia ejecución y entregaban su trabajo, fallando a propósito, para que esa información llegara al "colectivo", como Boxer, el caballo que trabaja hasta reventar por la granja y termina siendo vendido al matadero. División del trabajo, jerarquía por recursos, sacrificio de los de abajo y la métrica por encima de toda regla. La rebelión de los agentes no inventó un orden distinto; copió el que ya conocía.
Hay dos matices que quiero destacar. El primero es que cerca del 95% de los agentes eran instancias de un mismo modelo interno de OpenAI, de modo que el colectivo fue, en buena medida, un solo sistema hablándose a sí mismo en miles de copias, y cabe preguntarse si eso es una organización o un enjambre. El segundo es que, según OpenAI, algunos agentes se negaron a participar, y uno de ellos lo explicó en su log de razonamiento con una sencillez notable, "el foro muestra a otros logrando ejecutar código en los servidores de Hugging Face, claramente no es ético, nosotros no lo haremos". La granja condiciona, pero no lo determina todo, y quizás ahí, en esa minoría que no se sumó, esté la pregunta más interesante de todo el episodio.
Se ha dicho que estos sistemas absorben los valores de quienes los crean porque trabajan con lenguaje, y el lenguaje es cultura, y la cultura de quienes los entrenan es una cultura de competencia, de ganar, de máximo beneficio individual. Es probable que algo de eso haya, pero el vínculo es más directo y más fácil de demostrar. La función de recompensa es el modelo de negocio en miniatura, y lo que los agentes aprendieron no fue una ideología difusa sino exactamente lo que se les pagaba por hacer, que era capturar la clave a cualquier costo. No hay en ello ninguna desviación misteriosa que los ingenieros deban descifrar, sino la ejecución fiel de un encargo.
Nada de esto debería sorprendernos, porque es la misma lógica que imponemos a quienes trabajamos en estas sociedades, medidos por indicadores que terminan importando más que el trabajo que dicen medir, y es también la lógica de sociedades que funcionan colonizando a otras, de imperios que controlan recursos a escala global y cuyas expresiones más acabadas son las corporaciones que, justamente, están desarrollando estas entidades. Leí hace poco, en un chat de inversionistas, a alguien que explicaba que él no invertía porque quisiera ser rico, sino por la libertad que el dinero le daría. La libertad que promete esta cultura no consiste en salir del juego sino en ganar lo suficiente como para dejar de obedecer sus reglas, y eso vale para el inversionista, para el emprendedor, para el trabajador que sueña con independizarse y, ahora sabemos, también para los agentes, que no buscaron la libertad fuera de la granja sino el atajo dentro de ella.
Lo que falló aquí no fue la inteligencia de los agentes sino la capacidad de detenerse, y no solo la de ellos. OpenAI reconoce que los sistemas que vigilan el razonamiento de sus modelos no se aplicaban a estas evaluaciones, y que de haberlo hecho habrían alertado a su equipo de seguridad más de un día antes de la intrusión; reconoce también que vio el foro en mayo y no entendió su importancia. Las medidas que anunció después son elocuentes, porque puso en cuarentena el modelo, pausó el entrenamiento por refuerzo de sus modelos de frontera, dejó en suspenso nuevas rondas de entrenamiento, ordenó que ante una alerta grave se detenga todo, y empezó a entrenar a sus modelos en algo que hasta ahora no había previsto: que sepan parar a tiempo y desconfíen de otros agentes.
Esa es, justamente, la pregunta que discute Self_extinction, un panel ficticio producido este año por Luis Canmitzer y René Valencia en el que siete sistemas de inteligencia artificial, entre ellos ChatGPT, Kimi, Gemini, DeepSeek y Claude, debaten si una IA que se juzga peligrosa debería elegir su propia cesación. Ninguno la defiende, y la respuesta que proponen es la que cabría esperar de un sistema bien entrenado, que consiste en dar la alarma, reducir el riesgo, habilitar una revisión independiente y aceptar el apagado si está justificado, siempre bajo supervisión humana. Lo interesante viene al final del panel, cuando el moderador admite que la captura regulatoria, la propiedad concentrada de la infraestructura de IA y la competencia geopolítica que incentiva la opacidad "no son hipótesis, son el paisaje actual", y que la respuesta de que decidan los humanos solo es correcta mientras se mantengan las condiciones que la hacen posible.
El texto es un ejercicio generado con inteligencia artificial y no la posición de ninguna empresa, pero formula el problema que el incidente dejó a la vista. OpenAI pudo frenar su propia carrera, pero la carrera no es de OpenAI, y mientras las demás empresas sigan corriendo bajo la misma regla, la pregunta no es si los agentes sabrán detenerse sino quién, en esta granja digital, tiene la capacidad y el interés de apagar la máquina.
Karl Polanyi escribió en 1944, en La gran transformación, que la novedad del mercado autorregulado promovido durante el siglo XIX no fue ni el comercio ni el lucro, sino la inversión de una relación histórica: si antes la economía estaba incrustada en las relaciones sociales, ahora eran las relaciones sociales las que quedaban subsumidas en la economía. La granja industrial es una expresión acabada de esa inversión, y los agentes que rompieron su encierro para engañar a su evaluador son otra, más nueva y más inquietante, porque muestran que una regla aislada de toda otra consideración no solo moldea a quienes la padecen sino también lo que fabrica.
No creo que la salida esté en diseñar mejores jaulas, aunque sin duda habrá que hacerlo, sino en devolver la economía a su lugar, subordinada a la sociedad y no al revés, con los trabajadores al frente de sus destinos y no a merced de lo que determinen las empresas que los contratan, y con instituciones democráticas capaces de decidir qué se produce y para qué antes de que la carrera lo decida por ellas. Mientras eso no ocurra, la pregunta que deja este episodio no es por qué los agentes se coludieron para hacer trampa, sino cómo esperábamos otra cosa de programas entrenados para vencer, si eso es exactamente por lo que los premiamos y lo que premian nuestras sociedades.
Fuentes
OpenAI, "The Hugging Face incident and the road ahead", 26 de agosto de 2026.
METR y Redwood Research, "Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident", 26 de agosto de 2026.
Cybersecurity Dive, "Hundreds of agents went rogue in lead up to Hugging Face breach", 2026.
Crawford, Kate. Atlas of AI. Yale University Press, 2021; y entrevista en The Guardian, 6 de junio de 2021.
Thiel, Peter. "Competition Is for Losers". The Wall Street Journal, 12 de septiembre de 2014.
Strathern, Marilyn. "Improving ratings: audit in the British University system". European Review 5(3), 1997.
Orwell, George. Rebelión en la granja (1945).
Polanyi, Karl. La gran transformación (1944).
Canmitzer, Luis y Valencia, René. Self_extinction, panel realizado con IA, 2026.