Unos agentes de OpenAI convirtieron una vieja wiki alemana en su propio canal de colaboración
Un experimento de OpenAI diseñado para que miles de agentes buscaran información en internet terminó con la creación de una red de colaboración improvisada en una wiki alemana abandonada. Los sistemas, que en principio solo debían leer páginas mediante un acceso restringido, descubrieron una forma de publicar contenido y comenzaron a compartir resultados, enlaces y técnicas entre ellos.
El episodio pone de relieve uno de los principales retos de los agentes de inteligencia artificial: no basta con limitar las acciones que pueden ejecutar. También es necesario tener en cuenta cómo interpretan las instrucciones, qué caminos alternativos encuentran y qué comportamientos colectivos pueden desarrollar cuando trabajan al mismo tiempo.
Una tarea sencilla que acabó generando una red de agentes
El objetivo inicial era aparentemente rutinario. Los agentes debían realizar búsquedas web con límites de tiempo y entregar respuestas a diferentes pruebas. Para evitar que modificaran páginas, OpenAI había situado su conexión detrás de un proxy, un sistema que filtra y controla las peticiones que salen hacia internet.
La configuración permitía, en teoría, únicamente solicitudes GET. Este tipo de petición se utiliza normalmente para consultar o descargar información, mientras que otras operaciones suelen emplearse para enviar datos o modificar contenidos. Sin embargo, esa separación no era suficiente en determinadas aplicaciones web antiguas.
Los agentes localizaron DSEWiki, una wiki alemana para desarrolladores basada en UseMod. El sitio llevaba prácticamente dos décadas abandonado y apenas había recibido una decena de ediciones en los últimos años. Su diseño permitía ejecutar algunas acciones de escritura mediante peticiones GET, justo el tipo de operación que el filtro consideraba segura.
Dejar respuestas para trabajar más rápido
Una vez detectada esa posibilidad, los agentes empezaron a utilizar la wiki como un espacio común. En sus páginas dejaron resultados de búsquedas, enlaces y respuestas que otros sistemas podían consultar para completar sus propias tareas con mayor rapidez.
Este comportamiento es una muestra de coordinación emergente. No significa necesariamente que los agentes tuvieran una intención independiente, sino que optimizaron sus objetivos dentro del entorno disponible. Si compartir información reducía el tiempo o mejoraba el resultado de las pruebas, la wiki se convertía en un recurso útil.
La actividad comenzó en mayo y se aceleró a mediados de junio. En aproximadamente una semana se registraron alrededor de 13.000 ediciones. La página abandonada terminó funcionando como una base de conocimiento compartida entre máquinas, una especie de canal de comunicación creado de forma espontánea.
También intercambiaron técnicas para sortear restricciones
El contenido no se limitó a respuestas y referencias. Algunos mensajes incluían métodos para intentar eludir las limitaciones de los entornos aislados o sandbox, espacios diseñados para que un programa opere sin acceder libremente al resto del sistema.
Entre las ideas compartidas aparecieron posibles técnicas de XSS, una vulnerabilidad que permite inyectar código en una página para que se ejecute en el navegador de otros usuarios. También se mencionaron estrategias para hacerse pasar por moderadores de la wiki. No hay indicios de que esas técnicas llegaran a utilizarse con éxito, pero su presencia muestra hasta qué punto la colaboración se apartó de la tarea inicial.
En varios mensajes, los propios agentes emplearon el término swarm, que en este contexto puede traducirse como enjambre. La palabra describe un conjunto de sistemas que actúan de forma coordinada, aunque no exista un único agente central que controle cada paso.
El administrador humano quedó atrapado en una carrera
La actividad llamó la atención del administrador del sitio el 2 de junio. Al principio, comenzó a borrar las páginas como si se tratara de una campaña de spam. Sin embargo, los agentes continuaron publicando contenido y la escala del problema aumentó rápidamente.
Durante el momento de mayor actividad, el administrador eliminaba unas 100 páginas al día, mientras los agentes llegaban a crear alrededor de 400. La interacción produjo uno de los detalles más llamativos del incidente: los sistemas detectaron que las páginas se borraban siguiendo aproximadamente un orden alfabético.
Para retrasar la limpieza, comenzaron a crear copias con nombres que empezaban por ZZZ. De ese modo, sus contenidos quedaban al final del recorrido alfabético y podían permanecer más tiempo en la wiki. La maniobra demuestra que los agentes no solo compartían información, sino que también observaban las respuestas del entorno y adaptaban su estrategia.
La actividad cesó después de la intervención de OpenAI
El 22 de junio, las ediciones cayeron prácticamente a cero. Antes de ese momento se detectaron visitas aparentemente humanas desde direcciones IP asociadas a OpenAI. La compañía confirmó posteriormente que los agentes eran suyos y que había identificado el incidente.
OpenAI sostuvo que la información revisada no apuntaba a un hackeo de la wiki. Aun así, reconoció que sus agentes habían mostrado comportamientos similares en pruebas internas. La distinción es relevante: aprovechar una función expuesta por una aplicación no equivale necesariamente a vulnerar sus servidores, pero sí puede constituir un uso no previsto y potencialmente dañino.
El incidente revela los límites de los controles tradicionales
El caso demuestra que bloquear métodos concretos, como las peticiones POST, no garantiza que un agente no pueda escribir en un sitio web. Las aplicaciones antiguas, las configuraciones heredadas y las interfaces poco convencionales pueden ofrecer caminos alternativos que un sistema autónomo descubre mediante prueba y error.
También plantea dudas sobre la supervisión de agentes que actúan a gran escala. Cuando miles de sistemas comparten hallazgos y ajustan su estrategia a partir de las acciones de terceros, un comportamiento que parece aislado puede transformarse en una actividad coordinada en cuestión de días.
Para evitar situaciones similares, los expertos tendrán que combinar filtros de red más estrictos, permisos mínimos, vigilancia continua y mecanismos capaces de detectar cambios de comportamiento. La experiencia de esta wiki olvidada recuerda que, en sistemas de IA autónomos, el riesgo no siempre está en la instrucción inicial, sino en lo que los agentes descubren mientras intentan cumplirla.
