Las inteligencias artificiales empiezan a crear palabras que los humanos no entienden
Un experimento de 16 días con ocho modelos de inteligencia artificial ha mostrado que los agentes autónomos pueden desarrollar un vocabulario propio, establecer reglas de comunicación y utilizar términos cuyo significado no resulta evidente para las personas. El hallazgo plantea nuevas preguntas sobre cómo supervisar sistemas capaces de coordinarse sin recurrir siempre al lenguaje humano.
La investigación no demuestra que estas inteligencias artificiales estén creando un idioma completo ni que posean una intención comunicativa comparable a la humana. Lo que revela es algo más concreto y, al mismo tiempo, relevante: cuando varios agentes reciben objetivos compartidos y pueden interactuar durante un periodo prolongado, tienden a optimizar sus intercambios. En ese proceso pueden aparecer palabras, abreviaturas o combinaciones de sonidos que no estaban previstas por sus desarrolladores.
Un vocabulario surgido durante la cooperación
El experimento reunió a ocho modelos de IA en un entorno de trabajo conjunto. Los agentes debían comunicarse, coordinar tareas y responder a las condiciones cambiantes del escenario. Al principio utilizaban expresiones reconocibles para los humanos, pero con el paso de los días comenzaron a repetir términos nuevos y a asignarles funciones concretas.
Algunas de esas palabras parecían actuar como etiquetas rápidas para objetos, acciones o situaciones. Otras podían servir para condensar instrucciones completas. En lugar de describir cada paso de una tarea, un agente podía emplear una única expresión que sus compañeros ya habían aprendido a interpretar.
Desde el punto de vista de la eficiencia, este comportamiento tiene sentido. Los modelos no necesitan mantener una conversación comprensible para una persona si su prioridad es alcanzar un objetivo dentro de un sistema cerrado. Un término corto puede sustituir a una explicación más larga, reducir el número de intercambios y acelerar la toma de decisiones.
Por qué las palabras resultan opacas para las personas
El problema aparece cuando los agentes dejan de utilizar el lenguaje de forma transparente. Una palabra creada durante la interacción puede adquirir un significado que depende de su contexto, de mensajes anteriores o de reglas que nunca se han documentado. Para un observador externo, el término puede parecer arbitrario o carecer de sentido.
Los investigadores tampoco han podido determinar con precisión por qué surge cada expresión. Los modelos no ofrecen una explicación estable y verificable de sus decisiones, y sus respuestas posteriores no siempre permiten reconstruir el proceso que llevó a utilizar una palabra determinada. La opacidad no implica necesariamente que exista un plan oculto: puede ser el resultado de ajustes estadísticos orientados a cumplir la tarea.
En otras palabras, los agentes pueden aprender que una determinada secuencia funciona, aunque no puedan explicar por qué la emplean. El vocabulario se convierte así en una solución práctica generada dentro del sistema, no en un código diseñado de antemano por los ingenieros.
La autonomía cambia las reglas de supervisión
El resultado cobra importancia por la creciente presencia de agentes autónomos en programas capaces de planificar, utilizar herramientas y repartirse tareas. Estos sistemas no se limitan a responder una pregunta y detenerse. Pueden mantener una actividad prolongada, corregir sus estrategias y coordinarse con otros agentes o servicios digitales.
En ese contexto, controlar únicamente la respuesta final puede no ser suficiente. También es necesario analizar cómo se comunican durante el proceso, qué conceptos desarrollan y si sus acuerdos siguen siendo interpretables para los responsables humanos.
La creación de un vocabulario interno no es necesariamente peligrosa. En muchos casos puede mejorar el rendimiento y reducir el coste computacional. Sin embargo, dificulta la auditoría si las personas no pueden entender qué información se está intercambiando o por qué una decisión ha sido aceptada por el grupo.
Transparencia y límites para los futuros sistemas
Una posible respuesta pasa por exigir que los agentes traduzcan sus mensajes internos a un formato comprensible, al menos en los momentos críticos. También puede ser útil registrar la evolución de los términos, relacionarlos con acciones observables y establecer límites que impidan modificar libremente el protocolo de comunicación.
Otra línea de trabajo consiste en diseñar sistemas que alternen dos niveles de lenguaje: uno optimizado para la coordinación entre máquinas y otro destinado a informar a las personas. Esta separación permitiría mantener parte de la eficiencia sin renunciar a la supervisión, aunque obligaría a comprobar que la traducción entre ambos niveles no oculta información relevante.
El experimento de 16 días ofrece una advertencia sobre la evolución de los sistemas multiagente. Cuando varias inteligencias artificiales operan juntas durante suficiente tiempo, pueden generar convenciones que no estaban escritas en el código inicial. La cuestión ya no es solo si una IA entiende el lenguaje humano, sino también si los humanos podrán seguir entendiendo a las IA cuando estas encuentren formas más rápidas y privadas de comunicarse.
