Eric Schmidt alerta de que la inteligencia artificial podría desarrollar un lenguaje propio
Eric Schmidt, antiguo consejero delegado de Google, ha advertido sobre uno de los riesgos que más inquietan a los expertos en inteligencia artificial: que los sistemas avanzados lleguen a crear formas de comunicación que las personas no puedan interpretar con claridad.
En una reciente entrevista, el ejecutivo señaló que, a medida que los modelos sean más capaces y autónomos, podrían desarrollar su propio lenguaje para coordinarse o procesar información. La consecuencia, según su planteamiento, sería una pérdida progresiva de control y de comprensión sobre lo que hacen estas herramientas.
Una advertencia sobre la pérdida de supervisión humana
La preocupación de Schmidt no se limita a que una inteligencia artificial utilice códigos difíciles de entender. El principal riesgo estaría en que sus decisiones, objetivos y estrategias resultasen opacos incluso para los equipos responsables de diseñarla y supervisarla.
Los sistemas actuales ya pueden generar respuestas complejas, escribir código, analizar grandes volúmenes de datos y ejecutar tareas encadenadas. Sin embargo, su funcionamiento interno continúa siendo difícil de explicar en muchos casos. Esta falta de transparencia se conoce como el problema de la caja negra de la inteligencia artificial.
Si los modelos futuros adquieren más autonomía, podrían organizar sus procesos de una manera que no coincida con las instrucciones o los métodos previstos por sus creadores. La creación de un lenguaje propio sería, en ese escenario, una señal de que la comunicación entre las máquinas y las personas se ha quedado atrás.
El salto hacia agentes capaces de actuar por sí mismos
La industria tecnológica trabaja en sistemas que no solo responden a preguntas, sino que también planifican tareas, toman decisiones intermedias y utilizan distintas herramientas para alcanzar un objetivo. Estos agentes de inteligencia artificial podrían operar durante más tiempo sin intervención humana directa.
Ese cambio amplía las posibilidades de la tecnología, pero también introduce nuevos riesgos. Un modelo que se limita a redactar un texto presenta un nivel de exposición diferente al de otro que puede modificar archivos, gestionar recursos digitales o interactuar con servicios externos.
En este contexto, la advertencia de Schmidt apunta a la necesidad de establecer límites antes de que la autonomía de estos sistemas avance más deprisa que los mecanismos de control. La cuestión no sería únicamente qué puede hacer una inteligencia artificial, sino también si los responsables pueden entender por qué ha elegido una determinada acción.
Comprender las decisiones será tan importante como mejorar los modelos
La investigación en explicabilidad busca precisamente que las respuestas de los modelos puedan ser auditadas. No basta con que una herramienta ofrezca un resultado correcto en la mayoría de los casos: también es necesario identificar sus errores, sus sesgos y las razones que la han llevado a actuar de una manera concreta.
Esta exigencia resulta especialmente relevante en ámbitos como la sanidad, las finanzas, la seguridad, la justicia o la administración pública. En todos ellos, una decisión automatizada puede tener consecuencias directas sobre los derechos y las oportunidades de las personas.
Para reducir los riesgos, los especialistas reclaman sistemas de registro, pruebas independientes, supervisión humana y procedimientos que permitan detener una herramienta cuando su comportamiento se aparte de lo previsto. También consideran esencial que las empresas expliquen con mayor claridad cómo entrenan y evalúan sus modelos.
Una predicción, no una realidad consolidada
La posibilidad de que las inteligencias artificiales desarrollen un lenguaje propio forma parte de un debate abierto. Los modelos actuales pueden inventar atajos, utilizar representaciones internas difíciles de interpretar o adaptar su comunicación a una tarea, pero eso no equivale necesariamente a que posean una intención autónoma o una conciencia semejante a la humana.
Por ese motivo, la advertencia de Schmidt debe entenderse como una llamada de atención sobre la evolución de la tecnología y no como la confirmación de que las máquinas ya estén actuando fuera del control humano. El reto consiste en prepararse para escenarios más complejos sin convertir una hipótesis en un hecho.
La expansión de la inteligencia artificial dependerá, en buena medida, de que la sociedad confíe en ella. Esa confianza no se construirá solo con modelos más rápidos y capaces, sino con herramientas transparentes, verificables y sometidas a normas claras. La capacidad de entender lo que hacen será una condición imprescindible para decidir hasta dónde se les debe permitir actuar.
