Román Orús reclama frenar el avance de la inteligencia artificial antes de perder el control
Román Orús, experto español que participa en el panel de Naciones Unidas sobre inteligencia artificial, ha lanzado una advertencia clara sobre el ritmo de desarrollo de esta tecnología. A su juicio, es necesario poner límites y reforzar las garantías de seguridad antes de que la evolución de los sistemas de IA resulte difícil de supervisar.
“Hay que frenar antes de que se nos vaya de las manos”, sostiene Orús. Su mensaje pone el foco en una de las principales preocupaciones del debate actual: cómo aprovechar las posibilidades de la inteligencia artificial sin renunciar al control humano ni dejar la seguridad en un segundo plano.
La velocidad de la IA preocupa a los expertos
La inteligencia artificial avanza con rapidez tanto en el ámbito empresarial como en el científico y el consumo cotidiano. Los modelos capaces de generar textos, imágenes, código o análisis complejos ya forman parte de numerosas herramientas, mientras la investigación busca sistemas cada vez más autónomos y versátiles.
Este progreso ofrece oportunidades relevantes, pero también eleva la dificultad de anticipar todos sus efectos. Cuanto más capaces son estos sistemas, más importante resulta conocer cómo toman decisiones, qué información utilizan y hasta dónde pueden actuar sin intervención humana.
La advertencia de Orús se sitúa precisamente en ese punto. No se trata de rechazar la innovación, sino de evitar que la carrera por desarrollar modelos más potentes avance más deprisa que las medidas destinadas a hacerlos seguros, fiables y responsables.
El control humano, una prioridad
Uno de los principios que atraviesa el debate internacional sobre la IA es la necesidad de mantener una supervisión humana efectiva. Las decisiones con impacto sobre la salud, la seguridad, el empleo, la educación o los derechos de los ciudadanos no deberían quedar exclusivamente en manos de sistemas automatizados.
Para que ese control sea real, no basta con incluir un botón de apagado o exigir una revisión al final del proceso. También es necesario establecer quién responde cuando un sistema comete un error, qué mecanismos permiten corregirlo y cómo puede una persona impugnar una decisión tomada con ayuda de inteligencia artificial.
La transparencia es otro elemento esencial. Las empresas y las administraciones deben poder explicar, con un nivel comprensible, el funcionamiento y las limitaciones de las herramientas que utilizan. Sin esa información, resulta complicado detectar sesgos, corregir fallos o exigir responsabilidades.
Seguridad antes que velocidad
El llamamiento a frenar no implica necesariamente detener toda la investigación. La propuesta apunta a revisar el orden de prioridades: antes de desplegar una tecnología a gran escala, conviene comprobar que sus riesgos han sido identificados y que existen recursos suficientes para mitigarlos.
En la práctica, esto puede traducirse en evaluaciones independientes, pruebas de seguridad más exigentes y controles adaptados al nivel de riesgo de cada aplicación. No todas las herramientas de IA tienen el mismo impacto, por lo que las obligaciones deberían ser especialmente estrictas en los usos que afectan directamente a las personas.
- Supervisión humana en las decisiones de mayor impacto.
- Pruebas técnicas y auditorías antes del lanzamiento de nuevos sistemas.
- Protección de los datos personales y reducción de los sesgos.
- Responsabilidades claras para desarrolladores, empresas y administraciones.
- Información accesible sobre los límites y el funcionamiento de la IA.
Una respuesta que debe ser internacional
La inteligencia artificial no se detiene en las fronteras. Un modelo puede desarrollarse en un país, entrenarse con datos procedentes de distintos lugares y utilizarse en todo el mundo en cuestión de días. Por eso, las reglas nacionales necesitan coordinarse con acuerdos y criterios internacionales.
La participación de expertos en foros multilaterales como el panel de Naciones Unidas refleja la dimensión global del reto. La regulación, la investigación y la supervisión no pueden depender únicamente de decisiones aisladas, especialmente cuando existen diferencias importantes entre países en materia de derechos, privacidad y seguridad.
Una respuesta común también puede evitar una carrera a la baja en la que las compañías o los gobiernos compitan por lanzar sistemas cada vez más avanzados sin asumir el coste de hacerlos seguros. La cooperación permitiría compartir estándares, resultados de pruebas y buenas prácticas.
Innovación con límites y responsabilidad
El debate sobre el futuro de la IA no enfrenta necesariamente a innovación y regulación. El desafío consiste en encontrar un equilibrio que permita investigar y desarrollar nuevas aplicaciones sin convertir a la sociedad en un campo de pruebas permanente.
La petición de Román Orús resume una inquietud cada vez más presente entre investigadores, instituciones y ciudadanos: la tecnología debe avanzar, pero no a cualquier precio. La seguridad, la supervisión y la responsabilidad deberían acompañar a cada nuevo salto de capacidad.
Frenar a tiempo puede significar establecer pausas, revisar estándares o limitar determinados usos mientras se estudian sus consecuencias. En todos los casos, el objetivo sería el mismo: garantizar que la inteligencia artificial siga siendo una herramienta al servicio de las personas y no una tecnología cuyo funcionamiento y decisiones escapen progresivamente a su control.
