El experto español del panel de la ONU sobre IA pide frenar el desarrollo sin control
Román Orús, único español entre los cuarenta expertos independientes que integran el Panel Científico Internacional de la ONU sobre Inteligencia Artificial, reclama más prudencia ante la expansión de esta tecnología. Su advertencia se centra en evitar que la inteligencia artificial avance hacia modelos capaces de supervisar, clasificar o condicionar de forma permanente a la sociedad.
El mensaje llega en un momento de crecimiento acelerado de la IA generativa, los sistemas autónomos y las herramientas de análisis masivo de datos. Para Orús, el debate ya no debe limitarse a las ventajas económicas o a la innovación: también debe abordar quién controla estos sistemas, con qué límites operan y qué garantías tienen los ciudadanos.
Una llamada a poner límites antes de que sea tarde
La petición de frenar no equivale a detener toda la investigación en inteligencia artificial. El planteamiento apunta a establecer reglas claras antes de que determinadas aplicaciones se integren en ámbitos sensibles sin una supervisión suficiente.
La IA ya participa en procesos relacionados con la selección de personal, la concesión de créditos, la seguridad, la sanidad o la educación. En muchos casos, sus decisiones se apoyan en grandes volúmenes de información y resultan difíciles de explicar incluso para quienes las han desarrollado.
El riesgo, según esta visión, aparece cuando una herramienta diseñada para asistir a las personas empieza a convertirse en una autoridad de facto. Un sistema que puntúa comportamientos, anticipa riesgos o decide qué contenidos ve cada usuario puede influir en la vida cotidiana sin que exista un conocimiento real de sus criterios.
El temor a una IA que supervise a la humanidad
La advertencia de Orús se resume en una idea: no se busca una inteligencia artificial que supervise a la humanidad. La frase plantea uno de los principales dilemas tecnológicos de los próximos años: cómo aprovechar la capacidad de estas herramientas sin entregarles funciones de vigilancia o decisión que deberían permanecer bajo control humano.
La supervisión permanente podría adoptar formas muy distintas. Desde el seguimiento de la actividad digital hasta la evaluación automatizada de ciudadanos, empleados o consumidores. El problema no reside únicamente en la existencia de estos sistemas, sino en la posibilidad de que se conviertan en mecanismos opacos, difíciles de auditar y prácticamente imposibles de rechazar.
También preocupa la concentración de poder. El desarrollo de los modelos más avanzados requiere grandes cantidades de datos, capacidad de cálculo y recursos financieros. Esto limita la competencia y deja buena parte de la tecnología en manos de un grupo reducido de empresas y organizaciones con influencia global.
El papel del panel internacional de la ONU
El Panel Científico Internacional de la ONU sobre Inteligencia Artificial reúne a cuarenta especialistas independientes de distintos países. Su función es aportar conocimiento científico y técnico para mejorar la comprensión de la IA y ayudar a orientar la respuesta internacional ante sus oportunidades y riesgos.
La presencia de un experto español en este grupo sitúa a España dentro de una conversación global que afecta a gobiernos, empresas, universidades y ciudadanos. Las decisiones que se adopten en este ámbito tendrán consecuencias que irán más allá de las fronteras nacionales, especialmente en un mercado digital conectado.
Uno de los desafíos será lograr que la regulación avance al mismo ritmo que la tecnología. Las normas demasiado genéricas pueden quedarse obsoletas rápidamente, mientras que las medidas excesivamente rígidas podrían dificultar aplicaciones beneficiosas. El equilibrio exigirá evaluación continua, cooperación internacional y capacidad para corregir errores.
Transparencia, responsabilidad y control humano
Entre las prioridades del debate figuran la transparencia de los algoritmos, la protección de los datos personales y la posibilidad de reclamar cuando una decisión automatizada perjudica a una persona. También será necesario determinar quién responde cuando un sistema de IA comete un error o provoca un daño.
La supervisión humana no debería consistir únicamente en revisar el resultado final de una máquina. Para que sea efectiva, debe existir capacidad real para detener el sistema, modificar sus criterios y cuestionar sus decisiones. Sin esas garantías, el control humano puede convertirse en una formalidad.
La intervención de Orús refuerza así una posición cada vez más extendida entre investigadores y especialistas: la innovación no puede medirse solo por la potencia de los modelos. También debe valorarse su impacto social, el reparto de sus beneficios y la protección de los derechos fundamentales.
El futuro de la inteligencia artificial dependerá, en buena medida, de las decisiones que se tomen ahora. El reto no consiste en elegir entre tecnología o progreso, sino en construir sistemas útiles y seguros que permanezcan al servicio de las personas, y no al contrario.
