Expertos internacionales reclaman una regulación firme de la inteligencia artificial frente al poder tecnológico
La inteligencia artificial necesita reglas claras, supervisión independiente y una orientación inequívoca hacia el interés general. Esa es la principal conclusión defendida por el Consejo Asesor Internacional de Inteligencia Artificial, que ha subrayado la importancia de construir sistemas tecnológicos éticos, transparentes y plenamente compatibles con los derechos humanos.
El organismo considera que el desarrollo de la IA no puede quedar únicamente en manos de las grandes compañías tecnológicas ni depender de compromisos voluntarios. A su juicio, la concentración de capacidades, datos e infraestructuras en un reducido grupo de empresas puede generar desequilibrios económicos, políticos y sociales difíciles de corregir a largo plazo.
La regulación debe situar a las personas en el centro
El consejo apuesta por un modelo de inteligencia artificial centrado en las personas. Esto implica que la innovación debe respetar la dignidad, la privacidad, la igualdad y la libertad de los ciudadanos, además de garantizar mecanismos eficaces para reclamar cuando una decisión automatizada cause un perjuicio.
La expansión de la IA ya afecta a ámbitos sensibles como el empleo, la educación, la sanidad, la seguridad y el acceso a servicios públicos. En estos sectores, un error de diseño, un sesgo en los datos o una decisión imposible de explicar puede tener consecuencias directas sobre la vida de millones de personas.
Por este motivo, los expertos defienden que los sistemas de alto impacto estén sometidos a evaluaciones rigurosas antes de su puesta en marcha y también durante toda su vida útil. No bastaría con comprobar si una herramienta funciona desde el punto de vista técnico: también habría que analizar si sus resultados son justos, seguros y proporcionales.
Transparencia y responsabilidad para los sistemas de IA
Uno de los pilares de la propuesta es la transparencia. Las empresas y las administraciones deberían informar de cuándo utilizan inteligencia artificial, con qué finalidad y qué tipo de datos intervienen en el proceso. También tendrían que explicar, en la medida de lo posible, los criterios que determinan una recomendación o una decisión automatizada.
La transparencia no significa revelar secretos industriales ni publicar cada detalle del código. Significa ofrecer información comprensible y suficiente para que las personas afectadas puedan conocer sus derechos, detectar posibles errores y solicitar una revisión humana cuando sea necesario.
El consejo también reclama una asignación clara de responsabilidades. Cuando un sistema falla, no debería existir un vacío legal que permita trasladar la culpa de una empresa a otra o atribuir el problema exclusivamente al algoritmo. Los desarrolladores, proveedores y organizaciones que despliegan estas herramientas deben responder por los riesgos que introducen.
El riesgo de una concentración excesiva
La advertencia sobre los llamados tecno-oligarcas se relaciona con la creciente acumulación de poder en el sector. El acceso a grandes volúmenes de datos, chips especializados, centros de datos y modelos avanzados exige inversiones que pocas compañías pueden asumir. Esta situación puede limitar la competencia y aumentar la dependencia de gobiernos, empresas y ciudadanos respecto a un reducido número de actores.
Una regulación eficaz debería abordar también esta dimensión económica. La protección de la competencia, la interoperabilidad y el acceso equitativo a determinadas infraestructuras son elementos esenciales para evitar que la inteligencia artificial se convierta en un espacio cerrado dominado por unas pocas plataformas.
El objetivo no sería frenar la innovación, sino impedir que el progreso tecnológico avance sin controles democráticos. La competencia puede favorecer mejores servicios, reducir costes y facilitar que investigadores, pequeñas empresas y entidades públicas desarrollen soluciones adaptadas a sus propias necesidades.
Estándares comunes para un desafío global
La naturaleza internacional de la inteligencia artificial hace necesario coordinar las normas entre países. Los sistemas se entrenan con datos procedentes de múltiples territorios, se ofrecen a través de internet y pueden afectar a personas que se encuentran fuera de la jurisdicción donde tiene su sede la empresa responsable.
Por ello, el Consejo Asesor Internacional de Inteligencia Artificial defiende que los marcos regulatorios se apoyen en estándares compartidos. La protección de los derechos humanos, la seguridad, la trazabilidad y la supervisión independiente deberían formar parte de una base común, con independencia de dónde se diseñe o utilice una herramienta.
Esta cooperación también permitiría combatir con mayor eficacia problemas como la desinformación, la discriminación algorítmica, la vigilancia masiva y el uso malicioso de modelos generativos. Sin acuerdos mínimos, las compañías podrían trasladar determinadas actividades a países con controles más débiles.
Una oportunidad para recuperar la confianza
La regulación, según este enfoque, no debe entenderse como un obstáculo burocrático, sino como una condición para que la sociedad confíe en la inteligencia artificial. Los ciudadanos necesitan saber que pueden utilizar estas tecnologías sin renunciar a sus derechos ni quedar indefensos ante decisiones que no comprenden.
La recomendación de los expertos llega en un momento de expansión acelerada de la IA generativa y de creciente debate sobre sus efectos. La prioridad, sostienen, debe ser establecer límites antes de que las aplicaciones más sensibles se generalicen y resulte más difícil corregir sus consecuencias.
El reto consiste ahora en convertir estos principios en normas aplicables, controles efectivos y sanciones proporcionales. Solo así la inteligencia artificial podrá desarrollar su potencial sin quedar al servicio exclusivo de quienes concentran el poder tecnológico.
