Javier Martínez reclama una regulación clara para evitar usos peligrosos de la inteligencia artificial
El experto en inteligencia artificial Javier Martínez ha defendido la necesidad de establecer reglas específicas para controlar los sistemas más avanzados de IA. Su advertencia llega en un momento en el que Anthropic, OpenAI y Google estudian la creación de un organismo común que supervise el desarrollo y el uso de estas tecnologías.
La propuesta responde a una preocupación cada vez más extendida en el sector: los modelos de inteligencia artificial avanzan con rapidez, pero los mecanismos para evaluar sus riesgos y limitar sus posibles abusos no evolucionan al mismo ritmo. La cuestión ya no se centra únicamente en qué pueden hacer estas herramientas, sino en quién debe responder cuando se utilizan de forma dañina.
Un organismo para supervisar los sistemas más avanzados
La posible entidad tendría como objetivo analizar el comportamiento de los sistemas de IA más sofisticados, establecer criterios de seguridad y detectar situaciones en las que un modelo pueda actuar de manera imprevisible. También podría coordinar evaluaciones técnicas y facilitar el intercambio de información entre empresas, investigadores y administraciones públicas.
La iniciativa parte de tres de las compañías con mayor peso en el desarrollo de inteligencia artificial generativa. Anthropic, OpenAI, creadora de ChatGPT, y Google trabajan desde hace años en modelos capaces de redactar textos, programar, analizar grandes volúmenes de datos y ejecutar tareas cada vez más complejas.
Ese progreso ha abierto oportunidades en ámbitos como la educación, la sanidad, la investigación y la productividad empresarial. Sin embargo, también ha elevado la preocupación por los fallos de seguridad, la generación de contenidos fraudulentos, la automatización de ataques informáticos y la toma de decisiones sin una supervisión humana suficiente.
El riesgo de una IA desalineada
Uno de los conceptos que más debate genera es el de la desalineación. Se produce cuando un sistema persigue un objetivo de una forma que no coincide con las intenciones de sus desarrolladores o con los intereses de las personas que lo utilizan.
En modelos cada vez más autónomos, un error de interpretación o una instrucción mal planteada podría tener consecuencias importantes. Si una herramienta cuenta con acceso a programas, redes, cuentas financieras o bases de datos, un comportamiento incorrecto podría multiplicar los daños en poco tiempo.
El problema no tiene por qué estar relacionado con una supuesta voluntad propia de la máquina. En muchos casos, el peligro puede surgir de una combinación de errores técnicos, objetivos mal definidos, datos defectuosos o ausencia de controles. Por eso, los especialistas reclaman pruebas independientes antes de desplegar sistemas con capacidad para actuar sin intervención constante.
La regulación no debe esperar a que llegue el problema
Martínez considera que la sociedad necesita abordar esta cuestión antes de que se produzcan incidentes de gran escala. El experto resume su posición con una comparación directa: todo el mundo tiene un cuchillo, otra cosa es usarlo para matar. La idea pretende diferenciar entre la existencia de una herramienta y el uso que se hace de ella.
Aplicada a la inteligencia artificial, esta analogía apunta a que la tecnología no es necesariamente peligrosa por sí misma. El riesgo depende de sus capacidades, del contexto en el que se emplea y de las salvaguardas que se incorporen. Una regulación eficaz debería centrarse, por tanto, en los usos y en el nivel de impacto de cada sistema.
El marco normativo también tendría que definir responsabilidades. Las empresas deberían responder por las pruebas realizadas, la información proporcionada a los usuarios y las medidas adoptadas para evitar abusos. Al mismo tiempo, los organismos públicos necesitarían recursos técnicos suficientes para auditar tecnologías que cambian de forma continua.
Supervisión independiente y transparencia
La creación de un organismo de control solo será útil si cuenta con independencia real y capacidad para imponer criterios. No bastaría con elaborar recomendaciones voluntarias o con dejar que cada compañía determine por sí sola qué riesgos son aceptables.
- Evaluaciones de seguridad antes de lanzar modelos de alto impacto.
- Auditorías periódicas realizadas por entidades independientes.
- Registro de incidentes y comunicación rápida de fallos graves.
- Controles específicos para sistemas con capacidad de actuar de forma autónoma.
- Protección de los usuarios frente a fraudes, suplantaciones y decisiones automatizadas injustas.
La transparencia será otro elemento decisivo. Las compañías tendrán que explicar qué puede hacer cada sistema, cuáles son sus limitaciones y en qué condiciones no debe utilizarse. También será necesario informar de los cambios relevantes que se introduzcan durante su funcionamiento.
Un debate que afecta a empresas y ciudadanos
La discusión sobre la regulación de la inteligencia artificial ya no pertenece únicamente a los laboratorios tecnológicos. Sus efectos alcanzan a trabajadores, consumidores, administraciones y pequeñas empresas, que pueden depender de herramientas desarrolladas por compañías con enormes recursos.
El reto consistirá en encontrar un equilibrio entre innovación y seguridad. Un exceso de restricciones podría ralentizar aplicaciones beneficiosas, mientras que la ausencia de controles dejaría espacio para usos capaces de provocar pérdidas económicas millonarias y daños difíciles de reparar.
La reclamación de Martínez refleja una demanda creciente: avanzar en inteligencia artificial, pero con límites comprensibles, vigilancia efectiva y responsabilidad. El futuro de esta tecnología no dependerá solo de lo que sea capaz de hacer, sino también de las normas que definan cómo, cuándo y bajo qué condiciones puede hacerlo.
