La seguridad de la inteligencia artificial no puede depender de un pacto entre magnates
La decisión de no poner en el mercado productos de inteligencia artificial peligrosos no debería quedar en manos de los ejecutivos de las grandes tecnológicas. Los acuerdos voluntarios pueden ayudar, pero no sustituyen a una norma con rango de ley, controles independientes y sanciones proporcionales. Cuando una tecnología puede afectar a la seguridad, los derechos fundamentales o la estabilidad económica, la responsabilidad debe recaer en las instituciones democráticas.
El debate sobre cómo controlar la IA suele presentarse como una negociación entre empresas: qué límites aceptan, qué pruebas realizan antes de lanzar un modelo y hasta dónde están dispuestas a compartir información. Ese enfoque deja fuera una cuestión esencial: las reglas que protegen al conjunto de la sociedad no pueden depender de la voluntad de un grupo reducido de compañías.
Los compromisos voluntarios tienen un alcance limitado
Las empresas tecnológicas pueden comprometerse a evaluar sus sistemas, retirar aplicaciones dañinas o mejorar la transparencia de sus modelos. Estas medidas son útiles, especialmente cuando se aplican de forma rápida y permiten anticiparse a una regulación todavía en desarrollo.
Sin embargo, los códigos internos presentan varios problemas. No todas las compañías tienen los mismos recursos ni los mismos incentivos para invertir en seguridad. Además, una empresa puede modificar sus políticas, relajar sus controles o priorizar el lanzamiento de un producto si considera que la ventaja comercial compensa el riesgo.
La competencia también puede generar una carrera hacia abajo. Si una compañía asume costes elevados para verificar sus sistemas y otra lanza antes un producto menos supervisado, la primera parte con desventaja. Una regulación común evita que la seguridad se convierta en un obstáculo para quien decide actuar con mayor responsabilidad.
La ley ofrece garantías que un acuerdo privado no puede proporcionar
Una norma pública establece obligaciones conocidas de antemano, define quién responde cuando algo falla y permite a los ciudadanos reclamar. También obliga a las empresas a facilitar información a los organismos supervisores y fija procedimientos para investigar incidentes, retirar productos o limitar usos concretos.
En el caso de la inteligencia artificial, esa claridad resulta especialmente importante. Un sistema puede utilizarse para seleccionar candidatos, conceder créditos, detectar fraudes, recomendar tratamientos o moderar contenidos. Si comete errores sistemáticos o discrimina a determinados grupos, las consecuencias no se limitan a una pantalla: pueden afectar al empleo, la vivienda, la salud o el acceso a servicios esenciales.
La legislación europea ya avanza en esa dirección mediante un enfoque basado en el riesgo. Las aplicaciones más sensibles deben cumplir requisitos más exigentes, mientras que determinados usos se consideran inaceptables. El reto ahora es aplicar esas reglas de manera coherente, dotar de recursos a los supervisores y adaptar el marco a una tecnología que evoluciona con rapidez.
Regular no significa frenar toda la innovación
Una de las principales objeciones a la regulación es que podría ralentizar la innovación y dejar a Europa en desventaja frente a otras regiones. Es un riesgo que debe analizarse, pero no justifica la ausencia de controles. La falta de normas también tiene un coste: fraudes a gran escala, filtraciones de datos, decisiones automatizadas injustas y pérdida de confianza en las nuevas herramientas.
Un marco legal previsible puede producir el efecto contrario al que temen sus detractores. Si las empresas saben qué requisitos deben cumplir, pueden diseñar sus productos desde el inicio con criterios de seguridad, privacidad y explicabilidad. Esa certeza favorece la inversión responsable y permite competir sobre la calidad del servicio, no únicamente sobre la velocidad de lanzamiento.
La regulación, además, no tiene por qué aplicar las mismas exigencias a todos los sistemas. Un asistente que resume documentos no plantea los mismos riesgos que una herramienta que decide sobre la libertad de una persona o controla infraestructuras críticas. La clave está en establecer obligaciones proporcionales, revisar su eficacia y mantener canales para que las empresas puedan innovar dentro de unos límites claros.
Supervisión independiente y responsabilidad real
La ley solo será eficaz si cuenta con autoridades capaces de hacerla cumplir. Los organismos supervisores necesitan personal especializado, acceso a documentación técnica y capacidad para realizar auditorías. También deben poder imponer sanciones que resulten disuasorias, incluso a las compañías con mayor poder económico.
La responsabilidad no puede diluirse en la complejidad de un modelo de IA. Debe quedar claro quién ha desarrollado el sistema, quién lo ha integrado en un producto y quién ha decidido utilizarlo en un contexto de alto impacto. Cuando exista un daño, las personas afectadas deben disponer de vías sencillas para obtener explicaciones, impugnar decisiones y reclamar una reparación.
Un asunto democrático, no solo empresarial
Los directivos de las tecnológicas tienen conocimientos y experiencia relevantes, pero no han recibido un mandato para decidir qué riesgos debe asumir la sociedad. Su función es desarrollar productos y obtener beneficios dentro de las reglas aprobadas por los representantes públicos.
Por eso, el control de la inteligencia artificial no necesita esperar a un gran acuerdo entre magnates del sector. Los pactos pueden complementar la acción pública, compartir buenas prácticas y acelerar medidas urgentes. Pero la protección de los derechos y la seguridad colectiva debe descansar en leyes debatidas, supervisores independientes y tribunales con capacidad de actuación.
La pregunta no es si las empresas están dispuestas a comportarse bien, sino qué obligaciones deben cumplir aunque no les resulte rentable hacerlo. En una tecnología con capacidad para transformar la economía y la vida cotidiana, esa diferencia marca la frontera entre una promesa de seguridad y una garantía efectiva.
