EEUU quiere sustituir el relato de la inteligencia artificial por el de la superinteligencia
La industria de la inteligencia artificial atraviesa una crisis de confianza. Los incidentes protagonizados en las últimas semanas por varios modelos de frontera, incluido un ataque contra Hugging Face, y el temor a que esta tecnología pueda convertirse en una amenaza existencial han deteriorado la percepción pública del sector.
La Administración Trump prepara una respuesta que combina comunicación y compromisos voluntarios de seguridad. Su objetivo es cambiar la forma en que se habla de estas herramientas y presentar la llamada superinteligencia como el siguiente gran salto tecnológico, en lugar de insistir en el concepto de inteligencia artificial.
Del temor a la IA a la promesa de la superinteligencia
El cambio terminológico no es menor. La expresión inteligencia artificial describe sistemas capaces de realizar tareas que asociamos con capacidades humanas, como redactar textos, analizar imágenes, programar o mantener conversaciones. Sin embargo, estos modelos no piensan como una persona ni poseen necesariamente comprensión del mundo.
El prefijo super introduce una promesa mucho más ambiciosa: máquinas capaces de superar a los seres humanos en prácticamente todos los ámbitos intelectuales. En el debate tecnológico, la superinteligencia se refiere a una hipotética IA con capacidades superiores a las humanas en áreas como la investigación científica, la planificación, la creatividad o la resolución de problemas.
Para la Administración estadounidense y buena parte de la industria, este término puede contribuir a desplazar la conversación desde los fallos actuales hacia el potencial futuro. La estrategia busca asociar la IA con avances extraordinarios y reducir la desconfianza que generan los errores, los abusos y los riesgos de los modelos actuales.
Un acuerdo de seguridad sin obligaciones legales
El cambio de discurso llega acompañado de un acuerdo presentado el pasado 29 de septiembre por Donald Trump y varios de los principales ejecutivos del sector tecnológico. Entre los participantes se encuentran responsables de Anthropic, Meta, Nvidia y Google.
El pacto plantea que las compañías adopten medidas adicionales para mejorar la seguridad de sus sistemas. Entre ellas figuran la creación de controles internos y la realización de auditorías independientes, procedimientos destinados a comprobar si los modelos cumplen unos estándares técnicos y de protección adecuados.
Los modelos de IA de frontera son los sistemas más avanzados y potentes disponibles en cada momento. Se caracterizan por utilizar grandes cantidades de datos y recursos de computación, y por incorporar capacidades cada vez más amplias. Precisamente por su potencial, también pueden producir efectos más difíciles de prever.
El principal punto débil del acuerdo es su carácter voluntario. Las empresas no estarán legalmente obligadas a aplicar todos esos controles ni a aceptar auditorías externas. La decisión dependerá de cada laboratorio, sin mecanismos de cumplimiento comparables a los que impondría una regulación.
La seguridad no puede depender solo de la buena voluntad
La ausencia de obligaciones vinculantes plantea dudas especialmente relevantes en un sector en el que los incentivos comerciales empujan a lanzar modelos cada vez más capaces con rapidez. Las auditorías independientes pueden detectar riesgos que una evaluación interna no identifique, pero pierden buena parte de su utilidad si las compañías pueden decidir cuándo y cómo realizarlas.
El debate no se limita a la posibilidad de que aparezca una superinteligencia peligrosa en un futuro lejano. La ciudadanía ya afronta problemas concretos relacionados con la expansión de la IA. La automatización de tareas amenaza con transformar numerosos empleos y genera incertidumbre sobre las profesiones que mantendrán su demanda.
- Mercado laboral: la automatización puede sustituir algunas tareas, modificar puestos de trabajo y aumentar la presión sobre determinados sectores.
- Privacidad: los sistemas pueden procesar grandes volúmenes de información personal y plantean dudas sobre su recopilación y uso.
- Contenidos sintéticos: los textos, imágenes, vídeos y audios generados automáticamente dificultan distinguir lo real de lo creado por una máquina.
- Consumo energético: los centros de datos necesitan enormes cantidades de electricidad y agua para entrenar y ejecutar modelos avanzados.
- Concentración de poder: unas pocas empresas controlan buena parte de la infraestructura, los chips y los datos necesarios para desarrollar IA.
Un cambio de nombre no resolverá la crisis de confianza
La industria puede intentar orientar la conversación hacia los beneficios de la superinteligencia, pero es improbable que el cambio de vocabulario modifique por sí solo la percepción de los usuarios. La desconfianza no procede únicamente del temor a una IA futura capaz de superar a la humanidad.
También nace de experiencias cotidianas: respuestas falsas presentadas con seguridad, decisiones automatizadas difíciles de revisar, uso de obras protegidas para entrenar modelos, despidos vinculados a la automatización y dudas sobre quién responde cuando un sistema causa un perjuicio.
Por eso, la recuperación de la confianza dependerá menos de las palabras que de los resultados. La industria tendrá que demostrar que puede desarrollar modelos avanzados con límites claros, transparencia sobre sus capacidades y procedimientos eficaces para corregir errores.
Entre las medidas que podrían reforzar esa confianza se encuentran las evaluaciones públicas de seguridad, la trazabilidad de los contenidos generados, la protección efectiva de los datos y la obligación de informar sobre los riesgos conocidos. También será necesario establecer responsabilidades concretas cuando una empresa despliegue un sistema defectuoso o insuficientemente probado.
La regulación seguirá siendo el elemento decisivo
Los compromisos voluntarios pueden servir como primer paso, pero difícilmente sustituirán a unas normas comunes y exigibles. La supervisión independiente, las sanciones y los requisitos mínimos de seguridad son los mecanismos que pueden evitar que la protección de los usuarios quede subordinada a la estrategia comercial de cada compañía.
El intento de convertir la inteligencia artificial en superinteligencia refleja la batalla por controlar el relato tecnológico. Sin embargo, el futuro del sector no dependerá solo de cómo se denominen sus sistemas, sino de si consigue responder a los problemas que ya están afectando a la sociedad.
