Josep Curto alerta de que la carrera por salir a bolsa está debilitando la seguridad de la inteligencia artificial
La competencia entre las grandes compañías de inteligencia artificial puede estar desplazando una prioridad esencial: la seguridad. Josep Curto, profesor y experto en IA, considera que Anthropic y OpenAI están relajando sus estándares de control ante la presión por avanzar más rápido que sus rivales y preparar una eventual salida a bolsa.
Su diagnóstico apunta a un problema que va más allá de un fallo técnico concreto. A su juicio, los episodios recientes que han generado preocupación en torno a la inteligencia artificial reflejan las limitaciones de un sistema basado, en buena medida, en la autorregulación de las propias empresas. La velocidad del mercado, sostiene, está imponiendo decisiones que no siempre encajan con una gestión prudente de los riesgos.
La presión financiera condiciona las decisiones
El desarrollo de modelos de IA exige inversiones millonarias, equipos altamente especializados y una capacidad de computación cada vez mayor. En este contexto, las compañías necesitan convencer a los inversores de que pueden mantener una posición dominante y convertir su tecnología en un negocio sostenible.
La expectativa de una futura salida a bolsa añade presión. Una empresa que aspira a cotizar debe demostrar crecimiento, capacidad de expansión y una hoja de ruta capaz de generar ingresos. El problema, según Curto, aparece cuando esos objetivos financieros empiezan a pesar más que la evaluación pausada de los posibles daños derivados de sus productos.
La carrera por lanzar nuevos sistemas favorece la rapidez frente a la cautela. Cada retraso puede interpretarse como una pérdida de ventaja competitiva, mientras que cada avance se convierte en un argumento para captar capital, atraer talento y consolidar una posición privilegiada en el mercado.
Una autorregulación con límites evidentes
El experto también cuestiona la eficacia de la autorregulación en un sector con un impacto creciente sobre la economía y la sociedad. Las compañías diseñan sus propios protocolos, establecen sus niveles de tolerancia al riesgo y deciden cuándo un modelo está preparado para llegar al público.
Ese esquema puede resultar insuficiente cuando las empresas tienen incentivos comerciales para acelerar los lanzamientos. La seguridad deja entonces de ser únicamente una cuestión técnica y pasa a depender de decisiones empresariales, prioridades internas y objetivos de mercado.
Curto sostiene que las recientes situaciones preocupantes relacionadas con la IA deberían servir para revisar este modelo. No se trata solo de corregir errores después de que se produzcan, sino de establecer mecanismos que permitan identificarlos antes de que una herramienta alcance a millones de usuarios.
Los riesgos de avanzar sin controles suficientes
Los sistemas de inteligencia artificial se utilizan ya en ámbitos muy diversos. Generan textos e imágenes, procesan grandes cantidades de información, ayudan a programar y pueden intervenir en procesos de atención al cliente, educación o toma de decisiones. Cuanto mayor es su presencia, mayor es también el alcance de cualquier fallo.
Un problema de seguridad puede afectar a la privacidad, facilitar la difusión de información falsa o permitir usos maliciosos. También puede generar respuestas erróneas presentadas con una apariencia de certeza que lleve a los usuarios a confiar en ellas más de lo que deberían.
La dificultad reside en que los modelos no siempre se comportan de manera previsible en todas las situaciones. Las pruebas realizadas antes de un lanzamiento no pueden reproducir la totalidad de los usos reales, especialmente cuando las herramientas están disponibles para públicos con conocimientos, objetivos y contextos muy distintos.
La seguridad no puede quedar subordinada a la velocidad
La advertencia de Josep Curto se produce en un momento en el que la inteligencia artificial se ha convertido en uno de los sectores tecnológicos con mayor capacidad para atraer inversión. Las grandes compañías compiten por desarrollar modelos más potentes y por integrar sus servicios en productos utilizados a diario.
En esa competición, la seguridad debería formar parte del producto desde el inicio y no limitarse a una revisión final. La evaluación independiente, la publicación de información sobre las pruebas realizadas y la existencia de vías rápidas para retirar o modificar sistemas problemáticos son algunas de las medidas que pueden reducir los riesgos.
También resulta clave que las empresas asuman responsabilidades claras cuando sus sistemas provocan daños. La falta de transparencia dificulta que usuarios, investigadores y autoridades puedan conocer qué ha ocurrido y exigir cambios efectivos.
Un debate que exige supervisión pública
El caso de Anthropic y OpenAI, citado por Curto, resume una tensión que afecta a buena parte de la industria: las empresas quieren conservar la flexibilidad necesaria para innovar, pero sus herramientas tienen consecuencias que ya no pueden gestionarse como si fueran simples aplicaciones experimentales.
La regulación pública puede establecer unas garantías mínimas comunes y evitar que la seguridad dependa exclusivamente de la voluntad de cada compañía. Para que sea eficaz, deberá adaptarse a la evolución tecnológica sin convertirse en un obstáculo para la innovación, pero sin aceptar que la rapidez justifique cualquier riesgo.
La conclusión del experto es clara: la carrera por salir a bolsa y conquistar el mercado no debería marcar el ritmo de la seguridad. Si las empresas de inteligencia artificial quieren consolidar la confianza del público y de los inversores, deberán demostrar que pueden crecer sin hacer la vista gorda ante los problemas que sus propios sistemas generan.
