de sus capacidades, el AI Act de la UE pretende regular el uso de inteligencia artificial y proteger a la población de posibles riesgos sistémicos. Con la entrada en plena aplicación el 2 de agosto, la Oficina de IA de la UE tendrá la tarea de vigilar de cerca a empresas como OpenAI, Anthropic y Google, que operan en la frontera de la IA y cuyos modelos pueden tener un impacto significativo en la sociedad.
El equipo de evaluación, compuesto por 36 personas, será el encargado de asegurarse de que estas empresas cumplan con las normativas establecidas en el AI Act. Las multas por incumplimiento podrían llegar hasta el 3% de la facturación global de las compañías, lo que podría representar cantidades significativas para gigantes del sector como Google o Meta.
Uno de los aspectos más relevantes del AI Act es la clasificación de cuatro categorías de riesgo sistémico relacionadas con la inteligencia artificial. Entre ellas se incluyen situaciones como la facilitación de bioataques, la pérdida de control de un modelo, ciberataques realizados por AI y la manipulación a gran escala. La reciente serie de incidentes de seguridad en el sector, como el hackeo del modelo de OpenAI a Hugging Face, ha puesto de manifiesto la importancia de contar con una regulación efectiva en este campo.
A pesar de los nuevos poderes de la Oficina de IA, existen limitaciones en cuanto a su capacidad de actuación. No pueden ordenar directamente el apagado de un modelo peligroso ni acceder a los pesos de los modelos sin consentimiento explícito. Sin embargo, se espera que estas medidas contribuyan a una mayor transparencia y responsabilidad por parte de las empresas desarrolladoras de IA.
El AI Act también afecta a las redes sociales que utilizan sistemas de recomendación basados en inteligencia artificial, así como a los modelos de lenguaje de propósito general. La regulación busca proteger a los usuarios de posibles daños y garantizar un uso ético de la IA en diferentes ámbitos.
A pesar de que la UE no cuenta con un competidor relevante en la primera línea en el campo de la IA, se espera que empresas como OpenAI, Anthropic y Google cumplan con las normativas establecidas en el AI Act. La transparencia y la cooperación por parte de los desarrolladores de IA serán clave para garantizar un entorno seguro y ético en el uso de esta tecnología.
En definitiva, el AI Act de la UE marca un hito en la regulación de la inteligencia artificial y pone de manifiesto la importancia de abordar los riesgos sistémicos asociados a su uso. Con la entrada en plena aplicación el 2 de agosto, la Oficina de IA de la UE podrá empezar a ejercer sus funciones de supervisión y control sobre las empresas de IA de frontera, garantizando así un uso responsable y seguro de esta tecnología en el mercado europeo.
