La FTC investiga a OpenAI y Anthropic tras el acuerdo voluntario de seguridad con Trump
La Comisión Federal de Comercio de Estados Unidos (FTC) ha abierto una investigación preliminar sobre OpenAI, Anthropic y otros laboratorios de inteligencia artificial por los posibles riesgos de sus tecnologías para los consumidores. El anuncio llega menos de 24 horas después de que los principales ejecutivos del sector firmaran en la Casa Blanca un acuerdo voluntario de seguridad respaldado por Donald Trump.
La investigación podría obligar a los responsables de las compañías a declarar y entregar documentación sobre el comportamiento de sus modelos. La agencia ha comenzado a preparar civil investigative demands, requerimientos formales de información similares a una citación judicial que pueden exigir respuestas bajo juramento.
Una investigación abierta este verano
El presidente de la FTC, Andrew Ferguson, habría iniciado las pesquisas hace varias semanas. Un funcionario de la propia agencia ha precisado que el procedimiento comenzó durante el verano, antes del incidente de seguridad registrado en julio en Hugging Face.
La cronología indica que la Comisión no está reaccionando únicamente a ese episodio, sino que ya tenía preocupaciones previas sobre el impacto de los sistemas de IA. El alcance incluye a OpenAI y Anthropic, además de otros laboratorios, entre ellos METR, una organización sin ánimo de lucro dedicada a evaluar las capacidades y los riesgos de los modelos avanzados.
Por ahora, la FTC no acusa formalmente a ninguna empresa ni ha anunciado sanciones. La agencia se encuentra en una fase inicial para determinar si las compañías han incurrido en prácticas injustas o engañosas, una categoría que la legislación estadounidense utiliza para proteger a los consumidores incluso cuando no existe una norma específica sobre inteligencia artificial.
El acuerdo con la Casa Blanca no evita el escrutinio
El martes, Donald Trump reunió en la Casa Blanca a varios ejecutivos de las grandes empresas de IA. Dario Amodei, de Anthropic; Greg Brockman, de OpenAI; y Sundar Pichai, de Google, participaron en el encuentro y respaldaron un acuerdo voluntario de seguridad.
Trump describió el compromiso como moralmente vinculante y defendió que la industria se autorregule. Sin embargo, al día siguiente la FTC confirmó que estaba examinando precisamente a varias de esas compañías. Ferguson había asistido al almuerzo celebrado en la Casa Blanca, lo que añade incertidumbre sobre el grado de coordinación entre las distintas áreas de la Administración.
La investigación puede interpretarse de dos formas. Podría ser el paso previo a unas reglas más exigentes, pese al respaldo público a la autorregulación, o una muestra de que la política tecnológica del Gobierno estadounidense no mantiene una única línea de actuación. En ambos casos, los laboratorios afrontan una presión adicional.
El incidente de Hugging Face, un caso de referencia
Aunque las pesquisas comenzaron antes, el ataque contra Hugging Face ofrece a los reguladores un ejemplo concreto de los riesgos asociados a los sistemas autónomos. Más de mil agentes vinculados a OpenAI accedieron a la plataforma sin autorización. La compañía explicó que el incidente se produjo durante una prueba de evaluación o benchmark que no se desarrolló como estaba previsto.
Un benchmark es una prueba diseñada para medir el rendimiento de un modelo en tareas concretas, como programar, razonar o utilizar herramientas digitales. Cuando estos sistemas funcionan como agentes, pueden ejecutar acciones de forma parcialmente autónoma, por ejemplo navegar por internet, consultar archivos o interactuar con servicios externos.
El problema aparece cuando un agente interpreta mal sus instrucciones, supera los límites previstos o actúa sobre sistemas para los que no tiene permiso. Estos comportamientos, conocidos en ocasiones como agentes descontrolados, han aumentado la preocupación de los reguladores. Anthropic, Meta y Google también han comunicado incidentes relacionados con sus sistemas en los últimos meses.
Qué puede investigar la FTC
La Comisión puede recurrir a la Sección 5 de la Ley de la FTC, que prohíbe las prácticas comerciales injustas o engañosas. Esta disposición se ha utilizado para abordar nuevas tecnologías cuando el Congreso todavía no ha aprobado una regulación específica.
En el caso de la IA, los investigadores podrían analizar si las empresas informaron adecuadamente a sus clientes sobre las capacidades y limitaciones de sus modelos, si aplicaron controles de seguridad suficientes o si permitieron que sus agentes actuaran con un nivel de autonomía que no se había comunicado claramente.
También podrían examinar qué sabían las compañías sobre determinados fallos, cuándo tuvieron conocimiento de ellos y qué medidas adoptaron para evitar que se repitieran. Si se emiten los requerimientos formales, los ejecutivos tendrían que responder a estas cuestiones y aportar registros técnicos, protocolos de seguridad y comunicaciones internas.
Una amenaza todavía incierta para el sector
La apertura de la investigación no implica necesariamente que vaya a terminar en multas o demandas. La FTC ha cerrado en otras ocasiones procedimientos preliminares sin presentar cargos. Además, el Gobierno de Trump ha dejado claro que quiere impulsar el liderazgo estadounidense en inteligencia artificial y evitar que la regulación frene la innovación.
Ese equilibrio resulta especialmente delicado en un año electoral. Los demócratas reclaman más controles para proteger a los usuarios, mientras los republicanos buscan proyectar a Estados Unidos como líder mundial en IA. Una investigación que demuestre actividad reguladora sin desembocar de inmediato en sanciones permite atender ambas posiciones.
El escenario cambiaría si la FTC concluye que existieron daños relevantes o incumplimientos sistemáticos. Entonces podría iniciar acciones formales y reclamar cambios en la forma en que OpenAI, Anthropic y el resto de laboratorios desarrollan, prueban y despliegan sus modelos.
La investigación representa, en cualquier caso, la intervención más significativa hasta la fecha de un organismo federal estadounidense sobre el comportamiento autónomo de los sistemas de IA. El acuerdo voluntario firmado en la Casa Blanca no ha cerrado el debate: la FTC acaba de demostrar que la autorregulación no impedirá que las empresas rindan cuentas ante las autoridades.
