Anthropic endurece su política de seguridad para la IA con más controles y revisión externa
Anthropic ha publicado la versión 2.2 de su Responsible Scaling Policy (RSP), el marco que establece en qué condiciones puede entrenar y desplegar modelos de inteligencia artificial cada vez más capaces. La actualización incorpora umbrales de riesgo más detallados, supervisión independiente de universidades y un compromiso de publicar los resultados de sus evaluaciones cada seis meses.
El cambio, anunciado el 13 de octubre, afecta especialmente a las capacidades relacionadas con la bioseguridad, la ciberseguridad y la persuasión a gran escala. La compañía también fija una restricción clara: si un modelo alcanza determinados niveles de capacidad ofensiva, no podrá llegar a los productos comerciales hasta que existan medidas de mitigación verificadas.
De categorías binarias a cinco niveles de capacidad
La versión anterior de la política utilizaba un sistema relativamente simple: un modelo superaba o no superaba un umbral de riesgo. La RSP 2.2 sustituye este enfoque por una escala de cinco niveles, lo que permite analizar con más precisión qué puede hacer un sistema y en qué áreas concretas supone una amenaza.
Esta graduación resulta importante porque un modelo puede presentar capacidades muy avanzadas en un ámbito de bajo riesgo y, al mismo tiempo, acercarse a un nivel preocupante en otro. En lugar de bloquear todo el sistema por una única señal, Anthropic podrá limitar determinados usos, productos o funciones.
La política se aplica a tres áreas prioritarias:
- Bioseguridad: conocimientos y capacidades que podrían facilitar la investigación o el desarrollo de agentes biológicos peligrosos.
- Ciberseguridad: aptitud para detectar vulnerabilidades, escribir código malicioso o ejecutar ataques informáticos.
- Persuasión a escala: capacidad para generar mensajes personalizados y convincentes de forma masiva, con posibles efectos políticos o sociales.
Este sistema de niveles busca evitar tanto la reacción excesiva ante capacidades todavía controlables como la minimización de señales de riesgo que, aunque parciales, puedan anticipar un salto relevante en el comportamiento del modelo.
Un umbral especialmente sensible en ciberseguridad
Uno de los puntos más relevantes de la RSP 2.2 es el relativo a los ataques de día cero. Se trata de vulnerabilidades desconocidas hasta ese momento, normalmente sin un parche disponible, que pueden explotarse contra programas ampliamente utilizados.
Anthropic considera que existe un nivel de alerta máxima si un modelo puede ayudar de forma autónoma a desarrollar un exploit funcional, es decir, un código capaz de aprovechar una vulnerabilidad real, utilizando únicamente información pública.
Si las evaluaciones internas detectan esa capacidad, la política impide desplegar el modelo en productos de la compañía hasta que se hayan implantado medidas de protección comprobadas. La empresa asegura que Claude 3.7, su modelo más avanzado en producción en octubre de 2026, no supera actualmente ese umbral.
Los resultados detallados de esta evaluación se incluirán en el primer informe semestral, previsto para enero de 2027. La publicación periódica pretende ofrecer una visión continuada de la evolución de los modelos, en lugar de limitar la información a anuncios puntuales.
Universidades externas revisarán los protocolos
La principal novedad institucional es el acuerdo con un consorcio formado por el Instituto Tecnológico de Massachusetts, Stanford y la Universidad de Edimburgo. Sus investigadores revisarán dos veces al año los protocolos de evaluación y una muestra de los resultados obtenidos.
El grupo no tendrá acceso a los pesos del modelo, los parámetros internos que determinan su comportamiento, ni al código utilizado durante el entrenamiento. Sí podrá examinar los protocolos completos, los criterios aplicados y los datos de resultados. Es una fórmula intermedia que permite una auditoría externa sin revelar información que podría comprometer la propiedad intelectual o la seguridad del sistema.
La medida distingue la política de una simple declaración corporativa. Hasta ahora, gran parte de los compromisos de seguridad de las empresas de IA dependían de sus propios equipos y de información seleccionada por ellas mismas. La revisión independiente no elimina todos los límites, pero introduce una capa adicional de escrutinio.
El reto de los modelos con capacidad para actuar
La actualización también llega en un momento en el que los modelos de IA dejan de limitarse a responder preguntas. Los sistemas agentivos pueden utilizar herramientas, consultar servicios externos, ejecutar código y encadenar tareas con una intervención humana reducida.
En este contexto, una prueba estática —por ejemplo, preguntar al modelo cómo realizar una acción peligrosa— puede ser insuficiente. Las evaluaciones deben analizar también qué ocurre cuando el sistema dispone de acceso a un navegador, una terminal informática, una base de datos o aplicaciones empresariales.
Anthropic ya ha desarrollado el Model Context Protocol, un estándar para conectar modelos con herramientas y fuentes de información. Sin embargo, la RSP 2.2 todavía no establece un marco específico para medir de forma exhaustiva los riesgos de agentes desplegados a gran escala. Ese vacío será uno de los principales retos de futuras revisiones.
Una decisión de seguridad y también de negocio
Endurecer los controles puede tener un coste comercial. Si una evaluación no ofrece garantías suficientes, un lanzamiento podría retrasarse mientras los competidores avanzan con sus propios modelos. La decisión resulta especialmente significativa en un mercado en el que Anthropic compite con OpenAI y Google por contratos empresariales.
Al mismo tiempo, la transparencia puede convertirse en una ventaja competitiva. Las grandes empresas necesitan justificar ante sus departamentos legales, equipos de cumplimiento y clientes cómo gestionan los riesgos de la inteligencia artificial. Contar con un proveedor que somete sus evaluaciones a revisión externa facilita esa tarea.
El movimiento también anticipa las exigencias regulatorias europeas para los sistemas de IA de alto impacto. Aunque la normativa no resuelve por sí sola todos los riesgos de los modelos avanzados, disponer de evaluaciones documentadas y verificables puede ayudar a las compañías a demostrar que aplican controles sistemáticos.
La RSP 2.2 no elimina los riesgos asociados a la inteligencia artificial avanzada, pero introduce umbrales más precisos, una supervisión externa concreta y un calendario de transparencia. En una industria marcada por la velocidad de lanzamiento, el compromiso más relevante es que la seguridad pueda frenar, al menos en determinados casos, la llegada de un modelo al mercado.
