Anthropic presenta FlashProve, un sistema criptográfico para demostrar qué modelo de IA generó una respuesta
Anthropic ha publicado FlashProve, un prototipo de código abierto que permite verificar si una respuesta procede realmente del modelo de inteligencia artificial anunciado por el proveedor. El sistema utiliza criptografía para demostrar el origen de la salida sin revelar los parámetros internos del modelo, conocidos como pesos.
La propuesta aborda una de las grandes zonas opacas de los servicios de IA actuales: el usuario no tiene una forma independiente de saber qué modelo ha respondido. Un proveedor podría cambiar silenciosamente a un sistema más pequeño y barato, o modificar la respuesta durante el proceso, sin que el cliente pudiera comprobarlo.
FlashProve plantea una alternativa basada en pruebas matemáticas. El proveedor publica una huella digital del modelo y cada respuesta incorpora una prueba criptográfica que confirma que ha sido generada con esos pesos concretos y no con otros.
Una prueba sin revelar los pesos del modelo
Los pesos son los valores numéricos que una red neuronal aprende durante su entrenamiento. En conjunto, determinan cómo procesa las instrucciones y produce sus respuestas. Para los laboratorios de IA, estos datos representan uno de sus activos más sensibles y normalmente no se hacen públicos.
La tecnología empleada por FlashProve se basa en un zkSNARK, una prueba de conocimiento cero. Este tipo de mecanismo permite demostrar que una afirmación es cierta sin mostrar la información privada que la sustenta.
Aplicado a este caso, el proveedor puede demostrar que una respuesta ha sido calculada con un modelo específico sin entregar sus pesos. El verificador solo necesita comprobar la prueba y la huella publicada, no acceder al modelo completo ni confiar únicamente en la palabra de la empresa.
Anthropic ha probado el sistema con Llama 4 Maverick, un modelo de Meta con aproximadamente 400.000 millones de parámetros. Además, las garantías de seguridad se han expresado mediante pruebas verificadas por máquina en Lean, un lenguaje utilizado para comprobar formalmente que los razonamientos matemáticos cumplen determinadas propiedades.
Un mecanismo pensado para auditorías y servicios empresariales
La verificación de modelos puede tener aplicaciones en entornos donde la trazabilidad es más importante que en un chatbot convencional. Los evaluadores independientes podrían confirmar que están examinando el sistema que el proveedor declara, mientras que los clientes podrían comprobar que reciben el modelo incluido en su contrato.
También podría ser útil para los reguladores. En sectores donde se exija utilizar modelos aprobados, una prueba criptográfica permitiría verificar que una infraestructura ejecuta realmente el sistema autorizado. Esto resultaría especialmente relevante cuando una aplicación combina modelos de varios proveedores mediante sistemas de enrutamiento.
La cuestión afecta ya a productos de seguridad, atención al cliente, análisis empresarial y automatización de decisiones. Cuando una IA participa en compras, diagnósticos, controles de acceso o procesos regulatorios, conocer el modelo que ha intervenido deja de ser una cuestión técnica y se convierte en un requisito de auditoría.
El coste actual impide su uso generalizado
FlashProve está lejos de ser una solución lista para integrarse en servicios comerciales. Generar una prueba requiere entre 70 y 95 veces más tiempo de GPU que ejecutar el modelo normalmente, según las mediciones del prototipo.
En las pruebas realizadas, una tarjeta Nvidia H100 podía generar demostraciones a una velocidad aproximada de 110 tokens por segundo. Cada petición de 1.024 tokens producía una prueba de unos 19 megabytes, un tamaño considerable para un servicio que gestionase millones de respuestas.
La parte positiva es que la verificación resulta mucho más ligera. Comprobar una prueba requiere alrededor de 17 segundos en una CPU convencional, sin GPU y sin acceso a los pesos del modelo. Esta diferencia entre generar y verificar podría facilitar su uso futuro si se consigue reducir el coste de creación.
Limitaciones técnicas importantes
El prototipo solo admite contextos de hasta 1.024 tokens, una cantidad inferior a la que utilizan muchos asistentes actuales. Un token puede ser una palabra, parte de una palabra o un signo, por lo que este límite restringe tanto la longitud de la conversación como la respuesta que se desea certificar.
Además, FlashProve funciona por ahora con modelos de mezcla de expertos. Estos sistemas contienen varias redes especializadas y activan solo algunas de ellas para cada entrada, con el objetivo de mejorar la eficiencia. Esta arquitectura no representa a todos los modelos disponibles.
La técnica también mantiene ocultos los pesos, pero no necesariamente todos los detalles del diseño del modelo. Tampoco cubre ataques basados en el análisis de los tiempos de respuesta, una vía que podría revelar información indirecta sobre la infraestructura utilizada.
A pesar de sus limitaciones, el avance mejora de forma notable los resultados anteriores en este campo. Una demostración previa del mismo tipo necesitaba alrededor de 14,3 horas para certificar 1.000 tokens. FlashProve reduce ese tiempo de forma sustancial, aunque todavía mantiene un coste incompatible con la mayoría de despliegues reales.
Una prueba de concepto, no un producto inmediato
Anthropic ha liberado el código, el informe técnico y las comprobaciones formales bajo licencia Apache 2.0. La publicación permite que otros investigadores estudien el enfoque, intenten optimizarlo y exploren su compatibilidad con distintas arquitecturas de inteligencia artificial.
La compañía presenta el proyecto como un avance intermedio y no como una tecnología terminada. De hecho, no tiene planes actuales para desplegar FlashProve en sus servicios. El propio estado del prototipo confirma que la principal barrera ya no es demostrar que la idea resulta posible, sino conseguir que sea rápida, barata y escalable.
Su importancia, por tanto, está más en el problema que pone sobre la mesa que en su utilidad inmediata. A medida que las empresas dependan de modelos conectados a servicios críticos, la pregunta sobre qué sistema ha generado una respuesta será cada vez más habitual. FlashProve ofrece una vía para responderla con matemáticas en lugar de exigir confianza ciega en el proveedor.
