Anthropic lanza FlashProve para verificar resultados de IA mediante criptografía
El sistema de conocimiento cero de código abierto demuestra que un modelo auténtico generó una respuesta mientras mantiene en secreto los pesos neuronales propietarios.
Traducido automáticamente del original en inglés Leer el original
Anthropic ha lanzado FlashProve, un sistema criptográfico de código abierto que verifica si un modelo de inteligencia artificial generó una respuesta concreta sin exponer sus pesos propietarios. La herramienta permite a clientes, auditores y reguladores confirmar que un proveedor ejecutó el modelo exacto prometido y no un sustituto más barato, lo que aborda un desafío central de propiedad intelectual en la computación en la nube.
Las pruebas matemáticas sustituyen la confianza ciega
Los desarrolladores acceden cada vez más a modelos de máquina avanzados a través de API de terceros y servicios de enrutamiento. Hoy en día, los usuarios no disponen de ningún mecanismo técnico para confirmar si un proveedor ejecutó realmente el sistema solicitado o si introdujo una alternativa más pequeña y de menor coste para reducir gastos operativos. Interesting Engineering informa de que Anthropic diseñó FlashProve para resolver este dilema de autenticidad sin obligar a los propietarios de los modelos a revelar parámetros propietarios al público.
El sistema se basa en zkSNARK, un método de prueba criptográfica de conocimiento cero que confirma que un cálculo se realizó correctamente mientras oculta los valores subyacentes. FlashProve se ejecuta en dos etapas. Primero, el proveedor publica un compromiso criptográfico que representa una huella digital única de los pesos de la red neuronal. Segundo, cuando llega una consulta, el sistema emite el texto junto con una prueba matemática vinculada a ese compromiso inicial. Cualquier persona que posea el prompt, la salida y el compromiso puede verificar la prueba en hardware convencional.
Rendimiento en un modelo de 400.000 millones de parámetros
Anthropic probó el software con Llama 4 Maverick, un modelo de mezcla de expertos de 400.000 millones de parámetros. En pruebas con una única GPU NVIDIA H100, FlashProve generó pruebas criptográficas a un ritmo de aproximadamente 110 tokens por segundo, según Interesting Engineering.
Cada prueba generada ocupa alrededor de 19 MB para un prompt de 1.024 tokens. Verificar esa prueba no requiere aceleradores especializados. Una unidad central de procesamiento estándar de 24 núcleos completa el cálculo de verificación en unos 17 segundos, lo que permite la validación en el lado del cliente con equipos informáticos convencionales.
Sobrecarga técnica y publicación de código abierto
El prototipo se enfrenta actualmente a importantes obstáculos computacionales antes de su despliegue comercial. Generar pruebas de FlashProve exige entre 70 y 95 veces el tiempo de ejecución en GPU de motores de inferencia estándar como vLLM, como señala Interesting Engineering. El software maneja ventanas de contexto de hasta 1.024 tokens, se basa en decodificación voraz y evalúa representaciones enteras en lugar de operaciones completas en coma flotante.
Aunque el código oculta los pesos concretos de los parámetros, deja visible la arquitectura general. Para impulsar más innovación técnica, Anthropic publicó FlashProve bajo la licencia Apache 2.0, liberando el código ejecutable, la especificación del protocolo, las pruebas formales de verificación y el informe técnico para su inspección independiente.
Lee también en The Patent: Transmitir olores por internet con Scentronic · Ingenieros de Penn aceleran la visión de cámaras de eventos hasta 440 veces por segundo
