Anthropic lance FlashProve pour vérifier les sorties de l'IA grâce à la cryptographie
Ce système open source à divulgation nulle de connaissance prouve qu'un modèle authentique a généré une réponse tout en gardant secrets les poids neuronaux propriétaires.
Traduit automatiquement de l’original en anglais Lire l’original
Anthropic a publié FlashProve, un système cryptographique open source qui vérifie si un modèle d'intelligence artificielle a généré une réponse donnée sans exposer ses poids propriétaires. L'outil permet aux clients, aux auditeurs et aux régulateurs de confirmer qu'un fournisseur a bien exécuté le modèle promis plutôt qu'un substitut moins cher, répondant ainsi à un enjeu central de propriété intellectuelle dans le cloud computing.
Des preuves mathématiques remplacent la confiance aveugle
Les développeurs accèdent de plus en plus à des modèles avancés via des API tierces et des services de routage. Aujourd'hui, les utilisateurs ne disposent d'aucun mécanisme technique leur permettant de confirmer si un fournisseur a réellement exécuté le système demandé ou s'il y a substitué une alternative plus petite et moins coûteuse afin de réduire ses dépenses d'exploitation. Interesting Engineering rapporte qu'Anthropic a conçu FlashProve pour résoudre ce dilemme d'authenticité sans contraindre les propriétaires de modèles à divulguer leurs paramètres propriétaires au public.
Le système repose sur zkSNARK, une méthode de preuve cryptographique à divulgation nulle de connaissance qui confirme qu'un calcul a été effectué correctement tout en masquant les valeurs sous-jacentes. FlashProve s'exécute en deux étapes. D'abord, le fournisseur publie un engagement cryptographique représentant une empreinte numérique unique des poids du réseau de neurones. Ensuite, lorsqu'une requête arrive, le système produit le texte accompagné d'une preuve mathématique liée à cet engagement initial. Quiconque possède le prompt, la sortie et l'engagement peut vérifier la preuve sur du matériel ordinaire.
Performances de référence sur un modèle de 400 milliards de paramètres
Anthropic a testé le logiciel sur Llama 4 Maverick, un modèle de type mélange d'experts de 400 milliards de paramètres. Lors de tests sur un seul GPU NVIDIA H100, FlashProve a généré des preuves cryptographiques au rythme d'environ 110 tokens par seconde, selon Interesting Engineering.
Chaque preuve générée occupe environ 19 Mo pour un prompt de 1 024 tokens. Vérifier cette preuve ne nécessite aucun accélérateur spécialisé. Une unité centrale standard à 24 cœurs boucle le calcul de vérification en environ 17 secondes, ce qui permet une validation côté client sur du matériel informatique ordinaire.
Surcharge technique et publication en open source
Le prototype se heurte encore à de sérieux obstacles de calcul avant un déploiement commercial. Générer les preuves de FlashProve exige 70 à 95 fois le temps d'exécution GPU des moteurs d'inférence standard tels que vLLM, comme le note Interesting Engineering. Le logiciel gère des fenêtres de contexte allant jusqu'à 1 024 tokens, s'appuie sur un décodage glouton et évalue des représentations entières plutôt que des opérations complètes en virgule flottante.
Si le code masque les poids de paramètres spécifiques, il laisse visible l'architecture d'ensemble. Pour stimuler l'innovation technique, Anthropic a publié FlashProve sous licence Apache 2.0, en diffusant le code exécutable, la spécification du protocole, les preuves de vérification formelle et le rapport technique pour une inspection indépendante.
À lire aussi sur The Patent : Transmettre des odeurs par Internet avec Scentronic · Des ingénieurs de Penn accélèrent la vision des caméras événementielles jusqu'à 440 fois par seconde
