Anthropic rilascia FlashProve per verificare gli output dell'IA con la crittografia
Il sistema open source a conoscenza zero dimostra che un modello autentico ha generato una risposta mantenendo segreti i pesi neurali proprietari.
Tradotto automaticamente dall’originale inglese Leggi l’originale
Anthropic ha rilasciato FlashProve, un sistema crittografico open source che verifica se un modello di intelligenza artificiale ha generato una specifica risposta senza esporre i suoi pesi proprietari. Lo strumento consente a clienti, revisori e autorità di regolamentazione di confermare che un fornitore ha eseguito esattamente il modello promesso e non un sostituto più economico, affrontando una sfida centrale di proprietà intellettuale nel cloud computing.
Le prove matematiche sostituiscono la fiducia cieca
Gli sviluppatori accedono sempre più spesso a modelli di apprendimento automatico avanzati tramite API di terze parti e servizi di routing. Oggi gli utenti non hanno alcun meccanismo tecnico per confermare se un fornitore ha davvero eseguito il sistema richiesto o ha inserito un'alternativa più piccola e a basso costo per ridurre i costi operativi. Interesting Engineering riporta che Anthropic ha progettato FlashProve per risolvere questo dilemma di autenticità senza costringere i proprietari dei modelli a rivelare al pubblico i parametri proprietari.
Il sistema si basa su zkSNARK, un metodo di prova crittografica a conoscenza zero che conferma che un calcolo è avvenuto correttamente proteggendo i valori sottostanti. FlashProve si esegue in due fasi. Innanzitutto, il fornitore pubblica un impegno crittografico che rappresenta un'impronta digitale univoca dei pesi della rete neurale. In secondo luogo, quando arriva una query, il sistema restituisce il testo insieme a una prova matematica legata a quell'impegno iniziale. Chiunque possieda il prompt, l'output e l'impegno può verificare la prova su hardware comune.
Prestazioni di benchmark su un modello da 400 miliardi di parametri
Anthropic ha testato il software su Llama 4 Maverick, un modello mixture-of-experts da 400 miliardi di parametri. Nei test su una singola GPU NVIDIA H100, FlashProve ha generato prove crittografiche a una velocità di circa 110 token al secondo, secondo Interesting Engineering.
Ogni prova generata occupa circa 19 MB per un prompt di 1.024 token. La verifica di quella prova non richiede acceleratori specializzati. Una normale unità di elaborazione centrale a 24 core completa il calcolo di verifica in circa 17 secondi, consentendo la validazione lato client su apparecchiature di calcolo ordinarie.
Sovraccarico tecnico e rilascio open source
Il prototipo deve attualmente affrontare ostacoli computazionali notevoli prima della diffusione commerciale. La generazione delle prove di FlashProve richiede da 70 a 95 volte il tempo di esecuzione su GPU dei normali motori di inferenza come vLLM, come osservato da Interesting Engineering. Il software gestisce finestre di contesto fino a 1.024 token, si basa su decodifica greedy e valuta rappresentazioni intere anziché operazioni complete in virgola mobile.
Mentre il codice maschera i pesi specifici dei parametri, lascia visibile l'architettura complessiva. Per stimolare ulteriore innovazione tecnica, Anthropic ha pubblicato FlashProve con licenza Apache 2.0, rilasciando il codice eseguibile, la specifica del protocollo, le prove formali di verifica e il rapporto tecnico per un'ispezione indipendente.
Leggi anche su The Patent: Trasmettere odori via Internet con Scentronic · Gli ingegneri di Penn accelerano la visione delle event camera fino a 440 volte al secondo
