Eseguire un LLM su una blockchain: il nostro primo articolo scientifico misura il prezzo reale di ogni token

In poche parole. Eseguire un’IA direttamente su una blockchain significa pagare ogni calcolo in “istruzioni” contate individualmente, non in secondi di server. Il nostro articolo misura con precisione quanto costa ogni token generato da un modello linguistico su Internet Computer (ICP) e mostra tre aspetti: il costo dipende innanzitutto dalla qualità del software che esegue il modello, può essere previsto con una semplice formula a partire dalla scheda tecnica del modello, ed esiste un limite inferiore misurabile che si raggiunge con un formato di pesi ternari progettato appositamente. Il tutto con output identici bit per bit da una rete all’altra: la stessa definizione di IA verificabile.

Cosa mostra l’articolo

Tre risultati principali, tutti misurati sulla rete ICP reale, non in simulazione:

1. Il software stabilisce il prezzo. Lo stesso modello, sullo stesso canister, genera 10 token per chiamata con l’implementazione della comunità e 29 con la nostra. Quasi il triplo, senza modificare il modello o l’hardware: il coefficiente di costo è una proprietà del software di esecuzione.
2. Il costo è prevedibile dalla scheda del modello. Tra 11 modelli recenti appartenenti a 8 famiglie, una legge semplice collega il budget di istruzioni al numero di token generati, con un errore medio del 7.7%. La moltiplicazione di matrici rappresenta circa il 98.7% del costo: è l’unica cosa che vale la pena ottimizzare.
3. Un limite inferiore ternario, verificabile al bit. Un percorso di esecuzione progettato appositamente per pesi ternari raggiunge il limite empirico del costo di decodifica, con output identici a livello di byte su una replica locale, una subnet svizzera a 13 repliche e la mainnet ICP.

Perché è importante per Meotis

La nostra tesi è che il patrimonio cognitivo di un’organizzazione debba essere sovrano e verificabile. Pratichiamo già l’ancoraggio on-chain con LAMS e la ORIGYN Foundation su ICP. Questo articolo esplora il passo successivo: non solo dimostrare l’integrità dei dati on-chain, ma eseguire l’intelligenza stessa in un ambiente in cui ogni calcolo è conteggiato, riproducibile e verificato dal consenso. Un’IA in cui ogni risposta può essere verificata bit per bit da macchine indipendenti è la versione più rigorosa di “nulla accade senza una traccia”.

L’articolo è stato redatto da Julien Aerni, Siméon Fluck e Dustin Becker, pubblicato in open access (CC BY 4.0). Ogni dato dell’articolo è riconducibile a un file di misurazione identificato, e il risultato principale si riproduce in circa trenta minuti con l’artefatto di accompagnamento.