Aktuelles

Forschungsarbeit · Meotis Research

Ein LLM auf einer Blockchain betreiben: unsere erste Studie misst den tatsächlichen Preis jedes Tokens

On-Chain-Inferenz mit begrenztem Instruktionsbudget: Kostenmodell, Nachweis einer ternären Untergrenze und Sitzungskosten, gemessen auf dem Internet Computer

Meotis Research9. Juni 20264 Min. Lesezeit

Antike mechanische Rechenmaschine auf einer Kette aus Blöcken, als Schwarz-Weiss-Gravur

In wenigen Worten. Wer eine KI direkt auf einer Blockchain betreibt, bezahlt jede Berechnung in einzeln gezählten «Instruktionen», nicht in Serversekunden. Unsere Studie misst präzise, was jedes von einem Sprachmodell erzeugte Token auf dem Internet Computer (ICP) kostet, und zeigt drei Dinge: Die Kosten hängen zunächst von der Qualität der Ausführungssoftware ab; sie lassen sich mit einer einfachen Formel aus dem technischen Datenblatt des Modells vorhersagen; und es gibt eine messbare Untergrenze, die ein eigens entwickeltes Format für ternäre Gewichte erreicht. Dabei sind die Ausgaben über verschiedene Netzwerke hinweg bitidentisch: genau das macht überprüfbare KI aus.

Was die Studie zeigt

Drei zentrale Ergebnisse, alle im realen ICP-Netzwerk gemessen, nicht in einer Simulation:

  1. Die Software bestimmt den Preis. Dasselbe Modell erzeugt im selben Canister mit der Community-Implementierung 10 Tokens pro Aufruf, mit unserer Implementierung 29. Fast das Dreifache, ohne das Modell oder die Hardware zu ändern: Der Kostenkoeffizient ist eine Eigenschaft der Ausführungssoftware.
  2. Die Kosten lassen sich aus der Model Card vorhersagen. Bei 11 aktuellen Modellen aus 8 Familien verknüpft eine einfache Gesetzmässigkeit das Instruktionsbudget mit der Anzahl erzeugter Tokens, bei einem mittleren Fehler von 7.7 %. Matrixmultiplikationen verursachen rund 98.7 % der Kosten: Hier lohnt sich die Optimierung.
  3. Eine ternäre Untergrenze, bis aufs Bit überprüfbar. Ein eigens für ternäre Gewichte entwickelter Ausführungspfad erreicht die empirische Untergrenze der Decodierungskosten. Seine Ausgaben sind auf einer lokalen Replik, einem Schweizer Subnetz mit 13 Repliken und im ICP-Mainnet byteidentisch.

Warum das für Meotis wichtig ist

Unsere These lautet: Das kognitive Erbe einer Organisation muss souverän und überprüfbar sein. Mit LAMS und der ORIGYN Foundation praktizieren wir bereits die On-Chain-Verankerung auf ICP. Diese Studie untersucht den nächsten Schritt: die Integrität von Daten auf der Blockchain nicht nur zu belegen, sondern die Intelligenz selbst in einer Umgebung auszuführen, in der jede Berechnung gezählt, reproduzierbar und durch Konsens geprüft wird. Eine KI, deren Antworten unabhängige Rechner bis aufs Bit überprüfen können, ist die strengste Auslegung von «Nichts geschieht ohne Spur».

Die Studie stammt von Julien Aerni, Siméon Fluck und Dustin Becker und ist frei zugänglich veröffentlicht (CC BY 4.0). Jede Zahl lässt sich auf eine benannte Messdatei zurückführen. Das zentrale Ergebnis lässt sich mit dem begleitenden Artefakt in etwa dreissig Minuten reproduzieren.

Forschungsarbeit · Zenodo · DOI 10.5281/zenodo.20607598

Lesen Sie die vollständige Studie und reproduzieren Sie jede Zahl. Das PDF, das Messregister, die unverarbeiteten On-Chain-Protokolle und die Anleitung zur Reproduktion sind auf Zenodo frei zugänglich veröffentlicht.

Englische Originalstudie auf Zenodo lesen

Lesen Sie unsere kommenden Publikationen als Erste.

Einige Artikel sind vorbehalten. Hinterlassen Sie Ihre E-Mail-Adresse, um Zugang zu kommenden Veröffentlichungen von Meotis Research zu erhalten.

Sprechen wir über Ihr Unternehmen.

  • 30 Minuten, per Video oder in Neuchâtel
  • Mit dem Gründungsteam
  • Unverbindlich

Meotis, The Cognitive Heritage

Meotis

Kennenlerngespräch

  • 30 Min.
  • Per Video, Link per E-Mail

Wählen Sie einen Tag

Wählen Sie eine Uhrzeit

Ortszeit Neuchâtel

Wählen Sie einen Tag und dann eine Uhrzeit.