KI-Nachrichten · 11 Min. Lesezeit

Hat Ihr API-Router das Modell ausgetauscht? Was Anthropics FlashProve beweisen kann

Anthropics FlashProve weist mit Zero-Knowledge-Beweisen nach, welches Modell antwortete. Was das Verfahren belegt und wo seine Grenzen liegen.

Illustration eines KI-Modells, das eine Antwort durch einen Router sendet, mit einem leuchtenden Verifizierungsschild über dem Datenstrom

FlashProve ist Anthropics quelloffener Forschungsprototyp für beweisbare Inferenz. Er ermöglicht es einem Modellanbieter, einen kryptografischen Beweis dafür zu erzeugen, dass eine Antwort von einem bestimmten, durch ein Commitment festgelegten Satz von Gewichten stammt, ohne diese Gewichte offenzulegen. Das im November 2026 veröffentlichte und an Metas Llama 4 Maverick demonstrierte Verfahren lässt sich noch nicht für Claude-API-Datenverkehr oder Router von Drittanbietern einschalten.

Kann ein API-Router Ihr Modell heimlich austauschen?

Ja. Ein Routing-Dienst oder Wiederverkäufer kann im Hintergrund ein billigeres oder kleineres Modell einsetzen, und Sie können den Austausch nicht zuverlässig allein durch das Lesen der Antworten erkennen.

Ein Vergleich offizieller KI-API-Preise zeigt, warum günstige API-Router und weiterverkaufte Proxy-Endpunkte attraktiv sind. Frontier-Modelle sind bei hohem Volumen teuer, und ein Vermittler, der dieselbe Modell-ID zu einem starken Rabatt verspricht, ist für Entwickler und Teamleitungen mit Blick auf ihre Monatsrechnung verlockend.

Der Haken: Das Feld model einer API-Antwort ist nur eine Zeichenfolge, die der Server zurücksendet. In seinem Forschungsbeitrag vom 2. November 2026 formulierte Anthropics Frontier Red Team das Problem klar: Wer heute ein Modell abfragt, kann nicht prüfen, ob Antworten von dem konkreten Modell stammen, das laut Entwickler antwortet, statt von einem, das „aus Kostengründen heimlich durch einen Routing-Dienst oder sogar durch einen Angreifer, der den Tokenstrom manipuliert hat, ersetzt wurde“. Anthropics technischer Bericht ergänzt, dass ein Anbieter ein kleineres oder schwächeres Modell verwenden oder sogar zwischen Anfragen das Modell wechseln könnte.

Viele Entwickler nehmen an, sie würden eine Herabstufung durch einen subjektiven Eindruck oder stichprobenartige Prompts bemerken. Anthropic warnt ausdrücklich davor, dass die Beurteilung allein anhand der Ausgabe eines Modells unzuverlässig ist, selbst wenn die Antworten hochwertig wirken. Kleinere Modelle und quantisierte Varianten bewältigen Routine-Prompts oft gut genug für eine oberflächliche Prüfung, versagen aber bei schwierigeren Grenzfällen, die erst im Produktionsbetrieb auffallen.

Was ist FlashProve?

FlashProve ist ein rein softwarebasiertes kryptografisches System. Es nutzt ein Zero-Knowledge Succinct Argument of Knowledge (zkSNARK), um zu beweisen, dass ein bestimmtes, durch ein Commitment festgelegtes Modell eine gegebene Folge von Ausgabe-Tokens erzeugt hat.

Statt sich auf vertrauenswürdige Hardware-Enklaven zu verlassen, die laut Anthropic eine Ergänzung zur Kryptografie sind, setzt FlashProve auf Mathematik. Am Ablauf sind zwei Parteien beteiligt, der Modellanbieter (der Beweisführer) und der Nutzer (der Verifizierer); er umfasst drei Schritte:

  1. Commit (offline): Vor der Bearbeitung von Anfragen berechnet und veröffentlicht der Anbieter ein kryptografisches Commitment für die Modellgewichte. Sie können es sich als kurzen, nicht fälschbaren Fingerabdruck vorstellen, der genau einen Satz von Gewichten festlegt und die Gewichte selbst geheim hält.
  2. Prove (online, nachträglich): Nachdem der Anbieter Ausgabe-Tokens für einen Prompt erzeugt hat, führt er den Beweisführer aus. Dieser erstellt eine Beweisdatei, die zeigt, dass die Auswertung des festgelegten Modells mit diesem Prompt genau diese Tokens erzeugt. Die Beweise werden nachträglich stapelweise erzeugt und nicht während des Tokenstreamings an den Nutzer inline erstellt.
  3. Verify: Jeder, der das Commitment, den Prompt und die Antwort besitzt, kann auf einer normalen CPU ein schlankes Verifizierungsprogramm ausführen und den Beweis in Sekunden prüfen, ohne die Gewichte des Modells jemals zu sehen.

Für Entwickler ohne kryptografische Spezialisierung bietet ein zkSNARK vier praktische Garantien, die Anthropic bei der Veröffentlichung hervorhebt:

  • Vollständigkeit: Hat der Anbieter wie behauptet tatsächlich das festgelegte Modell ausgeführt, besteht ein ehrlicher Beweis die Prüfung.
  • Korrektheit: Ein Anbieter kann keinen erfolgreichen Beweis für ein anderes Modell fälschen, ohne weithin anerkannte kryptografische Annahmen zu brechen.
  • Zero-Knowledge: Der Verifizierer erfährt nichts über die geheimen Gewichte, die Zwischenaktivierungen oder auch darüber, welche konkreten Experten in einem Mixture-of-Experts-Modell ausgeführt wurden. (Die Gesamtarchitektur des Modells wird allerdings nicht verborgen.)
  • Kompaktheit: Der Beweis ist klein genug, um ihn leicht herunterzuladen, und lässt sich schnell prüfen, verglichen mit einer erneuten Ausführung eines großen Modells auf eigener Hardware.

Anthropic veröffentlichte auf GitHub fünf Artefakte unter einer Apache 2.0-Lizenz (anthropics/FlashProve, Version 0.16.0): den Forschungsbeitrag, den technischen Bericht, eine von Claude geschriebene Protokollspezifikation, die Codebasis (einschließlich eines CUDA-Beweisführers, eines schnellen C++-Verifizierers namens cp_verify und eines nachweislich korrekten Lean-Verifizierers) sowie formale Lean-Beweise mit einem interaktiven Visualisierer. Anthropic weist darauf hin, dass Claude die zugrunde liegenden zkSNARK-Verbesserungen entwickelte und das Team formale Aussagen im Beweisassistenten Lean nutzte, um Claudes komplexe Designentscheidungen überprüfbar zu machen.

Wie schnell ist FlashProve und wie groß sind die Beweise?

Stand 4. November 2026 berichtet Anthropic, dass FlashProve für ein Mixture-of-Experts-Modell mit 400 Milliarden Parametern auf einer einzelnen NVIDIA H100 GPU Beweise mit rund 110 Tokens pro Sekunde erzeugen kann. Die Beweise sind kleiner als 19 MB und lassen sich auf einer CPU in 17 Sekunden prüfen.

Anthropic testete FlashProve an Metas Llama 4 Maverick, einem bekannten Beispiel unter den Modellen mit offenen Gewichten. Es nutzt insgesamt 400B Parameter, von denen pro Token rund 17B aktiv sind (etwa 232 GB bei öffentlich verfügbaren, auf 4 Bit quantisierten Gewichten). Dies sind die genauen Zahlen, die Anthropic am 2. November 2026 meldete:

Kennzahl Ergebnis von Anthropic FlashProve (Llama 4 Maverick)
Getestetes Modell Meta Llama 4 Maverick (400B insgesamt, ~17B aktiv/Token, 4-Bit-Gewichte, ~232 GB)
Hardware für den Beweisführer 1× NVIDIA H100 GPU + 24 CPU-Kerne
Offline-Commitment-Zeit Einmalig ~39 Minuten pro Modell (gültig für ~16 Millionen Anfragen vor erneutem Commitment)
Beweisgeschwindigkeit ~223 Sekunden für einen Stapel von 24 Anfragen (~110 Tokens/Sekunde)
Beweisgröße 18.78 MB pro Anfrage (~19 MB für eine Anfrage mit 1,024 Tokens)
Commitment-Download für den Client Insgesamt ~6.5 MB
Verifizierungszeit (nur CPU) 17 Sekunden auf 24 CPU-Threads (21 Sekunden auf einem einzelnen Thread)
Rechenmehraufwand gegenüber vLLM ~72× GPU-Zeit pro GPU (66–77× über die Läufe); ~94× bei der höchsten getesteten vLLM-Last (Bereich ~70–95×)
Grenze der Kontextlänge Bis zu 1,024 Tokens

Zur Einordnung verglich Anthropic FlashProve mit dem bisherigen Open-Source-Stand (VerInf) auf demselben Llama 4 Maverick. Laut Anthropic erreichte VerInf rund 0.02 Tokens pro Sekunde: Der Beweis für 1,000 Tokens dauerte 14.3 Stunden, erzeugte einen 93.6 GB großen Beweis und benötigte fast einen ganzen Tag zur Prüfung. Die Verkleinerung eines 93.6 GB großen Beweises auf 18.78 MB macht die kryptografische Inferenzprüfung von theoretischer Mathematik zu etwas, das ein Client tatsächlich herunterladen und prüfen kann.

Ein Rechenmehraufwand von 70× bis 95× gegenüber der regulären Bereitstellung mit vLLM erklärt dennoch, warum Beweise nachträglich stapelweise erstellt und nicht kostenlos an jede Live-Chatantwort angehängt werden.

Was FlashProve nicht beweist

FlashProve ist ein nicht gewarteter Forschungsprototyp mit strengen technischen Einschränkungen. Eine bestandene Prüfung garantiert daher weder Gleitkomma-Äquivalenz noch die Abdeckung einer vollständigen Unterhaltung oder eine auditierte Sicherheit für den Produktionseinsatz.

In Anthropics Anleitungen known-limits.md und what-is-proved.md im Repository benennt das Team die Grenzen zum Stand vom 4. November 2026 erfreulich offen:

  • Nur Ganzzahlmodell und Greedy-Decoding: Der Beweis gilt für eine quantisierte Festkomma-Ganzzahlversion des Modells mit Greedy-Decoding (dabei wird immer das einzelne Token mit der höchsten Bewertung gewählt). Reale APIs nutzen gewöhnlich Gleitkommaarithmetik und zufälliges Sampling mit Temperatur. Anthropic berichtet, dass bei einer Messung das jeweils beste Token an 6.81% der Positionen zwischen dem Ganzzahlmodell und einer Gleitkommaimplementierung abwich.
  • Lockerere „Clipped-Gap“-Akzeptanzregel: Da Bereitstellungssysteme leicht von der Ganzzahlreferenz abweichen können, unterstützt der Verifizierer eine lockerere Regel mit der Ausgabe WITHIN LIMITS. Anthropic warnt, dass eine Akzeptanz nach dieser Regel für sich genommen nicht beweist, dass die Antwort vom Modell stammt. Können Sie die Toleranzgrenzen nicht unabhängig beurteilen, sollten Sie nur eine exakte Übereinstimmung akzeptieren.
  • Kurze Kontextgrenze: Beweise unterstützen derzeit Kontexte bis zu 1,024 Tokens, was Anthropic im Vergleich zu normalen Programmier- oder Chatsitzungen als „ziemlich kurz“ bezeichnet.
  • Nur MoE-Architekturen: Die aktuelle Implementierung unterstützt nur Mixture-of-Experts-Architekturen und verbirgt weder die Modellarchitektur noch schützt sie vor Seitenkanälen wie Timing-Angriffen.
  • Umfang auf Tokenebene ohne Metadaten: Ein gültiger Beweis deckt nur die konkret geprüften Tokens ab und enthält weder eine Client-Identität noch einen Zeitstempel.
  • Kein unabhängiges Sicherheitsaudit: Während für den in Lean geschriebenen Referenzverifizierer die Korrektheit formal bewiesen ist, haben der schnelle C++-Verifizierer (cp_verify), der CUDA-Beweisführer und die Commitment-Komponente keine formalen Garantien – cp_verify wird lediglich gegen den Lean-Verifizierer getestet. Zudem erklärt Anthropic, dass Programme und Beweise kein unabhängiges Sicherheitsaudit erhalten haben und das Repository als Forschungsartefakt veröffentlicht wurde, das weder gewartet wird noch Beiträge annimmt.

Warum die Commitment-ID wichtiger ist als der Beweis

Ein gültiger FlashProve-Beweis bestätigt nur, dass eine Antwort von denjenigen Gewichten stammt, die zur Commitment-ID passen. Ein unehrlicher Router könnte also ein Commitment für ein billiges Modell erstellen und Ihnen einen mathematisch gültigen Beweis für das falsche Modell geben.

Das ist die wichtigste Erkenntnis für alle, die sich über API-Router von Drittanbietern Sorgen machen. In der Repository-Anleitung „Known limits“ schreibt Anthropic unter der Überschrift The provider chooses the model: „Ein Ja sagt nicht, wessen Gewichte es sind … Ein Anbieter kann sich auf jedes beliebige Modell festlegen, auch auf ein kleines oder degeneriertes.“

Stellen Sie sich vor, Sie bezahlen einen dubiosen API-Router für Zugang zu einem Frontier-Modell mit 400B Parametern. Um Geld zu sparen, führt der Router heimlich stattdessen ein billiges 8B-Modell aus. Erstellt er sein eigenes FlashProve-Commitment für dieses 8B-Modell, verarbeitet Ihren Prompt damit und sendet Ihnen die Antwort samt Beweis und Commitment-Datei, meldet der C++-Verifizierer auf Ihrem Laptop eine bestandene Prüfung. Die Mathematik ist vollständig gültig – das 8B-Modell hat diese Tokens tatsächlich erzeugt.

Deshalb formuliert Anthropic eine strenge Betriebsregel: „Beziehen Sie die Commitment-ID von einer vertrauenswürdigen Partei, niemals von dem Server, den Sie prüfen, oder aus Dateien, die mit einem Beweis gesendet werden.“

Damit beweisbare Inferenz einen unehrlichen Router entlarvt, muss der ursprüngliche Modellersteller (etwa Anthropic oder Meta) oder ein vertrauenswürdiger unabhängiger Prüfer die offizielle Commitment-ID für die echten Gewichte veröffentlichen. Erst wenn Sie den Beweis des Routers gegen die offizielle Commitment-ID des Eigentümers prüfen, deckt die Kryptografie einen Modellaustausch auf.

Was das für Router, Wiederverkäufer und Evaluatoren bedeutet

Wenn Modellersteller künftig offizielle Commitment-IDs veröffentlichen und beweisbare Inferenz unterstützen, können Router von Drittanbietern und Cloud-Hosts nachweisen, dass sie genau die Gewichte bereitgestellt haben, für die Sie bezahlt haben, ohne proprietäre Modelldateien offenzulegen.

In seinen Ankündigungen vom 2. und 3. November 2026 nannte Anthropic mehrere Gruppen, die mit zunehmender Reife der Technologie profitieren könnten:

  • Kunden von API-Routern: Teams, die Datenverkehr über Inferenzanbieter von Drittanbietern leiten, könnten eine Stichprobe ihrer Anfragen nachträglich anhand der vom Modellersteller veröffentlichten Commitment-ID prüfen. Eine unbemerkte Herabstufung würde die Prüfung nicht bestehen.
  • Unabhängige Sicherheitsevaluatoren: Evaluatoren vor und nach der Veröffentlichung können prüfen, ob das auf Sicherheit getestete Modell genau dasselbe ist, das später Kunden bereitgestellt wird.
  • Sicherheitsteams, die manipulierte Datenströme überwachen: Da der Beweis Prompt und Ausgabe-Tokens an die festgelegten Gewichte bindet, erschwert er laut Anthropic Angreifern auf kompromittierten Servern, einen Chat zu übernehmen oder den Tokenstrom während der Übertragung zu verändern. Das ist ein verwandtes Problem zu Bedrohungen auf Anwendungsebene wie Prompt Injection.
  • Regulierungsbehörden und Herkunftsprüfungen: Anthropic verweist auch auf Hardware-„Pacing“ (Prüfung, ob Rechenleistung für Inferenz statt für nicht autorisiertes Training genutzt wird), Textherkunft (Nachweis, dass ein bestimmtes Modell ein Dokument schrieb oder prüfte) und die Durchsetzung von Modellfreigaberegeln.

Und was gilt für Anthropics eigenen Claude-Datenverkehr? Im Beitrag vom 2. November 2026 erklärte Anthropic, dass seine Frontier Safety Roadmap das Ziel enthielt, bis zum 30. September 2026 einen Prototyp für beweisbare Inferenz zu entwickeln (nach einer Aktualisierung vom 19. Oktober 2026 nennt Anthropic dies „Inference Verification“). Laut Anthropic wurde die September-Frist durch ein separates, verwandtes Projekt erfüllt, das seinen Inferenzdatenverkehr kryptografisch signiert und die Inferenz auf einem vertrauenswürdigen Server erneut berechnet. FlashProve verfolgt dasselbe Verifizierungsziel mit Zero-Knowledge-Kryptografie statt mit vertrauenswürdiger Neuberechnung.

Was ich heute beim Kauf von Modellzugang über Dritte tun würde

Da Stand 4. November 2026 keine kommerzielle API und kein Router FlashProve-Beweise an Live-Datenverkehr anhängt, ist Ihr einziger zuverlässiger Schutz vor Modellaustausch heute der direkte Kauf bei Erstanbietern oder bei vertraglich vertrauenswürdigen, geprüften Partnern.

Wenn Sie als Entwickler oder technische Leitung gerade einen günstigen Proxy oder Router eines Drittanbieters erwägen, würde ich so vorgehen:

  1. Betrachten Sie die Zeichenfolge model in einer Antwort eines Drittanbieters als ungeprüfte Behauptung. Gehen Sie nicht davon aus, dass ein Wiederverkäufer das Frontier-Modell bereitstellt, nur weil die JSON-Nutzlast dies behauptet.
  2. Verlassen Sie sich nicht auf Prompt-Stichproben, um einen Austausch zu erkennen. Nehmen Sie Anthropics Warnung ernst: Qualitätsprüfungen der Ausgabe allein können ein Frontier-Modell bei alltäglichen Prompts nicht zuverlässig von einem billigeren Ersatz unterscheiden.
  3. Belassen Sie geschäftskritische Workloads bei Erstanbieter-APIs oder großen Cloud-Hosts. Hängen Genauigkeit, Sicherheit oder Compliance Ihres Produkts von einem bestimmten Frontier-Modell ab, zahlen Sie den offiziellen Listenpreis oder nutzen Sie einen offiziellen Cloud-Partner mit verbindlichen Service-Level-Vereinbarungen.
  4. Wissen Sie, wie Sie prüfen, falls Beweise später eingeführt werden. Übernimmt Ihr Inferenzanbieter künftig FlashProve oder ein ähnliches zkSNARK-Verfahren, verwenden Sie niemals die mit seiner Antwort gelieferte Commitment-Datei. Beziehen Sie die Commitment-ID direkt vom Modellersteller, kompilieren Sie den Verifizierer selbst, prüfen Sie die abgedeckten Tokens und verlangen Sie eine exakte Übereinstimmung, sofern Sie die numerischen Toleranzgrenzen nicht selbst beurteilen können.

Häufig gestellte Fragen

Kann FlashProve heute Claude-API-Antworten verifizieren?

Nein. Stand 4. November 2026 ist FlashProve ein quelloffener Forschungsprototyp, der an Metas Modell mit offenen Gewichten Llama 4 Maverick demonstriert wurde. Weder die Claude API noch OpenAI oder kommerzielle API-Router hängen heute FlashProve-Beweise an Antworten an. Anthropic erklärte separat, dass es sein internes Roadmap-Ziel vom 30. September 2026 zur Inferenzverifizierung durch ein anderes Projekt erreichte, das Datenverkehr signiert und Inferenz auf einem vertrauenswürdigen Server erneut berechnet.

Gibt FlashProve die geheimen Gewichte des Modells preis?

Nein. FlashProve nutzt einen Zero-Knowledge-Beweis (zkSNARK), der garantiert, dass der Verifizierer nichts über geheime Modellgewichte, Zwischenwerte der Schichten oder die bei der Inferenz aktivierten konkreten Experten erfährt. Die allgemeine Modellarchitektur wird nicht verborgen und Timing-Seitenkanäle liegen außerhalb des Umfangs. Proprietäre Gewichte bleiben jedoch vollständig geheim, während jeder die Berechnung auf einer CPU prüfen kann.

Kann ich den FlashProve-Verifizierer selbst ausführen?

Ja. Anthropic veröffentlichte den Code auf GitHub unter einer Apache 2.0-Lizenz (anthropics/FlashProve). Sie können den schnellen C++-Verifizierer (cp_verify) unter Linux bauen und Beweise auf einer gewöhnlichen CPU prüfen, ohne eine GPU oder die Modellgewichte zu benötigen. Das Repository enthält ein gespeichertes Beispiel mit einem kleinen synthetischen Modell, damit Entwickler den Ablauf Commit → Prove → Verify lokal testen können.

Ist beweisbare Inferenz dasselbe wie eine digitale Signatur?

Nein. Eine gewöhnliche digitale Signatur beweist nur, wer eine Nachricht gesendet hat; Sie müssen darauf vertrauen, dass der Absender ehrlich das richtige Modell ausgeführt hat. Beweisbare Inferenz mit FlashProve belegt, welche festgelegten Gewichte die Ausgabe-Tokens berechnet haben. Auch dann müssen Sie die Commitment-ID von einer vertrauenswürdigen Partei beziehen, da ein unehrlicher Server andernfalls ein Commitment für ein billiges Modell erstellen und gültige Beweise dafür erzeugen könnte.

Details zuletzt geprüft am 4. November 2026. Nächste Prüfung: 4. Dezember 2026.

Quellen

Geschrieben von

Chunyu Cai

Chunyu Cai ist CEO von Lotook, LLC und Unternehmer. Er schreibt über KI-Modelle, Agenten und darüber, wie sie den Arbeitsalltag verändern. Chunyu Cai hat einen Masterabschluss am Imperial College London erworben.