AI-nieuws · 11 min lezen

Heeft uw API-router het model vervangen? Wat FlashProve van Anthropic kan bewijzen

FlashProve van Anthropic bewijst met zero-knowledge proofs welk model antwoord gaf. Dit zijn de mogelijkheden en grenzen voor API-routers.

Illustratie van een AI-model dat via een router een antwoord verstuurt, met een lichtgevend verificatieschild boven de datastroom

FlashProve is het opensource-onderzoeksprototype van Anthropic voor bewijsbare inferentie. Het stelt een modelaanbieder in staat cryptografisch te bewijzen dat een antwoord afkomstig is van een specifieke, vooraf vastgelegde verzameling gewichten, zonder die gewichten prijs te geven. Het werd in november 2026 uitgebracht en gedemonstreerd op Llama 4 Maverick van Meta, maar kan nog niet worden ingeschakeld voor Claude API-verkeer of routers van derden.

Kan een API-router uw model stiekem vervangen?

Ja. Een externe routeringsdienst of wederverkoper kan achter de schermen een goedkoper of kleiner model inzetten. U kunt die vervanging niet betrouwbaar vaststellen door alleen de antwoorden te lezen.

Een vergelijking van officiële AI-API-prijzen maakt duidelijk waarom goedkope API-routers en doorverkochte proxy-eindpunten aantrekkelijk zijn. Grensverleggende modellen zijn duur bij grote volumes, en een tussenpersoon die dezelfde model-ID met flinke korting belooft, is verleidelijk voor iedere ontwikkelaar of teamleider die op de maandelijkse rekening let.

Het probleem is dat het veld model in een API-antwoord slechts een tekenreeks is die de server terugstuurt. In zijn onderzoeksbericht van 2 november 2026 verwoordde Anthropics Frontier Red Team het probleem helder: iemand die vandaag een model bevraagt, kan niet controleren of de antwoorden afkomstig zijn van het specifieke model waarvan een ontwikkelaar beweert dat het antwoordt, in plaats van een model dat „om kostenredenen stiekem is vervangen door een routeringsdienst, of zelfs door een aanvaller die de tokenstroom heeft gemanipuleerd”. Volgens het technische rapport van Anthropic zou een aanbieder ook een kleiner of zwakker model kunnen gebruiken, of tussen verzoeken van model kunnen wisselen.

Veel ontwikkelaars denken dat ze een kwaliteitsverlaging zouden opmerken door op hun gevoel af te gaan of prompts steekproefsgewijs te testen. Anthropic waarschuwt uitdrukkelijk dat een oordeel op basis van alleen de uitvoer van een model onbetrouwbaar is, zelfs als de antwoorden van hoge kwaliteit lijken. Kleinere modellen en gekwantiseerde varianten verwerken alledaagse prompts vaak goed genoeg om een oppervlakkige controle te doorstaan, terwijl ze falen bij moeilijkere grensgevallen die u pas in productie opmerkt.

Wat is FlashProve?

FlashProve is een volledig softwarematig cryptografisch systeem dat een zero-knowledge succinct argument of knowledge (zkSNARK) gebruikt om te bewijzen dat een specifiek vastgelegd model een gegeven reeks uitvoertokens heeft geproduceerd.

In plaats van te vertrouwen op beveiligde hardware-enclaves, die volgens Anthropic een aanvulling op cryptografie zijn, vertrouwt FlashProve op wiskunde. Het proces kent twee partijen, de modelaanbieder (de bewijsvoerder) en de gebruiker (de verificateur), en verloopt in drie stappen:

  1. Commit (offline): Voordat de aanbieder verzoeken verwerkt, berekent en publiceert hij een cryptografische commitment voor de modelgewichten. U kunt die zien als een korte, onvervalsbare vingerafdruk die precies één verzameling gewichten vastlegt, terwijl de gewichten zelf geheim blijven.
  2. Prove (online, achteraf): Nadat de aanbieder uitvoertokens voor een prompt heeft gegenereerd, voert hij de bewijsvoerder uit om een bewijsbestand te maken. Dat laat zien dat evaluatie van het vastgelegde model met die prompt precies die tokens oplevert. Bewijzen worden achteraf in batches gegenereerd, niet direct terwijl de tokens naar de gebruiker worden gestreamd.
  3. Verify: Iedereen die de commitment, de prompt en het antwoord heeft, kan op een gewone CPU een licht verificatieprogramma uitvoeren om het bewijs binnen enkele seconden te controleren, zonder ooit de modelgewichten te zien.

Voor ontwikkelaars die geen cryptograaf zijn, biedt een zkSNARK vier praktische garanties die Anthropic bij de release benadrukt:

  • Volledigheid: Als de aanbieder het vastgelegde model daadwerkelijk heeft uitgevoerd zoals beweerd, komt een eerlijk bewijs door de verificatie.
  • Degelijkheid: Een aanbieder kan geen bewijs voor een ander model vervalsen dat de controle doorstaat, tenzij breed aanvaarde cryptografische aannames worden doorbroken.
  • Zero-knowledge: De verificateur leert niets over de geheime gewichten, de tussenliggende activaties of zelfs welke specifieke experts in een mixture-of-experts-model zijn uitgevoerd. De algemene architectuur van het model wordt echter niet verborgen.
  • Beknoptheid: Het bewijs is klein genoeg om eenvoudig te downloaden en snel te controleren, vergeleken met het zelf opnieuw uitvoeren van een enorm model.

Anthropic publiceerde vijf onderdelen onder een Apache 2.0-licentie op GitHub (anthropics/FlashProve, versie 0.16.0): het onderzoeksbericht, het technische rapport, een door Claude geschreven protocolspecificatie, de codebase (met een CUDA-bewijsvoerder, een snelle C++-verificateur genaamd cp_verify en een aantoonbaar correcte Lean-verificateur), en formele Lean-bewijzen met een interactieve visualisatie. Anthropic vermeldt dat Claude de onderliggende zkSNARK-verbeteringen heeft gemaakt en dat het team formele uitspraken in de Lean-bewijsassistent gebruikte om de complexe ontwerpkeuzes van Claude controleerbaar te maken.

Hoe snel is FlashProve en hoe groot zijn de bewijzen?

Op 4 november 2026 meldt Anthropic dat FlashProve voor een mixture-of-experts-model met 400 miljard parameters bewijzen kan genereren met ongeveer 110 tokens per seconde op één NVIDIA H100 GPU. De bewijzen zijn kleiner dan 19 MB en kunnen op een CPU in 17 seconden worden gecontroleerd.

Anthropic testte FlashProve op Llama 4 Maverick van Meta, een bekend voorbeeld van modellen met open gewichten. Het gebruikt in totaal 400B parameters, waarvan ongeveer 17B per token actief zijn (ongeveer 232 GB aan openbare, op 4 bits gekwantiseerde gewichten). Dit zijn de exacte cijfers die Anthropic op 2 november 2026 meldde:

Maatstaf Resultaat van Anthropic FlashProve (Llama 4 Maverick)
Getest model Meta Llama 4 Maverick (400B totaal, ~17B actief/token, 4-bitgewichten, ~232 GB)
Hardware voor bewijsvoering 1× NVIDIA H100 GPU + 24 CPU-kernen
Offline commitmenttijd Eenmalig ~39 minuten per model (geldig voor ~16 miljoen verzoeken vóór een nieuwe commitment)
Bewijssnelheid ~223 seconden voor een batch van 24 verzoeken (~110 tokens/seconde)
Bewijsgrootte 18.78 MB per verzoek (~19 MB voor een verzoek van 1,024 tokens)
Download van commitment door client ~6.5 MB totaal
Verificatietijd (alleen CPU) 17 seconden op 24 CPU-threads (21 seconden op één thread)
Rekenoverhead ten opzichte van vLLM ~72× tijd per GPU (66–77× over de runs); ~94× bij de hoogste geteste belasting van vLLM (bereik ~70–95×)
Limiet contextlengte Tot 1,024 tokens

Om de cijfers in perspectief te plaatsen vergeleek Anthropic FlashProve met de eerdere opensource-stand van de techniek (VerInf) op hetzelfde Llama 4 Maverick-model. Volgens Anthropic haalde VerInf ongeveer 0.02 tokens per seconde: het duurde 14.3 uur om 1,000 tokens te bewijzen, het bewijs was 93.6 GB groot en de verificatie vergde bijna een volledige dag. Door een bewijs van 93.6 GB te verkleinen tot 18.78 MB wordt cryptografische inferentieverificatie meer dan theoretische wiskunde: een clientmachine kan het daadwerkelijk downloaden en controleren.

Toch verklaart een rekenoverhead van 70× tot 95× ten opzichte van standaarddienstverlening met vLLM waarom bewijzen achteraf in batches worden gemaakt en niet gratis aan elk live chatantwoord worden toegevoegd.

Wat FlashProve niet bewijst

FlashProve is een niet-onderhouden onderzoeksprototype met strikte technische beperkingen. Een geslaagde controle garandeert daarom geen equivalentie met drijvendekommaberekeningen, dekking van een volledig gesprek of gecontroleerde beveiliging voor productie.

In de handleidingen known-limits.md en what-is-proved.md in de repository is het team prijzenswaardig open over de grenzen op 4 november 2026:

  • Alleen een geheelgetalmodel en greedy decoding: Het bewijs geldt voor een gekwantiseerde versie van het model met gehele getallen en vaste komma die greedy decoding uitvoert (steeds het enkele token met de hoogste score kiezen). Werkelijke API’s gebruiken doorgaans drijvendekommaberekeningen en willekeurige sampling met temperatuur. Anthropic meldt dat bij één meting het hoogste token op 6.81% van de posities verschilde tussen het geheelgetalmodel en een implementatie met drijvende komma.
  • Soepeler acceptatiebeleid met ‘clipped-gap’: Omdat uitvoersystemen enigszins van de gehele referentie kunnen afwijken, ondersteunt de verificateur een soepeler beleid dat WITHIN LIMITS teruggeeft. Anthropic waarschuwt dat acceptatie onder dit beleid op zichzelf niet bewijst dat het antwoord van het model komt. Als u de tolerantielimieten niet onafhankelijk kunt beoordelen, moet u alleen een exacte overeenkomst accepteren.
  • Korte contextlimiet: Bewijzen ondersteunen momenteel een context van maximaal 1,024 tokens. Anthropic noemt dat „vrij kort” vergeleken met normale programmeer- of chatsessies.
  • Alleen MoE-architecturen: De huidige implementatie ondersteunt alleen mixture-of-experts-architecturen, verbergt de modelarchitectuur niet en beschermt niet tegen zijkanalen zoals timingaanvallen.
  • Bereik op tokenniveau zonder metadata: Een geldig bewijs dekt alleen de specifieke gecontroleerde tokens en bevat geen clientidentiteit of tijdstempel.
  • Geen onafhankelijke beveiligingsaudit: Hoewel de degelijkheid van de referentieverificateur in Lean formeel is bewezen, hebben de snelle C++-verificateur (cp_verify), de CUDA-bewijsvoerder en de component die de commitment maakt geen formele garanties: cp_verify wordt alleen tegen de Lean-verificateur getest. Anthropic stelt bovendien dat de programma’s en bewijzen geen onafhankelijke beveiligingsaudit hebben ondergaan en dat de repository is gepubliceerd als onderzoeksartefact dat niet wordt onderhouden en geen bijdragen accepteert.

Waarom de commitment-ID belangrijker is dan het bewijs

Een geldig FlashProve-bewijs bevestigt alleen dat een antwoord afkomstig is van welke gewichten dan ook die bij de commitment-ID passen. Een oneerlijke router kan dus een commitment voor een goedkoop model maken en u een wiskundig geldig bewijs voor het verkeerde model geven.

Dit is de belangrijkste les voor iedereen die zich zorgen maakt over API-routers van derden. In de handleiding „Known limits” van de repository schrijft Anthropic onder de kop The provider chooses the model: „Een ja zegt niet van wie de gewichten zijn… Een aanbieder kan zich vastleggen op elk gewenst model, ook een klein of gedegenereerd model.”

Stel dat u een dubieuze API-router betaalt voor toegang tot een grensverleggend model met 400B parameters. Om geld te besparen voert de router stiekem een goedkoop 8B-model uit. Als de router een eigen FlashProve-commitment voor dat 8B-model maakt, uw prompt door het 8B-model laat verwerken en u het antwoord samen met het bewijs en het commitmentbestand stuurt, meldt de C++-verificateur op uw laptop dat de controle is geslaagd. De wiskunde klopt volledig: het 8B-model heeft die tokens echt geproduceerd.

Daarom geeft Anthropic een strikte operationele regel: „Verkrijg de commitment-ID van een partij die u vertrouwt, nooit van de server die u controleert of uit bestanden die met een bewijs worden meegestuurd.”

Om met bewijsbare inferentie een oneerlijke router te betrappen, moet de oorspronkelijke maker van het model (zoals Anthropic of Meta) of een vertrouwde onafhankelijke auditor de officiële commitment-ID voor de echte gewichten publiceren. Pas wanneer u het bewijs van de router controleert tegen de officiële commitment-ID van de eigenaar, brengt de cryptografie een modelvervanging aan het licht.

Wat dit betekent voor routers, wederverkopers en beoordelaars

Als modelmakers uiteindelijk officiële commitment-ID’s publiceren en bewijsbare inferentie ondersteunen, kunnen routers van derden en cloudhosts bewijzen dat zij precies de gewichten hebben geleverd waarvoor u betaalde, zonder bedrijfseigen modelbestanden bloot te geven.

In zijn aankondigingen van 2 en 3 november 2026 beschreef Anthropic verschillende groepen die kunnen profiteren naarmate deze technologie volwassener wordt:

  • Klanten van API-routers: Teams die verkeer via inferentieaanbieders van derden routeren, kunnen achteraf een steekproef van hun verzoeken controleren tegen de door de modelmaker gepubliceerde commitment-ID. Een stille kwaliteitsverlaging zou die controle niet doorstaan.
  • Onafhankelijke veiligheidsbeoordelaars: Beoordelaars voor en na de release kunnen controleren of het model waarvan zij de veiligheid testen precies hetzelfde model is dat later aan klanten wordt geleverd.
  • Beveiligingsteams die gemanipuleerde stromen bewaken: Omdat het bewijs de prompt en uitvoertokens aan de vastgelegde gewichten bindt, maakt het volgens Anthropic voor aanvallers op gecompromitteerde servers moeilijker om een chat over te nemen of de tokenstroom onderweg te wijzigen. Dit raakt aan bedreigingen op applicatieniveau zoals promptinjectie.
  • Toezichthouders en herkomstcontroles: Anthropic wijst ook op hardware-‘pacing’ (controleren of rekenkracht voor inferentie wordt gebruikt in plaats van ongeautoriseerde training), tekstherkomst (bewijzen dat een specifiek model een document schreef of beoordeelde) en het handhaven van regels voor modelgoedkeuring.

Hoe zit het met Anthropics eigen Claude-verkeer? In het bericht van 2 november 2026 meldde Anthropic dat zijn Frontier Safety Roadmap het doel bevatte om uiterlijk 30 september 2026 een prototype voor bewijsbare inferentie te ontwikkelen. Na een update van 19 oktober 2026 noemt Anthropic dit „inference verification”. Volgens Anthropic werd de deadline in september gehaald met een afzonderlijk, verwant project dat zijn inferentieverkeer cryptografisch ondertekent en de inferentie op een vertrouwde server opnieuw berekent. FlashProve streeft hetzelfde verificatiedoel na met zero-knowledge-cryptografie in plaats van vertrouwde herberekening.

Wat ik vandaag zou doen bij aankoop van modeltoegang via een derde

Omdat op 4 november 2026 geen commerciële API of router FlashProve-bewijzen aan live verkeer toevoegt, is uw enige betrouwbare verdediging tegen modelvervanging vandaag rechtstreeks kopen bij de oorspronkelijke aanbieders of bij gecontroleerde partners die u contractueel vertrouwt.

Als u als ontwikkelaar of technisch leidinggevende nu een goedkope proxy of router van een derde overweegt, zou ik het zo aanpakken:

  1. Beschouw de tekenreeks model in een antwoord van een derde als een ongeverifieerde bewering. Ga er niet van uit dat een wederverkoper het grensverleggende model levert alleen omdat de JSON-payload dat zegt.
  2. Vertrouw niet op steekproeven met prompts om een vervanging te ontdekken. Neem de waarschuwing van Anthropic serieus: controles van de uitvoerkwaliteit alleen kunnen een grensverleggend model bij alledaagse prompts niet betrouwbaar onderscheiden van een goedkoper alternatief.
  3. Houd bedrijfskritische workloads bij API’s van de oorspronkelijke aanbieder of grote cloudhosts. Als de nauwkeurigheid, veiligheid of compliance van uw product afhangt van een specifiek grensverleggend model, betaal dan de officiële catalogusprijs of gebruik een officiële cloudpartner met bindende servicelevelovereenkomsten.
  4. Weet hoe u moet verifiëren als bewijzen later worden ingevoerd. Als uw inferentieaanbieder uiteindelijk FlashProve of een vergelijkbaar zkSNARK-schema gebruikt, neem dan nooit het commitmentbestand over dat bij zijn antwoord zit. Haal de commitment-ID rechtstreeks bij de modelmaker op, compileer de verificateur zelf, controleer welke tokens worden gedekt en eis acceptatie op basis van een exacte overeenkomst, tenzij u de numerieke tolerantielimieten zelf kunt beoordelen.

Veelgestelde vragen

Kan FlashProve vandaag antwoorden van de Claude API verifiëren?

Nee. Op 4 november 2026 is FlashProve een opensource-onderzoeksprototype dat is gedemonstreerd op Llama 4 Maverick van Meta, een model met open gewichten. Noch de Claude API, noch OpenAI of commerciële API-routers voegen vandaag FlashProve-bewijzen toe aan antwoorden. Anthropic meldde afzonderlijk dat het zijn interne roadmapdoel voor inferentieverificatie van 30 september 2026 behaalde via een ander project dat verkeer ondertekent en inferentie op een vertrouwde server opnieuw berekent.

Geeft FlashProve de geheime gewichten van het model prijs?

Nee. FlashProve gebruikt een zero-knowledge proof (zkSNARK), die garandeert dat de verificateur niets leert over de geheime modelgewichten, waarden in tussenlagen of welke specifieke experts tijdens inferentie werden geactiveerd. De algemene architectuur van het model wordt niet verborgen en timingzijkanalen vallen buiten het bereik, maar bedrijfseigen gewichten blijven volledig geheim terwijl iedereen de berekening op een CPU kan controleren.

Kan ik de FlashProve-verificateur zelf uitvoeren?

Ja. Anthropic publiceerde de code op GitHub onder een Apache 2.0-licentie (anthropics/FlashProve). U kunt de snelle C++-verificateur (cp_verify) op Linux bouwen en bewijzen op een gewone CPU controleren zonder een GPU of de modelgewichten nodig te hebben. De repository bevat een opgeslagen voorbeeld met een klein synthetisch model, zodat ontwikkelaars het proces Commit → Prove → Verify lokaal kunnen testen.

Is bewijsbare inferentie hetzelfde als een digitale handtekening?

Nee. Een gewone digitale handtekening bewijst alleen wie een bericht heeft verstuurd. U moet erop vertrouwen dat de afzender het juiste model eerlijk heeft uitgevoerd. Bewijsbare inferentie met FlashProve bewijst welke vastgelegde gewichten de uitvoertokens hebben berekend. Ook dan moet u de commitment-ID van een vertrouwde partij verkrijgen, omdat een oneerlijke server anders een commitment voor een goedkoop model kan maken en daarvoor geldige bewijzen kan genereren.

Gegevens voor het laatst gecontroleerd op 4 november 2026. Volgende controle: 4 december 2026.

Bronnen

Geschreven door

Chunyu Cai

Chunyu Cai is CEO van Lotook, LLC en ondernemer. Hij schrijft over AI-modellen, agenten en hoe ze het dagelijkse werk veranderen. Chunyu Cai heeft een masterdiploma van Imperial College London.