AIニュース · 18分で読めます

APIルーターがモデルをすり替えた?AnthropicのFlashProveが証明できること

AnthropicのFlashProveはゼロ知識証明を使い、回答を生成したモデルを検証する研究プロトタイプです。APIルーターによるモデルのすり替えを見抜く仕組み、証明できる範囲、コミットメントIDの重要性、実用上の制約や現在の利用状況を詳しく解説します。

AIモデルがルーターを通じて回答を送り、データの流れの上に光る検証用の盾があるイラスト

FlashProveは、証明可能な推論のためのAnthropicのオープンソース研究プロトタイプです。モデル提供者は、重みを明かさずに、回答がコミットメントで固定された特定の重みの集合から生成されたことを示す暗号学的証明を作成できます。2026年11月に公開され、MetaのLlama 4 Maverickで実証されましたが、Claude APIの通信やサードパーティのルーターではまだ有効にできません。

APIルーターはモデルをひそかにすり替えられる?

はい。サードパーティのルーティングサービスや再販業者は、裏側でより安価または小規模なモデルに置き換えることができます。回答を読むだけでは、そのすり替えを確実に見抜けません。

AI APIの公式料金比較を見ると、割引を売りにするAPIルーターや再販プロキシのエンドポイントが魅力的な理由が分かります。最先端モデルは大量に使うと高額になり、同じモデルIDを大幅な割引価格で提供すると約束する仲介業者は、毎月の請求額を気にする開発者やチームリーダーにとって魅力的です。

問題は、API応答のmodelフィールドが、サーバーから返される単なる文字列だということです。2026年11月2日の研究記事で、AnthropicのFrontier Red Teamは問題を明確に述べています。現在モデルに問い合わせるユーザーは、回答が開発者の主張する特定のモデルから来たのか、それとも「コストを理由にルーティングサービスが、あるいはトークンストリームを改ざんした攻撃者が、ひそかにすり替えた」モデルから来たのかを確認できません。Anthropicの技術報告書は、提供者がより小さい、あるいは性能の低いモデルを使ったり、リクエストの間にモデルを切り替えたりする可能性も挙げています。

多くの開発者は、回答の印象を確かめたりプロンプトを抜き打ちで試したりすれば、性能の低下に気づくと考えています。Anthropicは、回答が高品質に見える場合でも、モデルの出力だけから判断することは信頼できないと明確に警告しています。小規模なモデルや量子化された派生モデルは、日常的なプロンプトをざっと確認する程度なら十分に処理できても、本番環境で初めて気づくような難しい例外的ケースでは失敗することがよくあります。

FlashProveとは?

FlashProveはソフトウェアだけで動く暗号システムです。ゼロ知識簡潔知識論証(zkSNARK)を利用して、コミットメントで固定された特定のモデルが、指定された出力トークンの列を生成したことを証明します。

Anthropicが暗号技術を補完すると位置づける信頼できるハードウェアエンクレーブに頼る代わりに、FlashProveは数学に依拠します。処理にはモデル提供者(証明者)とユーザー(検証者)の二者が関わり、次の3段階で進みます。

  1. Commit(オフライン): リクエストを処理する前に、提供者はモデルの重みに対する暗号学的コミットメントを計算して公開します。これは、重みそのものを秘密にしたまま、正確に一組の重みを固定する短く偽造不可能な指紋と考えられます。
  2. Prove(オンライン、事後): プロンプトに対する出力トークンを生成した後、提供者は証明者を実行して証明ファイルを作成します。このファイルは、固定されたモデルにそのプロンプトを入力すると、まさにそのトークンが生成されることを示します。証明はトークンをユーザーにストリーミングしている最中にインラインで作られるのではなく、後からバッチ単位で生成されます。
  3. Verify: コミットメント、プロンプト、回答を持つ人なら誰でも、通常のCPUで軽量な検証プログラムを実行し、モデルの重みを見ることなく数秒で証明を確認できます。

暗号の専門家ではない開発者にとって、zkSNARKはAnthropicが公開時に強調した4つの実用的な保証を提供します。

  • 完全性: 提供者が主張どおりに固定されたモデルを実際に実行したなら、正しく作成された証明は検証に合格します。
  • 健全性: 広く信頼されている暗号学的な前提を破らない限り、提供者は別のモデルについて検証に合格する証明を偽造できません。
  • ゼロ知識性: 検証者は秘密の重み、中間活性値、さらにはMixture-of-Expertsモデル内で実行された特定のエキスパートについても何も知りません。ただし、モデル全体のアーキテクチャは隠されません。
  • 簡潔性: 証明は簡単にダウンロードできるほど小さく、巨大なモデルを自分で再実行するのに比べて素早く検証できます。

AnthropicはGitHubでApache 2.0ライセンスの下、5つの成果物を公開しました(anthropics/FlashProve、バージョン0.16.0)。研究記事、技術報告書、Claudeが書いたプロトコル仕様、コードベース(CUDAの証明者、cp_verifyという高速なC++検証者、正しさが証明されたLean検証者を含む)、そして対話型ビジュアライザーを伴うLeanの形式的証明です。Anthropicによれば、基盤となるzkSNARKの改良はClaudeが生み出し、チームは証明支援系Leanの形式的な記述を使って、Claudeの複雑な設計上の判断を監査可能にしました。

FlashProveの速度と証明の大きさは?

2026年11月4日時点でAnthropicは、FlashProveが4,000億パラメータのMixture-of-Expertsモデルについて、単一のNVIDIA H100 GPU上で毎秒約110トークンの速度で証明を生成できると報告しています。証明は19 MB未満で、CPU上では17秒で検証できます。

AnthropicはMetaのLlama 4 MaverickでFlashProveをベンチマークしました。これは重みが公開されたモデルの代表例で、総パラメータ数は400B、トークンごとに有効になるパラメータは約17Bです(公開されている4ビット量子化重みでは約232 GB)。以下はAnthropicが2026年11月2日に報告した正確な数値です。

指標 Anthropic FlashProveの結果(Llama 4 Maverick)
テストしたモデル Meta Llama 4 Maverick(総数400B、トークン当たり有効~17B、4ビット重み、~232 GB)
証明者のハードウェア NVIDIA H100 GPU 1× + CPU 24コア
オフラインのコミットメント時間 モデルごとに1回39分(再コミット前の1,600万リクエストに有効)
証明速度 24リクエストのバッチに223秒(毎秒110トークン)
証明サイズ リクエスト当たり18.78 MB(1,024トークンのリクエストでは~19 MB)
クライアントのコミットメントダウンロード 合計~6.5 MB
検証時間(CPUのみ) CPU 24スレッドで17秒(単一スレッドでは21秒)
vLLM比の計算オーバーヘッド GPU当たりの時間で72×(各実行で66–77×)、vLLMのテストした最大負荷で94×(~70–95×の範囲)
コンテキスト長の上限 最大1,024トークン

数値を比較するため、Anthropicは同じLlama 4 Maverickモデルで、それまでのオープンソース技術(VerInf)とFlashProveを比べました。Anthropicによれば、VerInfは毎秒約0.02トークンで動作し、1,000トークンの証明に14.3時間かかり、93.6 GBの証明を生成し、その検証にはほぼ丸1日を要しました。93.6 GBの証明を18.78 MBに縮小することで、暗号による推論検証は理論上の数学から、クライアントマシンが実際にダウンロードして確認できるものになります。

それでも、標準的なvLLMによる提供と比べて70×から95×の計算オーバーヘッドがあるため、証明はライブチャットのすべての回答に無料で付けられるのではなく、事後にバッチで生成されます。

FlashProveが証明しないこと

FlashProveはメンテナンスされていない研究プロトタイプで、厳しい技術的制約があります。そのため、検証に合格しても、浮動小数点演算との同等性、会話全体のカバー、監査済みの本番環境向けセキュリティは保証されません。

リポジトリにあるAnthropicのknown-limits.mdとwhat-is-proved.mdのガイドでは、2026年11月4日時点の限界について、チームが率直に説明しています。

  • 整数モデルと貪欲デコーディングのみ: 証明は、量子化された固定小数点の整数版モデルで、貪欲デコーディング(常にスコアが最も高い単一のトークンを選ぶ方式)を実行する場合に適用されます。実際のAPIは通常、浮動小数点演算と温度を使ったランダムサンプリングを利用します。Anthropicによれば、ある測定では整数モデルと浮動小数点実装の間で、最上位のトークンが6.81%の位置で異なりました。
  • より緩い「clipped-gap」受け入れ方針: 提供システムは整数の参照実装とわずかに異なる場合があるため、検証者はWITHIN LIMITSを出力する、より緩い方針をサポートします。Anthropicは、この緩い方針での合格だけでは回答がそのモデルのものであることは証明されないと警告しています。許容範囲を独立して評価できない場合は、完全一致だけを受け入れるべきです。
  • 短いコンテキストの上限: 現在、証明がサポートするコンテキストは最大1,024トークンで、Anthropicは通常のコーディングやチャットのセッションと比べて「かなり短い」と述べています。
  • MoEアーキテクチャのみ: 現在の実装がサポートするのはMixture-of-Expertsアーキテクチャだけで、モデルのアーキテクチャを隠すことも、タイミング攻撃のようなサイドチャネルから保護することもありません。
  • メタデータのないトークン単位の範囲: 有効な証明がカバーするのは検証された特定のトークンだけで、クライアントの識別情報もタイムスタンプも含みません。
  • 独立したセキュリティ監査なし: Leanで書かれた参照検証者の健全性は形式的に証明されていますが、高速なC++検証者(cp_verify)、CUDAの証明者、コミットメントを作成するコンポーネントには形式的な保証がありません。cp_verifyはLean検証者との比較テストを受けているだけです。さらにAnthropicは、プログラムと証明は独立したセキュリティ監査を受けておらず、リポジトリはメンテナンスも外部からの貢献の受け入れも行わない研究成果物として公開されていると述べています。

証明よりコミットメントIDが重要な理由

有効なFlashProveの証明が確認するのは、回答がコミットメントIDに一致する何らかの重みから生成されたことだけです。そのため、不正なルーターは安価なモデルにコミットし、誤ったモデルについて数学的には有効な証明を渡すことができます。

これはサードパーティのAPIルーターを懸念する人にとって、最も重要なポイントです。リポジトリの「Known limits」ガイドでは、The provider chooses the modelという見出しの下で、Anthropicは次のように書いています。「合格は、その重みが誰のものかを示さない……提供者は、小規模なモデルや退化したモデルを含め、好きなモデルにコミットできる」。

信頼性に疑問のあるAPIルーターに、400Bパラメータの最先端モデルへのアクセス料金を支払っていると想像してください。費用を節約するため、ルーターは代わりに安価な8Bモデルをひそかに実行します。そのルーターが8Bモデルに対して独自のFlashProveコミットメントを作成し、プロンプトを8Bモデルで処理して、回答を証明とコミットメントファイルとともに送ると、ノートパソコン上のC++検証者は合格を返します。数学的には完全に正しく、8Bモデルが実際にそのトークンを生成したからです。

そのためAnthropicは、厳格な運用ルールを示しています。「コミットメントIDは信頼できる相手から入手し、検証対象のサーバーや証明とともに送られたファイルからは決して取得しないこと。」

証明可能な推論ですり替えを見抜くには、元のモデル作成者(AnthropicやMetaなど)または信頼できる独立監査者が、実際の重みに対応する公式コミットメントIDを公開する必要があります。ルーターの証明を所有者の公式コミットメントIDと照合して初めて、暗号技術がモデルのすり替えを検出します。

ルーター、再販業者、評価者にとっての意味

モデル作成者が将来公式コミットメントIDを公開し、証明可能な推論に対応すれば、サードパーティのルーターやクラウドホストは、独自のモデルファイルを公開せずに、ユーザーが料金を支払った正確な重みを提供したことを証明できます。

Anthropicは2026年11月2日と11月3日の発表で、この技術の成熟に伴って恩恵を受ける可能性のある複数のグループを挙げました。

  • APIルーターの顧客: サードパーティの推論提供者に通信を流すチームは、モデル作成者が公開したコミットメントIDと照合してリクエストの一部を事後監査できます。ひそかな性能の引き下げは検証に失敗します。
  • 独立した安全性評価者: リリース前後の評価者は、安全性をテストしているモデルが、その後顧客に提供されるモデルとまったく同じであることを確認できます。
  • 改ざんされたストリームを監視するセキュリティチーム: 証明はプロンプトと出力トークンを固定された重みに結び付けるため、侵害されたサーバー上の攻撃者がチャットを乗っ取ったり、転送中のトークンストリームを変更したりすることが難しくなるとAnthropicは述べています。これはプロンプトインジェクションのようなアプリケーションレベルの脅威にも関連する懸念です。
  • 規制当局と来歴の確認: Anthropicは、ハードウェアの「ペーシング」(計算資源が無許可の学習ではなく推論に使われていることの確認)、テキストの来歴(特定のモデルが文書を作成またはレビューしたことの証明)、モデル承認ルールの施行にも言及しています。

Anthropic自身のClaudeの通信はどうでしょうか。2026年11月2日の記事でAnthropicは、Frontier Safety Roadmapに、2026年9月30日までに証明可能な推論のプロトタイプを開発する目標が含まれていたと述べました。Anthropicは2026年10月19日の更新以降、これを「推論検証」と呼んでいます。Anthropicによれば、この9月の期限は、推論通信に暗号署名を付け、信頼できるサーバーで推論を再計算する別の関連プロジェクトによって達成されました。FlashProveは、信頼できる再計算ではなくゼロ知識暗号によって同じ検証目標を追求します。

今、第三者を通じてモデルへのアクセスを購入するなら

2026年11月4日時点では、商用APIやルーターでライブ通信にFlashProveの証明を付けるものはありません。そのため、現在モデルのすり替えに対する唯一の信頼できる防御策は、提供元から直接購入するか、契約上信頼できる審査済みのパートナーから購入することです。

開発者やエンジニアリング責任者として、今まさに割引プロキシやサードパーティのルーターを検討しているなら、私は次のように対応します。

  1. 第三者の応答にあるmodel文字列は、未検証の主張として扱う。 JSONのペイロードに書かれているというだけで、再販業者が最先端モデルを提供していると思い込まないでください。
  2. すり替えの発見をプロンプトの抜き打ちテストに頼らない。 Anthropicの警告を真剣に受け止めてください。出力の品質確認だけでは、日常的なプロンプト全般にわたって最先端モデルと安価な代替モデルを確実に見分けられません。
  3. 重要なワークロードは提供元のAPIか大手クラウドホストに置く。 製品の正確性、安全性、コンプライアンスが特定の最先端モデルに依存するなら、公式の定価を支払うか、拘束力のあるサービスレベル契約を結んだ公式クラウドパートナーを利用してください。
  4. 後に証明が導入された場合の検証方法を知っておく。 推論提供者が将来FlashProveや同様のzkSNARK方式を採用しても、提供者の回答に同梱されたコミットメントファイルは決して使わないでください。コミットメントIDをモデル作成者から直接取得し、検証者を自分でコンパイルし、対象となるトークンを確認し、数値の許容範囲を自分で評価できない限り完全一致での合格を要求してください。

よくある質問

FlashProveは現在、Claude APIの回答を検証できる?

いいえ。2026年11月4日時点で、FlashProveはMetaの重みが公開されたモデルLlama 4 Maverickで実証されたオープンソースの研究プロトタイプです。現在、Claude API、OpenAI、商用APIルーターのいずれも回答にFlashProveの証明を付けていません。Anthropicは別途、通信に署名し、信頼できるサーバーで推論を再計算する別のプロジェクトによって、推論検証に関する2026年9月30日の社内ロードマップ目標を達成したと述べています。

FlashProveはモデルの秘密の重みを明かす?

いいえ。FlashProveはゼロ知識証明(zkSNARK)を利用し、検証者がモデルの秘密の重み、中間層の値、推論中に有効になった特定のエキスパートについて何も知り得ないことを保証します。モデルの一般的なアーキテクチャは隠されず、タイミングのサイドチャネルは対象外ですが、独自の重みは完全に非公開のまま、誰でもCPUで計算を検証できます。

FlashProveの検証者を自分で実行できる?

はい。AnthropicはGitHubでApache 2.0ライセンスの下にコードを公開しました(anthropics/FlashProve)。Linuxで高速なC++検証者(cp_verify)をビルドすれば、GPUやモデルの重みを必要とせず、普通のCPUで証明を確認できます。リポジトリには小さな人工モデルを使った保存済みの例があり、開発者はCommit → Prove → Verifyの流れをローカルでテストできます。

証明可能な推論はデジタル署名と同じ?

いいえ。標準的なデジタル署名が証明するのはメッセージを誰が送ったかだけであり、送信者が正しいモデルを正直に実行したと信頼する必要があります。FlashProveによる証明可能な推論は、出力トークンをどの固定された重みが計算したかを証明します。それでもコミットメントIDは信頼できる相手から入手する必要があります。そうしなければ、不正なサーバーが安価なモデルにコミットし、そのモデルについて有効な証明を生成できるからです。

詳細の最終確認日:2026年11月4日。次回確認日:2026年12月4日。

出典

執筆

Chunyu Cai

Chunyu CaiはLotook, LLCの最高経営責任者(CEO)であり、起業家です。AIモデルやエージェント、そしてそれらが日々の仕事をどう変えるかについて執筆しています。Chunyu CaiはImperial College Londonで修士号を取得しています。