FlashProve는 증명 가능한 추론을 위한 Anthropic의 오픈소스 연구 프로토타입입니다. 모델 제공자가 가중치를 공개하지 않고도 응답이 커밋먼트로 확정한 특정 가중치 집합에서 나왔다는 암호학적 증명을 생성할 수 있게 해줍니다. 2026년 11월에 공개되어 Meta의 Llama 4 Maverick에서 시연됐지만, 아직 Claude API 트래픽이나 서드파티 라우터에 적용할 수는 없습니다.
API 라우터가 모델을 몰래 바꿀 수 있을까?
그렇습니다. 서드파티 라우팅 서비스나 재판매업체는 사용자가 모르는 사이에 더 저렴하거나 작은 모델로 대체할 수 있으며, 응답을 읽는 것만으로는 그 교체를 확실하게 알아낼 수 없습니다.
공식 AI API 가격 비교를 보면 할인된 API 라우터와 재판매 프록시 엔드포인트가 매력적인 이유를 알 수 있습니다. 최첨단 모델은 대량으로 사용할 때 비용이 높고, 같은 모델 ID를 큰 폭으로 할인해 주겠다는 중개업체의 제안은 월 청구액을 살피는 개발자나 팀장에게 솔깃합니다.
문제는 API 응답의 model 필드가 서버가 돌려주는 문자열에 불과하다는 점입니다. Anthropic의 Frontier Red Team은 2026년 11월 2일 연구 게시물에서 문제를 명확히 밝혔습니다. 오늘날 모델에 질의하는 사용자는 응답이 개발자가 답변한다고 주장하는 특정 모델에서 온 것인지, 아니면 “비용 때문에 라우팅 서비스가, 심지어 토큰 스트림을 조작한 공격자가 몰래 대체한” 모델에서 온 것인지 확인할 수 없습니다. Anthropic의 기술 보고서는 제공자가 더 작거나 성능이 낮은 모델을 사용하거나 요청 사이에 모델을 바꿀 수도 있다고 덧붙입니다.
많은 개발자는 응답의 느낌을 살피거나 프롬프트를 표본 검사하면 성능 저하를 알아차릴 수 있다고 생각합니다. Anthropic은 응답이 고품질로 보이더라도 모델의 출력만으로 판단하는 것은 신뢰할 수 없다고 분명히 경고합니다. 작은 모델과 양자화된 변형 모델은 일상적인 프롬프트를 대충 검사할 때는 통과할 만큼 잘 처리하는 경우가 많지만, 실제 운영에서야 발견되는 더 어려운 예외 상황에서는 실패할 수 있습니다.
FlashProve란?
FlashProve는 영지식 간결 비대화형 지식 논증(zkSNARK)을 이용해 커밋먼트로 확정된 특정 모델이 주어진 출력 토큰 시퀀스를 생성했음을 증명하는 소프트웨어 전용 암호 시스템입니다.
Anthropic이 암호 기술을 보완한다고 설명하는 신뢰할 수 있는 하드웨어 엔클레이브에 의존하는 대신, FlashProve는 수학에 의존합니다. 이 과정에는 모델 제공자(증명자)와 사용자(검증자) 두 당사자가 참여하며 세 단계로 진행됩니다.
- Commit(오프라인): 요청을 처리하기 전에 제공자는 모델 가중치에 대한 암호학적 커밋먼트를 계산해 공개합니다. 커밋먼트는 가중치 자체를 비밀로 유지하면서 정확히 하나의 가중치 집합을 고정하는 짧고 위조할 수 없는 지문으로 생각할 수 있습니다.
- Prove(온라인, 사후): 제공자는 프롬프트에 대한 출력 토큰을 생성한 후 증명자를 실행해 증명 파일을 만듭니다. 이 파일은 확정된 모델에 해당 프롬프트를 입력해 평가하면 정확히 그 토큰이 생성된다는 것을 보여줍니다. 증명은 토큰을 사용자에게 스트리밍하는 도중에 실시간으로 생성되는 대신 나중에 배치로 생성됩니다.
- Verify: 커밋먼트, 프롬프트, 응답을 가진 사람은 누구나 일반 CPU에서 가벼운 검증 프로그램을 실행해 모델의 가중치를 전혀 보지 않고도 몇 초 안에 증명을 확인할 수 있습니다.
암호학자가 아닌 개발자를 위해 Anthropic은 출시 발표에서 zkSNARK가 제공하는 네 가지 실용적인 보장을 강조했습니다.
- 완전성: 제공자가 주장대로 확정된 모델을 실제 실행했다면 정직하게 만든 증명은 검증을 통과합니다.
- 건전성: 널리 신뢰받는 암호학적 가정이 깨지지 않는 한, 제공자는 다른 모델에 대해 검증을 통과하는 증명을 위조할 수 없습니다.
- 영지식성: 검증자는 비밀 가중치와 중간 활성화 값은 물론, 전문가 혼합 모델에서 구체적으로 어떤 전문가가 실행됐는지도 알 수 없습니다. 다만 모델의 전체 아키텍처는 숨겨지지 않습니다.
- 간결성: 증명은 쉽게 다운로드할 수 있을 만큼 작고, 거대한 모델을 직접 다시 실행하는 것에 비해 빠르게 확인할 수 있습니다.
Anthropic은 GitHub에서 Apache 2.0 라이선스로 다섯 가지 산출물을 공개했습니다(anthropics/FlashProve, 버전 0.16.0). 연구 게시물, 기술 보고서, Claude가 작성한 프로토콜 명세, 코드베이스(CUDA 증명자, cp_verify라는 빠른 C++ 검증자, 정확성이 증명된 Lean 검증자 포함), 그리고 대화형 시각화 도구와 함께 제공되는 Lean 형식 증명입니다. Anthropic에 따르면 기초가 되는 zkSNARK 개선은 Claude가 만들었으며, 팀은 Lean 증명 보조 도구의 형식적 명제를 사용해 Claude의 복잡한 설계 결정을 감사할 수 있도록 했습니다.
FlashProve의 속도와 증명 크기는?
2026년 11월 4일 기준 Anthropic은 FlashProve가 파라미터 4,000억 개를 가진 전문가 혼합 모델의 증명을 NVIDIA H100 GPU 한 대에서 초당 약 110토큰의 속도로 생성할 수 있다고 보고했습니다. 생성된 증명은 19 MB 미만이며 CPU에서 17초 안에 검증됩니다.
Anthropic은 공개 가중치 모델의 대표적인 사례인 Meta의 Llama 4 Maverick으로 FlashProve를 벤치마크했습니다. 이 모델의 전체 파라미터는 400B이고 토큰당 약 17B가 활성화됩니다(공개된 4비트 양자화 가중치는 약 232 GB). 다음은 Anthropic이 2026년 11월 2일 보고한 정확한 수치입니다.
| 지표 | Anthropic FlashProve 결과(Llama 4 Maverick) |
|---|---|
| 테스트 모델 | Meta Llama 4 Maverick(전체 400B, 토큰당 활성 ~17B, 4비트 가중치, ~232 GB) |
| 증명자 하드웨어 | NVIDIA H100 GPU 1× + CPU 코어 24개 |
| 오프라인 커밋먼트 시간 | 모델당 한 번 ~39분(다시 커밋하기 전까지 ~1,600만 요청에 유효) |
| 증명 속도 | 요청 24개 배치에 ~223초(초당 ~110토큰) |
| 증명 크기 | 요청당 18.78 MB(1,024토큰 요청에 ~19 MB) |
| 클라이언트 커밋먼트 다운로드 | 총 ~6.5 MB |
| 검증 시간(CPU만 사용) | CPU 스레드 24개에서 17초(단일 스레드에서는 21초) |
| vLLM 대비 계산 오버헤드 | GPU당 시간 ~72×(실행별 66–77×); 테스트한 vLLM 최고 부하에서 ~94×(~70–95× 범위) |
| 컨텍스트 길이 제한 | 최대 1,024토큰 |
수치를 이해하기 위해 Anthropic은 같은 Llama 4 Maverick 모델에서 FlashProve를 기존 오픈소스 기술인 VerInf와 비교했습니다. Anthropic에 따르면 VerInf는 초당 약 0.02토큰으로 동작해 1,000토큰을 증명하는 데 14.3시간이 걸렸고, 93.6 GB의 증명을 생성했으며, 검증에는 거의 하루가 필요했습니다. 93.6 GB의 증명을 18.78 MB로 줄임으로써 암호학적 추론 검증은 이론적 수학에서 클라이언트 기기가 실제로 다운로드해 확인할 수 있는 수준으로 나아갑니다.
그럼에도 표준 vLLM 서비스에 비해 70×에서 95×에 이르는 계산 오버헤드는 증명이 실시간 채팅의 모든 응답에 무료로 첨부되지 않고 사후에 배치로 생성되는 이유를 설명해 줍니다.
FlashProve가 증명하지 못하는 것
FlashProve는 유지보수되지 않는 연구 프로토타입으로 기술적 제약이 엄격합니다. 따라서 검증에 통과하더라도 부동소수점 연산과의 동등성, 전체 대화의 포함 여부 또는 감사를 거친 운영 환경 보안이 보장되지는 않습니다.
저장소의 Anthropic 가이드 known-limits.md와 what-is-proved.md를 읽어 보면 팀이 2026년 11월 4일 기준 어디까지가 한계인지 매우 솔직하게 밝히고 있습니다.
- 정수 모델과 탐욕적 디코딩만 지원: 증명은 탐욕적 디코딩을 실행하는 양자화된 고정소수점 정수 버전의 모델에 적용됩니다. 탐욕적 디코딩은 항상 점수가 가장 높은 토큰 하나를 고릅니다. 실제 API는 대개 부동소수점 연산과 온도를 이용한 무작위 샘플링을 사용합니다. Anthropic은 한 측정에서 정수 모델과 부동소수점 구현 사이에 최상위 토큰이 전체 위치의 6.81%에서 달랐다고 보고했습니다.
- 더 느슨한 ‘clipped-gap’ 허용 정책: 서비스 시스템은 정수 참조 구현과 약간 다를 수 있으므로 검증자는
WITHIN LIMITS를 출력하는 더 느슨한 정책을 지원합니다. Anthropic은 이 정책에서 허용됐다는 사실만으로 응답이 해당 모델에서 나왔음을 증명하지는 못한다고 경고합니다. 허용 오차 한계를 독립적으로 평가할 수 없다면 정확히 일치하는 경우만 받아들여야 합니다. - 짧은 컨텍스트 제한: 현재 증명은 최대 1,024토큰의 컨텍스트를 지원하며, Anthropic은 이를 일반적인 코딩이나 채팅 세션에 비해 “꽤 짧다”고 말합니다.
- MoE 아키텍처만 지원: 현재 구현은 전문가 혼합 아키텍처만 지원하며 모델 아키텍처를 숨기거나 타이밍 공격 같은 부채널로부터 보호하지 않습니다.
- 메타데이터 없는 토큰 단위 범위: 유효한 증명은 확인한 특정 토큰만 포함하며 클라이언트 신원이나 타임스탬프는 포함하지 않습니다.
- 독립적인 보안 감사 없음: Lean으로 작성한 참조 검증자의 건전성은 형식적으로 증명됐지만, 빠른 C++ 검증자(
cp_verify), CUDA 증명자, 커밋먼트 생성기는 형식적 보장이 없습니다.cp_verify는 Lean 검증자와 비교 테스트만 받습니다. 또한 Anthropic은 프로그램과 증명이 독립적인 보안 감사를 받지 않았으며, 저장소는 유지보수하지도 기여를 받지도 않는 연구 산출물로 공개됐다고 밝혔습니다.
증명보다 커밋먼트 ID가 더 중요한 이유
유효한 FlashProve 증명이 확인해 주는 것은 응답이 커밋먼트 ID와 일치하는 어떤 가중치에서 나왔다는 사실뿐입니다. 따라서 부정직한 라우터는 저렴한 모델에 커밋하고 잘못된 모델에 대한 수학적으로 유효한 증명을 사용자에게 줄 수 있습니다.
이는 서드파티 API 라우터를 걱정하는 사람에게 가장 중요한 교훈입니다. 저장소의 “Known limits” 가이드에서 Anthropic은 The provider chooses the model이라는 제목 아래 이렇게 씁니다. “그렇다는 답은 그 가중치가 누구의 것인지 알려주지 않는다… 제공자는 작거나 퇴화한 모델을 포함해 원하는 어떤 모델에도 커밋할 수 있다.”
신뢰하기 어려운 API 라우터에 400B 최첨단 모델에 접근하기 위한 비용을 지불한다고 생각해 보세요. 비용을 아끼려고 라우터는 대신 저렴한 8B 모델을 몰래 실행합니다. 라우터가 이 8B 모델에 대한 자체 FlashProve 커밋먼트를 만들고, 8B 모델로 프롬프트를 처리한 다음, 응답과 함께 증명 및 커밋먼트 파일을 보내면 노트북의 C++ 검증자는 통과를 출력합니다. 수학적으로는 완전히 유효합니다. 실제로 8B 모델이 그 토큰을 생성했기 때문입니다.
그래서 Anthropic은 엄격한 운영 규칙을 제시합니다. “커밋먼트 ID는 신뢰하는 당사자에게서 가져오고, 확인 대상 서버나 증명과 함께 전송된 파일에서는 절대 가져오지 마세요.”
증명 가능한 추론으로 부정직한 라우터를 적발하려면 원래 모델 제작자(Anthropic이나 Meta 등) 또는 신뢰할 수 있는 독립 감사자가 실제 가중치의 공식 커밋먼트 ID를 공개해야 합니다. 라우터의 증명을 소유자의 공식 커밋먼트 ID와 대조해 검증해야만 암호 기술이 모델 교체를 잡아낼 수 있습니다.
라우터, 재판매업체, 평가자에게 주는 의미
모델 제작자들이 앞으로 공식 커밋먼트 ID를 공개하고 증명 가능한 추론을 지원한다면, 서드파티 라우터와 클라우드 호스팅 업체는 독점 모델 파일을 노출하지 않고도 사용자가 비용을 지불한 정확한 가중치를 제공했음을 증명할 수 있습니다.
Anthropic은 2026년 11월 2일과 11월 3일 발표에서 이 기술이 성숙함에 따라 혜택을 받을 수 있는 여러 집단을 소개했습니다.
- API 라우터 고객: 서드파티 추론 제공자를 통해 트래픽을 보내는 팀은 모델 제작자가 공개한 커밋먼트 ID와 대조해 요청의 표본을 사후 감사할 수 있습니다. 그러면 몰래 이루어진 성능 저하는 검증에 실패합니다.
- 독립적인 안전성 평가자: 출시 전후의 평가자는 안전성을 테스트하는 모델이 나중에 고객에게 제공되는 모델과 정확히 같은지 확인할 수 있습니다.
- 변조된 스트림을 감시하는 보안팀: 증명이 프롬프트와 출력 토큰을 확정된 가중치에 결부하므로, Anthropic은 침해된 서버의 공격자가 채팅을 탈취하거나 전송 중인 토큰 스트림을 수정하기가 더 어려워진다고 설명합니다. 이는 프롬프트 인젝션 같은 애플리케이션 수준의 위협과도 관련된 문제입니다.
- 규제 기관과 출처 확인: Anthropic은 하드웨어 “페이싱”(계산 자원이 무단 학습이 아닌 추론에 사용되는지 확인), 텍스트 출처(특정 모델이 문서를 작성하거나 검토했음을 증명), 모델 승인 규칙의 집행도 언급합니다.
Anthropic 자체의 Claude 트래픽은 어떨까요? Anthropic은 2026년 11월 2일 게시물에서 Frontier Safety Roadmap에 2026년 9월 30일까지 증명 가능한 추론 프로토타입을 개발한다는 목표가 포함됐다고 밝혔습니다. Anthropic은 2026년 10월 19일 업데이트 이후 이를 “추론 검증”이라고 부릅니다. Anthropic에 따르면 추론 트래픽에 암호학적으로 서명하고 신뢰할 수 있는 서버에서 추론을 다시 계산하는 별도의 관련 프로젝트를 통해 9월 기한을 맞췄습니다. FlashProve는 신뢰할 수 있는 재계산 대신 영지식 암호 기술로 같은 검증 목표를 추구합니다.
지금 제3자를 통해 모델 접근권을 구매한다면 내가 할 일
2026년 11월 4일 기준 상용 API나 라우터 중 실시간 트래픽에 FlashProve 증명을 첨부하는 곳은 없습니다. 따라서 현재 모델 교체에 대한 유일하게 믿을 만한 방어책은 원래 제공자에게 직접 구매하거나 계약상 신뢰할 수 있는 검증된 파트너에게 구매하는 것입니다.
개발자나 엔지니어링 책임자로서 지금 할인 프록시나 서드파티 라우터를 고려하고 있다면, 저는 다음과 같이 대응하겠습니다.
- 서드파티 응답의
model문자열을 검증되지 않은 주장으로 취급하세요. JSON 페이로드에 그렇게 적혀 있다는 이유만으로 재판매업체가 최첨단 모델을 제공한다고 가정하지 마세요. - 모델 교체를 잡아내기 위해 프롬프트 표본 검사에 의존하지 마세요. Anthropic의 경고를 진지하게 받아들이세요. 출력 품질 검사만으로는 일상적인 프롬프트 전반에서 최첨단 모델과 더 저렴한 대체 모델을 확실하게 구별할 수 없습니다.
- 중요한 워크로드는 원래 제공자의 API나 주요 클라우드 호스팅 업체에 유지하세요. 제품의 정확성, 안전성 또는 규정 준수가 특정 최첨단 모델에 달려 있다면 공식 정가를 지불하거나 구속력 있는 서비스 수준 계약을 맺은 공식 클라우드 파트너를 이용하세요.
- 나중에 증명이 도입될 경우 검증하는 방법을 알아두세요. 추론 제공자가 향후 FlashProve나 비슷한 zkSNARK 방식을 채택하더라도 제공자의 응답에 동봉된 커밋먼트 파일은 절대 사용하지 마세요. 모델 제작자에게서 직접 커밋먼트 ID를 가져오고, 검증자를 직접 컴파일하고, 어떤 토큰이 포함되는지 확인하고, 수치 허용 오차 한계를 직접 평가할 수 없다면 정확히 일치해야만 허용하도록 요구하세요.
자주 묻는 질문
FlashProve로 지금 Claude API 응답을 검증할 수 있나요?
아니요. 2026년 11월 4일 기준 FlashProve는 Meta의 공개 가중치 모델 Llama 4 Maverick에서 시연된 오픈소스 연구 프로토타입입니다. 현재 Claude API, OpenAI, 상용 API 라우터 중 어느 곳도 응답에 FlashProve 증명을 첨부하지 않습니다. Anthropic은 별도로 트래픽에 서명하고 신뢰할 수 있는 서버에서 추론을 다시 계산하는 다른 프로젝트를 통해 2026년 9월 30일 추론 검증 관련 내부 로드맵 목표를 달성했다고 밝혔습니다.
FlashProve는 모델의 비밀 가중치를 공개하나요?
아니요. FlashProve는 영지식 증명(zkSNARK)을 사용하며, 이 증명은 검증자가 모델의 비밀 가중치, 중간 계층 값 또는 추론 중 활성화된 특정 전문가에 관해 아무것도 알 수 없도록 보장합니다. 모델의 일반적인 아키텍처는 숨겨지지 않고 타이밍 부채널은 범위 밖이지만, 독점 가중치는 완전히 비공개로 유지되면서도 누구나 CPU에서 계산을 검증할 수 있습니다.
FlashProve 검증자를 직접 실행할 수 있나요?
네. Anthropic은 GitHub에 Apache 2.0 라이선스로 코드를 공개했습니다(anthropics/FlashProve). Linux에서 빠른 C++ 검증자(cp_verify)를 빌드하면 GPU나 모델 가중치 없이 일반 CPU에서 증명을 확인할 수 있습니다. 저장소에는 작은 합성 모델을 사용하는 예제가 저장돼 있어 개발자가 Commit → Prove → Verify 과정을 로컬에서 테스트할 수 있습니다.
증명 가능한 추론은 디지털 서명과 같은가요?
아니요. 일반 디지털 서명은 메시지를 누가 보냈는지만 증명하므로, 발신자가 올바른 모델을 정직하게 실행했다고 믿어야 합니다. FlashProve를 이용한 증명 가능한 추론은 어떤 확정된 가중치가 출력 토큰을 계산했는지 증명합니다. 그렇더라도 커밋먼트 ID는 신뢰할 수 있는 당사자에게서 받아야 합니다. 그렇지 않으면 부정직한 서버가 저렴한 모델에 커밋하고 그 모델에 대한 유효한 증명을 생성할 수 있기 때문입니다.
세부 사항 최종 확인: 2026년 11월 4일. 다음 검토: 2026년 12월 4일.



