AnthropicがAI返答の出どころを証明する技術

米Anthropicは11月2日（現地時間）、AIの返答がどのモデルから出たかを数学で証明する技術「FlashProve」を公開しました。

何ができる技術か

AIサービスを使っていても、返ってきた答えが本当に自分の選んだモデルのものか、利用者には確かめられません。FlashProveは、特定のモデルが特定の質問にこの答えを返したことを、暗号の技術で証明します。コードと技術文書は、誰でも自由に使えるApache 2.0ライセンスでGitHubに公開されました。

なぜ必要なのか

仲介サービスが、コストを下げるために利用者の選んだモデルをこっそり別のモデルに替える恐れがあります。攻撃者が答えを書き換える場合もあります。どちらも、答えの質だけでは見分けられません。モデルの中身（重み）は非公開のものが多く、手に入っても同じモデルを動かして確かめるには大きな計算資源が要ります。

仕組みと想定する使い道

まずモデルの提供者が、モデルの中身に対応する短い「指紋」を公開します。依頼ごとに、その指紋のモデルが答えを出したことを示す証明ファイルを作ります。受け取った側はGPUのないパソコンでも確認でき、別のモデルの答えなら確認に失敗します。証明から中身は漏れませんが、モデルの構造は隠れません。

想定される使い道は次のとおりです。 ・第三者の評価機関が、評価したモデルと実際に提供されるモデルが同じか確かめる ・サーバーが乗っ取られて答えが書き換えられたことに気づく ・承認済みのモデルだけを出すよう求める規制への対応を確かめる

性能とコスト

Anthropicが試したのは、Metaの「Llama 4 Maverick」（4000億パラメータ、4ビットに軽くした版）です。NVIDIAのGPU「H100」1基で、毎秒約110トークン（文字のかたまり）の速さで証明を作れました。1024トークンの依頼1件の証明は約19MBで、24コアのCPUなら約17秒で確認できます。

一方、証明の作成には通常の答えを出す場合の約70〜95倍のGPU時間がかかります。同じモデルを対象にした既存のオープンソースの取り組みでは、1000トークンの証明に14.3時間かかりました。証明も93.6GBあったと伝えられています。ただし、性能の数字は第三者がまだ再現していないとの指摘もあります。

限界と今後

今回の公開は、完成品ではなく研究の途中経過です。制約は次のとおりです。 ・対象は専門家を切り替える方式（MoE）のモデルだけ ・扱えるのは1024トークンまで ・常に最も確率の高い言葉を選ぶ設定が前提 ・答えを返した後に証明するため、改ざんを防ぐのではなく後から見つける仕組み

開発はAnthropicのFrontier Red Teamが、スイスのEPFLや米マサチューセッツ工科大学（MIT）の研究者と進めました。性能改善はClaudeが手伝い、実行コードの多くもAIが作ったため、重要な安全性は数学の証明言語「Lean」で確かめて公開しています。Claudeのサービスに入る時期は発表されていません。