AnthropicがFlashProveシステムを発表し、AIモデルの出力の真実性を検証

Anthropicは、人工知能モデルが特定の応答を本当に生成したかどうかを検証するためのオープンソースの暗号システム「FlashProve」を発表した。この技術は、ユーザー、独立監査人、規制機関が供給者が主張するモデルを実行しているかどうかを確認するのに役立つ。このシステムは、ゼロ知識暗号技術を利用して数学的証明を生成し、特定のモデルが特定のプロンプトに対して与えられた出力トークンを生成したことを証明する。企業がますます第三者のモデル供給者やルーティングサービスに依存して先進的な人工知能システムにアクセスする中で、この技術は増大する信頼の問題を解決することが期待される。

現在、ユーザーは特定の応答が選択したモデルからのものであるか、供給者が秘密裏に安価な代替品に置き換えたものであるかを信頼性をもって判断することができない。FlashProveは、ユーザーがモデルにアクセスしたり独立して実行したりすることなく、この保証を提供することを目的としている。

暗号技術の動作原理

暗号証明は出力を検証する。FlashProveは、ゼロ知識簡潔非対話型証明（zkSNARK）と呼ばれる暗号技術を採用しており、供給者が基盤となるモデルの機密情報を明らかにすることなく計算の正確性を証明できる。このシステムは二段階で動作する。まず、供給者はモデルの重みの暗号化されたコミットメントを公開し、実際には使用されるモデルの指紋を作成しつつ、重みの機密性を保持する。ユーザーがリクエストを送信すると、供給者はその後、コミットされたモデルが対応する出力トークンを生成したことを証明する証明を生成できる。コミットメント、プロンプト、応答を持つ者は、モデルの重みにアクセスすることなくその証明を検証できる。

Anthropicは、Llama 4 Maverick（4000億パラメータを持つ専門家混合モデル）を使用してこの方法をデモンストレーションした。単一のNVIDIA H100 GPUで実行した場合、FlashProveは1秒あたり約110トークンの速度で証明を生成し、1,024トークンのリクエストに対して各証明のサイズは約19MBである。24コアのCPUを使用して検証するには約17秒を要し、GPUは不要である。

技術応用の課題と制限

安全性は実際の課題に直面している。この技術の応用は、顧客が選択したモデルを取得しているかどうかを確認することにとどまらない。Anthropicは、暗号推論証明がモデルの応答の改ざんを検出し、独立評価をサポートし、規制機関に供給者がどのモデルを提供しているかを検証する手段を提供できると考えている。たとえば、ある企業は供給者に特定のモデルによってそのネットワークセキュリティソフトウェアがチェックされていることを証明するよう要求できる。規制機関もこのような証明を利用して、供給者が承認されたモデルを提供しているか、特定の人工知能開発の約束を満たしているかを確認できる。

しかし、FlashProveは依然として研究プロトタイプであり、生産準備が整ったソリューションではない。証明を生成するために必要な計算資源は通常の推論を大幅に上回る。Anthropicの測定によれば、このプロセスはvLLM（広く使用されているオープンソース推論エンジン）が必要とするGPU時間の70倍から95倍を要する。現在のシステムは最大1,024トークンのコンテキストをサポートし、貪欲デコーディングの下でモデルの整数バージョンを証明する。すべての浮動小数点またはサンプリング推論結果をカバーしているわけではない。また、モデルの重みは隠されているが、モデルのアーキテクチャは隠されていない。

研究と開発を促進する意義

Anthropicは、Apache 2.0ライセンスに基づいてシステムの実行可能なコード、技術報告、プロトコル仕様、正式な検証証明を公開した。同社は、このリリースが他の研究者にこの基盤の上で開発を促し、技術を改善することを目的としていると述べている。この研究は、モデルのアイデンティティと応答の完全性を独立して検証可能にする方向への初期のステップを示しており、ユーザーのアプリケーションの背後にあるシステムへの信頼を高める可能性がある。

FlashProveがAIモデルの信頼に与える影響

人工知能技術の急速な発展に伴い、そのモデル出力の真実性に対する信頼が重要な課題となっている。FlashProveの導入は、ユーザーや規制機関に新たな検証ツールを提供し、モデルの機密情報を明らかにすることなく、使用されているモデルが実際に主張された機能を満たしていることを保証することができる。このことは、ユーザーのAIアプリケーションへの信頼を高めるだけでなく、市場におけるモデル供給者の透明性要求を促進する可能性がある。現在技術は研究段階にあるが、その潜在的な影響は業界におけるAIモデルの検証方法を変える可能性がある。