AI検証について誰も認めたがらないことがあります。それは「信頼の問題」ではなく「決定論性の問題」だということです。

私たちはLLMを従来のソフトウェアのように扱ってきました――同じプロンプトを与えれば毎回同じ答えが返ってくると期待して。しかしそのメンタルモデルは、大規模に言語モデルを実行するときには完全に崩壊します。

従来のZKMLフレームワークは、もはや存在しない世界を前提に設計されていました。予測可能性を仮定し、再現性を仮定していました。しかし、LLMの推論は本質的に確率的です。温度設定、サンプリング手法、微細なモデル更新ですら、これらすべてが従来のゼロ知識証明では扱えない変動性をもたらします。

つまり私たちは、チェスエンジン向けに作られた検証ツールを、ジャズの即興演奏のように振る舞うシステムの検証に使おうとしているのです。