モデルはどう評価されるのか：ベンチマークと、それが嘘をつく理由

ベンチマークのスコアは測定値に見えます。数字があり、リーダーボードがあり、勝者がいます。しかしベンチマークは、測定値というより主張に近いものです。それは、注意深く選ばれた1つのタスクでの成績が、能力一般について何かを語ると主張しています。その主張が成り立つこともあります。成り立たないこともよくあります。モデルがどう評価されるか——そしてその論理がどこで破綻するか——を理解することが、リーダーボードを読むことと、それに騙されることの分かれ目です。

これはベンチマークが無用だという主張ではありません。それらは不可欠です。共有されたテストがなければ、モデルの品質に関するあらゆる主張はマーケティングになってしまいます。要点は、注意深い人があらゆる統計を読むようにそれらを読むことです。何を測り、何を取りこぼし、どう密かに人を惑わせうるかを知ったうえで。

ベンチマークとは本当は何か

リーダーボードを取り払うと、ベンチマークは3つのものです。固定された一連のタスク、その上でモデルを走らせる方法、そして回答を採点する規則。それだけです。スコアは、モデルがその特定の採点規則のもとで、その特定のタスクでどうだったかを要約します。

飛躍は——そしてそれは飛躍です——「これらのタスクでうまくやった」から「この種のことが得意だ」への移行です。その一般化は、ベンチマークがあなたの気にかける実際の仕事をどれだけ代表しているかと同じだけの強さしか持ちません。自己完結したパズルからなるコーディングのベンチマークは、大規模で雑然としたコードベースの保守についてはほとんど語らないかもしれません。短くきれいな文章の読解テストは、長く矛盾した文書についてはほとんど語らないかもしれません。数字は本物です。一般化は仮説です。

誰が、なぜベンチマークを作るのかについて、立ち止まる価値があります。ある種のものは、研究上の問いの進捗を追う学術的な取り組みです。ある種のものは、自分たちのモデルがランク付けされるまさにそのチームによって作られます。どれも自然の中立的な営みではありません。それぞれが、何を良いとみなすか、どのタスクが注目に値するか、何を無視するかについての選択を符号化しています。スコアを読むとき、あなたは同時に、そのテストが作る価値があると決めた者の価値観を読んでいます。それはベンチマークを不誠実にするわけではありません——しかし、ベンチマークが測るのは作者が重要だと考えたものであり、それはあなたにとって重要なものとは限らないということです。

なぜ単一の数字は見せる以上に隠すのか

リーダーボードは、ランク付けできるようモデルを1つの数値に圧縮します。圧縮こそが全目的であり、同時に全危険です。同じ見出しスコアの2つのモデルが、どこで成功しどこで失敗するかにおいて、途方もなく異なりうるのです——一方は全般に安定し、他方は易しい項目では見事だが難しいものには無力で、平均すると同じ場所に収まる。

単一の数字はまた、たいてい最も重要な問いを消し去ります。端ではどう振る舞うか？ どう失敗するか——優雅に、それとも自信ある戯言で？ 同じタスクの言い換えにわたって一貫しているか？ そのどれも、1桁への崩壊を生き延びません。だからこそホリスティック評価の取り組みは、単一のランクではなく多くの次元——正確さ、頑健さ、較正、その他——を報告すべきだと論じます。モデルは曲面であり、リーダーボードはそれを1つの角度から写した写真です。

汚染：テストが訓練に漏れるとき

モデル評価で最も腐食性の高い問題が汚染です。テストの問題、またはその近縁が、モデルの訓練データに現れることです。モデルは公開インターネットの膨大な範囲で訓練され、人気のベンチマークはその同じインターネット上に存在します。モデルが実質的に答えを見てしまっているとき、高いスコアは能力ではなく記憶を測ります——試験を事前に手に入れた学生のように。

汚染は検出が難しく、排除も難しい。だからこそ、目を引くベンチマーク結果には特定の問いが値します。モデルはこれを以前に見ていた可能性はないか？ これはまた、新鮮で、取り置きされ、あるいは頻繁にローテーションされるテストが重視される理由を説明します——そして、古い公開ベンチマークを支配しながら新たに書かれた同等物でつまずくモデルが、感心ではなく疑念を抱かせるべき理由も。

テストに向けた教え込み

漏れた答えがなくても、ベンチマークは測るものを歪めます。いったんベンチマークが誰もが見守る得点板になると、努力はそのスコアを上げる方向へ流れます——本当にモデルを良くすることによってのこともあれば、ベンチマークの癖に最適化することによってのことも。結果は、追跡するはずだった基盤の能力が遅れているのに、テストで良く見えるようチューニングされたモデルです。

これは古い発想です。いったん尺度が目標になると、それは良い尺度であることをやめる。AIは特にこれにさらされています。ベンチマークが公開され、競争が激しく、「テストが得意」と「タスクが得意」の隔たりが、数字が上がっているときには無視されやすいからです。上がるスコアは、上がる能力を意味することも、上がるテストの腕前を意味することもあります。リーダーボードは、どちらかを教えてはくれません。

時間をかけてその効果が見て取れます。少し前まで本当にモデルを挑戦させたベンチマークが、誰もが上位近くで得点するベンチマークになります——基盤の問題が解決されたからとは限らず、テストが、努力の流れ込む既知の対象になったからです。ベンチマークが飽和すると、面白い情報は失われます。それはもはや良いと優れたを分けられず、分野はより難しいテストへと移ります。その循環は健全ですが、同時に、振り切れたベンチマークがほとんど何も教えないこと、そして昨日の難しいテストがしばしば今日の見せかけのために解かれたものであることの戒めでもあります。

採点が取りこぼすもの

回答がどう採点されるかが、ベンチマークがそもそも何を見られるかを形づくります。1つの明確な正解を持つタスク——多肢選択の項目、完全一致——は採点が容易で、そのためベンチマークを支配します。しかし現実世界の仕事の多くには単一の正解がありません。上手に書く、明確に説明する、適度に慎重である、曖昧なリクエストを扱う。これらは自動採点に抵抗するので、過少に測られ、過少に測られた性質は過少に最適化されます。

採点者自身がモデルのとき、新たな歪みが現れます。正しさに関係なく、ある種のスタイル、長さ、自信を好むかもしれません。だからスコアを信頼する前に、採点規則がそもそも何を検出できるかを問いましょう。ベンチマークは、その採点者が見られないすべてに対して盲目であり、その盲点こそが、しばしば仕事の最も重要な部分なのです。

リーダーボードを正直に読む方法

いくつかの長持ちする習慣が、ベンチマークを誤解させるものではなく有用なものに保ちます。

• スコアが何かだけでなく、タスクが何かを問う。 何を要約しているか分かるまで、数字は何も意味しません。
• わずかな差を疑う。 上位近くの小さな違いは、本物の順序ではなく、しばしばノイズです。
• 単一のランクより多くの次元を好む。 頑健さや失敗の振る舞いは、しばしばピークの正確さよりも重要です。
• 見慣れた公開ベンチマークでは汚染を疑う。 特に結果がきれいすぎるとき。
• 自分自身のタスクを最も信頼する。 本当に重要な唯一の評価は、あなたの実際の仕事に似た例での評価です。

最後の点が最も重要で、最も無視されています。公開リーダーボードは出発点のフィルターであって、評決ではありません。あなたの問題こそが本当のベンチマークです。

まとめ

ベンチマークは、測定値の装いをまとった主張です。それらは不可欠ですが——スコアは、特定の採点規則のもとで特定のタスクでモデルがどうだったかを教えるのであって、「一般に良い」への飛躍はあなたが確かめなければならない仮説です。汚染、テストへの教え込み、一数値への圧縮はすべて、高いスコアが実際の能力を追い越すことを許します。あらゆる統計を読むようにベンチマークを読みましょう。何を測り、何を隠し、あなたが本当に必要とする仕事を反映しているかを問う。そして、自分自身で走らせるのです。