Anthropic は2026年8月2日(現地時間)、同社の生成AIモデル「Claude Opus 5」が、AIモデルのソフトウェアエンジニアリング能力を評価するベンチマーク「SWE-bench Verified」で96%のスコアを記録し、首位を獲得したとBenchLM.aiが報じた。これに「Claude Mythos 5」が95.5%、「Claude Fable 5」が95%で続いた。上位モデルのスコアが1ポイント以内に集中しているこの結果は、当該ベンチマークがフロンティアモデルにとって飽和状態に近づいていることを示唆する。

BenchLM.aiによると、2026年8月2日更新のSWE-bench Verifiedリーダーボードで、Anthropic のClaude Opus 5が96%で首位を獲得しました。これに続き、Claude Mythos 5が95.5%、Claude Fable 5が95%を記録しています。評価対象となった60モデルのうち、上位群のスコアが1.0ポイント以内に密集しており、フロンティアモデルにとってこのベンチマークが飽和状態に近づいていることが示唆されています。

SWE-bench Verifiedは、人気のあるオープンソースPythonリポジトリ(Django、Flask、scikit-learnなど)における実際のGitHub課題をモデルが解決する能力を検証する、人間がレビューしたSWE-benchのサブセットです。AIコーディングエージェント向けのベンチマークとして最も引用されるものの一つであり、各課題ではコードベースの理解、パッチの作成、テストスイートの通過が求められます。

このベンチマークはBenchLM.aiの「Coding」カテゴリに属しており、このカテゴリはBenchLM.aiの全体スコアリングシステムにおいて20%の重みを持っています。その中でSWE-bench Verifiedはカテゴリスコアの16%を占めており、ここでの高いパフォーマンスはモデルの全体ランキングに直接影響するとされています。SWE-bench Verifiedの2024年版には500件の検証済み課題が含まれ、プロフェッショナルなソフトウェアエンジニアリングレベルの難易度が設定されています。


参考: benchlm.ai (アーカイブ) — 2026年8月2日 09:00 (JST)

この記事をシェア
X はてブ LinkedIn