HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

SWEタスクにおける13モデルと4エージェント: Go, Java, Python, Rust, TS

13 Models and 4 Agents on SWE Tasks: Go, Java, Python, Rust, TS (swe-rebench.com)

36 pointsby ibragim_bad12 コメント

要約

SWE-rebench v2のリーダーボードは、2026年5月15日から7月1日までの期間に、111の異なる問題と65のリポジトリを対象に、様々なAIモデルとエージェントのソフトウェアエンジニアリングタスクにおける性能を評価しています。AnthropicのFable 5が解決率でトップですが、OpenAIのGPT-5.6 Solはコストあたりの問題解決数で優れています。

全文翻訳

SWE-rebench リーダーボード❗ SWE-rebench v2 リーダーボード 論文 データ 概要 Discord リーダーボード 論文 データ 概要 期間 15/05/2026 01/07/2026 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 開始 15/05/2026 終了 01/07/2026 インサイト クリックして展開 インサイト すべて表示 エージェント モデル 言語 すべて 111 問題 65 リポジトリ 現在の期間内で選択された問題。 検査 111 問題、65 リポジトリ 検査 潜在的な汚染 外部システム 評価範囲外 # モデル 解決率 (%) Pass@5 (%) 問題あたりのコスト ($) 問題あたりのトークン 1 Anthropic Fable 5 [high] モデル 64.5%± 1.41% 78.4% $4.40 2,518,308 94.9% キャッシュ済み 2 Grok Grok 4.5 [high] モデル 63.8%± 0.60% 77.5% $1.47 2,429,424 92.6% キャッシュ済み 3 Anthropic Opus 5 [high] モデル 63.4%± 1.35% 74.8% $3.47 4,322,143 95.7% キャッシュ済み 4 Z.ai GLM-5.2 [high] モデル 62.9%± 1.19% 81.1% $1.40 5,524,892 92.1% キャッシュ済み 5 OpenAI GPT-5.6 Sol [medium] モデル 62.3%± 1.83% 79.3% $0.85 605,340 84.7% キャッシュ済み 6 Junie Junie Agent 61.8%± 0.54% 73.9% $0.81 1,684,501 85.9% キャッシュ済み 7 Anthropic Claude Code エージェント 60.4%± 1.03% 75.7% $3.39 3,341,581 93.4% キャッシュ済み 8 OpenAI Codex エージェント 58.0%± 1.29% 73.0% $1.59 2,070,976 94.6% キャッシュ済み 9 Anthropic Sonnet 5 [high] モデル 56.8%± 0.94% 74.8% $1.43 4,645,617 96.4% キャッシュ済み 10 Cursor Cursor Agent 51.7%± 0.84% 65.8% $0.41 1,827,002 94.3% キャッシュ済み 11 Minimax MiniMax M3 モデル 47.2%± 1.13% 69.4% $0.95 13,869,459 97.0% キャッシュ済み 12 Xiaomi MiMo V2.5 Pro モデル 46.5%± 0.54% 65.8% $0.10 4,687,987 95.7% キャッシュ済み 13 OpenAI GPT-5.6 Luna [medium] モデル 43.6%± 1.47% 59.5% $0.11 395,522 85.2% キャッシュ済み 14 DeepSeek DeepSeek-V4 Pro [high] モデル 40.2%± 1.29% 64.0% $0.15 3,955,414 91.2% キャッシュ済み 15 Qwen Qwen3.6-27B モデル 31.2%± 1.68% 57.7% $0.62 3,078,970 76.8% キャッシュ済み 16 Qwen Qwen3.6-35B-A3B モデル 24.7%± 0.79% 43.2% $0.27 3,726,061 87.5% キャッシュ済み 17 Qwen Qwen3.5-35B-A3B モデル 17.1%± 1.07% 36.9% $0.99 5,939,227 72.3% キャッシュ済み 18 Anthropic Claude Opus 4.1 モデル N/A N/A N/A N/A 19 Anthropic Claude Opus 4.5 モデル N/A N/A N/A N/A 20 Anthropic Claude Opus 4.6-high モデル N/A N/A N/A N/A 21 Anthropic Claude Opus 4.7-high モデル N/A N/A N/A N/A 22 Anthropic Claude Opus 4.8-xhigh モデル N/A N/A N/A N/A 23 Anthropic Claude Sonnet 3.5 モデル N/A N/A N/A N/A 24 Anthropic Claude Sonnet 4 モデル N/A N/A N/A N/A 25 Anthropic Claude Sonnet 4.5 モデル N/A N/A N/A N/A 26 Anthropic Claude Sonnet 4.6 モデル N/A N/A N/A N/A 27 DeepSeek DeepSeek-R1-0528 モデル N/A N/A N/A N/A 28 DeepSeek DeepSeek-V3 モデル N/A N/A N/A N/A 29 DeepSeek DeepSeek-V3-0324 モデル N/A N/A N/A N/A 30 DeepSeek DeepSeek-V3-0324 モデル N/A N/A N/A N/A 31 DeepSeek DeepSeek-V3.1 モデル N/A N/A N/A N/A 32 DeepSeek DeepSeek-V3.2 モデル N/A N/A N/A N/A 33 DeepSeek DeepSeek-V4 Flash [high] モデル N/A N/A N/A N/A 34 Mistral Devstral-2-123B-Instruct-2512 モデル N/A N/A N/A N/A 35 Mistral Devstral-Small-2-24B-Instruct-2512 モデル N/A N/A N/A N/A 36 Mistral Devstral-Small-2505 モデル N/A N/A N/A N/A 37 Gemini Gemini 3 Flash Preview モデル N/A N/A N/A N/A 38 Gemini Gemini 3 Pro Preview モデル N/A N/A N/A N/A 39 Gemini Gemini 3.1 Pro Preview モデル N/A N/A N/A N/A 40 Gemini Gemini 3.5 Flash モデル N/A N/A N/A N/A 41 Gemini gemini-2.0-flash モデル N/A N/A N/A N/A 42 Gemini gemini-2.0-flash モデル N/A N/A N/A N/A 43 Gemini gemini-2.5-flash モデル N/A N/A N/A N/A 44 Gemini gemini-2.5-flash-preview-05-20 no-thinking モデル N/A N/A N/A N/A 45 Gemini gemini-2.5-flash-preview-05-20 no-thinking モデル N/A N/A N/A N/A 46 Gemini gemini-2.5-pro モデル N/A N/A N/A N/A 47 Gemini Gemma 4 31B モデル N/A N/A N/A N/A 48 Gemini gemma-3-27b-it モデル N/A N/A N/A N/A 49 Z.ai GLM-4.5 モデル N/A N/A N/A N/A 50 Z.ai GLM-4.5 Air モデル N/A N/A N/A N/A 51 Z.ai GLM-4.6 モデル N/A N/A N/A N/A 52 Z.ai GLM-4.7 モデル N/A N/A N/A N/A 53 Z.ai GLM-4.7 Flash モデル N/A N/A N/A N/A 54 Z.ai GLM-5 モデル N/A N/A N/A N/A 55 Z.ai GLM-5.1 モデル N/A N/A N/A N/A 56 Z.ai GLM-5.1 モデル N/A N/A N/A N/A 57 OpenAI gpt-4.1-2025-04-14 モデル N/A N/A N/A N/A 58 OpenAI gpt-4.1-2025-04-14 モデル N/A N/A N/A N/A 59 OpenAI gpt-4.1-mini-2025-04-14 モデル N/A N/A N/A N/A 60 OpenAI gpt-4.1-mini-2025-04-14 モデル N/A N/A N/A N/A 61 OpenAI gpt-4.1-nano-2025-04-14 モデル N/A N/A N/A N/A 62 OpenAI gpt-5-2025-08-07-high モデル N/A N/A N/A N/A 63 OpenAI gpt-5-2025-08-07-medium モデル N/A N/A N/A N/A 64 OpenAI gpt-5-2025-08-07-minimal モデル N/A N/A N/A N/A 65 OpenAI gpt-5-codex モデル N/A N/A N/A N/A 66 OpenAI gpt-5-mini-2025-08-07-high モデル N/A N/A N/A N/A 67 OpenAI gpt-5-mini-2025-08-07-medium モデル N/A N/A N/A N/A 68 OpenAI gpt-5.1-codex モデル N/A N/A N/A N/A 69 OpenAI gpt-5.1-codex-max モデル N/A N/A N/A N/A 70 OpenAI gpt-5.2-2025-12-11-medium モデル N/A N/A N/A N/A 71 OpenAI gpt-5.2-2025-12-11-xhigh モデル N/A N/A N/A N/A 72 OpenAI gpt-5.2-codex モデル N/A N/A N/A N/A 73 OpenAI gpt-5.3-codex モデル N/A N/A N/A N/A 74 OpenAI gpt-5.3-codex-xhigh モデル N/A N/A N/A N/A 75 OpenAI gpt-5.4-2026-03-05-medium モデル N/A N/A N/A N/A 76 OpenAI gpt-5.5-2026-04-23-medium モデル N/A N/A N/A N/A 77 OpenAI gpt-5.5-2026-04-23-xhigh モデル N/A N/A N/A N/A 78 OpenAI gpt-oss-120b モデル N/A N/A N/A N/A 79 OpenAI gpt-oss-120b-high モデル N/A N/A N/A N/A 80 OpenAI gpt-oss-20b モデル N/A N/A N/A N/A 81 Grok Grok 4 モデル N/A N/A N/A N/A 82 Grok Grok Code Fast 1 モデル N/A N/A N/A N/A 83 OpenRouter horizon-alpha モデル N/A N/A N/A N/A 84 OpenRouter horizon-beta モデル N/A N/A N/A N/A 85 Kimi Kimi K2 モデル N/A N/A N/A N/A 86 Kimi Kimi K2 Instruct 0905 モデル N/A N/A N/A N/A 87 Kimi Kimi K2 Thinking モデル N/A N/A N/A N/A 88 Kimi Kimi K2.5 モデル N/A N/A N/A N/A 89 Kimi Kimi K2.6 モデル N/A N/A N/A N/A 90 Meta Llama-3.3-70B-Instruct モデル N/A N/A N/A N/A 91 Meta Llama-4-Maverick-17B-128E-Instruct モデル N/A N/A N/A N/A 92 Meta Llama-4-Scout-17B-16E-Instruct モデル N/A N/A N/A N/A 93 Minimax MiniMax M2 モデル N/A N/A N/A N/A 94 Minimax MiniMax M2.1 モデル N/A N/A N/A N/A 95 Minimax MiniMax M2.5 モデル N/A N/A N/A N/A 96 Minimax MiniMax M2.7 モデル N/A N/A N/A N/A 97 OpenAI o3-2025-04-16 モデル N/A N/A N/A N/A 98 OpenAI o4-mini-2025-04-16 モデル N/A N/A N/A N/A 99 Qwen Qwen2.5-72B-Instruct モデル N/A N/A N/A N/A 100 Qwen Qwen2.5-Coder-32B-Instruct モデル N/A N/A N/A N/A 101 Qwen Qwen3-235B-A22B モデル N/A N/A N/A N/A 102 Qwen Qwen3-235B-A22B no-thinking モデル N/A N/A N/A N/A 103 Qwen Qwen3-235B-A22B thinking モデル N/A N/A N/A N/A 104 Qwen Qwen3-235B-A22B-Instruct-2507 モデル N/A N/A N/A N/A 105 Qwen Qwen3-235B-A22B-Thinking-2507 モデル N/A N/A N/A N/A 106 Qwen Qwen3-30B-A3B-Instruct-2507 モデル N/A N/A N/A N/A 107 Qwen Qwen3-30B-A3B-Thinking-2507 モデル N/A N/A N/A N/A 108 Qwen Qwen3-32B モデル N/A N/A N/A N/A 109 Qwen Qwen3-32B no-thinking モデル N/A N/A N/A N/A 110 Qwen Qwen3-32B thinking モデル N/A N/A N/A N/A 111 Qwen Qwen3-Coder-30B-A3B-Instruct モデル N/A N/A N/A N/A 112 Qwen Qwen3-Coder-480B-A35B-Instruct モデル N/A N/A N/A N/A 113 Qwen Qwen3-Coder-Next モデル N/A N/A N/A N/A 114 Qwen Qwen3-Next-80B-A3B-Instruct モデル N/A N/A N/A N/A 115 Qwen Qwen3.5-27B モデル N/A N/A N/A N/A 116 Qwen Qwen3.5-397B-A17B モデル N/A N/A N/A N/A 117 Stepfun Step-3.5-Flash モデル N/A N/A N/A N/A ニュース [2026-07-01]: リーダーボードに新しいモデルが追加されました: GLM 5.2, DeepSeek-V4 Pro, DeepSeek-V4 Flash, MiMo V2.5 Pro, Qwen3.6-35B-A3B, Qwen3.6-27B, Gemma 4 31B。 [2026-06-09]: リーダーボードに新しいモデルが追加されました: Gemini 3.5 Flash, MiniMax M3。 [2026-05-28]: リーダーボードに新しいモデルが追加されました: Claude Opus 4.8。 [2026-05-27]: リーダーボードに新しいモデルが追加されました: gpt-5.5-2026-04-23-xhigh, gpt-5.5-2026-04-23-medium, gpt-5.4-2026-03-05-medium, Claude Opus 4.7, Kimi K2.6。 [2026-04-19]: JunieをClaude Opus 4.6をプライマリモデルとして再実行しました。 [2026-04-15]: リーダーボードに新しいモデルが追加されました: GLM-5.1, Qwen3.5-27B, Cursor, Gemma 4 31B, MiniMax M2.7。 [2026-03-20]: リーダーボードに新しいモデルが追加されました: gpt-5.4-2026-03-05-medium, Gemini 3.1 Pro Preview, Claude Sonnet 4.6, Qwen3.5-397B-A17B, gpt-5.3-codex-xhigh, gpt-5.3-codex, Qwen3.5-35B-A3B。 以下のモデルは非推奨となりました: gpt-5.2-2025-12-11-xhigh, gpt-5.1-codex-max, gpt-5.1-codex, gpt-5-mini-2025-08-07-high, gpt-5-mini-2025-08-07-medium, Qwen3-235B-A22B-Instruct-2507, DeepSeek-R1-0528, Qwen3-Coder-30B-A3B-Instruct, Qwen3-Next-80B-A3B-Instruct, Qwen3-30B-A3B-Instruct-2507。 [2026-03-09]: Junie CLIの参照評価を追加しました(オレンジ色でハイライト)。セットアップ詳細はインサイトを参照してください。 [2026-02-13]: リーダーボードに新しいモデルが追加されました: Claude Opus 4.6, GLM-5, MiniMax M2.5, Codex, Qwen3-Coder-Next, GLM-4.7 Flash, gpt-5.2-codex, GLM-4.7 Flash。 [2026-01-14]: リーダーボードに新しいモデルが追加されました: gpt-5.2-2025-12-11-xhigh, gpt-5.1-codex, GLM-4.7, gpt-5-mini-2025-08-07-high, gpt-oss-120b-high, Kimi K2 Thinking。 以下のモデルは非推奨となりました: gpt-5-2025-08-07-medium, gpt-5-2025-08-07-high, Claude Sonnet 4, Claude Opus 4.1, o3-2025-04-16, gpt-5-codex, GLM-4.5, o4-mini-2025-04-16, gpt-5-2025-08-07-minimal, gpt-4.1-2025-04-14, Qwen3-235B-A22B-Thinking-2507, gpt-4.1-mini-2025-04-14, Qwen3-30B-A3B-Thinking-2507。 [2025-12-22]: リーダーボードに新しいモデルが追加されました: MiniMax M2.1。 [2025-12-17]: 追加