CodeAF 和 9 款 AI 程式設計助理比做 DeepSWE 任務
AI 程式設計助理的總分看起來接近,實際上可能擅長解不同的題目。這次比較讓 10 款工具用同一個模型挑戰 DeepSWE 的 113 項任務,再逐題確認哪些做對、哪些沒做成。CodeAF 的 senior-dev 模式答對 62 題;和 mini-swe-agent 相比,有 29 題只有 CodeAF 做對,另有 23 題只有 mini-swe-agent 做對。這表示只看總分,會漏掉兩款工具各自擅長的題目;而且有 15 題連所有工具都沒答對。