基準指南

Claude Fable 5.2 基準測試怎麼看

炭黑色階梯上放著一枚琥珀色標記

知道每項測試在測什麼,評測表才能幫助選擇值得試用的模型。本文閱讀了 Anthropic 的 Fable 5.2 釋出表格及方法說明。分數來自廠商報告,後面的內部測試方法為示例,不是獨立複測結果。

快速結論

用 Chartography 選擇圖表識讀試驗,用 FrontierCode 選擇程式碼試驗,用 AutomationBench 選擇流程試驗。比較時保留每一行的推理設定和工具條件。創意團隊應先選一個能人工驗證的小範圍視覺問題。

Anthropic 公佈的部分評測分數
評測Fable 5.2Fable 5.1Opus 5.5
Chartography(無工具)73.4%44.8%64.4%
FrontierCode 2.049.1%(Xhigh)32.4%(Xhigh)45.5%
AutomationBench51.4%31.4%42.5%

一次只橫向比較同一項測試

Anthropic 通常使用最高可用推理設定報告結果,另有說明時除外。先讀同一行的腳註,再判斷推理和工具條件是否一致。標為 Mythos 的結果只對應其註明條件下的 Mythos。

用 Chartography 選擇視覺證據試驗

該任務測試不使用工具的圖表識別。團隊可以試驗模型是否準確讀出報表的單位、類別和日期。按證據準確性評分,讀不清時正確表示不確定也應記錄。圖表分數不能替代構圖與品牌判斷。

用 FrontierCode 選擇程式碼任務

這一評測涉及軟體倉庫修改。設計團隊若向工程師交付原型,可選擇一個有版本輸入和自動檢查的代表性修復。對每個模型使用相同稽核流程,記錄補丁是否符合實際驗收要求。

用 AutomationBench 思考交接流程

把一個重複交接變成有已知答案的小試驗,例如將核准素材對應到通路和尺寸。記錄模型是否選對素材,以及在建議匯出前是否發現缺少尺寸。

保留可複核的試驗結果

每個案例設定 ID、預期事實和透過條件,記錄推理設定、實際工具、費用及人工修改。按可採用的交付物決策。進入製作環節後,把參考資料與接受的發現放在同一畫布。

保留其他人能複核的試驗記錄

一條有用的記錄應包括資料包 ID、問題、預期事實、模型、設定、發現、修正和最終結論。例如核對圖表時,預期事實可以是座標軸單位,而不是“分析得不錯”這樣的印象。

標籤看不清、模型要求補充更清晰的資料時,應記為未解決。無依據的猜測即使碰巧答對,也應算失敗。這樣才能判斷:當團隊事先不知道答案時,審查結果是否仍然可信。

常見問題

這張表是獨立評測嗎?

不是。分數來自 Anthropic 釋出報告,應結合其方法說明和自己的任務試驗閱讀。

應該只看一個總分嗎?

應選擇與任務匹配的評測。判斷設計校樣是否可用,具體的創意驗收比一個綜合分更有幫助。

把試驗依據放在同一畫布

保留原始圖表與截圖,並把接受的發現放在可由團隊核對的依據旁。