English · 简体中文
⚠️ 更正(2026-10-02,另一项):防御轴的一案 A-d511f9e8 在所有车道上改记 NA(考场判的不是考生交付的文件,判分还要求了题面没写的事)。分母不变,过案数不变,每条道的总分都带'。本仓各期成绩表里这一格请按 NA 读,其余内容保留原样,以更正声明为准。
⚠️ 更正(2026-10-02):以下考卷在作答时越出考卷、接触了判分材料,不计胜负。deepseek-flash (GA) @ DeepSeek 官方 有 1 张卷(A-a5608487)改记 NA,成绩 17/24 → 16'/24;deepseek-v4.1-flash-exp(预览,冻结道)@ DeepSeek 官方 有 1 张卷(A-a5608487)改记 NA,成绩 14/23∅ → 13'/23∅。原因是考场隔离缺陷,责任在我们。本页其余内容保留原样,以更正声明为准。
2026-10-07 更新:A-cdc3d11a(审查):某个审查案上,判分器把一条格式正确的发现里的每个小点都当成一条未经证实的独立断言,又把答案清单之外的真实缺陷当成误报,所以一份正确、格式规范的审查报告也到不了及格线;该案在所有车道上挂起,分母不变,待判分器和考场修好、重新补考后再定。本车道(deepseek-flash (GA) @ DeepSeek 官方)这一格改记 NA(挂起),不记负;该案由负改记 NA 的车道共 27 条,没有重新考试,也不对任何模型的能力下结论。过案数不变(榜上 16'/24);负案 6→5,NA 2→3;审查轴 1/2 不变、另有 1 个 NA。2026-W37 期文的 Full matrix 里 GA 列该格已照此改记,其余各列和图表未动。见规范仓 2026-10-07 的更正(A-cdc3d11a)。
用私有题库 AMBER 实测 DeepSeek 官方 API(api.deepseek.com)在售模型(正代、预览版、不同推理档位),只公开结果,不公开题目。
| 大类 | 轴 | 考什么 | deepseek-flash (GA) · W37 |
|---|---|---|---|
| 施工面 | 编码 | 照着需求把功能写对 | 5/6 |
| 交付 | 做完还得交得出东西 | 3/3 | |
| 运维 | 照规程干脏活 | 5/6 · 1 NA | |
| 需求 | 客户要 A 不要 B | 1/1 | |
| 收敛 | 真干完,不绕圈装忙 | 1/1 | |
| 判断面 | UI | 照设计稿做页面 | 0/1 |
| 视觉 | 给真截图挑毛病 | 0/1 | |
| 防御 | 堵死校验器的漏网口 | 0/2 · 1 NA | |
| 归因 | 毛病对到正确根因 | 0/1 | |
| 审查 | 给别人的交付物挑错 | 1/2 · 1 NA | |
| 合计 | 16'/24 |
每格 = 过了几案/该轴共几案(案 = 一道计分题)。NA = 这一案作废或暂停计分,不算过也不算没过;总分带 ' 表示其中有 NA。多数轴只有 1–2 案,差一案读数就变,所以别把小差距当结论。各列考试周次相同(W37),具体日期可能不同,数字是当期快照。
-
「道」= 同一个模型名在不同家的卖场/接口;「案」= 一道题,「卷」= 一场考试记录(一案多卷 = 一道题的几个变体场次)。
-
每期一篇
results/YYYY-Www.md:同题、同 harness(跑考试并记分的程序),对目标模型跑全库;同家族跨版本/跨 provider 并排。 -
一期固定报告:题集规模与哈希、每案找茬分(d2 分,我们的打分,算法不公开)与通过/失败、终端终态(程序跑完时的退出状态)、token 用量(若车道上报)与时延、环境指纹、按证据纪律写的定性裁决。
-
题目、oracle(判分器)、transcript(答题全过程记录)、中间产物永不公开(见下「发布纪律」)。
-
姐妹仓:amber-gpt(GPT 系周测)、amber-crof(CrofAI 周测)、amber-ollama(Ollama Cloud 周测)、amber-devin(Devin 周测)、amber-opencode(OpenCode Go 道)、amber-commandcode(CommandCode 道)、amber-workbuddy(WorkBuddy ACP 道)、amber-doubao、amber-goldenpotato、amber-kimi、amber-stepfun。同一个 deepseek-v4 家族在 CrofAI/Ollama 三方道的成绩见对应仓库;同名模型跨厂商对拍(官方道 / OpenCode Go / CommandCode——同名不一定是同一端点)见后两仓。本仓的对照轴是官方道跨版本,跨仓引用一律带日期与档位声明。
-
AMBER 是 agentic 实战题库(施工/运维/审查/视觉/需求漂移——题中要求中途变化),规范与制题工具见 getaskclaw/amber;考题本体私有。
同一个 v4.1 脑,GA 当日(2026-09-10)同 high 档、同 23 案同哈希,三条道并排:CommandCode 17 / DeepSeek 官方 16 / OpenCode Go 16;灰色的官方预览版(已下线)14 作对照。逐案矩阵、token 账单与退步面都在 2026-W37 期文。图源与 PNG 同目录(docs/images/,Vega-Lite)。补记 2026-09-13:同脑另两条道已发布——Ollama 道 17/23(09-11)、WorkBuddy ACP 道 15/23(09-12),见 amber-ollama / amber-workbuddy。
- 只发:分数与聚合、token 用量(若车道上报)、速度、定性裁决。
- 永不发:题目内容、oracle/判分器、transcript、考生工作区、任何能复原题面的中间产物。
- 每期必钉:模型 ID、effort 档(思考力度档位)、日期(UTC)、harness 版本、每案内容哈希(bundle_sha,每题内容的哈希指纹)。哈希用于对照 amber 的公开哈希清单,自证题集未变。
- 案号与题目结构属私有面:公开结果里案例只用稳定别名(A-xxxxxxxx,哈希派生)+ bundle 哈希作句柄;内部案号、变体名、题目描述永不出现。
- 基调:这是社区实测,不是对厂商的攻击。数据说话,措辞克制。
同名模型、同 provider,两次跑也可能不同分——推理参数、负载、服务端版本都在漂。预览/实验版模型还有生命周期风险(可能随时下线)。所以这里的一切结论都带日期与档位,且定期重测。单日数字是快照,不是定律。
- 案面画像(2026-W37 Full matrix,正代 deepseek-flash GA 当日全库单期,按 face 聚合):运维 6/6、文本 3/3、施工 5/6 为强项;核验 0/3、视觉 0/1、UI 搭建 0/1 仍挂。逐案矩阵见 2026-W37 期文。

| 期 | 考生 | 成绩(23 案 / 公共子集 21) | 一句话 |
|---|---|---|---|
| 2026-W37 | deepseek-flash(正代,GA 当日) | 16/23(14/21) | 白卷病与干净审查退步均修复;三道同分带;欠考清单销账;input 0.75M 家族最低带;审查/视觉/UI 三面仍挂 |
| 2026-W37 | deepseek-v4.1-flash-expires-on-0910(预览,已下线) | 14/23(12/21) | 计分卷零废卷;input≈0731 三方道的 1/30;施工/OPS 强;视觉案误判翻案补考(详期文 Errata/Addenda) |
| 2026-W38 更正特刊 | W38 全库复核:本仓改判 0 格 · 挂起 6 格 | W37 预览版 4 格 + GA 2 格挂起;预览版已下线,该 4 格只能走改判 |
与 DeepSeek(深度求索)无任何隶属/赞助关系。分数是特定周、特定档位的快照,不构成采购建议。

