深度教堂

  • 榜单数据10-16 17:00
  • 论文数据10-16 13:30
  • 周报10-17 11:22

待提升项:从学习材料到 OpenAI / Anthropic 竞争力

未发布阅读约 14 分钟人工撰写已核查审核人 ai-fact-check

前沿研究与工程

本讲迁移自原课程讲义,经 AI 事实核查未发现存疑项,未逐页人工审核;如有出入,以原始论文和 CS285 课程资料为准。

第 23 讲前沿研究与工程前沿研究与工程(Offer Track)

这不是新的知识清单,而是一份公开证据导向的 gap assessment 模板:区分可公开审计的资产、toy-scale 证据与必须通过真实训练、公开复现和独立研究补齐的部分。

0. 声明、核验日期与判定口径

不承诺 Offer

完成本材料和后续项目可以提升岗位竞争力,但不能保证获得 OpenAI、Anthropic 或任何机构的 offer。团队需求、岗位级别、签证、地点、面试表现和公开岗位标准都会变化。岗位入口最后核验:2026-10-17;申请时必须重新查看 OpenAI Careers[1] 与 Anthropic Careers[2]。

判定对象

本章只讨论公开可访问的材料与项目证据,不是对任何个人经历的断言。没有公开 artifact 或真实运行记录,就不能对外标成“已完成”;NOT RUN 配方也不能折算为系统经验。

状态含义不能偷换成
已完成仓库有可定位的正文、代码、日志、报告或已执行结果已达到 frontier 规模或招聘通过线
尚未完成目标和验收已定义,但缺少足够产物只差“整理一下”
NOT RUN配置/runbook 存在,但真实目标环境未执行已部署、已扩展、已验证性能

1. 完成度与边界:三种证据必须分开

评估时应逐项附公开链接、版本和运行产物;缺少公开证据的项目不在本页替读者判定完成状态。

三层证据

  • 知识掌握: 能推导、解释、批判与设计实验;材料可帮助建立,但面试仍会现场验证。
  • Toy-scale 实验证据: 小规模作业可证明机制实现、测试意识、负结果记录与有限统计;不能证明 7B 训练、分布式吞吐或真实机器人能力。
  • Frontier-scale 证据: 真实模型、真实框架、多机/多卡、独立 eval、故障恢复、公开 artifact 与外部复现。是否达到这一级,只能由公开产物逐项确认。
能力最低公开证据目标层级常见关键缺口
经典 RL 理论公开材料与可运行教学实验面试可推导、能诊断失败限时白板与陌生问题迁移需单独验证
LLM RL 机制可运行 toy RLVR 与报告真实 7B、matched baseline、hidden eval真实 policy update 与公开日志
真实 LLM 训练GPU run、checkpoint、日志与成本端到端 SFT→RLVR 可恢复运行只有配方、没有运行产物
分布式 Infra吞吐、显存、staleness 与故障演练FSDP/verl/vLLM 实测与 profiling只有设计知识与 runbook
Agent / VLM / VLA可重放任务、版本化评测与失败记录真实工具环境、真实 VLM 或标准仿真toy 结果被过度外推
研究统计原始 seed 点与可重算统计层级 CI/IQM、power、grader calibration预算或实验单位不匹配
公开成果公共 repo、release 与技术报告外部复现或真实使用只有未公开材料,外部不可复核

2. 为什么学完材料仍不等于 Offer

招聘通常验证的是能否在不完整信息下独立推进:提出重要问题、把系统做稳、控制规模化成本、建立可信测量,并把结果变成别人可复查的证据。课程更擅长验证“理解已有知识”,两者之间存在五个断层:

  1. 复述 → 独立研究: 能解释 GRPO 不等于能发现新问题、提出机制假设并设计否决实验。
  2. 正确实现 → 强工程: toy 代码通过测试不等于长时间分布式任务能监控、恢复和定位性能瓶颈。
  3. 小样本趋势 → 可信测量: 一条漂亮曲线不等于多 seed、同预算、隐藏集、污染审计与校准 grader。
  4. 未公开完成 → 招聘信号: 未公开材料难以让外部面试官快速验证所有权、复现性、影响力与维护能力。
  5. 配方设计 → 规模经验: 写出 FSDP/vLLM 配置不产生 OOM、吞吐、checkpoint 或恢复经验。
岗位倾向常见核心信号学历/论文应如何表述
Research Scientist(RS)原创问题、研究品味、严谨实验、论文式表达、领域影响PhD/论文常是强信号,部分岗位可能明确要求;但不能笼统写成所有 RS/RE 的统一硬门槛
Research Engineer(RE)训练系统、可靠性、性能、研究协作、快速实验与高质量代码公开岗位要求因团队而异;强系统/开源/规模项目可构成关键证据,仍需逐岗核验

诚实结论

编者判断:学习材料与项目设计可以构成底座,但不能替代录用凭证。通常更关键的缺口是真实规模、原创贡献、公开复现和外部验证。

3. P0:完成一次真实 7B LLM RL 闭环

最短的可信路径是用许可清楚的 7B 级开源模型完成:SFT → rollout → verifier → GRPO/RLVR → hidden evaluation。这不是把 toy 数字放大,而是第一次产生真实的显存、吞吐、训练稳定性和恢复证据。

工作流最低实现必须观测
数据与 SFT版本化 train/dev/hidden;许可、hash、去重;可复现 SFT checkpointtoken 分布、污染检查、训练/验证 loss、基线能力
RolloutvLLM 生成;记录 prompt、response、logprob、policy versiontokens/s、有效样本率、长度、拒绝/超时、staleness
Verifier可单测的确定性 verifier;与 hidden evaluator 分离误报/漏报、对抗样例、版本、grader 校准
GRPO / RLVRverl + FSDP;KL、clip、advantage、checkpointreward、hidden pass@1、KL、熵、梯度、崩溃与恢复
对照与统计SFT、rejection/Best-of-N、RLVR;同总 GPU-hours 或 rollout tokens3+ 独立训练 seeds、CI、成本前沿、负结果

公开证据要求

只有缩放原型、设计说明或 NOT RUN 配方时,不能写成 7B RL 经验。必须提供真实 GPU 运行的公开日志、配置、checkpoint 与成本记录,才能改变状态。

完成定义(Definition of Done)

  • 固定 model/tokenizer、verl/vLLM/FSDP 及 CUDA/driver commit;至少一次从零可重放端到端 run。
  • 三条以上独立 seed 研究 run;debug/pilot 不混入;hidden set 在冻结配置后一次性解封。
  • SFT、search/rejection 与 GRPO/RLVR 在同算力或同 rollout-token 视图下比较,并报告两种视图的差异。
  • 保存 checkpoint、解析后 config、原始 event logs、数据 manifest、verifier tests 和失败 run。
  • 至少演练一次 worker/OOM/中断后的 checkpoint recovery;说明是否重复/丢失样本与 optimizer state。
  • 结果即使未胜 SFT,也能给出有区分力的失败诊断;禁止只发布最好 seed。

验收标准

第三方能从公开 README 复现一个 smoke run、验证主表由原始日志生成,并看清 GPU-hours、峰值显存、rollout/learner 吞吐、3+ seed 效应区间、hidden eval 与恢复演练。没有这些,状态仍是“进行中”或 NOT RUN。

4. P0:把一个方向做成原创旗舰研究项目

从 Agentic / VLM / VLA / Reward-Eval 四选一,不应同时开四条主线。选择依据是可获得的算力、数据、环境和导师/合作者,而不是热度。一个旗舰项目至少经历:

  1. 新问题: 现有工作在明确场景下有什么未被测量或解释的失败?
  2. 机制假设: 为何失败,方法改动预计改变哪个中间变量?
  3. 可证伪实验: 什么观察会否定假设;设置负控制与替代解释。
  4. 强 baseline: 复现并合理调优 SFT/search/offline/RL 等最近邻;预算匹配。
  5. 外部有效性: 跨任务、规模、模型或域;明确不能外推之处。
  6. 负结果: 发布失败 cells、崩溃、无效消融和不合算成本,而非事后换指标。
候选方向(不是承诺)可证伪核心问题最低区分实验
Agentic按失败类型分解的 process feedback 是否真的改善长程恢复,而非增加工具调用?同调用/时间预算,terminal vs process;隐藏故障注入;成本与成功率联合报告
VLMevidence-aware reward 是否提升真实视觉依赖,而非语言先验命中?去图/换图/遮挡/冲突反事实;答案与 grounding 双 hidden 指标
VLA不确定性感知的 DAgger 查询是否在固定专家分钟下改善 OOD 恢复?同 expert budget;布局/动力学 OOD;碰撞、干预和成功率
Reward-Evalverifier ensemble/calibration 能否预测并抑制 reward hacking?预注册攻击集、独立人工审计、校准曲线、强/弱 verifier 对照

从“作业”升级为“可发表研究”的门槛

复现已知现象只能证明执行力。研究贡献需要清晰的新知识增量:新测量揭示此前看不见的失败,或新机制在强 baseline、匹配预算和外部切片上经受否决。论文式结果可以是严谨负结果,但不能只是换数据集跑同一算法。

5. P0:建立公开、可复现、可引用的证据

未公开的作业与项目报告即使有学习价值,也不足以提供公共时间线、外部 issue/PR、独立复现、release、引用或真实规模所有权。应把旗舰工作整理成一个可独立审阅的公共代码仓库:

  • README:问题、主张、结果边界、最短复现命令、成本与硬件。
  • Dockerfile/镜像 digest 或精确 environment lock;CUDA、driver、框架 commit。
  • CI:schema、verifier、tiny overfit、checkpoint load、deterministic smoke。
  • checkpoint index + hash;模型许可;无法公开的权重说明获取方式。
  • 原始日志和从日志生成图表的脚本;不能只有截图/手抄表格。
  • 数据 manifest:来源、许可、hash、过滤、去重、split 与 contamination audit。
  • 隐藏 eval 协议:访问、解封、提交日志与 evaluator 版本。
  • MODEL_CARD、safety/eval 限制、已知失败、资源与碳/成本说明。
  • 论文式技术报告:问题—假设—方法—实验—负结果—限制;固定版本 release/DOI 更佳。
招聘证据强度例子为什么
强公共 repo + 真实规模多 seed + 原始 artifact + 技术报告 + 外部复现/使用同时显示所有权、规模、严谨性、沟通与外部验证
中完整公开 toy/小模型项目,有测试、负结果、报告,但无规模/外部复现能证明方法与工程习惯,外推受限
弱课程证书、教程复述、截图、NOT RUN 配置、只报最好曲线难验证独立贡献、稳定性和结论可信度

6. P0/P1:分布式系统与研究统计要用重跑补证

RE · P0/P1

分布式训练与可靠性

  • FSDP sharding、mixed precision、通信/计算重叠。
  • 了解 Megatron tensor/pipeline parallel 的适用边界。
  • async rollout 的 policy version、staleness、backpressure 与丢重。
  • PyTorch profiler/Nsight:GPU 利用率、通信、dataloader、vLLM KV cache。
  • 原子 checkpoint、optimizer/RNG/dataloader state、故障恢复与数据 exactly/at-least-once 语义。

RS · P0/P1

测量、统计与有效性

  • 3+ 独立训练 seeds;按 seed 聚合或层级 bootstrap。
  • bootstrap CI、IQM、performance profile、effect size 与 power。
  • 同数据/算力/rollout token/调参预算的 baseline。
  • 时间切分、近邻/模板/canary 的 contamination audit。
  • 人评与 LLM grader 的顺序、长度、注入、混淆矩阵及人工 calibration。

小规模作业的边界。 CPU toy 与少量 seed 结果即使真实,也只能作为 pilot 和测试资产;若区间未按 seed→task 层级重采样,或模型、数据与调参预算不足,就不能回答真实 LLM/VLM/VLA 的外部有效性。

需要重跑/新增原因验收
真实 7B SFT/RLVR若仅有 toy 规模结果或 NOT RUN 配方,则须重跑真实训练3+ seed、hidden、同预算、原始系统日志
HW8/Reward-Eval 机制弱 verifier 现象需跨真实模型与攻击集grader 校准、人工审计、污染检查
HW9 Agent有限状态环境过于封闭版本化真实任务、隐藏故障、成本/安全 matched
HW10 VLM合成图像不能代表真实视觉推理真实 VLM、多数据域、反事实与 grounding
HW11 VLA8×8 导航不等于操控LIBERO/ManiSkill 多 seed;真机结论继续禁止,除非真机执行

7. Research Scientist 与 Research Engineer:共通底座后分叉

维度Research Scientist(RS)Research Engineer(RE)
必备问题选择、文献定位、可证伪假设、严谨统计、论文式论证高质量 PyTorch、分布式训练、profiling、可靠性、实验平台与调试
加分一作/主导研究、跨域复现、独立新测量、清晰 research agenda大规模开源贡献、显著吞吐/稳定性改进、复杂 incident 复盘
代表作品旗舰论文/技术报告 + artifact,包含强 baseline、负结果与外部有效性真实训练系统 + benchmark + recovery demo + 可维护 repo;并支持一个研究结论
常见面试准备论文批判、研究 proposal、实验设计、统计、白板推导Python/PyTorch live coding、系统设计、性能/故障诊断、训练机制
风险只懂方法名但没有独立问题与可信证据只会搭框架但无法解释算法、测量和研究取舍

共通底座

两条路线都需要 RL/后训练机制、可靠 coding、数据/eval hygiene、清晰沟通、证据边界和至少一个端到端真实项目。区别是主导贡献落在“产生新知识”还是“让研究在规模下可靠发生”。

如何选择

  1. 回看过去最强的两项证据:更像原创问题/论文,还是系统/性能/可靠性?按已有复利选主轨。
  2. 做一个月双样本:写一份 3 页 proposal,同时实现并 profile 7B mini-RLVR;比较质量、速度和投入意愿。
  3. 主轨投入约 70%,副轨 30% 补共通底座;不要用“都准备”回避作品定位。
  4. 逐条阅读实际岗位描述后再映射简历;同名 RS/RE 在不同团队可能差异很大。

8. 6–12 个月执行路线:每阶段必须留下证据

月份共同/RS 主线RE 对应主线可交付证据与退出条件
1–2真实 7B mini-RLVR:SFT→rollout→verifier→GRPOverl/vLLM/FSDP 接通;profiling、checkpoint/recovery公共 smoke;至少一条完整 run;系统指标齐全;否则不进入方法比较
3–4Reward/Eval:hidden split、污染审计、grader calibration、攻击集版本化 evaluator service、CI、数据 lineage、可重放 eval3+ seed matched baseline;hidden 一次解封;主表可从日志重建
5–7四选一 flagship;冻结假设、否决条件、主指标并完成主实验async rollout、staleness/吞吐实验、故障注入;支撑同一研究 claim强 baseline、机制实验、负结果、技术报告初稿;若无新知识则收窄问题
8–9VLM/VLA 外部有效性切片;仅在资源适配时执行多模态 data pipeline/仿真集群;延迟、恢复、安全与成本真实 VLM 或标准仿真 benchmark 多 seed;不得把仿真写成真机
10–12论文/技术报告、开源 release、rebuttal、研究面试性能报告、维护文档、公开 issue/PR、系统面试可引用 release;外部复现/同伴审计;10 分钟项目叙事与模拟面试通过

6 个月压缩版

只做 1–2 月、3–4 月和 5–6 月的单一 flagship,不额外开 VLM/VLA 支线。退出条件不是日历到点,而是 artifact 可审计;资源不足时缩小模型/问题,但必须诚实改写 claim。

每月固定节奏

  • 月初:冻结一个可否决目标、预算与退出条件。
  • 每周:保留 run ledger、失败、成本和下一实验理由;不凭最佳曲线改计划。
  • 月末:发布可运行 milestone、负结果和 gap;请外部读者按 README 复现。
  • 连续两月没有可交付 artifact:停止扩题,缩小范围并优先完成端到端链路。

9. 面试与申请:把证据压缩成可验证叙事

准备项训练方法通过标准
Python/PyTorch live coding实现 GAE/GRPO loss、mask、采样、bootstrap;补测试和数值稳定限时完成、解释复杂度、主动覆盖 edge cases
系统设计白板设计 rollout/learner、版本、队列、checkpoint、恢复、监控和成本能量化瓶颈并说明一致性/新鲜度取舍
论文批判20 分钟拆 claim、assumption、baseline、替代解释、下一实验不只摘要;能指出最小否决实验
研究 proposal3 页问题、机制、实验矩阵、预算、风险、退出条件范围可执行,负结果仍产生知识
白板推导PG/GAE/PPO/KL/DPO/GRPO 与偏差方差;边推边说明假设符号一致,知道保证何时失效
项目 10 分钟叙事问题 1 分钟、取舍 2、系统 2、证据 3、失败/下一步 2每个数字可追溯;能诚实回答“你亲自做了什么”
  • 简历: 每条写所有权、规模、基线、效应区间、成本/性能与 artifact 链接;不把 NOT RUN 写成经验。
  • 技术博客: 优先写一次失败诊断、一次系统 trade-off、一次 eval 泄漏/校准,而非泛化教程。
  • 开源维护: 响应 issue、审查 PR、稳定 release、迁移依赖;维护轨迹比一次代码 dump 更可信。

不编造内部标准

以上是公开岗位信息可映射的通用准备,不代表 OpenAI/Anthropic 内部流程、题库或评分线。以申请当日的 OpenAI Careers[1]、Anthropic Careers[2] 及具体职位描述为准。

10. 不要再继续堆什么:停止低边际收益

暂停继续堆叠原因把时间转向
00–12 更多经典算法摘要主干覆盖已足够;新增摘要不补规模或原创证据限时推导、失败诊断、真实项目
更多 “*PO” 名词比较缩写记忆不证明训练能力;实现差异常由预算/系统主导一个真实 GRPO/RLVR 闭环和 matched baseline
更多 MuJoCo 教学作业会继续积累同一层级证据7B、真实工具环境、标准 VLM/VLA benchmark
更多媒体观点与趋势摘录二手观点不能替代原创问题和实验论文复现、负控制、公开技术报告
更多 NOT RUN 配方设计数量不等于执行经验跑通一个配置,公开日志、故障与成本

资源分配原则

未来新增内容应回答至少一个问题:是否产生了真实规模证据、原创知识、公开复现或外部验证?四项都没有,就不应成为 P0。

11. 最终 Readiness Checklist:只按公开证据勾选

勾选前必须附可访问链接、版本与产物;没有公开证据就保持未勾选。这份清单不表示达到任何公司的录用线。

  • 原创 flagship:新问题、强 baseline、可证伪机制与外部有效性
  • 真实研究 run 的 3+ 独立 seeds、层级 bootstrap CI/IQM 与同预算对照
  • 治理完善的 hidden eval、contamination audit 与 grader calibration
  • 可独立复现的公共代码仓库、锁定环境、CI、checkpoint、原始日志和数据 manifest
  • 论文式公开技术报告/release 与外部复现或真实使用
  • 系统性能证据:吞吐、显存、staleness、profiling、checkpoint/recovery
  • Safety/eval:攻击集、人工校准、失败切片、成本与回滚证据
  • 真实 7B SFT→rollout→verifier→GRPO/RLVR 端到端训练
  • 标准 VLM/VLA 基准或真机结果;仿真与真机证据严格分开

下一步只做一件事

从第 3 节的真实 7B mini-RLVR 开始。它同时暴露 infra、统计、eval 和公开复现缺口,是把当前“知识 + toy 证据”推进到更强招聘信号的最短主链。

参考来源

  1. [1]Careers(在新窗口打开)OpenAI · 访问于 2026-10-17↩
  2. [2]Careers(在新窗口打开)Anthropic · 访问于 2026-10-17↩
  3. [3]CS 285: Deep Reinforcement Learning(UC Berkeley)(在新窗口打开)UC Berkeley · 访问于 2026-10-17