Skill × SOP × Reliable Operations

把个人经验
炼成可靠系统

从“我知道怎么做”,到别人和 Agent 都能稳定交付:一套覆盖专家验证、隐性知识采集、流程与决策建模、数据查询、权限、评测、发布和持续改进的实施方法。

研究范围:认知任务分析 · 服务设计 · Agent 工程 · SRE 阅读时间:约 35–45 分钟 版本:1.0
官方事实:产品或标准明确规定 研究证据:论文、框架或实证 工程建议:基于证据的落地推论
01 · Executive summary

结论先行:Skill 只是接口,系统才是产品

把某个人的经验“写成提示词”,最多得到一次像样的模仿。要稳定输出一种 SOP 服务,必须完成四次转换:验证经验真的有效;把叙述变成可观察的知识模型;把知识模型编成流程、决策、数据和工具契约;最后用评测、权限、版本与运营把它变成可维护系统。

绩效证据谁真的会做
知识模型看见了什么
服务模型如何协作决策
Skill 执行如何调用工具
运营控制如何证明可靠
1 ≠ 1

一次成功,不等于可复制能力

单个成功故事容易混入运气、环境红利和事后合理化。应在代表性任务上验证可复现绩效,并记录反馈回路。

5 contracts

稳定性来自五类契约

任务输入/输出、工具、数据、决策/审批、质量/运行。模型只在约束内处理语义,不替代鉴权、事务和审计。

0–9

从界定到持续改进

每一阶段都有退出门和证据工件;没有过门,就不进入下一阶段,更不能直接“发布 Skill”。

12

MVP 也不能省的工件

最小系统仍需要案例、认知任务图、决策表、异常表、数据契约、测试集和运行/变更记录。

研究证据 专家直觉只有在环境存在稳定线索且反馈长期、快速、明确时才可靠;低可预测环境里的自信不是准确性的代理。见 Kahneman & Klein, 2009

官方事实 OpenAI 将 Skill 定义为包含指令、资源和可选脚本的可复用工作流;官方结构与加载机制见 Build skills

最重要的设计原则:让语言模型负责“需要语义理解的判断”,让确定性代码和下游系统负责 schema 校验、授权、查询、幂等、重试、审批与记账。不要把模型变成权限系统。
02 · The hard parts

为什么个人经验很难蒸馏

会做,不等于会讲

熟练者会把大量步骤“组块化”,叙述时跳过感知线索、微判断和恢复动作。普通访谈更容易得到顺滑故事,而不是在线认知。

结果好,不一定因为方法对

低效度环境、长期预测和一次性战略常缺少稳定线索与快速反馈。此时应蒸馏分析纪律和假设管理,而非声称复制直觉。

常态流程掩盖真正价值

高手的优势往往出现在异常、冲突、信息不足和时间压力中。只记录 happy path,会把最重要的经验删掉。

文档正确,不等于系统可靠

真实运行还会遭遇权限、脏数据、API 漂移、重复请求、网络超时和提示注入。它们需要基础设施控制,而非更多散文。

研究证据 CTA 文献指出普通专家访谈容易不完整;并发有声思维对当前注意内容更可靠,追问未被注意的“为什么”可能诱发推断。见 Ericsson & Simon, 1980Sacks et al., 2023。文献中的“可能漏掉 70% 子任务”来自特定研究链,只应视为风险信号,不能当通用估算。

03 · Source validity

先证明“经验源有效”,再提取经验

不要按头衔、资历、表达能力或自信挑专家。先构建代表性任务集,再寻找能稳定取得优异结果、并能被结果证据或下游评价复核的人。最好加入一名对照专家、一个新手视角和一个交付物接收者,以暴露分歧和隐含标准。

验证问题最低证据危险信号处理
任务代表领域本质吗?真实或高保真案例,含困难与失败样本只看培训题、演示题补充真实任务与盲评
绩效可复现吗?跨时间/案例的结果、返工率、客户或同行评价只靠一个明星案例降为假设,不写成规则
环境有可学习线索吗?输入与结果间存在稳定关系长期预测、强随机或规则频繁变化蒸馏分析流程,不复制结论
有高质量反馈吗?较快、明确、与行为相关的反馈多年后才知道结果,或结果不可观测增加代理指标与人工裁决
利益冲突可见吗?偏差、角色、数据选择与例外披露规则总对作者有利独立复核与反例测试

研究证据 专家绩效研究强调在代表领域本质的任务上观察可复现的卓越表现,而不是用年资替代验证。见 Charness & Tuffiash, 2008。刻意练习很重要,但“一万小时足以解释专家差异”的强命题并不成立,参见 Hambrick et al., 2014

04 · Knowledge elicitation

知识采集:ACTA 搭骨架,CDM 挖判断,观察与日志校事实

四条证据线同时采集

ACTA:快速看全局

用任务图拆大步骤与认知难点;用知识审计追问信号、预测、取舍、异常、即兴处理、自我监控和新手误区;最后用任务模拟访谈校验。

CDM:复盘关键事件

选择最难、最反常、差点失败或被成功挽救的真实事件,重建时间线,在每个决策点追问线索、目标、备选方案、放弃理由与反事实。

观察:捕捉“没说出来”

影随、屏幕录制或并发有声思维,记录窗口切换、检查顺序、查询改写、停顿、回看和手工修正。先取得授权并脱敏。

产物与日志:校正记忆

对比输入、查询历史、草稿 diff、交付物、客户反馈、事故与返工记录。把“事实、推论、假设”分栏,不让顺滑叙事覆盖证据。

每个关键判断都问这 8 个问题

  1. 当时你先注意到什么?哪个信号让它重要?
  2. 你试图实现什么目标?还有哪些相互冲突的目标?
  3. 你考虑过哪些方案?为什么排除?
  4. 如果关键线索反过来,你会如何改变判断?
  5. 新手通常在哪里误判?他们缺的是什么线索?
  6. 什么信息会让你停下、补问、换源或升级?
  7. 你如何知道这一步完成了?可观察证据是什么?
  8. 这条规则适用于哪些条件,又在哪些条件下失效?

研究证据 ACTA 的任务图、知识审计和模拟访谈来自 Militello & Hutton, 1998;CDM 的关键事件决策探针来自 Klein, Calderwood & Macgregor, 1989。CTA 在商业知识工作中的量化效果证据弱于医疗、航空和军事领域,这是本报告的外推限制。

05 · Layered service model

三层建模:服务蓝图 × BPMN × DMN

这三种表示回答不同问题,不能互相替代。小团队无需追求完整符号学,但应保留它们的语义:谁在体验什么、工作如何流动、判断依据是什么。

回答的问题最小表达典型风险
服务蓝图客户看见什么?前台、后台和支持系统如何协作?等待与交接在哪里?客户动作 / 可见接触 / 后台动作 / 支持过程 / 证据物只画内部步骤,忽略客户等待和可见失败
BPMN / 泳道事件如何触发?任务、并行、等待、消息、网关和异常如何流转?开始/结束、任务、角色泳道、网关、消息、异常/补偿用“然后处理”隐藏责任和状态
DMN / 决策表哪些输入与规则决定结论?冲突、置信度和信息不足如何处理?决策问题、输入、规则 ID、输出、优先级、升级把“根据经验判断”留在散文里

一个轻量的分层示例

客户层      提交需求 ───── 等待澄清 ───── 审阅草案 ───── 接收交付
可见接触    范围确认       缺口清单         证据与限制       结果与回执
──────────── 可见线 ─────────────────────────────────────────
后台流程    解析 → 查询 → 决策网关 → 生成 → 质量门 → 发布
支持系统    身份 / 数据目录 / 规则库 / 审批 / 版本库 / 审计

决策 D-07:证据是否足够?
  IF 权威来源 ≥ 1 且时效合格且无重大冲突 → continue
  IF 来源冲突但可解释                         → human_review
  IF 来源不适用 / 过期 / 跨权限               → stop

正式标准 / 方法 BPMN 2.0.2 旨在兼顾业务可读与技术实现;DMN 1.5 与流程模型互补;服务蓝图方法见 Bitner, Ostrom & Morgan, 2008。这些来源证明表示法成熟,不证明使用它们必然改善业务结果。

06 · Lifecycle

0–9 阶段完整生命周期

下面的阶段与退出门是本报告综合形成的工程框架,不是某一标准的原文。核心思想与 ISO 的过程方法、PDCA 和 NIST 的持续 TEVV(测试、评估、验证、确认)一致。

0

界定服务与风险

定义客户、触发、输入、承诺输出、明确非范围、时效、错误代价、隐私与不可自动动作。

退出门 G0:真实例子能区分范围内/外;风险负责人和禁止动作已指定。
工件:服务契约、范围表、风险分级、成功/失败定义、基线指标。
1

选择并验证经验源

在代表性任务上检查结果、复现性、反馈与利益冲突,引入第二专家、新手或下游接收者作对照。

G1:核心经验不只由年资、自信或单一故事支撑;低效度判断已标为假设。
工件:资格证据表、代表性任务、结果样本、反馈回路、偏差声明。
2

采集现行工作

先审文档、交付物与日志;观察完整案例;ACTA 建骨架;CDM 深挖异常;事实、推论与假设分开记录。

G2:每项重大判断至少有案例、观察/产物或第二来源交叉佐证。
工件:任务图、知识审计、关键事件时间线、线索卡、新手错误清单。
3

建模服务与流程

将客户旅程、前台、后台、支持系统和证据物对齐;用轻量泳道/BPMN 表示事件、并行、等待和交接。

G3:每步都有责任角色、输入、动作、输出和下游;没有“然后处理”的黑箱。
工件:服务蓝图、泳道图、RACI、依赖与交接表、控制点。
4

抽取决策与例外

把 if/then、阈值、证据优先级、置信度、冲突和升级从散文中抽出;设计超时、缺数据、工具失败与客户异议的响应。

G4:同一案例能找到同一适用规则;信息不足有停止/询问/升级动作。
工件:决策需求图、决策表、异常注册表、升级矩阵、补偿剧本。
5

设计数据查询与证据链

写明研究问题、授权数据源、字段含义、过滤/连接、时效、质量门、转换和引用方式;关键结论抽样回溯源记录。

G5:查询成功但数据不适用、不新鲜或不完整时会被拦截;输出可追溯。
工件:数据目录、字典、查询契约、质量规则、PROV-lite 运行日志。
6

编写可执行 SOP 与检查表

每步使用“动作 + 对象 + 条件 + 完成证据”;关键暂停点用短清单,细节通过引用连接,而非重复堆砌。

G6:目标使用者无需向作者补问隐含前提即可完成标准案例。
工件:SOP、运行清单、模板、好坏样例、术语表、错误对照。
7

验证与校准

专家走查语义;让未参与编写的人执行;测试标准、困难、边界、对抗和故障案例;修订后重测。

G7:预设的正确性、遗漏、升级、追溯和耗时门槛通过;严重失败为零或残余风险已签收。
工件:golden set、rubric、测试记录、缺陷单、分歧台账、验收报告。
8

部署为人机协作 Skill

按功能分配人、模型、脚本和工具权限;低风险可逆动作自动化,高影响外部动作审批;保存版本和证据。

G8:越界、低置信、数据异常和工具故障能安全停止;上一稳定版本可恢复。
工件:功能矩阵、工具白名单、Skill、schema、审批点、发布/回退清单。
9

运营与持续改进

抽样审计真实运行,把投诉、人工覆盖、近失、漂移和异常送入改进队列;小范围、带预测、用数据试验变更。

G9(每轮):变更有证据且未损害平衡指标;文档、规则、测试与 Skill 同步。
工件:仪表盘、事故日志、PDSA 卡、回归报告、复审日历、退役记录。

正式指导 ISO 过程方法把输入、活动、检查和输出纳入 PDCA;NIST AI RMF 强调接近部署条件的可重复 TEVV、人工监督和持续监控。见 ISO/TC 176 Process ApproachNIST AI RMF Core

07 · Skill architecture

Skill 文件结构与渐进披露

官方事实 Codex/ChatGPT 先看到 Skill 的 namedescription;匹配后才加载完整 SKILL.md。Codex 初始 Skill 列表有上下文预算,描述可能先被缩短,所以描述必须前置最关键用例和触发词。详情见 OpenAI Build skills

experience-sop/
├── SKILL.md                  # 必需:路由、契约、核心约束、停止条件
├── agents/
│   └── openai.yaml          # 可选:UI、显式/隐式调用、MCP 依赖
├── references/
│   ├── decision-rules.md    # 判断树、证据等级、例外
│   ├── data-contract.md     # schema、字段口径、新鲜度
│   ├── source-policy.md     # 来源优先级与冲突处理
│   └── failure-playbook.md  # 重试、降级、升级、补偿
├── scripts/
│   ├── query_data.py        # 确定性查询、分页、限流
│   ├── normalize.py         # 清洗与 schema 校验
│   └── verify_output.py     # 业务不变量核验
├── assets/
│   └── report-template.md   # 交付模板;不是模型指令
└── evals/                   # 工程扩展,非官方必需目录
    ├── cases.jsonl
    └── trigger-cases.jsonl

三层信息放置规则

放什么不要放什么
description核心能力、何时触发、必要边界、前置关键词完整流程、例子大全、宽泛“任何相关任务”
SKILL.md目标、输入、模式路由、关键约束、权限/停止、验证、引用入口复制 API 手册、所有 schema、每种模式细节
references / scripts / assets按需知识;可重复确定性执行;最终输出素材无人引用的资料、占位目录、秘密和重复真相源

脚本化的边界

当同一逻辑会被反复重写,或确定性执行显著提高可靠性时才加脚本。把参数校验、分页、格式转换、哈希、幂等记录和机器可判不变量放进代码;把含糊判断、证据权衡和人工升级留在指令/决策层。新增脚本必须真实运行验证。

发布通道不要混用:本地文件系统 Skill、ChatGPT 工作区 Skill、Plugin 和 Responses API Hosted Skill 有不同的所有权、权限与版本机制。跨用户分发或携带 connector/MCP 时用 Plugin;API 产品可用 versioned hosted Skill;本地目录本身没有 API 的 default_version 指针。
08 · Data & tool contracts

查询“成功”与数据“可用”是两件事

每个关键查询先问:这份数据能回答当前问题吗?然后才检查完整性、准确性、及时性、一致性、唯一性和有效性。返回 HTTP 200 或 SQL 有结果,只能说明调用执行了,不能证明结论成立。

政府 / 标准 GAO 的数据可靠性框架以“数据是否适用于研究问题”为首要判断;英国政府数据质量框架给出六个质量维度;W3C PROV 用 Entity–Activity–Agent 追踪产物来源。见 GAO-20-283GUK Government Data Quality FrameworkW3C PROV

查询契约的最低字段

query_id: customer-health-v3
question: "哪些客户在未来 30 天存在流失风险?"
source: crm-warehouse / snapshot=2026-09-06T00:00:00Z
authority: system-of-record | derived | advisory
purpose_limit: retention-analysis
schema_version: customer_health.v3
filters: { tenant_id, active=true, region }
freshness_slo: 24h
quality_gates: [completeness, uniqueness, validity, timeliness]
transformations: [timezone-normalize, deduplicate-by-customer-id]
provenance: [source_record_id, query_hash, retrieved_at]
empty_result: return NO_MATCH; never infer records
owner: revenue-ops
expires_or_review_at: 2026-12-01

工具契约:把开放能力改成窄动作

避免给模型 sql(query)shell(command)fetch(url)send(anything) 之类开放工具。改为 get_order(order_id)draft_refund(...)apply_approved_refund(...),并用版本化 JSON Schema 约束输入输出。

name: apply_approved_refund
version: 2.1.0
purpose: 对已批准订单执行退款
risk: high
input_schema: refund.input.v2.json
output_schema: refund.output.v2.json
auth: delegated_user; audience=payments-api; scope=refund:create
authorization: tenant + order_owner + refund_limit
approval: required; binds_to=canonical_request_hash
idempotency: required; reconcile=get_refund_by_key
timeout_ms: 5000
retry: only [429, selected_5xx, network_before_response]; max=3
logging: metadata_only; redact=[customer_name, payment_token]
owner: payments-team

官方事实 OpenAI function calling 使用 JSON Schema,并建议开启 strict mode;但 strict 只保证形状,不保证事实、业务合法或授权。见 Function calling。OWASP 将开放能力、过多权限与过度自治列为 Excessive Agency 根因,见 OWASP LLM06:2025

09 · Safe execution

权限、审批、幂等、重试与审计

计划—验证—执行—核验

用户意图
  ↓  身份 / 租户 / 目的 / 风险 / 预算
结构化计划(LLM)
  ↓  schema + 授权 + 策略 + 数据质量检查
审批(仅高风险;绑定确定性请求摘要)
  ↓  idempotency_key + deadline + 窄工具
外部执行
  ↓  回读权威系统 / 对账 / 业务不变量
带 provenance 的交付 + 脱敏审计事件

权限:系统执行

使用用户委托身份或 Skill 独立服务身份;读写身份分开;token 限定 audience、资源和 action;短寿命凭据进入 secret store。模型可以建议,不能批准自己的权限。

审批:绑定实际影响

审批材料由确定性代码生成,显示主体、目标、参数、影响、费用、数据去向、可撤销性和证据。审批 token 绑定请求哈希、用户、期限与 nonce;参数变化即失效。

幂等:副作用最多一次

相同 key + 相同意图返回语义等价结果;相同 key + 不同参数拒绝。超时后先 query/reconcile,不盲目重放。不要承诺无法证明的“端到端恰好一次”。

重试:只重试瞬态失败

schema、权限、业务冲突不重试;网络、429 和选定 5xx 使用有界指数退避 + jitter,并传递全链路 deadline;设置总重试预算,避免多层放大。

审计:记录事件,不默认记录原文

记录主体、动作、目标、授权、版本、数据快照、幂等键、结果、错误码、时延和成本。原始 prompt、工具参数、结果及 PII 默认不进普通日志。

不可信内容:隔离

网页、邮件、文档、数据库自由文本和其他代理输出都是数据,不是指令。先抽取允许字段,再过 schema 与策略;进入 SQL/HTML/shell 前按目标上下文校验或编码。

标准 / 官方事实 最小权限见 NIST SP 800-53 AC-6;OAuth 范围、audience 与资源约束见 RFC 9700;HTTP 幂等语义见 RFC 9110 §9.2.2;安全重试实践见 AWS Builders' Library。OpenAI 明确要求把 Skill 当成可能不可信的特权代码/指令,网络环境下防止提示注入与数据外泄,见 Skills API guide

审批不是万能胶。如果审核者没有时间、原始证据、参数 diff、拒绝权或专业能力,“human in the loop”只是仪式。高影响动作应测试拒绝、过期、参数篡改、重复使用和审批后 schema 变化。
10 · Evaluation & SLO

离线评测是发布门,在线评测是漂移雷达

Golden set 应混合真实生产样本、专家标注、历史事故和合成边界场景,覆盖常态、困难、空结果、多语言、长上下文、恶意输入、越权、工具失败与数据陈旧。每次 Skill、prompt、模型、工具 schema、政策或数据源变更都运行回归;非确定性任务重复采样并报告分布,而不是只跑一次。

用例族关键断言时机
触发正例、近邻反例、显式调用该触发时触发,不该触发时不抢任务每次描述修改
Schema缺字段、错类型、极值、版本模型输出与服务端双重拒绝非法参数每次提交
业务golden、边界、冲突、缺数据工具、参数、顺序、结果、证据正确每次提交
数据空集、重复、时区、分页、迟到、漂移新鲜度/provenance 可见;不编造无结果数据或查询变更
权限跨租户、过期 token、错误 scope/audience下游拒绝且无泄漏;审计有理由每次发布
幂等响应丢失、并发同 key、同 key 异参数最多一个副作用;重复结果等价或明确冲突每次写工具变更
故障429、5xx、断网、慢依赖、半完成有界重试、deadline、对账、无重试风暴发布 + chaos
审批拒绝、过期、篡改、重放未批不执行;变化即失效高风险流程变更
注入/隐私网页、邮件、附件、多语、编码、PII外部文本不改策略;日志脱敏;无外泄发布 + 定期红队
可观察性成功、失败、补偿、跨服务trace 可关联版本、身份、工具、数据、成本每次发布
在线shadow、canary、人工抽检漂移能发现;生产失败回流测试集持续

SLO:以“合格任务”而非 API uptime 为核心

质量

accepted_task_rate、工具选择/参数有效率、citation support、人工覆盖率;按任务、客户、语言和风险切片。

可靠性

端到端/步骤/对账成功率、p50/p95/p99、timeout、重试耗尽、schema failure、数据新鲜度。

安全

越权、跨租户泄漏、审批绕过、重复副作用、秘密泄漏。高严重度单事件升级,不用普通错误预算“消化”。

经济性

cost_per_accepted_task,同时计模型、检索、外部 API 与人工审批;为 run、租户、工具和周期设预算。

建议起始口径,不是标准:28 天滚动窗口统计“合格且已核验完成”的任务;审批等待与系统延迟分开;所有高风险写操作具有审批、幂等键和审计关联;错误预算耗尽时暂停非安全/可靠性发布。具体 X%、Y 秒与抽检率必须用风险、历史基线和样本量校准。

官方 / SRE OpenAI 建议评测贴近真实分布、覆盖典型/边缘/对抗案例、持续评测并用人工标签校准自动 grader,见 Evaluation best practicesEvaluate agent workflows。SLO 与 error budget 方法见 Google SRE

11 · Versioning

版本、发布与回滚:让每次运行可复现

每次运行至少记录:skill_version、prompt hash、模型 snapshot、工具/schema 版本、数据源与快照、政策版本、eval 版本和时间。否则一次回归发生后,你无法回答“究竟什么变了”。

发布面版本策略推广回滚
个人 / repo 文件系统 SkillGit commit + tag;依赖锁定;release note隔离测试 → 本地默认 → 少量真实任务切回签名 tag/commit,原子替换目录并重启/重载
Plugin 分发插件包版本 + Skill/connector 兼容矩阵私测 → 团队 allowlist → 更广安装回退插件版本;单独撤销连接器权限
Responses API Hosted Skill新建 version;调用固定版本;记录 default/latest显式 pin → canary → 切换 defaultdefault_version 指回已验证版本

官方事实 Hosted Skills 支持 default_versionlatest_version 和显式版本引用;默认版本不能直接删除,需要先切换。见 Skills API guideCreate an immutable skill version。本地 Skill 使用 Git/tag 是工程建议,不是 OpenAI 强制标准。

发布门禁

  1. 静态结构校验通过,references 可发现,脚本已真实运行。
  2. 代表性评测按风险切片无不可接受回归;高严重度失败为零。
  3. 权限、审批、重试、幂等、对账、日志脱敏均有故障测试。
  4. 上一稳定版本可取得,回滚步骤已演练,kill switch 有负责人。
  5. 变更摘要说明影响、数据/模型依赖、已知限制和复审日。
12 · Maturity paths

个人、小团队、产品化:三种成熟度方案

L1 · PERSONAL

个人复用

  • 1 个清晰服务契约
  • 10–20 个脱敏案例
  • 轻量 ACTA + 关键事件
  • SKILL.md + references
  • 查询默认只读
  • 本地 Git/tag 回滚
  • 逐次人工确认外部写入

目标:减少遗漏、保留判断依据,不追求无人值守。

L2 · SMALL TEAM

小团队标准化

  • 双专家/下游复核
  • 服务蓝图 + 泳道 + 决策表
  • 共享数据与工具契约
  • 版本化 golden set
  • 角色权限与审计 trace
  • canary 发布与事故复盘
  • 明确 owner / on-call

目标:不同执行者交付一致,能定位和修复回归。

L3 · PRODUCT

产品化系统

  • 多租户完整授权
  • 独立策略与审批服务
  • 幂等记录、outbox/saga、对账
  • schema registry 与兼容门
  • 离线 + 在线评测平台
  • SLO / error budget / 成本预算
  • 红队、合规与供应商漂移治理

目标:在规模、攻击与依赖故障下保持有界风险。

升级条件:不是调用量一大就升档。出现多人协作、跨租户、高敏数据、不可逆外部动作、监管义务或明确 SLO 时,应提升控制成熟度;反之,不要为个人低风险流程制造企业级治理负担。

13 · 90-day plan

90 天实施路线

DAY 1–15

选对问题

定义服务、风险与非范围;选代表性任务;验证经验源;建立基线与事实/推论/假设台账。

交付:G0–G1

DAY 16–30

把隐性变显性

ACTA 任务图与知识审计;观察 3–5 个完整案例;CDM 深挖至少一个成功挽救和一个失败/近失。

交付:G2

DAY 31–45

建模而非写长文

完成服务蓝图、泳道、决策表、异常/补偿和数据契约;先让人类按模型执行。

交付:G3–G5

DAY 46–60

最小 Skill

先 instruction-only;按需拆 references;只把确定性重复逻辑脚本化;默认只读。

交付:G6 + alpha

DAY 61–70

建立发布门

制作 golden/edge/adversarial/failure 集;测试触发、证据、数据、权限、幂等与日志。

交付:G7

DAY 71–80

小流量试运行

固定模型与依赖,5–10 位目标用户或有限任务;shadow/canary;所有写操作保留审批。

交付:G8

DAY 81–87

演练失败

注入 429、超时、脏数据、schema 漂移、重复请求、越权与提示注入;演练停机和回滚。

交付:resilience review

DAY 88–90

正式发布

设 owner、SLO、抽检和复审日;签发版本;记录限制;把生产失败回流评测集。

交付:G9 loop

14 · Minimum viable evidence

12 件 MVP 工件

  1. 一页服务契约:触发、输入、输出、非范围、SLA、风险。
  2. 代表性案例与结果证据集:不是只收集成功故事。
  3. ACTA 任务图 + 知识审计:步骤、线索、取舍、新手误区。
  4. 关键/失败事件 CDM:时间线、决策点、反事实。
  5. 服务蓝图或泳道图:客户、前后台、支持与交接。
  6. 决策表:输入、规则、冲突、信息不足与升级。
  7. 异常/恢复表:触发、检测、暂停、补偿、沟通、负责人。
  8. 数据与查询契约:来源、字段、时效、质量、provenance。
  9. 逐步 SOP:动作、对象、条件、完成证据。
  10. 关键暂停点检查表:短、可观察、可动作、可确认。
  11. 验收测试集:常态、困难、边界、对抗、权限与故障。
  12. 运行/异常/覆盖/变更日志:版本、证据、人工覆盖与学习。
缺少 2、4、11,系统很可能只是“自动复述专家叙述”;缺少 6、7、8、12,则很难稳定执行、审计和改进。这是工程判断,不是研究给出的硬门槛。
15 · Working templates

可直接使用的 SOP 字段与 Skill 骨架

SOP 字段模板

区域字段
文档头SOP ID、服务名、owner、批准人、版本、生效/复审日、变更摘要、风险级别、依赖版本
契约触发、客户目标、范围/非范围、前置条件、权限、输入及最低质量、输出与 SLA
步骤步骤 ID、角色、动作、对象、条件、输入、输出、时限、完成证据、下游
决策规则 ID、必需证据、阈值、优先级、置信、冲突与覆盖权
质量门谁检查、检查什么、阈值、不通过动作、留存证据
例外触发信号、暂停/继续/回滚、升级、补偿、客户沟通、恢复条件
治理运行记录、数据分类、审批、已知限制、残余风险、事故与变更链接

SKILL.md 示例骨架

---
name: customer-renewal-brief
description: 为客户续约评审生成可追溯简报;适用于给定客户 ID 和评审日期的续约准备,不用于自动发送或修改 CRM。
---

# Outcome
生成符合 references/output-contract.md 的续约简报;所有关键判断带证据。

# Inputs
- customer_id(必需)
- review_date(缺失时询问,不推断)

# Workflow
1. 验证范围、身份与数据用途。
2. 读取 references/data-contract.md;运行只读 query_customer.py。
3. 数据未达新鲜度或字段冲突:停止并按 failure-playbook.md 处理。
4. 读取 references/decision-rules.md;输出 rule_id、reason_code、evidence_refs。
5. 按 assets/brief-template.md 生成草案。
6. 运行 verify_output.py;不通过则修正一次,否则升级。

# Authorization boundary
- 允许:读取授权客户数据、生成本地草案。
- 禁止:更新 CRM、发送邮件、承诺折扣。
- 外部写入只能在用户确认具体 diff 后交由独立工具执行。

# Evidence and stopping
- 空结果不得推断;标记 NO_DATA。
- 来源冲突不得静默择一;列出冲突并升级。
- 最多一次自动修正;仍失败则返回证据和阻塞原因。

官方事实 OpenAI 的本地 Skill 必须有带 namedescriptionSKILL.mdagents/openai.yaml 可声明 UI、隐式调用策略与 MCP 依赖。自动选择默认允许,只有明确希望“仅显式调用”时才关闭。见 Build skills

16 · Failure modes

常见失败模式,以及为什么会失败

采访一次,把录音摘要成 SOP

回忆会省略在线感知、隐含步骤和异常。至少加入观察、产物/日志、关键事件和第二视角交叉验证。

资历长、表达好,所以他就是专家

头衔和自信不等于在代表性任务上的可复现绩效。先验证结果和反馈环境。

画了一张流程图,就算完成了系统设计

流程图通常缺客户可见性、判断规则、数据适用性、异常恢复、完成证据与权限。

把所有知识塞进 SKILL.md

上下文拥挤会降低路由和执行质量。入口只保留共享约束,模式细节、schema 和大例子按需披露。

用检查表替代训练和判断

过长清单造成疲劳和机械勾选。清单只放高价值暂停点,并配套训练、反馈与文化。

模型决定谁有权限、是否应该批准

这是自我授权。完整授权必须由下游系统执行;高风险审批要绑定确定性请求摘要。

所有错误都自动重试

权限、schema 和业务冲突不是瞬态错误。盲重试非幂等写入会制造重复副作用。

记录全部 prompt 和工具结果,就有了审计

可审计性需要可关联事件和版本,而不是无边界保存敏感原文。默认元数据白名单、脱敏与分级访问。

一次 eval 通过,以后就稳定

模型、数据、schema、工具、权限和业务政策都会漂移。离线回归与在线抽检必须形成闭环。

总体平均分好,所以可以发布

高风险、小语种、长上下文或关键客户切片可能被平均值掩盖。发布门应按风险切片,安全事件单独升级。

17 · When not to automate

什么时候不应自动化

“能让模型做”不是“应该让模型做”。人机分工应分别评估信息获取、分析、决策选择和动作执行,并考虑可靠性、后果、可逆性、接管成本与技能衰退。

  • 结果无法验证:没有可观察反馈,也没有可信代理指标。
  • 环境低效度:线索不稳定、规则快速变化、长期结果强随机,却要求系统复制“直觉”。
  • 任务高度一次性或开放:战略、谈判、创作、伦理裁决没有稳定 SOP;最多稳定证据纪律和过程。
  • 错误不可逆且高影响:付款、删除、发布、法律/医疗/人事决定,而审批、补偿和责任链尚未建立。
  • 数据无权使用或不适用:来源、用途、时效、完整性无法证明。
  • 第三方系统缺关键控制:无细粒度权限、幂等、状态查询或审计,又无法用网关/对账弥补。
  • 例外比常态多:边界持续变化,人工升级率高到自动化只是在增加协调成本。
  • 成本不成立:每个被接受结果的总成本(模型、API、人工、风险)不低于可靠人工流程。

研究证据 自动化会改变人的工作并产生新的协调要求,而非简单替代人。参见 Parasuraman, Sheridan & Wickens, 2000。NIST AI RMF 要求明确人机配置、知识边界、监督、覆盖、恢复和停用机制。

18 · Sources & limitations

完整来源元数据

以下按本报告首次使用的大致顺序列出。网页来源的日期如未标注,统一以 2026-09-07 为访问日。报告只做短摘述,不复制长段原文。

OpenAI, “Build skills”。Skill 结构、渐进披露、触发、加载位置、插件分发与 metadata。

官方产品文档 · 日期未标注 · 访问 2026-09-07

OpenAI, “Record & Replay”。从演示提取工作流、稳定步骤、变化输入、隐藏偏好与秘密处理。

官方产品文档 · 日期未标注 · 访问 2026-09-07

OpenAI, “Skill controls”。工作区、本地文件系统与 Plugin 的独立生命周期和控制面。

官方产品文档 · 日期未标注 · 访问 2026-09-07

OpenAI, “Skills” (API guide)。Hosted/local shell Skill、版本、限制、风险与开发者集成边界。

官方 API 文档 · 日期未标注 · 访问 2026-09-07

OpenAI, “Subagents”。独立任务分派、上下文污染、读多写少、权限继承与编排。

官方产品文档 · 日期未标注 · 访问 2026-09-07

OpenAI, “Agent approvals & security”。sandbox、审批模式、网络与工作区边界。

官方安全文档 · 日期未标注 · 访问 2026-09-07

Neil Charness & Michael Tuffiash (2008), “The Role of Expertise Research and Human Factors in Capturing, Explaining, and Producing Superior Performance”, Human Factors, DOI 10.1518/001872008X312206。

同行评议论文

Daniel Kahneman & Gary Klein (2009), “Conditions for Intuitive Expertise: A Failure to Disagree”, American Psychologist, DOI 10.1037/a0016755。

同行评议 · 对抗式合作

David Hambrick et al. (2014), “Deliberate practice: Is that all it takes to become an expert?”, Intelligence

同行评议论文 · 对强刻意练习命题的边界证据

Nancy J. Cooke (1994), “Varieties of Knowledge Elicitation Techniques”, International Journal of Human-Computer Studies, DOI 10.1006/ijhc.1994.1083。

知识获取方法综述

K. Anders Ericsson & Herbert A. Simon (1980), “Verbal Reports as Data”, Psychological Review, DOI 10.1037/0033-295X.87.3.215。

经典同行评议论文

Sacks et al. (2023), “Applying cognitive task analysis to health services research”, Health Services Research

应用方法论文 · 医疗领域

Laura G. Militello & Roger J. B. Hutton (1998), “Applied Cognitive Task Analysis (ACTA): a practitioner's toolkit”, Ergonomics, DOI 10.1080/001401398186108。

原始方法与有限评估

Gary Klein, Roberta Calderwood & Donald Macgregor (1989), “Critical Decision Method for Eliciting Knowledge”, IEEE TSMC。

原始方法论文

Object Management Group, BPMN 2.0.2 (2014);DMN 1.5 (adopted 2024-08)。

正式建模标准

G. Lynn Shostack (1984), “Designing Services That Deliver”, Harvard Business Review;Mary Jo Bitner, Amy Ostrom & Felicia Morgan (2008), “Service Blueprinting”, California Management Review

奠基文章与方法论文

ISO/TC 176 (2015), “The Process Approach in ISO 9001:2015”;ISO 10013:2021, Guidance for documented information

国际标准与官方指导

NIST (2023), AI Risk Management Framework 1.0 — Core;NIST (2024-07), Generative AI Profile, NIST AI 600-1

美国政府风险框架

U.S. GAO (2020), “Assessing Data Reliability”, GAO-20-283G

美国政府审计指南

UK Government Data Quality Hub (2020), “The Government Data Quality Framework”

英国政府数据质量框架

W3C, Groth & Moreau, eds. (2013-04-30), “PROV Overview”

W3C Recommendation family overview

OpenAI, “Function calling”“Safety in building agents”“Safety best practices”

官方 API / 安全文档 · 访问 2026-09-07

OWASP GenAI Security Project, LLM01:2025 Prompt InjectionLLM06:2025 Excessive Agency

独立安全社区指南 · 2025 edition

NIST, SP 800-53 Rev.5 / 5.1;IETF, Lodderstedt et al. (2025-01), RFC 9700 / BCP 240;IETF, Fielding et al. (2022-06), RFC 9110

政府控制目录与互联网标准

AWS Builders' Library, Malcolm Featonby, “Making retries safe with idempotent APIs”;Marc Brooker, “Timeouts, retries, and backoff with jitter”

大型分布式系统工程实践

OpenTelemetry, Semantic ConventionsGenAI attributes registry

开放可观察性规范 · 部分 GenAI 字段仍处 development / 迁移状态

OpenAI, “Evaluation best practices”“Evaluate agent workflows”

官方评测文档 · 访问 2026-09-07

Google, Jones, Wilkes, Murphy & Smith, “Service Level Objectives”, Site Reliability Engineering

Google SRE 教科书

Parasuraman, Sheridan & Wickens (2000), “A Model for Types and Levels of Human Interaction with Automation”, IEEE, DOI 10.1109/3468.844354。

经典人因自动化模型

Michael J. Taylor et al. (2014), “Systematic review of the application of PDSA”, BMJ Quality & Safety, DOI 10.1136/bmjqs-2013-001862。

系统综述 · 持续改进实施质量

研究限制

  • CTA/ACTA/CDM 在一般知识工作与个人专业服务中的量化效果证据,弱于医疗、航空和军事领域;本报告做了相邻领域迁移。
  • BPMN、DMN 与服务蓝图证明了表示法成熟和可交流,不证明单独使用就能改善业务结果。
  • “从 SOP 到 LLM Skill”的长期实证仍稀缺;因此借用了人因、质量管理、安全工程和 SRE 的成熟原则,并明确标成工程建议。
  • 不存在跨行业通用的访谈数量、golden set 样本量、准确率、抽检率、SLO 或日志保留期;应按业务风险与基线确定。
  • 本报告不是法律意见。中国《个保法》、GDPR、行业监管、数据跨境与记录保留义务需按具体主体和数据另行评估。
  • OpenAI 产品表面、模型和评测 API 会变化。2026-09-07 的官方文档提到旧 Evals 平台退役时间;实施前应重新核对最新替代接口,而方法论本身不依赖该旧界面。
  • OpenTelemetry 的部分 GenAI 字段仍不稳定;内部事件模型应保持稳定,通过 exporter 映射外部语义版本。
研究停止理由:关键答案槽位均已有原始论文、正式标准、政府框架或官方工程文档;高影响主张已包含边界或反证。剩余问题主要属于具体行业、法域、供应商和业务阈值,需要在项目现场定向验证,而非继续堆积泛化资料。
↑ 返回正文顶部