2026 年 11 月 16 日,OpenAI 把计算机操作型智能体放进了医院软件,并报告评审者把 325 项电子病历收件箱任务中的 99% 评为临床安全。把这个按任务计的比率换算成临床医生真正生活其中的那个单位——每年数千条消息——同一个数字描述的就是每位医生每年 32 到 90 次不安全的处置。分母就是故事的全部,而在这整个产品品类里,安全主张与价值主张都少了它。
宣布了什么
在 HLTH 2026 上,OpenAI 扩展了 ChatGPT for Healthcare,加入了计算机操作型智能体——这类模型读取屏幕、点击、输入、在应用之间切换,而不是调用 API——并把它们对准了行政性的临床工作。
| 要素 | 据该发布相关报道 |
|---|---|
| 日期 | 2026 年 11 月 16 日,HLTH 2026 |
| 智能体 | 据报道由 GPT-6 Astra 与 GPT-6 Luna 驱动的计算机操作型智能体 |
| 点名的用例 | 事前授权、转诊、出院规划、电子病历收件箱工作 |
| 插件 | 20 多个,包括 Availity、Elation Health、Redox、TriZetto、UpToDate Expert AI、Luma Health |
| 安全数字 | 评审者把 325 项 GPT-6 Astra 的电子病历收件箱任务中的 99% 评为临床安全——OpenAI 自己的评估 |
| 可用性 | 企业工作区,由管理员启用插件;部分插件通过需要美国身份验证的免费 ChatGPT for Clinicians 账号提供 |
一句来源说明。以上全部来自发布当天的行业媒体与聚合报道,而不是来自 OpenAI 自己的文章,而插件数量被报道为 20 多个或 21 个不等。「325 项中的 99%」这个数字在各报道之间是一致的,并且明确是一次厂商自评。下面的算术只用到那一个数字和公开的体量数据;其中没有一处依赖那些有出入的部分。
325 项中的 99% 是一次能力演示,不是一份安全论证
先看那个区间。325 项里有三项失败,点估计是 99%,而围绕它的 Wilson 95% 置信区间大致从 97.2% 到 99.6%。所以这份证据与「每百项任务 0.4 到 2.8 次不安全」之间任何一个数都是相容的——相差七倍,而这就是在这种成功率下 n = 325 能给你买到的东西。
现在给它配一个分母。某家大型医疗系统公布过「每位医生每天少于 14 条 In Basket 消息」这个数字,并把它描述为在 Epic 社区里属于最低之列;就把它当作一个刻意保守的下限,跨 230 个临床工作日:
messages / clinician-year 14 x 230 = 3,220 at 1.0% unsafe -> 32 unsafe dispositions / clinician-year at 2.8% unsafe -> 90 unsafe dispositions / clinician-year eval set size 325 tasks = about one clinician-MONTH
这些没有一句在说那个数字是错的、或这个产品不好。它说的是:一个按任务计的比率,对一种高分母的工作负载来说不构成一份安全论证;而临床收件箱是高分母工作负载的典型代表。「99% 安全」与「不可接受的年度伤害计数」会是同一句话的那个体制,恰恰就是这一个;而这也正是为什么在采购环节真正有用的问题从来不是那个标题百分比,而是什么比率,乘上什么体量,落到哪位审阅者面前。
关于这项主张还有两点特定的警告。「临床安全」不等于「正确」——一条既安全又错误的回复仍会引出一条后续消息,而它会落回这个智能体本就是被买来缩小的那个收件箱。而一位评审者给一项任务打分,看不到「因为第一个答案听起来很权威、所以某位患者没有再发出的那条消息」;那个评分接触不到结果。这个问题的一般形式在智能体评估中的人类基线,而样本量那一半在评估方差与统计功效。
价值主张缺的是同一个分母,而这里的证据好得出人意料
这是少见的、有真实部署数据的临床 AI 工作流,因为草稿回复类工具很早就在 Epic 内部大规模上线,并在生产流量上被研究过。结果并不是这个品类的营销所暗示的那样。
《JAMA Network Open》上一项覆盖 1,542 位临床医生、983,154 条患者门户消息回复的队列研究发现:启用一个 AI 草稿回复工具与消息周转时间增加 8.6% 相关联,而在某条具体消息上真正用上草稿则与减少 29.5% 相关联。下班后的门户工作量没有出现有意义的下降。更早一项覆盖 162 位临床医生的质量改进研究发现,负担与倦怠指标上有显著改善,而所花时间没有变化;而一项儿科研究报告的感知节省约为每条消息 1.2 分钟,倦怠未变。
把那个感知到的 1.2 分钟乘上同样的 3,220 条消息,得到的是每位医生每年约 64 小时。时间类研究并没有找到那 64 小时。它们找到的是「没有变化」——而在诊所层面,是工具一旦可用,队列就慢了 8.6%。
有一个说法能同时解释这四项结果:一份草稿会在那些本来几秒钟就能发走、甚至本来根本不会到临床医生手里的消息上,邀来一次临床审阅。这个工具让难的消息更快,又把容易的消息变成了需要被审阅的产物。两边一抵,被自动化掉的是那个便宜的步骤。这不是模型质量问题,换一个更好的模型也修不好,因为那个机制就是草稿本身制造出来的那次审阅。
所以这个故事里的两个数字,失效的方式完全一样。安全数字是一个按消息计的比率,被摆出来时没有带上让它要紧的那个体量;价值数字是一个按消息计的节省,被摆出来时没有带上它让人多去读了的那些消息。两个都是真的。两个都不是买方需要的那个量。
计算机操作改变的是审计轨迹,而不只是能力
计算机操作这种形状还有一个二阶后果,在一次能力发布里很容易被忽略。一个去驱动电子病历自家界面的智能体,是在一个人的已认证会话内部运行的。它在应用层没有身份,因为那个应用分辨不出它与「它正在使用其会话的那位临床医生」有何不同。
这意味着那些访问日志——事故之后合规团队要读的那些、在医疗行业里承载监管重量的那些——记下的是那位临床医生。不是智能体,不是模型版本,也不是插件。每一个依赖归因的下游流程都继承了这份含混:事故复原、破玻璃式访问复核、一位患者要求给出「谁看过我的记录」的说明。
而它也补不回去。你无法把归因加到已经写下的事件上,所以唯一能坚持要一个独立服务身份和一个按动作标记的时刻,就是上线之前。这就是委托混淆那种形状,只不过它是经由图形界面而不是经由令牌抵达的;而缓解措施就是那些寻常的:一个独立身份、审计轨迹里的一个标记,以及一个比那个人更窄的作用域。参见审计轨迹与以你的用户身份登录的第三方智能体。
同一点现在还带着监管棱角。科罗拉多那部替换版 AI 成文法定于 2027 年 1 月生效,要求针对不利结果在 30 天内给出说明、并提供一条有实质意义的人工复核通道;而欧盟第 50 条的透明度义务自 2026 年 8 月 2 日起已经适用。两者都是按决定计的产物,而一项被归因到错误行为方的动作,无法产出其中任何一项。2026 年按时落地的那些义务恰恰就是产物类义务,而这让归因成为一项工程依赖,而不是一道合规上的雅致。
该改建什么
草稿工具数据里那个反转指向了一种不同的架构,而它正是没人去演示的那一种,因为它没有可见的输出。
- 让首要输出是一项处置,而不是一段文字。五个目的地覆盖了收件箱流量:依据记录结掉、非临床人员池、有协议的临床人员池、临床医生常规、临床医生紧急。把一条消息从「临床医生常规」挪到「非临床人员池」,是彻底移除一次临床医生接触而不是把它缩短,而这五个目的地里有三个不需要任何持证的人。
- 衡量每 100 条到达消息占用了几次临床医生接触。周转时间与每份草稿省几分钟,是在已发表研究里走偏了的那些指标。接触次数才是这套工程真正撬动的那一个。
- 只对一类计召回。一个跨五类的综合准确率数字会被那三个行政类支配,于是它看起来漂亮极了,而唯一危险的那项错误率——漏掉的紧急——却在漂移。请给紧急召回设一条可以卡发版的下限,其余按吞吐去调。
- 把弃答接到紧急那一类上。一次只花掉临床医生三十秒的「我判断不了」,是整个系统里最便宜的控制。
- 盯住每条被结掉的会话引出了几条后续消息。一套结掉一条会话、却生出 1.4 条新会话的系统,是把活儿拆开了而不是减少了——而那也是起草文献里那消失的 64 小时最可能的藏身处。
- 把起草工具当成一个更晚的、可选的阶段,只在「人反正都要回」的地方运行。它是风险最低、价值也最低的那个组件,而让它在路由器已经结掉的消息上运行,正是你重新造出那个 8.6% 的方式。
完整的构建次序、让「有协议的人员池」合法的那条既定医嘱限制,以及如何从你自己那本经过裁定的收件箱里建出一个分层评估集,都在临床收件箱分拣智能体。
常见问题
99% 的临床安全率够不够格部署一个收件箱智能体?
这完全取决于体量,而单凭那个比率是无法告诉你的。按保守的每位医生每年 3,220 条消息算,1% 的不安全率就是每位医生每年约 32 次不安全处置,而围绕「325 项中的 99%」那个 95% 区间的上端允许约 90 次。请问「什么比率,乘上什么体量,到达哪位审阅者」,然后再决定你愿意自动化哪些处置。
关于 AI 草稿回复,规模最大的那项研究到底发现了什么?
《JAMA Network Open》上一项覆盖 1,542 位临床医生、983,154 条回复的队列研究发现:启用与周转时间增加 8.6% 相关联,而真正用上一份草稿与减少 29.5% 相关联,同时下班后的门户工作量没有出现有意义的下降。整份文献里最一贯的发现是:感知负担改善,而时间未变。
为什么一个 AI 起草工具会让消息周转变慢?
因为一份草稿会在那些本来几秒钟就能发走、甚至本来会被整个路由到临床医生之外的消息上,造出一件需要被审阅的产物。这个工具加速了临床医生本来反正都要写的那些消息,又给他们本来不必写的那些加上了一道审阅步骤。换一个更好的模型修不好这件事;一个决定「谁来碰这条消息」的路由器能。
当一个计算机操作型智能体在电子病历里干活时,审计日志里出现的是谁?
是那位临床医生——智能体正在驱动其已认证会话的那一位。一个图形界面层的智能体在应用层没有身份,所以归因必须被刻意加上去——一个独立的服务身份和一个按动作的标记——而且必须在上线之前,因为你无法把它补回到已经写下的事件上。
患者门户的消息体量还在增长吗?
在增长。全国性 Epic 数据显示,患者发出的门户消息在 2020 到 2025 年间上升了 153%,在发信患者中从每人每年约 2.2 条升到 5.4 条;而临床医生与员工的回复上升了 24%,达到每位患者每年 5.70 条,此前曾在疫情期间见顶于 6.86 条。回复这一侧已接近天花板;到达那一侧还没有。
延伸阅读
本站:
- 临床收件箱分拣智能体——路由器优先的构建、那五种处置,以及评估。
- 医疗智能体——整个领域的临床安全框架。
- 环境式临床文书——「病历与收件箱」这份负担的另一半。
- 计算机操作与 GUI 智能体——为什么驱动一块屏幕与调用一个 API 是不同形状的风险。
- 监管版图——2026 年按时落地的那些产物类义务。
来源:
- JAMA Network Open——那项草稿回复队列研究与质量改进研究。
- OpenAI——ChatGPT for Healthcare 的发布。