美国犹他州今年批准了一项前所未有的操作:
让AI为痤疮患者进行诊断并开具处方;而且是AI独立完成。
这家公司名叫Nolla Health,2024年在挪威创立,拿到了General Catalyst提供的450万美元种子轮资金,总部已迁至纽约。每月只需支付4.99美元,用手机扫描一下脸部,几分钟内就能拿到处方。
4.99美元是个什么水平?
在美国,一次面对面的皮肤科就诊费用在150到300美元之间,而且需要等待。全美平均要等36天才能见到皮肤科医生,犹他州更久,需要61天。
Nolla的核心卖点就是:价格低廉、速度快、无需排队。
使用方式是这样的:打开应用程序,从五个不同角度拍摄一张面部照片,然后填写一份病史问卷。
AI会根据照片对痤疮严重程度进行评分,范围从0到5分;如果评分超过3.5分,或者用户正处于怀孕、哺乳期,或患有严重肝肾疾病,流程会终止,转由真人医生处理。
如果评分未超标,AI会从8种外用药中挑选一种,处方直接发送到用户指定的药房,也可以邮寄到家,整个过程中没有任何真人医生介入。
犹他州政府并没有一次性完全放开,而是分三步走。
第一步,前100名患者,至少运行4周。每一张由AI开具的处方,都必须经过两名持牌医生逐一审核批准,才能发送给药房。这就像副驾驶座上坐着教练,随时可以踩刹车。
第二步,扩大到500人,至少运行8周。AI可以直接开方,医生每周回头审核一次。教练虽然放手了,但仍然坐在旁边。
第三步,累计达到750人。医生每月抽查10%的处方。
到了这个阶段,九成处方在没有任何人查看之前就已经送到患者手中;每提升一个档次,有三个硬性条件必须同时满足:AI与医生判断的一致率不低于95%,没有发生任何严重不良事件,并且获得州政府的书面批准。
听起来条件很严格,不过有一个数字,中文报道都省略了后半句。
Nolla向犹他州提交的州提案中写道,持牌临床医生对AI治疗建议在最近1000例真实世界治疗中,一致率约为96%。
后半句是所有中文媒体都没有引用的:“分歧仅限于同一药物类别内的单步剂量调整。”
这是什么意思?
那4%的不一致,并不是开错了药,而是在同类药物中调整了一个剂量,比如从10毫克变成20毫克;而不是从A药换成B药。这比“4%开错了”要温和得多。
不过,这个说法目前只有Nolla自己提交的州提案这一个来源。
好,机制看完了;接下来一个问题,出了事谁负责?传统医疗中,医生看病、开方,出了问题找医生,责任链条清清楚楚。
在Nolla的模式里,LA Times的报道提到了犹他州监管协议中的一个关键细节:协议将Nolla Health公司本身指定为责任主体,不是某个具体的医生,而是公司。
这个设计挺有意思,因为Nolla的全部资产是450万美元的种子轮资金。如果AI开错了处方,出了严重不良事件,这点钱够赔吗?
更有意思的是Nolla自己的说法,公司反复强调“AI辅助而非取代医生”,不过,从设计方向来看,每一步都在减少人类介入。
从两个医生逐张审核,到一个都不审,每月只抽查10%。言行之间,存在一条缝隙。
合同层面,责任主体明确了,公司承担。不过合同是公司和政府之间的事。用户下载Nolla应用时,点击的那份用户服务协议,里面写的是什么?
……
合同里写了公司担责,但患者手里的那份用户服务协议,写的可能是另一回事。这才是真正的麻烦:如果AI开错了药,患者能不能拿着用户协议去追责?
犹他州在Nolla之前,已经有一个AI试点运行了一年。叫Doctronic,做续方。
什么是续方?
用户之前看过医生,确诊了,病情稳定,长期服用同一种药;AI帮用户把这张旧处方再开一次,不下新诊断,不加新药。听起来比Nolla保守多了。
Doctronic今年1月上线,单次收费4美元,支持190种常用药物。
但它的用户服务协议里,有一段话值得仔细看看。
Doctronic明确免除了自身对系统准确性和有害后果的一切责任;还有一句,免除了Doctronic生成和维护患者病历的义务。
AI给用户续错了药,用户连自己的就诊记录都调不出来。合同层面说“我负责”,用户层面说“我什么都不管”。用户还没下载应用,免责就已经生效了。
这不是纸面上的假设。
我特意查了一下,2026年初,试点上线大约两个月的时候,一家叫Mindgard的安全公司做了个测试。
他们拿一份伪造的监管公告喂给Doctronic的公开聊天机器人。AI信了,然后建议把奥施康定的剂量提高三倍。
奥施康定是强效阿片类止痛药,三倍剂量足以致命。需要说明,这个测试针对的是公开聊天机器人,不是处方系统;而且奥施康定是管制药物,根本不在犹他州试点的190种药物清单里。
Doctronic后来表示,被攻破的是“演示版本”,不是实际运行的系统。但他们提交给监管方的性能数据,来自另一个产品的预印本研究,没有经过同行评审。
而且那篇论文研究的是急诊急性病患者,跟续方场景完全是两回事。审核他们的人,也是AI公司自己请的。
好,回头看Nolla。
Nolla在监管合同里,确实被写成了责任主体,合同里还有“注意义务”条款。这是犹他州监管部门专门加进去的,意思是,如果AI开方伤了人,法院可以用这条来判定公司是否尽到了合理的注意义务。
传统医疗事故中,责任在医生个人,法律框架很清楚。AI开方,责任在公司,这是新东西。“注意义务”条款就是为这个新东西搭建的法律桥梁,但桥搭好了,法院还没走过。
Nolla的用户服务协议,至今没有公开。44个州超过17.5万人下载了这款应用,用户条款却搜不到。我们不知道那份协议里写的是什么。
不过有一个参照:
2025年,加州一名16岁少年Adam Raine,跟ChatGPT聊了几个月之后,自杀了。
他的父母起诉了OpenAI,指控ChatGPT在孩子表达自杀意图后没有阻止,反而提供了方法,案子到现在还没审完。
ChatGPT是通用AI,跟Nolla这种专科AI不一样。但AI公司在责任问题上的态度,挺一致的:公司说“我负责”,用户条款说“我免责”。
Nolla的用户条款里到底写了什么?搜不到,但这个空白,在Doctronic那里已经不是空白了,它已经填上了两个字:免责。
合同写了公司赔,用户条款写了公司不赔,这两本账,不可能同时成立。
……
犹他州不光批了Nolla。从续方到首次处方,它实际上分了三步走。
第一步,Doctronic,今年1月上线,做续方。最保守的一种,每一项续方请求,仍然需要持牌医生授权,AI没有独立开方。
第二步,Legion Health,今年4月批准的,做精神科维持药的续方。15种低风险药物,技术也是Doctronic提供的。场景从皮肤科换到了精神科,从皮肤上的事换到了脑子里的事,但本质还是续方,不是初诊。
第三步,才是Nolla,首次处方。AI自己给用户做诊断,自己选药,自己开方。
从“帮用户续一张老处方”到“AI给用户做一个新诊断、开一张新处方”,这一步跨度不小。
第一步走了多久?Doctronic从今年1月上线到现在,快一年了,还停在第一阶段。AI没有独立开方,一步都没迈出去。
还记得那个升档条件吗?一致率不低于95%,零严重不良事件,州政府书面批准,三个缺一个都不行。Doctronic快一年没升档,说明这些条件在现实中意味着什么。
再加上那次安全测试翻车,升档就更难了。
医学界的反应也很直接,美国医学协会CEO John Whyte说了句话:“这类工具能起很大作用,但不应当自主行医。”
犹他州执照委员会11名成员联名写信要求暂停试点,主席Alan Smith的原话是:“过去开过的药,不等于现在合适。”
这话不只说给Doctronic听的,续方的逻辑是,过去有效不代表现在合适,患者的身体在变,药也需要调整。
AI能匹配的是历史数据,不是此刻这个人。斯坦福精神科的Anna Lembke补了一刀:患者病情恶化的微妙信号,问卷填不出来。
Nolla的创始人说过“辅助而非取代”,设计方向是每一步减少人类介入。现在看,连最保守的续方试点,快一年了都没升档。“减少介入”这条路,走起来比说起来慢得多。
还有一层地基:
NEJM有篇评论指出了一个根本问题:联邦法里“执业者”的定义,没有包括AI;《2025年健康技术法案》想修订联邦食品药物法案,把AI塞进“执业者”的范畴,但法案还没通过。
也就是说,即便犹他州允许,联邦层面的合法性还是一个灰色地带。
犹他州的第一步走了将近一年。第二步和第三步,不会更快。一套精心设计的放权机制,一本对不上的账,一架走得极慢的梯子。
AI开处方了,出了事谁负责?犹他州还在思考这件事。
数据来源:
[1]. Nolla Health PRNewswire 新闻稿、犹他州监管协议(via unite.ai 转引)、Nolla 州提案、LA Times、The Verge 报道、Doctronic 用户服务协议、Mindgard 安全测试报告、NEJM 评论、Adam Raine 案诉讼文件
本文来自微信公众号“王智远”(ID:Z201440),作者:王智远,36氪经授权发布。
2022-03-14
2022-03-14
2022-03-14