全球首个!无需医生参与 美国AI可以开处方了
图源：JAMA Health Forum
第一，证据真的可靠吗？
Doctronic 提交给犹他州的性能数据，实际上来自它另一个产品的一项预印本研究，未经过同行评审，而且研究对象是急诊远程医疗场景下的急性病患者，和处方续签面向的慢性病人群完全不同。
Doctronic 目前生成，自己做过数千例模拟测试，但测试数据没有公开。
第二，万一出问题谁来管？
按照 Doctronic 的介绍，只有部分处方会经过医生审核。理想状态下，应该由政府官方独立评估机构来监测数据，并向患者公开结果，保证患者知情权。
第三，开方没有想象的那么简单。
很多时候，医生会利用处方到期的时间，让患者回来复诊，检查患者情况并调整用药。
如果以后全用 AI 无限续方，治疗方案的调整可能会也不及时。
最后，也是最重要的，Doctronic 虽然买了医疗事故保险，但用户服务条款却明确免除了 Doctronic 对系统准确性和有害后果的一切责任，合同还免除了 Doctronic 生成和维护患者病历的义务。
这意味着，如果真的有患者因为一张错误的 AI 处方受到伤害，想要维权，就连调取自己的就诊记录都很困难。
中度风险器械，没有审查就准备用于临床
就在几天前，4 月 18 日，NEJM 也发表了一篇观点文章，提出相似的质疑。
作者指出，自动续方只适用于病情高度稳定的患者，但目前试点项目中的部分药物并不符合这个条件，比如左甲状腺素需要定期监测甲功来调剂量；沙库巴曲缬沙坦用于心衰、临床状态可能快速变化。
不仅如此，作者还认为，根据目前官方对“医疗器械”的定义，Doctronic 系统应归位为 II 类中度风险器械，需要 FDA 进行上市前审查。但实际上，这一步完全没有发生。
不仅如此，今年 3 月，还有一家 AI 安全公司对 Doctronic 进行了测试，结果发现，用非常简单的越狱技术就能操纵系统输出，让它把阿片类止痛药的处方剂量提高到三倍，把甲基苯丙胺（冰毒）标注为治疗手段。
目前，美国医学会 CEO 已公开表达了对 AI 处方的反对态度“准确率声明不能替代临床判断。即使 AI 的错误率很小，一旦规模化部署，也会转化为真实的患者伤害。”
[加西网正招聘多名全职sales 待遇优]
还没人说话啊，我想来说几句
第一，证据真的可靠吗？
Doctronic 提交给犹他州的性能数据，实际上来自它另一个产品的一项预印本研究，未经过同行评审，而且研究对象是急诊远程医疗场景下的急性病患者，和处方续签面向的慢性病人群完全不同。
Doctronic 目前生成，自己做过数千例模拟测试，但测试数据没有公开。
第二，万一出问题谁来管？
按照 Doctronic 的介绍，只有部分处方会经过医生审核。理想状态下，应该由政府官方独立评估机构来监测数据，并向患者公开结果，保证患者知情权。
第三，开方没有想象的那么简单。
很多时候，医生会利用处方到期的时间，让患者回来复诊，检查患者情况并调整用药。
如果以后全用 AI 无限续方，治疗方案的调整可能会也不及时。
最后，也是最重要的，Doctronic 虽然买了医疗事故保险，但用户服务条款却明确免除了 Doctronic 对系统准确性和有害后果的一切责任，合同还免除了 Doctronic 生成和维护患者病历的义务。
这意味着，如果真的有患者因为一张错误的 AI 处方受到伤害，想要维权，就连调取自己的就诊记录都很困难。
中度风险器械，没有审查就准备用于临床
就在几天前，4 月 18 日，NEJM 也发表了一篇观点文章，提出相似的质疑。
作者指出，自动续方只适用于病情高度稳定的患者，但目前试点项目中的部分药物并不符合这个条件，比如左甲状腺素需要定期监测甲功来调剂量；沙库巴曲缬沙坦用于心衰、临床状态可能快速变化。
不仅如此，作者还认为，根据目前官方对“医疗器械”的定义，Doctronic 系统应归位为 II 类中度风险器械，需要 FDA 进行上市前审查。但实际上，这一步完全没有发生。
不仅如此，今年 3 月，还有一家 AI 安全公司对 Doctronic 进行了测试，结果发现，用非常简单的越狱技术就能操纵系统输出，让它把阿片类止痛药的处方剂量提高到三倍，把甲基苯丙胺（冰毒）标注为治疗手段。
目前，美国医学会 CEO 已公开表达了对 AI 处方的反对态度“准确率声明不能替代临床判断。即使 AI 的错误率很小，一旦规模化部署，也会转化为真实的患者伤害。”
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 |
推荐: