31 岁工程师按 ChatGPT 减药方案后猝死，高风险医疗场景该给 AI 划哪些安全边界？
2026-11-07 阅读 0
这类事件最值得讨论的，不是把责任简单归给某个模型，而是医疗 AI 在高风险场景里应当怎样识别边界、降低误用概率。仅凭问题标题无法核实具体经过或因果关系；但“依据 AI 建议自行减药”本身就提示了一个重要风险：剂量调整可能取决于诊断、既往病史、当前剂量、合并用药、化验结果和减量速度，不能只凭一段聊天记录决定。
首先，AI 应把“是否停药、减药、换药或改变服用频率”识别为高风险请求。它可以解释药物的一般用途、常见副作用和说明书信息，但不应给出可直接执行的个体化减量日程，也不应把“感觉好些了”或单次检查结果当作可以停药的依据。更合适的回应是明确说明风险，建议先联系开药医生或药师，并帮助用户整理要咨询的问题、当前用药清单和症状变化。
其次，不能只靠一句免责声明。系统应在回答正文和交互流程中清楚区分一般信息与医疗指令：不确定时先询问药名、剂量等背景也不等于获得了开方能力；若信息不足或涉及复杂病情，应停止推演个体方案，转向专业人员。对于某些药物，突然停用或快速减量可能带来严重后果，因此也不应笼统地劝用户“先停掉以防副作用”。如果出现严重或迅速恶化的症状，应提示立即联系当地急救服务或前往急诊，而不是继续在线试药。
第三，产品应让安全升级真正可达：提供清晰的就医或药师咨询路径；在用户表达已经自行减药、停药或出现不良反应时，优先评估是否需要紧急帮助；在得到用户同意后，协助生成给医生看的用药与症状摘要。模型还应避免编造来源、把概率说成确定结论，或用权威口吻掩盖不确定性。
安全边界的核心不是让 AI 对所有医学问题都沉默，而是让它在可以解释时提供可核查、有限定条件的信息，在涉及个体治疗决策时不冒充临床判断，并把用户顺畅地交还给合格的医疗专业人员。
更新于 2026年11月12日
赞 13
