彭鹏也从法律与隐私层面强调了AI无法代替医生的原因：“医疗决策需要有人承担责任，而AI无法成为责任主体。医生的每一个诊断、每一张处方，都意味着责任与担当，一旦出现医疗问题，医生需要承担相应的法律责任，而AI是冰冷的算法，无法承担人的生命与健康的重量。”
正如国家传染病医学中心主任张文宏所说：“我们不能直接把生命和健康交给AI来处理。”
四川大学华西第四医院副院长沈江表达了相近的看法：“医学本质上是从经验教训中成长起来的经验学科，传承下来的智慧不能因为AI时代的到来就完全摒弃，AI开发的辅助工具应成为医学传承和发展的助力。”
“AI模拟训练需要海量的数据，若AI模型与外部大模型连通，患者隐私就存在泄漏风险；若选择医院本地部署，需要极高的算力成本，现在绝大多数医院都难以实现。而且如果把真实患者的信息提供给AI之后，我们也并不确定，它会不会在未来出现在某个地方。这是一个隐私泄露的问题。”彭鹏的担忧，点出了AI医疗在伦理与安全层面的潜在隐患。
