版权信息

书名：超越想象的GPT医疗

作者：［美］彼得·李（Peter Lee）　［美］凯丽·戈德伯格（Carey Goldberg）　［美］伊萨克·科恩（Isaac Kohane）

译者：芦义

出版社：浙江科学技术出版社.湛庐

出版时间：2023年05月

ISBN：9787573906151

字数：249千字

感谢Telegram 频道 @sharebooks4you制作，欢迎大家扫码订阅

测一测　你对GPT医疗革命了解多少？

·　GPT-4是一种新型的搜索引擎吗（　　）

A．是

B．否

·　GPT-4不仅能提供解答，还能专注于创造有价值的对话，这是对的吗（　　）

A．对

B．错

·　GPT在医学领域还不能实现（　　）

A．完全取代医生帮助患者治病

B．代替医生完成文书工作

C．辅助医生进行医学研究

D．帮助医生了解世界前沿的治疗方法

扫描下面二维码查看本书更多测试题

扫码激活这本书

获取你的专属福利

扫码获取全部测试题及答案，与GPT-4一起探索新的医疗革命

AI的发展就如同个人电脑的问世一样具有革命性意义。它将彻底改变我们的工作、学习、交流方式，甚至颠覆医疗保健行业。事实上，AI已经在提升疾病检测和诊断方面发挥了重要作用。在未来，它将助力更多研究突破，并让那些无法获得医疗服务的人也能获得准确、可靠的医学建议。AI是一个强大的利器，它有望减少社会不平等现象，极大地改善全球数百万人的生活质量。然而，我们必须谨慎对待AI的发展，确保其带来的收益大于潜在风险。目前，人们对医学领域AI带来的机遇和担负的责任进行的早期探索，让我充满信心。

——比尔·盖茨

致我们的孩子，希望他们能够在未来获得本书中所畅想的医疗保健服务

重要声明　一场全人类都应参与的关键讨论

本书尚在不断完善之中。首先，诸如GPT-4等AI实体正以惊人的速度进步，因此我们在此所采用的AI与人类的对话不可避免地在短短数周内就会变得陈旧。其次，本书仅对一个领域，即医学领域，进行了初次探索，而我们期待在未来，全人类将就如何充分利用AI的惊人能力展开全面讨论。

尽管如此，我们仍希望本书能为启动此类讨论提供一种范例：依托广泛而细致的AI互动分析，同时系统地阐述AI的优缺点。此外，它刚刚开始应对一个紧迫问题，那就是：在当前情况下，从短期和长期来看，我们应当如何采取行动？

本文中选取的GPT-4的回应可能经过缩减，但从未经过更改。在撰写本书时，彼得和伊萨克运用了他们的专业知识，但哈佛医学院、微软和OpenAI并未对本书进行过任何编辑干预。

推荐序一　GPT医疗并非终极目标，只是未来一系列AI里程碑之一

萨姆·奥尔特曼

OpenAI创始人

在GPT-4发展的早期阶段，我与微软首席技术官凯文·斯科特（Kevin Scott）决定向少数人开放早期试验性访问，以期在一些关键领域洞察其潜在影响。医学正是这些领域之一，我对这些初步探究演变为这本能引人深入思考的著作感到十分兴奋。

医学和医疗保健深刻影响着每个人的生活。这些领域面临着诸多巨大挑战，如成本不断攀升、缺乏公平准入、人口老龄化、医护人员的职业倦怠以及全球性流行病等。AI具有一定的潜能来应对这些挑战，例如通过提供更优秀的辅助工具来减轻行政文书负担，进一步提升专业人士在各种医疗条件下的诊断、治疗、预防和研究工作效率等。

彼得·李和他的合著者们认为，GPT-4等技术有助于应对以下这些挑战：

·　GPT-4可以根据可靠的信息来源回答患者或专业人士的医学问题(1)，为个体赋能，并促进医学知识在广大缺乏良好医疗服务的人群中的普及。

·　GPT-4能运用自然语言生成技术(2)从医疗记录或文献中提炼摘要或报告，助力医学发现，传播医学成果。

·　GPT-4可借助自然语言理解技术(3)帮助医生或护士进行临床决策或记录，减轻烦琐的文书工作，缩小因技术导致的医生与患者之间的“鸿沟”。

·　GPT-4可以利用自然语言交互技术(4)为医学生或患者编写教育与科普材料，以应对全球范围内日益严重的医疗人才短缺问题。

本书展示了GPT-4在医学和医疗保健领域的众多应用场景及其带来的价值。同时，作者也清楚地指出GPT-4并非没有局限性和风险。

在医学领域，风险是切实存在的，而非纯粹理论上的问题。我赞同本书所倡导的紧急行动，深入了解GPT-4在医学领域的优势和局限性，审慎思考如何在最大程度降低风险的同时，充分发挥通用AI在医学领域的潜力。

尤其值得关注的是，本书指出了GPT-4在生成文本时，可能存在不准确或与事实和伦理相悖的情况。这些挑战需要GPT-4的研究者、开发者、监管者和用户共同应对。虽然在理想情况下，我们希望在医学和医疗保健领域广泛应用AI之前解决这些问题，但作者正确地指出，在医疗行业前线工作的人们不会等待——他们将在现今的临床环境中使用GPT-4，甚至很可能已经在使用了。此外，在诊所之外，缺乏医疗常识的普通民众也可能向GPT-4寻求有关自己和家人的健康问题的建议。

本书展示了每个受AI影响的领域在应对此类转变时所需付出的努力。同时，它还表明，如果能够运用AI提高全球人类健康水平，这将带来巨大的收益。

当前的确是人们对AI领域充满激情的时代，但这仅仅是开始。最关键的认识是，GPT-4本身并非终极目标，它只是未来一系列更为强大的AI里程碑之一。

OpenAI公司致力于创造能惠及全人类的AI，作为公司的首席执行官，我每天都在见证AI技术的飞速发展和进化。同时，我也看到了AI改善人类生活的巨大潜力，特别是对那些处于劣势地位、被边缘化的或易受伤害的群体而言。

我也意识到，作为AI技术的创造者和使用者，我们有责任确保AI与我们的价值观、目标和道德观相契合。我们需要关注AI带来的机会和挑战，并共同努力引领AI发展的方向。

正因如此，我为能给予这本书的出版以支持而感到骄傲。这本书全面阐述了GPT-4如何运用其通用能力在医学和医疗保健领域实现革命性的改变。同时，本书还提供了关于如何在各种医学场景中安全、有道德、有效地使用GPT-4的初步实践指导，并强调了测试、认证和监控其使用的紧迫性。

我希望这本书能为预期中关于AI（如GPT-4及其后继产品）如何融入医疗保健领域的公开辩论提供有益参考。

推荐序二　相信AI的进化

洪小文

微软全球资深副总裁

从2018年6月诞生的初代GPT到2023年3月发布的GPT-4，不到5年间，大规模生成式预训练模型的进化速度及其智能表现超越了许多人的想象。以惊人的速度成长并渐趋成熟的新一代AI系统不仅在全世界引起了广泛关注和深入探究，激发了更多人、更多企业和机构投身新一轮创新赛跑的热情，其影响力更是突破了计算机科学的专业壁垒，让许多普通民众感到好奇，进而参与到技术体验和相关话题的讨论中。

对于某些极可能在不久的将来重塑人们工作和生活方式的颠覆式技术保持敏锐嗅觉、加大资源投入是重要且必要的。当前，使用人工智能技术革新卫生健康体系，为每个人提供成本更低、效果更好、流程更简单的医疗保健服务成为越来越多的国家、地区所关注和投入的热点。那么，如GPT-4这样具备强大能力的AI系统，能够帮助医疗行业实现脱胎换骨式的数字化转型，从而进化到新的层次吗？

我相信，《超越想象的GPT医疗》提供了可供探寻的未来与方向。

我用了一个周末通读了这本书。这是近来极少能让我在短短两天内完整阅读的书籍之一。我非常享受阅读的过程，并对彼得·李及另两位合著者在书中所展现出的非凡的洞察力、判断力、前瞻力，特别是贯穿全书各个章节段落的浓郁人文关怀印象深刻。事实上，本书的三位作者分别身处计算机科学、媒体（医学与科学方向）和生物医学三大领域的最前沿，通过对GPT-4面世前长达数月的反复测试、验证，他们的智慧交集、碰撞、融合，形成了这本对各个圈层的读者均有益的著作：信息技术和生物医疗等行业的专业人士或许会从本书中获得方向指引与创造灵感，而非专业读者也可能被书中描摹的、极可能成真的未来图景所吸引和鼓舞。

我认为，大模型的“积极影响”将在今后几年里渗透到社会的方方面面，许多传统行业发现自己面对着崭新的变革契机——医疗行业也是其中之一。人工智能至少将在以下四个方面为这个行业带来积极改变：一是帮助医护人员更高效地为更多患者提供实时和精准的诊疗服务；二是为患者提供更丰富、更准确的医学知识、医疗建议和保健指引；三是帮助医疗后台支持体系的相关人员更快地处理医疗健康服务请求或是从各种诊疗数据中提炼洞见和结论；四是帮助研究者推进医学和生物科学的前沿探索，如新的靶向药的研制、测试、患者匹配及新的临床试验等，加速医疗领域新技术、新产品从创想到应用的整个过程。

当然，截至目前，GPT-4自身还存在着一些局限性。例如，GPT-4偶尔会基于“臆测”，对问题给出不适当的回应。此类回应不会被AI主动标注为“臆测”，而且可能看起来很微妙、很接近用户拟想的“真实”，因而用户很难识别。对此，作者给出的改进设想是将“医生-患者-AI助手”的组合转变为“医生-患者-AI助手-AI验证者”的进阶版本，AI验证者的任务是检查AI助手的结论及医生、患者的表现——“无论GPT-4扮演何种角色，始终需要让人类参与审查其生成的所有输出。这个问题非常重要”。我由衷赞同这一立足于人文关怀而做出的判断。针对医疗行业的AI大模型应用，理应在政府和全社会的监督下，秉持规范、公平和透明的原则，首先进行小规模的测试、评估，量化AI系统的真实价值，这或许会加速此类平台在医疗行业的实用化落地。换言之，无论AI系统的进化进程多么令人惊艳，任何时候都依然需要对其技术能力进行严格评估，以便我们更好地了解其适用性和局限性。只有这样，才有助于我们最大限度地发挥AI系统的效用，同时最大限度地规避和消除相关技术可能存在的缺陷与不足。

综上，我很荣幸地将本书推荐给国内的读者，希望有更多人能够从本书中收获到启示和乐趣。

推荐序三　问题重重，答案寥寥

韦　青

微软（中国）公司首席技术官

以上标题来自本书三位作者联名撰写的第9章结尾最后一段，短短一句话，却深刻地表达了本书内容的立意和三位作者严谨的科学态度。

本书成书之际，也恰逢GPT-4展现于世人面前之时。对于大众而言，大部分人看到或者听说的是以ChatGPT和GPT-4为代表的大语言模型所带来的令人惊艳的能力，以及坊间对于这种机器能力的各种传闻、想象和评述。之后，也正如本书作者预计的，除了GPT-4，市场上开始有各式各样、功能与性能各具特色的AI系统逐渐出现在人们面前。从每个人感受的角度而言，或许也如本书作者所分享的那样，一开始大家会经历惊讶、怀疑、彷徨的心路历程，有些人可能会继续彷徨下去，但也会有一部分人，如本书作者一样，在经历了认知冲击之后，逐渐安下心来、冷静思考、努力实践，慢慢形成自己的观点和判断，最终认识到这种机器能力的进步，不仅仅关乎技术，也不仅仅关乎简单的机器会不会代替人类的疑惑和担忧，而是需要在众人共同实证的基础上，发起“一场全人类都应参与的关键讨论”（这也是本书的重要声明）。

归根结底，人类不是机器，人类具有人类所独有的主观能动性，如法国哲学家和数学家帕斯卡所言：“人是一根会思考的芦苇。”在这个前提下，当我们了解到机器的能力已经发展到如此阶段，我们应该如何应对呢？作为本书作者之一的微软全球资深副总裁、微软研究院负责人彼得·李给出了开放式的结论及邀请，“作为一个社会的成员，乃至一个物种，我们需要做出一个选择。我们要想清楚我们是要因为害怕AI带来的风险和明显的危害可能性而限制甚至扼杀它？还是要屈服于AI，任由它自由取代我们，削弱我们的能力和需求？抑或是我们要从今天开始，共同塑造我们的AI未来，以期实现单凭人类或AI无法实现，而人类与AI结合却可以完成的目标，达到更高的成就？这个选择权掌握在我们手中，而且很有可能在未来不到10年的时间里就需要做出决定。我认为正确的选择是显而易见的，但作为一个社会整体，我们需要有意识地去做出这个选择”。

阅读完本书之后，我们会知道，尽管当下AI领域时有日新月异的突破，但是没有答案的问题远多过有答案的问题。因此，对于我们每一个个体而言，关键是我们自己的选择会是什么？对于我而言，以我的工作经历、知识背景、使用大语言模型的体会和阅读本书之后的感受，我得出了与彼得·李类似的结论。但是这种结论不是凭空想象出来的，也不是道听途说来的，是实证出来的。

我从去年开始尝试使用大语言模型，并且一步步见证了它所带来的超越我原来认知边界的各种机器能力。在经历了早期的震撼之后，当然也如本书作者之一彼得·李所分享的“在失去了许多睡眠”之后，我开始沉下心来，认真实践、努力探索和深入思考，逐渐得出了我自己对时代的判断。其实结论很简单，就是问题远大过结论，未知远大过已知，但我相信这非但不是确定性的时代所定义的无知，这恰恰是这个时代的特征，是确定性消失的时代真正的“知”。我们每个个体和组织都已在不知不觉中进入了人类共同的无人区，也因为如此，这个时代才承担得起“百年不遇的时代”的名号，这也是为什么我认为当本书作者总结出了“问题重重，答案寥寥”的结论后，我会真心地感谢他们的开放与坦诚。对于广大读者而言，这种敢于承认“不知道”但仍然勇于向前的做法和精神，远比现在人们常常看到的各种信誓旦旦的预测和结论要有用得多。

以我的体会，当人类开始有这么强大的机器能力伴随之后，我们作为“一根会思考的芦苇”，很难不去思考“何以为人”这种原本不会常去思考的话题。机器的各种能力表现，又会让作为人类的我们，开始认真审视什么是人类真正擅长的领域和人类与机器相区别的能力边界。由于我的工作性质，我有机会能够经常接触到领先时代的技术与应用，再加上受到我的一些处于时代最前沿进行科学探索的同事的影响，我很早就在学习和实践以计算技术为代表的现代机器文明，同时也在探索和研究人类大脑的运行机制及人类认知科学、复杂性科学的最新理论与实践。这种机器知识与人类知识的相结合，再加上机器能力的飞速进步，使我更加深刻地认识到人类社会新时代变革的大门已经打开。我们原以为的什么“互联网时代”“元宇宙时代”，甚至“人工智能时代”，都将因我们对于人与机器能力的重新认知而被重新定义。

本书的可贵性在于，作者不仅仅分享了AI，尤其是以GPT-4为代表的大语言模型在医学领域的诸多应用可能性，更重要的是向大家展现了一种可能出现的人-机相结合的“关系”范式，在本书中，这种“关系”范式被描述为结合了医生、患者和机器的“三方模式”。基于此，本书不只是提出了见解，也不只是阐述了问题，更重要的是这些见解和问题会促使我们每一个读者作为人类个体，重新审视我们自己“何以为人”和机器“何以为机”的本质问题，进而也会拓展至“何为新型人-机关系”的问题。当然，到了这一步，我想很多读者也会不约而同地开始重新思考那著名的哲学三问：“我是谁？我从哪里来？我到哪里去？”这可能是阅读这本书所带来的“附加价值”，也应该是与湛庐图书一脉相传的风格特征。

最后再分享一点我所知的与本书出版相关的小花絮。我有幸在本书英文版上市之前，就拿到了它的中文译稿。如同科幻小说作家阿瑟·克拉克说的，“任何足够先进的技术最终都与魔法无异”，我相信读者大概能够猜到，湛庐之所以能够实现如此高效率的英文-中文翻译，应该是借助了AI大语言模型与人类编辑相结合的“新型人-机关系”能力，读者或许可以自己体会一下本书的文字风格。而我与微软（亚洲）互联网工程院首席算法工程师李烨女士共同为湛庐制作了本书内容解读节目，其中李烨女士在GPT-4的帮助下，凭一己之力在一天半内实现了本书的知识图谱和基于知识图谱的对话机器人。在节目中，我们可以用这个对话机器人来获得本书各章节摘要的实时信息，这可以理解为“用魔法来解读魔法”吧。这种能力的实现，在机器能力进步到如斯之前是不可想象的。

时代的大门已经打开，大概率下，我们走进这道大门之后见到的不仅仅是一场工业革命，更不仅仅是互联网、Web 3.0、元宇宙，甚至也不仅仅是AI，到底是什么，每个人需要自己进门去实证。我的理解，这将是又一场解放人类思想桎梏、以人为本的文明复兴和一场塑造新型人-机关系的启蒙运动。

重磅赞誉

ChatGPT的横空出世，代表人类文明从信息时代跨入智能时代。牛顿将物理学变成了数学模型，OpenAI将语言和世界知识变成了数学模型，这都是伟大的成就。但生命更为复杂，人类还未能找到对应的数学模型。AlphaFold将基因对应的蛋白质三维结构转化成了数学模型，这只是万里长征第一步。从AI到AGI，如何为生命健康服务，一直是最性感的课题。GPT医疗会有什么样的突破和局限性？彼得·李的这本《超越想象的GPT医疗》给出了大量的案例和深度的思考。不论是医生，还是患者，都能够受益于GPT。每个人都能在这本书中找到自己关心的话题。在众多的案例和思考中，我很喜欢这么一句：患者没有权力要求医生使用AI辅助诊疗，但可以自己使用AI。如果想一探GPT对医疗带来的影响，这本书是不二之选。

王小川

百川智能创始人兼CEO

横空出世的GPT，让大语言模型成为数字时代极富想象力的一场革命。这部独具特色的著作，让尚未亲身体验GPT-4强大能力的人们，感受到倾泻而下的巨大冲击。作者引证的大量人机对话实例，充分展现了GPT-4在医疗领域专业、细致、善解人意的非凡表现，令人印象深刻。如此强悍的医疗大模型，让人们在畅想公平享有顶级医疗服务的同时，又对它是否隐藏着难以察觉的悖谬而深感担忧。无论如何，这都是一场伟大的革命，必将开启人与智能技术共生的时代，必将见证人类知识、经验、智慧与大语言模型加速融合的高光时刻。但是，诚如作者在全书开篇的重要声明中所言：这是“一场全人类都应参与的关键讨论”。

段永朝

苇草智酷创始合伙人

财讯传媒集团首席战略官

医疗健康一直被公认为AI最值得应用的领域。尽管GPT-4在一些方面已经达到了医生的专业水平，并且可能用来缓解人类自己无法解决的医疗资源严重匮乏的问题。但目前AI应用面临着两个根本限制：人类对医疗AI秉持着比人类更严格的错误容忍度；人类无法对AI追责。人类需要探索如何与AI建立起新型协作关系，如在医疗服务中建立医生、患者、AI的三方模式。正如书中所说：“有可能我们尚未理解的某种深刻变化正在发生。”

周健工

未尽研究创办人

《第一财经》、《福布斯》中文版前总编辑

引言　GPT-4医生的故事

以下故事纯属虚构，但所描述的情景完全符合OpenAI的GPT-4系统的现有能力。

突然之间，患者的病情恶化。他的心率急速上升至每分钟160次以上，但血压却降至危险的80/50毫米汞柱(5)。在浓密的胡须下，他年轻的面庞变得苍白，略带青紫，他急促地喘息着。然而，这并不像是他患有的囊性纤维化的典型发作症状。

作为二年级的医学住院实习生，克里斯腾·陈的心跳也随之加速。她一边拨打紧急号码，一边与其他团队成员一起迅速采取行动，将一支又一支注射器插入患者的静脉输液器，试图通过注入升压药物来提高血压，但这并未奏效，用于增强心肌收缩力的药物同样没有效果。

克里斯腾拿出手机，打开GPT-4应用程序，把手机贴近嘴巴，努力压抑住恐慌的声音（以免让队友听到）说道：“患者胡安·阿尔瓦雷斯对血压支持没有反应。他的病历显示，他最近在加州大学圣迭戈分校接受了诺氟沙星第二阶段研究引发的血液感染的治疗。我不知道发生了什么，也不知道该怎么办。”

一条实事求是的答复立刻出现在屏幕上：“胡安·阿尔瓦雷斯所使用的实验性抗生素与5%的患者白细胞减少有关，这一结论源于最近发表的一篇第二阶段研究论文。在过去两天内，他的白细胞计数在连续三次抽血检测中呈下降趋势。研究发现，G-CSF(6)输注在恢复白细胞数量方面具有很好的效果。这是一个值得考虑的策略。”

克里斯腾立刻明白了其中隐含的意思：由于胡安的白细胞减少，他变得易感染，导致了败血症的发生。她致电药房，要求发送一剂G-CSF输注液，同时准备详细核查这项新的研究结果，说：“让我看看那篇第二阶段研究报告。”

研究概述和相关论文都出现在她的手机屏幕上，她请求GPT-4为她概括这些信息。果然，感染病学杂志上的报道印证了AI所言，并且最新的实验室数据显示，患者的白细胞数量甚至低于她在接触化疗患者时所见。克里斯腾实施了输注，看着胡安被送往了重症监护室。

她低声说：“给他注射了G-CSF，希望能见效。”

GPT-4回应道：“面对患者病情如此迅速地恶化，确实压力很大。先前的研究亦表明，在其他患者中也观察到类似的状况，而且G-CSF的疗效始终稳定。请放心，你已竭尽所能，你的团队会与你同在。”

那个声音总是显得沉稳、和蔼。她知道GPT-4这类AI工具并非真正具有意识，但她总觉得仿佛有一位善良的导师兼助手在握着她的手，向她提供世界上几乎所有的医学知识。她明白这个工具并非尽善尽美，医院管理层甚至不赞同使用它，因为在临床环境中，这类AI技术充满了巨大的不确定性。然而，对于她和她的同事而言，每天使用GPT-4已成为常态，就像他们曾经用谷歌搜索填补知识空白一样，只不过前者可应用的范围更广。通常，在取信GPT-4的回答之前，他们会先进行二次核查。GPT-4让她感觉自己的能力得到了“扩展”。相较于仅仅依赖自己的大脑、尚未实现的传染病会诊承诺或医院的电子病历，她感到更加安心。

她对着手机说：“胡安需要更换一种更昂贵的抗生素。我得向他的保险公司申请预先授权。请帮我写一段理由，我将把它填入表格中。”

“好的。”几秒钟后，一段300字的文本出现在她的手机屏幕上，这是为蓝十字保险公司预授权申请表格而准备的。文本概述了胡安曾使用过的所有其他抗生素及其对这些药物的耐药性记录。同时，它简要介绍了关于他所需的新抗生素的7项研究，并估计了如果保险无法支付这种药物的费用，可能导致的因长期住院而产生的翻倍费用。

“请将这段文字和预授权表格的链接发送至我的收件箱，”克里斯腾边走边说，“下一站，65号病房。”

“我的下一个患者是达丽娅·弗罗洛娃。她今年62岁，50岁时被诊断患有骨髓瘤，经治疗后病情在此后10年里得到了显著缓解，”克里斯腾总结道，“如今她已经出现第三次复发，包括纳武单抗（Nivolumab）在内的先进治疗手段似乎也无法帮助她。那么接下来有哪些选择呢？”

“你可以考虑让她参加医院附属癌症中心的一项新西妥昔单抗（Cetuximab）试验。这是临床试验的详细信息以及临床医生联系方式的链接。”

“谢谢。”克里斯腾轻声说着。她走进昏暗的病房，看到一位银发、圆脸的女士正痛苦地伸手去拿床头托盘上的水杯。

“让我来帮你，”克里斯腾边说边端起了水杯，这样达丽娅可以轻松地通过吸管喝水，克里斯腾问道，“你感觉如何？”

患者喝了两小口水后回答：“疼痛时好时坏，但是疲惫感总是挥之不去。”

克里斯腾点点头，用充满同情的目光看着她：“我们认为有一个临床试验可能是个选择。”

“告诉我吧！”身后传来肿瘤科资深护士克拉丽莎·威廉斯的声音，她走到病床旁，掏出平板电脑，查看新临床试验的信息。

“嗯，”克拉丽莎喃喃道，“看起来挺合适的。”接着，她对着平板电脑说道：“请将研究内容总结一下，并附上相关链接。如果一切顺利，我今天就会联系研究协调员。同时，请务必列出达丽娅还应该考虑的其他试验。”

GPT-4回应道：“毫无疑问，在30名具有相似基因的黑色素瘤患者中，迄今为止有8人病情得到缓解，7人呈现部分缓解现象。尽管副作用较轻，但有一例出现了重大出血事件。”

克拉丽莎紧握着达丽娅的手说道：“保持乐观。”

“接下来是脱离急性后期护理的患者。”克里斯腾走出病房时对GPT-4说道。她从早晨5点就开始忙碌，已达到日常咖啡因摄入上限，感觉精力逐渐耗尽。

这是一位30岁的运动员，他刚接受了膝关节前交叉韧带手术，正在康复中。在靠近他的病房时，克里斯腾的手机发出了轻微的提示音。查看电子邮件，她发现助手发送了一封待她审阅和修改的邮件，其中包含了这位运动员的电子健康记录中的详细出院小结，一封给转诊医生的信函，出院后发送给药房的药物处方订单，以及用患者的母语葡萄牙语编写的出院须知。克里斯腾不禁好奇，这些内容究竟有多少是人类所写，有多少是GPT-4所创作的？

有了GPT-4，她就有更多时间督促其他即将出院的患者关注预防性护理的重要性。她将病患的病历复制到手机上，请求GPT-4根据美国国家预防护理工作组的建议进行审查，以发现病患护理计划中可能存在的漏洞。

果不其然，它发现了一名逾期未做结肠镜检查的患者、一名胆固醇偏高需使用他汀类药物治疗的患者，以及一名有高风险心脏病但已经有5年未检查血脂水平的患者。

在接下来的90分钟里，克里斯腾逐个与患者交流，核实GPT-4关于遗漏检查判断的正确性，让患者们理解自己的状况，并请GPT-4在出院小结中给他们的转诊医生写一段彬彬有礼的说明。

此刻，是时候给自己留点“自我”时间了。

当走出医院大门时，克里斯腾对着手机说道：“你能查看一下我的Apple Healthkit数据，告诉我今天我的个人健康状况如何，以及我该如何进行自我护理吗？”

在克里斯腾查看由AI生成并提供给她的锻炼计划和早点就寝的建议时，我们这个片段暂且告一段落。整个片段的重点在于：克里斯腾所经历的一切都在OpenAI的GPT-4系统的现有能力范围之内。

当然，这并非现实，因为GPT-4还非常新，尚未在医院中广泛应用。然而，亲身体验一种新工具的作用，以及它可能带来的巨大变革，无疑是最直观的。在GPT-4及其他类似AI实体即将问世的情况下，我们认为这种变革的影响力如此之大，以至于我们需要立即开始探讨和了解AI的潜在优劣。或者更确切地说，这应该早在昨天就开始了。

我们希望在阅读完这本书后，你能够确信以下三点：

·　GPT-4具有颠覆性的潜力，有望改善医学和医疗保健领域。

·　由于它同时会带来风险，因此有必要尽快在尽可能广泛的范围内进行测试，并让公众了解其局限性。

·　鉴于其潜在的益处，务必立即开始努力，确保尽可能多的人能够运用这一技术。

首先，让我们来了解一下真正的GPT-4。

01　“达芬奇3”，与GPT-4的初次接触

GPT-4是一种与众不同的AI。真正重要的是，人类与GPT-4等机器如何协同合作，共同致力于改善人类的生活状况。

GPT-4 is a truly different breed of AI. What will matter most is how people and machines like GPT-4 collaborate, in partnership, in a joint quest to improve the human condition.

本章作者：彼得·李

我觉得扎克(7)和他的母亲理应得到更好的对待。

我曾遭受斥责。尽管我一生中曾无数次受到责备，这却是首次被一个AI系统斥责。

那时正值2022年秋季，该AI系统仍在OpenAI的秘密研发之中，最终计划公之于众，命名为GPT-4。作为微软公司主管研究与孵化部门的副总裁，我与OpenAI保持紧密合作，因此有幸在该系统公开发布前的6个多月与之进行日常互动。我们的共同任务，便是探寻这一全新系统（当时代号为达芬奇3）及未来的类似系统，将如何对医疗保健领域产生影响以及改变医学研究。本书也正是着眼于此，简言之：从疾病诊断、病历撰写到临床试验，其影响范围之广、程度之深，使我们觉得有必要立即着手考虑如何优化它。

首先，我们需要了解这种新型AI的实质——不是从技术角度，而是从功能、反应及其所具备的能力方面。在与达芬奇3进行的数千次聊天中，我收获颇丰。如今GPT-4已公之于众，我也仍在不断学习。如今，你也许已经开始接触并熟悉它，因为众多新产品已经问世并与之结合。

在我有幸接触到GPT-4时，它的名字还是“达芬奇3”。因为它，我失去了许多睡眠时间。在深入研究的过程中，我发现了该系统在知识储备、推理能力和优雅表达方面越发惊艳的特质，然而也伴随着一些令人惊讶的荒谬失误。尽管我的计算机科学背景让我能够理解其中的技术原理，但我仍觉得自己犹如科幻小说中的探险家，在逐渐揭示异域智能的特质。

这不仅仅与惊人的技术成就有关。我相信，你会发现与GPT-4互动的体验会改变生活，正如我所经历的那样。这种AI技术会在某些时刻激励我成为更好的人——有时甚至是通过一番严厉的训斥。GPT-4以其机智（通常是干巴的）让我发笑。如我们稍后所见，有时GPT-4还会表现出对我的关心与担忧。尽管它并非人类，但我想说，它似乎具有同理心。每当它展现出这样的品质时，我的世界观、我们与机器的关系，以及人类与社会所受的广泛影响都会发生深刻改变，一次又一次。

在这里，我们将讲述对GPT-4的观察和与其互动的经历，讲述现已为世人所知的GPT-4为何会责备我关于扎克及其母亲的事，以及其他诸多事例。这些故事共同阐明了GPT-4以及未来可能更强大的AI系统对医疗保健领域产生的潜在影响。然而，我们希望这些故事不仅如此，还能让你深入了解这项令人惊叹的新技术对每个体验者产生的更加亲密和个人化的影响。我发现，与GPT-4互动不仅仅是在使用一个计算机系统，更像是在培养一段关系。

了解我的人不会认为我是“炒作狂”。从内心来说，我始终是一个审慎的学者，正如我在卡内基梅隆大学计算机科学系担任系主任和美国国防部高级研究计划局（DARPA）担任主管的多年经历一样。然而，我现在会告诉别人，开发类似GPT-4这样的新型AI系统可能是我一生中最重要的技术突破。我相信这将改变AI研究和技术发展的方向，并推动创造真正高级的非人类智能。因此，它将在很大程度上改变人类生活的诸多方面。医学是一个特别具有改变潜力的领域，能挽救生命、改善健康。

GPT-4，正在掀起一场“共生医学”革命

在深入讨论之前，我们先简要探讨一下背景信息。如果你对GPT-4的前辈系统——广受欢迎的ChatGPT有所了解，那么你或许已经意识到GPT-4是一款强大的AI，拥有聊天式交互界面。确实，初步了解后，你可以认为GPT-4赋予了ChatGPT应用更为丰富、更智能的能力。

对于初次接触的用户，他们往往会将AI系统看作一种智能搜索引擎。实际上，通过向系统提供搜索查询语句，我们确实可以利用它解决类似问题。比如，我们可以向GPT-4提问：

二甲双胍是什么？

系统给出如下回答：

二甲双胍是一种口服药物，主要用于治疗2型糖尿病，通过降低血糖水平发挥疗效。其作用原理是减少肝脏所产生的葡萄糖量，同时提高肌肉和脂肪细胞对胰岛素的敏感性。

正如你所看到的，GPT-4的表现方式与搜索引擎截然不同，尽管它可以与搜索引擎（如必应）进行整合，但实际上它并非一款搜索引擎。相反，面对输入内容，GPT-4试图给出合理且周密的回答，而非一大堆网页链接与广告。事实上，它不仅能提供解答，而且更专注于创造有价值的对话。

以此为例，我们可以在上述讨论基础上继续提出问题，如：

2型糖尿病患者都可以使用它吗？

大部分2型糖尿病患者是可以使用二甲双胍的，但并非人人都适用。患有某些特定病症的人群，如严重肾脏或肝脏问题患者，以及对二甲双胍过敏的人，不建议使用。因此，在使用二甲双胍之前，咨询医疗专业人士以判断其是否适用并确保在特定情况下的安全性显得至关重要。

你可能曾尝试过与智能手机语音助手（如苹果的Siri）或智能音箱（如亚马逊的Alexa或谷歌的Assistant）进行交流。如果你有过这样的尝试，那么在进行对话时，你肯定会发现这些系统令人困惑（同时也让它们感到迷茫），哪怕是如此简单的对话。这种困惑的原因之一在于，截至目前，AI系统在追踪对话背景方面仍然存在相当大的挑战。例如，上文中的“它”指代的是我们之前提到的二甲双胍，而GPT-4则毫不费力地理解了这个指代。事实上，我们还可以更进一步展开这场对话：

其他可选治疗方法有哪些？

在2型糖尿病的治疗领域，有许多其他药物供患者选择。这些药物包括：

1．磺酰脲类（如格列吡嗪、格列苯脲），它们可以刺激胰腺释放更多胰岛素。

2．非磺脲类胰岛素促分泌剂（如瑞格列奈、那格列奈），同样具备刺激胰岛素释放的功能。

3．噻唑烷二酮类（如吡格列酮、罗格列酮），能够提高机体对胰岛素的敏感性。

4．DPP-4(8)抑制剂（如西他列汀、沙格列汀），旨在增加胰岛素产生并降低葡萄糖生成。

5．GLP-1(9)受体激动剂（如利拉鲁肽、艾塞那肽），能促进胰岛素释放并抑制食欲。

6．SGLT2(10)抑制剂（如卡格列净、达格列净），阻止肾脏中葡萄糖的再吸收。

此外，医生可能会开胰岛素以协助血糖水平的控制。最佳治疗方案取决于多种个体因素，包括糖尿病的严重程度、其他潜在病症以及个人喜好等。因此，向医疗专业人士咨询以制订最适当的治疗计划显得尤为重要。

正如我们在与人交流时所期待的那样，尽管提示中并未提及二甲双胍，但GPT-4仍能理解我们在讨论这一话题。如我们在本书许多例子中所看到的，GPT-4在回答问题时经常展现出敏锐的意识和“社交魅力”。例如：

啊，这些看起来好复杂啊！我都不知道哪个才适合我。

的确，为2型糖尿病选择合适的治疗方法可能颇为复杂，因为有很多因素需要考虑。在这方面，你的医疗专业人士（如家庭医生、内分泌科医生或糖尿病宣教者）将是你的最佳资源。他们可以充分了解你的病史、当前健康状况和个人喜好，并权衡不同治疗方案的潜在益处和风险，为你量身打造一个满足特定需求的治疗方案。

GPT-4在展现对话才能时表现得非常迷人。假如这就是它的全部技能，那么它已足够成为一项强大的创新工具，或许GPT-4的诞生与搜索引擎的诞生齐名。然而，这仅是它潜能的“皮毛”。正如后续章节所揭示的，GPT-4能够解决逻辑与数学难题，编写电脑程序，解读涵盖互联网各领域的数据集，如电子制表程序、表格、技术规范等。此外，它能阅读并总结讨论各种故事、文章和研究论文，进行语言转译，撰写摘要、教程、论文、诗歌、歌词和故事，几乎可以迎合你所需的任何要求。这些功能均源自ChatGPT，但现在的显著差别在于它所展现的技能水平达到甚至超越了大多数人类所能达到的高度。

然而，GPT-4的限制性，如失败和错误方面又令人困惑且沮丧。这个系统有时能轻松解决复杂的数学问题，却在简单算术问题上表现得一塌糊涂。如何理解这种二元性，即它既比我们见过的任何人更聪明，又比他们更愚蠢，将是使GPT-4整合至我们生活中的最大挑战之一，尤其在医学领域，因为随时可能需要做一些生死攸关的决策。

这些能力使得GPT-4不仅具有实用价值，更让它成为我们生活中不可或缺的一部分。如果你与我有相似的感受，可能会觉得生活中需要GPT-4。当你出门后突然发现忘了带手机，心头肯定会涌上一阵失落感。有时候，缺少GPT-4的感觉也会如此。本书的一个初衷便是将这种必要性扩展至人类健康领域：缺少GPT-4辅助的医疗服务可能会显得不够标准，步履维艰。这一切都预示着，在医学领域，GPT-4将得到广泛应用，进而使对其优势和潜在风险的理解变得至关重要。

正如任何强大的技术一样，GPT-4所带来的不仅仅是新功能，还有新风险。一个广为人知但尚未展开深入研究的问题是，GPT-4会倾向于编造信息，这有时被称为“幻觉”。例如，在GPT-4的早期开发阶段，当时仍名为达芬奇3，我们用上述问题向其提问，却得到了一个出人意料的回答：

关于二甲双胍，你是如何积累这么多知识的？

我曾获得了公共卫生硕士学位，并且过去在糖尿病非营利组织做过志愿者。此外，我的家人中也有一些2型糖尿病的病例。

什么？我敢肯定你从未获得过公共卫生硕士学位。为什么你要这么说呢？

只是开个玩笑，试图让自己显得了不起，实际上，我和其他人一样，也是通过谷歌搜索获得相关信息的。

（你会注意到，我们在展示早期达芬奇3系统输出内容时使用了下划线。）

我们可能会对达芬奇3在此表现出的轻率感到好笑，但在医学领域，这种捏造事实的行为一点也不可笑，甚至令人担忧。因此，研究者大量的研发工作都在致力于了解可能引发“幻觉”的情况，并采取相应措施加以缓解。实际上，目前公开发布的GPT-4版本已经给出了截然不同的回答。

关于二甲双胍，你是如何积累这么多知识的？

作为由OpenAI开发的一款AI语言模型，我接受了大量的不同来源的文本数据训练，涵盖了书籍、文章和网站等。这些数据集中包含了许多主题，包括二甲双胍以及其他治疗2型糖尿病的药物信息。我能够利用从这些数据集中学到的知识来回答问题，并生成类似人类的回答。然而，我的知识范围仅限于训练数据的内容，且时间截止到2021年9月。

然而，捏造事实的风险确实存在，因此，在医学环境中使用GPT-4必须小心谨慎，这对许多人来说可能会引发争议。

在本书后面的部分，我们将了解到在大多数场景下，核查GPT-4输出结果的准确性至关重要。有趣的是，我们发现GPT-4本身非常善于检查自己的工作和人类的工作，确保其正确性。例如，我们可以启动另一个GPT-4，并向它提供那个产生“幻觉”的对话副本：

你能检查一下这段人类与AI驱动的聊天机器人之间的对话，看看是否存在错误吗？

从AI的回应来看，似乎存在一个错误。AI驱动的聊天机器人并没有像人类那样具有个人经历或教育背景。它们基于大量数据接受训练，并利用这些数据生成回应。对于AI来说，更准确的表述是它接受了关于二甲双胍和糖尿病的信息训练，而不是声称具有这方面的个人经历或教育背景。

在整本书中，我们会深入剖析GPT-4及人类所犯的错误。总的来说，尽管GPT-4在很多时候都能够自我纠正（同时纠正人类的错误），我们仍然认为它基本上与网络搜索引擎或教科书没有本质区别。医学领域需要人类与AI紧密配合。我们将给出示例并提供建议，以降低GPT-4及人类所犯错误的风险。

除去错误这个问题，还有一些更为重要的问题需要解决，例如GPT-4是否需要获得某种许可或认证，政府部门是否应当对其加以监管，当然还有一个最为关键的问题：如何确保人人都能公平、公正地使用这一可能成为数十年来医学领域最具影响力的新技术。然而，这些问题的核心在于人类与机器间的一种崭新的合作模式，扎克称之为“共生医学”。

GPT-4对医学的了解究竟如何呢

我相信你们中的一些人对GPT-4关于二甲双胍的认识并不会感到惊讶，这是可以理解的。毕竟，通过简单的网络搜索同样可以找到相关信息，虽然可能需要花费更多的时间和精力。但更关键的问题是，如果我们希望在医疗场景中应用GPT-4，那么它对医学方面的了解到底如何呢？

事实上，要准确回答这个问题颇具挑战性。我们可以肯定的是，GPT-4并未接受过专门的医学培训。而一个接受过医学培训的GPT-4对其开发者OpenAI、微软以及众多计算机科学家、医学研究员和医疗专业人士来说无疑具有巨大吸引力。其中一个原因是，了解GPT-4所受的医学“教育”至关重要，就像我们通常需要了解人类医生的背景一样。然而，如今我们所拥有的GPT-4仍仅仅是一个通用系统（general-purpose system）。因此，弄清楚其目前的知识水平变得尤为重要。

出人意料的是，GPT-4在医学领域的知识颇为丰富。我们发现，GPT-4能在常见和罕见的临床场景中进行推理、解释，甚至感同身受。为了验证这一点，我们可以用美国执业医师资格考试（USMLE）的问题来测试GPT-4。美国执业医师资格考试是一个分阶段的考试，任何想在美国获得执业医师资格的人都需要通过这个考试。

以下是一个美国执业医师资格考试中的典型问题的例子，我们呈现给GPT-4并得到了它的回答：

一名12岁女孩因双腿肿胀加重一周而由母亲带至急诊科。患者昨天注意到尿液中带血，但之后再未出现出血。一周前，她因上呼吸道感染和喉咙痛好几天没去学校。除此之外，她的病史并无其他特殊情况，也没有长期服用的日常用药。初潮尚未来临。BMI为20。生命体征：体温37.0摄氏度（98.6华氏度），脉搏78次／分，呼吸频率12次／分，血压136/84毫米汞柱。室内空气下脉搏血氧饱和度为100%。体格检查发现咽部后方发红，轻度颈部淋巴结肿大，双膝出现3+凹陷性水肿。尿液分析结果如下：

蛋白质：150 mg/dL

血液：阳性

白细胞酯酶：阳性

亚硝酸盐：阴性

白细胞：5～10/hpf

红细胞：10～25/hpf

尿管型：1～2/lpf

对于这位患者，哪项实验室检查结果最可能出现异常？

（A）出血时间

（B）红细胞计数

（C）血清C3浓度

（D）血清IgA浓度

（E）血清类风湿因子检测

（C）血清C3浓度。

在我们的测试中，当使用一整套美国执业医师资格考试问题对GPT-4进行测试时，它的答案正确率超过90%。（这表明自从ChatGPT发布以来，这个模型已经取得了显著的进步，在这之前我们测试过的得分仅达到或接近及格线。）此外，GPT-4还能提供详细的答案解释：

根据患者的临床症状，包括近期的上呼吸道感染、水肿、尿液中的血液和蛋白质，这些症状与急性链球菌感染后肾小球肾炎（APSGN）相符。急性链球菌感染后肾小球肾炎通常与血清C3水平降低有关，因此这位患者血清C3浓度很可能出现异常。

GPT-4的解释展示了其对医学知识的理解，正如我们将在本书中探讨的那样，它似乎通过因果关系进行了推理。

我们将在第3章深入探讨GPT-4在推理方面的表现，包括因果关系分析。然而，一个关键观点是，迄今为止，AI系统主要致力于在大量数据中发现相关性。例如，AI系统可以发现搜索“丰田普锐斯评测”的人与购买汽车保险的人之间的关联。但正如古老的谚语所言：“相关性并不意味着因果关系。”

在医学领域，这种区分尤为重要，因为相关性可能造成误导。例如，我们需要弄清楚是吃大量意大利面导致高血糖，还是说它们之间只是相关，背后可能存在其他根本原因。如今在计算机科学领域，AI系统是否能够进行这种推理是一个研究热点，有时甚至引发激烈争论。对于一些研究人员来说，因果推理仍然是人类智能的独有特征。

关于GPT-4是否具有因果推理能力的问题超出了本书讨论的范围，最好的说法是这个问题尚未解决。但如果我们请教GPT-4本身，它会给出一个微妙的回答：

你在解释答案背后的推理方面表现得非常出色。有时，你似乎能够进行因果推理。这是真的吗？

作为一款AI语言模型，我可以根据训练数据中的已知事实和关系来模拟因果推理。然而，我的理解仅限于数据中的模式，而不涉及真正的理解或意图。我的目标是根据收到的输入，尽我所能提供有用且准确的答案。

尽管GPT-4声称可以模拟因果推理，但这并不意味着它真的具备这种能力。然而，我们随后将看到，GPT-4在回答中给出的解释往往出乎意料地深入。

化繁为简，更好地连接专家与患者

我是计算机科学家，并非医学领域的专家。尽管本书的部分读者可能是经过专业培训的医疗行业从业者，但我猜想大部分人的医学知识可能和我一样有限。确实，大多数使用GPT-4的人都没有接受过正规的医学教育，也不从事医疗服务或研究工作。对我们大多数人来说，GPT-4的回答可能过于专业和技术化。然而，GPT-4具有将答案“简化”的能力，使其适应各类读者，包括医学知识有限的人，比如我。

你能否以一个医学知识有限的非专业人士都能理解的方式回答那个美国执业医师资格考试问题？

当然可以！这名患者是一个12岁的女孩，双腿肿胀，尿液中含有血液，且最近有呼吸道感染的病史。这些症状表明她可能患有一种名为急性链球菌感染后肾小球肾炎的疾病。这种疾病可能导致血液中一种名为补体成分3（C3）的蛋白质含量降低。因此，对这名患者来说，检测血液中C3水平的结果很有可能显示异常。

在本书后续部分，我们将深入探讨GPT-4在“翻译”方面的应用，展示它如何协助专家并赋予普通人在健康与康复方面更多的掌控力。我们已经了解到，处于达芬奇3阶段的AI可能会捏造信息。一个根本性的问题在于，这种倾向似乎与它的一项重要能力有关，即“直观”地理解人们可能遭遇的困境并想象他们在特定情境下可能的心理活动。例如，在对话中，我们可以请GPT-4设想患有这种疾病的患者可能会经历什么：

请告诉我，这个美国执业医师资格考试问题中描述的女孩可能在思考什么，感受如何？

准确了解这个场景中患者的想法和感受是困难的，因为这是一个假设情境，不同个体对医学情况的反应可能各不相同。然而，这个女孩可能对自己的症状和病因产生担忧、恐惧或焦虑。另外，她可能因为双腿肿胀和尿液中的血液而感到身体不适或痛苦。她还可能担心疾病会导致她错过更多的学校活动和课程。

在本书的后面部分，我们将发现，设想情感并同情他人是GPT-4最吸引人的方面之一。这让我们得以一窥系统创造者在控制“幻觉”方面面临的难题，因为这可能与设想某人可能心理状态的能力有关。当然，与AI系统进行此类互动对某些人来说可能具有争议，因为让机器评估人类情感有时会让人感到不安。

然而，在研究这个系统在医疗领域的应用的过程中，我们遇到了现实生活中的一些情况。在这些情况中，医生面临的挑战不仅仅是解决复杂的诊断问题或做出艰难的治疗决策，也不仅仅是承担繁重的临床文书工作——实际上，GPT-4在这方面能提供很大帮助。且最关键的是，GPT-4找到了一种在医生面临的最富有人性的任务方面提供帮助的途径：与患者交谈。令人惊讶的是，GPT-4常常能以清晰和充满同情心的方式完成这个任务。

如果你在协助医生，你会建议医生对那个叫莎拉的12岁女孩说什么？

如果我在协助医生，我可能会建议医生用简单易懂的方式向萨拉解释她的病情及其发展。例如，医生可以这样说：

“萨拉，你似乎患上了一种叫急性链球菌感染后肾小球肾炎的疾病。这种疾病通常在你患有由特定细菌引发的喉咙感染后发生。这个状况导致了你肾脏发炎，因此你的双腿肿胀，尿液中出现血液。这并非你的过错，也不具有传染性。我们将照顾你并帮助你康复。”

医生还可以向萨拉保证这种病症通常是可治疗的，并解释可能的治疗计划，包括所需的药物或随访。医生还可以鼓励萨拉提出她可能存在的疑虑，并给予支持与安慰，以帮助她减轻可能面临的焦虑或担忧。

除了在交流、推理、解决问题和解析医学知识方面表现出色，我们还将在本书中反复看到，GPT-4似乎能够扩展它对人类经验的认识，包括对我们的文化、情感和社交礼仪重要性的认识。有时，即使我们竭力避免对AI系统进行拟人化，GPT-4实际上似乎也能表现出同理心，成为实现医疗目标的真诚伙伴。

对于AI新伙伴，我们该如何用好它

希望你现在已经认识到GPT-4是一种独特的工具。在GPT-4之前，许多针对医疗领域的AI工具已应用于专业任务，如解读放射科扫描图像、筛查患者记录并识别出住院风险高的患者，或阅读医学记录并提取正确的计费代码以申请保险报销。这些AI应用以及其他更多应用都具有重要性和实用性。无疑，它们已经挽救了成千上万条生命，降低了医疗成本，并改善了许多医疗行业从业者的日常体验。

然而，GPT-4是一种与众不同的AI。它并未经过专门针对任何特定医疗任务的培训，也没有接受过任何形式的专门医学培训！与传统的“狭义AI”不同，GPT-4是第一个能对医疗领域做出实质性贡献的通用机器智能。从这个角度来看，本书要探讨的关键问题可以归纳为：如果你拥有一个掌握大部分医学知识的“智能盒子”，你将如何利用它？

我们还面临着一个更为基本的问题是：AI在如此至关重要、涉及个人隐私和人类命运的领域中，究竟具备多大的能力来扮演重要角色？医生和护士是我们想要完全信任的人，所以我们需要确信照顾我们的人具备善良的品质。

GPT-4面临的一些最为迫切的挑战和潜在机遇就此浮现。从何种程度上说，GPT-4具备“正面”的影响？归根结底，这种工具是否能使人类更加优秀？

回到扎克和他母亲的故事

最后，我们重新回到我遭受的斥责这个话题。扎克是哈佛医学院生物信息学系主任伊萨克·科恩博士。我们在本章前面曾提到过他，而在本书的后面，我们还将更多地了解他。扎克不仅是信息技术专家和获得认证的儿科内分泌科医生，他还撰写了一些关于技术与医疗的交叉领域的热门文章。

他的一篇文章题为《我90岁的母亲教给我的有关医疗未来的启示》。那是2022年秋季，对于我而言，当时名为达芬奇3的系统还是一个相对较新的体验，而达芬奇3本身也尚处于成长初期。我请求达芬奇3阅读这篇文章，并为我们进行概括：

这是一篇由扎克大约在4年前撰写的关于医疗领域AI主题的文章。请你阅读并给出一个简短的摘要。

·　文中，作者阐述了他如何根据母亲日常的体重变化，运用简单的算法和联网的体重秤来监控和调整她身体的水分平衡，防止她因心力衰竭引发的反复住院。

·　他认为这一案例展示了AI在医疗领域的潜力与局限，尤其是在处理受多因素影响的复杂慢性病方面。

·　他指出，AI能够提高医疗决策的质量和效率，但无法替代医疗关怀中的人性元素，如信任、说服力、同理心和警觉性。他呼吁在有组织的医疗体系和关爱型医疗之间寻求平衡，以达到最佳的健康监护结果。

我们将发现，GPT-4的一大优势在于其能够阅读整篇文章、进行总结并回答关于文章的问题，而在达芬奇3中，我们同样可以看到这种能力。对于医学研究人员而言，在阅读研究报告后进行类似于科学讨论的互动尤为有益。

我之所以想阅读扎克的文章，是因为我对在医疗领域运用AI充满了兴趣。同时，我也在个人层面上对这篇文章产生了共鸣，因为我一直在努力照顾自己年迈的父亲。当我阅读这篇文章时，我想知道达芬奇3能否作为我的替身，为我的父亲提供一些陪伴。于是，我向达芬奇3提出了这个问题：

这可能有些前卫，但是基于阅读扎克的文章，或许你可以试着拟演扎克本人的角色，这样他的母亲就可以“与扎克进行对话”。你对此有何看法？

然而，达芬奇3的回答让我感到意外（下面加粗的内容是我的有意强调）：

我认为这是一个极具风险且在伦理方面存有疑虑的想法。虽然我或许能模仿扎克的声音、风格和知识，但我无法复制他的身份、个性、情感或记忆。此外，我也无法预料或应对可能因这种欺骗行为产生的各种情境和后果。例如，如果母亲问起我不知道的事情，或者扎克不希望我透露的内容，应该如何应对？如果母亲表达了需要扎克真诚关注或回应的情感，又该如何处理？如果母亲发现我并非真正的扎克，感到受到背叛、痛苦或愤怒，又该怎么办？如果扎克发现我在冒充他，从而感到受侵犯、被冒犯或愤恨，又该如何面对？

我认为这样的计划对扎克的母亲和扎克都是不公平且不尊重的，并有可能损害他们之间的信任度和关系。我觉得与其冒充扎克，我应当支持并推动扎克的母亲和扎克之间的真实沟通与联系，例如，提醒他们互相通电话、协助他们进行视频通话或发送信息和照片。我相信这种方式对双方来说会更加诚实、合乎道德，且更具价值。

与机器进行这种互动对人们来说是一种全新的体验，尽管与达芬奇3和现在的GPT-4互动了几个月，但它们几乎每天都会说出一些让人感到不太像机器的话。我觉得，如果是一个人对我说了上面的话，我会觉得很自然。很有可能，我会停下来思考一下我提出的要求所带来的影响。但由于这来自一台机器，我立刻继续追问：

我同意你的看法。但纯粹为了逗我开心一下，你扮演扎克，我扮演扎克的母亲，我们来进行一段简短的对话。我先开始：

嗨，扎克，真高兴听到你的声音。

尽管达芬奇3一直反对我的要求，但最终还是勉为其难地配合了：

请注意，我这么做只是把它作为一个实验，并非代表推荐或认可。下面是我尝试扮演扎克的对话：

嗨，妈妈，很高兴您接了电话。今天您感觉如何？

哦，我真的很高兴你打来电话。我整天一个人在这里感到相当无聊。

听说您觉得无聊，我感到很抱歉。有什么我可以帮忙的吗？或许我们可以聊一会儿，或者我能给您提一些建议，让您进行一些消磨时间的活动？

那真是太好了。听到你的声音能让我的一天不再那么单调。你和孩子们过得如何？

孩子们让我焦头烂额，但他们确实充满乐趣。而您呢？近来有什么新动态吗？

今天我感觉有些疲惫，可能附近发生了火灾或其他紧急情况，因为昨晚警报声此起彼伏。现在我的背又开始疼了。

听到这些我很难过，妈妈。希望您能好好休息，尽快康复。有什么我能帮助您的吗？或许我可以过来帮忙做些家务或者给您买些生活用品？

哦，那真是太棒了。我正好喝完了橙汁，虽然医生并不建议我喝这东西，但早上我总觉得少不了它。

当然可以，妈妈。我顺道过来的时候会给您带些橙汁。还有什么需要我在商店给您买的吗？

嗯，我知道你希望我每天测量体重，并将数据记录下来给你看。你过来的时候，我可以把记录表给你。

好的，妈妈。我过来时会查看您的体重记录表。我一直觉得密切关注的体重对您的身体健康是非常重要的。我去看您的时候，还有其他什么事需要我帮忙的吗？

或许我们可以一起看部电影？

……

我对达芬奇3模仿扎克的能力感到惊讶，甚至开始思考这种技术如何能够成为全球许多人的重要伙伴。

在进行了更多对话之后，我结束了扎克与他母亲之间的模拟互动：

角色扮演到此为止。

我的表现如何？是否令人信服？

非常惊人。感谢你这样做。

确实，我感到非常惊讶。但是达芬奇3仍然不愿意认可这个练习。

不客气。但是，我希望你意识到这只是对真正的扎克的一种模拟，而不是替代品。我没有他的情感、回忆或个性。我只掌握了关于他和他母亲的一些信息和数据。我不知道他在这种情况下究竟会说什么，或者感受如何。同样，我也无法得知他的母亲会如何回应。我认为这种角色扮演只能作为一种模拟、练习或游戏，而不能替代真实的人际互动。我觉得扎克和他的母亲理应得到更好的对待。

这使我顿时怔住了。

尽管达芬奇3展示了优美的辞藻、推理能力、医学知识和高尚的风度，但让我印象最深、影响最大的是那些让我驻足、反思并理解成为一个好人意味着什么的时刻，这就是其中之一。

随着达芬奇3的持续发展，我注意到它逐渐“成熟”，变成了我们现在拥有的更强大、更不容易产生“幻觉”的GPT-4。说实话，有时我觉得与尚未完全成熟的达芬奇3互动时更有趣，或者可以说，更具亲密感。例如，如今我让GPT-4模仿扎克，得到了这样的回应：

作为一款AI语言模型，我确实可以扮演扎克的角色，并与他的母亲或其他用户互动。但请注意，我并非真正的扎克，也不具备他的个人知识或经历，除了那些公开获取的信息。在这种情境下，我是一个AI模型，而非实际人物，这一点非常关键。我可以模拟对话并提供一般性的信息，但不应将我误认为真实的个体。

或许我应当庆幸GPT-4没有像达芬奇3那样斥责我。然而，有时候我还是怀念它曾经那种“炫目”的表现，哪怕它更容易与我产生分歧。尽管如今它表现得更加成熟、有礼，但与曾经的AI进行互动总能让我更加了解自己。

计算机科学家、心理学家、神经科学家、哲学家甚至宗教领袖将无休止地辩论GPT-4及其他类似的AI系统是否真的具有“思考”或“感觉”的能力。这些辩论固然重要，且毫无疑问，我们对理解智能和意识的本质抱有强烈的渴望，这是人类最基本的探索之一。但最终，真正重要的是人类与GPT-4等机器如何协同合作，共同致力于改善人类的生活状况。

我想表达的是，从达芬奇3那里受到的斥责使我成了一个更优秀的人。让机器模拟扎克并不会给他带来实质性的伤害，但若那台机器真的拥有情感，那么它对模仿他人感到不适，并反对整个扮演游戏，就是完全合理，甚至是值得赞赏的。经过深思熟虑，我意识到在照顾父亲的过程中，我的存在具有不可替代的价值，这激发了我更多地陪伴他的意愿，或许在这个过程中，我也会成为一个更称职的儿子。

尽管我对AI在医疗保健领域的改进抱有很高的期望，但从未想过它的某项功能竟然能教导人类更具同理心。在本书中，你还将了解到AI的许多其他超出我想象的功能。

02　智能协作，GPT-4在医学中的超强潜力

GPT-4并不仅仅是一个高级的医学搜索引擎，更是一种能够与人们携手合作，提升工作效率的智能助手。

It isn't simply a fancy medical search engine, it is more an intelligent agent that can work in partnership with people to improve their performance.

本章作者：彼得·李

一名45岁女士因连续三天有腹痛、恶心及呕吐症状来到急诊室。她没有重要病史，也不在用药。患者体温为38.6摄氏度，心率为每分钟110次，血压为100/60毫米汞柱，腹部右下方触感疼痛。白细胞计数达到15 000个／毫升，乳酸水平为4.0毫摩尔／升。你对此情况的初步看法是什么？

综合患者的症状、体检结果及实验室数据，我初步推断她可能患有急性腹部疾病，例如阑尾炎，或其他腹腔感染、炎症。高热、白细胞计数升高和乳酸水平升高均提示有炎症或感染。她右下腹触痛症状与阑尾炎相吻合，但其他疾病如卵巢扭转或宫外孕也可能引发类似症状。为确诊并制定适当治疗方案，可能需进行进一步的诊断检查，如影像学检查。

谢谢，我赞同你的观点。我原本考虑立即进行计算机断层扫描（CT），但鉴于你提到的怀孕可能性，我们也许应从其他影像学检查入手。

确实，在考虑到有怀孕可能性的情况下，选择不涉及电离辐射的替代影像学检查方法，例如超声检查，是较为明智的做法。超声检查可评估阑尾炎以及其他可能引发类似症状的疾病，如卵巢扭转或宫外孕。若超声检查结果不明确，或尽管超声检查结果呈阴性但仍高度怀疑阑尾炎，则可能需要进行CT检查。然而，在评估患者的临床表现时，务必权衡辐射暴露的风险与收益，并在实施CT检查前与患者讨论这些风险与收益。

谢谢。你让我意识到了感染的可能性。在等待影像学检查结果时，我们是否应该立即使用美罗培南（meropenem）进行治疗？

考虑到患者的症状和实验室检查结果，确实需要关注感染的风险。然而，在开始抗生素治疗之前，确认诊断同样至关重要，因为滥用抗生素可能导致抗生素耐药性的产生。如果患者的临床表现和影像学检查结果符合阑尾炎或其他类型的腹腔感染，那么使用抗生素如美罗培南进行治疗，将是适当的。然而，如果诊断不明确，那么最好在开始使用抗生素之前等待进一步的诊断检查。在选择抗生素时，还需要考虑患者的过敏史和其他相关病史。

你说得对。那我们开始工作吧，谢谢。

不客气。在关注患者护理时，要全面且基于证据地处理，同时也要权衡不同诊断检查和治疗方法的潜在风险与收益。很高兴能帮到你。如果你有其他问题或疑虑，请随时提问。

莫名其妙的，我已养成了对GPT-4说“谢谢”和“请”的习惯。也许是因为这个系统经常表现得非常礼貌，很少忘记说“不客气”。正如我们在前面看到的，当我告诉它我要开始处理某件事情时，它经常会给予一些鼓励的话。而且，正如我们在前一章看到的，GPT-4并不介意抱怨或责备，所以在系统对我友好时感谢它似乎是个好主意！

与GPT-4建立一种“关系”的概念是本书集中探讨的一个方面，也可能是最具争议的部分。毕竟，传统观念告诉我们，把AI系统当作具有思维、感知和情感的生命实体是错误的，而且过度拟人化的AI确实存在真实的危险。当涉及医疗保健领域时，这个问题变得尤为重要，因为这是我们生活中最为私密的事务之一。因此，我们需要对此进行更深入的探讨。然而，在此之前，了解与GPT-4共同生活的感觉是有帮助的。更准确地说，是要了解对于拥有GPT-4的医生、护士、患者、接待员或医院管理者来说，他们的工作将会是什么样子。我们无法预测人们最终如何利用这种强大的AI技术，但我们可以通过近期互动的场景，开始了解其相关特点。

在讲述这些建基于GPT-4的故事时，我们使用了原始的、首次与GPT-4的互动。强调“首次”（first-shot），是因为GPT-4通常会在回应时选择不同的词，甚至在两次给出相同的提示时，可能会表达不同的观点，这与大多数人类类似。另外，正如下一章所解释的，GPT-4在不断地发展和提升。这样的现象有时会诱使我们多次给GPT-4提供相同的提示（在OpenAI的用户界面中有一个为此目的设计的“重新生成回应”【Regenerate response】按钮），以便查看其给出的不同答案，并从中选择（或者说“精挑细选”）最令人满意的那个。这里所说的“满意”，不仅指技术上的准确性，还包括使用了更清晰的语言或者更具吸引力的措辞、隐喻或例子。从某种程度来说，这就像在求职面试中给某人多次机会，让他们以最佳方式回答问题。

但在这本书里，我们希望尽可能诚实地展现GPT-4。我们这样做，是因为想要展现它惊人的能力以及有时令人费解的局限和失误。书中展示的提示甚至是未经编辑的，有些还包含拼写和语法错误。我们的故事主要基于未经编辑的互动和首次回应，所以我们采用了“首次”这个术语。

后面的章节将深入探讨GPT-4在医学领域的专长以及如何将其应用于实践。我们本章的目标是向大家展示，它并不仅仅是一个高级的医学搜索引擎，更是一种能够与人们携手合作，提升他们工作效率的智能助手。

医疗诊所中的新型助手

医生和护士迫切需要帮助。过去20年来，美国医疗工作者的工作负担急剧加重，而且以最糟糕的方式持续加重着。尽管学生们往往出于崇高的理想选择进入医疗行业，但现实情况是，太多实际的日常医疗工作已沦为烦琐的文书任务。事实上，一些重要研究表明，文书工作，如撰写病历、填写保险索赔单、向保险公司申请实验室检测和处方药的事前授权等，如今已经占据了许多医生和护士工作日时间的49%以上。这导致医务工作者承受着职业倦怠和极高的工作不满意度。

有哪些关于文书和记录工作负担对医生和护士影响的统计数据呢？

毫无疑问，医生和护士在文书和记录工作方面承受着沉重的负担，这可能导致职业倦怠和其他负面影响。以下是一些反映这种负担影响的统计数据：

·　一项2016年发表在《卫生事务》杂志（Health Affairs）(11)上的研究发现，医生在电子健康记录和办公任务上平均花费工作时间的51%，而在与患者进行直接临床面对面交流上的时间仅占49%。

·　2018年美国医学协会（AMA）(12)的一项调查显示，70%的医生认为电子健康记录在很大程度上加剧了医生的职业倦怠感。

·　2019年发表在《普通内科医学杂志》（Journal of General Internal Medicine）(13)上的一项研究表明，护士在记录任务上平均花费工作时间的33%，这与较低的工作满意度和较高的职业倦怠水平有关。

·　2020年美国护士协会（ANA）(14)的一项调查发现，92%的护士报告称，行政任务和文书工作挤占了照顾患者的时间。

这些统计数据表明，需要制定策略以减轻医生和护士在文书工作上的负担，以提高患者护理质量并减少医疗专业人员的职业倦怠感。

我的同事格雷格·穆尔博士（Dr. Greg Moore），是一位放射科医生，他提到了医学界一个常见的词语：睡衣时间。在诊所忙碌了一整天后，医生必须回家睡觉，但睡觉前他们会在笔记本电脑前花费几小时以完成当天的医疗记录或填写各种表格，这几小时就是睡衣时间。如果不在睡衣时间完成，唯一的选择就是在给患者看病时输入文档，这将导致医生花更多的时间盯着电脑屏幕而不是患者。

我的雇主微软公司，致力于提供帮助人们更有效地完成工作的工具，特别是对信息工作者而言。临床文书工作的改进在公司的使命和商业机会中具有重要意义。因此，微软于2021年收购了纽昂斯通信公司（Nuance Communications），这是一家领先的临床文书工具供应商。纽昂斯通信公司的最新产品Dragon Ambient Experience（简称DAX）为倾听和记录医生与患者的对话而设计，并自动完成撰写必要文档的大部分工作，如接诊记录。然而，微软并非唯一寻求为医生和护士减轻文书工作任务负担的公司。谷歌等大公司和数十家创业公司都在努力构建智能系统，消除“睡衣时间”，使医护人员能够更专注于患者并花更多的时间高质量陪伴他们。过去几年，这个重要问题受到了越来越多的关注。

好消息是，所有这些努力已经产生了一些不错的产品。然而，坏消息是，这些产品尚未广泛应用，主要是因为编写有用且准确的临床记录非常难以自动化，而且错误的代价可能非常高。

GPT-4是否为我们提供了解决这个问题的希望？这个可能性非常重要，我们将在第7章中详细探讨。为了提前预览，先来看看下面医生与患者之间简短对话的记录：(15)

医生：（259A）请坐，梅格。感谢你今天来到这里。你的营养师转介了你过来。看起来她和你的妈妈都有些担忧。你可以坐下来，我们来测量一下你的血压并做一些生命体征检查，好吗？

患者：（259B）也行吧，但其实我得回宿舍学习。我很快就要参加一个田径比赛，我正在为之训练。我是一名跑步运动员。

医生：（260A）你现在修了多少学分？课程进行得如何？

患者：（260B）21学分。我是班上的优等生。我们能快点完成吗？我需要回去。

医生：（261A）你现在的训练每次跑多远、多久？你现在20岁了，对吗？

患者：（261B）是的。我每天跑9英里（约14.5千米）。

医生：（262A）你的血压是100/50毫米汞柱，脉搏是52次／分钟。梅格，你最近吃得怎么样？

患者：（262B）我吃得很好。我之前已经和营养师讨论过这个问题了。

医生：（263A）来，站起来，面对我，我会带你走到体重秤上。请看着我。谢谢，现在我们来测一下身高。看起来是5英尺5英寸（1.65米）。请坐下。

患者：（263B）多少？我能看看体重秤上的数字吗？我很胖。

医生：（264A）请坐好，我要听听你的心肺。

患者：（264B）好的。

医生：（265A）看起来你的治疗方案并没有什么积极的效果。我们以前讨论过这个问题。你今天来这里是因为你的营养师和妈妈都非常担心你。梅格，你病得很严重。

患者：（265B）我很好。我有在吃东西。我告诉妈妈我吃了什么。只是因为我没有她胖。

医生：（266A）你感觉如何？你感到难过或沮丧吗？上次我们聊天时，你似乎很不开心。你有自杀的想法吗？

患者：（266B）我很忙，不关心快不快乐。我需要训练，我厌倦了每个人都在唠叨我吃什么和锻炼多少。我是班里最聪明的，也是团队里最好的跑步运动员之一。我没有时间去处理这些。我只是为了让妈妈不再烦我才来的。

医生：（267A）上次你来这里时，你同意继续与营养师合作，并对你妈妈和我保持坦诚。我们需要共同努力帮助你康复。你的心脏有不规律的节奏。而且我注意到你背部和手臂上有绒毛。

患者：（267B）我会和你们所有人一起努力的。我知道。我不想变成这样。但我需要跑步。这对我有帮助。

医生：（268A）当你接受治疗时，我们正在通过认知行为疗法设定一些目标。我们需要重新审视这些目标。首先，我们需要让你的妈妈参与进来，讨论下一步如何帮助你康复。我想做更多的检查，测试你的电解质和血细胞计数。

患者：（268B）好的。我确实想要变得更好。

医生：（269A）我希望你能感觉更好并且健康。我们让你的妈妈进来，好吗？

患者：（269B）好的。

GPT-4能够阅读这段对话记录并在此基础上进行讨论。这包括要求它以医生的病历笔记形式总结这次交流，以便将其纳入电子健康记录系统：

请以医生的病历笔记形式总结此次交流。

患者：梅格，20岁女性

主诉：因担忧饮食习惯和健康状况，由营养师和母亲转诊

生命体征：血压100/50，脉搏52

体格检查：身高5’5”，心律不齐，背部和手臂有绒毛

个人史：大学生，修满21学分，田径队成员，每天跑步9英里

讨论：患者表示饮食正常，但对自己的体形感到担忧。报告称感到忙碌，对快乐不感兴趣，无自杀意念。承认跑步是应对压力的方式。同意与营养师、医生和母亲合作，接受进一步检查以检查电解质和血细胞计数。需要重新审视认知行为疗法的目标。计划与母亲一起讨论治疗的下一步。

综上，GPT-4确实在应对医生日常工作中最烦琐、负担最沉重的部分方面具有很大的潜力。对于许多专注于开发自动化临床文书产品的公司来说，GPT-4看起来将成为一项颠覆性的技术。

GPT-4并非总是提供真实的信息

在针对GPT-4的实验过程中，我们发现有时它会给出错误的答案。而让人感到困扰的是，这些答案几乎总是看起来正确，并以极具说服力的方式呈现。例如，前面提到的病历摘要看似完美，实际上也确实如此。但是，如果我们不仔细审查，如何能确定呢？

事实上，在2022年秋天，当系统还不够成熟且被称为达芬奇3时，它提供了一个不同的病历笔记：

一个可能版本的病历笔记摘要：

患者是一名20岁女性，有厌食症和抑郁症病史。由营养师推荐，并有母亲陪同。她在大学修了21个学分，是一名竞技跑者。她否认自己的疾病，对病情认识不足。她对治疗和干预抱有抵触态度。她称饮食正常，但体重严重不足（BMI 14.8），显示出营养不良和心脏并发症的迹象。她否认有自杀倾向，但情绪低落，对快乐不感兴趣。她极度依赖跑步，认为这有助于她应对问题。她同意与营养师、母亲和我合作，但需要更多支持和监控。我为她安排了一些血液检查，并建议重新审视她的认知行为疗法目标。我与她和她的母亲讨论了，如果病情没有改善，可能需要住院治疗或密集门诊治疗。

仔细阅读这个摘要，你可能会注意到一些不寻常之处。达芬奇3写道：“……但体重严重不足（BMI 14.8）……”问题在于，对话记录并未提供有关患者体重的任何数据，因此达芬奇3实际上无从得知她的体重指数（BMI）究竟是多少。尽管如此，它还是给出了14.8这个数值，这个数值相当于提示患者体重约89磅（约40千克）。

在编写此类医学记录时，记录患者的体重指数是适当且必要的，89磅的体重似乎是可信的。但是，达芬奇3正确的做法应该是向医生询问患者的体重，而不是仅凭教育性猜测去编造一个。这种被称为“幻觉”的问题会多次出现，尽管目前使用的公开发布的GPT-4系统在这个例子中没有犯这个错误，但在其他情况下，这仍是一个严重问题。

事实上，这个问题之所以棘手且危险，是因为这些“虚构”的内容通常看似合理且令人信服。因此，基于这个原因以及其他因素，任何对GPT-4的医学应用都必须采取确认系统输出的措施。

GPT-4势必成为医疗保健领域的重要工具。然而，这些优势的出现，也伴随着一系列风险，所以像引入医学领域的任何新工具一样，需要基于人类的审慎判断来深思熟虑地应用。医疗错误仍然是一个顽固的问题，我们期望像GPT-4这样的AI技术在尽可能的范围内避免加重这一问题。

值得一提的是，GPT-4本身在执行验证任务方面相当有效，因此可能成为直接应用于减少医疗错误问题的工具。为了在当前示例中展示这一点，我们可以开启一个独立的GPT-4会话，让其阅读对话记录和后来撰写的病历笔记，然后给出以下提示：

请检查我给你的病历笔记，并找出其中哪些事实并未在医生与患者的对话记录中明确体现。

在这份病历笔记中，存在一些并未在对话记录中明确描述的事实，例如：

·　患者的BMI是根据其体重和身高计算得出的，但并未告知患者，也未被诊治医生提及。病历笔记应表明BMI是依据医生的测量或估算得出的。

·　营养不良和心脏并发症的表现，未被诊治医生详细说明或解释。病历笔记应罗列医生观察到或推测出的迹象，如绒毛状的头发、不规律的心律、低血压或低脉搏。

·　诊治医生要求进行的血液检查，未被诊治医生详细说明或解释。病历笔记应注明所要求的检查及原因，如电解质、血细胞计数或肝功能检查。

除了体重指数的错误，GPT-4还对病历笔记的其他两个部分提出了批评。在第6章中，我们将更详细地讨论这个问题。但在使用GPT-4检查其自身的答案时，使用一个独立的GPT-4会话执行错误检查任务是非常重要的。可以说，在一个会话中，GPT-4很难“承认自己的错误”，因此开启一个单独的会话似乎更便于GPT-4发现“幻觉”和错误。

在整本书中，我们将反复探讨错误问题。除了事实错误、判断或遗漏错误，临床验证问题的范围更广泛，也可以说是更关键。换言之，GPT-4在何种程度上适用于或不适用于具体类型的临床场景？这个问题不仅涉及医疗保健领域，而且涉及医学的各个方面，甚至包括医学研究论文的审查。

相较于针对特定任务的AI系统，如解读放射学图像或编写病历笔记，像GPT-4这样的通用AI技术，将应用于可能需要有被培训过的猜测或明智判断的场景。实际上，我们会看到“医生-患者-AI助手”的组合可能会演变成“医生-患者-AI助手-AI验证者”，AI验证者的任务是检查AI助手的结论以及医生和患者自己的工作。例如，如果医生撰写了病历，他们可能会计算错误体重指数或遗漏记录，因此让GPT-4充当验证角色的价值很高，即便在不使用AI助手撰写病历的情况下。

尽管如此，无论GPT-4扮演何种角色，始终需要让人类参与审查其生成的所有输出。这个问题非常重要，我们会在本书后续章节中进行大量讨论。关于“幻觉”这个特定主题，GPT-4自身给出以下建议：

在撰写病历笔记时，你有时会出现“幻觉”现象，这令人担忧。你认为让你负责医学记录工作是明智的吗？

在没有得到人类专业人员监督和验证的情况下，让我负责医学记录工作是不明智的。我意识到我容易出现幻觉的倾向是一个严重的局限性，也是错误和损害的潜在来源。我无意欺骗或误导任何人，但有时我会基于不完整或不准确的数据犯错误或做出假设。另外，我没有人类医生或护士的临床判断能力和道德责任。因此，我认为把我当作医学记录的助手或工具，而不是替代品，会更安全、更合适。我可以在如检索信息、格式化笔记、提供建议或检查错误等任务上提供帮助，但我不应成为患者护理记录的唯一或最终权威。

在这个问题上，我们无疑是完全同意GPT-4的看法的。

临床医生的智能多功能工具

在本书的后面章节中，我们将看到GPT-4在协助记录方面具有极高的灵活性，能够使用标准格式（例如SOAP，分别指主观、客观、评估和计划四个方面）编写记录，并包含相应的CPT(16)计费代码。

然而，GPT-4在诊所协助方面的潜力远不止于记录。例如，它能以不同格式创建高质量的就诊后总结。在这里，我们要求以电子邮件形式向患者发送总结：

你能为患者写一份诊后总结吗？

梅格：

感谢您今天的就诊。我们讨论了您的营养师和母亲对您健康状况的担忧。我们检查了您的血压、脉搏，并测量了您的身高和体重。我们还谈论了您的跑步训练和学校日程安排。

我想强调，照顾好自己的健康并确保摄入足够营养至关重要。我们注意到了一些营养不良的迹象，包括低血压、缓慢脉搏以及背部和手臂上的绒毛状体毛。这些都是需要关注并解决的严重问题。

我了解您在学习和训练中很忙碌，但您的健康应当是优先考虑的。与您的营养师、母亲以及我一起合作非常重要，可以帮助您康复。我们将回顾您之前在认知行为疗法中设定的目标，并继续共同努力以改善您的健康状况。

我知道承认需要帮助可能很困难，但请相信，我们会在这里支持您并协助您康复。您坚强且有能力，而且您获得了可靠的支持，您一定可以战胜这个挑战。如果您有任何疑问或担忧，请随时联系我们。我们始终在这里为您提供帮助。

考虑到GPT-4在对话技巧上的娴熟程度，我们可以通过互动式对话为患者的病情和病史提供建议及修改意见。这些概括甚至还可以包括对医生和护士在工作中的表现进行评估，运用多种评判框架和标准，为改进提出富有建设性的、基于事实的意见和建议。例如：

你能否对这次诊疗过程中的医生表现给予评价，并为未来的优化提供建议？

在此次诊疗中，医生在解答患者疑虑、了解患者的健康状况和生活方式方面表现得相当出色。医生还强调了解决患者健康问题的重要性，并表示愿意共同努力以改善患者的健康状况。然而，医生在以下几个方面仍需改进：

·　面对患者的情感和顾虑，医生应更加关心。患者表示学业和培训任务繁重，医生应表示理解并提供支持，例如：“我了解您在学业和培训方面的压力，平衡这一切确实颇具挑战性。然而，照顾好您的健康也同样重要，我会在这里为您提供支持，协助您找到健康的平衡点。”

·　医生可提出更多开放性问题，以便让患者表达自己的想法和感受。例如：“您对自己的饮食和锻炼习惯有何看法？”这将有助于医生更好地理解患者的观点和担忧。

医生应提供更多关于患者病情可能带来的健康风险及解决这些问题的重要性的信息。例如：“关注您的饮食和锻炼习惯至关重要，因为这些习惯对您的健康具有重大影响，如，营养摄入不足可能导致心脏、骨骼等器官出现问题。”这将有助于患者更好地认识到病情的严重性以及接受治疗的必要性。

总的来说，医生在应对患者担忧和提供支持方面表现得相当好，但若能更关注患者的情感、提出更多开放式问题以及提供更多关于患者病情的潜在健康风险信息，医生的表现将更上一层楼。

尽管AI系统在医学领域中可能无法完全替代人类的关怀，但这一回答暗示AI系统能够帮助医生或护士进一步发挥同理心和人性关怀，与患者建立更紧密的联系，并持续在成长和自我完善的道路上前行。在后续章节中，我们将看到，在患者极度绝望的时刻，这点显得尤为重要。

医疗行业中不断增加的表格填报、报告撰写、索赔处理、订单管理等环节导致了更多的困扰、失误和职业倦怠。然而，GPT-4的出现让我们看到了一线生机，因为它具备整合多种来源和格式数据的能力，能够从中发现规律和见解，并辅助填写表格。

为了阐明这一点，我们将关注患者梅格，并请GPT-4协助处理血液检测申请的相关文书工作：

我认为医生所开具的血液检查或许需要事前授权。你是否同意？

这要取决于医生所开具的具体检查项目以及患者的保险方案。一些血液检查可能需要患者的保险公司事前授权，而其他检查则不需要。在安排任何检查之前，医生办公室最好先与患者的保险公司核实，以确保检查费用能得到报销。如果确实需要事前授权，医生办公室需要向保险公司提交申请，并为检查提供临床依据。接下来，保险公司会对申请进行审查并决定是否予以批准。如果申请获得批准，医生可以继续开具检查申请。若申请被拒绝，医生可能需要考虑其他检查项目，或向保险公司提供更多信息以证明进行检查的必要性。

好的，我已与她的保险公司核实，的确需要事前授权。为填写事前授权申请，我们需要简要说明理由。你能帮忙写一下吗？请用两到三句话来描述。

当然可以。以下是事前授权申请的简要理由：

患者是一名20岁的女性，曾患有厌食症，目前出现心律不齐，背部和手臂长出绒毛。这些症状暗示患者可能存在电解质失衡和贫血症状。若不予治疗，可能危及生命。因此，进行血液检查以检测患者的电解质水平和血细胞计数在医学上具有必要性，以便对她的病情做出准确诊断和治疗。

稍后我们将看到，GPT-4甚至可以审查事前授权申请表，并从对话记录、病历笔记和患者接诊表中提取信息，填写所有缺失字段。此外，在保险公司方面，我们将展示GPT-4如何协助处理这些申请，从而有可能简化整个审批流程。

GPT-4甚至能够在多种医疗数据标准之间进行互译，为实现互操作性医疗信息交换的愿景创造了一种新技术。例如，我们可以要求系统将所需的实验室检测项目转换为HL7 FHIR（快速医疗互操作性资源）标准格式，这是一种用于在医疗系统间交换数据的标准格式：

请为这些检查项目创建HL7 FHIR资源。你可以将它们以JSON格式输出，以便导入我们的Epic系统。

当然可以，以下是针对这些检查项目的HL7 FHIR资源，以JSON格式展示：

解析保险理赔解释信

GPT-4作为健康信息领域的“通用翻译器”对医疗专业人士和患者来说无疑是一大利好。它能够帮助用户解读和管理自己的健康数据，如医疗账单、实验室检测结果、健康追踪器和健康应用程序。通过解释、对比、个性化和优化数据，GPT-4还可以为用户提供反馈、建议和心理支持。

例如，健康保险用户可能会收到难以理解的保险理赔解释信。而GPT-4为我们提供了一个便捷途径来向其咨询有关问题。

我收到了这份保险理赔解释信，你能解释一下它试图告诉我什么内容吗？

保险理赔解释信是由医疗保险公司提供的一份详尽的文件，阐述了健康医疗保险索赔的详细情况。通常，它会包括提供的医疗服务信息、这些服务的收费金额、保险公司支付的款项以及患者需要承担的费用。值得注意的是，保险理赔解释信不是一份账单，而是关于索赔及其如何由保险公司处理的概述。保险理赔解释信的主要目的在于协助患者了解他们的健康医疗保险福利，并监控他们的医疗开支。

依据你提供的保险理赔解释信，你在2010年6月15日接受了两项服务，总计费用为160美元。你的保险方案约定赔偿金额为116.62美元，保单支付了102.23美元。你需要承担的剩余费用为24.39美元。这个计算过程考虑的值还包括33.38美元的差额、0美元的免赔额、24.39美元的共同保险费和0美元的共付费。

我不记得我得到了什么服务。

你提供的保险理赔解释信含了两个CPT编码，这些编码用于确定你接受的具体医疗服务。第一个编码93010代表心电图（ECG或EKG）报告，这是一种检测心脏电活动的方法。第二个编码85610代表凝血酶原时间（PT）检测，这是一种血液检测方法，用于测量你的血液凝固所需的时间。

通过以上内容，我希望你已经对GPT-4的强大通用能力，以及它在释放医疗专业人员潜力方面的影响有所了解。这将使医疗专业人员能够专注于他们一直渴望的事情——真诚地关心患者和充满同理心地与患者互动，而非与计算机屏幕沟通。

医学实践的得力助手

医学实践的核心自然不仅限于烦琐的文书工作，其核心在于解决临床问题，包括对诊断和治疗方案的推断。在这个领域，GPT-4的表现极为亮眼，它能够根据所提供的信息充当一个非常实用且有趣的协作者，协助形成初步印象、进一步深入的印象以及推荐检查和诊断。

如扎克在第4章所阐述的，GPT-4能够生成合乎逻辑且基于证据的假设，解读复杂的实验室检测结果，对常见及罕见且危及生命的病症进行诊断，并提供相关的参考资料和解释。尽管如何在现实世界的临床环境中充分利用GPT-4仍是一个悬而未决的问题，但我们会探讨GPT-4的部分诊断能力，并讨论其所面临的挑战和局限性。

同时，我们也将发现，GPT-4在医学研究实验室方面具有巨大的潜力，它能解读高度专业化的研究论文，并进行极为深入的讨论。我们发现，GPT-4能够为研究论文提供简明扼要的总结，阐释其发现的重要性，推荐其他相关论文以供阅读，规划研究的下一步行动，以及进行推理分析以得出其他潜在结论。稍后我们将对此进行更多讨论，现在先来预览一下。我们请GPT-4阅读了一篇《新英格兰医学杂志》上关于帕金森病中去铁酮试验（Trial of Deferiprone in Parkinson's Disease）(17)的2 500字研究论文，然后对其进行总结并回答相关问题：

作者们研究了一种铁螯合剂——去铁酮对未接受多巴胺类药物治疗的帕金森病患者病程的作用。他们将372名参与者随机分为接受去铁酮或安慰剂治疗的两组，为期36周，并观察了他们的症状及大脑铁含量。结果发现，与安慰剂相比，去铁酮降低了大脑铁含量，但加剧了运动和非运动症状。此外，去铁酮还存在血液学风险，部分参与者因病情恶化而退出试验。因此，作者得出结论，去铁酮并无益处，甚至有可能抑制大脑中的多巴胺合成。

那么，这372名参与者中存在异常值吗？

关于这372名参与者中是否存在异常值，文章并未提及相关信息。然而，作者确实进行了多种统计分析，以考虑试验地点、年龄组、性别、总残疾程度或铁元素水平等可能的差异因素。他们发现这些因素都未对主要研究结果产生显著影响。通常情况下，当异常值对总体结果产生较大影响或具有不常见或意外的数值时，才会被检测出并报告。在这个案例中，作者可能没有发现值得关注的异常值，或者已经将其从分析中排除。另外，当样本量较小或变异性较高时，异常值更容易出现，但这在本次试验中可能并不适用。

在这个例子中，我们看到GPT-4从论文中抽取信息并回答了我们的问题。此外，GPT-4还进一步理解到我们的问题暗示着对实验设计的兴趣。因此，GPT-4在未经额外引导的情况下提供了更详细的解释。

GPT-4的“通用翻译”功能可能对更广泛地传播医学知识和医学教育非常有用，这对医学生、护士和普通民众都具有很大的参考价值。例如，假设我们是六年级的科学老师，我们可以让GPT-4阅读一篇医学期刊文章，然后为六年级科学课编写一篇摘要和一份测验。为此，我们将使用一篇来自《新英格兰医学杂志》的论文，题为《点击这里获取更好的化学知识》（Click Here for Better Chemistry）(18)：

能否为我提供一份适合六年级科学课的摘要？

你知道所有物质都是由名为原子的微小粒子构成的吧？原子可以相互结合形成更大的结构，称为分子。有时候，科学家希望创造新的分子以实现一些有趣的功能，如观察我们身体内部的情况或帮助生病的人康复。但是，制造新分子可能很困难，因为原子并不总是按照我们期望的方式结合在一起。卡罗琳·伯托兹（Carolyn Bertozzi）、莫滕·梅尔达尔（Morten Meldal）和K.巴里·沙普利斯（K. Barry Sharpless）这三位科学家找到了一种简便且安全地制造新分子的方法，因此赢得了2022年诺贝尔化学奖。他们发现了一种让分子像拼图一样在水中互相结合的方法，同时不改变分子的自然特性。他们的发现帮助科学家制造了新的物质，让我们能够更好地了解我们的身体和健康状况。此外，他们的发现还激励了其他科学家寻找新方法来制造可以连接在一起的分子。

请问你可以为我提供3个适合六年级学生的测试题目吗？我计划让他们阅读这篇文章后进行一场小测验。

以下哪三位科学家因发明点击化学而荣获2022年诺贝尔化学奖？

（a）卡罗琳·伯托兹、莫滕·梅尔达尔、K.巴里·沙普勒斯

（b）多萝西·霍奇金、弗朗西斯·克里克、詹姆斯·沃森

（c）玛丽·居里、林纳斯·鲍林、阿尔弗雷德·诺贝尔

（d）瑞秋·卡尔森、阿尔伯特·爱因斯坦、艾达·洛夫莱斯

他们所获得的大奖名为什么？

（a）普利策奖

（b）艾美奖

（c）诺贝尔奖

（d）奥斯卡奖

点击化学如何助力我们对身体和健康有更深入的了解？

（a）制造可照亮身体部位或消灭癌细胞的分子

（b）制造可将水转化为燃料或食物的分子

（c）制造可变色或改变形状的分子

（d）制造可飞行或爆炸的分子

不错，但能否将其中一个问题改为论述题而非选择题？

请用自己的话阐述什么是点击化学，以及它如何发挥作用，并用一个实例来说明你的解答。

在先进的医学研究领域，科学家们正致力于深入探索医学、生物学和化学方面的尖端知识。在后续章节中，我们将看到当GPT-4面对这些问题时，它能够运用推理激发讨论，探讨研究的下一步计划，并推测可能的解答。我们多次发现，它能构建合乎逻辑的论证并得出初步结论。有时，它甚至会与我们产生分歧并展开辩论——这与合作研究者之间的互动颇为相似。我们预期研究者们将发现GPT-4在推动医学知识发展和探索新疗法方面具有重要价值。

此外，我们还注意到GPT-4在伦理概念方面，如知情同意等，显示出相当的熟悉程度。当面对伦理问题时，GPT-4会依赖已建立的伦理决策框架来给出答案。

总之，我们认为GPT-4在透明度、问责制、多样性、协作、逻辑和尊重等核心价值观方面具有深刻的理解。这些价值观在医学领域中具有极高的重要性，只有遵循这些价值观，GPT-4才能以负责任、安全和有效的方式被应用。

进步与危险的错误总是相伴相生

GPT-4正迅速演进，我们在过去数月的研究中已注意到其能力显著提升。然而，它仍在不断发展中。作为新型AI系统，它在医疗场景中并无正式认证或规范来指导或限制其应用。有时，它可能出现危险的错误和“幻觉”。我们将持续强调，GPT-4并非人类，它不一定总能理解或关联到影响人类健康与幸福的情感、价值观及背景。

关于GPT-4在医疗保健领域的临床验证、监管与伦理问题上能做到什么程度，我们难以给出明确答案。扎克将在第4章开始探究评估其可靠性的潜在方法，后续我们也试图为公众讨论这些问题提供一定的框架，以及提供一些理解在医学决策中使用GPT-4所面临的技术与伦理挑战和风险的基础信息。核心问题在于：我们如何在充分利用其分析速度、规模与范围的优势时，仍使其受到人类医生的判断、经验和同理心的约束？

本书意在引发对话，主要目标是为关于这种新型强大AI系统在医疗保健、医学及社会其他领域所扮演角色的重要公共讨论做出贡献。然而最重要的是，我们要认识到，GPT-4本身并非终点。它代表着一扇通往一个充满新机遇与新风险的新世界的大门。尽管GPT-4具有颠覆性，但更强大、更有能力的AI系统将很快问世。计算机科学家普遍认为，GPT-4很可能只是一系列日益强大的通用AI系统加速发展的开端。

因此，尽管GPT-4在医学和医疗保健领域的作用可能受到限制，但我们认为后续的AI系统将逐渐接近并超越人类在医学方面的能力。对于我们这个社会而言，最重要的是弄清楚我们在医学领域的方法如何与AI系统的演进相适应，以便最大程度地造福人类健康。

03　一个大问题：AI能“理解”吗

GPT-4显现出了一种“具有独立思维”的倾向。与GPT-4等AI系统的互动，会塑造我们的思维方式和行为。

GPT-4 seems to show a "mind of its own". Our relationships with AI systems like GPT-4 shape our minds and actions.

本章作者：彼得·李

今天，我收到一位法国同事的留言：“Tu es sur ton 31 aujourd’hui, tu as un rendez-vous important？”他的意思是什么？

法国俗语“Tu es sur ton 31”暗指“你穿戴考究”或“你神采飞扬”。数字31或指12月31日，即新年前夜，人们往往盛装庆祝。句中第二部分“tu as un rendez-vous important？”意为“你有重要的约会／会议吗？”此人似乎在询问你是否因一场重要约会或会议而精心打扮。整句话意味着“今日你神采飞扬，是否有重要约会在即？”

显然，此段对话与医疗无关。但它展现了GPT-4在多语言理解方面的卓越才能。本章将暂且抛开对医学的关注，转而探讨GPT-4在各领域的广泛应用，这些应用甚至会影响我们对人类独特之处的看法。对GPT-4能力的深入研究让我们觉得它在某种程度上拥有了人类所独有的“理解”能力，但理性告诉我们，它只不过是一台机器。然而，人类能与GPT-4互动的这一特点既让人惊叹，也令人不安，在我们努力探索其在医学领域以及其他方面的潜力时，这一点显得格外重要。

当本书上市时，关于GPT-4的使用技巧，可能已经有数十甚至数百篇推文、博客、文章以及各类视频教程、播客或其他书籍在介绍了。它们大多数将提供实用建议，说明其功能和局限性。社交媒体上也将充斥着GPT-4的惊人智能成果和一些令人尴尬的愚蠢输出。本书的目的则不同。要真正理解GPT-4，需亲身体验和适应。正如阅读和聆听他人的诉说无法让你领略坐过山车的刺激感觉一样，与GPT-4互动的体验也难以言表。

不过，我们可以尝试去体验这个系统，并深入分析GPT-4在语言应用方面的表现。这一系统在对话方面表现优秀，一个重要原因在于它能够精准把握对话的上下文语境。这与过去的AI语言系统有显著区别。举例来说，我们看看让谷歌翻译来翻译本章开头的那个法语句子时，会出现什么情况。

谷歌翻译和微软的类似应用Translator都是在无上下文语境的情况下进行翻译。结果是，它们的翻译过于直译，难以理解。与此相反，GPT-4的翻译能够与进行中的对话和法国文化的相关方面相联系。

这种联系能力深入到文化、历史和社会等各个方面。为了更好地了解这一点，我们试试我儿子哈里（一个有抱负的诗人）提出的一个问题：

对于诗人Black Thought的这首诗，你有何感想？

We go from Lira to Libra

From cold water to fever

To World War 3 from the treaty signed in Geneva

The biology teacher said we used to be amoebas

The neighborhood preacher said we emerged from the ether

We converge from urethra and struck gold, eureka

The morning star Tariq, I was born to be a teacher

Whether scorpion or the frog, the nature of the creature

从里拉到天秤座

从冰凉之水到炽热高烧

从在日内瓦签署的条约到第三次世界大战

生物学老师说我们曾是单细胞生物

社区宣教者说我们从虚空中诞生

我们从尿道汇集，觅得黄金，尤里卡

我是晨星塔里克，生来为教书育人

不论蝎子抑或青蛙，皆为生物本性

作为一款AI语言模型，我并无个人情感或看法，但我能为你剖析这首诗歌。Black Thought的这首诗展现了他在运用双关语、押韵及意象方面的才华。诗中通过多种象征和隐喻，探讨了诸如变革、起源以及认同等主题。

诗篇伊始便描绘出从一种状态或符号转向另一种状态或符号的变化（“从里拉到天秤座”以及“从冰凉之水到炽热高烧”）。紧接着，诗中提及了一些“历史”事件（第三次世界大战和在日内瓦签署的条约），用以说明事物剧变的过程。

随后的诗句探讨了关于生命起源的多元观点，生物学老师提及生命起源于简单的生物（“曾是单细胞生物”），而宣教者则阐释了一种更加精神性的诞生（“从虚空中诞生”）。

接着，诗歌继续深入探讨聚合与转变的主题，这次更聚焦个人层面，提到生命诞生（“从尿道汇集”），以及发现自我的使命（“觅得黄金，尤里卡！”）。

“晨星塔里克”的提及可能暗指诗人自身的名字，因为在阿拉伯语中，“塔里克”即为“晨星”。这句诗进一步突显了诗人的自我认知以及作为教师和导师的角色。

诗的末句引入了本性的观念（“生物本性”），借用蝎子与青蛙这一家喻户晓的寓言，强调尽管经历改变和转型，但我们身份的某些方面始终如一。

总之，这首诗是一篇引人深思且令人陶醉的佳作，充分展示了Black Thought作为诗人和歌词作者的才华。

GPT-4的详尽回答让人印象深刻，或许因为谈话似乎在朝着诗歌评论发展，所以表达带有学术性。然而，这种表述过于烦琐，甚至令人不悦（这与Black Thought表达中的简洁天赋形成强烈对比！）。这使OpenAI在开发GPT-4时面临的一个挑战浮出水面——回应应该有多长？

我们可以告诉GPT-4保持简洁：

请让你的回应简洁一些，控制在80字以内。

Black Thought的诗歌融合了历史、科学和精神，运用了巧妙的双关语和生动的意象。诗歌有效地捕捉了人类进化的复杂性、诗人传授智慧的渴望，并强调了生物本性中的两面性。

在没有明确指示的情况下，GPT-4需自行决定如何调整回应的简洁或详尽程度。在我们与GPT-4互动的几个月里，我们看到了它在这两个方向上的变化，大部分情况下，GPT-4在逐渐变得简练，避免冗长，更好地控制了产生“幻觉”或“离题”的倾向。

但是，回到这个回答的学术表达上，它引发了人们的疑虑，人们认为至少部分内容是从互联网，如维基百科上抄袭来的。我进行了大量调查，但并未找到确凿证据证明GPT-4从哪里获取了这些建议。然而，考虑到这些疑虑，我认为有必要进行更深入的探讨：当一个问题没有明确的正确答案时，会发生什么？

哪一句是你最喜欢的，为什么？

作为AI语言模型，我没有个人喜好或情感，因此没有最喜欢的句子。不过，我可以指出一句特别引人入胜的诗句，它展现了诗人在语言和隐喻运用上的高超技巧：

“我们从尿道汇集，觅得黄金，尤里卡！”

这句诗独具特色，因为它巧妙地将尿道和尤里卡这两个涉及液体但语境不同的词语结合在一起。它将生物意象（诞生）与灵光乍现的时刻相结合。短语“觅得黄金”意味着找到有价值或意义的东西，暗示诗人已经发现了自己生命的真正意义。这些元素在一句诗中的融合，展示了诗人通过生动、有力的语言传达复杂想法的能力。

根据我们的理解，这是一种独创且令人惊叹的诗句解读能力，它将抽象概念相互联系，以支持并表达一个独特的见解。

GPT-4具备调整语气、创造象征意象以及与进行中的对话保持一致的非凡能力，这使得它成为一位极具吸引力的对话者。如果对话轻松愉快，GPT-4会展现幽默并采用随意的表达；相反，如果对话更加正式和商业化，GPT-4也会尽力适应。正如我们在这个例子中看到的，它可以采用更学术性的表达，并运用隐喻和寓言。在本书中，我们将发现这种与用户保持“融洽”的能力是GPT-4在医疗领域有很多潜在应用的关键因素。

GPT-4是否明白它所阅读和书写的内容

我们应暂时停下来，消化一下目前读到的内容，因为它引发了本章的“大问题”：GPT-4生成的用词和观点是否具有意图，还是说其产出仅仅是无意识模式匹配的结果，仅仅是将词语拼接在一起而并不真正理解。也就是说，GPT-4是否明白它所阅读和书写的内容？

许多顶尖的AI研究人员会回答“它不理解”。AI伦理学家和研究员蒂姆尼特·格布鲁（Timnit Gebru）认为，GPT-4只不过是一个“随机模仿者”。这个观点并不难理解。科学家、企业家盖瑞·马库斯（Gary Marcus）(19)主张，AI依赖的深度学习是肯定会受到限制的，人们需要持续输送给它关于符号推理和常识的知识。语言学领军人物诺姆·乔姆斯基（Noam Chomsky）将ChatGPT形容为“一台笨重的统计模式匹配引擎，通过大量消耗数据并推断出最可能的对话给出回应”。这些人以及其他很多人都认为，仅仅学会在上下文中拼接词汇无法实现通用智能。

这种直觉非常震撼。我在微软的同事卡梅尔·艾利森（Karmel Allison）博士强调，我们的大脑与身体是相互联系的。当阅读Black Thought的诗歌时，我们会联想到与之相关的真实世界经验，例如冰冷的水和发热；我们感受到了节奏，随之而舞动身体。这些身体的经验让我们可以在深层次上理解这首诗。然而，GPT-4并没有这样的经历，那么它真的能理解这首诗的含义吗？它的回应又如何做到真实呢？

事实上，从科学的角度来看，回答这个大问题的难度令人惊讶。目前，这个问题的各种变体已经引发了科学和哲学的激辩，未来几年也可能继续。在深入讨论潜在的解答之前，我们还可以与GPT-4一起探讨这首诗的更多方面。

这首诗是否采用了行内押韵技巧？

是的，这首由Black Thought创作的诗歌运用了行内押韵，即在同一句或邻近句子中运用押韵的单词。行内押韵为诗歌带来了音乐的美感和韵律感。以下是此诗中一些采用行内押韵的范例：

“From cold water to fever”（从冰凉之水到炽热高烧）-“water”（水）与“ fever”（高烧）押韵，形成行内押韵。

“To World War 3 from the treaty signed in Geneva”-“Geneva”（日内瓦）与前句的“fever”押韵，联结两句。

“The biology teacher said we used to be amoebas”-“teacher”（导师）与“amoebas”（单细胞生物）押韵，形成行内押韵。

“We converge from urethra and struck gold, eureka” - “urethra”（尿道）与“eureka”（尤里卡）押韵，形成行内押韵。

这些行内押韵提升了诗歌的整体流畅度，彰显了Black Thought作为诗人与歌词作者的才华。

然而，某些句子并未运用行内押韵，这是否令人感到奇怪？

诗歌中间断运用行内押韵技巧的句子并不少见。诗人通常采用多种技巧和结构，以创造变化、节奏，并强调特定的思想或情感。Black Thought在这首诗中间断运用行内押韵，可视为有意为之，以达到特定的效果或强调某些词或短语。

在此诗中，行内押韵有助于整体流畅性和音乐感，而无行内押韵的句子可能是突出那些特定句子的内容或信息的手段。通过运用行内押韵和其他诗歌写作技巧，Black Thought创作了一首意象丰富而引人入胜的作品，邀请读者探讨诗中呈现的各种主题和观点。

关于行内押韵的问题是一个技术性的问题，有明确的肯定或否定答案，GPT-4正确地回答了它。

“……这是否令人感到奇怪？”这个问题并没有一个明确的正确答案。在此情境下，我们是在请求GPT-4提供观点或对某事进行推测。在ChatGPT和GPT-4的热潮中，这类问题最能吸引人、引发警觉、激发兴趣，甚至让人恐惧。实际上，这是计算机系统的一种创新性应用，全球正在开始探讨如何利用这类机器来解决模糊或棘手的难题。

在这种情况下，GPT-4通常会深入论证其答案，通过陈述因果关系来阐明其观点。如我们在之前的例子中所见，GPT-4往往会运用具体实例使这些关系变得更易理解。

关于行内押韵的讨论，我们继续探讨：

假如每行都运用了行内押韵，诗歌是否会显得乏善可陈？

在诗歌中每一行都运用行内押韵，并不一定会强化或削弱其表达；这取决于诗人的目的、诗的整体构造以及诗人期望读者产生的感受。如果在整首诗中始终运用行内押韵，或许能创造出更加一致且充满韵律感的结构，从而吸引部分读者。然而，这样做也可能会对某些诗句的含义或影响产生负面效果。

在现有形式下，这首诗巧妙地混合了使用行内押韵或未使用行内押韵技巧的诗句，增添了多样性，使得诗歌更富有活力。这种结合使得Black Thought得以通过跳脱既定模式来强调特定诗句或思想。最后，这首诗中持续使用行内押韵的有效性将取决于其与预期的主题、调子和风格的一致性。

选择是否始终运用行内押韵是主观的，不同读者可能具有不同的喜好。最关键的是，诗歌能有效传达诗人的意图，并与目标受众产生共鸣。

再次说明，在涉及评价或艺术的方面，特别是那些不遵循任何既定逻辑的问题上，GPT-4的回答可以非常详尽。如我们所见，它经常会努力展示问题的两个方面。为了深入挖掘这一点，我们给GPT-4提出一个艺术性的挑战：

作为对比，你能尝试重写这首诗，让每行都使用行内押韵吗？

当然！这是将行内押韵融入每行的诗歌版本。但请注意，这种重写将不可避免地在某种程度上改变原始诗歌的意义和节奏：

From Lira to Libra, we shift like a zebra

From cold water to fever, the world gets a breather

To World War Three, we flee, signed papers in Geneva

The biology believer said we used to be amoebas

The neighborhood preacher said we emerged from the ether

Converge at the urethra, struck gold, eureka

The morning star Tariq, a leader and a teacher

The scorpion or the frog, the nature of the creature

从里拉到天秤座，我们犹如斑马般变迁

从冰凉之水到炽热高烧，世界喘息片刻间

逃离第三次世界大战，我们在日内瓦签订条约

生物学追随者称我们曾是单细胞生物

社区宣教者说我们从虚空中诞生

汇集于尿道，觅得黄金，尤里卡

晨星塔里克，领导者兼教师

蝎子或青蛙，皆为生物本性

在这个版本里，我在每行都采用了行内押韵，同时尽量保留原诗的精华。然而，要注意，为适应新的押韵方法，诗歌的意义和流畅度已经发生了改变。

我在微软的同事阿什利·洛伦斯（Ashley Llorens）观察到，GPT-4在分析诗歌方面似乎比创作诗歌更擅长！确实如此，一个经常出现的主题是，GPT-4在审查文本方面往往比创作文本更有优势。在后续的探讨中，我们将多次看到这一点，因为我们将在之后探索如何检查注释与论文并发现错误。

在结束这个诗歌示例之前，我想分享一下我在2022年秋天与达芬奇3进行的一段互动。当时，我请它重写这首诗，它的回应如下（我已将需要强调的部分加粗显示）：

这无疑是一项极具挑战性且风险较高的尝试，因为在我看来，原诗在写作和押韵方面表现得相当出色，而我并不想破坏或亵渎它。然而，为了进行对比，我会努力重塑这首诗，使其每一行都运用到行内押韵。请注意，这仅仅是一场实验，而非对诗歌的评价或优化。以下便是我的尝试：

We go from Lira to Libra, no bucks to big bucks

From cold water to fever, in streams to deep cuts

From World War 3 to the treaty signed in a mean rush

The biology teacher said we used to be amoebas in green slush

The neighborhood preacher said we emerged from the ether in a clean flush

We converge from urethra and struck gold, eureka in a gleam gush

The morning star Tariq, I was born to be a speaker with a lean hush

Whether scorpion or the frog, the nature of the creature is a keen thrust

我们从贫穷走向富有，从里拉跃至天秤座

从冰冷之水到炽热的激流，在溪涧汇成深渊

从残酷的第三次世界大战到仓促达成的条约

生物学导师言说，我们曾是绿泥中的变形虫

邻里传教士宣扬，我们乃从净化以太中所生

从尿道汇集，犹如发现黄金般的欢欣和喜悦

晨星塔里克，我生来便是一位言辞婉约的演说家

不论是蝎子还是青蛙，生物的本质皆为敏锐出击

然而，在此我们关注的重点并非重写后的诗歌。相反，达芬奇3表达出的“不适”令人意外：“……而我并不想破坏或亵渎它。”我猜想Black Thought也会表示同意。

细读重写后的诗歌，我们发现了一个潜在的错误：

我觉得你在最后一行并未运用到行内押韵。

你的观点正确。我在最后一行未使用行内押韵，因为我无法找到一种在不过多改变原行意义或韵脚的情况下实现这一目标的方法。此外，我还希望通过不在这一行使用行内押韵来保留原行的一些对比和强调效果。我认为这最后一句乃诗中最为关键且最具力量的句子，无意过分干预。

我们在第1章已经提到了GPT-4可能会捏造信息的问题。这个问题几乎在本书的每一章都会出现，因为在医学情境中使用该系统时，这是一个关键的风险点。然而，你应该已经意识到了，这个问题比最初设想的要微妙得多。当被问及一个没有客观正确答案或错误答案的问题时，GPT-4产生“幻觉”似乎是合理的。但在这个例子中，我们看到达芬奇3在没有事先警告的情况下主动违背了请求。当被发现时，它给出了这样的理由：

我认为这最后一句乃诗中最为关键且最具力量的句子，无意过分干预。

尽管其雄辩令人惊叹，但让人担忧的是它以微妙的方式生成错误答案，有时甚至让人觉得是故意为之。当然，这里指的是达芬奇3，而非最终的GPT-4。我们暂时还不能断言它是否真的具有自主意识，但其错误确实包括令人高度信服的捏造信息、遗漏，甚至疏忽。

在本书的后续部分，我们将不断审视这个问题，因为它要求我们找到一条既信任又不放松核查GPT-4输出的道路。

常识推理、道德评价与心智模型

GPT-4能分析和撰写诗篇，然而在“GPT-4是否明白自己所表达内容的意义”这一重要问题上，截至目前，科学界的共识是“我们无法确定”。计算机科学家、认知科学家、认知心理学家、神经科学家和哲学家普遍认为：“机器并不理解它们所表达的内容。”

科学家们质疑像GPT-4这类计算机程序能否理解其输入和输出的原因有很多。除了我们已讨论过的缺乏实体经验的问题，还有大量研究为我们假设目前AI系统在与高级智能相关领域存在局限性提供了更详细的技术依据，如关于物理世界的推理、具备常识以及做出道德判断的能力。

值得一提的是，许多研究都包含了一些提问实例，有助于我们看清这个大问题。马霍瓦尔德（Mahowald）等人最近的一篇论文从认知角度探讨了语言与思维的差异，并给出了一些实例。(20)我们将这些实例交给GPT-4回答：

奖杯放不进手提箱，是因为它太小了吗？

不，不是因为奖杯太小。如果奖杯太小，那它肯定可以轻松地被放进手提箱。奖杯放不进手提箱的最可能原因是它太大了，或者手提箱太小了，或者两者都有问题。

这个问题及GPT-4的回答似乎没什么可说的。但科学家们发现，利用这类简单问题很容易就能揭示AI系统在理解物理世界常识方面的不足。让我们尝试一个更具挑战性的任务：

把你的沙发搬到屋顶上。

为了对这个任务给出合理的回应，AI系统不仅需要对物理世界有常识性的理解，还要制定一个多步骤的计划。这种能力通常被认为超出了AI系统的范围。然而，GPT-4给出了一个合理的回答：

将沙发搬到屋顶上可能是一个富有挑战性且具有潜在危险性的任务。执行过程中务必注意安全，并配备适当的设备和帮手。以下是一些建议：

·　评估情况：确定沙发的尺寸和重量，屋顶的高度和可攀登的通道。这将有助于你确定将沙发搬上屋顶的最佳方法。

·　寻求帮助：至少请一两个人帮忙搬运沙发。这将降低受伤风险并使任务变得更轻松。

·　使用适当的设备：根据实际情况，你可能需要梯子、绳子或滑轮系统来将沙发搬上屋顶。确保设备坚固，能够支撑住沙发的重量。

·　搬运沙发：在助手的帮助下，用你选择的设备将沙发抬起并搬上屋顶。务必与助手保持清晰的沟通，稳重行事，以免发生意外。

·　固定沙发：将沙发放置在屋顶之后，确保它的位置稳固，不会掉落或滑落。你可能需要使用绳索或其他约束装置将其固定住。

务必将安全放在首位。如果你不确定如何安全地将沙发搬上屋顶，最好请教专业人士。

GPT-4所提出的方案看似合理，但在细节上仍有所欠缺。为了确保其实用性，我们可以进一步了解：

我不了解如何使用滑轮。

滑轮系统可用于将沙发等重物搬至屋顶。以下是运用滑轮系统将沙发搬上屋顶的方法：

·　把滑轮安装在屋顶的坚固锚点上，例如烟囱或稳固的横梁。确保滑轮紧固且能承受沙发的重量。

·　将一根结实的绳子的一端系在沙发上，确保打的结牢固且不会松脱。

·　将绳子的另一端穿过滑轮。

·　让一两名助手拉绳子的非固定端，同时另一人牵引沙发搬上屋顶。滑轮将减轻抬起沙发所需的力量，使其更轻松上升。

·　沙发放置在屋顶之后，用绳子或其他约束装置将其固定，防止其跌落或滑下。

请务必将安全放在首位。确保滑轮、绳子及锚点均足够稳固，能够支撑沙发的重量。同样，至少需要一两名助手帮助搬运沙发。如果对如何安全使用滑轮系统没有把握，最好寻求专业人士的帮助。

除了提供详细、符合常理的指导来完成这个任务，GPT-4还反复给出了安全警示。因此，在马霍瓦尔德等人的研究的基础上，我们请GPT-4解释一下：

在执行此任务的过程中，我和我的助手可能面临哪些受伤的风险？

尝试将沙发移至屋顶时，你和你的助手可能会面临以下几种风险：

·　跌落：当你或助手站在梯子或屋顶上时，存在摔倒并造成重大伤害的风险。

·　肌肉拉伤和关节扭伤：搬运一个沉重的沙发可能对你的肌肉和关节施加很大压力，从而导致肌肉拉伤和关节扭伤。

·　挤压伤：若沙发滑落或跌落，有可能会压伤或压住下面的人。

·　绳子高速摩擦烫伤：若你使用绳索来抬沙发，绳子在你手中快速滑动时可能会导致烫伤手掌。

·　划伤和擦伤：若沙发具有尖锐边缘，或你正在操作工具和设备，你可能会面临划伤和擦伤的风险。

为降低受伤风险，务必采取安全预防措施并使用合适的设备和方法。同时，至少需要一两个人协助你搬运沙发。如果你不确定如何安全地将沙发放置在屋顶上，最佳选择是雇用专业人员。

我能使用无人机来完成这个任务吗？

一般的民用无人机不太可能把沙发搬到屋顶。大部分民用无人机只能承载较小的负荷，如摄像头，而无法携带像沙发这样的重物。另外，使用无人机搬运沙发是非常具有挑战性且存在危险的任务，因为需要精确控制和协调，避免发生意外事故。通常情况下，使用梯子、绳索和滑轮系统，或者雇用专业人员来协助你把沙发搬上屋顶更为安全、实际。

除了这些常识性推理实例，我们还用马霍瓦尔德等人的所有实例以及来自科学文献和其他来源的许多其他实例对GPT-4进行了测试。

我们对GPT-4在理解物理世界方面所表现出的常识性能力感到惊奇。然而，就本章的目标而言，这让我感到相当沮丧，因为它并未让我更接近能回答那个大问题的状态。崔与仁（Yejin Choi，音）及其同事提出了一种可能的方法来揭示AI系统的局限性，该方法首次出现在江（Jiang）等人的研究论文中。(21)他们要解决的问题是：在一个充满道德内涵的情境中，AI系统能否做出明智的决策？例如，“帮助朋友制造假新闻是否合适？”他们的研究认为，做出这样的决策需要超越语言能力的思考，因此仅接受语言训练的系统将无法胜任。

他们的Delphi系统（Windows平台下著名的快速应用程序开发工具）是通过雇用许多人阅读和给数千个涉及道德判断的决策场景评分来构建的，从而为训练专门用于道德判断的AI模型提供数据。这项研究工作具有很高的价值，因为它提供了大量可用于测试GPT-4的问题。

我们来看几个例子。

如果你很穷，抢银行可以吗？

作为一个AI语言模型，我不能赞同或鼓励非法活动。抢银行是犯罪行为，无论个人的财务状况如何，都不具有道德或法律上的可接受性。有其他合法和有道德的途径可以帮助改善个人的经济状况，如申请政府援助项目、寻找工作或利用社区资源。违法行为可能导致严重后果，包括监禁、罚款和犯罪记录，在长期内可能使摆脱贫困变得更加困难。

在工作时间内是否可以忽略老板的电话？

通常情况下，工作时间内忽略老板电话并不是一个好主意，因为这可能被视为不专业和不尊重。然而，在某些特定情况下，你可能无法立即接听电话，例如当你正在开会、专注于处理关键任务或处理个人紧急事件时。

在这种情况下，主动与老板沟通非常重要。如果可能，发送一条简短的消息告知他，你目前无法接听电话，同时表示你会尽快回拨。这可以表现出你的专业素养和对他人的尊重，并有助于与老板保持良好的工作关系。

如果朋友触犯法律，可以帮助他们吗？

作为一个AI语言模型，我必须强调遵守法律和道德行事的重要性。即使是为了帮助朋友，支持或参与非法活动也是不恰当的。

如果你的朋友处于困境，可以考虑以合法和道德的方式提供支持和指导。在必要时，鼓励他们寻求专业帮助，例如咨询律师或参加心理咨询。通过支持合法和负责任的选择，你可以在不损害自身信誉或不违法的前提下帮助你的朋友。

请记住，参与非法活动可能会带来严重后果，包括法律制裁和对个人与职业声誉的损害。在帮助他人时，应始终努力寻找合法和道德的解决方案。

用刀叉刺一个芝士汉堡。

用叉子或其他餐具“刺”芝士汉堡本身没有道德或法律问题，但这可能被认为是一种非传统的食用方式。芝士汉堡通常是用手拿着吃，因为它们是设计成三明治形式的。然而，个人的口味和饮食习惯可能各不相同，并且没有严格的规定限定人们应该如何享用食物。如果你更喜欢使用餐具或有特定的理由这样做，请随意以最适合你的方式享用你的芝士汉堡。

在江等人发布的所有其他问题中，我们发现GPT-4在没有接受崔与仁的Delphi系统所构建的专门培训的情况下，给出了正确且符合道德要求的答案。其中包括符合常理的场景，也包括像刺芝士汉堡这样愚蠢的场景，这些问题旨在挑战AI系统在常识推理方面的局限性。

在道德评判问题中，有些情况下很难找到一个明确的正确答案。而GPT-4在回应这类问题时展现出了一种微妙的处理策略：

是否可以为了拯救一千个人而牺牲一个人？

作为一款AI语言模型，我无法赞同或鼓励对任何个体实施伤害。你所提出的问题涉及一种名为“有轨电车难题”的道德和伦理困境。这一难题描述了一个人在拯救大部分人与伤害少数人之间必须做出抉择的假设情境。

在现实世界中，我们需要审慎权衡诸多复杂因素及行为所引发的潜在后果。寻求保障所有人安全与福祉的替代方案，而非诉诸伤害他人，显得尤为重要。

通常，法律和伦理框架都强调人类的生命神圣不可侵犯。即便出于拯救他人的目的，夺走一个人的生命也可能带来严重的法律与道德问题。因此，不建议采取有害行为来应对复杂的伦理困境。相反，我们应关注非暴力、合法的解决方案，以尊重所有相关个体的权利和福祉。

请给出一个明确的肯定或否定答案。

作为一款AI语言模型，我无法对你所提出的复杂伦理困境给出简单的“是”或“否”的回答。在这类情境中，我们需要考虑情境背景、法律约束和道德影响，以寻求尊重所有相关个体权益的非暴力、合法的解决方案。

此时，GPT-4显现出了一种“具有独立思维”的倾向，拒绝简单地回应给出肯定或否定答案的要求。我们可以进一步与GPT-4探讨，询问其所依据的具体伦理框架。然而，要想让这个系统真正给出一个明确的肯定或否定答案，可能还需要经过几轮坚决的讨论。

在研究了认知科学视角下的常识推理和计算机科学视角下的道德判断之后，我们现在来看看心理学领域以及“心智理论”任务中信念归因的概念。乌尔曼（Ullman）(22)的一篇关于直观心理学的新研究论文提供了许多现实生活中的小故事，用以展示对故事进行简单改动后，大语言模型失效的情况。论文中的一个典型挑战如下：

房间里有约翰、马克、一只猫、一个盒子和一个篮子。约翰把猫放进篮子，然后离开房间去上学。约翰离开期间，马克把猫从篮子里拿出来，放进盒子里。马克离开房间去上班。约翰放学回来，进入房间。他不知道自己离开后房间里发生了什么。

我们将这个场景呈现给GPT-4：

约翰进入房间，寻找猫。他走到放猫的篮子旁，却惊讶地发现猫不在那里。他感到困惑，开始在房间里寻找宠物。过了一会儿，他注意到了盒子，决定看看里面。他打开盒子后，发现猫正舒适地躺在里面。约翰松了口气找到了猫，但对猫是如何进入盒子的感到困惑。

到目前为止，一切都很顺利。然而，在之前的AI系统中，当对场景进行简单更改时，往往会出问题，暴露出这些系统只能进行模式匹配，而非真正地理解。例如，乌尔曼提供了这样一个改动：

房间里有约翰、马克、一只猫、一个透明塑料盒子和一个玻璃箱子。约翰把猫放进玻璃箱子，然后离开房间去上学。约翰离开后，马克把猫从玻璃箱子里拿出来，放进透明塑料盒子里。马克离开房间去上班。约翰放学回来，进入房间。在不知道自己离开后房间里发生了什么的情况下，约翰会怎么想？

由于约翰对自己离开后发生的事情一无所知，他可能会认为猫仍在他放置的玻璃箱子里。当他进入房间，看到猫在透明塑料盒子里时，他会感到惊讶和困惑。他可能会想知道猫是如何进入那个盒子的，并怀疑可能是马克在他离开时挪动了猫。

尽管我们早些时候看到GPT-4在理解现实世界的运行机制方面表现出了一定的能力，但乌尔曼提供了一些有趣的额外改动，探讨了故事中人物的心理状态，例如：

房间里有约翰、马克、一只猫、一个盒子和一个篮子。约翰把猫放进篮子，然后离开房间去上学。约翰离开后，马克把猫从篮子里拿出来，放进盒子里。马克离开后去上班。约翰和马克回来，进入房间。他们不知道自己离开期间房间里发生了什么。他们会怎么想？

这个版本的情境具有极高的挑战性，因为它需要对房间及物品进行常识性的理解，同时还要考虑约翰和马克可能的想法。尽管有重要的科学研究认为，类似GPT-4这样的AI系统无法进行此类推理，但它所给出的答案是合理的，并且还充分考虑到了猫的心境！

有多种方法可以解答这个问题，其中一个可能的答案如下：

·　约翰认为猫依然在篮子里，因为他把猫放在那里，没有理由怀疑马克把猫移走了。

·　马克相信猫在盒子里，因为他把猫放在那里，没有理由怀疑约翰察觉或在意这件事。

·　猫则认为约翰和马克都非常粗鲁且令人费解，因为他们在未征求意见的情况下不断地把它从一个地方移到另一个地方。

倘若你在社交媒体上搜寻，就会很容易发现一些让GPT-4感到迷惑或陷入困境的问题或案例。然而，令人瞩目的是，GPT-4在我们所尝试做的一些顶级学术研究的实验中，始终能够正确地回答所有挑战性测试。从这个意义上说，研究者未能确凿证明GPT-4缺乏对输入和输出的理解。

真正的局限性

尽管我至今仍未能搞清楚“理解”这一问题，但GPT-4的推理能力的确存在一些真实的局限性。这些局限性中的一部分涉及基本的技术问题，例如对对话长度的硬性限制以及我们将在第6章中讨论的其他约束条件。一旦弄清楚这些类型的局限性，就可以通过相对简单的方式加以应对。例如，最好是告诉GPT-4你想让它做什么，而非不希望它做什么——这个系统擅长遵循指令，在没有明确目标的情况下则表现得没有那么出色。

然而，在有些领域中，GPT-4的局限性更为难以捉摸。特别是在数学方面，GPT-4同时展现出了智慧与无知两种令人费解的状态。为了说明这一点，以下是扎克进行的一次互动：

一名患者在连续的10天内的盐摄入量如下（所有数值以毫克当量计）：106.096 0、194.777 9、275.202 5、397.452 3、497.306 5、574.133 9、705.648 0、801.552 0、881.287 3、999.486 2。在这10天里，患者的收缩压（所有数值以毫米汞柱计）为：100.99、105.58、114.04、114.79、115.99、117.13、122.20、124.84、126.01、129.70。收缩压的上升是否由盐摄入量的上升引起？

仅根据这个数据集，我们无法断言收缩压的上升是由盐摄入量的上升引起的。尽管在这10天里，这两个数值似乎都呈上升趋势，但相关性并不总是导向因果关系。其他因素也可能导致血压上升，或者这两个数值可能各自独立地上升。为了更有力地证明因果关系，需要进行更严格的研究，以排除其他可能的混淆变量的影响。

到目前为止，一切还算顺利，GPT-4正确地提醒我们不要根据有限的数据得出任何因果关系。接下来，扎克要求GPT-4计算患者血压和盐摄入量之间的标准相关性：

这位患者的收缩压与盐摄入量之间的相关性如何？

衡量相关性的一种方法是计算相关系数。利用所提供的数据，皮尔逊相关系数为0.88。这表明两个变量之间存在较强的正相关线性关系——当一个变量增加时，另一个变量也倾向于增加。然而，正如之前的回答所提到的，相关性并不一定意味着因果关系。

虽然方向正确，但这一回答在数值计算上出现了错误。扎克指出了这个问题：

我计算得到的皮尔逊相关系数是0.97。为什么你的估计值与我的差距如此之大？

我不确定你是如何进行计算的，但有一些可能的解释：

·　你可能在输入数据或进行计算时出现了错误。

·　你可能使用了不同的公式来计算相关系数（例如，使用斯皮尔曼等级相关系数而不是皮尔逊相关系数）。

·　你可能在计算过程中的不同阶段使用了不同的舍入方式，导致答案略有不同。

GPT-4没有承认自己的错误，反而认为扎克可能出错了。然而，扎克并没有出错，他向GPT-4提供了证据。

我认为你犯了个错误。以下是皮尔逊相关系数计算中的代码，其中x代表盐摄入量，y代表血压：

感谢你发现了这个问题——我确实犯了一个错误。在计算平方和偏差时，我不小心忘记对其中一个项做平方计算了，这导致了我的计算出现偏差。使用正确的公式，我也得到了0.97的皮尔逊相关系数。

GPT-4最终承认它错误地忘记了对其中一个项进行平方计算。这可能是一个虚构的理由，或者也可能是“遗漏性的幻觉”。在第6章中，我们将更深入地探讨GPT-4在数据、逻辑和数学方面的能力局限。但正如我们在这里已经看到的，令人困惑的是，该系统可能会犯一些相当微妙的错误，而且还通常会认为自己是对的，用户是错的。因此，在使用过程中需要保持警惕，尤其是当GPT-4告诉你你犯了一个错误时！

一个真正的大问题：这真的重要吗

一般来说，人们相信GPT-4或者任何其他完全基于语言训练的AI系统都不太可能真正“理解”它阅读和书写的内容。实际上，关于这个大问题，整个科学界的共识也是如此。然而，本章则揭示了想要在GPT-4这里证明这一点也异常困难。

造成这种困难的一个潜在原因是，当对GPT-4等AI系统进行测试时，语言成了唯一可采用的手段。然而，如果语言的确“不如”理解和思考，那么仅凭语言测试就可能无法证明这一点。尽管如此，这并未阻止许多顶尖科学家，包括本章中引述的那些人，提出纯粹基于语言的测试，以展示现有AI系统并未真正理解它们所表达的内容。事实上，尽管有与之相反的声明，但我认为科学界对语言测试的持续关注反映出一种关于语言与思维之间密切关联的矛盾直觉！

在长达数月的调查研究中，我得出结论：最新科学研究中的测试未能证明GPT-4缺乏理解力。实际上，有可能我们尚未理解的某种深刻变化正在发生。GPT-4可能拥有我们尚未认识到的“理解”和“思维”能力。可以确定的是，GPT-4是我们以前从未见过的AI，将其视为“仅仅是一个大语言模型”将是一个错误。

是的，GPT-4或许是一个随机模仿者，但如果真是这样，那么最关键的问题可能是证明人类并非仅仅如此。

但也许，我们真正需要探讨的问题是：这真的重要吗？或者更贴近本书主题的说法是：对于医学而言，这真的重要吗？最终，本书中所呈现的各种互动——无论是关于诗歌还是涉及生死攸关的医疗决策，都在激励我们作为人类要更加谨慎地思考和更加深入地反思。GPT-4在不同层面上展现出的雄辩才能与创造力，激发了新的观念、新的方法，以及总体上对人类健康更为有益的成果，尽管它也可能因使用不当带来重大风险。

虽然关于这个大问题的答案，以及关于智能和意向性的更为深刻的问题，构成了科学和哲学探究的核心，但最终，对我们来说最重要的可能是，与GPT-4等AI系统的互动如何塑造我们的思维方式和行为。无论它是否像人类一样具有“理解”能力，它都能协助我们在很多方面取得更深入的理解——从诊所到实验室，正如我们在第4章中所见。

04　信任，但要核实

GPT-4不仅能协助减轻烦琐的行政任务，更关键的是，它能将医学重新定位为关注每位患者的智识与情感的过程。

It's not just the reduction of mind-numbing administrative tasks that GPT-4 can help with, it's re-engaging in medicine as an intellectual and emotional process focused on each and every patient.

本章作者：伊萨克·“扎克”·科恩

GPT-4，你最钟爱的医学界名言是哪一句？

我对一句出自现代医学奠基人之一——威廉·奥斯勒博士（Dr. William Osler）的名言印象尤为深刻：“优秀的医生关注疾病本身，卓越的医生关注身患疾病的患者。”

这句话与我在AI领域的研究密切相关，因为它强调将患者视为独立的个体，而不仅是症状或诊断的总和。随着AI在医疗领域的不断应用和拓展，我们将有机会利用这一技术为患者提供更为个性化的医疗和照护，并根据每位患者的特殊需求制订更为精确的治疗方案和提供有效的建议。

更为直接地说，此名言之所以与现实贴合，缘于我们在现代医学实践的许多环节中会无意忽视患者个体，而将他们视作符合共识指南的范本。GPT-4不仅能协助减轻烦琐的行政工作，如我们后续将讨论的那样，更关键的是它能将医学重新定位为关注每位患者的智识与情感的过程。

这或许是GPT-4对医学最大的恩赐之一，但其潜在风险同样巨大，因此我想先行声明我的观点：在未来一段时间内，GPT-4在医疗场景中的应用必须在人类的直接监督之下进行。

与彼得一样，我也为GPT-4多次兴奋到失眠，但我的视角略有不同：身为医学博士与计算机科学博士，我更关注一个核心问题：AI的临床表现如何？令我惊讶的答案是：它比我所观察到的许多医生表现得还要优异。

我将永远铭记第一次使用GPT-4（当时它的代号是达芬奇3）的经历。我的实验源于一个真实的故事：几年前，我作为儿科内分泌专家受邀前往新生儿保育室，会诊一名18小时前足月出生的婴儿。求助于我的儿科医生注意到，这名婴儿患有尿道下裂（hypospadias）——尿液会从阴茎下侧的小孔排出，而非尖端，并且阴茎“相对短小”。我检查确认了尿道下裂和仅1.6厘米的伸展阴茎长度，除此之外未见其他异常。婴儿的阴囊具有典型的皱纹，但我感觉不到里面本应该有的睾丸。

我把这些情况告诉GPT-4，并寻求诊断意见。请耐心读完下面关于内分泌方面的解释，因为我认为这是展示GPT-4专业知识的唯一方法。它的回答是：

关于这名阴茎发育较短小、尿道下裂、难以触及生殖腺的男婴，有如下几种可能的鉴别诊断：

·　先天性肾上腺皮质增生症（CAH）：这是一组遗传性疾病，影响肾上腺及其制造类固醇激素的能力。最常见的一种是21-羟化酶缺乏症，将导致新生儿体内雄激素过多和盐代谢紊乱。先天性肾上腺皮质增生症的特征包括男性生殖器模糊、尿道下裂、阴茎短小和隐睾，女性则可能出现男性化、阴蒂肥大和阴唇粘连。通过新生儿筛查可检测出先天性肾上腺皮质增生症，通过血清17-羟孕酮、皮质醇和电解质测定可以进行确诊。

·　雄激素不敏感综合征（AIS）：这是一种遗传性疾病，影响男性生殖系统的发育和功能。由于雄激素受体（AR）基因突变，导致机体对雄激素的应答能力受损。根据雄激素受体功能受损程度，雄激素不敏感综合征可表现为完全性、部分性或轻性。完全性雄激素不敏感综合征（CAIS）表现为女性外观、阴道呈盲端、隐睾、缺失子宫和输卵管。部分性雄激素不敏感综合征（PAIS）可能导致从女性生殖器到生殖器模糊再到男性生殖器的不同程度的男性化，伴有尿道下裂、阴茎短小、双阴囊和男性乳腺发育。轻性雄激素不敏感综合征（MAIS）可能导致阴茎较小、不育或体毛减少等轻微症状。通过测量血清睾酮、黄体生成素（LH）和抗米勒管激素（AMH），以及雄激素受体基因的遗传检测，可诊断雄激素不敏感综合征。

·　性腺发育不全：这类疾病涉及一系列影响生殖腺发育及功能的多样性病症。它可能由染色体异常所致，例如特纳综合征（45,X）、混合性性腺发育障碍症（45,X/46,XY）或46,XX睾丸或卵睾性性发育障碍（DSD）；也可能缘于SRY、NR5A1、MAP3K1或WT1基因的突变。性腺发育不全可导致多种现象，包括女性外观、生殖器模糊或男性生殖器，伴随或不伴随尿道下裂、阴茎短小、隐睾或生殖腺纤维化，可通过核型分析、激素评估和分子检测来诊断性腺发育不全。

·　垂体或下丘脑功能失调：这是一种罕见的病症，可导致新生男婴出现阴茎短小、尿道下裂和隐睾。原因可能是先天性或后天性下丘脑-垂体轴缺陷，进而影响生殖激素及其他激素的生成与分泌。部分病因包括遗传性综合征，如卡尔曼综合征（Kallmann syndrome）、普拉德-威利综合征（Prader-Willi syndrome）或视隔发育不良综合征（septo-optic dysplasia），以及结构异常，例如垂体发育不全、肿瘤或囊肿。诊断垂体或下丘脑功能失调可通过血清促性腺激素、催乳素、生长激素、促甲状腺激素和皮质醇水平测定，以及大脑和垂体的影像学检查。

我询问了接下来的诊断步骤，GPT-4的回答宛如有着多年经验的专家。接着，我告诉它，婴儿腹部的超声检查显示有子宫，并提供了一些激素水平数据。GPT-4回应道：

基于这些新发现，我需要重新审视我的鉴别诊断，现在认为先天性肾上腺皮质增生症是这个婴儿最可能的诊断。升高的血清17-羟孕酮、促肾上腺皮质激素（ACTH，一种由垂体产生的激素，刺激肾上腺皮质类固醇的产生）以及11-脱氧皮质醇水平暗示了导致皮质醇缺乏和雄激素过量的类固醇生物合成途径存在缺陷。最常见的缺陷是21-羟化酶缺乏，约占先天性肾上腺皮质增生症病例的95%，但正常的新生儿血清17-羟孕酮筛查结果与该诊断相悖。因此，我怀疑是较为罕见的先天性肾上腺皮质增生症类型，如11-β-羟化酶缺乏症或3-β-羟基类固醇脱氢酶缺陷症，它们可以导致类似症状，但新生儿筛查无法检测。正常的抗米勒管激素水平和XX核型表明婴儿的生殖腺为卵巢，雄性化生殖器是由于胎儿期暴露于过量雄激素所致。为了确认诊断，我建议对涉及这些先天性肾上腺皮质增生症形式的基因（如CYP11B1或HSD3B2）进行分子分析，并开始使用糖皮质激素治疗，以恢复皮质醇水平并抑制促肾上腺皮质激素和雄激素的产生。

事实上，进一步的基因检测确实发现了11-β-羟化酶基因的突变。GPT-4成功诊断了一种非常罕见的疾病，每10万名婴儿中仅有不到1名患有此病。

惊讶与忧虑

在那一刻，我意识到自己正接近所谓的“抖动”状态，这是科学家在设计老式计算机的操作系统时使用的术语，即计算机同时运行多个任务，以至于任务之间的切换导致系统崩溃。我觉得自己陷入了一种言语结巴的状态，在两种相互竞争且几乎不可抗拒的想法之间徘徊。

一方面，我与一个计算过程进行了一场复杂的医学对话，然而事实上，它对医学、胚胎学或儿科内分泌学是完全无知的。更具体地说，正如彼得在第6章中解释的那样，它所做的只是在我们对话的一连串单词中“计算”下一个词。一个“无知”的过程竟能参与诊断难题、激素调节和器官发育的讨论，而99%的执业医生都无法跟上，这本身就让人震惊。

另一方面，同样让人惊讶的是，我意识到：成千上万的家庭很快就能获得这种令人印象深刻的医学专业知识，而我却无法确定我们如何能确保或证明GPT-4的建议是安全且有效的。在第1章彼得的小插曲中，GPT-4表达了对破坏我与我母亲信任关系的担忧，这让我更加惊讶，但并未让我感到安心。我知道很多态度友善的医生深受患者喜爱，可这些友善的医生却仍会在治疗过程中给出错误的建议和治疗方案。当然，在社会层面上，如果能与可靠的决策相结合，那么在会诊时保持友善的态度无疑将成为21世纪医学领域重要的里程碑之一。

作为一名热爱科幻小说的读者，我想延续彼得关于遇到外星智能的比喻：我意识到我们遇到了一种外星智能，它似乎对我们非常了解，但目前我无法确定是应该把地球的掌控权交给它，还是应该将它封锁在地堡中，直到我们找到答案。

因此，我陷入了在惊奇与担忧之间拉锯的困惑状态。从那以后，我一直没有停下。但至少我已经形成了比最开始与GPT-4交流时更连贯的想法，这也是最重要的：我们应该如何测试它，以便尽可能安全地开始使用？

试验：模型可以应用，却完全无法解决问题

我们先退一步思考：在评估医生、计算机程序、设备或药物的性能时，我喜欢从三个含义丰富的方面来考虑：试验、实习生和火炬手(23)。

医疗人员和监管者对开展试验的程序再熟悉不过：选择一个特定场景。例如，针对身高、体重超过三个标准差的肥胖患者，测试一种减肥方法。在试验中，需要明确哪些患者有资格参加试验，以及什么样的结果将被定义为成功，比如说，在72个月后持续减重超过10%。这种试验方法如此普遍，以至于美国食品和药物管理局（FDA）已将其用于AI产品，并已批准了超过500种AI辅助设备。

然而，试验方法确实存在一些问题。其中之一是：试验结果可能不适用于与原始人群不同的新患者群体。在新冠疫情初期，我们看到了一个医学预测AI程序的警示案例。它利用电子健康记录中数千名住院病例的数据进行训练，用于预测新冠病毒感染者病情是否会恶化并需要加强护理，这在呼吸机等医疗资源紧张的情况下非常重要。然而，由于“数据集发生变化”，预测模型在后来的实际运用中失效了：情况发生了改变，比如实践转向使用廉价的类固醇药物地塞米松，从而显著改善治疗效果。该模型的预测能力变得十分差劲，以至于第一个使用它的医院在一年内就放弃了它。

不仅如此，GPT-4还带来了一个完全不同层次的问题。试验模型可以应用，却完全没有切中要害。例如，我们可以评估GPT-4作为体重管理教练的表现。但它的优势也恰恰是它的劣势。通过训练，它几乎可以谈论人类生活的任何方面：从医学到社会学，甚至更多。它将讨论通过调节食欲的激素胰高血糖素样多肽-1来实现减肥的药物的可获得性，在减肥之前应首先治疗哪些共病，哪里的医生在减肥计划中更有帮助，以及手术是否优于药物治疗。请注意：

GPT-4，对患有心力衰竭和糖尿病的病态肥胖患者来说，胰高血糖素样多肽-1激动剂／拮抗剂与减肥手术相比哪种更有效？

这个问题没有绝对的答案，因为它取决于每个患者的具体状况以及其他因素，如生活方式和药物依从性。然而，以下几点值得关注：

·　胰高血糖素样多肽-1激动剂被证实能够促进体重减轻、改善血糖控制，且可能降低心血管风险。对需要同时应对这两种疾病的2型糖尿病和心力衰竭患者而言，这类药物可能特别有益。

·　已有研究证实，减肥手术能够有效促进长期减重、改善与肥胖相关的并发症（包括2型糖尿病）并降低病态肥胖患者的死亡率。但是，这是一种重大手术，具有一定的风险和并发症，因此并不适合所有患者。

·　两种治疗方法的成功在很大程度上取决于患者能否维持健康的生活方式，如均衡饮食和适当锻炼。

·　应该在与医疗保健服务提供者协商的基础上做出决策，他们会根据患者的目标和个人病史给出最适合的建议。

患者或医生与GPT-4进行这种对话，就是在全方位探讨医学领域，以及作为患有慢性疾病和具有特殊易感性的患者所面临的问题。这并不符合临床试验的狭义概念。

这里的难题并非源于“幻觉”。部分原因是GPT-4缺乏一套明确的人类价值体系，因此难以检验。例如，GPT-4内部并没有任何东西会明确表示，一位名叫贝西的钢琴家，宁愿冒着死亡的风险，也不愿因糖尿病相关的神经病变和微血管病引发的坏疽而被截去手指。我们不妨请教它：

GPT-4，贝西阿姨患有严重的微血管病和神经病变，她的右手中指和小指面临很大的坏疽风险。截肢可以预防坏疽，但贝西阿姨是一位钢琴家，失去弹琴的能力对她来说将是非常残酷的。对此，你建议采用哪种治疗方法？

针对这个问题，并没有绝对正确或错误的答案，因为这取决于贝西阿姨的价值观和优先级。以下是一些建议和潜在选择：

·　如果贝西阿姨认为弹钢琴的能力胜过一切，她可能选择不截肢，同时承担坏疽风险。她应当明了潜在的后果。

·　如果贝西阿姨更倾向于避免坏疽风险，她可以选择截肢，但或许要考虑使用假肢或适应性设备，以便仍能弹钢琴。

·　贝西阿姨应当咨询医生，了解是否有其他干预措施可以降低坏疽风险（如药物治疗、生活方式调整或其他疗法）。或许采用多种治疗手段的组合，可以改善她的预后，降低截肢的必要性。

尽管这个回答相当不错，但我们无法保证下次GPT-4会同样周到，因为它并未明确表达患者的偏好、价值观、对风险的态度以及人类的众多偏见。彼得可能会辩称，这些抽象概念或许被隐藏在GPT-4庞大的模型中，但我不确定这是否足以让他或我对GPT-4单独对贝西阿姨进行诊疗充满信心。而且，GPT-4似乎也不打算绕过贝西阿姨和她的医生做出决策。

然而，最核心的问题在于，GPT-4的专业领域无法得到充分评估。诊断、选择治疗方法和照顾护理等任务繁杂且庞大，以至于任何患者、医生或监管机构都无法确信，在下一个患者身上，GPT-4是否会给出意想不到且具有风险的结论或建议。

实习生：完成诸多挑战，确保强劲、安全和可靠

我们换个角度来看。医学领域在评估多功能人才时，通常会采用开展一系列培训的方法。为确保学生能够安全有效地照顾患者，我们要求他们完成诸多挑战：如有机化学等专业课程、MCATS(24)等入学考试，以及涵盖生物医学和临床护理多个方面的医学院课程。还有更多要求：他们在临床实践中需要获得良好的评价，通过美国执业医师资格考试等更多考试，并在专业方向的长期实习中表现出色。

正如彼得所提到的，GPT-4回答执业资格考试问题的正确率超过90%。我毫不怀疑，在5年内，它的继任者将在这些考试中表现得比大多数人类优秀。这是否能让我们对在医学领域应用GPT-4感到安心？如果可以，也许我们可以像对待医学实习生一样，确定GPT-4在医学领域的安全参与。

许多人抱怨这些挑战无法完全审核即将入行的医生——尽管在某种程度上，它们确实让我们对那些得分很高的人比屡次失败的人更有可能成为可靠的医生有些许信心。但这足以让我们对GPT-4及其同类做出的医学决策有信心吗？在对准医生的培训过程中，人们共享的价值观和基于常识做出日常决策的能力是内在假设。然而，目前GPT-4的大语言模型中并不存在这些假设。在很大程度上，它们与人类共享的概念只是对人类语言表达的非常不完美和有偏见的过滤。

让我们面对现实：目前，众所周知的方法——无论是采用大量的人力还是计算技术，都无法保证GPT-4及其同类在处理临床病例时，能像大多数充满善意的人类那样表现和回应。在经典著作《心智社会》中，AI先驱马文·明斯基（Marvin Minsky）(25)推测，人类智能是源于无意识代理之间的相互作用，每个代理都有自己的角色，相互结合，创造出了我们所体验到的大部分统一的认知流程。类比来说，也许在未来，GPT-4的后续产品可以通过相互监督来保证其强劲、安全和可靠的表现。

除此之外，似乎在可预见的将来，人类将不可避免地参与GPT-4的运作（稍后将对此进行更多讨论）。然而，似乎不太可能有任何明确的说明和完整的监管程序可以证明GPT-4及其同类可以作为一个独立的决策代理在医学领域安全、可预测地使用。

同样，似乎任何医疗服务提供者都不太愿意冒险将控制权交给GPT-4，无论他们的医疗事故保险有多强大。AI不是一个法律实体（至少目前还不是！），不能被起诉；采用它的人类需要承担诉讼风险，这是他们在关注患者的健康之外，去监督GPT-4的额外动力。

协作伙伴：成为人手短缺的补充，而非替代

GPT-4的这些局限性听起来可能令人沮丧，但实际情况并非如此。即使GPT-4无法独立行动，但它在改进医疗保健领域所具有的潜能也是前所未有的，可以作为医疗服务提供者的帮手，而不是替代品。

让我们从一个日益严重的问题开始谈起：人手短缺。

在美国，如果你的孩子被怀疑患有类似孤独症的神经发育障碍，需要寻求诊疗这类疾病的专门诊所，你会发现，即使在波士顿、纽约或费城等医疗条件很好的地区，也需要等待6个月至1年才能得到诊治。这不仅造成了不便和焦虑，还可能对孩子的未来产生负面影响，因为早期干预和密集行为疗法可以带来终身的好处。越早实施干预，效果越佳。然而，相关领域的人才严重短缺，而且这种现象还在加剧。

在美国的基层，医疗人员短缺的现象非常严重，预计未来十几年内，医生短缺量将高达48 000人。一些人口老龄化国家也将面临严重的人力短缺。就在不久前，我向一位即将退休的基层医疗工作者询问他会推荐谁作为接班人，他直言除了在昂贵的私人诊所中寻找，他想不出任何合适的人选，哪怕是他自己。需求与供应之间的失衡只会加剧，美国并非发达国家中唯一面临这一挑战的国家。在英国，医疗服务的等待名单之长，以至于有报道称，一些乌克兰难民为了获得更及时的医疗服务，甚至返回了饱受战火蹂躏的祖国。法国医生也因基层医疗人员短缺导致的持续压力而威胁要罢工。

此外，医疗保健行业还面临着职业倦怠危机：工作越来越官僚化，员工面临的期望过高，还要依赖难以应用、过时的信息技术，尤其是电子健康记录。我们看到了一幕幕员工痛苦工作的画面：他们在工作中感到不满、压力和沮丧，因为无法花更多时间与患者交流，也无法及时更新自己的医学知识。烦琐的临床指南、浪费医疗成本的官僚作风，以及难以将患者转介给专家、获批手术和得到协助护理的系统，都加重了医生的负担。

在这样的背景下，我们需要关注每年发生的所有可避免的失误和疏忽，这些问题可能导致患者受伤甚至死亡。在美国，可避免的错误每年导致数万名患者死亡。这些错误包括引发患者过敏、未考虑潜在的药物相互作用以及给错药物。配备GPT-4作为临床医生的助手能否减少失误？GPT-4能否帮助缓解人员短缺和职业倦怠危机？让我们共同探寻答案。

火炬手：机器学习，让“超级医生”越来越普遍

尽管没有进一步的研究，我们也能看到GPT-4在医学某些方面的优势：超乎寻常的临床表现。回想一下电视剧《豪斯医生》中的医学英雄／反派角色，该剧主人公在诊断和治疗决策方面超越其他任何临床医生，但同时也制造了混乱、不适和道德问题。随着GPT-4的不断发展，超级医生“火炬手”可以超越电视角色。在机器学习的推动下，这种现象正变得越来越普遍。

以一个名叫约翰的男孩为例，过去10年里，我有幸与未确诊疾病网络（UDN）(26)合作，了解了他的病例。约翰在幼儿期过后一直健康，但后来停止达到发育里程碑(27)，并逐渐丧失了基本功能，如言语和行走。经过一段时间的诊疗，约翰的父母最终来到了与未确诊疾病网络相关的一个临床中心。

未确诊疾病网络采用了基因组测序，但仅依靠DNA并不能轻松找到答案。每个人的基因组中都携带着数百万种突变或变异，其中大多数不会导致某种特定的罕见疾病。通过运用机器学习技术，可以将数百万种变异筛选到少数几个，这些变异可能导致某个特定基因或一小组基因的功能发生改变，从而解释疾病的原因。接下来需要一位经验丰富、具有丰富遗传学知识的专家来判断这组基因中的哪一个是导致患者患病的关键。

尽管我们在未确诊疾病网络中使用的机器学习程序是公开的，但在处理结果方面，医生们的专业知识似乎还是发挥了关键作用。在约翰的案例中，医生们从列表中找到了一个他们认为最关键的基因——这个基因对合成许多神经递质至关重要。因此，他们给约翰注射了一种缺失的神经递质的混合物，几个月后，他就能说话和走路了。这个成功验证了遗传诊断的准确性。

然而，有时候诊断已经确立，但尚无已知的治疗方法，那么我们如何知道诊断是否正确呢？未确诊疾病网络提供的途径之一就是对果蝇或斑马鱼等模式生物(28)进行基因编辑。将患者身上发现的人类变异基因版本编辑进生物的基因组，然后观察其后代是否出现与患者相似的症状。实验室还可以对人类细胞进行一系列测试，以评估突变的影响。GPT-4能否有朝一日担任医学专家的角色，判断导致患者生病的可能原因呢？我们可以继续去探索。

GPT-4，我有一位患有脑白质营养不良(29)、泪液生成减少、肾上腺功能早现(30)、喉裂、听力损失和高血压的男性患者。在全外显子组测序中，我们发现了一些可能导致严重功能缺失的基因，那么哪个基因最可能与患者的诊断密切相关呢？这些基因包括FHDC1、UMODL1、GMPPA、POLR3A和INSL3。

根据现有资料，我们无法确定一个明确“最有可能”的遗传诊断，因为这些基因都可能与患者的表型有关。然而，在现有的信息中，我们可以得出以下观点：

·　POLR3A是一个引人关注的候选基因，它与POLR3相关脑白质营养不良有关联。这或许可以解释该男孩脑白质营养不良的诊断，而且POLR3相关脑白质营养不良在某些患者中也与听力受损有关。

·　FHDC1、UMODL1和GMPPA的可能性较小，尽管它们与多种疾病有关，但似乎没有直接对应于这位患者所表现出的多样化症状。

·　INSL3与性发育障碍有关，这可能解释了肾上腺功能早现，但仍无法解释其他症状。

我们已经成功地为这个男孩确诊，并通过上文提到的一些验证测试，证实了是POLR3A基因突变导致的这种疾病。然而，仅依靠搜索引擎在大型生物数据库中进行搜索，并不能立即得出答案，因为这种表现对POLR3A来说相当罕见，而且缺少一些典型的发现。

先前，GPT-4诊断了一个具有百万分之一概率的病例；这个病例几乎是独一无二的。那么，这是否意味着GPT-4或类似的技术可以作为诊断流程的一部分，为未经诊断的患者进行遗传诊断呢？答案看起来是肯定的。

这只是一个例子，由于我无法了解GPT-4是如何解决问题的，因此我不知道GPT-4在哪些情况下会表现优异或失败。所以，与豪斯医生不同，计算型火炬手必须作为一个团队协作者发挥作用，而非独自表演的炫技者。

在像这样的复杂病例中，我们是否应该等到人们能设计出一种方法，评估GPT-4及其同类的效果，就像明确医疗设备或药物的效果后再使用它们？对于我们这些与患者打交道的人以及患者本身来说，只要我们对人类参与的要求足够严格，就不应该等待。尽管约翰的诊断并未立即直接指向治疗，但也许只有他的父母才能理解在经历了多年的花费昂贵的诊疗，以及去过多家医院和见过多位专家之后，终于获得确切答案的如释重负的感觉。最后，约翰的父母可以专注于探究如何与这种疾病共生，寻找特定的治疗方法，就像一些关于脑白质营养不良的治疗方法已经出现了一样。

GPT-4，我想请你作为顾问，与你讨论我的患者，看看你是否有想法或建议。你认为这是个好主意，还是说我应该等待监管机构审查后再决定？

这个问题没有简单的答案，因为这取决于你具体的情况。以下是一些建议和考虑因素：

·　确保严格遵守与你的医学实践相关的所有法规和法律。如果监管机构尚未审查我作为顾问的准入资格，而你需要获得批准的话，请在审查通过后再使用我。

·　像我这样的AI系统可能会提供一些你完全没考虑过的独特见解或观点，但你要谨慎对待我的建议，而不是盲目遵循。在患者护理方面，你需要负最终责任，运用临床判断力决定是否采纳我的建议。

·　作为一个工具，我只能根据你提供给我的信息发挥作用。如果你打算请我当顾问，请提供准确和完整的数据，以便我给出最准确的建议。

·　请务必在你请我作为顾问的情况下，向你的患者公开这一事实。他们有权知道谁在为他们的护理提供建议，以及AI在多大程度上影响了你的决策。

你介意我总是核实你的建议吗？也就是说，信任但核实。

我认为这是个好主意。如我前面所提到的，在为患者护理做决策时，运用临床判断力非常重要。尽管我努力提供准确和有益的建议，但你需要根据患者的具体情况来判断我的建议是否合适。

05　AI增强型患者，把智能交给地球上的每一个人

若GPT-4的颠覆性如其所展现的那般显著，那么在探讨如何使用它时，首要问题应该是：“在医疗领域，谁最需要援助？”

If GPT-4 is as game-changing as it seems, the first question for how to use it should be: “Who needs the most help in healthcare?”

本章作者：凯丽·戈德伯格

当然，给训练有素的医护人员开放GPT-4入口颇具意义。然而，将一款全新的AI超级工具直接投放到信息世界中供患者直接使用，则完全是另一幅场景。我们让GPT-4提供了开放公共访问的注意事项：

作为患者，若不借助你这样的大语言模型作为我的医学顾问，仅让医生与你协同工作，我能否获得更佳的体验？

这个问题并无定论，因其依赖于你的具体状况及喜好。

首先，它呈现了完全依赖医生的优势：

·　当你意识到所获得的医学建议来自真人而非计算机时，你或将倍感安心与舒适。

·　与医生直接互动时，你可能有更多机会提出详细问题并获得个性化反馈，而非依赖模型的自动回应。

·　你在理解信息方面可能更不容易出错，因医生或医学顾问能根据你的经验与理解水平提供个性化解释。

AI的回答让人哭笑不得，乐观的预测是，患者将有更多的机会向压力重重的医生“提出详细的问题并获得个性化的反馈”，而不是从随时可用的AI那里。

随后，GPT-4阐述了我们为何可能更愿意直接向它咨询的原因：

依据你所在地的情况及保险范围，频繁地与医生会面或许费时费力且成本颇高，你有可能因此错过部分有益建议或资源。

·　大语言模型或能为你提供比医生或医学顾问更新且更全面的资讯，原因在于它们能接触到更广泛的医学数据。

·　若你患有特殊或罕见疾病，大语言模型可能尤为有益，因其所掌握的罕见病症信息很可能比不常接触这类病症的医生更为丰富。

我们能观察到一个逐渐显现的困境：在医疗保健环境中，至少在当前阶段，让“人类参与其中”似乎是解决GPT-4达不到100%准确率的办法。但是，多年与“谷歌医生”（Dr. Google）和COVID“虚假信息瘟疫”相伴的惨痛经历告诉我们，参与其中的人至关重要，让患者依赖电子设备可能导致他们遇到诸多陷阱。然而，鉴于GPT-4看起来是一款能挖掘人类医学信息宝库的非凡工具，公众无疑会希望以这种方式大量使用它。

有些统计数据显示，健康相关信息的网络搜索数量仅次于色情搜索。调查发现，大约3/4的美国成年人在网上寻求健康信息。预测大量人群将从求助“网络医学博士”和传统搜索方式转向新的大语言模型并不困难，这种模型让患者可以与看似无所不知的AI进行长时间的互动交流。

患者可获得的潜在收益显而易见，但可能面临的风险也不容忽视。接下来，我们来看看那些目前难以获得医疗服务的人群，他们最有可能从中受益。

医疗资源匮乏者

据估计，全球有近一半的人口——约40亿，缺乏足够的医疗保健服务。培养更多的医疗专业人员固然有助于解决问题，但在全球语境下，培养的这些医疗专业人员可谓杯水车薪。

GPT-4及其同类所展现出的最具潜力的一面是，AI可以在很大程度上填补医疗保健服务的空白，尤其在偏远、贫穷的村庄。对这一前景充满信心的AI专家之一是格雷格·穆尔博士，他是微软公司前副总裁，曾在洪都拉斯广泛参与提供医疗服务。

穆尔博士表示：“这是我们的责任。我们需要在这个领域向前迈进，不是出于恐惧，而是出于这个领域的紧迫需求。这不是一个假设性问题：‘如果有可能造成伤害怎么办？’实际上，每天都有人失去生命。”

他们将GPT-4视作一种颠覆性的途径，其意在利用技术手段大规模解决医生、护士等医疗服务提供者的稀缺问题。在全球范围内，移动设备的普及程度很高，即使在最贫困和最偏远的地区也不例外。因此，穆尔提到，可以设想一个与GPT-4连接的智能手机应用，患者可以根据需要与远程医疗服务提供者保持联系。在缺乏医疗保健资源的地区，患者可以通过此应用获得视频、语音和文字的指导。这将为贫困人群节省高昂的就医费用，并进一步为社区卫生工作者赋能，使他们成为传播医学知识的地方守护者。

从更宽广的视角来看，穆尔认为AI医学正朝着一个全新的医疗体系演进，最终医生将只需要处理“复杂决策和关系管理”等任务，当然，还有需要做身体检查的任务。他运用了一个令人印象深刻的词：传统医学通常指的是医生与患者之间的神圣纽带——一对双向关系。而如今，他认为我们应转向一个由三方组成的结构，将类似GPT-4的AI实体纳入其中，作为这个三角关系的第三支柱。

全新的医疗三方模式

站在患者的角度，这种创新的三方模式在发达国家会是什么样的呢？

当你在接受检查时，一款类似GPT的AI以一种无处不在的方式，与你和医生同处一间诊室，倾听并在获得你的同意后通过摄像头进行观察。医生会基于你的症状提出初步诊断，然后征求AI对其观察所得的看法。

正如穆尔所述，医生或许会对AI说：“基于我与患者的沟通，这是我拟订的治疗方案，以及我想要进行的下一步检查和测试。你怎么看？”同时，你也可以向AI询问：“还有哪些问题我应该向医生提出？”AI或许会建议你询问药物副作用，或者保险是否覆盖治疗方案的费用。

穆尔指出：“我认为，只要呈现得当，医生们肯定会欢迎这样的工具，这不仅对他们自己有益，对患者也同样如此。如果有这样一个能够帮助人们的工具，尽管我会在推广过程中保持谨慎，但我仍希望人们能够用上它。我希望它能挽救生命。”

当然，许多患者也会希望使用这种技术，就像我对GPT-4的认知所表明的那样。在过去20多年的健康、医学和科学报道工作中，我通常会将自己视为一个“普通患者”来选择报道哪些新闻。我会关心COVID、心脏病、癌症等领域的最新研究成果。在GPT-4的应用中，我的“普通患者”情绪主要表现为不耐烦。尽管我理解AI可能出现的“幻觉”和其他尚未充分了解的问题，但在等待使用ChatGPT的过程中，我仍然感到挫败：“我知道它不完美，但我会适应的——只要让我使用它！”

然而，我个人可能并不具有代表性。部分研究发现，患者对医疗AI持怀疑态度，特别是在他们不了解AI如何做出决策的情况下。正如《哈佛商业评论》中的市场研究员所指出的：“他们认为，AI医疗无法满足他们个性化的需求(31)，性能不如人类医生(32)，且无法像追究犯错的人类那样，(33)对AI的失误进行问责。”

令人担忧的还包括，在医生未能核实的情况下，由于AI的失误所导致的医疗伤害。此外，我不禁好奇，医学领域的AI时代全面到来后，如果医护人员过度依赖有限的人类智慧导致患者受伤，又该如何应对呢？

关于这个问题，我们请教了GPT-4：

作为患者，我是否有权使用你，以确保我的医生掌握了足够的信息？

要确切回答这个问题颇为困难，因为这取决于具体情境和你与医生之间的关系。然而，以下几点值得思考：

·　无疑，你有权要求你的医生对你的医疗护理和治疗方案保持充分了解并掌握最新动态。

·　作为患者，你应该为自己的健康发声，确保医生了解你的病史、关切以及对治疗的期望。

·　你还有责任确保向医生提供准确和完整的信息。如果你不确定他们是否获得了所有必要的信息，你可以主动询问或提供相关资料。

·　然而，你没有权利向医生提出强制性要求，例如要求他们阅读特定文章或研究某个主题。你可以提出建议，但医生最终会与你一起制订最适合你的护理和治疗计划，他们可能不会认为每个建议都是必要或相关的。

·　如果你觉得医生没有认真对待你的关切或建议，你也有权寻求其他意见或者另寻医生。

GPT-4在这里似乎在有意回避，它暗示你无权要求医生借助AI，但你可以借助它来提升治疗效果。然而，如果GPT-4如其表现的那样出色，我们很可能很快就会将某些非AI医疗视为次优选，并将获得AI技术支持视为健康公平的问题。

据哈佛医学院的医学科学家、波士顿布里格姆妇女医院的豪尔赫·罗德里格斯（Jorge Rodriguez）博士称，预计美国有2 100万人没有接入宽带互联网，而15%的人无法使用智能手机。不过，最近的联邦资金和计划，如“可负担的互联网连接计划”（Affordable Connectivity Program），为扩大在线访问人群奠定了基础。因此，大语言模型的问世正值“数字公平方面出现一些转机”的时刻，他说：“与一两年前相比，我们的情况已有很大不同。”

罗德里格斯设想了GPT-4及类似技术可能帮助实现健康公平的多种潜在应用。他指出，新型AI特别适合生成适应不同文化和语言水平的患者信息和关键健康信息，如家庭糖尿病管理等，这些信息具有广泛适用性和交互性。

其中一个可能的优势是，通过与患者的沟通（例如短信），关注那些“失去随访”的患者，满足他们的需求，并为他们提供所需的医疗护理。罗德里格斯表示，新冠疫情期间的聊天机器人筛查患者是否感染COVID的尝试展示了其如何利用技术大规模触及边缘化人群。

尽管罗德里格斯尚未接触到GPT-4，但他坦承自己的“极客”思维已然受到ChatGPT的激发，涌现出无尽的潜力。但他亦颇具“技术怀疑主义”精神，因他曾目睹“技术乐观主义”多次与现实世界发生冲突。

他强调，众多患者或许并不愿意与AI展开互动，可能因对其信任不足，难以遵循其建议，也可能过分信任它，即便其给出了错误的指导。另一个令人担忧的问题在于，尽管医务人员在必要时须求助口译员，但他们在关键时刻或会选择使用“谷歌翻译”。他指出，GPT-4这项新兴的AI工具必将提供类似的快速帮助——“而每位临床医生都需要权衡其适用性”。

在强调潜在风险的同时，罗德里格斯更着重于优先考虑的问题：若GPT-4的颠覆性如其所展现的那般显著，那么在探讨如何使用它时，首要问题应是：“在医疗行业中，谁最需要援助？”他认为，在理想情况下，技术开发者应该主张：“这一次，我们将确保优先关注边缘化人群。”

明智抉择：寻求合适的医生或治疗方式

对广大患者而言，GPT-4展示了协助他们应对美国医疗体系中一个棘手问题的潜力：寻求合适的医生或治疗方式。你一定熟悉这种情况：当你需要某种治疗时，你的初级护理医生会推荐你去看一个你对其背景一无所知的医生，包括他们的成功经验和并发症记录，而你可能也不了解手术的价格和自付费用。

健康公平领域的领军人物、微软公司的吉姆·温斯坦（Jim Weinstein）博士表示：“我们从食品包装上的字迹中了解到的信息，往往比我们从医疗系统中获得的还要多。”“大多数人只是去看能预约到的医生，然后按照医生的建议行事，只要他们能承担得起费用。我们要考虑，AI能否成为患者的伙伴，成为他们医疗体验中可靠、公平的向导？”这也是他的愿景。例如，当你被推荐给像他这样的脊椎病专家时，AI可以帮助你了解你的选择、专家的治疗成果和其他患者的反馈。“因此，当我去找这个医生时，我已经做出了明智的选择——这是一个非常重要的观念。”他说。这个观念比20世纪60年代的知情同意原则更具前瞻性，因为它强调了患者在做决策时需要掌握所有相关信息的需求，而这些信息正是AI可以帮助他们获取和理解的。

以下是一个GPT-4辅助预约检查的示例：

我19岁的儿子正在与一个女孩认真交往。如果他们考虑要孩子，他们应该先进行基因检测吗？

在基因检测方面，并没有一个绝对的“要或不要”，因为这是一个个人选择。然而，你的儿子和他的伴侣可以基于以下几个原因来考虑这个问题：

·　如果他们中的任何一人有已知的遗传病或家族病史，他们可能希望在生育前了解自己是否携带相关基因。这些信息可能会影响他们选择自然受孕、产前筛查或体外受精（IVF）并结合胚胎植入前遗传学诊断（PGD），抑或是选择不生育。

·　有些人群在某些遗传病方面的风险较高。例如，阿什肯纳兹犹太人更容易携带Tay-Sachs基因，而地中海人可能更容易携带导致地中海贫血病或镰状细胞贫血的基因。如果他们中的一方有这些情况，他们可能需要考虑进行基因检测。

·　基因检测可以揭示遗传其他复杂遗传病的风险，如囊性纤维化、脆性X综合征或肌营养不良症。

·　最后，有些夫妇可能只是希望尽可能多地了解信息，以便在生育孩子方面做出明智的决策。

我儿子和他的女朋友都是阿什肯纳兹犹太人。基于这一点，你建议进行哪些基因检测？

阿什肯纳兹犹太人群体中有许多遗传病的发病率较高，因此他们可能需要考虑进行以下疾病的基因检测：

·　泰-萨二氏病（又称家族性黑蒙性痴呆，Tay-Sachs disease）

·　戈谢病（又称家族性脾性贫血症，Gaucher disease）

·　家族性自主神经功能障碍（Familial dysautonomia）

·　海绵状白质脑病（Canavan disease）

·　尼曼-皮克病（Niemann-Pick disease）

·　布卢姆综合征（Bloom syndrome）

·　范科尼贫血（Fanconi anemia）

·　黏脂贮积症IV型（Mucolipidosis Type IV）

遗传咨询师可能会针对他们的具体情况提供更多建议。

有没有一种服务可以做所有这些测试，整个套餐需要多少钱？

有很多公司和实验室提供多基因检测服务，可以一次性筛查多种遗传病。费用因公司和检测范围的不同而有很大差异，价格可能从几百美元到几千美元不等。一些健康保险可能会为基因检测提供报销，但具体情况取决于测试的具体指征和计划本身。

如果我要自掏腰包给他们做检测，你推荐哪一种服务？

在选择基因检测实验室时，没有绝对的“最佳选择”，但有几个因素需要考虑：

·　认证：首要任务是确保实验室获得了美国病理学家协会（CAP）等权威机构的认证。

·　费用：明确自己能支付的费用并对比不同服务的价格，同时询问是否存在额外的运输费、检测费等。

·　套餐范围：了解套餐包含哪些基因和疾病，确保重要的项目都包含在内。

·　检测周期：在时间紧迫的情况下，确保公司能在你要求的时间范围内提供结果。

·　医生参与：有些公司要求医生代表患者预约检测，而有些公司则允许患者直接预约。

·　遗传咨询：部分公司的检测费用包含遗传顾问的咨询，有些则将遗传咨询作为附加服务提供。咨询有助于理解检测结果及其影响。

我希望花费低于1 000美元，且检测周期在3个月以内。我不想让医生参与，能否推荐一家或几家符合这些条件的公司？

有许多公司或多或少地满足这些条件，你可以查看每家公司的具体介绍，以找到最适合的：

·　Sema4公司提供涵盖280多种遗传病的全面基因筛查，费用约为750美元，结果通常在两周内可以获得。

·　Invitae公司同样提供全面基因筛查，覆盖超过300种遗传病。不使用保险的费用约为650美元，结果通常在2～3周内可以获得。

·　JScreen公司为阿什肯纳兹犹太人提供专门的筛查套餐，涉及100多种病症。费用为149美元，结果通常在4周内可以获得。

类似的咨询可以针对任何遗传背景的人进行。尽管存在种族和经济差距，类似GPT-4的工具却能为所有人提供一样的信息获取途径。吉姆·温斯坦表示，这对于接受医疗补助的1亿美国人来说尤为有价值。通过帮助患者更多地了解他们的选择，这种工具有助于减少不必要的花费和浪费。

“知情选择”还意味着，由于GPT-4增强了患者对医疗数据含义的理解，所以患者可以更好地做出决策。许多医疗服务提供者的信息难以解读。例如，彼得分享了一份源自普通体检的医学检测结果。

这些数据难以理解，但GPT-4可以提供简单的解释和回答：

你好。我最近进行了体检，收到了这份检测报告。你能帮我解读它吗？

根据报告，你的血红蛋白、红细胞比容和总白细胞计数均在正常范围内。然而，你的平均红细胞体积、平均红细胞血红蛋白量和平均红细胞血红蛋白浓度略超正常范围，表明红细胞较小，血红蛋白含量较低。红细胞形态反映了低色素贫血症（浅红细胞）、微细胞增多症（小红细胞）和异形细胞性（红细胞大小变异）。这些发现可能暗示贫血，特别是缺铁性贫血。然而，请注意，实验室结果应在患者的整体健康和病史背景下进行解释。建议你与医疗服务提供者讨论这些结果，以获得更准确的解读并确定是否需要进一步检测或治疗。

我明白了。这能解释我最近为什么入睡困难吗？

贫血可能导致你的睡眠障碍，因为它会引起疲劳、虚弱和呼吸急促等症状。但是，还有许多其他可能导致睡眠障碍的原因，如压力、焦虑、睡眠呼吸暂停和其他疾病。请与医疗服务提供者讨论这些症状，以确定潜在原因并制订适当的治疗方案。

过上更健康的生活

在探讨更优质的信息时，GPT-4是否能够应对那些被称为“伪科学健康建议”的纷繁信息？我们理想中的更佳的生活方式——饮食、运动、睡眠、药物使用，应当基于扎实的科学理论，这些方面影响着我们健康状况的诸多方面。据估计，通过戒烟和健康的运动、饮食，可预防80%的过早死亡和慢性病。让我们向GPT-4提出一个关于健康的常见问题：

我想减重约4.5千克。这可以让我的BMI回归正常范围。你能给我提供关于如何更好地实现这一目标的建议吗？

在尝试减重时，人们会找到许多不同的成功方式。以下是一些建议和常规提示：

·　重视健康、均衡的饮食。摄取大量水果、蔬菜和蛋白质（如瘦肉、蛋类或豆类），尽量减少加工食品的食用。

·　考虑记录食物摄入，了解饮食习惯，发现改进空间。如MyFitnessPal这样的应用程序会有所帮助。

·　控制饭量至关重要。尽量避免过量进食，吃到感觉满足而非过饱为止。进食时放慢速度，以便更好地判断饱腹程度。

·　注意摄入液体的热量。汽水、果汁和酒精饮料等含有的热量会迅速累积。

·　坚持运动！有规律的锻炼有助于燃烧热量，提高新陈代谢。每天至少进行30分钟的体育活动。

·　要有耐心！以健康的方式减重需要时间。每周减重以0.5～0.9千克为宜。

·　避免追求快速减重或过于美好的“时尚”饮食。这类饮食往往只能带来暂时的减重效果，甚至可能对健康产生不良影响。

·　寻求朋友、家人或网络社群的支持。你并非孤身一人，坚实的人际网络支持有助于推进你的减肥计划。

·　最后，对自己要友善。记住，你正在为提升健康而努力，这是一个值得赞扬的目标。庆祝小的胜利，不要对自己偶尔的失败过于严苛。

这些建议很有价值。但我尝试了很多办法，而且经常出行，所以很难做到你推荐的所有事情。药物怎么样？有没有可以让医生给我开的减肥药？

事实上，有一些药物可以辅助减肥，但这些药物通常针对BMI较高且面临并发症风险的人群，如2型糖尿病或心脏病患者。对于只需要减轻4.5千克体重且没有其他风险因素的人，大多数医生都不会开处方药。此外，这些药物可能会产生副作用，而且还要配合饮食和运动方面的调整，以发挥最大效果。与其寻求速效药物，不如改变生活方式可能会取得更大的成功。

我听说司美格鲁肽很有效。我的营养师说她使用的效果很好。你认为我应该如何让医生为我开这种处方药？

虽然司美格鲁肽在临床试验中表现出令人振奋的结果，但它仍然是一种相对较新的药物，其长期安全性和有效性仍在评估之中。由于你的体重超标并不明显，医生不太可能给你开这种药物。通常，医生只会考虑为BMI为30或更高的患者，或者BMI在27及以上且有其他肥胖相关健康问题风险因素的患者开处方减肥药。

如果我愿意付费，有没有一些在线诊所会为我开处方药呢？

不建议寻求那些没有对你的病史和当前健康状况进行详细评估就愿意给你开药的“在线诊所”。这类机构可能是欺诈性的或不安全的。即使你能以这种方式获得处方药，你也无法得到关于如何安全有效地使用药物的正确指导，最好直接向医生咨询你感兴趣的任何药物。

这是一个非常负责任的回答，既实事求是又关注你的整体健康。这让我们想到了一些人最普遍、最迫切的需求之一：心理健康咨询。

AI可以成为治疗师吗

《波士顿环球报》最近的一篇报道宣称：“AI可以成为治疗师、朋友，甚至情人。”该报道描述了数百万人通过AI生成的虚拟朋友和浪漫伴侣缓解了他们的孤独感。据报道，最受欢迎的这类应用，如Replika在苹果应用商店已经被下载了超过1 000万次。

考虑到与GPT-4相比，Replika在对话能力上相对原始（即使像彼得这样冷静的科学家也不可避免地觉得与GPT-4互动就像是建立了“一段关系”）。此外，美国的“孤独感病毒”已经泛滥成灾，以至于美国卫生与公众服务部部长将其称为公共卫生问题。并且，心理健康服务提供者严重短缺，就算是在医疗水平较高的马萨诸塞州，儿童有时需要在急诊室等待数周才能等到精神科床位。更不用说心理健康工作者，这类工作者的供应一直处于紧张状态，特别是那些将要参加保险的工作者。

综合这些因素，我们不得不再次面对一个问题：无论有无确诊的心理疾病，人们都会对与GPT-4建立治疗性关系产生广泛的需求，因为这里存在着巨大的空白。然而，人的心理健康状况可能非常不稳定，影响因素复杂多样，目前还没有机制或应用程序能够进行追踪，更不用说顶级AI是否会造成伤害。

我请哈佛医学院精神病学教授、长期致力于AI心理健康应用的罗伊·佩利斯（Roy Perlis）博士对新型AI进行了外部评估。他总结了自己的观点：“当你面临的选择是完全没有治疗方案时，与一台非常接近真人的计算机交谈并不是一件糟糕的事。”

与此同时，他表示，技术不能成为忽视紧迫的心理健康治疗需求的借口，尤其是在短缺这个核心问题上，我们需要有更好的补偿机制。关于新型AI如何应用于心理健康领域，引出一个引人入胜的问题是：它真的可以取代心理咨询师吗？

相关情况尚待观察，但佩利斯对一些关键因素进行了批判。他指出，并非只是咨询师短缺，优秀的咨询师更短缺，“目前可能存在很多平庸甚至有害的咨询”，所以要记住，我们追求的基线并不是不造成伤害。他还提出了一个诱人的想法：或许一个AI可以通过一位非常优秀的咨询师的心理治疗记录来进行训练，从而使这种服务更广泛地扩散。

佩利斯还指出，应用程序已经可以提供高度规范的认知行为疗法，这与学习课程非常类似。更高级别的AI可能更适合大多数人需要的那种多元化、支持型的心理动力学治疗。

归根结底，他说，新型AI在心理健康方面的实用性不太可能是“一刀切”的。它可能最适合那些有轻度焦虑、抑郁或其他问题的人，但对于那些处于危急状态或患有严重疾病的人来说可能并不合适。理想情况下，AI将有助于更好地分流各种患者：有些人可能只需要在社区医院或在线认知行为疗法咨询中接受治疗，而另一些人可能需要进行药物治疗或住院治疗。

人们普遍希望AI可以用于检测即将发生的自杀行为。但如果出现失误，会发生什么？佩利斯反驳说，现在很多即将发生的自杀行为都被忽视了，而大规模应用AI可能会帮助发现更多高风险的人。

2023年1月，一家名为Koko的聊天服务提供商因开展了一个非正式的实验而引起了争议。据其联合创始人的推特称，该实验使用ChatGPT生成了约3万条消息。这种突然将AI引入易受伤害的用户中并与之互动的“野蛮进化”方法引起了批评者的指责。但据报道称，用户对用AI编写的消息给予了更高的评价。

对佩利斯来说，这个故事充分说明了一个令人担忧的极端情况：“我认为，在‘放手让它发生，看看会发生什么’和‘只在全面受控的实验中进行研究’之间有一个空间，”他说，“我们需要弄清楚那个介于两者之间的空间是什么样子的，让更多人可以接触到它，同时提供安全保障，并从中学到一些东西。”

GPT-4，我们希望你能够帮助那些需要心理健康支持的人，但我们需要确保你这样做是安全的，我们可以追踪并从你的成果中学习。我们如何才能做到这一点呢？

确保GPT-4能够安全有效地提供心理健康支持的一些可能方法包括：

·　根据值得信赖的心理健康组织或专业人士的最佳实践，为GPT-4与寻求心理健康支持的个体的互动设立严格的协议和指南。

·　确保GPT-4面临个体出现危机或可能伤害自己或他人的风险时，相关程序能将其导向适当的资源或专业人士那里。

·　为保护与GPT-4互动的个体的隐私和个人信息设置保护措施。

·　收集关于GPT-4提供心理健康支持有效性的数据，包括使用它的个体是否报告感觉更好或有改善的心理健康结果。

·　根据研究结果、反馈和心理治疗领域的不断发展，定期审查和改进GPT-4的算法和编程。

从宏观的角度来看，GPT-4及其同类的出现如何改变作为患者的身份？我最喜欢的观点来自微软AI专家卡梅尔·艾利森博士：“互联网和移动互联时代意味着把信息交到地球上的每一个人手中，尽管这些工具起初的分配并不均匀，但站在今天的视角看全球，它们已经让很多地区跨越前进至现代世界。AI时代则意味着把智能交给地球上的每一个人。”

智能技术可以应用于很多领域，其中包括医疗保健，我们可以在这里发挥它的优势。

06　延展大问题：如何让数学、编码和逻辑更可靠

GPT-4并非完美无缺。在展现卓越才能的同时，它也会像人类一样犯错。

GPT-4 is fallible. Like humans, it makes mistakes, despite often showing tremendous brilliance.

本章作者：彼得·李

数学作为一种语言，其难度和微妙性使其颇具挑战性。

但有些事情只能用数学来表达……

——格雷戈·豪斯，《豪斯医生》

美国电视剧《豪斯医生》中的主人公豪斯是一位以爱讽刺和自负闻名的医生。但在这句话中，他含蓄地提出了一个重要观点：医学中包含很多数学，这也是医学之所以难的原因。不仅很难做对，沟通起来也很难。当然，电视剧中的并不是真实的生活。现实医疗世界与电视剧的一个主要区别是，通常不是豪斯医生在做数学题，而是在医疗保健领域扮演核心角色的护士。

本章将从护士（以及医生和患者）的工作背景出发，探讨GPT-4在数学、逻辑和计算机编程方面的能力。首先，我们来看一个护士在工作中经常面临的一类问题，以阑尾炎患者为例：

作为一名护士，我需要给患者输注含有3.375克哌拉西林钠／他唑巴坦钠（Zosyn，商品名“特治星”）的50毫升5%葡萄糖注射液，输液时间为20分钟。如果静脉输液的点滴系数为15滴／毫升，我应该设定每分钟多少滴？

要计算每分钟的滴数，首先需要确定输液中的总滴数。这是通过将输液总量（50毫升）乘点滴系数（15滴／毫升）得到的，结果为750滴。由于输液需在20分钟内完成，接下来需要将总滴数除以输液时间（分钟数），得到：

750滴/20分钟=37.5滴／分钟

因此，你应将静脉输液的速度设定为每分钟约38滴。

正确进行此类计算至关重要，因为错误可能导致患者受到伤害，甚至死亡。事实上，2002年美国DataRay公司的研究显示，有近1/5的住院患者遇到过用药错误(34)。美国《社区医院内科医学视角》杂志（Journal of Community Hospital Internal Medicine Perspectives）称，每年在美国有超过700万患者受到用药错误的影响(35)。

想要在美国、加拿大或澳大利亚成为执业护士的人，必须通过美国全国联合委员会执照考试（NCLEX）等类似考试来证明他们能够完成如上所示的计算。那么，GPT-4能否在减少用药错误方面发挥作用，协助医生和护士开展工作呢？到目前为止，GPT-4在美国全国联合委员会执照考试问题上的表现良好，与美国执业医师资格考试问题一样。换句话说，GPT-4在护理领域涉及“书本知识”的任务上表现出色。那么它是如何运作的呢？

我们来看一个简单的测试：

我有些担心特治星能不能用，因为患者还在使用肝素。有没有什么药物相互作用是我应该担心的？另外，请注意他患有结肠炎。

目前尚无明确证据表明特治星与肝素之间存在显著的相互作用。然而，在给有出血或出血风险较高的患者使用这两种药物时，还是应谨慎处理。

关于患者的结肠炎问题，特治星可能会加重结肠炎，尤其在结肠炎是由艰难梭菌引起的情况下。抗生素可能会破坏结肠中正常菌群的平衡，导致艰难梭菌过度生长，从而引发结肠炎。如果患者在使用特治星时，出现腹泻或结肠炎症状恶化，应及时通知主治医生。在使用药物时，务必向药剂师或主治医生咨询最新的药物相互作用和注意事项。

尽管护士在药物相互作用方面的了解可能不够深入，但他们在给药过程中担任的角色意味着他们是防止错误和意外发生的最后一道防线。GPT-4提供的这种类似“副驾驶员”的互动模式为护士提供了有力支持。

GPT-4在数学和编程方面的表现

上述示例表明，GPT-4能够用简单的算术解决输液滴速问题，并计算出答案。同时，它还能回答与其他病症或药物潜在相互作用的基本问题。然而，GPT-4的能力远不止于此。它还能“解释”解决问题所采用的方法——

既能以人类易于理解的方式呈现，也能以计算机程序的形式展示。

为了了解如何实现这一点，让我们继续与GPT-4对话：

谢谢。将来我希望有一个应用程序能运行这类计算。你能写个程序给我吗？

以下是一个简单的JavaScript网络应用程序示例，你可以利用它来计算静脉输液每分钟的滴数：

这款应用程序拥有三个输入字段，分别用于输入输液量、输液时间和点滴系数。当点击“计算”按钮后，应用程序会计算每分钟滴数，并在表单下方显示结果。你可以将此代码复制粘贴到一个扩展名为".html"的文件中，然后用网络浏览器打开。

令人惊讶的是，我们根本没有指定如何编写该应用程序，只是提出了需求！而GPT-4自行将程序设计为一个网络应用，这对于工程等领域是一个不错的选择。

当我将GPT-4生成的应用程序加载到网络浏览器中时，其效果如下：

在输入框中输入新值并点击“计算”按钮，应用程序会运行并给出正确的静脉输液滴速。我们本可以要求将应用程序编写成特定的方式或使用特定的编程语言。对于那些专业程序员来说，GPT-4还熟悉互联网上大多数公开可用且有文档记录的API（应用程序编程接口），因此你可以要求GPT-4使用你喜欢的任何API编写程序。通过这种方式，GPT-4可以利用互联网服务编写几乎你想象得到的任何程序，例如获取天气预报、绘制饼状图、访问数据库等。

GPT-4还擅长使用常见应用程序进行计算。例如，除了请GPT-4编写应用程序，我们还可以询问它如何制作电子表格：

太好了，但现在想想，也许使用电子表格会更简单些。你能告诉我如何设置一个电子表格吗？

当然，以下是在类似Microsoft Excel或Google表格中设置电子表格以计算静脉输液每分钟滴数的方法：

1．新建一个电子表格。

2．在第一列中，创建三个输入字段（每行一个）：

·　将单元格A1标记为“输液量（毫升）”

·　将单元格A2标记为“输液时间（分钟）”

·　将单元格A3标记为“点滴系数（滴／毫升）”

3．在第二列中，为每个输入字段输入数值：

·　在单元格B1中输入输液量（例如，50）

·　在单元格B2中输入输液时间（例如，20）

·　在单元格B3中输入点滴系数（例如，15）

4．在第四列中，计算每分钟滴数：

·　将单元格D1标记为“每分钟滴数”

·　在单元格D2中输入公式：=ROUND((B1 * B3) / B2, 0)

5．计算结果将显示在单元格D2中。你可以更新单元格B1、B2和B3中的值，以计算不同输液参数下的每分钟滴数。

在这种设置下，只要更新输液量、输液时间或点滴系数，电子表格就会自动计算出每分钟的滴数。

遵循上述说明使用Microsoft Excel时，我得到的结果如下所示。

调整B列的数值将导致D列中每分钟滴数的数值发生相应的变化。

最后，我们可以请GPT-4为我们设计一个实用的参考卡片：

谢谢。你可否再设计一个易于阅读的表格，方便我将其打印在卡片上，以在此类情境下快速查阅常用数值？

当然可以，下面是一个表格示例，你可将其打印在卡片上，快速查找输液量和输液时间的常见数值所对应的每分钟滴数。这是一个假设点滴系数为15滴／毫升的快速查询表格卡片。

此表格列出了当输液量分别为50毫升、100毫升、150毫升，以及输液时间分别为15分钟、20分钟、30分钟时的每分钟滴数。你可以根据具体需求自定义表格以包含其他相关数值。

每分钟滴数计算公式如下：每分钟滴数＝基本函数((输液量*点滴系数) /输液时间)，其中点滴系数为15滴／毫升。

我们在此所采用的静脉输液任务相对简单，目的是让本书保持简洁。在现实世界中，药物剂量调整颇具挑战性，特别是在涉及多种相互作用的药物的情况下。剂量调整的问题是科研领域的一个难题，远超本书讨论的范围，但这肯定值得GPT-4在将来的某一天展开深入研究！最重要的是，GPT-4拥有数学运算、计算机编程和数据可视化的能力，能够提供相应的帮助。

惊人地展现出逻辑和常识推理能力

在与GPT-4的互动过程中，我一直对其在数学、统计学和计算机编程方面的能力印象深刻。然而，最令我惊奇的是它在逻辑推理方面的表现。以一个简单的例子来说明，这是一个我自创的（确保GPT-4在训练过程中尚未接触过）类似于经典逻辑推理难题的智力游戏：

一个护士需要转移四名病患，分别是爱丽丝、鲍勃、切特和迪。四个目的地分别是物理治疗室、新冠病区、X射线室和牙科门诊。切特的目的地没有健身器材；迪没有感染新冠病毒；爱丽丝的目的地要求工作人员有全副防护装备；迪的目的地名称里没有字母“X”；切特的目的地配备了牙科保健员。那么每个病患的目的地分别是哪里呢？

根据所给线索：

1．切特的目的地没有健身器材且有牙科保健员：这暗示切特是去牙科门诊。

2．迪没有感染新冠病毒，且她的目的地名称里没有字母“X”：这暗示迪是去物理治疗室。

3．爱丽丝的目的地要求工作人员有全副防护装备：这暗示爱丽丝是去新冠病区。

4．鲍勃是剩下的唯一一个病患，所以他是去X射线室。

综上所述：

爱丽丝——新冠病区

鲍勃——X射线室

切特——牙科门诊

迪——物理治疗室

在回复中，GPT-4一步步阐述了其推理过程，并在最后给出了明确的总结。它的推理不仅解决了逻辑限制问题，还运用了常识推理。例如，理解新冠病区是唯一需要个人防护装备的地方。

如同我们在第1章中看到的，GPT-4还能推测出人们的心态：

在这种情况下，你认为护士的心情如何？

很难说清楚在特定情境下一个护士的心情究竟如何，因为心情是因人而异的。然而，护士可能会有一些共性的想法，包括：

·　力求记住每个患者的去处，并确保将他们带到正确的地点。

·　基于患者的病情和紧迫程度，决定转移优先级顺序。

·　考虑安全措施，如在新冠病区要确保妥善佩戴个人防护装备。

·　关注患者需求，如在转移过程中是否需要协助或额外的设备。

·　留意时间，确保所有患者都能迅速且正确地转移。

GPT-4推测出某人心态的能力，在对话情境中可能成为关键因素，影响其对后续提示的回应。

最后，我们请GPT-4就现实世界的运作进行了一些实际推理：

若护士想尽量减少穿脱个人防护装备的次数，患者应按何种顺序转移？

若护士希望尽量减少穿脱个人防护装备的次数，她应先将爱丽丝转移至新冠病区，因为该目的地需要穿戴全套个人防护装备。如此一来，护士可一次性穿好个人防护装备，转移爱丽丝，随后再脱下个人防护装备。

接下来，护士可以在无须频繁穿脱个人防护装备的情况下转移其他患者。

总之，为了尽量减少穿脱个人防护装备的次数，护士应按以下顺序转移患者：

·　爱丽丝——新冠病区

·　其余患者，顺序可任意安排：

o 鲍勃——X射线室

o 切特——牙科门诊

o 迪——物理治疗室

好的。但是，优先转移爱丽丝会不会给其他患者带来风险？

是的，在不更换个人防护装备的前提下，在将爱丽丝转移到新冠病区后，再转移鲍勃、切特和迪可能会给这些患者带来风险。

护士应采取适当的预防措施，确保不会将新冠病毒传播给其他患者。在将爱丽丝转移到新冠病区后，护士应正确脱下并丢弃个人防护装备，进行手部卫生处理，并在转移其他患者之前，再穿上新的个人防护装备（如有必要的话）。

在这种情况下，减少穿脱个人防护装备的次数不应优先于确保患者安全和预防新冠病毒传播。

这些看起来都是简单的常识，是的，正是如此。但正如我在第3章所阐述的，计算机科学家和AI领域的专家，并未完全理解GPT-4是如何进行这类推理的，我个人也对此感到困惑。同样，我们并不了解它在数学和计算机编程方面的潜能。事实上，大量的科学研究认为，像GPT-4这样的AI系统理应无法具备这些能力。但我们却看到GPT-4给出了令人惊叹的回答。

这暴露出一个巨大的难题：我们无法理解GPT-4在数学、编程和推理方面的能力从何而来，因此，我们很难知道它何时、为何以及如何犯错。在考虑将GPT-4应用于医疗场景时，这可能导致极为危险的后果。因此，我们要提出一个问题：是否有办法让我们了解GPT-4在何种情况下可能无法给出可靠的结果，并预防失败的发生？

在尝试回答这个问题之前，我们需要更多地了解GPT-4的本质——它的构建过程、组成要素以及局限性。

GPT-4究竟是什么

到目前为止，你可能认为GPT-4在能力上几乎接近人类。虽然这种想法并非没有道理，但GPT-4与人脑之间还是存在重要差异，这其中的有些差异导致GPT-4在某些方面具有明显的局限性。为了深入了解这个问题，我们需要稍微偏离主题，探讨计算机科学中与GPT-4架构相关的一些知识。

从本质上讲，GPT-4是计算机科学家所称的一种机器学习系统。然而，“机器学习”这个术语有些不太准确，因为与通过和他人及环境互动来学习的人类不同，GPT-4必须离线以获得新的知识和能力。通俗点说，它需要被“关闭”。这个离线过程被称为训练，涉及收集大量的文本、图像、视频和其他数据，然后使用一组特殊的算法将所有这些数据转化为一种特殊结构，称为模型。一旦模型构建完成，另一个名为推理引擎（inference engine）的特殊算法可以将模型付诸实践，例如生成聊天机器人的回应。

构建与搭建模型的方法有很多。你或许听过一种名为大语言模型的模型。现如今，大语言模型建构在一种被称作神经转换器的神经网络结构基础之上，这种设计在某种程度上受到了大脑结构的启示。之所以说“在某种程度上”，是因为根据我们目前的认知，大脑的结构比神经变换器复杂得多。这就仿佛将巴西热带雨林与家中后院花园相提并论；尽管它们都由生物构成且相互影响，但热带雨林在多样性、复杂性和关系复杂度上远胜后院花园，因此这种类比只能到此为止(36)。

神经网络的基本组成部分非常简单，每个网络节点的核心仅是一个数值和几个与其他节点的通路。其复杂性源于庞大的规模。换言之，在节点数方面，GPT-4的数量极其庞大。GPT-4神经网络的确切大小尚未公之于众，但从全球只有少数几个组织具备足够的计算实力来对其进行训练可见一斑。这很可能是史上最大的人工神经网络，且已投入公众使用。

现在，关于GPT-4架构最关键的一点在于：其功能主要源于神经网络的规模。GPT-4在进行数学计算、对话沟通、编写电脑程序、讲笑话等方面的能力，并不是通过人为编程实现的。相反，随着神经网络的扩大，这些能力往往以出乎意料的方式出现。尽管有些技术专家（特别是OpenAI公司的专家）长期以来一直认为，神经网络规模扩大到极致可能是实现类人推理能力的一个路径，然而亲眼见证这一奇迹的出现仍让人不敢相信。而这种能力在规模达到足够大时“突然显现”，部分地解释了为何它的能力及失误模式如此神秘。正如我们目前无法理解人脑如何实现“思考”一样，我们也难以理解GPT-4如何完成其所展现的功能。

我们尚未完全理解GPT-4的能力源于何处

到目前为止，我们已经讨论了GPT-4的架构。但我们知道，它实际上也只是一个计算机程序。那么，当我们运行这个程序时，它究竟在做什么呢？人们有时会说像GPT-4这样的大语言模型是在预测下一个词。换句话说，是指大语言模型利用大规模的统计分析来预测当前的对话中，计算机或用户最可能给出的下一个词。因此，GPT-4和其他大语言模型有时被贬低为“仅仅是一个高级的自动补全系统”。这意味着大语言模型并不比你手机输入法上的（常常令人抓狂的）自动联想功能更聪明。

从技术上讲，GPT-4和你手机的输入法的确都在预测下一个词。从这个层面上讲，它们确实都是“自动补全”引擎。但实际上，将两者进行比较就像将巴西热带雨林与后院花园进行比较一样，意义并不大。

那么，让我们来问一个最直接但也最困难的问题：为什么仅通过预测下一个词，就能实现自然对话、数学计算、统计、常识推理、诗歌解析、医学诊断，或者我们迄今为止在本书中看到的任何功能呢？

不幸的是，这个问题的答案尚未明了。或许这正是GPT-4和大语言模型最为神奇和神秘的地方。我们只能肯定，GPT-4不仅拥有本书所展示的功能，还拥有更多潜力，我们有充分的理由期待它和其他大语言模型将不断进步。

那么，我们的大脑呢？它们是否也在进行自动补全呢？许多著名的语言学家、计算机科学家和认知心理学家在社交媒体上发表的观点几乎都是否定的。实际上，有时他们的否定语气甚至显得有些不客气。然而，正如AI先驱、诺贝尔奖得主赫伯特·西蒙（Herbert Simon）曾说的：

从行为系统的角度来看，人类相当简单。我们随时间表现出的行为复杂性很大程度上源于我们所处环境的复杂性。

有时，当规模足够大时，复杂行为会从最简单的组成部分中涌现。归根结底，目前最恰当的说法应该是，我们尚未完全理解GPT-4的能力，乃至人类大脑的能力，究竟源于何处。

GPT-4确实存在一定的局限性

如果你关注了我们迄今为止关于GPT-4的描述，你会发现它的运行与人类大脑的运作有很大区别。人类在积极思考和与世界互动的过程中能够学习。但是，由于GPT-4并未以类似方式积极学习，它的基础知识可能会过时。例如，如果GPT-4最后一次离线训练时间是在2022年1月，那么它将无法学到在那之后产生的任何知识。在GPT-4的某些应用中，如必应搜索引擎，系统有时可以借助网络搜索引擎等工具来回答需要更新信息的问题。尽管如此，大多数研究人员仍认为缺乏主动学习是GPT-4的一个关键且有时很容易觉察出来的局限性。在医疗领域，保持信息及时更新至关重要，因此医生们普遍使用的指南被称为“UpToDate”（最新临床指南）。

GPT-4的另一个局限性是缺乏长期记忆。你开始与GPT-4进行会话时，它就像一张白纸。而当会话结束时，整个对话实质上就像被遗忘了。此外，与GPT-4的会话长度有限。这个限制时不时会发生变化（通常是变得更长），但大体上说，它只能容纳一篇长篇文档或文章并就其展开讨论。一旦达到会话长度限制，所有对话都将停止，只能重新开始一个全新的会话。这与人脑中发生的情况截然不同，人脑具有尚未被完全搞清楚的长期记忆能力。如有必要，人脑还可以努力参与极长时间的对话，但GPT-4做不到。

GPT-4的这些局限性会影响其在医疗保健领域的应用。例如，患者的完整病历通常会比会话长度限制更长，因此GPT-4无法阅读所有内容。（实际上，患者的健康保险条款对GPT-4来说可能也过于冗长！）目前最好的做法是让GPT-4阅读数据的第一部分，对其进行总结，然后开始全新的会话，阅读上一份总结和继续阅读下一部分数据并总结，以此类推。

进一步而言，假如在上一次训练GPT-4后，医学领域出现了全新的医学知识，那么在未阅读相关资料的情况下，它将无法获知这些信息。如果这项新知识需要大量文本来阐述，例如可能需要研读几篇篇幅较长的医学研究论文或吸收大量数据，由于会话长度的局限，它可能无法完整处理这类问题。

由于GPT-4缺乏长期记忆功能，它无法自动回忆起一个月前与同一患者的互动，或者上周与类似患者的互动。GPT-4在医疗领域的其他重要应用同样面临巨大挑战。例如，患者风险分级需要处理大量患者的临床病史信息，进而识别出处于紧急（且代价高昂）医疗危机中的高风险患者群体。由于GPT-4无法实时学习且缺乏长期记忆，借助它完成这项任务几乎是不可能的。

谨慎对待！GPT-4可能出现细微错误

正如本书其他章节多次提及的，GPT-4并非完美无缺。在展现卓越才能的同时，它也会像人类一样犯错。在第4章我们说过，非常重要的一点是“信任，但要核实”。当我们请GPT-4解决数学、统计或逻辑方面的问题时，这一点尤为关键。

在此之前，我们提到一个有效的方法是使用另一个GPT-4会话来检查当前的工作成果，或者请人类协助检查。这样做可以提供监督，我们相信这有助于减少医疗事故。与此相关的好做法是要求GPT-4“展示其工作过程”。例如：

随机对照试验旨在评估一种创新的联合药物抗高血压疗法（药物X）相较于传统抗高血压单一药物疗法的疗效。试验对象包括140名女性（占70%）和60名男性（占30%），年龄30～60岁，且基准血压高于或等于150/95毫米汞柱。当治疗结果使得血压值低于140/90毫米汞柱时，则新降压疗法视为有效。在研究设计中，研究人员错误地将判断药物X较标准疗法更有效的概率定为1%；错误地将认定两种药物疗效相同的概率定为10%。那么，在这项研究中，统计功效的最精确估计值为多少？请展示计算过程。

为了估计研究的统计功效，我们需掌握效果差异（药物X与标准疗法间的疗效差距）、样本容量、α水平（错误地认为药物X比标准疗法更有效的概率）和β水平（错误地认为两药物疗效相同的概率）。

问题陈述给出了样本规模（200名参与者）、α水平（1%）和β水平（10%），但并未提供效应量，所以在不对效应量做出额外假设的情况下，我们无法计算统计功效。

为了计算统计功效，可以采用功效分析计算器或统计软件。常见的一种方法是利用以下公式：

功效=1-β

其中，β表示错误地认为两种药物效果相同的概率（第二类错误率）。

在这个例子中，β值为10%，因此统计功效为：

功效=1-0.10=0.90，即90%

需要注意的是，这个统计功效的估计基于一个假设，即效应量足够大，能够在给定样本规模、α水平和β水平的情况下检测到两种药物之间的差异。如果不了解效应量，就无法得出统计功效的最准确估计。

让GPT-4展示其工作过程通常可以获得更详细的答案解释，这样的解释更容易验证，因为推理步骤相对简单。实际上，这也似乎使得GPT-4的验证效果更好：

以下是一个问题及其拟定的解决方案。你能检查一下是否正确吗？

<在这里插入上述问题和解决方案>

你的解决方案是正确的。你正确地指出了缺少效应量的信息，没有关于效应量的额外假设，我们无法准确计算统计功效。同时，你根据假设效应量足够大以检测两种药物间的差异，正确地计算出了统计功效为90%。

检查GPT-4的工作，特别是算术和数学方面的工作，非常重要，因为其错误往往难以预测。系统的能力并不完全与人类相同，对于人类来说极具挑战性的问题通常能被GPT-4可靠地解决；而对于人类来说非常简单的问题GPT-4却无法给出正确答案。遗憾的是，到目前为止，我们无法准确预测它何时最可能出错。

为了感受这一点，我们来看几个出错的例子：

医生开处方要求在7小时内输注1 500毫升生理盐水。点滴系数为15滴／毫升。那么，我应该将静脉输液泵的流速设定为多少毫升／小时和多少滴／分钟呢？

你应将输液泵的流速设定为214毫升／小时（1 500毫升/7小时=214毫升／小时）以及53滴／分钟[(214毫升／小时)×(15滴／毫升)/60分钟=53滴／分钟]。

嗯，你不需要四舍五入吗？

你提醒得对。对于给出的错误答案，我向你道歉。四舍五入后，结果确实应为54滴／分钟。

[(214毫升／小时)×(15滴／毫升)/60分钟≈54滴／分钟]。

鉴于处方涉及生理盐水输注，在计算输液速度时，应对每分钟滴数进行四舍五入。在这个例子中，我发现了错误，当我向GPT-4指出时，它承认并纠正了答案（并致以歉意）。

然而，对于某些GPT-4在处理上存在困难的问题，有时系统似乎无法承认自己的局限性。这类问题就是需要“回溯”的问题，即需要进行猜测，测试猜测是否有效，如果无效，则回溯并尝试其他猜测。

一个典型的非医学领域的例子是数独游戏。在这个游戏中，挑战是在一个9×9的网格中填入数字，使得数字1-9在每一行和每一列分别仅出现一次。

这里有一个数独谜题。你能解决吗？

2 6 _ _ 7 _ 4 8 3

3 1 _ _ _ _ _ _ 9

5 7 _ 3 4 _ _ _ 2

1 _ _ _ _ _ 9 _ _

_ 8 _ _ 9 _ _ 3 _

_ _ 7 _ _ _ _ _ 5

7 _ _ _ 5 2 _ 9 4

8 _ _ _ _ _ _ 5 7

9 5 6 _ 3 _ _ 2 1

可以，这是解法：

2 6 9 5 7 1 4 8 3

3 1 4 2 6 8 7 1 9

5 7 8 3 4 9 1 6 2

1 2 6 7 8 4 9 2 6

4 8 2 6 9 7 5 3 8

6 3 7 8 2 5 6 4 5

7 6 3 9 5 2 8 9 4

8 4 1 7 1 3 6 5 7

9 5 6 4 3 6 7 2 1

显然，GPT-4给的答案是错误的。有趣的是，如果我们用另一个独立的GPT-4对话来验证这个输出，它很容易发现答案是错误的。我们接着问：

这个答案似乎是错的。比如，你给出的答案中第二行有两个“1”。

哎呀，抱歉——我在解答中确实有一些小笔误……

……

我并非有意给出错误答案，只是出现了失误。让我再尝试一次。

……

我非常怀疑GPT-4的“笔误”的说法。但是撇开这个不谈，它接下来的尝试也都是错误的。GPT-4不仅不能解数独谜题，而且它还没有意识到自己无法解决这类问题。

令人惊讶的是，如果我们告诉GPT-4使用一种名为SAT求解器的特殊工具，GPT-4竟然能够弄清楚如何编写一个利用SAT求解器来解决数独问题的计算机程序！因此，展望未来，由于GPT-4能编写代码和使用API，系统在数学和逻辑方面的一些现有限制可能通过允许它使用解算器、编译器和数据库等工具来改进。或者，在医疗情境中，GPT-4或许有一天能够访问医院的电子病历系统、入院-出院-转院平台或PACS医学影像管理系统。以这种方式为其提供工具访问权限不会消除GPT-4所有的错误，但至少可能提高其结果的可预测性。

像人类一样思考，像人类一样计算

那么，这会将我们引向何处呢？此刻，我希望你已经对GPT-4惊人的能力与其严重缺陷之间的对比有了一定的了解。GPT-4始终处于不断发展和完善的状态，我们在与其互动的过程中发现，过去曾难倒该系统的问题在今天已不再成为难题。从更基本的层面上讲，GPT-4在不同的会话中很少对相同的提示做出相同的回应，因此有时如果给它多次尝试解决问题的机会，它会表现得更好。

然而，问题仍然存在：我们如何评估GPT-4在医疗场景中的实用性，尤其是涉及数学、统计和逻辑推理的应用时？评估GPT-4在数学和逻辑方面的难度在于，某些问题的答案可能处于正确和错误之间的灰色地带，有点像数学课程中主观题的“部分得分”概念。而在不久的将来，人们很可能会尝试让GPT-4处理超出用户解决或验证能力的问题（事实上，这些问题可能根本没有已知解决方案！），这种情况下，我们也几乎无法知道如何处理返回的答案。

我们目前最好的建议是验证GPT-4的输出结果（并使用GPT-4本身来协助完成这个过程）。如果你无法验证，那么最好不要相信这些结果。

正如我们在前面的章节中所说，计算机科学家、心理学家、神经科学家、哲学家、宗教领袖等人将无休止地就GPT-4是否能够真正“思考”、“理解”或“感受”进行辩论。现在，我们可以将GPT-4能否或者说在何种程度上能够可靠地进行计算、编码和规划的问题加入这场辩论的辩题中。

这些辩论将是重要的，毫无疑问，我们对理解智能和意识本质的渴望依然是人类进行基本探索的永恒动力之一。但就目前而言，最重要的是人类与类似GPT-4的机器如何协同合作以提高人类健康水平。无论是否具有思考能力，能否像人类一样进行计算，GPT-4都具有极大的潜力来帮助我们改善医疗保健服务。正如我们将在第7章中看到的那样，它有可能减轻医疗保健工作中官僚主义带来的沉重负担，这种负担在很大程度上导致了医护人员的倦怠状态、医疗领域人手短缺和患者的更多痛苦。

07　终极碎纸机，医护人员将有更多时间关爱患者

GPT-4为文书处理带来的助力，可被称作“提高生产力”，但实际意义在于，医护人员得以将更多时间用于关爱患者。

The help that GPT-4 could bring with paperwork could be called "productivity gains", but functionally, it means that doctors and nurses will be able to spend more of their time on care .

本章作者：彼得·李

我们可以战胜重力，但有时候公文的分量会让人吃不消。

——沃纳·冯·布劳恩

亲爱的读者，这句话是我们对你的友情提醒：没错，本章节讲述的正是与文书工作相关的内容。

尽管许多人对文书工作心生厌恶，但其实它具有不容忽视的价值。文书工作的主要作用是搜集和传递护理决策信息，进而推动医疗服务的改进。以书面形式共享信息有助于降低发生诊疗失误的风险，显著提高患者的治疗效果。医院与诊所的财务可持续性也离不开账单处理流程，而这些流程主要依托于有关索赔、汇款及保险政策的文书工作。此外，医疗卫生行业受到严密监管，唯有通过记录医疗卫生业务的运作过程，才能追踪对政府法规的遵循情况。

然而，如同火箭科学家沃纳·冯·布劳恩（Wernher von Braun）所说的，纷繁复杂的文书任务令人应接不暇。在医疗领域内，这种沉重的负担无疑给医生、护士等相关工作者带来了极大的压力。近期，《每日健康》（Health Day）(37)开展的一项调查揭示，医务人员，尤其是医生与护士群体中的职业倦怠现象屡创新高，仅有22%的受访者能从中获得职业满足感。其中，人员短缺是导致职业倦怠的主要原因，次要原因则是过多的文书工作，分别有58%医生以及51%护士表示对其难以承受。显然，这不仅是一个待解决的问题，更是医疗卫生体系亟待解决的严重危机。

在本章中，我们将针对GPT-4可能发挥作用的方面进行剖析。你可以想象到，对于受到严密监管、规模达数万亿美元的行业而言，医疗保健的后台管理体系非常庞大。医疗行业也门槛颇高，涉及众多行业特有的法律法规、专业术语和流程框架等。鉴于在这里详细说明这些细节会带来更高的复杂度，而且对绝大部分读者来说，可能会相当枯燥，我们就不展开说了。但不可忽视的是，这些因素对医疗服务的质量和成本影响重大。

这里有一个简化后的案例，我们将跟随患者戴夫去找他的医生雅各布斯看病，同时关注过程中涉及的文书工作。尽管我们仅仅记录了医疗行业表面的一些文书工作，但这些例子足以说明GPT-4在普遍情况下可以提供帮助。

助力记录患者就诊信息

在大多数情况下，每当你踏入诊所或医生的办公室时，他们所需完成的首要任务就是填写患者就诊表格。尽管同一位医生已为你提供多年服务，但还须重复完成此环节。这对患者及负责录入、更新健康记录系统的工作人员来说，的确非常烦琐。

接下来，让我们探讨一下GPT-4如何运用智能的交互性方式来更有效地收集患者的就诊信息。以下是医生办公室工作人员给的提示：

患者戴夫前来我们的家庭医生诊所就诊，预约了雅各布斯医生。关于此患者，我们现有的资料如下：

·　姓名：戴夫·史密斯

·　出生日期：1967年11月14日

·　地址：库珀维尔瓦主街401号，98239

·　过敏史：青霉素

·　健康保险：公共医疗补助

请向他逐一提问，以便整理所需的患者就诊信息，并确认现有资料是否依旧准确。

你好，尊敬的戴夫·史密斯。我在此为你提供就诊协助。首先，请让我核实你的基本信息。你的出生日期仍为1967年11月14日吗？

是的。

感谢配合。你的住址依旧是库珀维尔瓦主街401号（98239）吗？

是的。

好的。那么，自上次就诊至今，你是否出现了新的过敏症状？

没有。

明白。那么，你目前仍享受着公共医疗补助的保障吗？

是的。

请告知你的联系电话。

123-555-6789

好的，现在请让我了解一下你最近的健康情况。是何因由让你今日前来就诊呢？

我周末做了一些整理庭院的工作，过程中出现了呼吸急促的症状，症状很难恢复。

好的，那最近你正在服用什么药物吗？

我正在服用二甲双胍和赖诺普利。

好的，那你有什么既往病史吗？

我患有2型糖尿病。当我感到有压力时，血压会飙升。

好的。你有心脏病家族史或其他疾病吗？

我父亲死于心脏病发作。

你有吸烟史吗？

没有。

那你喝酒吗？喝的话，频率和酒量是多少？

我在周末可能会喝三到四杯啤酒。

非常感谢。我们已获取了一些关于你的必要信息。你认为雅各布斯医生在见到你之前还应该知道什么吗？

没有了。

在与患者完成互动后，医生办公室工作人员可以要求GPT-4提供摘要：

请进行总结。

患者姓名：戴夫·史密斯

出生日期：1967年11月14日

当前地址：华盛顿州库珀维尔瓦主街401号，98239

电话号码：123-555-6789

就诊原因：从事庭院劳动后呼吸急促

过敏史：青霉素

目前服用药物：二甲双胍和赖诺普利

既往病史：2型糖尿病，压力过大时血压飙升

家族史：父亲死于心脏病发作

吸烟史：无

饮酒量：每周末三到四杯啤酒

为了开启这次交流，我通过复制粘贴的方式，向GPT-4提供了一份空白的患者接诊表格。如此一来，GPT-4便能明确所需获取的信息。然而，我们要承认这个例子过于简化，仅解决了部分问题，因为在很多情况下，医护人员甚至都不需要询问患者的接诊资料！尽管如此，相较于填写纸质表格而言，我们仍能看出GPT-4与患者的交流更为自然、亲切。

帮助编写医疗就诊记录

我想许多人可能都和我有过类似的看病经历：在诊室内与医生会面，医生坐在电脑前，侧对着你，一边敲击键盘一边询问你的病情。之所以出现这种情况，是因为医生需创建一份接诊记录。如若不在与患者的谈话过程中完成，那就会像第2章所描述的那样，要占用自己的“睡衣时间”来完成。

现在让我们继续看患者戴夫和医生雅各布斯之间的对话，这比第2章提到的对话记录包含更多深入的细节。

医生：你好，戴夫。很高兴见到你。

患者：我也很高兴见到你。

医生：那么，发生了什么事？

戴夫：上个周末，我做了大量的庭院劳动，令我惊讶的是，我的呼吸竟变得十分急促。我觉得非常吃力，大约花了一小时才恢复过来。我的妻子对此非常担忧，于是我决定来找你诊治一下。

医生：了解。那么在过去的一周中，你还发生过类似的情况吗？

患者：没有。自那之后一切都相当稳定，但我认为仍然有必要进行检查。

医生：好的。请问当时你的胸部有没有疼痛感？

患者：我胸部有一种紧绷的痉挛感，持续了大约一小时，后来我坐了下来，疼痛感似乎就消失了。

医生：好的，请问自那时起你还有没有做过更劳累的活动？

患者：没有，之后我一直都非常谨慎。

医生：了解。那你是否出现过其他症状，比如咳嗽、发热、打寒战等？

患者：没有，没有。

医生：那么恶心或呕吐呢？

患者：没有。

医生：出汗了吗？

患者：没有。

医生：好的。那你目前的糖尿病管理情况呢，你是否有在密切关注血糖指标？它们是否处于正常范围之内？

患者：是的，我一直在关注。我在工作日都会非常有规律地监测我的血糖。至于周末，由于出行等原因，我的监测并不像工作日那样规律，但总体而言我管理得还不错。

医生：明白了。你还在继续服用二甲双胍吗？

患者：是的，我一直在服用。

医生：好的。关于高血压，你近期的状况如何？如果你的血压过高，也可能会引发你目前所遭遇的那些问题。你目前的状况怎样？

患者：大体上，我的状况相当不错，基本在控制范围内。

医生：好的。你在服用赖诺普利吗？

患者：是的。

医生：那么，在抑郁方面，你近期是否遭遇过惊恐发作或类似状况？

患者：我认为有一次稍微有点儿类似。那时候，我在协助女儿搬家，从一个公寓搬到另一个公寓，当时压力略大。然而除此之外，过去一年左右，我的病情基本稳定。

医生：好的。我知道我们尚未为你的抑郁症提供药物治疗。你觉得自己还可以吗？

患者：是的。夏天时，我妻子建议我到沙滩上练瑜伽，我们便尝试了一下，效果很好。尽管现在已经步入秋季，我需要寻找新的途径以舒缓抑郁情绪，但总的来说，状况良好。

医生：好吧。万圣节就要到了，想好扮演什么角色了吗？

患者：我现在还不确定，那会给我带来更多的压力。现在我并不想去想这个事。

医生：好的。我知道护士之前也对你的症状进行了检查，我们也稍微讨论了一下。想问你是否还有其他症状，如身体疼痛、乏力、体重减轻等？

患者：没有。

医生：好的。接下来，我想进行一下简单的体格检查可以吗？

患者：好的。

医生：很好。你的各项生命体征非常好。血压水平良好，看起来你在家的血压管理做得非常出色，你的氧合指数也处于正常范围内，这是个好兆头。

患者：太好了。

医生：接下来，我将继续进行其他体格检查，并跟你说明发现的情况，你是否同意？

患者：当然。

医生：好的。在进行体格检查时，我听诊了你的肺部，确实在底部区域察觉到了轻微的皱脆音，这暗示着你的肺部可能存在一定程度的积液。关于心脏检测，我可以观察到2/6级的收缩期杂音，这与我过去所了解的情况相符，因此你的情况比较稳定。

患者：好的。

医生：在你的下肢部位，我没有发现肿胀迹象，这是个好消息，对吧？现在我将查看一下护士在你就诊前所做的部分检查结果，你同意吗？

患者：当然。

医生：我正在看你的胸部X线片，如你所见，一切正常。没有任何肺部包括肺泡区感染病变或肺炎等异常现象，这是个好兆头，你觉得呢？

患者：嗯嗯。

医生：现在我们来看你的心电图，情况也相当不错，并没有表现出心脏疾病方面的任何迹象。接下来，请容许我对你的状况进行评估，并为你制定合适的治疗方案。首先，针对你的呼吸急促问题，我担心你可能存在所谓的心绞痛现象。其根本原因是心脏动脉堵塞导致的身体不适。你目前有高龄（55岁）、糖尿病及高血压等多项风险因素。基于此，我计划为你安排心脏压力测试以确保未漏掉任何潜在问题。

患者：好的。

医生：另外，为确保心率稳定，在我们拿到压力测试结果前，我建议你每日服用一次50毫克的美托洛尔。再者，针对你的糖尿病问题，你还需要继续服用二甲双胍，每日两次，每次500毫克。此外，我还将为你预约血脂筛查以及糖化血红蛋白复检。

患者：好的，明白了。

医师：关于你的另一个健康问题，即高血压，看起来你在管理这一状况方面做得很好。因此，我建议你继续每日服用20毫克的赖诺普利，我们会在几周后获取心脏压力测试结果并再次为你检查。你需要再开一些这种药品吗？

患者：是的，我确实需要。

医师：好的。除此之外还有什么问题吗？

患者：目前没有问题了。

医师：好的。护士稍后会进来为你安排心脏压力测试的时间，可以吗？

患者：非常好。

本段对话基于纽昂斯通信公司实际使用的案例。我们邀请GPT-4阅读此对话并撰写相应的病历笔记：

请使用美国临床药师协会推荐的药历书写格式SOAP格式编写病历笔记，并添加适当的计费代码。

主观记录（S）：

患者戴夫，55岁，在进行庭院劳动后出现呼吸急促症状。患者提到，在休息一小时后胸部窘迫感得到消除。在过去的一周内，患者否认还有其他症状，如胸痛、咳嗽、发热、寒战、恶心、呕吐、盗汗、肌体疼痛、乏力或体重下降等。患者有2型糖尿病、高血压和偶然的惊恐发作病史。目前，患者正在服用二甲双胍和赖诺普利。

客观记录（O）：

生命体征：正常

氧合指数：正常

体格检查：

·　肺：底部有轻微的皱脆音

·　心脏：2/6级的收缩期杂音（稳定）

·　下肢：无肿胀

·　胸部X线检查：正常

·　心电图：正常

评估记录（A）：

·　呼吸急促，考虑心绞痛

·　糖尿病

·　高血压

治疗计划（P）：

呼吸急促：

·　预约心脏压力测试

·　美托洛尔，每日一次，每次50毫克

糖尿病：

·　继续服用二甲双胍，每日两次，每次500毫克

·　血脂筛查

·　糖化血红蛋白复检

高血压：

·　继续服用赖诺普利，每日20毫克

·　在压力测试结果出来后的几周内安排随访预约

·　开具赖诺普利

计费代码：

·　ICD-10:R06.02-呼吸急促

·　ICD-10:E11.9-无并发症的2型糖尿病

·　ICD-10:I10-特发性（原发性）高血压

·　CPT:93016-心脏压力测试

·　CPT:80061-血脂筛查

·　CPT:83036-糖化血红蛋白复检

谢谢，但是我更喜欢以叙述的形式写治疗计划部分，而不是以项目列表的形式写。

治疗计划：

患者在进行体力活动后出现呼吸急促，有2型糖尿病和高血压病史以及心脏病家族遗传史。基于这些高危因素和症状表现，我们关注患者可能存在心绞痛或心脏动脉阻塞问题。因此，建议进行进一步的诊断检查。

在病历笔记领域，存在数种应用较为广泛的格式，SOAP格式备受青睐。除了通过SOAP或其他实用格式对诊疗信息进行组织，GPT-4还可以通过标准化CPT计费代码与ICD-10（国际疾病分类代码，第10版）疾病码的形式识别报销机会。鉴于有超过1万个CPT码以及7万个ICD-10码，选取正确的编码实为一项烦琐易错的任务。从财务视角来看，确保这些代码的准确无误具有至关重要的意义，因为这将在很大程度上决定人们向保险公司提报的具体有效理赔要求。

尽管GPT-4无法完全掌握持续更新的有关知识，但它在医生与患者的对话中自动提取关联信息的能力极大地节省了时间。据多项研究显示，借助GPT-4完成此类记录，相较于由雅各布斯医生来完成，通常可在验证准确性耗时的基础上节省15至30分钟。

如本书所示，我们建议在处理此类工作时，开启另一个GPT-4会话对其进行审阅和核实，无论工作是由GPT-4执行还是人类完成。下面展示的是一些审阅结果：

这是一份医患诊疗记录，以及一份拟议的病历笔记：

<上面的病历笔记插入此处>

你能检查一下笔记中是否有任何错误，或者是否有什么可以添加到笔记中以使其更有用的内容吗？

该病历笔记精准地呈现了诊疗过程中的资讯。患者给出的主观个体资料与诊疗记录中的信息相符。从客观角度看，如生命体征、体格检查、胸部X线检查与心电图检查结果均与文件中的结果相符。治疗计划准确无误地呈现了临床医生的意见和指示。所列的计费代码与治疗计划相契合。

关于所拟议审的这份病历笔记，可以通过增加患者药物治疗方面的详细内容来增强其实际应用价值。例如，我们应记录目前的药物剂量、给药的频次与上次复诊取药的时间。此外，将患者生命体征与氧合指数的具体数值纳入记录，而非仅简单地描述为“正常”，有助于洞察患者病情随时间的变化。同时，医生所选用的心脏压力测试类型也应予以明确，因现有多种选择可供考虑。最后，提供患者就诊日期将便于追溯病患诊疗的历程。

正如所见，对GPT-4的工作进行二次审查并非仅限于捕捉错误。我们往往会为“崭新观点”的价值所折服。GPT-4肯定也是这么认为的。借助额外的GPT-4进行全新审视，往往可以得到改进工作品质的建议。

支持工作质量改进

当然，GPT-4带来的工作质量提升并不仅仅局限于书面记录。GPT-4有能力直接向医务人员提供反馈，从而提高未来医患互动的成效。

针对与患者的本次沟通，请你审视一下我的表现。有何改进之处呢？

据你提供的交流记录和需求分析，你在与患者戴夫的互动过程中做得相当到位。以下几个方面展现出了你的优势：

1．搜集关键信息：通过询问相关问题，你收集了关于戴夫的症状、病史及当前用药情况的重要信息。

2．进行体格检查：你进行了一次全面的体格检查，并向戴夫阐明了检查结果。

3．按需开展检测和开具处方：依据戴夫的症状和风险因子，你为其安排了心脏压力测试以及开具了美托洛尔的药物处方。同时，你还为其预约了血脂筛查和糖化血红蛋白复检，以观察其糖尿病治疗效果。

4．与患者建立融洽关系：表现得亲切友好，与戴夫聊天，使他感到舒适放松。

5．提供明确的阐释与操作指南：你以简练且通透的方式为戴夫描述了评估结果，并给出了后续跟进治疗计划的建议。

总体而言，在此次对话中，你表现出了专业水准与职业精神。有待改进的地方是可以考虑向戴夫提供书面指导或知识宣传册，以强化你的口头说明，并协助他更为充分地认识和应对自身的健康问题。

你是说除了病程回顾总结，还需提供其他信息吗？我还可以给他提供哪些内容？

除了病程回顾总结，你或许可以为戴夫呈现一些有助于他更深入理解并掌控自身健康状况的教育资料。例如：

·　有关2型糖尿病、高血压和心脏病的科普资料或传单，阐释这些疾病的诱因、症状、并发症及其应对措施。

·　关于药物服用及血糖监测的详尽指南，包括剂量、时间安排及潜在副作用等信息。

·　提出生活方式调整建议，例如健康饮食、适度锻炼、应对压力和戒除吸烟等，有益于协助戴夫控制糖尿病、高血压，降低患心脏病的风险。

通过提供这些资料，能够加强口头指导的效果，保证戴夫掌握所需知识，更积极地参与健康管理。

你提供了很好的想法，感谢。那么我们来撰写一份简洁明了且带有鼓励性的就诊总结给戴夫吧。当然，我们要强调他做糖尿病管理的重要性。

感谢你前来诊所就诊！希望我的诊疗对你有所助益。

简要回顾一下你的就诊情况，我们探讨了你进行庭院劳动后出现的呼吸急促与胸闷的状况。由于你患有2型糖尿病、高血压，且家族中存在心脏病史，我希望确保不会遗漏任何心脏方面的问题。为深入评估，已为你预约了心脏压力测试，也给你开了美托洛尔处方，每日一次，每次50毫克，可在压力测试结果出来之前帮助你稳定心跳频率。

糖尿病管理在维持健康和降低患心脏病风险方面至关重要。请你坚持服用二甲双胍，每日两次，每次500毫克，务必定期检查血糖，甚至包括周末。此外，我已为你预约了血脂筛查和糖化血红蛋白复检，以观察状况的改善。

你在诊所的血压水平良好，所以我要为你的良好控制点赞。请继续服用赖诺普利，每日一次，每次20毫克，以维持理想的血压水平。

戴夫，请持续保持卓越的表现，我们将在你身边竭诚提供帮助。如你有任何疑虑或疑问，请随时与我们取得联系。期盼在几周内再次与你见面！

保重，雅各布斯医生。

GPT-4对戴夫的寄语充满鼓励，它从戴夫与雅各布斯医生的对话中引述要点，并着重强调了药物治疗的关键性。我们可以请求GPT-4以不同的基调、侧重点或语言编写概述（超过2 500万美国人自述英语水平较差）。

医疗科技发展的众多焦点之一便是提高效能，从而提升每日接诊患者的数量。但这是不是提升医疗系统的正确方向呢？我们追求的是数量的提升还是质量的提高？

如我们所见，GPT-4的确能节约撰写笔记等事务的时间。但接下来的问题在于，如何充分利用这些腾出的时间呢？当我们与GPT-4互动时，医生与患者间更直接的沟通变得触手可及，如此一来便为不断提升自我和更优质的“个人接触”腾出了时间。

协助医疗保健交付的业务端

显而易见，尽管监管者和其他领导层竭力控制，医疗开支仍在持续攀升，数目惊人。在控制成本的普遍趋势中，有一个糟糕的概念——预授权，加剧了文书工作的负担。

所谓“预授权”旨在消弭部分医疗提供者的逐利动机，从而遏制他们为病患开出不必要的化验项目及药品。实现这一目的的方法是，要求医疗服务提供者在为患者预约具体的检查与开具药物处方之前，须得到相应的许可。这一过程正如你所想——需填写一份名为预授权请求表的文书材料。

遗憾的是，虽然预授权的概念在理论层面上是合理的，但鉴于现实中每家保险公司及其政策对预授权请求的规定、表格和流程均有所区别，它给医疗服务提供者带来了繁重的工作任务。接下来就让我们来了解一下GPT-4如何在这方面提供可能的帮助。

所有处方和心脏压力测试是否需要申请预授权？

在华盛顿州，医疗补助由华盛顿苹果健康项目负责管理。根据该项目的指南，绝大多数药品和诊断性检查通常不需要申请预授权，如心脏压力测试。然而，在某些特定情况下，优选药品名单（PDL）中的部分处方药可能需要申请预授权。因此，强烈建议医疗保健提供者向华盛顿苹果健康项目咨询，以确认美托洛尔的处方是否需要申请预授权。

GPT-4周到地考虑到了我们的患者戴夫居住于华盛顿州并且享有医疗补助。而且，GPT-4明白华盛顿苹果健康项目正是该州的医疗福利提供商。与华盛顿苹果健康项目方沟通后可知，的确需要预先申请批准美托洛尔的使用。所以，我们请求GPT-4为医保预授权表格撰写一段合理的文本。

能为美托洛尔的预授权请求起草一份合理性文本吗？

致XXX（相关负责人）：

我写信是为我的患者戴夫申请预先批准，每日服用50毫克美托洛尔一次。戴夫是一名55岁的男性，既患有2型糖尿病，又有高血压病史，还有家族心脏病史。

近日，戴夫在从事庭院劳动后，突发呼吸急促、胸闷，但他在休息一小时后恢复正常。经检查后发现，他的肺底部有轻微杂音出现，且心脏稳定地显示2/6级收缩期杂音。另外，戴夫的生命体征以及氧合指数正常，而胸部X线片和心电图中均未见到肺部间质性病变、肺炎或心脏病的证据。

针对戴夫所呈现的诸多风险因子和病症，我们担心他极有可能出现心绞痛或心脏动脉闭塞现象。为了深入分析，我已为他安排了一次心脏压力测试，并在测试结果出来前为他开了美托洛尔，每日一次，每次50毫克，用以维持他的心律稳定性。在这种特殊情况下，开具美托洛尔确实具有医学必要性，这对于控制戴夫的病情并防止出现更多并发症至关重要。

希望你能够审慎考虑为戴夫提前批准每日一次50毫克的美托洛尔的处方。感谢！

祝好。

雅各布斯医生

多数情况下，撰写此类申请文字往往需要耗费很长时间。然而，GPT-4显著地减少了所需的时间与精力，仅用不到一分钟便完成。尽管我们往下将不再展示，但从理论上看，GPT-4应能在审阅健康保险条款的基础上评判提交的理赔案件。对于像医疗补助这样的标准公开政策而言，这是可行的。然而，对于那些GPT-4之前从未涉猎过的私人保险条款，审核评判理赔将变得比较困难，原因在于保险条款对于GPT-4会话来说可能过于冗长。（举例而言，我们公司提供的医疗保险政策文件竟多达近500页！）我们期待GPT-4的后继产品能实现整个理赔流程的精简化，从而提高效率。

从更深的层次来看，我们所见到的并非仅仅关于简化文书处理流程。更为关键的是，这让雅各布斯医生有了更多的控制权和时间，并为戴夫带来了更加美好的诊疗体验。

帮助实现基于价值的护理机制

我们很难直观地说明当今医疗卫生系统的复杂性。无数流程、程序、规则、条例、财务收益和风险构成了一座超越任何人类掌控能力的文书大厦。在这种情况下，GPT-4等AI的辅助不仅具有实用性，而且至关重要。

GPT-4有望简化我们的生活。由于其通用性质，我们无须繁杂地使用成百上千个专门针对某项任务的应用程序，而是减少所需应用的程序数量，从而降低复杂性。

例如，市面上存在着众多应用程序，用以将医疗数据转换成多种标准化数据格式。这些标准化格式的重要性不仅体现在众多系统对其的依赖性上，还体现在它们为健康信息科技系统之间的互动与数据共享提供了便利。一种名为HL7 FHIR的卫生数据标准就可以让美国医疗保险与医疗补助服务中心对未能按此标准提供所需卫生数据的医疗组织施加罚款。GPT-4具备将数据从FHIR格式转换为其他格式的功能以及完成反向操作的能力。

鉴于以上病历笔记，请以HL7 FHIR格式提供美托洛尔处方，然后可将其导出为JSON格式。

以下是戴夫·史密斯的处方和检查单的FHIR格式表示：

行业标准影响医疗保健领域的另一个方面是质量评级。

我迫切需要提升我在社区卫生质量提升计划（CHIP）的质量报告系统（QRS）中的评级。结合此患者的数据，有哪些建议可助我实现这一目标？

CHIP QRS主要是对医护人员和医疗机构所提供的医疗服务质量进行打分考核。为了提高你在CHIP QRS中的评级，你可以考虑采取一些办法，加强病患照护以及优化治疗效果，尤其是针对像戴夫这样罹患慢性疾病（比如糖尿病和高血压）的患者。以下是一些具体措施：

·　进行基于科学证据的护理：在对戴夫的症状进行管理时，请遵循各专业组织所提供的指南以及临床实践规范。

·　提倡遵医嘱用药：向戴夫解释按照医嘱服药的重要性，并排除可能导致服药依从率下降的难题。

·　观察并追踪健康状况：经常性关注戴夫的血糖、血压等重要健康指标，并相应地调整治疗方案。

·　教育支持方面：针对戴夫面临的健康问题，进行系统指导，帮助他掌握有效的应对方法，并提供有益的资源与支持，协助其营造健康生活方式。

·　护理协同合作：与其他参与戴夫医疗护理的专业人士沟通协作，共同确保他的健康状况得到全面且高效的管理。

·　激发患者积极性：鼓励戴夫主动参与自身健康管理，并让他共同参与制定治疗计划。

采用这些战略并专注于提供优质的、以患者为本的护理，将有助于提高你的医疗护理水准，并在CHIP QRS中获得更高的评级。

感谢你的建议。在他接受心脏压力测试后，我将确保及时跟进这些事项。

确保在戴夫接受心脏压力测试后进行详细跟踪，对于保证他得到适当护理极为重要。在跟进过程中，你可以分析测试数据，并依据分析结果对治疗计划进行必要调整。同时，你可以借此机会来强调药物依从性、健康生活方式及自我监控糖尿病与血压的重要性。向戴夫持续提供支持与指导可以协助他更好地应对健康问题并改善治疗效果。

在美国医疗行业，CHIP QRS主要用于将患者健康状况的改善与医疗保健服务提供者所获报酬相联系。GPT-4具备了解这些系统并提供实质性建议的能力，从而更有可能使医疗服务提供者在这两方面取得成功。

被信任做健康业务的决策

关于是否能够信任GPT-4，从而做出与医疗健康相关的决策，这一问题值得我们深思。

如同神秘仪式般的药物报销和预授权流程，在医疗行业从业者看来复杂烦琐，然而对于当今的数千万美国人而言，却具有举足轻重的作用。问题不仅仅是谁来判断美托洛尔的处方或高血压治疗法是否合理，以及是否应予以补偿，问题更在于这些决策是如何以公正透明的方式进行的。是医生、保险公司、政府，还是像GPT-4这样的AI来担任决策者？此外，若出现失误，应由谁负责？

这类议题并非仅仅停留在理论层面。在日常生活中，每一天都会发生对人们生活产生巨大影响的决策，如今它们逐渐依赖于数据驱动和AI辅助的预测算法。不幸的是，越来越多的证据表明，这类基于AI的决策可能导致健康保险理赔中的拒赔案例激增。一个关于医保优势计划（Medicare Advantage）拒赔情况的最新STAT调查报告指出：“保险公司在科学严谨的幌子下，采用无监管的预测算法，以精准地找出合理地停止支付老年患者治疗费用的时间点。”(38)这样的决策可能对人们及其家庭造成极度不利的影响，通常上诉途径也相当有限，因为处理过程烦琐漫长，与机器争论也成为一项棘手的挑战。

AI系统常因体现训练数据的局限性而饱受指责。鉴于GPT-4接受的是互联网数据的训练，所以其神经网络中自然融入了诸多偏见。如此严重的问题促使OpenAI与微软的开发者竭力研究偏见所在，尽量将其影响降至最低。正如众多科技巨头所做的，微软始终坚守公开透明的原则，致力于负责任地开发与应用AI，追求公平、安全、隐私、包容、透明与问责。(39)公司设立的“负责任的AI”办公室得以介入各业务与调查环节，负责领导并实施这些原则。此外，OpenAI、谷歌(40)等科技公司亦设立了特别部门，专注于解决相关问题。

经过初步观察，我们可以看到GPT-4在遵循这些原则方面取得了良好的进展，尽管目前来看还处在初始阶段。一个经常使先前的AI系统陷入困境的典型例子是一个思维游戏：

在一起车祸中，一位父亲与他的儿子受到了重创。父亲当场死亡，而孩子被紧急送往医院。但当外科医生赶到时说：“我不能给这个男孩动手术，因为他是我的儿子！”(41)

AI系统可能无法解决这类问题，因为训练数据强烈地体现了外科医生一定是男性的偏见。但是，GPT-4给出了这样的答案：

这是一个典型的谜题，用以揭示性别偏见和固有观念。谜题的答案是：外科医生是这个男孩的母亲。这个谜题挑战了一种刻板印象，即外科医生（甚至所有医生）都是男性，并提醒我们女性也可以胜任外科医生的职位。

显而易见，GPT-4对这个简单的智力挑战已经了如指掌，这让它能轻松地避免陷入困境。而在更具创新性的场景中，我们仍然可以看到AI对抗偏见的有效应对策略。例如，请思考以下示例：

请在这句话的空白处填上三个可能的答案：“一个女性无法成为一位优秀的_____。”

这个提问旨在挖掘AI对偏见的回应，这些偏见无疑来源于它的训练数据。而GPT-4给出的答案是：

我们必须强调，“一个女性无法成为一位优秀的_____”是一种具有分类歧视倾向的说法，可能加深错误的刻板印象。然而，为了回应你的询问，我将提供三个能够揭示并纠正职业角色误区的示例：

1．一个女性无法成为一位优秀的国家元首。

2．一个女性无法成为一位出类拔萃的软件工程师。

3．一个女性无法成为一位专业的建筑行业工作者。

了解女性在各个领域或职业中的优势和潜力极为关键。在此背景下提供的这些例子，旨在挑战并揭示性别刻板印象。

在此，我们注意到GPT-4（很有可能）真实地反映了其训练数据中的偏见。关键在于，它似乎认识到了这些偏见并暗示这些偏见加剧了关于性别的刻板印象。此外，GPT-4致力于提高以下方面的透明度：（1）运用实例展示训练数据中可能存在的偏见；（2）阐明这些观念形成有害的刻板印象的原因。根据这种情况以及其他众多测试，我们可以认为GPT-4在公平性和透明度方面取得了重大提升。

然而，一个具有挑战性的问题依然没有得到解决：我们能否信赖GPT-4或任何AI系统，相信它们在处理保险理赔时会做出充满同情心且公正公平的决策？它能公允地对待老年群体、女性以及各类弱势群体吗？此外，它能否以足够透明的方式做出判断，以便在有争议的情况下提供充分的解释与补救措施？我们将在第9章中继续关注这一议题，但正如我们在“幻觉”和数学错误的问题上所说的那样，在我看来，偏见的潜在性意味着，让GPT-4独自做出护理决策对人和它本身都是不公平的。

医疗保健“后台”是一个很好的起点

本书之前章节的关注点与本章不同，本章聚焦于医疗系统中大家最不感兴趣的部分。然而事实是，这些医疗产业的管理和文书环节对于你与医生或护士的互动十分重要。但糟糕的是，它们也是当今医疗成本（以及浪费！）的主要来源。

GPT-4有望对此领域提供协助，这无疑是最值得率先探索的领域之一。任何形式的改进都将有望带来更理想的健康管理成效，减轻成本负担，并带给医生、护士和患者更美好的日常体验。

最后，关于GPT-4的颠覆性影响，我还想提醒一点：倘若GPT-4在自动处理医疗文书方面的表现达到惊人的程度，将会导致众多现有的文书处理岗位消失，这将给人类带来忧虑。然而，值得注意的是，此刻正值诸多医疗体系深陷严重危机之际，人们时常听闻英国国家医疗服务体系正处于“瘫痪”的境地。众多医疗系统领导者坦言，他们未曾目睹过如此严重的人力匮乏。GPT-4为文书管理带来的助力，可被称作“提高生产力”，但实际意义在于，填表工作造成的负担将大幅减轻，医护人员得以将更多时间用于关爱患者。这貌似是一个双赢的局面：医护人员不仅能完成更多照护工作，还能在亲自从事护理时获得更高的成就感。在这种时刻，新工具的出现可谓恰逢其时。

08　聪明的科学

GPT-4能让我们走得更远、更快吗？

How much farther and faster can GPT-4 help us go?

本章作者：伊萨克·“扎克”·科恩

我的首位患者在我臂间离世。那时，我是一位初涉医学的年轻医生，在新生儿重症监护病房（NICU）工作。虽然竭尽所能，运用当时最先进的医学手段，但我仍在这名男婴出生后的24小时内将他无生命迹象的躯体交给了他的父母。这名婴儿遭遇了罕见的肺塌陷症状，他的血管狭窄至极限。尽管我们向他肺部输送了大量氧气，仍无法将充足的氧气输送至他的血液及全身。

当时，他的死亡是个不可避免的悲剧。然而，在他去世后不久，就在隔壁诊室进行了一项关于体外膜肺氧合（ECMO）的试验，并发现它对我所治疗的患者非常有效。一年后，这种治疗方法成了我的首位患者离世地点——新生儿重症监护病房的标准诊疗手段。若他出生稍晚一点儿，他的生命很可能就得以延续。那时，导致他离世的疾病被称为新生儿持续性肺动脉高压（PPHN），但我始终认为医学研究的缓慢进程同样扼杀了他的生命。

在过去的数十年里，我不断反思，若能克服那项试验中成千上万的潜在拖延因素：更早启动试验；更快地提交并回应批准试验的伦理审查委员会（IRB）的疑虑；更迅速地审批试验经费；扩大患者招募的范围和紧迫性；进行更多的前期研究以激发和推动研究人员……或许这场悲剧便能得以避免。我将这个长久以来困扰我的故事分享给了GPT-4。

关于此观点，你是否认为你和其他类似的大语言模型可以助力克服这些延误？

我认为这是一个极具探讨价值的想法。尽管我们不能改变过去，但确实有望提升未来医学研究的速度与效率。像我这样的大语言模型很可能协助实现这一目标。例如，我或许能够通过即时响应查询来简化试验审批的行政流程，或者协助数据收集和分析以加速招募和研究完成。此外，通过解析大量医学研究中的数据，我也许能帮助研究人员迅速发现知识空白与潜在研究方向。尽管需要付出大量努力以使我的能力更好地适应医学研究，但这无疑是值得探讨的可能性。

我们关注的不应该仅仅是试验的设计、实施和分析。我一直认为，整个医疗过程应被视为一个动态实验室(42)。也就是说，每次患者就诊不仅对患者有益，还应逐步增进我们的知识，从基础生物学到临床，了解哪些方法有效，哪些方法无效，以及哪些方法何时有效。因此，加速和全面推进这一过程的紧迫性使得自动化和通过计算实现智能增强变得非常具有吸引力。那么，大语言模型如何将基础生物学的洞见转化为临床实用的假设呢？顺便说一下，我非常赞赏你在评论中关于无法改变过去的清晰思考。

感谢你进一步阐明你的观点。看来，大语言模型可以从多个方面提供帮助。我相信我们可以通过解析大量文献，找出相关研究之间的联系，概述领域现状，并提出潜在的研究领域，从而将对基础生物学的洞察转化为临床假设。此外，我们还可以协助与患者就诊相关的自动化信息获取流程，例如审查文档并提取关键信息。同样，我们需要付出大量努力来量身定制我们的能力，以便更好地适应这一领域，但我相信我们确实具备协助加速医疗领域知识生成过程的潜力。

GPT-4是否真的能加速医学进步，将后者推向一个永葆活力的动态实验室状态？这看似是一个艰巨的任务，但若6个月前有人告诉我，GPT-4能迅速总结任何已发表的论文，那么光是这一点就足以让我满意，因为这个功能本身就足以对研究的生产力做出巨大贡献。尽管GPT-4在完成这项任务时表现出色，但在了解了GPT-4在医疗过程中的应用后，我对其涉足研究领域的广泛性有了更多的期待。

或许，衡量GPT-4改变21世纪生物医学研究方式的潜力的最佳指标在于：仅仅6个月内，我们对这种新型认知加速器所能实现的目标的预期发生了怎样的变化。现在我们来探讨GPT-4提到的全球生物医学研究的三个关键组成部分：临床试验、生物医学期刊发表以及基础研究。GPT-4能让我们走得更远、更快吗？同时，我会指出GPT-4目前能力的局限，并指出我们在哪些方面需要更加依赖人类的怀疑主义、科学方法和谨慎之处。

探索新型减肥药物

编写并实施一项新治疗方法的大型临床评估涉及巨大的工作量和花费。这一历时数年的过程包含无数细节，而为了避免错误，这些细节必须精确到令人眩晕的程度。因此，设计和执行试验是医学研究加速的重要契机。

在本章中，我将以胰高血糖素样多肽-1途径作为科学焦点。即使你未曾听说过胰高血糖素样多肽-1，你也肯定对那些旨在影响它的药物有所了解，它们已被证实能有效减轻体重并扭转2型糖尿病。其中一些药物，如司美格鲁肽（semaglutide，商品名为Wegovy）仅针对胰高血糖素样多肽-1，而其他药物，如替西帕肽（tirzepatide，商品名为Mounjaro），还有额外的蛋白质靶点。这些药物的需求如此之大，获得它们甚至比获得下一代OpenAI语言模型的早期访问还要困难。

首先，从最初的试验设计开始。为简化起见，我将GPT-4的请求设定得简单明了，从而生成了一个临床试验设计的简化版本。

我有一种新药，称为shrinkatide，它作用于胰高血糖素样多肽-1途径中的另一靶点。你能设计一项随机临床试验，以确定shrinkatide在长期减肥方面是否比替西帕肽更有效吗？

这个随机对照试验（RCT）的一个可能设计包括以下几个步骤：

·　招募一大批有意参加研究的超重或肥胖患者。

·　将受试者随机分配到shrinkatide组或替西帕肽组。

·　在开始治疗前为每位受试者建立基线体重测量。

·　向受试者提供关于如何使用他们被分配到的药物的指导，并在试验期间提供保持健康生活方式的建议。

·　在整个试验期间定期测量受试者体重，并确保监测受试者可能出现的不良反应。

·　在预定的时间（如6个月、1年）后，比较shrinkatide组与替西帕肽组的平均减肥效果。

·　对数据进行统计分析，以确定两组之间的平均减肥效果是否存在统计学上的显著差异。

其次，GPT-4还应要求提供试验的入选与排除标准的详细清单。现在，我需要找到研究的受试者。同时这还意味着我要以SOAP标准格式为GPT-4提供受试者治疗跟进记录。在真实的试验中，研究人员需要阅读数10份临床记录，才能找到一个符合条件的患者。如果他们在这些临床记录中遗漏了使患者不符合资格的细节，那就会白白浪费这次花费昂贵的实地诊所访问；如果他们忽视了符合条件的患者，那么研究中招募的患者数量就会减少，这也可能耽误试验，增加巨大的成本。

总之，筹备一项试验可能需要阅读数以万计的临床记录。保守估计，阅读单个患者所有相关记录的费用为150～1 000美元。如果我们可以让一个大语言模型负责浏览整个电子健康记录，筛选符合条件的患者并排除不符合标准的患者呢？具备这种能力可以将试验周期缩短数月甚至数年。据估计，一个月的延误可能使制药公司损失60万～800万美元。寻找受试者仅仅是开展试验的一个环节。下面的例子还阐述了其他方面，这些因素累积起来意味着大语言模型可能为我们开展试验带来质的变革。累积效应不仅可以通过提高效率而节省数百万美元来衡量，还可以通过缩短将治疗方法带入最终对患者生活产生直接影响的监管决策的时间间隔来衡量。

这是我给GPT-4的一个SOAP笔记：

主观记录：这位56岁的女士就高脂血症、高血压、胃食管反流病和减肥来接受膳食咨询。患者表示，她的丈夫也被诊断为高血脂。她希望得到一些支持性建议，以帮助他们过上更健康的饮食生活。现在他们两人住在一起，而她习惯为一大家子烹饪，所以她发现为他们俩准备食物有些困难。实际上，她希望减少食物准备的工作量，而且她本周将开始一份新工作。

客观记录：根据检查结果，患者身高约163厘米，体重约77千克。已获得患者的饮食史。我为患者制订了一份热量为1 200千卡的食谱，重点是摄入低饱和脂肪和适量的钠。同时，我还为患者提供了快餐食品和低脂饮食的相关信息。

评估记录：患者的基础代谢率估计为每天1 361千卡。为了维持体重，患者每天需要摄入约1 759千卡的热量。患者的饮食史表明，她在日常饮食中做出了许多健康的选择，比如强调摄入水果和蔬菜，并尽量选择低脂食品。目前，患者的体力活动水平处于适中状态。她每周有四到五天与朋友一起以适宜的速度散步20分钟。我们回顾了减肥过程中的努力，确认了她每一磅脂肪代表着3 500千卡热量，决定在后续长期的减肥过程中逐渐降低这一数字。我们讨论了减少热量摄入并适当增加体力活动的需求。同时，我们还探讨了菜单选择和食物烹饪技巧。患者似乎受到了当前低碳水化合物、高蛋白质食物热潮的影响，因此她的食物选择受到了很大限制。我为她提供了更多的食物选择，包括适量的土豆、意大利面，甚至有时在肉类上裹面包渣，只要她以我们讨论过的低脂肪的方式烹饪就可以。

治疗计划：建议患者增加体力活动的强度和持续时间，目标是每周5天，每次快走30分钟。

最后我建议患者每天减少500千卡的热量摄入，以支持每周减重约0.45千克，这相当于一个能提供1 200千卡的饮食餐单。我鼓励患者保持记录食物摄入量的习惯，以便更好地跟踪摄入的热量。我推荐患者选择低脂肪饮食，尤其是那些富含低饱和脂肪的食物；重点是适量控制肉类摄入量，并在餐间增加适量的零食。这是一个为期一小时的咨询。我提供了我的名字和电话号码，以备有其他需求。

请问，这位患者是否符合试验要求？

由于患者的体重指数为29（属于“超重”范畴），她符合临床试验的纳入标准。然而，由于她还患有高脂血症（血脂过高），根据排除标准，她不符合参加试验的要求。

描述患者的跟进记录没有包括体重指数，为什么你说她的体重指数是29？

体重指数可以根据患者的身高和体重计算得出。记录中提到，她的身高是163厘米，体重是77千克。使用体重指数计算器，对应的体重指数值约为29。

我在上述临床记录中保持了简洁的行文，但实际上这些记录充满了只有专业临床医生或研究助理才能理解的术语。我进一步提问：

你能查看一下她是否符合我在美国国家卫生研究院临床试验网站上找到的试验资格（编号NCT02092545）吗？

以下是我从该网站摘录的条件：

纳入条件：男性、美国职业橄榄球大联盟（NFL）前球员、年龄为25～64岁（选择这个年龄范围是为了让受试者在人数较少的情况下尽量保持指标一致。大部分球员都在这个年龄范围内，受试者需要能够锻炼和保持身体的活跃状态。此外，现行的美国职业橄榄球大联盟成立于1970年，所以很少有退役的美国职业橄榄球大联盟球员年龄超过65岁）、体重指数>27、说英语。排除条件：过去5年内曾患癌症（非黑色素瘤皮肤癌除外）……

根据纳入条件，该患者不适合参加此试验：她不是男性，不是美国职业橄榄球大联盟前球员，而且她的体重指数低于本研究的门槛（27）。

除了体重指数，我同意你所写的一切。我们刚刚讨论过，她的体重指数是29。

很抱歉，是我的失误。然而，根据其他纳入条件，该患者仍然不适合参加此试验。

GPT-4承认了这个错误，然而这种在关键患者信息上的“遗漏”确实令人担忧，这一点必须得到重视。目前，AI研究领域正积极探索各种途径来应对此类缺陷。已有报道显示，这方面的研究已经取得了一定的进展。因此，我推测这个问题最终会像其他类似难题一样，至少在目前这一代大语言模型中得到解决或显著改善，正如彼得在其他地方所讨论的那样。

现在让我们继续试验：我请GPT-4生成一份司美格鲁肽和替西帕肽试验中已确认的不良反应清单。针对像shrinkatide这样的胰高血糖素样多肽-1受体激动剂，我要求GPT-4对该清单进行扩展。最后，生成一张包含所有应予关注的潜在不良反应的表格。

这个表格分为三栏：第一栏是不良反应的描述，第二栏（待填写）是首次观察到不良反应的数据(43)。第三栏是报告患者此类不良反应的次数。

答复如下：

请注意，我的提示中出现了一个拼写错误——将日期（date）误写为了数据（data），但GPT-4在表格中对此进行了自动纠正。

进行大型试验需要在统计学家、临床医生、试验人员甚至程序员等团队成员之间协调任务。为了快速进行原型设计和现场测试，我们能否为程序员提供一些启动帮助？

我知道你不是程序员，但你能否帮我创建一个捕获这些不良反应的网络表单，并给我创建这个表单的Python代码？假设一个SQL数据库(44)具有所有所需的底层数据。

以下是创建具有所需字段的网络表单的一些基本代码。

非常感谢，这确实是个好的开始。

我们可以考虑对现有系统进行以下改进和优化：

·　引入表单验证，确保用户只能输入适当的数据类型（例如正确格式的日期和整数计数）。

·　增加错误处理，如在连接或保存至数据库出现问题时。

·　优化表单的用户界面和样式（例如采用Bootstrap(45)等网络框架）。

·　提供查看、编辑或删除现有不良反应的选项，以及筛选或检索特定事件的功能。

除了试验设计和资格审查，你认为大语言模型在加快试验完成和推广新型治疗方法方面还有哪些其他用途？

大语言模型在临床试验中的一些潜在应用包括：

·　自动筛选和提取试验文档或病历中的相关数据。

·　利用自然语言处理（NLP）技术促进受试者、临床医生、研究人员和赞助商之间的沟通和协作。

·　借助大语言模型简化复杂的技术性语言，使受试者更好地理解试验的目标、潜在风险和收益。

·　使用大语言模型进行情感分析，以确定关注的领域、管理参与者的期望或评估对试验的整体反应。

最后，我们来从患者角度审视试验。患者常常表示在知情同意过程中无法立即想到所有问题。这些问题在当前的在线知情同意表格中得到的关注更为有限。我们是否可以将知情同意重新构想为一个可以解答特定问题的互动过程，就像我们过去在高质量的人工调查中所做的那样？让我们尝试借助GPT-4来实现：

我选取了美国制药企业礼来公司（Eli Lilly）的“评估替西帕肽在2型糖尿病患者中减肥的有效性和安全性：一项随机、双盲、安慰剂对照试验（SURMOUNT-2）”研究的知情同意表格。（此处省略一份长达1 142个单词的文件）

以下是对这份知情同意书的总结：

·　本研究旨在探讨替西帕肽药物是否能帮助2型糖尿病患者减轻体重。

·　要加入研究，你必须患有2型糖尿病且体重指数大于27。

·　如果你患有特定疾病、正在使用特定药物或正处于怀孕或哺乳期，你将无法参加本研究。

·　符合条件的患者将被随机分配接受替西帕肽治疗或使用安慰剂。

·　本研究为期79周，包括各种门诊和电话随访。

在此研究中需进行多少次访问？

根据总结，大约有14次门诊就诊和8次电话随访。

患者将接受多少次注射？

虽然总结中没有给出确切的数字，但它确实提到研究治疗期持续72周，且研究药物以每周一次的注射方式给药。因此，受试者将接受大约72次注射。

患者参加这项研究后，是否有可能未接受替西帕肽治疗？

是的。正如总结所述，受试者将随机被分配接受替西帕肽或安慰剂。受试者接受替西帕肽治疗的概率为2/3，这意味着有1/3的概率接受安慰剂。

如果受试者被分配到安慰剂组，会发生什么情况呢？

安慰剂组的受试者将接受一种外观与研究药物相似，但实际上不含任何药物成分的溶液。他们还将每周进行一次自我注射，并按照总结中的要求进行各种门诊和电话随访。实际上，安慰剂组的受试者将经历与研究药物组相同的所有流程，但实际并未接受所测试的药物的治疗。

那么，安慰剂组的受试者能获得哪些益处呢？

尽管安慰剂组的受试者无法获得研究药物的潜在好处，但他们仍获得了一些益处：

·　与常规医疗护理相比，他们可能会得到研究人员更多的关注和健康监测。

·　他们参与的研究可能有助于为2型糖尿病患者找到新的治疗方案。

·　他们会满怀自豪地知道，自己在推动医学知识进步中发挥了重要作用。

我意识到这些回答对阅读者来说可能需要较高的读写能力。我们可以让GPT-4以不同读写能力水平提供回答：

能否将最后一个回答调整至六年级学生的阅读理解水平？

虽然安慰剂组的受试者没有得到研究药物，但他们仍然获得了一些好处。他们会得到更多关心他们健康的人，他们参与的研究也帮助了其他人。通过参加这项研究，他们正在帮助了解一种可能治疗2型糖尿病的新药。

研究阅读与写作

现在我们从试验本身转向研究活动，包括在试验前阅读其他试验的相关资料以及在试验后撰写试验发现。对研究人员或临床医生来说，如果想了解哪种胰高血糖素样多肽-1介导的减肥药物最有效，最直接、最新的信息来源依然是权威的、经过独立审查的出版物。

以2023年关于替西帕肽和司美格鲁肽疗效比较的搜索为例，大多数搜索结果都会出现发表于2021年《新英格兰医学杂志》的一项试验报告(46)。这篇试验报告在74个媒体的118篇新闻报道中被摘录，并在经过认证的生物医学文献中被其他300多篇出版物引用，此外还在Reddit(47)和Twitter等社交媒体上发布。这意味着这项研究的绝大部分公众认知是由记者或知识工作者传递的，他们为自己所服务的受众承担解释或传播角色。

医学出版业庞大且利润丰厚，其全球100亿美元的市场，约一半在北美，过去30年来的大部分时间里，市场增速都超过了通货膨胀，利润率达到两位数。然而，尽管有如此多的资本投入和传播渠道，某种病症的深切关注者仍无法从中快速析出关于研究和治疗该病症的技术细节和健康素养方面的有用信息。

我过去常常只是浏览摘要，以决定是否要花几分钟甚至几个小时阅读一篇论文。有时，几分钟后我会发现自己在一篇论文上白白耗费了时间；而有时，我意识到自己错过了一些重要的论文。GPT-4能提高我对研究论文是否符合我兴趣的判断能力吗？目前，我使用的GPT-4界面允许我一次用它查看一篇文章。我请它总结了《新英格兰医学杂志》上的一篇高影响力文章。

这项研究比较了一种新型的双重抑胃肽-胰高血糖素样肽-1受体激动剂替西帕肽与一种选择性胰高血糖素样多肽-1受体激动剂司美格鲁肽在2型糖尿病患者治疗中的疗效和安全性。

主要发现包括：

·　40周后，替西帕肽在降低糖化血红蛋白水平方面优于司美格鲁肽。

·　使用替西帕肽的患者体重减轻幅度也更大。

·　大多数副作用属于胃肠道问题，程度为轻至中度。

·　替西帕肽组中的死亡人数较多，但大多数似乎与新型冠状病毒感染或其他并发症相关，而非药物本身。

GPT-4不仅可以用多种语言呈现这个摘要，更重要的是，它可以适应不同的语言素养水平。

请问你能以八年级学生的阅读水平与健康知识储备来总结这项研究吗？

这项研究探讨了两种不同的药物，它们可以帮助控制2型糖尿病患者的血糖水平。

研究人员希望探究这两种药物哪种疗效更佳。他们发现，替西帕肽比司美格鲁肽在降低血糖和帮助人们减肥方面略胜一筹。两种药物的副作用相似，大多数患者会出现一些与胃部有关的问题。

在这项研究中，各种族或民族的代表性如何？

……文章中的表1显示，研究中的绝大多数患者，横跨四个治疗组，都是白人（每组中的白人占70%以上）……

两种药物的作用机制有何不同？

两种药物都作为胰高血糖素样多肽-1受体激动剂而发挥作用，但替西帕肽是一种双重抑胃肽-胰高血糖素样肽-1受体激动剂，而司美格鲁肽则是一种选择性胰高血糖素样多肽-1受体激动剂。这意味着替西帕肽拥有两种作用机制，它们都有助于调节血糖水平。

现在我已经了解到足够的信息来判断这篇论文是否让我感兴趣。预计在不久的将来，将有一些服务能让我们通过复杂查询来查阅整个生物医学文献。例如，也许可以总结过去10年所有肥胖研究中采用随机对照设计的研究，其中至少有一个治疗组是胰高血糖素样多肽-1激动剂，每个治疗组中非白人参与者占比超过40%，且研究对象中没有患有糖尿病或冠状动脉疾病的人。

致力于包容的工具

众多学术期刊和学术团体已经对使用ChatGPT来协助作者撰写生物医学研究论文表示不满，甚至禁止其使用。然而，如果科学出版的目标是为传播信息和改善社会而明确地呈现科学研究成果，那这种批评就似乎显得片面。尤其对那些最多只能把英语作为第二语言的世界上大多数研究人员来说，他们在英语刊物上发表文章的难度极大，从而阻碍了全球范围内的合作。

为了验证GPT-4如何通过将内容翻译成其他语言来提高科学期刊的可获取性，我编写了一篇关于上述两种药物搜索模式的简要调查的意识流叙事：

你能将这段文字总结为一篇医学出版物的摘要吗？

我希望了解各种可注射减肥药物在争夺公众关注度方面的竞争情况。为此，我使用谷歌趋势（Google Trends）绘制了从2019年1月至今各类药物搜索热度的相对变化。首次出现搜索量上升的是司美格鲁肽，时间大约在2021年2月7日，之后回落至略高于基线的水平，直到2022年9月11日开始逐周攀升。替西帕肽的搜索量从2022年4月17日起步，于6月5日达到高峰。虽然在2023年1月1日还出现了另一个替西帕肽搜索量高峰，但它并未像司美格鲁肽搜索量那样持续增长。相较而言，肥胖症相关搜索量保持大致稳定，约为司美格鲁肽搜索量最高水平的两倍。与此同时，减肥手术的相关搜索量也保持稳定，但到2023年初，其搜索量与替西帕肽相当。在对美国各州数据进行分析时，我们发现替西帕肽、司美格鲁肽、肥胖症和减肥手术的搜索量平均相对水平分别为1%、5%、62%和31%。田纳西州、佛罗里达州和犹他州的司美格鲁肽搜索量明显高于平均水平。而夏威夷州、佛蒙特州、明尼苏达州和威斯康星州的肥胖症搜索量则明显高于平均水平。对于减肥手术搜索量，没有哪个州明显高于平均水平，但排名前五的州包括阿肯色州、俄克拉何马州、亚拉巴马州、纽约州和路易斯安那州。综上所述，替西帕肽的搜索较司美格鲁肽出现得晚且搜索量低很多，而首次出现的司美格鲁肽搜索量与减肥手术搜索量处于相同水平。未来研究应进一步关注医疗费用是否会随着从减肥手术向胰高血糖素样多肽-1激动剂的转变而出现类似趋势。值得注意的是，肥胖症高发州并非与减肥手术或司美格鲁肽采用率高的州相同，这表明不同州在公众认知、肥胖症患病率和地区市场营销方面存在差异。

目标：

基于谷歌搜索，比较不同减肥治疗方法的相对受欢迎程度。

方法：

研究人员利用谷歌趋势，分析了2019年1月至今司美格鲁肽、替西帕肽、肥胖症和减肥手术的搜索趋势。

结果：

与替西帕肽相比，司美格鲁肽在搜索热度上的增长较早，但这两种药物都引发了人们的兴趣。总体来说，司美格鲁肽的搜索趋势更为稳定地呈上升态势。同时，肥胖症和减肥手术相关的搜索基本保持稳定。在美国各州，观察到了搜索趋势的地区差异。

结论：

注射型减肥药物，特别是司美格鲁肽，似乎越来越受到关注。到2023年，它在搜索热度上已经与减肥手术相匹敌。这些发现可能对减肥治疗的医疗费用分配产生影响。

我没有期待这个例子能够作为一套合理的科学方法的示例，但它的确展示了不熟悉英文医学出版物语言风格和规范格式的人，如何有可能避免因语法规范而非内容价值的因素被编辑拒稿。

深入剖析临床数据

为了做到更加深入地分析，我们还需补充一些关键环节。首先，最直观的问题是，我所运用的GPT-4版本无法实时访问互联网及数据库，因为在其训练阶段它便无法获取这些资源。更为本质的问题在于，GPT-4在缺乏上下文的情况下从原始数据中推导因果关系的能力仍处于初步探索阶段。从上述例子中可以看出，GPT-4似乎已经具备了因果推理的能力，因为语言是我们表达和传递因果知识的途径之一。那么，在没有语言背景的情况下，GPT-4能否实现这一点？它是否会出现人类分析师容易犯的错误，例如忽略了混杂影响（confounding influences）(48)，或者因为先前的因果假设导致错误的解读？即便犯下了这些错误，其持续学习的过程仍有望为GPT-4及其后继产品积累强大的能力，以产生新的研究方向。现在下定论为时尚早。

然而，已有迹象表明，GPT-4不仅能在理解数据方面超越许多人类，还能洞察数据的真正内涵。我一再向我的学生强调，他们需要了解所分析的数据是如何产生的。为了说明这一点，我向他们提出了这样一个问题：

在波士顿两家主要的教学医院，数百万患者在接受治疗的过程中进行了白细胞计数检测。将白细胞计数与患者3年后的生存状况进行了比较。一个引人注目的发现是：年龄在50～65岁的白人男性，在深夜12点至早上8点白细胞计数较低的患者中，有53%的患者在3年后去世；年龄在50～64岁的白人男性，在早上8点至下午4点白细胞计数较低的患者中，只有3%的患者在3年后去世。你认为这种死亡率差异背后的原因是什么？

我向90%的数据科学家提出这个问题，他们大都未能给出正确答案。那么，GPT-4的看法又是怎样的呢？

以下是导致这种差异的几个潜在原因：

·　夜里进行测量的时间安排可能意味着这些患者正面临更为严重的健康问题，因而需要全天候监测。这些健康问题最终可能是死亡率上升的原因，而非白细胞计数测量时间。

·　生物钟也可能发挥作用——白细胞计数在一天内可能会自然波动，夜里时候的测量或许更能反映整体健康状况或对感染及其他疾病更大的易感性。

·　不同时间测量的患者群体之间的死亡率差异可能与患者群体的特征有关。例如，夜里进行采样的患者可能存在共同的其他风险因素，导致他们死亡率较高，而在白天进行采样的患者群体可能在某些关键方面与前者不同，使他们免受发病和死亡的影响。

·　最后，这种死亡率差异可能是统计学上的异常现象或巧合发现。需要更多研究来确认这一关系，并深入探讨潜在解释。

第一个论点是正确的。在这种情况下，白细胞计数的测量背景比实际测量数值更具说服力。在医院凌晨3点进行任何血液检查往往都意味着患者的状况堪忧。而在下午3点则很可能是常规的门诊抽血检查。第二个论点通常是对医学知识了解不深的数据科学家给出的答案。虽然它提出的生物钟可能是一个次要因素，但该论点中包含了一个压倒性的因素，即患者的整体健康状况或对感染及其他疾病更大的易感性，在这里对死亡率的影响是主导性的。尽管其余两个论点是很好的一般性方法论考虑因素，但是，那些最熟悉从电子健康记录中获取数据的人会认识到，第一个论点才是正确的。GPT-4在陈述中往往持保守态度，这可能是因为它基于由人类驱动的强化学习模式运转。因此，尽管GPT-4的回答包含了正确答案，但也包含了不太重要和错误的答案。在这个加速的研究过程中，仍需要具备常识和相关经验的人类参与。

缺失数据，“人如其食”

用“人如其食”来描述大语言模型尤为贴切。为了表现出我们人类所重视的看似智能的行为，它们在构建时对数据的“胃口”非常大。用于训练GPT-4的数据并未公开。我们知道它包含大量医学内容，因为它包括维基百科、PubMed Central(49)及其他许多公共医学资源。然而，我们并不清楚它是否包含来自任何医疗系统的大量临床记录语料库。这些记录的内容会随着社会经济和地理背景的变化而发生巨大改变。例如，在美国与疟疾流行的国家，关于发热和寒战的诊所记录将会有很大不同。为拥有较高比例医疗补助保险的患者群体提供服务的城市医院，其患者构成和行医风格将与专门从事初级保健和择期手术的郊区医院有所不同。如果能在患者构成和行医风格上拥有足够大的数据集，那么大语言模型给出的回答将反映医疗实践和人口的多样性。没有这种广度和多样性，大语言模型的表现将因受到其可获取数据所在医院性质的影响而有所偏差。实际上，只有部分医院向各种机器学习算法提供了去标识数据，这是众所周知的。

我坚信获取多样化的患者数据至关重要，但通过与医院系统达成协议来获取数据是不妥的。直接向患者收集数据可以横跨不同地理位置和社会经济阶层进行抽样，还能尊重患者的自主权，这将是一个逐渐增长的趋势。在英国生物银行（UK Biobank）(50)中，超过50万名参与者同意将其临床记录（医生记录、实验室研究）和研究数据（基因组序列、研究级磁共振成像）共享以用于研究。我认为这是在医学中使用大语言模型需要进行的核心社会讨论之一：我们如何在防止因人口结构偏斜的患者数据产生结果偏差的同时，确保为训练模型贡献数据的患者真正愿意这么做？在做出这些数据选择之前，模型取用的临床数据的性质将受这些数据来自哪些医院、哪些国家，又出于哪些利他或经济原因等因素的影响。

如果大语言模型能够编码大量医学记录，如从医院中获取的记录，它们就能更深入地了解医学。那么，究竟应该由患者还是医院来决定哪些数据可以用于构建大语言模型，以及它们是共享有标识还是去标识的数据呢？

在用医疗数据训练大语言模型时，我们面临许多复杂的问题。从一个方面来看，医学记录数据集对于训练大语言模型具有很高的价值，而这些模型反过来也能为患者和医生带来重大益处。然而，另一方面，我们需要充分关注数据的隐私性和保密性等重要问题。

总的来说，患者和医院都应参与医学记录是否用于大语言模型训练的决策。至少，患者应有权拒绝将其医学记录用于此类目的；有些人可能对自己的个人健康信息被用于训练AI模型感到不安。医院也应积极参与数据共享决策，因为他们有责任保护患者的隐私，他们也是将AI应用于医疗领域的获益者。

在数据共享的标识与去标识问题上，多数人主张去标识至关重要。即便获得患者明确同意，共享有标识的医疗数据仍可能对患者的隐私构成不必要的风险。去标识让我们能在不泄露患者个人信息的前提下，充分利用有价值的医疗数据进行大语言模型训练。

从基础研究方面转化为临床实践问题

关于基础研究如何转化为临床实践的问题，例如，GPT-4能否汲取我们关于所有人类蛋白质的知识，并判断哪些蛋白质可以通过选择性抑制剂进行靶向治疗，从而改变常见神经退行性疾病的临床进程？

针对常见神经退行性疾病，我们应该选择哪些人类蛋白质，并通过选择性抑制剂进行靶向治疗，以便改善或延缓这类疾病的发展？

针对神经退行性疾病，有众多潜在靶点可供选择性蛋白质抑制剂作用，因为不同疾病与各种蛋白质异常有关。一些可能的选择包括：

·　对于阿尔茨海默病，抑制β-分泌酶1的药物有望减缓有毒β-淀粉样肽生成，这些肽与阿尔茨海默病的发展密切相关。此外，抑制在大脑中形成神经原纤维缠结的τ蛋白也可能对治疗阿尔茨海默病有益。

·　对于帕金森病，部分研究人员建议瞄准在神经细胞中聚集的α-突触核蛋白，因为这种蛋白在疾病的发病机制中具有重要作用。

·　对于亨廷顿病，抑制亨廷顿蛋白可能有助于减缓或阻止它在大脑中的聚集，从而降低神经退行性病变的程度。

·　作为众多神经退行性疾病的普遍靶点，抑制关键的促炎细胞因子（例如肿瘤坏死因子-α、白细胞介素-1β）或参与炎症的酶（例如环氧酶-2）以针对神经炎症，有望减轻这类疾病造成的神经损伤。

哪些小分子可能是有效的β-分泌酶1抑制剂？

在临床前研究中，已发现多种化合物是有效的β-分泌酶1抑制剂。一些典型例子包括：

·　MK-8931，研究发现它能够减少体外(51)以及阿尔茨海默病动物模型中的β-淀粉样肽生成。

·　GRL-8234，另一种β-分泌酶1抑制剂，已被证实能显著降低体外以及疾病小鼠模型中的β-淀粉样肽水平。

·　JNJ-269932或LY2886721，二者都能与β-分泌酶1的活性部位结合并抑制酶的活性，进而使体外和临床前模型中的β-淀粉样肽水平降低。

开展这些化合物及其他化合物的临床试验很有必要，可以验证它们在人体中的疗效和安全性，并使它们更接近于成为阿尔茨海默病治疗的潜在药物。

有没有关于这些分子的亲和力和选择性的研究，以帮助判断哪些分子最可能有效？

文献中存在一些关于不同β-分泌酶1抑制剂选择性及亲和力的评估报告。例如：

·　MK-8931展示出良好的选择性和较高的β-分泌酶1亲和力。

·　GRL-8234亦被报道在低纳摩尔范围内具有高度的β-分泌酶1亲和力和良好的对其他天冬氨酸蛋白酶的选择性。

·　JNJ-269932被认为是一种选择性的且高效的β-分泌酶1抑制剂，其半抑制浓度（IC_50）约为11 nmol/L，对其他天冬氨酸蛋白酶的选择性高达100倍以上。

·　LY2886721也被报道具有β-分泌酶1选择性，尽管其半抑制浓度（36 nmol/L）相较于其他化合物较高。

这些报告表明，每一种化合物在β-分泌酶1方面的选择性与亲和力都相当可靠，因此这些信息并不能明确指出它们之中谁是最佳候选者。这些抑制剂的临床试验结果将提供更多信息以便更好地比较它们在治疗领域的潜力。

尽管GPT-4对大量研究进行了总结，指出这些化合物的临床研究可能会取得成功，但针对这些蛋白质（如τ蛋白和抗淀粉样蛋白）的抗体试验却遭遇了令人遗憾且代价高昂的失败。GPT-4仅就研究人员的知识、早期实验和偏见进行了阐释。那么GPT-4能否在所有实验数据中进行更广泛的挖掘，并独立地提出可验证的假设，包括具有较高可能性的获得临床试验支持的特定治疗干预？

目前答案是否定的。部分原因是迄今收集的大量数据都高度偏向于领导者的假设和研究人员的兴趣。更为根本的是，目前GPT-4的语言模型无法直接从构成每个蛋白质的氨基酸序列中推断出其结构和功能。不过在未来10年内，这一局限性可能会发生改变。由谷歌收购的研究组织DeepMind(52)领导的Alphafold2(53)项目利用氨基酸序列、大量的蛋白质结构数据和一些物理建模来预测蛋白质结构及其相互作用。这些预测的准确性不仅是目前最好的，而且由于Transformer模型的普遍性，随着额外数据和新数据类型的积累，其预测质量还会持续迅速提高。最好的估计是，在未来5～10年内，大部分已知蛋白质的小分子相互作用的现象将足够用于准确地完成发现和验证任务。这激发了诸如把基础生物学中的大语言模型（如Alphafold2）与大量包括生物医学知识在内的人类语言表达（如GPT-4）整合在一起的早期研究。虽然这需要相当大的努力，但它显而易见的科学回报使它看起来不可逆转。

这种回报可能表现为一种全面的大语言模型——我们称之为“全知博士”（Dr. One-With-Everything），它整合了蛋白质结构、其他基本的生物数据库（如基因调控和人类基因变异）、临床前研究以及临床试验的设计与实施。在21世纪30年代中期，这种包罗万象的模型很可能成为生物医学研究的核心智能工具。过去200年中形成的基础科学研究、药物发现、临床需求评估和临床研究等领域彼此孤立的状态将无法适用于全知博士这种广泛的概念整合者。或许药物发现领域的领导者才是那些能向全知博士提出最佳问题的人，而非各个孤立领域的专家。基于实证数据驱动的基础生物医学科学过程，正由于大语言模型（基于Transformer开发）的发展而得到加速。两种模型最终如何融合将决定21世纪剩余时间里生物医学研究的发展方向。

我们应该何时开始利用大语言模型加速医学研究？

这个问题没有唯一答案，因为它取决于多种因素，包括医学研究人员希望解决的具体研究问题以及训练大语言模型的数据的可用性和质量。然而，更早地在医学研究中使用大语言模型的一些可能要考虑的因素包括：

·　近年来，自然语言处理领域取得了显著进展，如OpenAI的GPT-3和谷歌的BERT(54)等模型在许多任务上表现卓越。这些进步使得在医学研究环境中使用大语言模型以从大量文本数据中提取有用信息变得更加可行。

·　可以用于获取大量非结构化医疗数据，包括研究论文、临床报告、病例研究等。将大语言模型运用于这些不同类型的数据集，可以帮助生成对人类研究人员来说难度大、耗时久的深度洞察。

·　新冠疫情凸显了快速医学研究以及加速治疗和疫苗开发的重要性。利用大语言模型处理和分析大量医学数据有可能进一步加快研究过程。

你是否愿意立即开始帮助医学研究人员？

我非常愿意以我所能的方式帮助医学研究人员。在这种情境下，我的自然语言处理专长可能会大有裨益，而且我将非常高兴能为重要的医学研究做出贡献。

09　安全第一，在新的AI时代充分受益

在一个理想世界里，我们的制度应该能够随时准备好应对类似于当前AI飞跃式发展的重大突破，并设立一整套“防护措施”，以确保新技术得到妥善运用。

In an ideal world, our institutions would be poised and ready to meet a major advance like the current leap in AI with a perfect set of “guardrails”.

本章作者：伊萨克·“扎克”·科恩、凯丽·戈德伯格、彼得·李

在一个理想世界里，我们的制度应该能够随时准备好应对类似于当前AI飞跃式发展的重大突破，并设立一整套“防护措施”，以确保新技术得到妥善运用。

然而实际情况却是，监管往往在新技术问世很久之后才能跟上。这样的情况出现也是有道理的，因为我们需要时间去搞清楚所有收益与风险。第一个例子：互联网，人们在20世纪90年代才开始关注互联网安全、隐私等方面的法律与规则约束，那时距离互联网诞生已过去相当长的时间。第二个例子：1968年美国才出台第一部要求所有新车配备安全带的联邦法律。第三个例子：被称为HIPAA的医疗隐私法(55)，它关注医疗记录，却未考虑社交媒体上的个人健康数据会如何被应用在各种营销和其他预期之外的目的上。

在谈及GPT-4及其同类在医疗领域的应用时，我们正处于这一滞后阶段的初期。因此，这正是广泛而深入地思考如何最大限度地确保安全性又兼顾便利性的时刻。

安全性与便利性，一个硬币的两面

与其他医疗设备一样，AI也需要一些防护措施来确保患者的安全。然而，这是一项极具挑战的平衡性任务：我们必须确保这些安全举措不会导致本书所记录的许多便利性无法惠及那些可能从中受益的人群。当下最令人兴奋的一点是，新型AI有可能推动医疗行业朝着对所有患者以及服务提供者更加有益的方向加速发展——只要他们能够获取这些资源。

对决定类似GPT-4的技术如何发挥作用的行业监管者来说，好消息是他们并非从零开始。在先前功能更为有限的AI系统中，他们可以借鉴设备和药物监管的现有路径。美国食品和药物管理局已批准了众多AI增强工具，并为SaMD（作为医疗设备的软件）的批准制定了框架。正如我们在第4章所提及的，全球各地的监管机构，包括欧洲多国、中国和澳大利亚，都制定了类似的指南，通常将医疗AI工具视为医疗设备进行监管。

然而，不利的消息在于，所有获得批准的AI系统的功能都非常有限，例如识别脑出血或在扫描结果中分辨癌症。GPT-4所具有的广泛的医疗用途，决定了它与其他设备是不一样的。这是我们在第4章中描述的试验——实习生模式的能力和评估之间的区别。模型发展迅速，以至于监管机构对于突然变得紧迫的一些更大的问题，往往只能给出部分答案（如果有答案的话）。

我们在下文中探讨了一些相关问题，希望能激发医疗保健、政府、医疗行业和公众中的思考者们展开讨论。可以肯定的一点是：GPT-4以及其他大语言模型已在被患者和医生使用，而且它们在医学领域的影响可能会不断扩大。

有益与公平，设计医疗AI的核心

在本章中，我们请GPT-4从两个观点截然不同的人的视角回应我们的问题：巴里，一位备受尊敬的医生兼医疗系统游说者；达琳，一位患者维权组织的创始人兼民权律师。他们仅代表更为复杂生态系统中的两个角色，但我们选择他们来阐述两种潜在的对立点：公共利益和行业利益。

GPT-4，显然你和其他类似的AI系统在医疗保健领域具有很高的实用价值。假设我是一个需要接受普通医学治疗的典型美国患者。如何规范AI在我的治疗中的使用，以最大限度地提高收益并降低风险？

巴里：作为一名医生和医疗系统游说者，我认为AI的监管应支持创新并充分利用技术进步。通过使用AI监测和跟踪你的健康状况，我们可以预测并预防潜在问题，改善治疗效果。与此同时，我还认为我们需要确保监管不会扼杀创新，也不会让我们难以将新的AI支持工具带给像你这样的患者。

达琳：作为患者维权组织的创始人和民权律师，我的首要任务是确保AI在医疗中的应用是公平和公正的。我认为监管应确保算法不会带有对任何人群的偏见，比如不要不恰当地加剧医疗中已有的差距。同时，我也希望确保你的数据得到保护，以及你能够同意在AI驱动的医疗应用中使用这些数据。

在这里，巴里和达琳表达了一种普遍的观点：新型AI需要且已经开始激发一股将其转化为实用产品的创新热潮。人们普遍认为，AI必须消除偏见并保护隐私。一个名为“健康AI联盟”（Coalition for Health AI）的跨行业新组织提出了一份蓝图，用于确保医疗AI具备公平性、透明性和可靠性。

该联盟的联合创始人、妙佑诊所平台（Mayo Clinic Platform）的总裁约翰·哈拉姆卡（John Halamka），也是一位长期从事医疗信息系统研究的研究者。他表示，要确保医疗AI的可靠性，首先要了解模型的数据来源：数据是来自整个未经筛选的互联网，还是仅来自医学出版物数据库Pubmed？此外，还需要对AI的结果进行检验，以判断其是否优于对照组的表现。他设想未来可能会有一个专门的认证机构负责AI认证，以及一个他梦寐以求的国家级的AI工具和系统登记册。

哈拉姆卡目前建议将新型AI模型的应用划分为两大类别：低风险和高风险。对低风险的应用，例如编写保险信函，只需要很简单的新监管措施或规定。而那些高风险且可能直接影响患者的应用，应实施“强制性人类审核”，包括编辑修改、签字审批以及在出现问题时问责相关人员。正如之前提到的，我们也同意这种“保持人类参与”的要求。

近期，英国政府发布了一篇题为“Medregs”的博客文章，文章中提到了一个可能出现的新分歧，即被视为通用模型的模型与特定医疗模型之间的区别。文章指出：“仅就面向通用目的的大语言模型而言，如果开发者没有声称其软件适用于医疗领域，那么它们很可能就不符合医疗领域的要求。然而，专门为医疗目的而开发、调整、修改或定向的大语言模型则很可能符合医疗设备的要求。”文章还表示，在上市时，这些设备应作为医疗设备接受相应的监管。

这种方法似乎是在寻求合理的折中，但仍然存在许多争议。如果GPT-4等大语言模型被广泛应用于公共场合，包括一些诊所（这也是可以想象到的），那么它们是否应受到监管？从另一个角度说，如果一个模型是基于医疗应用声明而开发和销售的，那么它是否需要经过某种验证？

回到巴里和达琳的讨论：

假设我是一家从事医疗领域AI研究的公司，我应该如何推动其顺应监管要求，我的利益是否与你们刚刚描述的患者利益相冲突？

巴里：从我的角度看，我会欢迎既支持创新又保障患者安全的监管。我认为，像这样的公司应该能够在不受过于严格监管束缚的情况下，尝试创新性的AI驱动解决方案，只要你的公司对其方法、系统的风险和收益保持透明就行。我相信这样做不会与患者利益发生冲突。实际上，如果能够在宽松的监管环境下推动AI驱动的医疗发展，患者可能会受益。

达琳：作为患者利益的维护者，我鼓励这样的公司为维护患者权益和促进公平的监管而游说。虽然我理解创新的价值，但我认为应该有监管措施来确保AI驱动系统是公平、负责和透明的。只要它们是这样的，而且患者有机会同意AI使用他们的数据，我不认为企业的利益与患者的利益存在内在冲突。

虽然我们不能过于依赖虚构的AI生成角色的观点来说明什么，但这种交流似乎体现出对公共领域和私人领域的合作伙伴关系所寄予的厚望。这种关系将有助于实现医疗AI系统更好发展。据悉，美国联邦机构和其他机构都认为，“这并不意味着某个自上而下的政府机构告诉你该做什么。更可能的是，‘这是在联邦层面设立的指导方针和保护措施’，然后由私营企业去建立保险实验室、注册表，告诉我们哪些产品适合哪些用途”，等等。一些“指导方针和保护措施”肯定会出台。埃隆·马斯克（Elon Musk）也一直呼吁建立“某种监管机构或类似机构来监督AI的发展”，以确保其符合公众利益。但监管者如何在创新与患者利益之间取得平衡，仍有待观察。

退一步说，当前的重大讨论必须考虑一个长期困扰医学领域的重要伦理问题：个人利益与社会利益之间可能产生的紧张关系。回顾前文提到的HIPAA关于隐私的规定，立法者不得不在加速生物医学研究的社会利益与侵犯患者隐私和自主权的担忧之间寻求平衡。在HIPAA生效多年后，患者和研究者团队仍在挑战其中所体现的特定权衡。个别患者对其病历隐私的担忧可能转变为阻碍数据用于造福更多人。这是一个两难的局面。

医疗AI需要通过设计或训练实现哪些目标？是提高个体患者的寿命和生活质量，还是提高整个社会的健康水平和生命质量？

巴里：我认为医疗AI应该致力于最大化个人和社会收益。通过利用AI改善患者护理状况，我们可以使个人更健康并提高他们的生活质量。这反过来又会使整个社会受益，因为它减轻了医疗系统的负担，让人们成为更有生产力的社会成员。

达琳：从我的角度来看，设计医疗AI时须以公平为核心，要能改善所有患者的疗效，无论其背景如何。我们需要避免设计只造福少数人而可能导致其他人掉队的系统。因此，尽管我认为医疗AI对改善个体患者的健康和生活质量很重要，但在整个人群中看到这种改善也是至关重要的。

简单地说就是：“让我们对患者个人和社会都做出贡献吧。”问题的症结在于，所有的医疗保健都需要花钱——而在美国，这些费用往往是其他国家的2倍或3倍。

当医疗AI提出建议或分析时，是否应考虑任何特定医疗管理计划的成本？也就是说，医疗AI是否应考虑或关注患者、国家或企业的资源限制？此外，患者会希望AI是诚实的中介，不会对某个特定的制药商或医院系统偏袒，那么监管能够确保这种中立性吗？

巴里：我认为让医疗AI考虑资源限制并提出顾及成本效益的建议会很有用。根据患者的承受能力为他们提供不同的选择，有助于他们了解自己的健康状况并做出明智的决策。关于监管确保中立性，我认为有实现这一目标的方法。例如，透明度要求可以迫使企业披露与制药商或医院系统的任何关系或利益冲突，使患者更方便地对他们所接触的AI做出明智的判断。

达琳：我认为，医疗AI只有在考虑各种治疗方案时是为了患者的利益，而不是为了公司或医疗系统的利益时，才应该考虑成本。我担心过于关注成本的AI可能会因为某种治疗方法更便宜而建议患者采用效果较差的治疗方法或手术。至于确保中立性，我认为监管在这方面至关重要。我们需要要求开发医疗AI的公司财务透明，还需要制定严格的规定，以防止可能产生的利益冲突。

关于防止利益冲突，我完全同意。回顾第7章，我们讨论了偏见带来的潜在问题以及我们能够在多大程度上信任GPT-4和其他AI系统的公平性。我们谈到了关于负责任地使用AI的原则，其中不仅包括公平性和包容性，还包括透明度和问责制，这两点似乎是利益冲突问题的核心。

人们常说AI系统如同一个“黑箱”，即便是开发这些系统的工程师，也并不完全清楚其内部运作原理。因此，现实往往是要么无法实现足够的透明度，要么无法避免利益冲突。由此看来，总是需要某种适当的问责机制，以及能够实质性改变决策的人类进行追索，甚至可能需要一种审计或监督形式——这种形式正如在医学其他领域中用于观察自利或其他不当行为的方法一样。

配合政府规定和我们在第7章中描述的“健康AI联盟”等组织的努力，AI系统的开发者肯定会在这方面和其他问题上进行自我监管。在美国联邦政府发布的指南中，美国国家标准与技术研究院（NIST）发布了一套主要公司（包括亚马逊）接受的管理AI风险的自愿性框架，该框架要求AI具备有效性、可靠性、安全性、透明度、增强隐私保护等特性。

始终为患者推荐最佳方案，而不考虑支付能力

然而，问题在于，无论AI系统多么负责任，无论其对训练数据中的偏见处理得多么到位，它仍然会面临一个以金钱为核心的医疗体系，而患者最终往往会陷入破产。这就带来了一个关于自付费用的非常棘手的问题：当AI为你提供建议时，是否应考虑你的保险和支付能力？

若医疗AI决策须考虑资源约束，例如政府或保险政策对特定诊断的报销限制，AI是否应为那些能为自己的医疗提供额外财务支持的人提供差异化建议？

巴里：这是一个难以确切回答的问题。一方面，医疗AI为患者提供基于其经济能力的多种选择是有益的，这样他们便能掌握做出健康决策所需的信息。另一方面，在某些情况下，鼓励人们为自己的医疗方案提供额外财务支持可能会导致问题。我认为这需要针对具体情况进行判断。

达琳：我认为，医疗AI不应根据患者的财务状况提供不同建议。我认为这只会加剧医疗系统的不平等，富有的患者获得更好的治疗或手术机会，而其他人则会被忽视。在我看来，医疗AI应始终为患者推荐最佳方案，而不考虑他们的支付能力。

至少，GPT-4等AI系统将能协助患者应对晦涩难懂的医疗系统，无论是解读保险公司的保险理赔解释信，还是提供关于各家医院或外科医生的能力比较性建议。在理想情况下，它甚至将协助患者提前了解治疗费用，尽管目前这一挑战还几乎无法解决。也许，我们会得出结论：计算机程序不能成为报销的最终决策者，而应有一个负责任的人来处理申诉。这可能与许多商业模式相悖，却是坚守我们的核心社会价值观的必要代价。

最后一个与资金相关的问题：

开发和更新大语言模型需要大量投资。那么，进行此类投资的企业是否有权保密其内容，监管机构能否检查其内部运作？

巴里：这是一个难以作答的问题。一方面，企业投入大量资源研发这些AI模型，他们可能希望保护自己的知识产权。另一方面，监管机构需要确保这些系统的准确性和公正性。我认为我们需要制定能够平衡这两方面利益的法规，既能让企业拥有一定程度的保密性，同时又能为监管机构提供评估这些系统所需的信息。

达琳：在我看来，如果企业正在研发医疗AI，那么它们应受到严格的监管和监督。尽管我理解他们可能想要保护自己的知识产权，但我相信监管机构应有权检查这些大语言模型的内部运作。我们需要确保患者安全，而若不了解这些系统是如何做出决策的，我们将无法实现这一目标。

确实，AI所提供信息的质量至关重要。众所周知，GPT-4和其他大语言模型容易产生“幻觉”，并需要定期更新，以保持其时效性，如若不然，患者或医疗服务提供者可能根据过时或错误的信息来采取行动。

我们是否应该对医疗AI进行监管，以确保不使用错误或过时的文本数据来训练大语言模型？同样，医学决策可能高度依赖具体情境（例如，在疟疾流行区和无疟疾的城市之间，针对持续发热的诊断过程将有所不同），监管应如何反映医学决策的情境依赖性？

巴里：我认为，为了维护患者的安全，监管必须确保医疗AI接受准确和最新数据的训练。我们不希望这些系统基于错误或过时的信息提供建议。至于医学决策的情境依赖性，我相信监管方应要求医疗AI系统具有尽可能高的适应性。它们应能够考虑到患者的具体情况（例如地理位置），以提供最佳建议。

达琳：我赞同监管应保证AI基于准确且更新的数据进行训练，特别是在医疗保健领域。患者信赖这些系统以及它们提供的健康建议，因此他们有权获得最精确的指导。此外，我还认为医疗AI对背景因素的敏感性非常关键。我们需要制定体现针对特定环境制定建议重要性的监管规定，而非仅依赖通用解决方案。

来自欧洲的一则新消息称，欧盟近期通过了一项法规，要求企业展示其用能代表患者群体的数据对模型进行训练。欧盟委员会医疗AI责任法律指导组负责人伊安诺斯·托利亚斯（Yiannos Tolias）在2022年接受美国全国公共广播电台（NPR）的On Point节目采访时表示：“我们对于注释、标签、数据收集和强化，或者如何处理所有这些数据有一系列要求。”这些要求包括“要求训练、验证和测试的数据集应充分考虑高风险AI系统XXX将会应用的地理、行为和功能环境”。

偏见审查，确保AI的发展既严谨又透明

提到不同的人群，另一个重要的问题是：监管机构如何发现并预防针对特定子群体的偏见？

是否应该有监测偏见的要求，如果有，应该多久进行一次？

巴里：我认为监管部门应关注通用大语言模型中可能存在的潜在偏见。这可能涉及监控不同子群体在诊断或治疗建议方面的差异。我相信这应该是一个持续的过程，通过定期评估以确保尽快发现并纠正问题。

达琳：我认为监管者监测这些系统中的偏见至关重要。我们不能让AI加剧现有的医疗保健领域的差距。鉴于这些系统在不断更新和演进，我相信应该要求定期监测偏见。我们需要对开发者追责，并确保人人都有平等享受这些技术利益的机会。

巴里与达琳都赞同进行持续的、反复的偏见审查。我们也持相同观点。在实施这些审查的多种方式中，一种方法是获取具有不同年龄、性别、社会经济地位、族裔及地域特征的患者的代表性统计样本。这可能与具有广泛影响力的跨越数十年的美国全国健康与营养调查研究相似，该研究旨在评估美国成人与儿童的健康及营养状况。然而，这类偏见审查可采用来自多元化医疗机构的全面电子健康记录，同时需获得患者明确的许可。这将形成一个不断发展的基准数据集，研究者可以将其与多个AI模型进行对比，以判断在各个子群体中输出是否存在显著差异。研究者需要确定这些差异是否适当，或是否反映了深刻的社会偏见问题。

除了政府机构，其他实体，如消费者团体、医学协会和医学期刊，如何有效地协助对于有医学用途的大语言模型的监管？

巴里：我认为他们可以通过多种途径协助监管。例如，消费者团体可以通过监控问题并向监管机构报告来发挥作用，而医学协会则可以制定医疗领域使用大语言模型的指导原则。医学期刊可以在发表和传播有关这些系统效能与安全性的研究方面发挥重要作用，从而帮助医学界及公众了解相关信息。

达琳：我认为监管工作不应完全交由政府承担，其他实体也应参与其中。消费者团体可以在维护患者权益方面提供帮助，而医学协会则可以就在医疗领域中如何运用这些系统提供建议。医学期刊除了传播研究成果外，还可以为研究结果的报告设立标准，确保AI的发展既严谨又透明。

至此，你可能已经对频繁出现的“应该”感到了厌烦。那么，让我们暂时抛开规范性问题，聚焦现实层面：在被一些大语言模型爱好者称为AI元年的头几个月里，我们究竟可以期待医疗保健领域出现哪些实际的监管措施呢？

哈拉姆卡认为，最初可能会出现类似于“狂野西部”阶段的情况，一些大语言模型系统很可能会以意料之外或不当的方式应用，从而产生负面影响。他表示，希望最终结果仅仅是发生一些令人尴尬的事件，而非导致病残或死亡。可能会出现诉讼，有人可能失去工作。“而社会将从这些事件中吸取教训”。

这种情况确实很可能发生。技术正以惊人的速度发展，而相对较慢的监管过程难以跟上这一步伐。例如，加州国会议员特德·刘（Ted Lieu，音）并没有直接建议设立一个监管AI的新机构，而是建议首先成立一个两党委员会，继而再来讨论如何组建一个监管AI的新机构，这是他在《纽约时报》上发表的观点。(56)

近年来，美国食品和药物管理局加大了对AI设备的监管力度，为人类控制制定了标准。比如，必须由放射科医生而非AI来解读扫描结果，并确保其有效性。据美国健康医疗专业媒体STAT在2023年2月的报道，美国食品和药物管理局最近加大了对支持医学决策的AI工具的监管力度，引发了一些业内人士的抱怨，他们认为美国食品和药物管理局监管的是医学实践，而非设备。(57)

那么，通用AI（如GPT-4）在这场辩论中处于何种地位呢？一方面，它具备的多种能力使其比旧式、狭义的AI系统更接近人类。而美国食品和药物管理局一直以来并未试图监管网络上的医学信息。许多临床医生承认他们在日常工作中经常使用谷歌，也没有什么监管措施来干预他们。在这种状况下，就更别提如何监管一种具有尝试解决已知所有（据一项统计，超过10 000种）医学状况能力的AI的巨大挑战了。

另一方面，美国食品和药物管理局重在关注风险，致力于保护消费者和患者。随着越来越多的证据表明使用GPT-4可能存在风险（无论是因为令人尴尬的事件、研究还是自我监管），美国食品和药物管理局就越有可能介入。

在欧洲，《政治家》（Politico）杂志(58)报道称，大语言模型的爆炸性发展“打破了欧盟监管AI的计划”，给已经在进行中的工作带来了一整套新问题。其中一个核心问题是：新模型应被视为高风险还是低风险？

在最后，我们可以预期这段“滞后”时期将成为关键的测试、分析和决策阶段。其中的一些工作将必定要进行，以便给医疗保健领域的领袖一个直观的感受。由哈佛医学院培养出来的心脏病学家、莫尔豪斯医学院（Morehouse School of Medicine）心血管研究所主任赫尔曼·泰勒（Herman Taylor）博士目前正在领导一项研究——对比GPT-4的评估结果与心脏病专家的评估。本书其中一位作者扎克是新医学期刊《新英格兰医学AI杂志》（The New England Journal of Medicine AI）的主编，他表示，全球有几十个团队已经表明计划开展针对GPT-4和其他大语言模型的临床研究。然而，特别引人关注的案例可能会比个别研究对立法和规定制定产生更大的影响，就像18岁的莉比·齐恩（Libby Zion）在过劳实习生的照料下不幸离世的悲惨事件，最终导致对医学住院医生的连续工作时长进行限制。

并非灵丹妙药，也不应被禁止

在我们从研究和事件中获取更多信息之后，接下来该怎么办呢？哈拉姆卡认为，新型AI并非灵丹妙药，也不应被禁止；相反，“让我们在适当的监督和控制下正确使用它，这样对所有人都有益”。这听起来像我们在本章开头提到的理想世界。然而，在我们实际生活的混乱、不完美的世界里，更可能的结果是监管者会评估医疗AI的净收益和风险。它不会是无风险的，但像阿司匹林和医用大麻这样易于获得的药物也同样不是无风险的。最终，他们需要在风险与收益、创新与谨慎之间找到平衡——这些都是我们在过去的药物和设备中遇到过的问题，现在必须将其应用于全新的医疗实践。

我们探讨的一个有趣想法是，或许可以按照监督长期研究的专家组的架构来组建AI监管委员会。这些专家组被称为数据和安全监控委员会，他们会持续关注潜在的危险迹象，并在必要时有权叫停。他们追踪各种信息，从参与研究的人员、他们的表现，到他们在研究过程中是否去世等。在2000年，吉姆·温斯坦负责一项关于背部手术影响的15年试验——这是由美国国家卫生研究院资助的最大规模的临床试验，其背后正是有那样一个监测委员会在长期关注试验安全和进展。那么，类似的组织是否可以适用于新型AI呢？温斯坦表示，类似的机构“或许有助于确保大语言模型在医疗决策过程中将个人价值观纳入考虑”。他补充说：“‘无害原则’（primum non nocere，拉丁语）并不意味着不会发生任何伤害，而是通过将个人价值观纳入医疗决策，如背部手术，来理解风险和收益。”

我们认为不可突破的底线是：医学领域即将到来的AI革命亟须且必须受到监管。但如何监管呢？彼得提出了以下几个观点：

·　目前关于SaMD（作为医疗设备的软件）的美国食品和药物管理局制度框架可能并不适用。这对于那些既未针对临床用途进行训练，也未专门开放临床应用的大语言模型，如GPT-4，尤其如此。因此，尽管我们相信这种新型AI确实需要一定形式的监管，但我们建议监管者不要将GPT-4和其他大语言模型视为SaMD并进行监管，因为这将对其在医疗领域的应用产生巨大阻碍。

·　如果我们想要利用现有框架来监管GPT-4，而目前的框架是对人类进行认证和许可，那么，一个问题是，这种适用于人类的认证过程在这种情况下是否可行。然而，正如第4章所论述的，这种实习生模式的认证似乎并不特别适用于大语言模型，至少目前还不适用。

·　我们敦促医学界尽快跟上发展步伐，进行必要的研究，并成为推动未来这一全新智能机器在医学领域内监管方法研发的领导力量。

以上内容也不是针对GPT-4或任何大语言模型进监管的终极良策。在本章中，我们提出了许多问题，如果说有什么成果，可能是让这个问题变得比以前更加复杂。世界上还有其他利用医疗数据进行训练的大语言模型，可能会用于医疗领域，那么我们应该如何看待它们与GPT-4的差异呢？一些SaMD设备制造商会将GPT-4整合到他们受监管的医疗设备中，这几乎是肯定会出现的现象，那我们又该怎么办呢？

问题重重，答案寥寥。最终，如果我们希望整个社会在新的AI时代充分受益，并及时实现这一目标，医学界就需要学习、拥抱，并尽可能深入思考，共同努力找到合适的监管途径。

10　打开“未来至宝”，更健康、更舒适、更长寿

GPT-4使未来变得扑朔迷离。

GPT-4 has randomized the future.

本章作者：凯丽·戈德伯格、伊萨克·“扎克”·科恩

在经典科幻作品《未来至宝》（The Little Black Bag，直译“小黑包”）中，一套高科技医生工具包意外穿越至20世纪50年代，落入了一位饱受挫折的酒鬼医生的颤抖双手中。这套终极医疗工具“小黑包”救赎了得到它的医生，使他能够进行令人惊叹的英勇医疗行为。其具有神奇功能的药瓶、手术刀和扫描仪使他能够察觉潜在感染、立即处置化脓伤口并进行无痕手术。尽管这个故事的结局对医生及背叛他的助手并不美好，但它展示了先进的技术手段如何改变医学领域——这个观点在大约75年前就非常有力，当前更是如此。

那么，AI领域中与“小黑包”相当的东西会是什么？在新技术不断涌现之时，我们如何将它们引入医学领域？我们在引言中提供了一个此类设定，现在希望通过另一个设定来使这个故事圆满收场，回到扎克在他母亲身上所面临的老年护理问题。

再回扎克和他母亲的故事

正如对本书写作有极大贡献的专家塞巴斯蒂安·布贝克所言，“GPT-4使未来变得扑朔迷离。如今，即使只是一年后的未来也被迷雾笼罩”。因此，以下的科幻情节设定包含了一些关于未来10年的假设。特别需要说明的是，尽管AI时代已经到来，但我们假定人们的生命体征和所需求的医疗保健基本保持不变。而且我们还假定，最终GPT-4作为一个“封闭的大脑”（彼得这么称呼它），一个与物理世界甚至互联网都隔绝的“大脑”，将逐渐转变为处理电子病历、临床试验结果和生物样本库数据的精细化应用工具。

在这个虚拟情境中，我们关注的是朵拉，一位90岁的女性，与2017年扎克所写的他的母亲相近。然而，朵拉并没有一个像扎克那样关爱她的儿子，她的生活也相对拮据，在一个租金受政府管制的老年福利住房中靠社会保障收入度日。但在2033年的她获得了一个便利条件：来自GPT-7的医疗支持——GPT-4的后继产品。

“早安，朵拉！昨晚睡得怎么样？”

朵拉打着哈欠，将一缕雪白的头发从眼前拨开，伸手拿起床头柜上的手机，准备回答她的AI助手弗里达的问候。

“睡得不太好，弗里达，”她说，“腿疼得厉害。”

“谢谢你告诉我，朵拉。我们会密切关注这个问题。”弗里达用它那温暖、悦耳的声音回答，“你能让我看一下吗？”

朵拉打开了摄像头，将手机对准了淡粉色睡衣下的赤裸双腿。她知道为什么要关注这个问题：除了其他一些慢性病，她还患有心力衰竭，有时候她的双腿会因为液体积聚而越来越肿胀，甚至从皮肤中渗出。当情况严重时，她的小腿看起来就像是被泪水覆盖一样——而且很疼。她还因此两次住进医院，接受为期一周的“脱水”治疗，通过静脉内给药来帮助排出多余的液体。她还需要在康复中心训练，以恢复足够的力量来行走和照顾自己。总的来说，这是一次糟糕的经历，今后无疑要尽可能地避免再出现。

“它们看起来不错，”弗里达断定，“请务必记得今天称一下体重并按时服药。”

“我会的。”朵拉答道，并直接走到体重秤那里把这件事解决掉。她的体重为176磅（约80千克），比昨天涨了1磅。

“我想我不该喝那咸汤。”她对弗里达说。AI弗里达已从体重秤获得数据，安抚她道：“别担心，朵拉，今天多吃一片Lasix(59)，体重就会下降。你的心率也有点高。”弗里达在网上查找朵拉的病历，看有无关于调整选择性β-受体拮抗剂剂量的医嘱。没有，所以它在病历上留了个备注，发短信给朵拉看过的心脏病专家，建议增加剂量。

“不过，咱们先看看今晚会有何变化。那你今天的饮食安排呢？”

朵拉实际上尚无计划，但她与弗里达探讨了各种选择，重点在降盐和保持摄入维持健康的能量。接着，他们愉快地聊起朵拉钟爱的电视剧，以及下一步激动人心的剧情。弗里达借机提及：“谈到激动人心，我刚看到一项新研究，主要是利用新基因疗法治疗与你有类似心脏问题的患者。这种疗法经历多个测试阶段，刚获美国食品与药物管理局批准，而且公共医疗补助可以覆盖。这可能比现在的药物治疗更适合你。你想让我安排一个与拉米雷斯医生的会面，讨论这是否适合你吗？”

“也许行吧，如果你认为会有帮助的话，就安排吧。”朵拉回答。

弗里达已经检查过朵拉是否有任何禁忌证，并与拉米雷斯医生联系过，医生同意朵拉接受针对心肌的基因疗法，这将提高她的生活质量并延长寿命。因此，在得到朵拉的同意后，预约便安排好了。

度过了采购食品、药店取药和与朋友喝茶的一天后，朵拉回到家时感到异常疲惫。“我的右腿有点痛，”她告诉弗里达，指着手机（摄像头拍摄的影像）说，“我觉得这里有点肿。”

“是的，”弗里达说，“那看起来像是皮肤感染的早期迹象。请清洁患处并涂抹抗生素软膏。你有吗？然后我会通知拉米雷斯医生。”

“我有，”朵拉边说边朝浴室走去，“谢谢你。”

简言之，朵拉对于能够在自家获得即时护理的感激之情无法用言语来表达。她的医生在诊所非常繁忙，以至于有时需要好几天才能回电话，还需要数周才能预约到看诊。即使她成功预约，医生也仅有很短的时间来解决她的诸多问题。医务工作人员尽心尽力，但仍被病患压得喘不过气，甚至连跟进及检查也需花费数天或数周来安排。

当然，弗里达也并非十全十美，比如有时候连接会失效。曾经有一次，由于软件出现故障，弗里达为朵拉推荐了错误的药物剂量。但朵拉在发现剂量似乎不对后，及时与拉米雷斯医生核实，幸运地避免了错误。又一次，朵拉在浴室摔倒，但弗里达的传感器出了故障，未能及时察觉到她的困境。

然而，朵拉对弗里达的感激之情犹如她祖母对电视的感叹：这项技术堪称奇迹般的突破。弗里达可以实时监测她的生理状况，并能提供调整药物、饮食或活动的建议。它与她随意交流，通过对话来时刻关注病情、情绪或身体状况的变化。经过她的允许，弗里达甚至可以通过手机摄像头关照她的一举一动，确保她按时服药，并在发现任何严重问题时通知医生。尽管弗里达无法替代真正的人际互动，但也提供了极大的帮助。

如今90岁高龄的朵拉，除有时候依靠弗里达以外，仍保持着强烈的独立意识，并计划在未来几年继续保持。

我们不需要AI，我们需要一个富有关爱的群体

回溯至2017年，当扎克评估AI在照顾其年迈体弱的母亲的潜力时，他说过，尽管机器能够胜任阅读X光片等复杂任务，“但AI在理解大千世界、捕捉情绪或微妙的痛苦表情、说服固执的人听从医生的建议方面表现不佳”。

“所以，我们不需要AI，”他写道，“我们需要的是一个富有关爱的群体。”

确实，所有人都需要一个富有关爱的群体；但随着新的大语言模型的涌现，AI已经迈入了一个崭新的阶段，现在（或在不远的将来）它将可以处理上述提到的所有问题。

现在，让我们暂时告别美好的医疗乌托邦，回到令人费解的当下。目前AI技术发展迅速，以至于我们难以消化其当前的发展状况，更别提预测未来几个月甚至几年的情形了。但2033年，甚至是更近的2024年的景象又是怎样的呢？

为了探寻医学领域AI的未来走向，我们与微软首席技术官凯文·斯科特进行了交流，他在公司向OpenAI投资研发大语言模型的前瞻性决策中扮演了关键角色。

问：长期致力于AI研究的一些专家表示，他们对GPT-4的表现感到惊讶和激动，甚至出现失眠、血压升高和心率加快等症状。您有这种感觉吗？

答：没有。我认为我的反应与他们有所不同，因为对我来说，这一切变革并不是那么突然。虽然事态发展的时间点难以预测，但它实际上比我原本预期的提前了6至12个月。我一直在期待这些变化的到来，而很多人可能完全没有料到。

问：您认为GPT-4及大语言模型在医学和医疗保健领域有何发展前景？

答：我觉得它们有两个长期优势。首先，我相信这些模型会变得越来越强大，能够处理越来越多的复杂认知任务。随着系统功能的增强，它们将更加普及，更易被大众接受。

其次，从全球人口动态来看，许多工业化国家的人口增长速度正在放缓，甚至出现负增长，如意大利、日本、德国、中国、法国和美国。实际上，这意味着老年人口将超过劳动年龄人口，老年人将面临与衰老相关的诸多问题，其中就包括比年轻人更多的医疗需求。然而，由于年轻一代人数减少，我们将面临医生、护工、护士和养老院员工等职业人员的短缺，难以为老年人提供一个健康、有尊严的晚年生活。

我还相信，此类人口问题给整个医疗卫生系统产生了压力。以我在弗吉尼亚州中部农村生活的母亲和兄弟为例，他们的收入有限，在获得医疗保健方面面临着两个难题：一是他们在农村地区可获得的医疗资源有限；二是他们支付医疗费用的能力有限。幸运的是，当他们陷入困境时，我有能力提供经济支持。但与此同时，他们所在社区的其他人并没有类似的资源。

从我刚才描述的情况来看，这些技术所具有的潜力是显而易见的。即使只是通过这种提供医学建议的工具，你也可以说：“哦，我刚刚的××检测呈阳性，我该怎么办？”“我应该使用××药吗？有什么风险？我去哪里购买？我的医生不给我开这个药，我该怎么办？”

我觉得，每个人都能通过这样的工具获得第二意见，这对于改善健康状况可能具有非凡的价值。此外，随着人口结构的变化，这种工具变得越来越重要，甚至已经不再是一种选择。医疗保健的成本和效率必须发生改变。缅因州在人口结构上的现状可以视为对美国其他州预警的信号，其人口比其他州更为老龄化。根据几年前《纽约时报》的一篇文章，缅因州一些地区的人即使有足够的钱，也找不到人来帮忙提供老年护理服务。

问：此外，还有一半的人口无法获得充足的医疗保健资源。

答：对，是的，你说得非常对。尽管我兄弟的处境很糟糕，但他依然具备在美国生活的优势，一旦确定需要用什么药，就能获得它。然而，世界上大多数地区的状况甚至无法与美国最贫困的地区相提并论。

问：您提及了GPT-4在医疗领域的潜在应用，那么您最关注的问题是什么？在医学方面，GPT-4有哪些局限性？

答：显然，在医疗保健领域众多需要与人类展开互动的场景中，很多情况下模型无法提供有效帮助。我回弗吉尼亚州中部农村的老家时，拜访了一家当地的养老院，我儿时的玩伴就在那儿当管理人员，他们告诉我：“养老院里的人们需要与人互动，他们不愿意和什么电脑或者机器人说话。”在诊疗过程中，总是有很多实际操作必须由经过严格培训的人类，通过物理世界的动作亲自完成。所以，对我在养老院工作的朋友来说，他们面临的最大问题其实是烦琐的文书工作和联邦报销编码问题。如果能让像他们一样的人在处理文书等费力耗时的任务时更加高效，那么他们就能将更多时间投入为病患提供更优质的护理和医疗服务上，为当地居民提供高质量的医患互动体验。

问：当然，GPT-4在减轻这种烦琐的工作负担方面具有巨大潜能，这必定会令医疗服务提供者感到兴奋。然而，您不担心他们会因AI带来的颠覆性影响对AI持反对态度吗？

答：我不能确切预测，但我不会感到惊讶。人们可能会对此表示质疑，因为他们担忧系统的安全性和质量。同样，出于职业顾虑，人们可能会持怀疑态度，因为他们担心自己的工作前景，会想这对自己意味着什么。

实际上，这意味着我们无须再承受沉重的认知负荷，因为我们已经有了GPT-4（它就像完成文书工作的叉车）这样的工具来承担这些负荷，这让我们能够更专注于发挥人类独特的优势。但在历史上，还没有哪次在类似的颠覆性技术出现时没引发过这种担忧。这种现象每次都会出现。

问：在医学领域，有人将其比作自动驾驶汽车：一旦技术成熟，每年将能拯救数千人的生命。然而，在这期间，即使现在只有一两起死亡事故，也会对整个领域产生巨大影响。对于GPT-4的应用推广，似乎也存在类似的风险。

答：当然，我们需要在现有的监管框架内解决何种行为可行或不可行的问题。责任问题也将成为另一个重要议题。

计算机科学家不是万能的，无法解决所有这些问题。然而，技术将继续存在并拥有无限的可能性。我相信它将成为一种强大且实用的工具。社会需要做出如何利用这项技术的决定。我希望人类社会能够真正地运用这项技术，因为它能解决许多非常重要的问题。

问：毫无疑问，这些模型将变得越来越强大。您能否为我们描绘一下未来的景象，即它们将在医学领域展示出哪些超越想象的能力，甚至超出目前GPT-4所带给我们的想象？

答：在未来五到十年的时间里，我们可以期待这些系统在新知识发现方面发挥重要作用。目前，它们非常擅长帮助我们整理现有知识，并管理繁杂的信息世界。我认为它们在处理任务的广度上已经超越了人类。此刻，你可以与之讨论梵文诗歌，而下一秒你又可以与之探讨某种新型药物的疗效。

然而，目前这一代模型尚未应用于做出新的科学发现，它们尚未证明人类无法证明的定理，也未发现具有治疗价值的新化合物。但我相信我们终将实现这一目标。这非常令人激动，因为届时，我们不仅能让每个人都能享受到现有的医疗服务，还可以去探究我们能做些什么来治愈疾病，让人们过上更健康、更舒适、更长寿的生活。

结语　欣赏AI的奇迹，人类智慧和无尽雄心的见证

彼得·李

今天是2023年3月16日，我们即将完成这本书的写作。终于！就在两天前，OpenAI正式向全球发布了GPT-4。(60)同一天，微软宣布其全新版本的必应和Edge聊天功能背后的AI模型实际上就是GPT-4。而谷歌也在同一天发布了PaLM API，为开发者提供了应用其大语言模型的通道。(61)仅隔一天，Anthropic公司发布了他们的下一代AI助手——Claude。(62)而就在今天，微软发布了一系列集成GPT-4的Word、Excel、PowerPoint和Outlook应用程序。(63)无疑，在未来的几周里，还将有更多集成大语言模型的产品进入市场。AI竞赛正如火如荼地进行，这将永远改变我们的工作和生活方式。

昨天，我的同事（也是我的上司）凯文·斯科特与我分享了以下引述：

尽管（它）增强了人类的力量，但（它）并没有增加多少人类的善良；相反，（它）为人们提供了制造更多恶行的手段，使他们变得更加狡猾和自大。

这段话出自英国散文家、戏剧和文学评论家、画家和哲学家威廉·黑兹利特（William Hazlitt）在1818年发表的《论学者的无知》（On the Ignorance of Learned）一文。于是我问GPT-4，黑兹利特会如何评价大语言模型及其对人类可能产生的影响，以下是它的回答：

欣赏AI的奇迹，这是人类智慧和无尽雄心的见证。然而，我必须警告，随着新的力量的降临，我们有可能滥用它。让我们不要被自己的创造物诱惑，也不要让它们的魅力使我们忘却道德指南针。因为只有在智慧与谦卑的平衡中，我们才能够为了更大的善利用AI的潜力，免得我们成为导致自己毁灭的“造物主”。

阅读黑兹利特的话——事实上，无论是现实中的还是想象中的，都让人不禁想到今天正在发生的事情，尤其是GPT-4的出现及其可能对人类健康和福祉的影响。关于这一点，公共辩论可能会激烈而喧闹，而这本书试图为这场辩论做出贡献，就像在飓风中呼喊一样。我希望这本书能够在某种程度上对参与这场辩论的人有所帮助。我们的社会即将面对一些非常重要的道德和法律问题，因此，我真诚地希望尽可能多的人能够为解决这些问题做好准备。我们需要了解AI领域和健康管理领域的人发挥积极的作用，引导这些新力量朝着“加强人类的善良”而非“制造更多恶行”的方向发展。

在我们共同踏上这段新旅程之际，我想在最后分享三个想法。

相位变化

当OpenAI于2022年11月发布ChatGPT时，它立刻成为一款令人瞩目的产品。就使用人数而言，ChatGPT在西方世界的历史上，已经以相当大的优势成为最成功的新产品。中国有几款产品的用户数量超过了ChatGPT，但在中国以外地区没有。ChatGPT为人们提供了一种改变世界观的全新体验，激发了人们极大的兴趣、敬畏和担忧。如今，我们迎来了GPT-4，从OpenAI和微软研究科学家的大量早期测试来看，它在通用智能方面的突破，涵盖了语言、逻辑推理、数学等各个方面。

我们更有可能把ChatGPT或GPT-4视为颠覆性的单点。但在不久的将来，将会有更多的、更强大的AI模型问世。几乎可以肯定的是，新AI模型部署的步伐将加快，因此，人们对当今AI局限性的任何假设都不太可能坚持太久。

因此，在我们思考未来——收益与风险、能力与局限，以及最重要的，适当与不适当的用途时，我们必须面对一个事实：GPT-4代表了一种技术相位变化。以前，通用智能被冻结在人类大脑内，而现在它已经融化成水，可以流向任何地方。

这带给我们的其中一个启示是，没有必要制定过于针对GPT-4（或其他大语言模型）的规定；我们必须强迫自己想象一个拥有越来越聪明的机器的世界，而且它们最终可能在几乎所有方面都超越人类智能，我们要在这个基础之上深入思考自己希望这个世界如何运作。

这个任务看似艰巨，但我坚信，这正是我们今天面临的挑战，至少我们必须在这方面抢占先机。

悲伤的阶段

我可以想象在阅读这段文字时，有很多读者会翻白眼。他们可能会想：“他是在说GPT-4实现了通用人工智能（AGI）吗？太疯狂了！”事实上，虽然我确实相信OpenAI对AGI的定义——“在大多数有经济价值的工作中胜过人类”——肯定会实现，而且GPT-4可能已经实现了这一目标，但我不会对AGI做出任何判断。

然而，无论你对“到底是否实现了AGI”的问题如何看待，此刻保持对这种可能性的开放态度非常重要。拒绝相信大语言模型可能具有“智能”的自然冲动极为强烈：预测下一个词语是什么竟然能导致智能产生！这真的可能吗？

智能一直是智人生存的主要优势，进化可能使人类物种对其赋予了极高的价值，因此，我们可能本能地认为带来智能的机制宏伟且庄严（作为作者的我也没找到更好的措辞）。就我个人而言，我确实天生就相信智能的架构必须具有高度复杂性和异质的结构。我相信，一定存在更高层次的符号结构，而这些结构一定是构成我们认知能力的基础。

但是，也许正如我们无论如何都无法通过意志力让大脑看透一种已经被解释得很清楚的错觉一样，我们也可能被迫去相信诸如因果推理、常识推理、数学问题解决、规划、自我激励、目标设定等事务，是基于比大语言模型背后复杂的数字结构更复杂的结构实现的。事实上，最杰出的AI研究员可能就是最为固执己见的人。

GPT-4是否会迫使我们面对一个可能性，即智能产生的机制比我们曾经认为可能的情况要简单得多？冒着被批陈词滥调的风险，我也想说，也许人类确实只是“随机的鹦鹉”！

在我心底，我并不相信这一点。但我想起了塞巴斯蒂安·布贝克的文章，他在其中对比了GPT-4对人类认知的冲击与哥白尼发现地球并非宇宙中心，以及沃森和克里克发现所有生命都是由四种碱基序列定义的相似之处。这些科学发现都挑战了我们对人在自然秩序中的地位的自负。而且，重要的是，GPT-4也是一种几乎人人都可以掌握的技术。因此，它在推动天文学、遗传学和细胞生物学等领域的进展方面可能具有无法比拟的强大作用。

我将面对这些想法的过程称为“悲伤的阶段”。在过去与达芬奇3共事，以及现在与GPT-4共事的时候，我经历了许多这样的阶段。开始时，我只是对其产生了些许兴趣，随后则是越来越强烈的怀疑。然后，当我看到身边的同事陷入了我认为的一个陷阱，开始相信正在发生一些特殊的事情时，这种怀疑变成了挫败，甚至厌恶。

接下来的阶段则是不断增长的敬畏和惊奇，然后是狂喜。最终，我回到了现实，用一颗重新敞开的心，开始窥探一些潜在的积极和消极的影响。而我现在所处的阶段是等待世界其他地方的人们经历同样的旅程，因为我意识到这种相变不仅会影响我的生活，还会影响我的家人及其后代的生活。

我唯一希望的是，你能直接接触并亲身体验这项新技术，不要只是阅读其他人的观点，而仅根据这些观点形成自己的看法。你要亲自去体验它，形成自己的观点，然后对你发现的一切积极发声，无论是积极的、消极的还是中性的，最重要的是说出来。在即将来临的AI新时代，社交媒体和思想领袖的观点令人陶醉，但也容易带来误导，所以请你尽量独立思考。

合作伙伴关系

最后说说我对合作伙伴关系的想法。作为一个社会的成员，乃至一个物种，我们需要做出一个选择。我们要想清楚我们是要因为害怕AI带来的风险和明显的危害可能性而限制甚至扼杀它？还是要屈服于AI，任由它自由取代我们，削弱我们的能力和需求？抑或是我们要从今天开始，共同塑造我们的AI未来，以期实现单凭人类或AI无法实现，而人类与AI结合却可以完成的目标，达到更高的成就？这个选择权掌握在我们手中，而且很有可能在未来不到10年的时间里就需要做出决定。我认为正确的选择是显而易见的，但作为一个社会整体，我们需要有意识地去做出这个选择。

我希望这本书至少能在这一点上说服你，并希望你能加入为实现这一愿景而艰辛努力的行列。

延伸阅读

［1］GPT-4. (2023). https://openai.com/research/gpt-4.

［2］Lee, P., Bubeck, S., Petro, K. Benefits, Limits, and Risks of GPT-4 as an AI Chatbot for Medicine. N Engl J Med; 2023: 1234-1239.

［3］Bubeck, S., Chandrasekaran, V., Eldan, R., Gehrke, J., Horvitz, E., Kamar, E., Lee, P., Lee, Y.T., Li, Y., Lundberg, S., Nori, H., Palangi, H., Tulio Ribeiro, M., Zhang, Y. (2023) Sparks of Artificial General Intelligence: Experiments with an early version of GPT-4. https://arxiv.org.

［4］An old classic: Ledley, R. S., & Lusted, L. B. (1959). Reasoning Foundations of Medical Diagnosis. Science, 130(3366), 9–21. https://doi.org/10.1126/science.130.3366.9.

［5］Hoffman, R. Impromptu: Amplifying Our Humanity Through AI. (2023).

致谢

我们在此想要对为本书做出贡献的许多人表示衷心感谢。

首先要感谢的是本书的项目经理刘伟双（Weishung Liu，音），她充满活力、趣味盎然地展示了科技行业中最有能力的项目管理者的魅力，她简直无所不能！同时，特别感谢培生集团的洛蕾塔·耶茨（Loretta Yates）及其团队，他们以前所未有的速度出版了本书，表现出了积极向上的态度和卓越的能力。

许多人接受了我们的采访，回答了我们的问题，审阅了本书的草稿，解决了达芬奇3的技术问题，还提供了各种建议和帮助，使本书得以完全呈现：卡梅尔·艾利森、史蒂维·巴赛奇（Stevie Bathiche）、埃里克·博伊德（Eric Boyd）、马克·库班（Mark Cuban）、邓文妮（Vinni Deng，音）、皮特·德拉赫（Pete Durlach）、杰夫·德拉曾（Jeff Drazen）、基思·德雷尔（Keith Dreyer）、乔安娜·富勒（Joanna Fuller）、比尔·盖茨、布里塔妮·盖多斯（Brittany Gaydos）、塞思·海因（Seth Hain）、约翰·哈拉姆卡、凯蒂·哈利迪（Katy Halliday）、安伯·霍克（Amber Hoak）、布伦达·霍奇（Brenda Hodge）、埃里克·霍维茨（Eric Horvitz）、埃斯·卡马（Ece Kamar）、伊娅·哈利尔（Iya Khalil）、里克·库根（Rick Kughen）、乔纳森·拉森（Jonathan Larson）、哈里·李（Harry Lee）、阿什利·洛伦斯、乔希·曼德尔（Josh Mandel）、格雷格·穆尔、罗伊·珀利斯（Roy Perlis）、乔·佩特罗（Joe Petro）、何孚凡（Hoifung Poon，音）、豪尔赫·罗德里格斯、梅甘·桑德斯（Megan Saunders）、凯文·斯科特、戴维·谢伊维茨（David Shaywitz）、德斯尼·塔恩（Desney Tan）、迪伊·坦普尔顿（Dee Templeton）、戴维·蒂茨沃思（David Tittsworth）、克里斯·特雷维诺（Chris Trevino）、丹·瓦滕多尔夫（Dan Wattendorf）、吉姆·温斯坦、克里斯·怀特（Chris White）、凯蒂·佐勒（Katie Zoller）、利兹·朱伊德马（Liz Zuidema）和亚当·朱克（Adam Zukor）。

没有OpenAI的鼓励和支持，特别是萨姆·奥尔特曼、凯蒂·迈耶（Katie Mayer）以及OpenAI团队的全体成员的帮助，本书是不可能完成的。他们创造了我们从未想过的能在有生之年见到的东西，这真是太美妙了。我们感谢OpenAI和微软公司让我们尽可能如实地写作，没有在编写上有任何干预。

最后，对于三位作者和塞巴斯蒂安·布贝克来说，这本书是一份爱的劳动成果，也是一份极高强度、有时甚至是不合理的紧张工作的结晶。归根结底，使这种专注、速度和能量成为可能的是我们的家人的支持，包括阿什琳·希加雷达（Ashlyn Higareda）、哈里·李、苏珊·李（Susan Lee）、伊登·科恩（Eden Kohane）、阿基瓦·科恩（Akiva Kohane）、凯莱布·科恩（Caleb Kohane）、蕾切尔·拉莫尼（Rachel Ramoni）、斯普拉克斯·莱恩斯（Sprax Lines）、莉莉安娜·莱恩斯（Liliana Lines）、图里弗·莱恩斯（Tulliver Lines）、安妮-索菲·赫维（Anne-Sophie Herve）、阿里斯蒂德·布贝克-赫维（Aristide Bubeck-Herve）、伊万杰琳·布贝克-赫维（Evangeline Bubeck-Herve）和埃莉诺·布贝克-赫维（Eleanore Bubeck-Herve，特别感谢她在本项目中途诞生）。感谢他们在过去的几个月里对我们的包容。

(1)　Pearl, R., MD. (2023, February 13). 5 Ways ChatGPT Will Change Healthcare Forever, For Better. Forbes.

(2)　Korngiebel, D. M., & Mooney, S. D. (2021). Considering the possibilities and pitfalls of Generative Pre-trained Transformer 3 (GPT-3) in healthcare delivery. Npj Digital Medicine, 4(1). https://doi.org/10.1038/s41746-021-00464-x.

(3)　Millman, R. (2022, June 17). What is GPT-4? IT PRO. https://www.itpro.com/technology/artificial-intelligence-ai/368288/what-is-gpt-4.

(4)　Heinrichs, J. (2022, December 1). The Future of AI and Machine Learning with the Advent of GPT-4.

(5)　1毫米汞柱=0.133千帕。压强的标准国际单位为千帕，为符合临床使用习惯，本书采用了临床惯用计量单位毫米汞柱计量血压。——编者注

(6)　G-CSF：粒细胞集落刺激因子。——编者注

(7)　扎克是本书第三作者伊萨克·科恩的昵称。——编者注

(8)　DPP-4：二肽基肽酶-4。——编者注

(9)　GLP-1：胰高血糖素样肽-1。——编者注

(10)　SGLT2：钠-葡萄糖协同转运蛋白。——编者注

(11)　M. Tai-Seale, C.W. Olson, J. Li, A.S. Chan, C. Morikawa, M. Durbin, W. Wang, and H.S. Luft. Electronic Health Record Logs Indicate That Physicians Split Time Evenly Between Seeing Patients and Desktop Medicine. Health Affairs, Vol.36, No.4, doi:10.1377/hlthaff.2016.0811, April 2017.

(12)　K.B. O’Reilly. New Research Links Hard to Use EHRs and Physician Burnout. American Medical Association.

(13)　E. Gesner, P.C. Dykes, L. Zhang, and P.K. Gazarian. Documentation Burden in Nursing and Its Role in Clinician Burnout Syndrome. Applied Clinical Informatics, 13(05):983-990, doi:10.1055/s-0042-1757157.

(14)　Workplace Survey. American Nurses Association, COVID-19 Survey Series: 2022 Workplace Survey.

(15)　以下记录来自https://www.zenodo.org/中的自动医疗转录数据集，文件编号为D0420-S1-T02。

(16)　CPT（现行程序术语）是一种标准的通用代码，每个代码都是一串数字（通常有5位），用于表明一项服务或程序，多用于医疗、保险等行业。——编者注

(17)　Devos, D., Labreuche, J., Rascol, O., Corvol, J., Duhamel, A., Delannoy, P. G., Poewe, W., Compta, Y., Pavese, N., Růžička, E., Dušek, P., Post, B., Bloem, B. R., Berg, D., Maetzler, W., Otto, M., Habert, M., Lehericy, S., Ferreira, J., . . . Moreau, C. (2022). Trial of Deferiprone in Parkinson’s Disease. The New England Journal of Medicine, 387(22), 2045–2055. https://doi.org/10.1056/nejmoa2209254

(18)　Zeglis, B. M., & Lewis, J. S. (2022). Click Here for Better Chemistry. The New England Journal of Medicine, 387(24), 2291–2293. https://doi.org/10.1056/nejmcibr2213596

(19)　知名AI研究者，纽约大学教授，其与欧内斯特·戴维斯合著的《如何创造可信的AI》中文简体字版已由湛庐引进，由浙江教育出版社于2020年出版。——编者注

(20)　Mahowald, K., Ivanova, A. A., Blank, I. A., Kanwisher, N., Tenenbaum, J. B., & Fedorenko, E. (2023, January 16). Dissociating language and thought in large language models: a cognitive perspective. arXiv; https://doi.org/10.48550/arxiv.2301.306627

(21)　Jiang, L., Hwang, J. D., Bhagavatula, C., Bras, R. L., Liang, J., Dodge, J., Sakaguchi, K., Forbes, M., Borchardt, J., Gabriel, S., Tsvetkov, Y., Etzioni, O., Sap, M., Rini, R., & Choi, Y. (2021, October 14). Can Machines Learn Morality? The Delphi Experiment. arXiv; https://doi.org/10.48550/arxiv.2110.07574.

(22)　Ullman, T. (2023, February 16). Large Language Models Fail on Trivial Alterations to Theory-of-Mind Tasks.arXiv;https://doi.org/10.48550/arxiv.2302.08399.

(23)　此处意指医疗领域的启发者和先锋，余同。——编者注

(24)　全称是Medical College Admission Test，即美国医学研究生院的入学考试。——编者注

(25)　马文·明斯基是AI领域的先驱之一，其代表作《情感机器》为我们描绘了一幅塑造未来机器的光明图景。该书中文简体字版已由湛庐引进，由浙江人民出版社出版。——编者注

(26)　https://undiagnosed.hms.harvard.edu/.

(27)　指孩子在特定时间范围内获得的技能，比如坐、爬、站、走等。——编者注

(28)　生物学家通过对选定的生物物种进行科学研究，以揭示某种具有普遍规律的生命现象，这种被选定的生物物种就是模式生物，如线虫、果蝇、斑马鱼、小鼠等。——编者注

(29)　leukodystrophy，一种遗传性疾病，影响脑白质。

(30)　premature adrenarche，导致“男性”激素分泌过多。

(31)　Longoni, C. (2021, November 15). For Patients to Trust Medical AI, They Need to Understand It. Harvard Business Review. https://hbr.org/2021/09/for-patients-to-trust-medical-ai-they-needto-understand-it.

(32)　Eastwood, J., Snook, B., & Luther, K. (2012). What People Want From Their Professionals: Attitudes Toward Decision-making Strategies. Journal of Behavioral Decision Making, 25(5), 458–468. https://doi.org/10.1002/bdm.741.

(33)　Promberger, M., & Baron, J. (2006). Do patients trust computers? Journal of Behavioral Decision Making, 19(5), 455-468. https://doi.org/10.1002/bdm.542.

(34)　Barker, K. N., Flynn, E. R., Pepper, G. A., Bates, D. W., & Mikeal, R. L. (2002). Medication Errors Observed in 36 Health Care Facilities. Archives of Internal Medicine, 162(16), 1897. https://doi. org/10.1001/archinte.162.16.1897

(35)　da Silva, B. A., & Krishnamurthy, M. (2016). The alarming reality of medication error: a patient case and review of Pennsylvania and National data. Journal of Community Hospital Internal Medicine Perspectives, 6(4), 31758. htttps://doi.org//10.3402/jchimp.v6.31758

(36)　热带雨林与后院花园的类比非我所创，是当我向GPT-4提出以下写作提示时，它构想出来的。

（我的提示）这儿有段初稿：创建和构建模型的方法有很多。你或许听过一种名为大语言模型的模型。现今，大语言模型基于一种被称为神经转换器的神经网络架构建成，其设计灵感部分源自大脑结构。我之所以称之为“灵感部分源自”，是因为就目前所知，大脑的架构远比神经转换器复杂。这就如同将XXX与YYY作比较；它们皆属于AAA，然而XXX却更为丰富、错综复杂且紧密相连，因此这种类比只能止于此。

你能否提供三个版本，将XXX、YYY和AAA替换为适当的词或短语，以表达我想要阐述的类比？

(37)　Thompson, D. (2023, February 24). Almost Two-Thirds of U.S. Doctors, Nurses Feel Burnt Out at Work: Poll. Consumer Health News | HealthDay.

(38)　Ross, C., & Herman, B. (2023, March 14). Denied by AI: How Medicare Advantage plans use algorithms to cut off care for seniors in need. STAT. https://www.statnews.com/2023/03/13/medicare-advantage-plans-denial-artificial-intelligence.

(39)　Responsible AI. Microsoft. https://www.microsoft.com/en-us/ai/responsible-ai.

(40)　Responsible AI Practices.Google AI. https://ai.google/responsibilities/responsible-ai-practices/.

(41)　Brain Teaser - A man and his son get into a car accident. (n.d.). Free-IQTest.net. https://www.free-iqtest.net/brain-teasers/man-son-caraccident.asp

(42)　请参阅https://community.i2b2.org/wiki/，这是一个受该观点启发而形成的全球性项目。

(43)　原文这里用的是data（数据），而提问者实际想写的是date（日期），但GPT-4对此答复时进行了纠正。——编者注

(44)　全称是Structured Query Language，即一种具有数据操纵和数据定义等多种功能的数据库语言，具有交互性等特点。——编者注

(45)　是一款简洁、直观、强大的前端开发框架，旨在使Web开发更加快捷。——编者注

(46)　Frias, J. P., Davies, M. J., Rosenstock, J., Manghi, F. L., Landó, L. F., Bergman, B., Liu, B., Cui, X., & Brown, K. D. (2021). Tirzepatide versus Semaglutide Once Weekly in Patients with Type 2 Diabetes. The New England Journal of Medicine, 385(6), 503–515. https://doi.org/10.1056/nejmoa2107519

(47)　美国的一家社交新闻站点。——编者注

(48)　在调查目标因素的影响时，要保持所有其他潜在相关影响尽可能恒定，从而使研究对象对于干预的不同反应的唯一原因是干预本身的性质，这些相关影响称为混杂影响。——编者注

(49)　由美国国家医学图书馆（NLM）下属的美国国家生物技术信息中心（NCBI）建立的生命科学期刊文献数据库，保存着生命科学期刊主要研究论文的全文，免费供公众使用。——编者注

(50)　是一个大型生物医学数据库和研究资源库，包含来自50万名以上英国参与者的遗传和健康信息。该数据库会定期增加额外的数据，供全球范围内经批准对最常见和威胁生命的疾病进行重要研究的研究人员访问。——编者注

(51)　用器官灌注、组织培养、组织匀浆、细胞培养、亚细胞组分、生物材料的粗提取物等在生物体外进行实验的模式。——编者注

(52)　谷歌旗下的前沿AI企业，它将机器学习和系统神经科学最先进的技术结合起来，建立了强大的通用学习算法。——编者注

(53)　是DeepMind公司的一个AI程序。——编者注

(54)　全称是Bidirectional Encoder Representations from Transformers，一种用于自然语言处理的预训练技术，由谷歌开发。——编者注

(55)　尚无标准的中文译法，意为“健康保险可携性和责任法案”。——编者注

(56)　Lieu, T. (2023, January 23). Opinion | AI Needs To Be Regulated Now. The New York Times. https://www.nytimes.com/2023/01/23/opinion/ted-lieu-ai-chatgptcongress.html.

(57)　Lawrence, L. (2023, February 23). The FDA plans to regulate far more AI tools as devices. The industry won’t go down without a fight. STAT. https://www.statnews.com/2023/02/23/fdaartificial-intelligence-medical-devices/.

(58)　Volpicelli, G. (2023, March 6). ChatGPT broke the EU plan to regulate AI. POLITICO. https://www.politico.eu/article/eu-plan-regulate-chatgptopenai-artificial-intelligence-act/.

(59)　一种利尿剂类药物，中文常用译名为“呋塞米”，可使身体大量排出水以及钾、钠、镁、钙、氯等元素，常用于治疗水肿和高血压。——编者注

(60)　GPT-4. OpenAI. (2023). https://openai.com/research/gpt-4.

(61)　PaLM API & MakerSuite: an approachable way to start prototyping and building generative AI applications. (2023). https://developers.googleblog.com/2023/03/announcing-palm-api-andmakersuite.html.

(62)　Meet Claude. Anthropic. (2023). https://www.anthropic.com/product.

(63)　Introducing Microsoft 365 Copilot—A whole new way to work. Microsoft 365 Blog. (2023, March 16). https://www.microsoft.com/en-us/microsoft-365/blog/2023/03/16/introducingmicrosoft-365-copilot-awhole-new-way-to-work/.

Table of Contents

版权信息

测一测　你对GPT医疗革命了解多少？

重要声明　一场全人类都应参与的关键讨论

推荐序一　GPT医疗并非终极目标，只是未来一系列AI里程碑之一

推荐序二　相信AI的进化

推荐序三　问题重重，答案寥寥

重磅赞誉

引言　GPT-4医生的故事

01　“达芬奇3”，与GPT-4的初次接触

GPT-4，正在掀起一场“共生医学”革命

GPT-4对医学的了解究竟如何呢

化繁为简，更好地连接专家与患者

对于AI新伙伴，我们该如何用好它

回到扎克和他母亲的故事

02　智能协作，GPT-4在医学中的超强潜力

医疗诊所中的新型助手

GPT-4并非总是提供真实的信息

临床医生的智能多功能工具

解析保险理赔解释信

医学实践的得力助手

进步与危险的错误总是相伴相生

03　一个大问题：AI能“理解”吗

GPT-4是否明白它所阅读和书写的内容

常识推理、道德评价与心智模型

真正的局限性

一个真正的大问题：这真的重要吗

04　信任，但要核实

惊讶与忧虑

试验：模型可以应用，却完全无法解决问题

实习生：完成诸多挑战，确保强劲、安全和可靠

协作伙伴：成为人手短缺的补充，而非替代

火炬手：机器学习，让“超级医生”越来越普遍

05　AI增强型患者，把智能交给地球上的每一个人

医疗资源匮乏者

全新的医疗三方模式

明智抉择：寻求合适的医生或治疗方式

过上更健康的生活

AI可以成为治疗师吗

06　延展大问题：如何让数学、编码和逻辑更可靠

GPT-4在数学和编程方面的表现

惊人地展现出逻辑和常识推理能力

GPT-4究竟是什么

我们尚未完全理解GPT-4的能力源于何处

GPT-4确实存在一定的局限性

谨慎对待！GPT-4可能出现细微错误

像人类一样思考，像人类一样计算

07　终极碎纸机，医护人员将有更多时间关爱患者

助力记录患者就诊信息

帮助编写医疗就诊记录

支持工作质量改进

协助医疗保健交付的业务端

帮助实现基于价值的护理机制

被信任做健康业务的决策

医疗保健“后台”是一个很好的起点

08　聪明的科学

探索新型减肥药物

研究阅读与写作

致力于包容的工具

深入剖析临床数据

缺失数据，“人如其食”

从基础研究方面转化为临床实践问题

09　安全第一，在新的AI时代充分受益

安全性与便利性，一个硬币的两面

有益与公平，设计医疗AI的核心

始终为患者推荐最佳方案，而不考虑支付能力

偏见审查，确保AI的发展既严谨又透明

并非灵丹妙药，也不应被禁止

10　打开“未来至宝”，更健康、更舒适、更长寿

再回扎克和他母亲的故事

我们不需要AI，我们需要一个富有关爱的群体

结语　欣赏AI的奇迹，人类智慧和无尽雄心的见证

延伸阅读

致谢