人工智能　（ＡＩ）　发展迅速，将成为临床护理的重要支持工具。研究表明，人工智能算法可以准确检测黑色素瘤并预测未来的乳腺癌。
但在将　ＡＩ　整合到常规临床使用之前，我们必须解决算法偏差的挑战。人工智能算法可能存在固有偏见，可能导致歧视和隐私问题。人工智能系统也可以在没有必要的监督或人工输入的情况下做出决策。
人工智能潜在有害影响的一个例子来自一个国际项目，该项目旨在通过开发突破性的医疗方法，利用人工智能来拯救生命。在一项实验中，该团队颠倒了他们的“好”人工智能模型，为新的人工智能模型创造了“伤害”的选项。
在不到六个小时的训练中，反向　ＡＩ　算法生成了数万种潜在的化学战剂，比目前的战剂危险得多。这是一个关于化合物的极端例子，但它可以作为评估人工智能已知和可以想象的不可知伦理后果的警钟。
临床护理中的人工智能
在医学领域，我们处理人们最私密的数据和经常改变生活的决定。强大的　ＡＩ　道德框架势在必行。
澳大利亚癫痫项目旨在改善人们的生活并使临床护理更广泛。基于来自数千名癫痫患者的先进脑成像、遗传和认知信息，我们计划使用人工智能来回答目前无法回答的问题。
这个人的癫痫发作会继续吗？哪种药最有效？脑部手术是可行的治疗选择吗？这些是现代医学努力解决的基本问题。
作为该项目的　ＡＩ　负责人，我主要担心的是　ＡＩ　正在快速发展，而监管监督却很少。这些问题就是为什么我们最近建立了一个使用人工智能作为临床支持工具的道德框架。该框架旨在确保我们的人工智能技术是开放、安全和值得信赖的，同时促进临床护理的包容性和公平性。
那么我们如何在医学中实施　ＡＩ　伦理以减少偏见并保持对算法的控制？计算机科学原则“垃圾输入，垃圾输出”适用于　ＡＩ。假设我们从小样本中收集有偏差的数据。我们的　ＡＩ　算法可能会存在偏差，并且无法在其他临床环境中复制。
在当代人工智能模型中不难找到偏见的例子。流行的大型语言模型（例如　ＣｈａｔＧＰＴ）和潜在扩散模型（ＤＡＬＬ－Ｅ　和　Ｓｔａｂｌｅ　Ｄｉｆｆｕｓｉｏｎ）显示了关于性别、种族和社会经济地位的明显偏见是如何发生的。
研究人员发现，简单的用户提示会生成使种族、性别和阶级刻板印象永久化的图像。例如，医生提示主要生成男性医生的图像，这与现实不符，因为经合组织国家约有一半的医生是女性。
医疗人工智能的安全实施
防止偏见和歧视的解决方案并非易事。在临床研究中实现健康平等和促进包容性可能是对抗医疗　ＡＩ　偏见的主要解决方案。
令人鼓舞的是，美国食品和药物管理局最近提议在临床试验中强制实施多样性。该提案代表了朝着更少偏见和基于社区的临床研究迈进。
另一个阻碍进步的障碍是有限的研究经费。人工智能算法通常需要大量数据，这可能很昂贵。至关重要的是建立强化的资助机制，为研究人员提供必要的资源，以收集适合　ＡＩ　应用的临床相关数据。
我们还认为，我们应该始终了解　ＡＩ　算法的内部工作原理，并了解它们是如何得出结论和建议的。这个概念在人工智能中通常被称为“可解释性”。它涉及人和机器必须协同工作以获得最佳结果的想法。
我们更愿意将模型中预测的实施视为“增强”而不是“人工智能”——算法应该是过程的一部分，而医学专业必须保持对决策的控制。
除了鼓励使用可解释的算法外，我们还支持透明和开放的科学。科学家应该公布人工智能模型及其方法的细节，以提高透明度和可重复性。
新西兰　Ａｏｔｅａｒｏａ　需要什么来确保　ＡＩ　在医疗保健中的安全实施？人工智能伦理问题主要由该领域的专家领导。然而，已经提出了有针对性的人工智能法规，例如基于欧盟的人工智能法案，以解决这些伦理问题。
欧洲人工智能法受到欢迎，并将保护在“安全人工智能”中工作的人。英国政府最近发布了他们对　ＡＩ　监管的主动方法，作为其他政府对　ＡＩ　安全的回应的蓝图。
在　Ａｏｔｅａｒｏａ，我们主张对　ＡＩ　安全采取主动而非被动的态度。它将建立一个在临床护理和其他领域使用人工智能的道德框架，产生可解释、安全和公正的人工智能。因此，我们将更加相信这项强大的技术可以造福社会，同时保护社会免受伤害。
远程医疗
有了远程医疗，一部智能手机就可解决患者的大部分问题，包括远程会诊、远程专家、远程监控、远程协助，即卫生专业人员在医疗干预期间远程帮助他们的同事或其他人，以及医疗热线。在紧急情况下，医院利用医疗热线，可快速引导患者或其亲属到附近的医疗中心，指导其进行急救。
总而言之，远程医疗的主要目标是改善医疗服务，为患者提供更好的咨询、诊断、治疗方案和随访体验，这尤其有利于面临“医疗荒漠”问题的居民。
未来手术可由机器人执行。图为拥有９个屏幕的机器人外科医生。图片来源：视觉中国
现代实践中的一个例子是达芬奇机器人，其设计理念是通过使用微创的方法，实施复杂的外科手术。“达芬奇”有３条或４条手臂，其中一条配备了内窥镜，其他的配备了手术刀。术中，医生通过操作台控制“达芬奇”灵活的手臂来完成各种操作，还可看到手术区域的３Ｄ图像。
手术机器人的主要优势是能通过小切口进行微创手术。除了帮助人类医生，机器人还可照顾患者的日常生活。它们可有多个应用程序来帮助残疾人或护理人员。例如，欧比机器人的一条机械臂安装了汤匙，可为残疾人智能喂饭。通过对机器人进行“编程”，可将其手臂引导到所需要的位置，或在喂食过程中避开障碍。

注：文章来源于网络，如有侵权，请联系删除