原标题:发展医疗人工智能 别忽视伦理问题
近日,世界卫生组织发布《医疗卫生中AI使用的伦理和管治》,这是医疗AI(人工智能)领域首份根据道德规范和人权标准制定的综合国际指南。该指南确定了医疗AI应用的六项核心原则:保护自治权;促进人类福祉、人类安全和公共利益;确保透明度、可解释性和可理解性;培养责任感,建立问责制;确保包容和公平;促进具有响应性和可持续性的AI发展。
医疗AI的研发和应用,可能会带来哪些伦理问题?本报约请相关领域学者分享他们的观点和思考。
空军军医大学基础医学院 张秋菊 福建省漳州市医院科教科 蒋辉
医疗人工智能是AI在医疗领域的开发与应用,它可以通过机器学习、表征学习、深度学习和自然语言处理等技术,利用计算机算法,从数据中获取信息,实现辅助诊断、疗法选择、风险预测、减少医疗安全事故和提高效率等一系列功能。
在医疗资源不足的地区,应用医疗AI可在一定程度上缓解供需矛盾。然而,医疗AI的应用也在诸如隐私保护、数据歧视、人性化关怀等方面存在隐忧,其中的伦理问题值得思考和关注。
医疗AI研发应用中的伦理问题
尚未全程纳入监管。工程师在设计医疗AI产品时,可能缺乏对医学特点、医患关系、临床应用细节等的考虑。因此,在设计之初,就应由政府相关主管部门联合进行登记监管,在政府主管部门和机构伦理委员会的全程有效监管下开展,并接受公众监督,以保障设计符合医学目的,推动医学技术发展,更好地服务人民健康。
AI应用客观存在隐私信息泄露和数据歧视等伦理风险,这一点常被忽视,缺乏相应的风险评估、风险防范措施和应急处置预案。由于数据控制权不在受试者方面,医院和研究者可以单方面对医疗健康数据进行处理,往往也没有向受试者履行知情同意。受试者没有任何直接获益,而AI产品又有明确预期的市场价值,如果从受试者角度而言,常涉嫌违背伦理的尊重原则和公平原则。医疗AI产品中应编入伦理标准程序,并经过检验后使用,以便其做出的医疗决策更符合伦理要求。
目前,医疗AI应用还比较碎片化,没有做到足够的集成化。不同疾病模型的使用环境不同,如果不能建立统一的集成规范,就会为了追求技术的新奇而使用技术,反而影响了效率。这也正是许多医疗机构即使拥有了AI,医生也经常不使用的原因。对此,需要研发者全盘规划,在设计上有的放矢。
防范数据采集和使用风险。数据采集应取得授权,导向有序管理。AI依靠大量的数据支撑,数据从哪来?我国对此还没有明确的政策规定。关于数据采集的相关问题,应该在设计时就充分考虑,尤其应关注对患者知情同意权的保护。需要医疗AI技术的研究单位和合作单位加强伦理审查,重点针对设计者的科研伦理意识、采集数据时是否履行知情同意、如何保障知情同意顺利进行、在研究过程中谁来监督知情同意实施情况等开展审查。
鉴于机构伦理审查存在的效率和能力问题,应发展区域伦理委员会,对医疗健康大数据进行伦理审查和后续开发使用的监管,警惕医疗AI滥用。伦理委员会成员应包括件工程师、医学专家、社会学、心理学、伦理与法律专家和群众代表等,充分考虑不同群体的利益诉求。风险较高的医疗AI研发项目,不能由某一家机构伦理委员会的审查意见决定,还应报省级以上医学伦理专家委员会审查,通过后方可实施。
尽管现在医疗AI技术较为成熟,但医疗数据安全风险一旦发生,不仅可能引发患者安全事件,数据泄露也可能导致一系列影响社会稳定或不公平事件。如保险公司有可能在掌握个人病史的情况下,提高保险费用,引发社会不公平等问题。
另外,国家安全问题不容忽视,如涉及人类遗传资源的AI技术研究,要谨防特殊群体、特殊疾病引发的生物安全问题,应站在国家战略高度,认识特殊领域的医疗AI应用。
责任认定及追究的立法缺失。我国应加强立法,对医疗AI应用的有关行为主体进行管理。在医疗AI的设计、审查及实施方面,既要有对项目的跟踪,又要有对不同行为主体的监督管理,包括设计人员、施工制造人员、测试人员等,也包括实施的环境和条件、数据的管理和监督、数据脱敏化的处理、加密程序以及不同加密钥匙的管理权限。
医生对AI系统临床应用的另一个顾虑是谁对医疗AI提供的决策负责,如果出现错误,谁来承担后果。当前阶段,医疗AI的最后结果仍需人工校验审核,医生承担据此对患者诊疗结局的责任。未来,临床广泛引入医疗AI后,责任如何划分,现在仍不明确。当AI应用结果导致医疗纠纷、关于人的伦理或法律冲突时,能否从技术层面,对AI技术开发人员或设计部门问责,并建立合理的责任和赔偿体系,都是需要考虑的问题。
医疗AI设计的伦理原则
医疗AI涉及的伦理问题主体既包括技术设计者,也包括技术使用者,而当前设计者的伦理责任显得尤为突出。未来,应在设计中把握好医学伦理最基本的尊重、有利、不伤害、公正原则。
尊重人的人格尊严和价值。医疗AI产品研发应用的首要伦理原则是尊重人的人格尊严和价值。在发生医疗AI对患者利益的侵犯和伤害时,如隐私权、医疗公正等,如何认定责任,患者权利如何保障等,都是需要在设计源头考虑的问题。
AI对临床的有利应体现在利他和人道方面,能增进患者健康利益和公共健康利益。如果医疗AI增加了就医的复杂程度和时间、费用成本,那它也很难得到伦理辩护。
不伤害患者利益。医疗AI可能带来的伤害就是技术引发的对患者健康利益的伤害,如手术机器人的误诊,医疗费用的增长等。如已经有成熟可靠的人工操作,就不该增加风险,把简单的手术交给机器人,更不该从商业利益出发,实施临床AI替代疗法。当医疗AI研发或应用涉及数据训练和结果分析时,需进行数据授权管理,对医疗数据涉及的关键隐私信息进行脱敏和强加密处理,以防止技术伤害。在设计和算法上,要科学求证、谨慎推进,把技术可能带来的负面影响尽量降到最低。医疗AI设计时,应充分考虑其应用场景、情境,预先评估可能存在的风险,并制定一旦发生事故的应急处置程序。
医疗资源分配公正。医疗AI的设计要符合医疗卫生资源公正分配的原则。贫困和信息鸿沟等诸多因素可能会将本来就缺医少药的那部分人排除在医疗AI所描绘的美好蓝图之外。
一种新技术的出现难免带来诸多问题,但我们不能因为存在潜在风险而拒绝接受,对医疗AI要以谨慎的态度推进研发和应用,力求在医疗实践活动中发挥其价值和作用,尽量规避其可能带来的风险。
本文经「原本」原创认证,作者健康报社有限公司,访问yuanben.io查询【2U4APP61】获取授权信息。
