事件总结

本次活动是“来自日内瓦:对数字未来的思考”系列对话的一部分。小组讨论由日内瓦互联网平台(GIP)与欧洲联盟(EU)驻日内瓦联合国(UN)代表团,瑞士常驻联合国日内瓦代表团,斯洛文尼亚常驻日内瓦联合国代表团，以及联合国教科文组织主办的国际人工智能研究中心(IRCAI)。

摘要

在起步阶段，卫生技术的实施既昂贵又复杂。然而，随着计算平台变得越来越强大，连接平台变得越来越容易访问，医疗保健部门一直在采用越来越多的技术，包括人工智能系统。在COVID-19大流行期间，人工智能被用于监测全球不同变种的爆发，而卫生保健工作者在诊断、筛查和临床护理方面得到了各种人工智能技术的协助。与此同时，智能手表等创新产品让人们能够更好地控制自己的健康。然而，在卫生领域使用技术的增加也可能对我们的社会构成严重威胁:上述威胁包括围绕数据隐私、包容性、问责制、网络安全和知识产权的问题。

为了讨论如何最好地利用人工智能的力量，同时将这些威胁降至最低，多学科的专家被邀请参加圆桌会议。由特丽莎何鸿燊řejš卵子(Diplo项目与伙伴关系主任)，参加小组讨论的有:官方leyu体育登录

• Amandeep Singh Gill:国际数字健康与人工智能研究合作组织(I-DAIR)首席执行官兼董事
• 维达Groznik:卢布尔雅那大学研究员，Primorska大学助理教授和NEUS诊断公司首席执行官
• 凯瑟琳·霍洛威学院：伦敦大学学院(UCL)全球残疾创新中心(GDI Hub)教授和学术总监，国际人工智能研究中心(IRCAI)人工智能和辅助技术项目委员会主席
• Andreas Alois Reis:世界卫生组织(世卫组织)首席科学家司全球卫生伦理小组联合组长
• Ulrike直到:世界知识产权组织(WIPO)知识产权与前沿技术主任

要点

人工智能在健康领域的力量

人工智能(AI)的使用为医疗保健工作者提供了一整套机会，激励越来越多的医疗保健部门在日常业务中采用人工智能技术。正如Amandeep所指出的，目前，前所未有的投资和关注正涌入数字健康领域。特别是在COVID-19大流行期间，社区已经熟悉了数字卫生的不同方面，包括远程医疗Amandeep指出:通过视频会议工具向患者咨询，医生设法弥合了不同社区获得医疗服务的差距。Andreas强调，许多卫生部门都是资源密集型的，例如精神卫生部门需要大量的精神科医生，客户可以与他们交谈，而他们往往缺乏。数字健康和人工智能辅助技术可以填补这一空白，例如通过使用聊天框。Vida补充说，这样的技术已经存在，比如聊天机器人，目的是确定一个人是否患有抑郁症。

Amandeep还指出了人工智能在公共卫生应对方面的崛起:事实上，人工智能目前被广泛用于估计COVID-19等大流行病的传播情况及其对卫生系统的相关负担。像GISAID这样的数据共享平台为研究人员提供了快速和开放的大流行病毒数据，帮助他们了解病毒是如何在全球范围内进化和传播的。因此，基因组序列的数字共享使研究人员能够在COVID-19疫苗推出之前进行高度数据驱动的药物发现。

然而，与许多其他技术一样，人工智能辅助医疗带来的机会与围绕数据保护、包容性和公平性以及基本患者安全和网络安全的一系列风险直接相关。

确保数据保护和隐私

正如Vida所指出的，不仅在医院治疗期间检索到的数据是相关的健康数据。当人们使用智能手表或智能手机时，健康数据也被收集起来。凯瑟琳补充说，并非所有相关数据都是健康数据:例如，银行通常会“在其他人之前知道你的健康状况”，凯瑟琳指出，“因为它会冻结你的账户，并立即通知健康代表”。Andreas因此强调，关于患者健康问题的数据应保密，因为这些数据往往受到高度歧视。因此，放入聊天框等技术中的任何数据都应该受到高度保护，防止进一步使用。他补充说，卫生技术往往涉及跨越国界的利益攸关方，这意味着任何此类数据隐私监管都应在国际层面上协调一致。

确保包容性和公平性

各小组成员提到的另一项挑战是确保所有社区平等地从数字卫生领域的迅速发展中受益。乐鱼首页Andreas强调指出，不同国家之间以及国家内部存在着众所周知的数字鸿沟，在人口获得数字卫生服务方面产生了巨大差异。因此，虽然远程医疗可以弥补某些社区在获得保健服务方面的差距，但其他社区可能无法享受到这种创新。此外，卫生技术主流化还要求卫生保健工作者具有较高的数字识字率。因此，随着卫生技术的发展，全球卫生保健工作者应接受使用这些技术的培训。

“重要的是在数据收集和这些[卫生]技术的设计中具有包容性，因此我们包括弱势群体和个人。”(Andreas Alois Reis谈卫生技术中的潜在歧视)

此外，几位小组成员强调，我们应致力于设计卫生技术，使其反映尽可能多的社会经济和卫生保健环境。人工智能系统通常主要根据从高收入国家的个人收集的数据进行训练，这有助于这样一个事实，即技术在低收入环境中的个人表现不佳。Amandeep强调了让更多来自全球南方的研究人员参与卫生技术创新背后的研发的重要性。他补充说:“我们必须找到新的方法，赋予患者和提供数据的人权力，这样他们就能看到这些数据所产生的知识和价值。”

“我们必须找到新的方法，赋予患者和提供数据的人权力，这样他们就能看到这些数据所产生的知识和价值。”(Amandeep Singh Gill谈平等卫生数据和知识制作的重要性)

凯瑟琳补充说，远程医疗的主流化也有可能破坏听力和视力受损者的纳入，因为人工智能辅助技术往往无法与他们沟通医疗信息。她强调，相反，重要的是“确保这些技术使社会更紧密地联系在一起”。

“分歧会变得更大吗?我认为我们有必要阻止这种情况发生。重要的是要确保这些技术使社会更紧密地联系在一起。”(凯瑟琳·霍洛韦谈前沿技术和社会差距)

保护知识产权、问责制和网络安全机制

正如Ulrike所指出的，卫生技术正在日益突破卫生部门技术能力的界限。如今，前沿技术正处于科学突破和现实应用的交叉路口，这对政策制定者实施充分的知识产权提出了挑战。乌尔里克强调，知识产权应该“让最广泛的人能够获得、理解和解释”，为“巨大的创新浪潮”奠定基础。但是，必须确保促进创新的措施与确保获得重要医疗技术的措施之间的积极相互作用。

“我看到的最大挑战是，尽管有各种复杂和非常复杂的主题，但我们需要让知识产权和技术(包括人工智能)的主题为最广泛的人群所接受、理解和解释。”(Ulrike Till谈卫生技术对知识产权的影响)

Andreas为小组带来了“处理假阳性和假阴性”的主题。凯瑟琳同意，如果个人受到医疗技术基于算法的决策的不利影响，有时很难定义谁应该负责:“如果你的肢体由外科医生安装，外科医生就会签署该肢体。但是，如果这个肢体是由算法设计的，而且它失败了，那么谁会有这个肢体的风险呢?”因此，应该提供一种有效的机制，为受到人工智能辅助医疗技术不利影响的患者提供补救。

Amandeep因此阐明了监管约束可能造成的负担。例如，对于临床试验来说，数据只能使用一次，不能通过人工智能和数据重新用于进一步发现，阻碍了进一步研究的潜力。有时标准也不能达到它们的目的。以网络安全为例，即使在英国或新加坡等具有明确网络安全标准的国家，网络安全威胁也严重阻碍了数据合作。因此，我们必须将重点转移到协调“积极追踪威胁”和“实施安全”的努力上通过设计”,Amandeep说。

“随着更多类型的健康数据可用，以及相关用户数量的增加，攻击面正在扩大。”(Amandeep Singh Gill谈健康领域的网络安全标准)

众志成城:人工智能与健康合作的活力

Vida同时涉足学术界和商界，强调了这两个世界之间的低合作程度。根据Vida的说法，学术研究经常因为不适用于商业而受到质疑。然而，Vida的NEUS Diagnostics公司致力于打破这种刻板印象，将神经退行性疾病诊断方法的研究转化为符合医疗设备法规的工作产品。凯瑟琳回答说，学术界确实不再只是收集知识。相反，它还寻求提供实际应用，例如在残疾领域开发数据驱动的诊断工具。乐鱼首页在她看来，主要的挑战是吸引投资进入辅助技术等领域:“当你与风险投资家或政府谈论投资核心技术时，他们认为这只占人口的一小部分。凯瑟琳说。

“学术界通常认为我们所做的是基础研究，不能用于工业。这就是主要问题所在。这就是为什么没有更多的研究成果输出到该行业。”(维达·格罗兹尼克谈将学术发现应用于商业的挑战)

因此，Amandeep建议建立更强大的信任社区，旨在通过中立的召集平台和中立的可信基础设施来存储汇总数据，促进临床科学家、公共卫生专家和计算机科学家之间的合作。因此，像日内瓦这样的地方非常适合促进不同利益攸关方之间的这种对话。正如安德烈亚斯所指出的，日内瓦汇集了“不仅一流的学术机构，而且许多国际组织和非政府组织”。乌尔里克指出，医疗技术背后的网络安全等问题需要各个领域的专家给出答案。因此，日内瓦是“独一无二的，它提供了一个可以让不同方面围坐在桌旁讨论这些问题的场所”。Amandeep补充说，除了举办各种各样的机构外，日内瓦还具有作为中立会议场所的内涵，这促成了这个城市中存在的跨学科社区，能够以负责任、包容和有影响力的方式真正推进人工智能和数据在卫生领域的使用。

“它不仅汇集了一流的学术机构，还汇集了许多国际组织和非政府组织。这是日内瓦的一大相对优势。”(Andreas Alois Reis谈日内瓦的会议空间)