DeepMind与NHS陷“隐私门”，剑桥学者列举三大问题质疑数据安全

　　由 AlphaGo 起头步入人们视野，人工智能公司 DeepMind 的一言一动老是饱受存眷，而在客岁，DeepMind 取英国国度医疗服务体系 NHS 旗下基金会 Royal Free London 签订了为期五年的条约，NHS 旗下的三家伦敦病院将向 DeepMind 分享 172 万病人的医疗数据。

　　这自然引发了对隐私题目的评论辩论和担心，DeepMind 一向宣称隐私取信赖是它们主要斟酌的题目，一切数据会被加密且不会取母公司谷歌分享，但依旧有很多学者质疑 DeepMind 此言的真实性。

　　个中剑桥大学学者 Julia Powles 当属阻挡声音最剧烈的一个，正在取 Hal Hodson 合写的一篇名为《Google DeepMind and healthcare in an age of algorithms》中，她质疑 DeepMind 正在数据及隐私回护上的志愿。

　　正在说起这一争端之前，我们先和 AI 高新科技批评回忆一下 DeepMind 取 NHS 协作的大抵进程。

　　正在 2014 年 7 月，Royal Free London 旗下公立医院的大夫取谷歌 DeepMind 公司入手下手有了开端接触。值得一提的是，DeepMind 此前并没有任何供应康健效劳的阅历或经历。

　　而在 2014 年 11 月，Royal Free 的一些敏感医疗数据就曾经入手下手传输到 DeepMind 的所持有的第三方服务器上。而 NHS 作为得到 Royal Free 大批基金支撑的英国国度医疗服务体系，自然还掌控着英国百姓康健信息的大批数据。

　　随后正在 2016 年 1 月，DeepMind 公开公布取 Royal Free 协作，将行使后者所给予的数据开辟一款名为 Streams 的应用以辅佐急性肾损伤 (AKI)。

　　2016 年 9 月，DeepMind 三大创始人之一 Mustafa Suleyman 取 Royal Free 的 Subir Mondal 签订了一份八页的信息同享和谈（ISA），这份时效五年的和谈表现，Royal Free 是数据的预期节制方，而 DeepMind 只是一个数据处理方。

　　而在 2016 年 10 月，DeepMind 声明公司将回护 Royal Free 病人的敏感数据，比方 AKI 的治理数据取直接照顾护士内容，它们暗示，这一些数据的局限比起和谈中所束缚的内容局限只会更窄，不容易更宽。谷歌还夸大 DeepMind 只是在为掌握肾脏疾病开辟相干运用。

　　但那样的声明其实不能让 Julia Powles 中意，她在讲演中指出了 DeepMind 也许存在的三个题目：

　　首先是 DeepMind 是不是能够被视为一个数据处理方，并直接对病人照顾护士产生影响的题目。按照 DeepMind 的官方材料显现，Royal Free 至少有 26 名大夫及护士正在利用 Streams，均匀每天会向 11 个置身 AKI 风险的病人收回安康警报。

　　Powles 正在呈报中提到，「为什么那样一家由数据发掘兼告白巨子谷歌全资拥有的 AI 公司，可以构建一个以数据集成用户为根本的 App？不论是 DeepMind 照旧 Royal Free London，都没有对这个题目开展正面答复。」

　　其次，数据如安在法令保护下举行利用？目前所收集到的声明都只是两个协作机构的偏听偏信，她并没有相识到任何关于数据利用的监视文件或是具有法令约束力的客观文件。Powles 默示，民众并没有相识数据去处的渠道或权益，是以还没法得知他们所说的是不是属实。

　　第三点是，相干的设备及算法是不是已依照法例正在羁系机构得到受权/答应？依据 DeepMind 及 Royal Free 的声明，它们采取的是一个为 AKI 效劳的「国有算法」（national algorithm），它可以对血液程度举行测试，并融合 Royal Free 的数据（已正在 DeepMind 存储、使用及传输），决议是不是需要向大夫的挪动设备发送相干的安康警报。依据 Powles 的认识，DeepMind 并没有得到研讨核准机构（HRA）或是保密咨询机构（CAG）的受权和答应。

　　作为回应，DeepMind 取 Royal Free 团结揭橥了一项声明，指出 Julia Powles 的这篇讲述「完整曲解了 NHS 若何操纵技能处置惩罚数据的事实。」

　　「这篇文章犯了一系列庞大的事实和剖析毛病，并且臆想我们并没有签订类似的数据和谈。……事实上，该国的每个信托机构城市按照一样的法令取羁系轨制，利用 IT 体系匡助临床大夫猎取病人的以往及当前的信息。"

　　看热闹没有嫌事大的 BBC 记者 Jane Wakefield 还约请两边正在一个公开场合开展回应，并默示，「自然，我们极度体贴谷歌取 DeepMind 进军医疗行业，究竟它此前并没有涉足过，别的，这一些公司并没有属于传统专业的卫生信息技术取基础设施提供商，这一些行为若是没有加以澄清和阐明，无疑会损害公家的情感。」

　　不可否认的是，NHS 切实其实曾取一些第三方企业签订了一系列信息同享协定，DeepMind 此前曾揣测协定的金钱到达 1500 项，但 NHS 只是默示其实不正确，但没有给出更具体的数据。

　　凭据掌握，现阶段该使用主如果由英国信息办公室（ICO，Information Commissioner's Office）举行观察，而国立数据羁系机构（NDG）还对数据举行监控。ICO 近来则默示，他们的观察已靠近序幕，并宣称会和 NDG 持续维持协作，取 Royal Free 及 DeepMind 举行按期联系，请求取得 Stream 的开辟信息。

　　DeepMind 正在 2 月份还已示意，坦承期望取病人竖立更友爱的接洽，并乐意设立相干的评论辩论社区。它正在一项关于病人到场 Streams 项目标计谋文件中还说起，「若是病人取大夫可以协商做出决议，结果会变得更好。」