El acuerdo de DeepMind con la Sanidad británica pone en riesgo los datos de millones de pacientes

Mucho se ha hablado en el Reino Unido sobre el polémico acuerdo al que DeepMind llegó con el consorcio Royal Free London NHS Trust. Mediante dicha colaboración varios hospitales cedieron los datos de 1,6 millones de pacientes a la empresa subsidiaria de Google.

DeepMind, centrada en el ámbito de la inteligencia artificial, prometió que no compartiría esos datos y solo los usaría con la bendición del consorcio de la sanidad británica, pero aquel acuerdo era ilegal y ahora la promesa de DeepMind se rompe: compartirá los datos con Google.

Los datos sobre nuestra salud, en peligro

En DeepMind crearon una división específicamente orientada al ámbito de la salud llamada DeepMind Health, y el primer fruto de aquella decisión fue la creación de una aplicación llamada Streams que permitía integrar los datos de esos pacientes y coordinar alertas que llegaban a los usuarios relativas a posibles problemas de riñón, un problema grave que afecta a uno de cada seis pacientes del National Health Service del Reino Unido.

Como indicaban en Financial Times, ese acuerdo al que se llegó en 2015 fue investigado en 2016 y se descubrió que no había requisitos comerciales, pero es que además el conjunto de datos iba mucho más allá de lo que se necesitaba para monitorizar esa enfermedad. La protección de los datos de los pacientes y su privacidad podían verse comprometidos, aunque por supuesto en DeepMind aseguraron que no había ningún tipo de conexión de esos datos con Google.

Sin embargo esa promesa se ha roto con el reciente anuncio de Streams, la aplicación que a partir de ahora formará parte de Google. En DeepMind hablan de cómo la investigación de cómo la inteligencia artificial puede ayudar en diversos tratamientos —problemas con la visión o tratamientos de radioterapia para cáncer, por ejemplo—, y ahora hablan de cómo "nuestra visión es que Streams se convierta en un asistente basado en IA para enfermeras y doctores en todas partes".

Lo curioso es que en la página de DeepMind se especifica que "los datos [de los pacientes] nunca estarán conectados a cuentas o servicios de Google, ni usados para propósitos comerciales como publicidad o seguros", pero este anuncio pone en peligro esa promesa. No implica que esos datos vayan a ser utilizados con esos fines, pero rota la primera promesa (no conectar los datos con Google), la segunda (usarlos para fines comerciales) podría caer también.

El problema no reside aquí tan solo en la privacidad de los usuarios, sino en que precisamente nos encontramos con el que probablemente es el escenario más crítico de la privacidad: el de los datos sanitarios de millones de pacientes que ahora se encuentran en poder de Google.

Puede que los objetivos que persigue DeepMind sean loables —la IA ciertamente tiene el potencial para revolucionar el campo de la medicina—, pero acuerdos como este en los que datos públicos pasan a poder ser utilizados por empresas privadas —sin el consentimiento de los propios afectados— resulta realmente preocupante.