Alguien escucha lo que le dices a tu altavoz inteligente con Alexa. No solo lo escuchan máquinas, no. Un informe de Bloomberg revela cómo existen "miles de personas" en todo el mundo que trabajan escuchando, analizando y anotando esas grabaciones para entrenar ese sistema de reconocimiento de voz y lograr que se comporte mejor.
Este descubrimiento confirma la sospecha que muchos usuarios tenían sobre el funcionamiento de un sistema que no solo se basa en sistemas de inteligencia artificial y en algoritmos. Empleados de Amazon participan de forma activa en este proceso, y la compañía no menciona esa participación en la documentación pública que ofrece sobre Alexa.
No solo las máquinas intervienen
En las preguntas frecuentes sobre Alexa la compañía explica que "usamos tus solicitudes a Alexa para entrenar nuestros sistemas de reconocimiento y comprensión del lenguaje natural", pero en ningún momento aclara cóm se produce ese entrenamiento.
La investigación de Bloomberg revela cómo miles de empleados en localizaciones por todo el mundo —mencionan Boston, Costa Rica, India, y Rumanía— se dedican a hacer turnos de nueva horas con un trabajo "mundano" que consiste en escuchar hasta 1.000 clips grabados al día para transcribirlos y añadir anotaciones de forma que el sistema de inteligencia artificial se nutra de ese análisis humano.
Los responsables de Amazon han indicado en un comunicado que "los empleados no tienen acceso directo a la información que puede identificar a la persona o cuenta como parte de ese flujo de trabajo. Toda la información se trata de forma totalmente confidencial y usamos autenticación en varios pasos para restringir el acceso, además de implementar el cifrado del servicio y de controlar todo el entorno para protegerlo".
Según el informe original, entre esos clips de audio también figuran conversaciones inesperadas o extremas: en un caso se oyó lo que parecía un potencial asalto sexual, pero se indicó que no sería apropiado intervenir. Los empleados pueden debatir con otros compañeros lo que escuchan en un chat interno para ofrecer una mejor interpretación, pero por lo visto en algunos casos se comparten esos clips de audio solo por diversión.
Empleados de Apple y Google también escuchan lo que decimos a Siri y al asistente de Google
La confirmación de que Amazon hace uso de empleados humanos para ayudar al entrenamiento de Alexa ha hecho que en Bloomberg se pregunten si otros asistentes de voz usan este tipo de equipos humanos.
En un documento de Apple sobre privacidad se describe cómo los clips de audio recolectados se almacenan durante seis peses "para que el sistema de reconocimiento los utiilce para entender mejor la voz del usuario" a partir de lo cual ese clip se guarda hasta dos años más "sin el identificador" para que Apple pueda "mejorar y desarrollar Siri".
Lo mismo sucede con Google, cuyo asistente de voz también recolecta grabaciones que según Bloomberg acaba siendo escuchada en ciertos casos por empleados de la empresa "para ayudar a entrenar y mejorar el producto", pero esos clips de audio "no están asociados con ninguna información identificable y el audio está distorsionado".