Microsoft quiso prescindir de periodistas y poner una IA a escribir en MSN, pero parece que estos sistemas siguen metiendo la pata

Que un robot escriba noticias en internet no es nada nuevo. Varias agencias financieras usan sistemas de de inteligencia artificial para redactar noticias rutinarias de resultados financieros, pero en Microsoft quisieron ir más allá con un proyecto que quería plantear esa opción en su web de noticias MSN.

El mes pasado, de hecho, Microsoft anunció que despedía a cerca de 50 periodistas humanos para pasar a utilizar un sistema de redacción con un sistema de inteligencia artificial, pero supuestamente dicho sistema ha cometido un error muy polémico al confundir la foto de una de las cantantes del grupo Little Mix.

Confusiones polémicas

En The Guardian contaban cómo el sistema de redacción automatizada de MSN.com tomó una noticia que se publicó inicialmente en The Independent sobre Jade Thirlwall, una de las cantantes del grupo Little Mix y la republicó con una foto que teóricamente era de esa cantante.

El problema es que el sistema se equivocó de cantante, y en lugar de la foto de Thirlwall se usó una foto de otra de las integrantes de ese grupo, Leigh-Anne Pinnock.

Las dos son cantantes afroamericanas, y la confusión fue muy crtiticada por parte de Thirlwall, que atacó a Microsoft en Instagram indicando "@MSN si vais a copiar y pegar artículos de otros medios, quizás queráis aseguraros de usar la imagen del miembro correcto de raza mestiza del grupo".

La confusión, indicaba Thirlwall, era habitual: "Esta mierda nos ocurre a @leighannepinnock y a mí TODO EL TIEMPO y se ha convertido en una broma permanente... me ofende que no podáis diferenciar entre las dos integrantes de color entre cuatro miembros del grupo... ¡HACEDLO MEJOR!"

La imagen fue corregida en cuanto Microsoft se dio cuenta del error, pero en la empresa no han confirmado si el problema fue responsabilidad de la IA o de redactores humanos. Los sistemas de IA de MSN llevan ya tiempo cubriendo este tipo de noticias, detectando tendencias, cambiando titulares o encontrando imágenes con las que ilustrar esos artículos.

Lo cierto es que en el pasado ya se cometieron errores polémicos a la hora de aplicar el reconocimiento facial y de objetos cuando las personas implicadas eran de raza negra, y este nuevo error vuelve a poner de relieve el hecho de que estos sistemas aún no están del todo preparados para plantear un cambio así sin que haya supervisión humana al menos hasta que se pueda garantizar que los errores son mínimos.