En un mundo donde la tecnología avanza a pasos agigantados, la inteligencia artificial (IA) ha emergido como una de las innovaciones más transformadoras. Sin embargo, este avance no ha estado exento de controversias y desafíos éticos.
En respuesta a estas preocupaciones, Europa ha decidido tomar una postura firme a través de la implementación de una ley que penaliza ciertos usos de la inteligencia artificial.
La implementación será opcional inicialmente, y en dos años se convertirá en una obligación en toda Europa, esta ley busca regular y controlar el desarrollo y la aplicación de la IA para garantizar que se utilice de manera ética y segura.
El creciente uso de la IA en diversas industrias ha generado beneficios significativos, desde la automatización de procesos hasta avances en el campo de la medicina.
No obstante, también ha planteado cuestiones éticas y riesgos potenciales, como la discriminación algorítmica, la pérdida de empleos y la privacidad de los datos.
Esta legislación, conocida como la Ley de IA, representa un esfuerzo histórico por parte de la Eurocámara para abordar los desafíos y oportunidades que presenta la inteligencia artificial en diversos sectores.
Aspectos claves de la ley
Se prohíben ciertas aplicaciones de inteligencia artificial que atenten contra los derechos de la ciudadanía. Entre estas aplicaciones prohibidas se incluyen los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial.
Además, el uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad está prohibido, salvo en situaciones muy concretas y bien definidas.
Los sistemas de identificación biométrica "en tiempo real" solo se podrán emplear si se cumplen una serie de salvaguardias estrictas, como el uso limitado a un período y lugar específicos y con una autorización judicial o administrativa previa.
Estos casos pueden incluir la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista. Recurrir a estos sistemas a posteriori se considera un uso de alto riesgo, que requiere autorización judicial al estar vinculado a un delito penal.
Alto riesgo
Por otro parte, el reglamento prevé obligaciones claras para otros sistemas de IA de alto riesgo debido a su potencial perjudicial para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho.
Algunos ejemplos de usos de alto riesgo de la IA incluyen infraestructuras críticas, educación y formación profesional, empleo, servicios públicos y privados esenciales como la sanidad o la banca, ciertos sistemas de las fuerzas de seguridad, migración y gestión aduanera, justicia y procesos democráticos como influir en las elecciones.
Estos sistemas deben evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y precisos, y contar con supervisión humana. Los ciudadanos tienen derecho a presentar reclamaciones sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en ellos que afecten a sus derechos.
Bajo riesgo
Los sistemas de IA de uso general y los modelos en los que se basan deben cumplir ciertos requisitos de transparencia, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos.
Además, las imágenes, contenidos de audio o de vídeo artificiales o manipulados deberán etiquetarse claramente como tales.
Durante el debate en el pleno, el coponente de la comisión de Mercado Interior, Brando Benifei (S&D, Italia), destacó que, "finalmente se tiene la primera ley vinculante del mundo sobre inteligencia artificial, diseñada para reducir riesgos, crear oportunidades, combatir la discriminación y aportar transparencia".
Ver 0 comentarios