OpenAI, Meta, Google y otras compañías firman acuerdo con la Casa Blanca para enfrentar riesgos de la Inteligencia Artificial

Presidentes y CEO de siete de las compañías más grandes de desarrollo de IA firmaron un acuerdo con el gobierno de los Estados Unidos para crear protecciones en el desarrollo de la Inteligencia Artificial, según comunicó la Casa Blanca.

Las siete empresas en cuestión son: Google, Microsoft, Meta, Amazon, OpenAI, Anthropic e Inflection. Líderes de estas compañías sostuvieron una reunión con Joe Biden, presidente de los Estados Unidos, en donde aceptaron seguir una serie de normas para proteger los intereses de los ciudadanos.

Algunas de las protecciones más relevantes en el documento son:

• Todos los productos de IA deberán pasar pruebas de seguridad, internas y externas, y deberán compartir información sobre sus productos son gobiernos y entidades regulatorias.
• Reportar continuamente y de manera pública las capacidades y limitaciones de sus herramientas, así como sus sesgos y riesgos de seguridad.
• Asegurarse que los consumidores puedan reconocer materiales creados por IA, ya sea mediante marcas de agua u otros medios.
• Trabajar en la implementación de IA avanzada para combatir algunos de los problemas más grandes a los que se enfrenta la humanidad, como buscar una cura para el cáncer y combatir el cambio climático.
• Llevar a cabo investigaciones acerca de los riesgos de sesgos, discriminación y la invasión de la privacidad en el desarrollo de IA.

Las nuevas protecciones funcionan como premisas morales y de desarrollo más que como leyes estrictas. Esto, según las empresas y el gobierno, para que la legislación no impida el libre desarrollo de las nuevas tecnologías.

“Las redes sociales nos han mostrado el daño que pueden hacer tecnologías potentes sin las salvaguardias adecuadas. El Congreso debe aprobar una legislación bipartidista que limite la recopilación de datos, prohíba los anuncios dirigidos a niños y exija a las empresas que antepongan la salud y la seguridad.” –Joe Biden, presidente de los Estados Unidos.

La Casa Blanca también expresó que están trabajando activamente con aliados a nivel global para que estas protecciones se conviertan en la estructura primaria de la que se van a derivar leyes más concretas en el futuro.

Del lado de las compañías hubo anuncios que siguieron a la declaración de Biden. Google indicó que se propone integrar marcas de agua, metadatos y otras técnicas innovadoras en sus últimos modelos generativos y poner en funcionamiento una herramienta 'Acerca de esta imagen' a la Búsqueda de Google para brindar contexto sobre dónde apareció una imagen por primera vez en línea.

Abordar el contenido generado por IA requerirá soluciones para toda la industria y esperamos trabajar con otros, incluido el grupo de trabajo de medios sintéticos de Partnership for AI. --Comunicado de Google

Además del G7, los Estados Unidos también han sostenido conversaciones con los gobiernos de Chile, Brasil y México para que suscriban el acuerdo de manera voluntaria.