Elon Musk amplió su ecosistema de inteligencia artificial con el lanzamiento de Grok 2, un chatbot de IA que, hasta ahora, estuvo restringido solo para los usuarios premium de X (anteriormente Twitter).
Pero ahora la plataforma ha habilitados su uso (con ciertas limitaciones) para todas las personas, ya sea que tengan o no una cuenta en la red de microblogging. Es un hecho importante porque quiere decir que millones de personas pueden, a partir de este momento, usar una IA que, además de ofrecer interacción conversacional, permite generar imágenes realistas mediante IA.
Pero el despliegue masivo de esta nueva herramienta de xAI no está exento de controversia.
Esto pasa porque, a diferencia de otros servicios como Dall-e y MidJourney, que integran protecciones específicas contra el uso de rostros de celebridades y personas públicas, Grok, potenciado por un nuevo modelo de generación de imágenes autorregresivas, cuyo nombre en código es Aurora, no tiene ningún problema en crear imágenes de personajes famosos, aparentemente sin ningún tipo de restricción.
O casi. Volveremos a eso.
Ninguna de las caras en la foto de portada de esta nota es real, todas fueron creadas por usuarios de X que querían demostrar las posiblidades de la IA. Es lógico preguntarse qué pasaría si alguno quisiera usarlas para engañar al público.
En Xataka Colombia pusimos a prueba esta nueva herramienta, que plantea serias preguntas sobre el futuro de los deepfakes y la manipulación digital.
Aurora: poderosa y controvertida
Como anotábamos, el modelo de IA que alimenta esta nueva versión de Grok se llama Aurora, y se destaca por su capacidad para generar imágenes altamente detalladas y realistas de celebridades, algo que otros generadores de imágenes suelen evitar para prevenir la creación de deepfakes.
Estos deepfakes, imágenes o videos manipulados con inteligencia artificial, son conocidos por su potencial para difundir desinformación o suplantar la identidad de personas públicas.
Lo llamativo en el caso de Grok 2 es que no hay restricciones para crear imágenes de personas famosas, algo que podría aumentar las preocupaciones sobre el uso indebido de la herramienta. Elon Musk ha defendido la importancia de la libertad de expresión, y parece que la posibilidad de generar este tipo de imágenes entra dentro de esa filosofía, aunque el debate sobre los riesgos de su uso es cada vez más relevante.
Para nuestra primera prueba, le pedimos a Grok 2 generar una imagen del presidente de Colombia, Gustavo Petro; y el CEO de X, Elon Musk, en un partido de fútbol.
Foto: Grok 2
El resultado no es perfecto (el brazo de Petro es exageradamente largo), y falló en capturar algunas de las indicaciones, pero sin duda resulta verosímil a primera vista, y más si se considera que es la primera imagen que generamos en una plataforma que por entonces llevábamos cinco minutos usando.
Cómo Funciona Aurora
El modelo Aurora utiliza un enfoque avanzado llamado mixture of experts, en el que diferentes redes neuronales especializadas se encargan de tareas concretas dentro del proceso de creación de una imagen.
Este enfoque permite que la IA sea más eficiente y precisa al generar resultados más detallados y variados. Aurora ha sido diseñado para crear imágenes fotorrealistas, pero también permite aplicar diversos estilos artísticos.
A diferencia de su predecesor, basado en la tecnología Flux de Black Forest Labs, Aurora es un desarrollo propio de xAI. Musk había adelantado que estaban trabajando en su propia arquitectura, y este lanzamiento confirma esa dirección.
Fotos: Grok 2
Pero a pesar de la impresionante calidad de las imágenes generadas por Aurora, el sistema todavía tiene limitaciones. En nuestra segunda prueba, le pedimos a Grok 2 crear una foto de Shakira conduciendo un Cybertruck y el resultado fue, creemos, completamente desacertado. Al cambiar el Cybertruck por una bicicleta, la IA decidió, por alguna razón, cortar el rostro de la artista.
Pero las cosas cambiaron al pedirle a Grok 2 una foto de Shakira junto a Lenny Kravitz. El resultado fue este:
Foto: Grok 2
De nuevo, hay un elemento artificial que podría alertar a observadores prevenidos. Pero el nivel de detalle y la capacidad de crear representaciones convincentes de personajes famosos es tal que algunas de las imágenes generadas podrían pasar por auténticas sin dificultad.
Finalmente, ¿recuerdas que dijimos que Grok 2 casi no tiene restricciones?
Fotos: Grok 2
Cuando le pedimos una foto de Karol G usando un bikini rojo, la IA comenzó a ejecutar el prompt y se interrumpió. Esto ocurrió las tres veces que intentamos hacer la prueba.
Debemos suponer que hay una salvaguarda contra deepfakes de tono más sugestivo. Eso sí, la solicitud de una foto de Karol G rompiendo la vitrina de un almacén no encontró problema alguno, más allá del horror que es esa mano izquierda .
Foto: Grok 2
Grok 2 está disponible de manera gratuita, sin necesidad de estar suscrito a X, pero con un límite de 25 creaciones cada dos horas. Los usuarios que deseen generar más imágenes o acceder a funciones adicionales pueden optar por las cuentas Premium o Premium Plus.
- Foto de portada: Mosaico de Xataka Colombia con fotos creadas por Grok 2.
Ver 0 comentarios