Todas las formas de decir que una imagen fue hecha con IA
Este artículo forma parte de la serie "Exponer la IA" de Lifehacker. Estamos explorando seis tipos diferentes de medios generados por IA y destacando las peculiaridades, productos secundarios y características comunes que ayudan a diferenciar el contenido artificial del creado por humanos.
La obra de arte generada por IA ya no es solo una idea: está en todas partes y es probable que la hayas encontrado en la vida real, aunque no lo supieras. La obra de arte generada por IA ha ganado premios (aunque haya causado controversia), se ha utilizado en películas de Netflix (también enfrentando críticas) y ha engañado a incontables usuarios de Facebook con imágenes falsas de bebés, Jesús y verduras. No desaparecerá pronto.
A medida que la tecnología para generar imágenes continúa mejorando, es más importante que nunca aprender a identificar estas imágenes generadas por IA para no ser engañados por las fotos falsas de alguien. Puede parecer inofensivo no pensarlo dos veces ante una imagen generada por IA de algunos patos, pero cuando los actores malintencionados difunden desinformación a través de imágenes generadas por IA, las implicaciones son graves. Las empresas que crean generadores de imágenes por IA están trabajando en formas de "marcar con agua" las imágenes producidas por IA, pero aún no estamos allí. La mayoría de la obra de arte por IA en línea circula sin una etiqueta clara que avise a los usuarios de que las imágenes no son reales. Mientras tanto, estos consejos pueden ayudarte a identificar estas imágenes falsas cuando aparezcan en tu feed.
Cómo funcionan los generadores de arte por IA
Es fácil echar un vistazo a una obra de arte generada por IA y asumir que el generador que la produjo simplemente la ensambló a partir de una cantidad de imágenes en su base de datos. En realidad, no es así.
Los generadores de arte por IA, de hecho, se entrenan con grandes conjuntos de datos de imágenes, desde obras de arte hasta fotografías. Sin embargo, estas herramientas no "ven" estas imágenes de la misma manera que los humanos. En lugar de eso, las descomponen píxel a píxel. No verá una manzana; verá un grupo de píxeles y sus valores. Con el tiempo, aprenderá que este grupo de estos valores de píxeles en particular suele ser una manzana. Al entrenar la IA con suficientes imágenes con suficiente contexto, comenzará a trazar líneas entre todo tipo de objetos y estilos. Entenderá cómo representar de manera generalizada frutas, animales y personas, así como estilos artísticos, colores y estados de ánimo.
Los generadores de imágenes por IA modernos, como DALL-E, utilizan lo que se conoce como difusión para aprender y generar imágenes. basicamente, toman una imagen de entrenamiento y agregan ruido visual (piensa en estática) a la imagen hasta que la imagen completa sea meaningless. La idea es entender cómo se ve afectada la imagen al agregar ruido en cada paso: A partir de ahí, intentan lo contrario, creando su propia versión de la imagen original a partir de la nada, lo que entrena a la IA para crear imágenes desde cero.
Prompt: "Generate an image of a group of friends smiling at each other while playing a board game."Credit: Jake Peterson/OpenAI
Esta es una explicación extremadamente simplificada, pero es importante conocer la idea fundamental de que estos generadores se basan en una gran base de relaciones aprendidas. Esto hace posible renderizar escenas complejas en segundos, pero también es lo que resulta en las peculiaridades extrañas que pueden ayudarnos a identificar una imagen por IA de una real.
Cuenta los dedos
El arte por IA está mejorando, pero aún no es perfecto. Aunque estas herramientas son capaces de generar imágenes de alta calidad con iluminación realista, aún luchan con los detalles más pequeños.
Quizás lo más famoso sea que los sujetos "humanos" en el arte por IA suelen tener el número incorrecto de dedos. Tal vez el resto de la imagen parezca convincente a simple vista, pero al mirar las manos, notarás seis, siete u ocho dedos en cada una. O tal vez sea lo contrario, y la mano tenga tres dedos, dos de los cuales se fusionan en uno. En cualquier caso, los dedos y las manos a las que están unidos suelen estar mal. Pero mientras los dedos son lo que la IA es más famosa por hacer mal, sus problemas no se limitan a las manos. Cualquier patrón repetitivo, especialmente cuando se trata de detalles con humanos, puede generarse incorrectamente en el arte por IA. Echa un vistazo a los dientes de un sujeto en una imagen: A veces hay demasiados, o parecen distorsionados de una manera que nunca lo estarían normalmente. La mayoría de nosotros no tenemos sonrisas perfectas, pero los dientes de la IA están en otro nivel.
Es posible que incluso veas a un sujeto con un miembro extra: Estarás
Pero no es solo el tema: Todo en la imagen está a disposición de esta mezcla. Mire la imagen que generé con DALL-E a continuación. El tablero de juego es ondulado, con partes del tablero que se transforman en otras partes, y las piezas que se funden con las baldosas. Los dientes de la mujer de la derecha se están aplastando todos juntos, mientras que las mangas de la otra mujer se están doblando hacia adentro. (Sin mencionar que sus dedos se funden en uno.)
Ask DALL-E to generate a map, and it does to some degree of accuracy, albeit with "AI writing."Credit: Jake Peterson/OpenAI
Prompta: "Generar una imagen de un grupo de amigos sonriendo mientras juegan un juego de mesa".Crédito: Jake Peterson/OpenAI## Crítica a la escritura
El AI puede generar texto, pero a menudo no puede escribir bien en una imagen. En muchos casos, el arte de AI que incorpora escritura a menudo parece raro. A veces, es un logotipo que se parece a su contraparte del mundo real, pero no llega del todo. (Puede decir que está tratando de decir Coca-Cola, pero todas las letras están confundidas.) Otras veces, parece alguien tratando de inventar un idioma, o cómo se siente al tratar de leer algo en un sueño. (De hecho, muchas de estas imágenes de AI tienen una calidad onírica, al menos para mí.)
Ahora, este lado del arte de AI está mejorando rápidamente. Tanto DALL-E como Meta AI pudieron generar una imagen de un pastel que dice "FELIZ CUMPLEAÑOS KAREN" sin problemas horribles. Eso sí, el de Meta no era perfecto: La segunda "P" en "FELIZ" parecía una "Y", mientras que la "A" en "KAREN" tenía dos líneas en lugar de una. Pero es importante tener en cuenta que estas imágenes salen mejor cuando se pide específicamente al AI que las escriba: Cuando se le deja a su aire, la escritura a menudo parece extraña, por lo que si quien creó la imagen no pensó en arreglarlo, puede ser un indicio obvio.
Pida a DALL-E que genere un mapa, y lo hace hasta cierto punto de precisión, aunque con "escritura de AI".Crédito: Jake Peterson/OpenAI## Busque cosas que simplemente no tienen sentido
Al final del día, el arte de AI no sabe realmente nada. Está produciendo arte basado en las relaciones que ha forjado a partir de todos sus datos de entrenamiento. No sabe cómo se construye realmente un edificio, cómo se juega al tenis o cómo se mueve una mano humana. Extrae de su entrenamiento para replicar estos pedidos lo mejor que puede. Si se mira lo suficiente, se pueden ver estas lagunas en el conocimiento que aparecen en todo el arte de AI, especialmente en las imágenes con mucho en juego.
Tomemos esta imagen como ejemplo: Le pedí a DALL-E que generara una imagen de una fiesta en el sótano, con personas jugando al beer pong, bebiendo de vasos rojos de plástico y charlando. De entrada, hay algunos problemas importantes: Los ojos de las personas en el cuadro están mostly mal; la mano del hombre que juega al beer pong está mal; y ¿por qué está tirando pelotas de ping pong desde un lado de la mesa? Hablando de la mesa, está ondulada y se dobla de una manera que no lo haría una mesa real, y hay dos conjuntos de copas en un lado de la mesa por alguna razón.
Prompt: "Generate an image of a basement party: People play beer bong, drink from red solo cups, and chat."Credit: Jake Peterson/OpenAI
Mire hacia el fondo, y las cosas se ponen aún más raras. Un hombre parece estar arrodillado, bebiendo de su vaso rojo como si fuera una botella. El hombre detrás de él parece tener una lata azul dentro de su vaso rojo, como si el vaso fuera un koozie. La persona detrás de él parece tener su rostro Photoshop en él, borroso como el sujeto es.
Prompta: "Generar una imagen de una fiesta en el sótano: la gente juega al beer pong, bebe de vasos rojos de plástico y charla".Crédito: Jake Peterson/OpenAIIncluso los ejemplos oficiales de las empresas que hacen estas herramientas tienen estas inconsistencias lógicas. OpenAI tiene una imagen divertida de un aguacate en terapia para mostrar DALL-E 3.
Crédito: OpenAIEl aguacate tiene un hueso hueco y está quejándose con el terapeuta, que es una cucharilla, de sentirse vacío por dentro. Es una buena broma, pero mire la libreta del terapeuta: están escribiendo al revés, con las páginas hacia afuera. DALL-E ha visto suficientes imágenes de terapeutas para saber qué herramientas suelen usar para escribir notas, pero no entiende que nosotros los humanos Usually write on the paper, not the clipboard.
Por supuesto, las publicaciones de AI que se vuelven virales en sitios de redes sociales como Facebook a menudo no tienen sentido en absoluto. ¿Quién está construyendo esculturas de gatos con galletas Oreo? ¿Por qué hay tantos artistas tristes haciendo castillos de arena de Jesús? El arte puede ser imaginativo, pero el arte de AI es particularmente extraño, tanto en los detalles menores como en los temas más amplios.
Brillo de AI
Después de ver imágenes de AI durante un tiempo, comienza a notar algo peculiar, especialmente entre las imágenes fotorrealistas: Todo está brillante. Las imágenes de AI a menudo tienen lo que algunos llaman "brillo de AI", un brillo que puede delatar el origen de la imagen si sabe lo que está buscando. Las imágenes suelen estar sobreexpuestas o presentan una iluminación dramática, lo que hace que los sujetos sean particularmente brillantes.
Credit: OpenAI
Después de un tiempo, miras una foto como la de abajo y sabes instantáneamente que fue hecha con AI, solo por su aspecto. (Incluso si las manos del sujeto no están mal, también.)
Mientras estos consejos pueden ser relevantes hoy, la tecnología de IA continúa avanzando y mejorando, y es posible que estos consejos sean inútiles en el futuro cercano. La IA ya es mejor para escribir, ¿quién dice que no encontrará una manera de generar manos realistas cada vez? ¿O de evitar que los elementos de la foto semezclen? ¿O de dejar de agregar cosas extrañas a los fondos de las imágenes? Y aunque los consejos anteriores son actualmente útiles para imágenes fotorrealistas, puede ser más difícil identificar la obra de arte generada por IA: estas piezas pueden tener los mismos defectos que se mencionaron anteriormente, pero es más fácil enmascarar esas inconsistencias con "pintura", que suele estar mezclada, ser menos realista y estar más abierta a la interpretación.
A medida que nos adentramos en un año electoral particularmente tumultuoso, será más importante que nunca activar tu radar de tonterías mientras navegas por internet. Antes de impresionarte con la obra de arte detallada de alguien o de enojarte con una imagen ofensiva, piensa dos veces: ¿esta imagen es incluso real?
A pesar de los avances en la tecnología de IA, todavía es posible identificar imágenes generadas por IA con signos de imperfección. Uno de estos indicios es el error frecuente en la representación de los dedos humanos, que a menudo resulta en demasiados o dígitos mal formados. Otro problema común es la mezcla de elementos dentro de la imagen, lo que crea una apariencia irreal.
Dado esto, las empresas tecnológicas están trabajando en soluciones de marca de agua para los medios producidos por IA para garantizar la transparencia y la autenticidad. Sin embargo, la mayoría de la obra de arte de IA que circula en línea sigue sin identificar, lo que hace que sea crucial desarrollar una conciencia de estas señales reveladoras para evitar ser engañado por la desinformación que se difunde a través de imágenes de IA.
