Todos os Modos de Contar que uma Imagem foi Feita com Inteligência Artificial

Todas as maneiras de dizer que uma imagem foi feita com IA

Este artigo faz parte da série “Expondo a IA” do Lifehacker. Estamos explorando seis tipos diferentes de mídia gerada por IA e destacando as peculiaridades, subprodutos e marcas registradas comuns que ajudam a diferenciar o conteúdo criado por IA do criado por humanos.

A arte gerada por IA não é mais apenas uma ideia: ela está em toda parte, e você provavelmente já encontrou algum tipo dela, mesmo que não soubesse. A arte gerada por IA já ganhou prêmios (embora sob controvérsia), foi usada em filmes da Netflix (novamente enfrentando críticas) e já enganou números incontáveis de usuários do Facebook com imagens falsas de bebês, Jesus e legumes. Ela não vai a lugar algum tão cedo.

À medida que a tecnologia para gerar imagens continua a melhorar, é mais importante do que nunca aprender a identificar essas imagens geradas por IA, para que você não seja enganado por fotos falsas de outra pessoa. Pode parecer inofensivo não pensar duas vezes em uma imagem gerada por IA de alguns patos, mas quando atores mal-intencionados espalham desinformação através de imagens geradas por IA, as implicações são graves. As empresas que fazem geradores de imagens geradas por IA estão trabalhando em maneiras de "marcar" as imagens produzidas por IA, mas ainda não chegamos lá. A maioria das artes geradas por IA online está circulando sem uma etiqueta clara que avise os usuários de que as imagens não são reais. Enquanto isso, essas dicas podem ajudar você a identificar essas imagens falsas quando elas aparecerem em sua timeline.

Como os geradores de arte gerada por IA funcionam

É fácil dar uma olhada em uma peça de arte gerada por IA e supor que o gerador que a produziu simplesmente costurou a peça a partir de uma série de imagens em sua base de dados. Isso não é realmente o que está acontecendo aqui.

Os geradores de arte gerada por IA são, de fato, treinados em grandes conjuntos de dados de imagens, de arte a fotografias. No entanto, essas ferramentas não "veem" essas imagens da mesma forma que os humanos. Em vez disso, elas desmontam essas imagens pixel a pixel. Não vai ver uma maçã; vai ver um grupo de pixels e seus valores. Com o tempo, vai aprender que esse agrupamento desses valores de pixel específicos tende a ser uma maçã. Treine a IA em imagens suficientes com contexto suficiente, e ela começará a traçar linhas entre todos os tipos de objetos e estilos. Ela entenderá como renderizar frutas, animais e pessoas, bem como estilos de arte, cores e humores.

Os geradores de imagem gerada por IA modernos, como o DALL-E, usam o que é conhecido como difusão para aprender e gerar imagens. Grundsätzlich werden sie ein Trainingsbild nehmen und visuelles Rauschen (etwa statisches Rauschen) hinzufügen, bis das gesamte Bild bedeutungslos ist. Die Idee besteht darin, zu verstehen, wie das Bild durch das Hinzufügen von Rauschen an jedem Schritt beeinflusst wird: Von hier aus versucht es das Gegenteil, seine eigene Version des ursprünglichen Bildes aus nichts außer Rauschen zu erstellen, was die IA trainiert, Bilder aus dem Nichts zu erstellen.

Isso é uma explicação extremamente simplificada, mas é importante saber a ideia fundamental de que esses geradores estão tirando partido de uma enorme base de relações aprendidas. Isso torna possível renderizar cenas complexas em segundos, mas também é o que resulta nas peculiaridades estranhas que podem nos ajudar a identificar uma imagem gerada por IA de uma real.

Todos os Maneiras de Contar que uma Imagem Foi Feita com Inteligência Artificial

Prompt: "Generate an image of a group of friends smiling at each other while playing a board game."Credit: Jake Peterson/OpenAI

Conte os dedos

A arte gerada por IA está ficando melhor, mas ainda não é perfeita. Enquanto essas ferramentas são capazes de gerar imagens de alta qualidade com iluminação realista, ainda lutam com detalhes menores.

perhaps most famously, "human" subjects in AI art tend to have the wrong number of fingers. Maybe the rest of the image seems convincing on first glance, but look at the hands, and you'll notice six, seven, or eight fingers on each. Or maybe it's the opposite, and the hand has three fingers, two of which are morphing into one. In any case, fingers and the hands they're attached to are often messed up.

But while fingers are what AI is most famous for getting wrong, its issues don't stop at the hands. Any repeating patterns, especially when it concerns details with humans, can be generated incorrectly with AI art. Take a look at a subject's teeth in an image: Sometimes, there are way too many, or look distorted in a way they never normally would be. Most of us don't have perfect smiles, but AI teeth are on another level.

You may even see a subject with an extra limb: You'll be looking at an image, wondering what seems off about it, when all of a sudden you notice the subject's third arm coming out of their sweatshirt.

Vox has a great video exploring why AI struggles with these repeating elements, but, essentially, it comes down to a lack of experience on the AI's part. These tools are trained on a huge amount of data, but when it comes to something complicated, like hands, the data it does have doesn't provide enough context for the bot to know how to properly and realistically generate the element. It doesn't know how hands actually work—it can only pull from the hands it does see. We're experiencing the limits of that knowledge here.

Observe o mistura de elementos

Todos os Meios de Contar que uma Imagem Foi Feita com IA

Ask DALL-E to generate a map, and it does to some degree of accuracy, albeit with "AI writing."Credit: Jake Peterson/OpenAI

Olhe para muitas artes geradas por IA, e você vai notar algo estranho: as coisas se misturam e se transformam em outras em todos os lugares. Já mencionei que isso acontece com os dedos, mas pode acontecer com muitos outros elementos do assunto, incluindo dentes se transformando em outros dentes, roupas se misturando com elas mesmas e olhos que parecem sangrar para outras partes da cabeça do assunto.

Mas não são apenas os assuntos: Tudo na imagem está sujeito a essa mistura. Veja a imagem que eu gerenei com o DALL-E abaixo. O tabuleiro de jogo é ondulado, com partes do tabuleiro se transformando em outras partes, e peças se misturando com as peças. Os dentes da mulher à direita estão todos espremidos juntos, enquanto as mangas da outra mulher estão dobrando para dentro. (Sem mencionar que seus dedos estão se misturando em um.)

Prompts: "Gerar uma imagem de um grupo de amigos sorrindo um para o outro enquanto jogam um jogo de tabuleiro."

Crítica à escrita

O AI pode gerar texto, mas muitas vezes não consegue escrever bem em uma imagem. Em muitos casos, a arte do AI que incorpora escrita muitas vezes parece estranha. Às vezes, é um logotipo que se parece com seu semelhante no mundo real, mas não chega lá. (Você pode perceber que está tentando dizer Coca-Cola, mas todas as letras estão se misturando.) Outras vezes, parece alguém tentando criar uma linguagem, ou como é tentar ler algo em um sonho. (Na verdade, muitos desses AI imagens têm uma qualidade onírica, pelo menos para mim.)

Agora, esse lado da arte do AI está melhorando rapidamente. Tanto o DALL-E quanto o Meta AI foram capazes de gerar uma imagem de um bolo que diz "FELIZ ANIVERSÁRIO KAREN" sem nenhum problema horrível. No entanto, o do Meta não era perfeito: O segundo "P" em "FELIZ" parecia mais um "Y", enquanto o "A" em "KAREN" tinha duas linhas atravessando em vez de uma. Mas é importante notar que essas imagens saem melhores quando você especifica ao AI para escrevê-las: Quando deixado por conta própria, a escrita muitas vezes parece estranha, então, se quem criou a imagem não pensou em consertar, pode ser um sinal óbvio.

Peça ao DALL-E para gerar um mapa, e ele o faz até certo ponto de precisão, embora com "escrita do AI". Crédito: Jake Peterson/OpenAI## Procure coisas que simplesmente não fazem sentido

Todas as Formas de Reconhecer se uma Imagem Foi Feita com Inteligência Artificial

Prompt: "Generate an image of a basement party: People play beer bong, drink from red solo cups, and chat."Credit: Jake Peterson/OpenAI

No final das contas, a arte do AI não sabe de nada. Está produzindo arte com base nas relações que estabeleceu com todos os seus dados de treinamento. Não sabe como uma construção é realmente construída, como se joga tênis ou como uma mão humana se move. Se você olhar de perto o suficiente, pode ver essas lacunas no conhecimento aparecendo em toda a arte do AI, especialmente em pictures com muito acontecendo.

Leve em conta esta imagem, por exemplo: Eu pedi ao DALL-E para gerar uma imagem de uma festa na adega, com pessoas jogando beer pong, bebendo em copos vermelhos Solo e conversando. Logo de cara, há alguns problemas sérios: Os olhos das pessoas na moldura estão principalmente fora; a mão do homem jogando beer pong está estragada; e por que ele está jogando bolas de pingue-pongue do lado da mesa? Falando na mesa, ela é ondulada e distorcendo de uma forma que uma mesa real não faria, e há dois conjuntos de copos de um lado da mesa por algum motivo.

Olhe em direção ao fundo, e as coisas ficam ainda mais esquisitas. Um homem parece estar ajoelhado, bebendo sua xícara vermelha como se fosse uma garrafa. O homem atrás dele parece ter uma lata azul dentro de sua xícara vermelha, como se a xícara fosse um koozie. A pessoa atrás dele parece ter sua face Photoshopada, borrada como o assunto é.

Prompt: "Gerar uma imagem de uma festa na adega: Pessoas jogam beer pong, bebem em copos vermelhos Solo e conversam." Crédito: Jake Peterson/OpenAIAté mesmo os exemplos oficiais das empresas que fazem essas ferramentas têm essas inconsistências lógicas. A OpenAI tem uma imagem engraçada de um abacate no terapeuta para mostrar o DALL-E 3.

Crédito: OpenAIO abacate tem uma semente escavada e está reclamando com o terapeuta, que é uma colher, sobre se sentir vazio por dentro. É uma boa piada, mas olhe para o bloco de notas do terapeuta: Eles estão escrevendo nele ao contrário, com as páginas viradas para fora. O DALL-E viu o suficiente de imagens de terapeutas para saber quais ferramentas eles geralmente usam para escrever, mas não entende que nós humanos geralmente escrevemos no papel, não no clipe.

É claro que os posts do AI que viralizam em sites de mídia social como o Facebook muitas vezes não fazem sentido nenhum. Quem está construindo esculturas de gatos com biscoitos Oreo? Por que há tantos artistas tristes fazendo castelos de areia de Jesus? A arte pode ser imaginativa, mas a arte do AI é particularmente estranha, tanto nos detalhes menores quanto nos temas maiores.

Brilho do AI

Todas as Formas de Descrever uma Imagem Feita Com IA

Credit: OpenAI

Depois de olhar para as imagens do AI por um tempo, você começa a notar algo peculiar, especialmente entre as fotos fotorrealistas: Tudo brilha. As imagens do AI muitas vezes têm o que alguns chamam de "brilho do AI", um brilho que pode revelar a origem da foto se você souber o que procurar. As imagens geralmente estão sobreexpostas ou apresentam iluminação dramática, o que deixa os sujeitos particularmente brilhantes.

Depois de um tempo, você olha para uma foto como a abaixo e sabe instantaneamente que foi feita com AI, apenas pela maneira como ela parece. (Mesmo que as mãos do assunto não estivessem fora, também.)

Enquanto esses conselhos podem ser relevantes hoje, a tecnologia de IA está em constante evolução e melhora, e pode tornar esses conselhos obsoletos em breve. A IA já é melhor em escrever, então quem sabe ela não vai encontrar uma forma de gerar mãos realistas a cada vez? Ou de evitar que elementos na foto se misturem? Ou de parar de adicionar coisas estranhas aos fundos das imagens? E enquanto os conselhos acima são atualmente úteis para imagens fotorrealistas, pode ser mais difícil identificar obras de arte geradas por IA: Essas peças podem ter os mesmos defeitos mencionados acima, mas é mais fácil disfarçá-los com "tinta", que é frequentemente misturada, menos realista e mais aberta à interpretação.

À medida que entramos em um ano eleitoral particularmente tumultuado, será mais importante do que nunca ligar seu radar de besteira enquanto navega pela internet. Antes de se impressionar com a obra de arte elaborada de alguém, ou se enraivecer com uma imagem ofensiva, pense duas vezes: essa imagem é mesmo real?

Apesar dos avanços na tecnologia de IA, ainda é possível identificar imagens geradas por IA por sinais de imperfeição. Um desses indícios é o erro frequente na representação de dedos humanos, muitas vezes resultando em muitos ou dígitos com formato incorreto. Outro problema comum é a mistura de elementos dentro da imagem, criando uma aparência irreal.

Diante dessas peculiaridades, empresas de tecnologia estão trabalhando em soluções de marca d'água para mídia produzida por IA para garantir transparência e autenticidade. No entanto, a maioria das obras de arte geradas por IA que circulam online permanece não identificada, tornando crucial o desenvolvimento de uma conscientização desses sinais reveladores para evitar ser enganado por desinformação disseminada por meio de imagens geradas por IA.