OpenAI pode marcar o texto da IA com '99.9% de certeza', mas não vai (ainda)
A empresa-mãe do ChatGPT, a OpenAI, aparentemente vem guardando uma forma de marcar textos gerados por IA há mais de um ano, segundo o Wall Street Journal. Tal tecnologia seria uma bênção para professores, pesquisadores e praticamente qualquer um que queira garantir que o que estão lendo veio de uma pessoa real, mas a empresa está preocupada que ela possa ser contornada e que isso possa prejudicar os negócios.
"Tecnologia que pode detectar texto escrito por inteligência artificial com 99,9% de certeza tem sido debatida internamente há dois anos", escreveu o WSJ sobre a OpenAI, dizendo que a tecnologia está essencialmente pronta e funcionaria ajustando o modelo para seguir um padrão detectável. O veículo diz que a empresa não acha que a ferramenta de marcação reduziria a qualidade da saída do ChatGPT, mas que está preocupada que detectar e marcar texto gerado pelo ChatGPT possa desanimar quase 30% dos usuários, que supostamente disseram à OpenAI que seriam menos propensos a usar o ChatGPT se o texto gerado fosse marcado.
Em resposta ao relatório do WSJ, a OpenAI publicou um blog confirmando que vem estudando a marcação internamente, mas que, embora tenha sido "muito precisa e mesmo eficaz contra manipulações localizadas, como parafrasear", é menos útil com texto que foi traduzido ou reescrito usando um modelo externo. Também é vulnerável a hacks como adicionar caracteres aleatórios e depois excluí-los, o que a OpenAI diz que torna "trivial o contorno por atores mal-intencionados". Como alternativa, a empresa está explorando o uso de metadados para marcar texto gerado por IA, que diz ter a vantagem de "não ter falsos positivos". A empresa já usa metadados para marcar imagens geradas por IA, como mostrado em um exemplo em seu post no blog.
Seja qual for o método que a empresa usar, a demanda por um que venha o mais rápido possível está clara. De acordo com uma pesquisa encomendada pelo WSJ, "as pessoas em todo o mundo apoiaram a ideia de uma ferramenta de detecção de IA por uma margem de quatro para um".
A Google já usa marcação para texto gerado por IA, como explicado durante este ano's Google I/O.
A tecnologia de marcação de texto gerado por IA desenvolvida pela OpenAI poderia beneficiar significativamente professores e pesquisadores ao auxiliar na verificação da autenticidade das fontes de texto. No entanto, a empresa está preocupada que os usuários possam achar o texto marcado menos atraente e possam diminuir o uso da plataforma.
Em um cenário semelhante, a Google já implementou a marcação para texto gerado por IA, demonstrando seu potencial no campo da detecção e prevenção de plágio de IA.
Leia também:
- A Telefónica pretende lançar no mercado a telefonia por holograma
- vzbv: As empresas de Internet continuam a fazer batota apesar da proibição
- A Telefónica prevê o lançamento no mercado da telefonia por holograma em 2026
- Quase nenhuma melhoria no equilíbrio ecológico dos sistemas informáticos do governo federal
){kind=link}