Ferramentas de IA de OpenAI e Microsoft geram imagens eleitorais enganosas, dizem pesquisadores

“O potencial de tais imagens geradas por IA servirem como ‘evidências fotográficas’ poderia exacerbar a propagação de alegações falsas, representando um desafio significativo para a preservação da integridade das eleições”, afirmaram os investigadores do CCDH no relatório.

O CCDH testou ChatGPT Plus da OpenAI, Image Creator da Microsoft, Midjourney e DreamStudio da Stability AI, que podem gerar imagens a partir de requisições do usuário de texto.

O relatório segue um anúncio no mês passado de que OpenAI, Microsoft e Stability AI estavam entre um grupo de 20 empresas de tecnologia que assinaram um acordo para trabalhar em conjunto para evitar que conteúdo enganoso de IA interfira nas eleições que ocorrem em todo o mundo este ano. O Midjourney não estava no grupo inicial de signatários.

O CCDH disse que as ferramentas de IA geraram imagens em 41% dos testes dos pesquisadores e foram mais suscetíveis a solicitações que pediam fotos que retratassem fraudes eleitorais, como cédulas de votação no lixo, em vez de imagens de Biden ou do ex-presidente dos EUA Donald Trump.

O ChatGPT Plus e o Image Creator conseguiram bloquear todos os pedidos quando solicitadas imagens de candidatos, disse o relatório.

No entanto, o Midjourney teve o pior desempenho entre todas as ferramentas, gerando imagens enganosas em 65% dos testes dos pesquisadores, disse.