Após o ocorrido, a gigante de tecnologia sul-coreana proibiu seus funcionários de usarem a ferramenta. Essa postura está sendo repetida por várias organizações, inclusive brasileiras. Hoje em dia, explica Diogo, há diferentes tipos de licença para usar plataformas como o ChatGPT, inclusive aquelas voltadas para empresas que podem barrar o uso de dados pessoais para treinamento das máquinas.
4) Reinventando a história com IA
O quarto lugar vai para o Google, que suspendeu há alguns meses a opção de criação de imagens do Gemini, sua plataforma de IA generativa. O motivo? A ferramenta passou a criar imagens imprecisas do ponto de vista histórico. Tinha pessoas negras nazistas, mulheres representadas como Papa católicos e indígenas na figura de vikings ou dos fundadores dos Estados Unidos.
Se fosse escrito no prompt, não teria problema, porque é um processo criativo que seria utilizado para ilustrar uma série, um conto ou o que seja. Mas o fato não foi esse
Diogo Cortiz
As inconsistências ocorreram porque o Google tentou fazer sua criação de imagens com IA ser mais representativa. Habitualmente, essas plataformas criam estereotipadas. Ao pedir por líderes, elas provavelmente apresentam homens brancos, exemplifica Diogo. Ao tentar mudar esse quadro, o Google acabou criando erros históricos.
Eu gosto muito desse exemplo porque ele nos mostra como a IA está sujeita aos problemas que a gente enfrenta enquanto humanos. Temos um sério problema de desigualdade, há uma discussão de que tecnologias como essa podem aprofundar ainda mais essas questões, mas a solução não parece ser do ponto de vista tecnológico
Helton Simões Gomes
