Pesquisadores têm expressado preocupação com o fato de que o conteúdo gerado por IA pode ser usado como arma de desinformação em períodos eleitorais. Os Estados Unidos terão eleições à presidência no final deste ano. A TikTok já faz parte de um grupo de 20 empresas de tecnologia que, no início deste ano, assinou um acordo comprometendo-se a combater a prática.
YouTube, bem como Meta, controladora do Instagram e do Facebook, também disseram que planejam usar a tecnologia de Content Credentials.
Para que o sistema funcione, tanto o criador da ferramenta de IA generativa usada para criar conteúdo quanto a plataforma usada para distribuir o conteúdo devem concordar em usar o padrão do setor.
Se uma pessoa usa a ferramenta Dall-E da OpenAI para gerar uma imagem, por exemplo, a OpenAI anexa uma marca d’água à imagem resultante. Se essa imagem for carregada no TikTok, ela será automaticamente rotulada como gerada por IA.
O TikTok já rotula o conteúdo gerado por IA feito com ferramentas dentro do aplicativo, mas a última medida aplicará um rótulo ao conteúdo gerado fora do serviço.
“Também temos políticas que proíbem a IA realista que não esteja rotulada, portanto, se a IA realista (conteúdo gerado) aparecer na plataforma, nós a removeremos por violar nossas diretrizes da comunidade”, disse Adam Presser, chefe de operações e segurança do TikTok.
