Taylor Swift se tornou alvo de imagens explícitas falsas que circularam nas redes sociais nesta quinta-feira (25) e seus fãs rapidamente se uniram para ajudar a cantora.
Preocupados com a repercussão dos registros que foram gerados utilizando Inteligência Artificial, os swifties começaram a compartilhar uma série de fotos reais, obviamente não explícitas, da cantora, na tentativa de substituir as postagens com as imagens falsificadas que tomaram conta das pesquisas feitas no Twitter.
Além disso, os fãs de Taylor denunciaram as publicações com imagens ofensivas, fazendo com que muitas contas fossem banidas por compartilharem um conteúdo que viola as políticas da plataforma e ainda passaram a usar a hashtag “protect Taylor” (protejam a Taylor, em português), para chamar atenção do ocorrido.
Taylor Swift e imagens geradas por Inteligência Artificial
O caso envolvendo Taylor Swift acontece em meio às inúmeras discussões em relação às imagens e vídeos gerados a partir de IA e suas consequências negativas, como a disseminação de desinformação.
As regras do Twitter proíbem o compartilhamento de “mídia sintética, manipulada ou fora de contexto que possa enganar ou confundir as pessoas e causar danos” (via Digital Music News). Porém, sabemos que no momento em que uma imagem começa a circular, as chances dela ser excluída de forma definitiva é muito baixa.
Regulação das Redes
Apesar de suas diretrizes, o Twitter passou por uma série de mudanças após Elon Musk ter comprado a rede. Na nova gestão, a equipe de moderação foi reduzida drasticamente, e agora a análise de conteúdo depende basicamente de avisos dos próprios usuários e sistemas automatizados.
Sobre os riscos gerados pela falta de detecção de falsificações, Ben Decker, da agência de investigações digitais Memetica, declarou:
Isso é indicativo de um tipo maior de fratura na moderação de conteúdo e na governança da plataforma, porque se todas as partes interessadas – as empresas de IA, as empresas de mídia social, os reguladores e a sociedade civil – não estiverem falando sobre as mesmas coisas e na mesma página sobre como resolver essas questões, esse tipo de conteúdo continuará a proliferar.
Esperamos que a revoltante situação envolvendo Taylor Swift sirva como exemplo para atrair mais atenção para o cuidado em relação a disseminação de conteúdos falsos e desinformação nas redes sociais.