Em outubro, um vídeo no TikTok simulava uma entrevista sobre o vale-alimentação dos EUA.As mulheres no vídeo não eram reais, e a conversa nunca aconteceu. O conteúdo foi gerado por inteligência artificial. Mesmo assim, muitos usuários acreditaram que era verdadeiro. Nos comentários, a mulher foi acusada de crime e alvo de ataques racistas. Outros aproveitaram para criticar programas de assistência social. O vídeo surgiu durante o debate sobre cortes no programa, propostos por Donald Trump. Ferramentas como o Sora, da OpenAI, permitem criar vídeos realistas com facilidade. Desde o lançamento do Sora, conteúdos enganosos se espalharam nas redes sociais. Especialistas alertam para uma nova onda de desinformação digital. Plataformas exigem que vídeos com IA sejam identificados, mas as regras falham. Parte do conteúdo visa apenas humor, mas outros inflamam debates políticos.
Vídeos falsos já foram usados em campanhas de influência estrangeira. Pesquisadores cobram mais ação das plataformas para diferenciar o real do falso. A Fox News chegou a divulgar um vídeo falso e depois o retirou do ar. Outros vídeos enganosos zombaram tanto de pessoas pobres quanto de Trump. Plataformas dependem da boa-fé dos criadores para rotular conteúdos de IA. Mesmo quando há marcas-d’água, muitos usuários não percebem. Empresas de IA afirmam inserir sinais visíveis e invisíveis nos vídeos. Algumas plataformas usam esses dados para alertar o público. Ainda assim, rótulos costumam aparecer tarde demais ou nem aparecem. Criadores mal-intencionados burlam marcas e metadados. Segundo análise, a maioria dos usuários reagiu como se o vídeo fosse real. A OpenAI diz proibir usos enganosos e defende ação conjunta do setor. Especialistas afirmam que, por enquanto, as redes lucram com esse conteúdo.
Nenhum comentário:
Postar um comentário