Novos casos envolvendo imagens e vozes manipuladas por inteligência artificial mostram como a identidade de celebridades virou um ativo digital disputado.
A inteligência artificial está mudando a forma como celebridades aparecem na internet, mas também criando um problema que ultrapassa a fama: a falsificação da identidade digital. Nos últimos dias, autoridades e empresas de tecnologia voltaram a enfrentar casos envolvendo vídeos, imagens e vozes produzidos ou modificados por IA para fazer pessoas conhecidas parecerem dizer ou fazer algo que nunca aconteceu. Em 17 de setembro, autoridades de Manhattan anunciaram a apreensão de 12 sites associados à publicação de deepfakes envolvendo mais de 1.200 pessoas.
O cenário mostra por que o assunto interessa também a quem não é celebridade. Rostos conhecidos funcionam como uma espécie de selo de confiança em anúncios, vídeos e publicações, e criminosos podem explorar essa familiaridade para aumentar a credibilidade de conteúdos falsos. Ao mesmo tempo, novas ferramentas estão sendo desenvolvidas para monitorar o uso indevido de rostos e vozes. Em setembro, a startup indiana ContentLens anunciou uma plataforma de IA voltada justamente para identificar e acompanhar esse tipo de utilização nas redes sociais.
Por que a imagem dos famosos virou alvo da inteligência artificial?
A evolução dos modelos generativos tornou mais fácil produzir conteúdos nos quais uma pessoa parece estar falando diante de uma câmera, fazendo uma recomendação ou participando de uma situação que nunca ocorreu. O problema não está apenas na qualidade visual. A combinação de rosto, voz, movimentos e edição pode criar uma narrativa suficientemente convincente para quem recebe o material fora de seu contexto original.
Celebridades são especialmente atraentes para esse tipo de falsificação porque já possuem reconhecimento público. Quando um anúncio utiliza o rosto de uma pessoa famosa, o usuário pode associar automaticamente aquela imagem a autoridade, sucesso ou confiança. Essa estratégia aparece em diferentes tipos de fraude, incluindo anúncios falsos e falsas recomendações de produtos ou serviços. Um alerta publicado em setembro descreveu justamente o crescimento de golpes que utilizam a imagem de personalidades conhecidas para tornar ofertas fraudulentas mais convincentes.
No Brasil, um caso envolvendo Xuxa também chamou atenção em setembro. Vídeos manipulados com inteligência artificial circularam utilizando a imagem e a voz da apresentadora em uma mensagem que não havia sido produzida por ela. O episódio mostrou como uma personalidade conhecida pode ter sua identidade digital utilizada para transmitir uma mensagem completamente diferente de sua comunicação real.
Esse tipo de situação cria um novo desafio para as próprias celebridades. Não basta mais proteger contas de redes sociais ou evitar que alguém copie uma fotografia. É necessário acompanhar como o rosto, a voz e outros elementos da identidade estão sendo reproduzidos em diferentes plataformas. A identidade digital passou a ter uma dimensão tecnológica que não existia da mesma maneira antes da popularização da IA generativa.
Como a tecnologia está tentando combater os deepfakes de celebridades?
Uma das respostas mais recentes vem de sistemas capazes de procurar automaticamente sinais de uso indevido da identidade. A ContentLens anunciou em 22 de setembro uma plataforma que cria uma assinatura biométrica para a celebridade protegida e monitora redes sociais em busca de possíveis usos não autorizados de rosto, voz e identidade visual. Quando encontra um possível caso, o sistema pode alertar as equipes responsáveis e reunir evidências para uma eventual contestação.
A proposta revela uma mudança importante: a própria inteligência artificial está sendo utilizada para enfrentar conteúdos criados por inteligência artificial. Em vez de depender exclusivamente de denúncias manuais, equipes podem utilizar sistemas automatizados para acompanhar grandes volumes de publicações. Isso é particularmente relevante para personalidades com presença em várias redes, onde a quantidade de vídeos, imagens e anúncios publicados diariamente torna impossível uma fiscalização totalmente manual.
As plataformas também estão ampliando mecanismos de identificação. O Instagram, por exemplo, anunciou em setembro uma mudança na forma como sinaliza perfis construídos em torno de pessoas geradas artificialmente, substituindo a identificação anterior por uma indicação mais explícita de perfil gerado por IA. A medida procura reduzir a possibilidade de que usuários confundam uma identidade artificial com uma pessoa real.
Ainda assim, a tecnologia não elimina completamente o problema. Sistemas de detecção podem encontrar dificuldades diante de conteúdos modificados, republicados ou combinados com materiais verdadeiros. Por isso, a proteção da identidade digital depende de uma combinação de monitoramento tecnológico, mecanismos de denúncia, atuação das plataformas e atenção dos próprios usuários.
O que os usuários devem observar diante de vídeos de famosos?
A principal mudança de comportamento provocada pelos deepfakes é simples, mas importante: uma imagem ou vídeo deixou de ser suficiente para comprovar que uma celebridade realmente fez determinada declaração. Quanto maior for a promessa apresentada no conteúdo, maior deve ser a necessidade de verificar a origem antes de acreditar ou compartilhar.
Uma publicação pode parecer autêntica e ainda assim ser falsa. Alterações na sincronização dos lábios, movimentos pouco naturais, mudanças estranhas na voz e cortes bruscos podem indicar manipulação, mas esses sinais não aparecem necessariamente em todos os conteúdos produzidos por IA. Por isso, uma verificação mais segura é procurar a mesma informação em canais oficiais da pessoa ou em veículos confiáveis.
Também é importante observar o contexto. Um vídeo isolado, publicado por uma conta desconhecida, pode ter sido retirado de uma entrevista real e receber uma nova dublagem ou edição. Da mesma forma, uma fotografia aparentemente espontânea pode ter sido criada artificialmente. Especialistas e ferramentas de análise vêm mostrando que a evolução da tecnologia torna cada vez mais difícil diferenciar determinados conteúdos apenas pela aparência.
Para empresas, o problema ganha outra dimensão. Uma falsa declaração de um famoso pode prejudicar campanhas, gerar reclamações e associar uma marca a uma mensagem que ela nunca autorizou. Para os criadores e celebridades, a ameaça envolve reputação e controle sobre a própria imagem. E para o público, o risco está principalmente em tomar decisões com base em uma informação fabricada.
A tendência é que essa disputa tecnológica continue crescendo. À medida que ferramentas generativas ficam mais sofisticadas, soluções de rastreamento e autenticação também devem evoluir. A identidade digital de celebridades tende a se transformar em um ativo que precisa ser monitorado quase como uma marca, com sistemas capazes de localizar cópias, identificar alterações e acelerar pedidos de remoção.
O caso também mostra uma mudança mais ampla no comportamento online. A internet entrou em uma fase na qual ver e ouvir alguém não significa necessariamente que aquela pessoa realmente participou daquele conteúdo. Para as celebridades, isso representa uma nova frente de proteção de imagem. Para empresas, aumenta a importância da verificação antes de utilizar ou compartilhar conteúdos. E para usuários comuns, reforça uma regra cada vez mais necessária no ambiente digital: antes de confiar em um vídeo viral, é preciso verificar de onde ele veio.
Fontes:
- Manhattan District Attorney’s Office / comunicado sobre a apreensão de 12 domínios de deepfake (Public Now)
- CBS New York — apreensão de sites de deepfake pelo Ministério Público de Manhattan
- WIRED — ação contra sites de deepfake de celebridades em Nova York
- Malwarebytes — investigação sobre sites de deepfake e uso de IA
- Conselho de Supervisão da Meta / cobertura sobre medidas contra deepfakes
