Deepfake: o que é proibido e como usar avatar com cuidado

Deepfake é um vídeo, imagem ou áudio em que o rosto ou a voz de uma pessoa real é gerado ou alterado por IA para mostrar algo que ela não fez ou não disse. No GenBrasil, é proibido gerar deepfake de pessoa real sem consentimento, fazer alguém "dizer" algo de um jeito que engane e fazer propaganda política com pessoa real. Avatar e foto que fala são permitidos com a sua própria imagem, com um personagem criado ou com a autorização de quem aparece.

Avatar não é deepfake (quando feito do jeito certo)

A tecnologia é a mesma: um modelo anima um rosto e sincroniza a boca com uma fala. O que separa um uso legítimo de um deepfake é de quem é o rosto, se a pessoa concordou e se quem assiste pode ser enganado.

O retrato da capa deste post é de uma mulher criada por IA, que não existe. Esse é o caminho mais tranquilo para quem quer um rosto falando sem envolver ninguém.

O que os Termos do GenBrasil proíbem

A seção 9 dos Termos de Uso lista o que não pode ser gerado nem tentado, por nenhum meio. Resumindo os pontos que tocam em deepfake:

• imagem ou vídeo de uma pessoa real sem o consentimento dela, especialmente de caráter sexual, difamatório ou enganoso;
• fazer uma pessoa real "falar" ou aparecer fazendo algo que não fez, com o rosto ou a voz dela, sem consentimento ou de forma que possa enganar quem assiste;
• propaganda política ou eleitoral com rosto, voz ou imagem de pessoa real, e conteúdo que imite autoridade, empresa ou pessoa pública para enganar;
• golpe, fraude, falsa identidade ou falsificação de documento;
• nudez e conteúdo sexual explícito, qualquer conteúdo com menores de idade e violência real.

Repare em dois detalhes. Primeiro, o consentimento sozinho não basta se o vídeo for feito para enganar. Segundo, propaganda política com pessoa real é vetada em qualquer caso.

Como o estúdio pede confirmação a cada uso

Três recursos mexem com vídeo, foto ou voz que você envia: Editar um vídeo, Melhorar qualidade e Foto que fala. Neles, antes de cada pedido, o estúdio mostra uma caixa de confirmação. Ao marcar, você declara que:

1. tem os direitos sobre o arquivo enviado;
2. tem autorização das pessoas que aparecem ou falam nele;
3. não vai usar o resultado para enganar, difamar, aplicar golpe ou fazer propaganda política.

Essa confirmação fica registrada no próprio pedido. Pelos Termos, o GenBrasil guarda o pedido, a data e a conta que gerou cada vídeo, para atender obrigações legais e investigar abusos. Pedidos que violem as regras podem levar ao bloqueio da conta, e a empresa colabora com as autoridades quando a lei exige.

Outras proteções do dia a dia:

• Vídeos e áudios enviados ficam 7 dias e são apagados; o resultado fica na sua galeria.
• Alguns modelos recusam conteúdo sozinhos. Nos testes, o Seedance recusou vídeo de referência com pessoa realista. Quando um modelo recusa um pedido por conteúdo, os créditos voltam.
• Uso comercial só vale para vídeos feitos com créditos comprados ou plano pago, sempre sob responsabilidade de quem publica pelo conteúdo e pelos direitos de terceiros.

Responsabilidade fora do estúdio

Os Termos dizem que o GenBrasil não responde pelo conteúdo que você gera nem pelo uso que você faz dele. Fora do estúdio, deepfake enganoso pode gerar responsabilidade para quem cria e para quem divulga, e eleições têm regras próprias sobre propaganda, que mudam de tempos em tempos. Este texto não é orientação jurídica: se o seu caso envolve imagem de terceiros, contrato, campanha ou anúncio, procure um profissional da área.

Boas práticas para usar avatar com responsabilidade

• Prefira personagem criado ou a sua própria imagem. Não depende de autorização de ninguém e evita confusão.
• Peça autorização por escrito e específica. O que a pessoa vai dizer, onde o vídeo vai aparecer e por quanto tempo.
• Mostre a fala antes de gerar. Quem autorizou deve saber exatamente o texto.
• Respeite quando a autorização acabar. Se a pessoa pedir para tirar o vídeo do ar, tire.
• Não use voz de outra pessoa no seu rosto, nem o contrário, sem que ambos saibam.
• Avise que é IA. Na legenda, na descrição ou num texto curto no vídeo.

Frases prontas para o aviso:

Este apresentador é um avatar criado com inteligência artificial.

Vídeo feito com IA a partir da foto e da voz de [nome], com autorização.

Personagem fictício. Fala gerada com IA.

Mais formas de sinalizar em como avisar que o vídeo foi feito com IA.

Checklist antes de publicar um vídeo com avatar

• O rosto é meu, de um personagem criado ou de alguém que autorizou.
• A voz é minha, uma voz pronta do estúdio ou de alguém que autorizou.
• A pessoa conhece o texto exato e onde o vídeo vai aparecer.
• Não há criança, famoso, político nem autoridade no vídeo.
• Ninguém que assistir vai achar que a pessoa disse aquilo de verdade sem ter dito.
• O vídeo avisa que foi feito com IA.
• Se é para vender, foi gerado com créditos comprados ou plano pago.
• Li a seção 9 dos Termos.

Erros comuns

• "É só brincadeira." Humor com rosto de pessoa real sem autorização continua proibido, inclusive com famosos.
• Autorização verbal e vaga. "Pode usar minha foto" não diz para quê. Combine o uso.
• Achar que personagem parecido com alguém é personagem criado. Retrato feito para lembrar uma pessoa conhecida é imitação: evite, e se a ideia for enganar, os Termos proíbem.
• Esconder o aviso de IA no fim de uma legenda longa ou nos últimos segundos.
• Reaproveitar a foto de um ex-funcionário sem conversar com ele.

Se você quer um rosto fixo para a sua marca, o guia de apresentador virtual para os vídeos da empresa mostra como montar um do jeito certo, e como fazer uma foto falar com IA explica o recurso em detalhe. Para testar, comece pelo plano Free, sem cartão.

Perguntas frequentes

Deepfake é crime?

Depende do caso e das leis que se aplicam, por isso vale procurar orientação jurídica. Deepfake enganoso pode gerar responsabilidade para quem cria e quem divulga. No GenBrasil, deepfake de pessoa real sem consentimento é proibido pelos Termos e pode levar ao bloqueio da conta.

Posso fazer um avatar de IA com a minha própria foto?

Sim. Use Foto que fala com a sua foto e o seu áudio ou uma das vozes prontas. O estúdio pede a confirmação de direitos a cada vídeo, e é boa prática avisar que o vídeo foi feito com IA.

Posso usar a foto de um famoso se for só para brincar?

Não. Os Termos do GenBrasil proíbem usar rosto ou voz de pessoa real sem consentimento, e isso inclui famosos e políticos, com ou sem intenção de humor.