Responsabilidade jurídica no uso de IA: o caso das deepfakes

O avanço acelerado da inteligência artificial tem ampliado significativamente as possibilidades de criação, edição e circulação de conteúdos digitais, mas também tem exposto fragilidades importantes na proteção de direitos fundamentais. Ferramentas capazes de gerar imagens realistas a partir de poucos comandos levantam questões sensíveis sobre privacidade, consentimento e responsabilidade das plataformas, especialmente quando passam a ser utilizadas para fins abusivos. É nesse contexto que surgem os debates mais recentes envolvendo o uso de IA para a criação de imagens falsas sexualizadas, as ditas "deepfakes" e os limites jurídicos da inovação tecnológica.

O pedido do Instituto de Defesa de Consumidores para a suspensão do Grok reacende um debate central sobre os limites da inovação tecnológica quando ela passa a produzir danos concretos a direitos fundamentais. A ferramenta de inteligência artificial, vinculada à rede social X, vem sendo utilizada para gerar imagens falsas sexualizadas de mulheres e crianças sem consentimento, prática que, embora não seja nova, ganhou escala e visibilidade recentemente. O caso relatado de uma brasileira que teve sua imagem manipulada evidencia que o impacto dessas tecnologias não é abstrato: ele afeta diretamente a dignidade, a privacidade e a integridade das pessoas atingidas.

Questão das deepfakes passa por ética e jurídico

Do ponto de vista jurídico, o Idec sustenta que há um conjunto relevante de violações normativas. A ausência de salvaguardas mínimas de segurança, consentimento e prevenção de abusos caracteriza, segundo o instituto, um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor. Além disso, a prática pode configurar infrações à Lei Geral de Proteção de Dados, ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente e ao recém-aprovado ECA Digital, especialmente quando envolve imagens de menores. A atuação do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital demonstra que o tema ultrapassa a esfera privada e exige resposta coordenada do Estado.

O caso do Grok também revela um movimento internacional de maior rigor regulatório diante do uso irresponsável da inteligência artificial, com reações de autoridades da União Europeia, Reino Unido, França e Índia. Mais do que discutir censura ou inovação, o episódio reforça a necessidade de responsabilidade no desenvolvimento e na disponibilização dessas tecnologias. Quando uma ferramenta não consegue garantir níveis mínimos de proteção contra abusos previsíveis, sua interrupção temporária deixa de ser uma opção política e passa a ser uma exigência jurídica, sob pena de normalizar violações graves em nome do avanço tecnológico.

---

Saiba mais sobre Tecnologia & Direito

Garanta a segurança dos dados do seu escritório e proteja a confiança dos seus clientes. Explore as soluções pautadas em IA agora, entre em contato com a INOV.AI: Fale Conosco | INOV.AI