Coluna Alerta Digital - 07/12/2023

O desafio dos deepfakes no contexto da segurança cibernética

A disseminação de notícias falsas pelo mundo ao longo da última década, em especial por meio das redes sociais, motivou o diretor americano Jordan Peele, em uma parceria com a Buzzfeed, a divulgar em 2018 um vídeo envolvendo o ex-presidente dos Estados Unidos da América, Barack Obama. Nele, Obama é visto proferindo várias afirmações que não eram de sua autoria, como a de que Donald Trump seria um imbecil.

Além do evidente impacto mundial imediato, o material também demonstrou a capacidade que a tecnologia atual possui de distorcer a realidade, o elevado potencial para uso em “fake News” e para a manipulação do processo eleitoral (Paris & Donovan, 2019), dentre outros muitos efeitos.

Denominada de deepfake, junção da expressão “deep learning” (aprendizado profundo) com “fake” (falso), referida técnica é capaz de substituir rostos, vozes e até mesmo objetos em fotos e vídeos, com uso de inteligência artificial, de forma hiper-realista ao ponto de enganar espectadores e até mesmo especialistas. Sua notoriedade remonta ao ano de 2017, no seio de fóruns virtuais que propagavam falsos vídeos íntimos de celebridades.

Em uma era onde a realidade e a ficção se misturam na virtualidade cibernética, o fenômeno dos deepfakes surge como mais um elemento disruptivo no panorama da comunicação e da ética digital, que abre novas fronteiras para a criatividade, mas também permite aumento exponencial de desinformação e manipulação.

Naturalmente, onde há sociedade, lá deve estar o Direito. Sob esse ponto de vista, importante notar que o tema dos deepfake tem sido objeto de debates em diferentes partes do mundo. A Europa, por exemplo, aborda o fenômeno no contexto temático de privacidade e direitos digitais, dentro do Regulamento Geral de Proteção de Dados (GDPR) e, no mês de junho de 2023, aprovou o AI Act, considerada a primeira regulação da inteligência artificial no mundo (European Parliment, 2023) a vigorar em 2024.

Nos EUA há uma abordagem mais fragmentada, a exemplo do Estado da Califórnia, que proibiu a criação e distribuição de deepfakes que possam interferir no processo eleitoral ou com o objetivo de uso para fins de pornografia não consentida (California Legislative Information, 2019), exemplo seguido no Texas. Também há projeto de lei federal para criminalização de deepfakes não identificadas, o “DeepFake Accountability Act”.

No Brasil, o art. 57-H, da Lei 9.504, de 1997, incluído pela Lei 12.891, de 2013, prevê como crime a realização de propaganda eleitoral na internet com atribuição indevida de autoria a terceiro, o que poderia ser aplicável ao uso de deepfake. O Projeto de Lei (PL) 1002/2023, da Câmara dos Deputados, aliás propõe incluir um parágrafo terceiro ao art. 57-H, da Lei 9.504, de 1997 para tratar de forma específica o tema. A ele foram apensados os PL 5241, que altera o Código Eleitoral, e PL 5242, ambos de 2023.

Ainda que ausente legislação específica para tratar de deepfake, a investigação criminal cibernética dispõe de leis penais, ex vi do art. 241-C, do Estatuto da Criança e do Adolescente, que protege a dignidade sexual infantil contra a criação de imagens íntimas simuladas e dos crimes contra a honra, previstos no Código Penal, dentre outros.

Apesar do vácuo legislativo, casos pontuais que eventualmente chamam a atenção da mídia levam o alerta de volta ao centro do debate político. Durante a campanha eleitoral de 2018, tratou-se como deepfake um vídeo íntimo atribuído ao então candidato João Doria, na esteira do que alegou à época. Apesar disso, laudo da Polícia Federal afirmou inexistir evidências de adulteração (Bachtold & Serapião, 2022).

Este ano, a mídia noticiou amplamente que estudantes fizeram uso de I.A. para criar imagens íntimas de colegas em escolas do Rio de Janeiro e Recife. Muito embora esses dois casos não se trate de deepfake, no sentido estrito, fica ressaltado o potencial criminoso da tecnologia, como por exemplo para a criação de vídeos falsos em app de namoro e posterior sequestro, cárcere privado, extorsão, estupro, tortura e até assassinato de vítimas, o que ilustra a urgência de uma legislação específica que aborde a privacidade e a integridade digital dos indivíduos nesse contexto. Sob o aspecto criminológico, a teoria da Anomia, proposta por Durkheim e ampliada por Merton, oferece uma lente para entender o impulso por trás da criação de deepfakes. A teoria sugere que a desconexão entre as metas sociais e os meios institucionais disponíveis pode levar os indivíduos a buscar métodos ilícitos para alcançar seus objetivos.

Ao ser aplicada ao uso criminoso de deepfakes, a teoria da anomia permite compreender alguns dos interesses por trás das condutas desviantes, como o de obter atenção, influenciar opiniões ou prejudicar outrem. A compreensão dos motivos pode ser um caminho para ações preventivas mais amplas, desde a produção legislativa até a mudança de práticas educacionais dentro e fora do ambiente familiar.

Em estudo sobre o tema, Stavola e Choi (2023), trazem importantes insights sobre o uso de deepfakes no metavers -, espaço de ampla virtualidade interativa que certamente amplia as possibilidades para uso malicioso desta tecnologia -, o que inclui uma proposta de estrutura de gestão para mitigar os riscos inerente ao ambiente virtual. A solução do problema, todavia, não é simples e implica a necessidade de ações multidisciplinares, como medidas legais, educacionais, técnicas e de conscientização ante essa vitimização.

Não se pode desconsiderar nesse contexto, seja no ambiente virtual ou real, que um outro grave problema. A autenticidade de registros audiovisuais, tradicionalmente considerada uma prova robusta, agora é questionável, a exigir métodos de verificação mais sofisticados e ferramentas forenses digitais avançadas, para garantir que o resultado do trabalho investigativo seja seguro, técnico, apto a produzir prova confiável e viabilizar sentenças justas.

A participação ativa das plataformas de mídia social e da comunidade tecnológica na identificação e remoção proativa de conteúdo deepfake torna-se, assim, fundamental, em esforço conjunto com as agências de persecução criminal para atribuição em tempo razoável da devida responsabilidade em casos de uso ilegal de deepfakes.

Diante do cenário traçado, parece-nos que as respostas ao desafio da tecnologia de deepfakes devem ser multifacetadas, uma combinação de desenvolvimento de legislação específica, iniciativas de educação digital, cooperação interinstitucional, parcerias público-privadas e promoção de uma cultura de responsabilidade no ambiente digital. A tecnologia de deepfakes representa um desafio multidimensional que transcende a esfera técnica e adentra o campo da ética e da legalidade, de modo que se faz de grande relevo uma abordagem colaborativa, interdisciplinar e informada, para que a sociedade possa efetivamente combater a propagação de desinformação e proteger a integridade individual no panorama digital em constante evolução.

Referências:

Bachtold, F., & Serapião, F. (2022, Março 08). Após 4 anos, laudo da PF em vídeo de orgia associado a Doria diz não ter achado sinal de adulteração. Folha de São Paulo. Recuperado de https://www1.folha.uol.com.br/poder/2022/03/laudo-da-pf-diz-nao-ter-encontrado-sinal-de-adulteracao-em-video-de-orgia-associado-a-doria.shtml

California Legislative Information. (2019). Assembly Bill No. 730. Disponível em: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201920200AB730

European Parliament. (2023, June 14). EU AI Act: first regulation on artificial intelligence. Retrieved from https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

Paris, B., & Donovan, J. (2019). Deepfakes and Cheap Fakes. Data & Society Research Institute. Disponível em: https://datasociety.net/library/deepfakes-and-cheap-fakes/

Stavola, J., & Choi, K. (2023). Victimization by Deepfake in the Metaverse: Building a Practical Management Framework. International Journal of Cybersecurity Intelligence & Cybercrime, 6(2). DOI: 10.52306/2578-3289.1171](https://doi.org/10.52306/2578-3289.1171. Disponível em: https://vc.bridgew.edu/ijcic/vol6/iss2/2](https://vc.bridgew.edu/ijcic/vol6/iss2/2