Deepfakes no Direito Penal: perguntas e respostas sobre o uso da IA no contexto criminal

1 — O que são deepfakes e como funcionam?
Os deepfakes são conteúdos multimédia, como vídeos, áudios ou imagens, manipulados através de inteligência artificial (IA), em particular por meio de redes generativas adversárias (GANs). Esta tecnologia permite criar conteúdos capazes de replicar vozes, rostos ou movimentos humanos com elevado grau de realismo. Embora tenham aplicações em diversos contextos, como no entretenimento ou na educação, os deepfakes também são utilizados para fins ilícitos, como o phishing.

2 — Como são os deepfakes utilizados no contexto criminal?
Os infratores recorrem aos deepfakes para enganar vítimas, obter vantagens patrimoniais ou aceder a informações confidenciais. Um exemplo paradigmático é o uso de deepfakes de voz para imitar um superior hierárquico, como um CEO, e convencer subordinados a realizarem transferências bancárias. Estas técnicas tornam o phishing mais eficaz, ao adicionar uma camada elevada de realismo à fraude.

Também as instituições estatais têm sido afetadas por este tipo de práticas ilícitas, como no caso da Primeira-Ministra da Tailândia, que recebeu um contacto alegadamente de outro chefe de governo a solicitar o envio de fundos, sob o pretexto de ser o único país da Associação das Nações do Sudeste Asiático que ainda não o teria feito.

3 — Existe enquadramento legal em Portugal para punir estes atos?
Sim. Em Portugal, o crime de burla está previsto no artigo 217.º do Código Penal (CP). Este artigo estabelece que quem, com intenção de obter para si ou para terceiros um enriquecimento ilegítimo, induzir outra pessoa em erro ou engano sobre factos que astuciosamente provocou, levando-a à prática de atos que lhe causem, ou causem a terceiros, prejuízo patrimonial, será punido com pena de prisão até três anos ou com pena de multa.

Caso o prejuízo seja elevado, a pena poderá ser agravada, nos termos do artigo 218.º do CP, podendo atingir cinco ou oito anos de prisão, dependendo da gravidade do dano causado.

4 — Que medidas poderiam auxiliar no combate ao uso ilícito de deepfakes?
Na nossa opinião, há três pilares principais para combater o uso ilícito de deepfakes:

1. Legislação mais abrangente: Tipificação de crimes relacionados com a criação e disseminação de deepfakes ilícitos (e.g., de natureza íntima ou pornográfica), como já ocorre em alguns países, como o Reino Unido e a Coreia do Sul;
2. Educação e literacia digital: Sensibilizar os cidadãos e profissionais para identificar deepfakes e proteger-se de potenciais fraudes;
3. Reforço nas empresas: Implementar medidas de compliance e verificação interna, como autenticação de dois fatores para transferências financeiras e protocolos rigorosos para validar ordens de movimentação de fundos

5 — Quais os desafios que o Direito enfrenta com os deepfakes?
Os avanços tecnológicos da IA colocam novos desafios ao Direito Penal, como:

• Dificuldade de prova: Identificar e rastrear a autoria de deepfakes é um processo complexo, que depende de ferramentas tecnológicas avançadas;
• Regulação de tecnologias de IA: O Regulamento Europeu de Inteligência Artificial impõe requisitos de transparência, mas a sua aplicação à criação de deepfakes ainda é limitada.

6 — O uso de deepfakes é sempre ilegal?
Não. Os deepfakes podem ter aplicações lícitas e benéficas, como na indústria cinematográfica, na educação ou em assistências tecnológicas. O problema surge quando são utilizados para enganar, causar danos ou cometer crimes.

7 — O que o futuro reserva para o Direito Penal e os deepfakes?
Espera-se que a legislação evolua para acompanhar o desenvolvimento desta tecnologia. Medidas preventivas, como o uso de marcas de água digitais para identificar conteúdos gerados por IA, poderão reduzir o impacto de deepfakes maliciosos. Além disso, é fundamental reforçar a colaboração internacional para combater crimes transnacionais envolvendo estas ferramentas.