Conteúdo criado por IA vai ter de ser identificado?

A Comissão Europeia publicou o Code of Practice on Transparency of AI-Generated Content, um Código de Conduta sobre transparência de conteúdos gerados por Inteligência Artificial.

Este código foi desenvolvido para apoiar o cumprimento das obrigações de transparência previstas no Artigo 50.º do AI Act, em particular as obrigações relacionadas com marcação, deteção e rotulagem de conteúdos gerados ou manipulados por sistemas de IA generativa.

O código tem uma função prática: ajudar fornecedores e implementadores de sistemas de IA generativa a perceber como podem cumprir as regras europeias sobre identificação de conteúdos criados ou alterados por IA.

A adesão ao Código de Conduta é voluntária. No entanto, as obrigações de transparência previstas no AI Act são obrigações legais.

Isto significa que uma empresa, plataforma, publicação, entidade pública ou criador pode optar por aderir ao código ou demonstrar conformidade por outros meios. Mas, quando as obrigações do Artigo 50.º se aplicam, não basta ignorar a questão.

A Comissão Europeia explica que, após uma avaliação positiva do código, os fornecedores e implementadores que o assinarem poderão recorrer às suas medidas para demonstrar conformidade com as regras do AI Act sobre marcação, deteção e rotulagem de conteúdos gerados por IA.

Imagens, vídeos, vozes, textos, avatares e publicações automáticas podem hoje ser criados com ferramentas acessíveis a profissionais, empresas e utilizadores comuns.

O problema não está em criar com IA. O problema surge quando o conteúdo pode levar o público a acreditar que está perante algo autêntico, quando na verdade está perante conteúdo artificialmente gerado ou manipulado.

É por isso que o AI Act inclui obrigações de transparência: para reduzir riscos de engano, manipulação e confusão no ecossistema de informação.

Para criadores de conteúdo, meios de comunicação, marcas, empresas, entidades públicas e páginas digitais, a pergunta deixa de ser apenas “usei IA?”. A pergunta passa a ser: “o público pode ser levado a acreditar que este conteúdo é real, humano ou autêntico?”.

Também passa a ser importante perceber se houve revisão humana, se alguém assumiu responsabilidade editorial e se o conteúdo foi publicado automaticamente.

A primeira parte do Código de Conduta dirige-se aos fornecedores de sistemas de IA generativa. São empresas e entidades que colocam no mercado europeu ferramentas capazes de gerar texto, imagem, áudio ou vídeo.

Para estes fornecedores, o foco está na marcação técnica dos conteúdos, na deteção dessas marcações, na interoperabilidade, na robustez e na fiabilidade das soluções usadas.

Em termos simples, esta parte é mais relevante para quem desenvolve ou disponibiliza ferramentas de IA generativa.

A segunda parte dirige-se aos implementadores, ou seja, às pessoas e organizações que usam sistemas de IA generativa para produzir conteúdos que depois disponibilizam ao público.

Podem estar aqui publicações digitais, empresas, marcas, agências, criadores de conteúdo, escolas, entidades públicas, associações, autarquias, páginas de humor, meios de comunicação ou equipas de marketing.

Não é necessário ter desenvolvido a tecnologia. Se usa uma ferramenta de IA para criar conteúdo que depois publica, pode ter obrigações de transparência quando esse conteúdo se enquadra nos casos previstos pelo AI Act.

O AI Act exige divulgação quando o conteúdo gerado ou manipulado por IA constitui um deepfake.

Na prática, isto inclui imagem, áudio ou vídeo que se assemelhe a pessoas, objetos, lugares, entidades ou acontecimentos existentes e que possa parecer autêntico ou verdadeiro.

Falamos, por exemplo, de conteúdos que podem levar alguém a acreditar que uma pessoa disse algo, participou numa situação, apareceu numa fotografia, esteve num lugar ou esteve envolvida num acontecimento que não aconteceu daquela forma.

Também existem obrigações para determinados textos gerados ou manipulados por IA. A regra aplica-se quando o texto é publicado para informar o público sobre assuntos de interesse público.

Podem estar em causa temas como política, economia, saúde, justiça, educação, ambiente, segurança, legislação, tecnologia, eleições, administração pública ou outros temas relevantes para a sociedade.

A obrigação torna-se especialmente importante quando o texto é criado e publicado automaticamente, sem revisão humana e sem responsabilidade editorial assumida por uma pessoa ou entidade.

Imagine uma página que cria vídeos satíricos com figuras públicas, vozes artificiais, imagens manipuladas ou personagens ficcionais inspiradas em pessoas reconhecíveis.

É o tipo de situação comum em formatos de sátira política, cultural ou mediática criados com IA, em que o contexto original pode deixar claro que se trata de humor ou paródia, mas onde o conteúdo pode circular fora desse contexto e ser interpretado de forma errada.

Nestes casos, a rotulagem não tem de destruir o efeito humorístico ou artístico. Mas deve existir uma indicação adequada ao contexto, por exemplo na legenda, na descrição, nos créditos ou no próprio vídeo.

Exemplo de aviso: “Conteúdo satírico criado com recurso a Inteligência Artificial.”

Uma publicação digital, empresa, autarquia, associação ou página informativa usa uma automação para gerar textos com IA e publicá-los diretamente no site ou nas redes sociais.

Se esses textos informam o público sobre temas de interesse público, como política, economia, saúde, educação, ambiente, segurança, legislação ou assuntos locais relevantes, devem ser identificados quando não existe revisão humana nem responsabilidade editorial antes da publicação.

O ponto crítico não é apenas usar IA. O ponto crítico é a publicação automática sem validação humana.

Exemplo de aviso: “Texto gerado por Inteligência Artificial, sem revisão editorial humana.”

Uma marca, criador, escola, campanha, meio de comunicação ou entidade pública usa IA para criar imagens, vídeos ou vozes que parecem reais.

Pode ser uma fotografia de uma pessoa que não existe, uma imagem de um acontecimento que nunca aconteceu, um avatar realista a explicar um tema, ou uma voz sintética parecida com a de uma pessoa real.

Se o público puder acreditar que está perante uma fotografia, gravação, voz ou acontecimento autêntico, deve haver uma indicação clara de que o conteúdo foi gerado ou manipulado por IA.

Exemplo de aviso: “Imagem gerada por Inteligência Artificial.”, “Voz gerada por IA.” ou “Vídeo criado com avatar gerado por Inteligência Artificial.”

Para textos publicados sobre assuntos de interesse público, existe uma exceção relevante: a obrigação de divulgação não se aplica quando o conteúdo passou por revisão humana ou controlo editorial e quando uma pessoa ou entidade assume responsabilidade editorial pela publicação.

Isto é importante para jornalistas, bloggers, autores, empresas, equipas de marketing e publicações digitais.

Um texto pode ter usado IA para apoio à estrutura, revisão, síntese ou primeira versão. Mas, se foi lido, corrigido, validado e assumido editorialmente por uma pessoa ou entidade, a situação é diferente da publicação automática sem revisão.

Quando o conteúdo faz parte de uma obra claramente artística, criativa, satírica, ficcional ou análoga, a divulgação pode ser feita de forma menos intrusiva.

Isto não significa que a transparência desapareça. Significa que a indicação pode ser adaptada ao contexto, por exemplo numa descrição, numa legenda, nos créditos ou noutro local proporcional ao formato.

O Código de Conduta prevê que a informação seja clara, percetível e apresentada no momento em que a pessoa contacta com o conteúdo.

Na prática, o aviso não deve ficar escondido num local secundário quando existe risco de confusão. Sempre que possível, deve acompanhar o próprio conteúdo, para continuar visível quando este é descarregado, republicado ou partilhado.

A União Europeia criou um conjunto de ícones que os implementadores de sistemas de IA generativa podem usar para identificar conteúdos gerados por IA.

Estes ícones incluem versões para conteúdo gerado por IA, conteúdo modificado por IA e uma versão base com referência a IA.

O uso dos ícones pode ajudar a criar consistência visual, mas não substitui a necessidade de perceber se a obrigação se aplica ao caso concreto.

• Imagem gerada por Inteligência Artificial.
• Imagem modificada com recurso a IA.
• Voz gerada por IA.
• Vídeo criado com avatar gerado por Inteligência Artificial.
• Texto gerado por Inteligência Artificial, sem revisão editorial humana.
• Conteúdo satírico criado com recurso a Inteligência Artificial.

A primeira secção é dirigida aos fornecedores de sistemas de IA generativa. O foco está na marcação e deteção técnica de conteúdos gerados ou manipulados por IA.

Inclui compromissos relacionados com marcação técnica dos conteúdos, deteção dessas marcações, qualidade das soluções usadas, interoperabilidade, robustez, fiabilidade, testes e mecanismos internos de conformidade.

A segunda secção é a mais relevante para quem usa IA para produzir conteúdos publicados. Abrange regras de rotulagem de deepfakes e de certos textos gerados ou manipulados por IA.

Inclui compromissos relacionados com a divulgação de deepfakes, textos publicados sobre assuntos de interesse público, processos internos, tratamento de obras criativas e controlo editorial humano.

Em Portugal, o Governo indicou a ANACOM como autoridade reguladora para a supervisão do AI Act.

Esta escolha é relevante porque mostra que a aplicação do AI Act não será apenas uma questão europeia abstrata. As obrigações terão também uma dimensão nacional, com supervisão, articulação regulatória e fiscalização em Portugal.

Para empresas, marcas, publishers, criadores de conteúdo e entidades públicas portuguesas, isto significa que as regras europeias de transparência devem ser acompanhadas com atenção e integradas nos processos internos de criação, revisão e publicação de conteúdos.

O primeiro passo é perceber onde a IA generativa já está a ser usada.

Pode ser na criação de imagens, vídeos, textos, anúncios, publicações nas redes sociais, artigos, newsletters, avatares, vozes sintéticas ou automações de publicação.

Usar IA para apoiar a escrita, organizar ideias ou acelerar tarefas editoriais não é o mesmo que deixar um sistema publicar sozinho.

As organizações devem distinguir claramente conteúdos criados com apoio de IA, mas revistos por humanos, de conteúdos gerados e publicados automaticamente sem validação.

As equipas devem definir quando é necessário usar avisos, que frases devem ser usadas, quem aprova a publicação e como se documenta a revisão humana.

Esta política interna não precisa de ser complexa. Mas deve existir, sobretudo em organizações que publicam regularmente conteúdos para o público.

Deve fazê-lo quando usa IA para criar ou manipular imagem, vídeo ou áudio realista que possa ser confundido com conteúdo autêntico.

Também deve fazê-lo quando publica automaticamente texto gerado por IA sobre temas de interesse público, sem revisão humana e sem responsabilidade editorial.

Se usa IA como apoio à escrita, mas revê, valida, edita e assume responsabilidade editorial pelo conteúdo final, a obrigação de rotulagem pode não se aplicar. Ainda assim, uma política editorial transparente pode ser uma boa prática.