As novas regras de transparência da União Europeia para sistemas de Inteligência Artificial (IA) entram em vigor este domingo, estabelecendo um quadro regulatório que obriga as empresas a informar os utilizadores quando interagem com máquinas ou quando conteúdos são manipulados por IA.
O Gabinete de Inteligência Artificial da Comissão Europeia ganha poderes reforçados para supervisionar modelos de IA generativa e impor multas a empresas que não cumpram as obrigações. Segundo o site espanhol El Economista, as novas normas têm várias exceções que adiam a sua aplicação em determinados casos.
Requisitos de transparência imediatos
Empresas como OpenAI (ChatGPT), Google (Gemini) e Anthropic (Claude) devem conceber os seus sistemas para que os utilizadores saibam que estão a interagir com uma máquina. A obrigação aplica-se também a sistemas usados em serviços públicos, atendimento ao cliente e gestão de denúncias de fraude.
Sistemas de reconhecimento de emoções ou categorização biométrica devem avisar os cidadãos quando estes são analisados, exceto em casos permitidos por lei para prevenção ou perseguição de crimes.
Requisitos e proibições em dezembro
A partir de 2 de dezembro, os sistemas de IA terão de incorporar marcas de água em textos, fotos, vídeos e áudios manipulados, para facilitar a identificação de conteúdos gerados por máquinas. Contudo, sistemas como ChatGPT, Gemini e Claude não serão legalmente responsáveis por conteúdo criado por utilizadores, mas estes terão de informar se o conteúdo foi manipulado. Ficam isentos conteúdos de ficção, artísticos ou satíricos.
Há uma exceção: desde este domingo, é obrigatório avisar sobre conteúdo gerado por IA que mostre informações de interesse geral, como processos eleitorais, judiciais, saúde pública ou debates públicos, a menos que tenha sido supervisionado por uma pessoa.
Além disso, a partir de 2 de dezembro, será proibida a criação de imagens sexualizadas geradas por IA sem consentimento das pessoas envolvidas. Esta proibição surge após o escândalo com imagens geradas pelo Grok, da rede social X, que terá até ao final do ano para implementar medidas de proteção.
Ameaças e supervisão
O Gabinete de IA da Comissão Europeia pode agora exigir que empresas como a Anthropic permitam acesso a modelos como o Mythos para avaliar riscos de sistemas de alto risco. Fontes comunitárias evitaram detalhar os próximos passos por “razões óbvias”.
Subsistem dúvidas sobre a capacidade da Comissão para analisar modelos de alto risco e sobre o acesso a esses modelos se o governo norte-americano voltar a vetar cidadãos estrangeiros, como fez temporariamente em junho. A UE está a negociar com a Anthropic para que a Agência de Cibersegurança da UE (ENISA) avalie o Mythos sem pôr em risco infraestruturas essenciais ou informações sensíveis.
Multas
A Comissão Europeia pode aplicar multas de 15 milhões de euros ou 3% da faturação anual global (o valor mais elevado) a sistemas de IA generativa que não cumpram as obrigações. Para instituições ou agências da UE, a sanção será de até 750 mil euros por incumprimento das obrigações de transparência.
