As primeiras obrigações previstas no AI Act, a legislação da União Europeia para regulamentar a utilização da inteligência artificial (IA), entram em vigor a 2 de agosto, impondo novos requisitos de transparência às empresas que desenvolvem ou utilizam esta tecnologia. Embora as regras mais exigentes para sistemas considerados de alto risco tenham sido adiadas para dezembro de 2027, especialistas consideram que o novo enquadramento começará já a influenciar organizações que operam no mercado europeu ou prestam serviços a clientes da região.
A entrada em vigor da regulamentação acontece numa altura em que a adoção da inteligência artificial continua a acelerar. De acordo com um estudo global da McKinsey, 88% das organizações já utilizam IA em pelo menos uma função do negócio, face aos 78% registados no ano anterior.
Segundo André Paganuchi, CTO da Performa_IT, empresa especializada em transformação digital, inteligência artificial, dados e produto, o principal objetivo da nova legislação não é limitar a inovação, mas aumentar a confiança na utilização destas tecnologias.
“A legislação hoje não impede que as empresas desenvolvam inteligência artificial. O foco inicial está em garantir a transparência. Se uma pessoa está a interagir com uma IA, precisa de saber disso. Se um modelo foi treinado para determinada finalidade, isso também deve estar documentado. O objetivo é criar confiança sem impedir a inovação”, afirma.
Transparência obrigatória para chatbots e IA generativa
O AI Act classifica os sistemas de inteligência artificial em quatro níveis de risco. As aplicações de risco mínimo, como ferramentas utilizadas internamente para previsão de procura, gestão de stocks ou processos financeiros, continuam praticamente sem novas obrigações.
Já os sistemas classificados como de risco limitado — entre os quais se incluem chatbots, assistentes virtuais e ferramentas capazes de gerar texto ou imagens — passam a estar sujeitos a requisitos de transparência. As empresas terão de informar claramente os utilizadores quando estes estiverem a interagir com uma inteligência artificial e manter documentação sobre o treino e o funcionamento dos modelos.
As aplicações consideradas de alto risco, utilizadas em setores como saúde, educação, recrutamento, concessão de crédito ou serviços públicos, terão futuramente de cumprir requisitos mais rigorosos em matéria de gestão de risco, supervisão humana, documentação técnica e avaliação de conformidade. No entanto, a aplicação destas obrigações foi adiada para dezembro de 2027, permitindo à União Europeia concluir a estrutura de fiscalização.
Por sua vez, sistemas considerados de risco inaceitável, como determinados modelos de pontuação social e alguns tipos de identificação biométrica em tempo real, permanecem proibidos.
Impacto pode estender-se a empresas fora da União Europeia
Apesar de se tratar de uma legislação europeia, o AI Act poderá ter efeitos muito para além das fronteiras da União Europeia. O regulamento prevê um alcance extraterritorial em determinadas situações, abrangendo empresas sediadas noutros países que disponibilizem soluções de inteligência artificial a utilizadores ou organizações europeias.
Na prática, as novas exigências poderão influenciar também as relações comerciais entre empresas, à semelhança do que aconteceu com o Regulamento Geral sobre a Proteção de Dados (RGPD).
Para André Paganuchi, a conformidade com o AI Act tenderá a tornar-se um critério relevante na contratação de soluções de inteligência artificial.
“A empresa vai comprar uma solução de IA e provavelmente vai perguntar: esta solução cumpre as exigências? Está adequada? Tal como aconteceu com o RGPD, isso tende a surgir nos contratos. Quem não conseguir demonstrar conformidade pode perder oportunidades de negócio”, refere.
O responsável defende ainda que a regulamentação deve encontrar um equilíbrio entre segurança e inovação. “Vejo com bons olhos a existência de algum tipo de validação. O meu receio é quando esse processo passa a impedir a inovação. A regulamentação deve funcionar como um guarda-corpo: estabelecer limites para reduzir riscos, sem dizer exatamente como a inovação deve acontecer”, conclui.
