Regulamento UE 2024/1689
O AI Act é a primeira lei abrangente do mundo sobre IA. A lei entrou em vigor em 01/08/2024 e está sendo implementada em etapas. O AI Act não regula a tecnologia; ele regula os usos da IA, e as exigências aumentam conforme o risco de cada tipo de uso. Isso faz bastante sentido, pois não adianta aplicar o mesmo remédio para todos os tipos de situação ou risco. Por exemplo, o uso da IA para identificar as principais mensagens que você recebeu na sua caixa de e-mail no dia necessita de uma validação muito menor do que o uso da IA para analisar um relatório relacionado à performance de um produto ou serviço.
O AI Act usa como lógica central a pirâmide de riscos, separando os riscos em 4 níveis:
Risco Inaceitável – Usos de IA que ameaçam direitos fundamentais são proibidos. Um exemplo é a utilização de técnicas enganosas que causem algum tipo de dano, como utilizar IA para detectar o momento em que um usuário está mais impulsivo em um app de apostas, exibindo estímulos que o influenciem a continuar apostando. Outro exemplo de uso proibido é o social scoring. Imagine que uma prefeitura crie uma espécie de nota para os cidadãos, que usa as ações das pessoas (multas de trânsito, atraso no pagamento de contas etc.) para classificá-las e oferecer (ou negar) serviços a partir dessa pontuação (Nossa, isso é muito Black Mirror… rs).
Alto Risco – Utilizar IA em áreas sensíveis, como equipamentos médicos, veículos, brinquedos, triagem de currículos, avaliação de funcionários, avaliação de crédito e seguro etc. Um bom exemplo é um caso que aconteceu na Amazon, que inclusive discuto em sala de aula com meus alunos. A Amazon utilizou um modelo de IA para classificar currículos de candidatos e, como o volume de candidatos homens era muito maior que o de candidatas, o modelo internalizou esse viés e passou a selecionar apenas currículos de homens.
Risco Limitado – Neste nível, o AI Act trata de transparência, ou seja, o risco principal é enganar as pessoas sobre o que é e o que não é real. A lei não proíbe nada específico nem exige certificação; o ponto aqui é que as pessoas precisam ser informadas e ter clareza sobre o que é e o que não é real. Um exemplo são os chatbots de atendimento que utilizam IA e que estão sendo amplamente adotados pelas empresas. Há um caso bastante emblemático sobre esse tipo de risco, em que o chatbot de uma companhia aérea passou uma informação incorreta para um cliente. O cliente processou a empresa e, no julgamento, o advogado da empresa disse que ela não tinha responsabilidade sobre o que a IA havia dito ao cliente (sic).
Risco Mínimo – Este nível fica na base da pirâmide, e é aqui que está a grande maioria dos usos corriqueiros da IA. Entram nesta camada os filtros de spam dos clientes de e-mail, corretores ortográficos, ferramentas de transcrição de reuniões e sistemas de recomendação de produtos, vídeos e músicas, entre outros. O AI Act não impõe nenhuma obrigação específica para esse nível, mas há uma exceção importante a considerar: o artigo 4 do AI Act diz que, independentemente do nível de risco em que atue, o profissional precisa ser treinado para o uso de IA. Já o artigo 95 diz que devem existir códigos de conduta que orientem o uso da IA. É aqui que entra outro tema bastante discutido nas aulas de IA que ministro na faculdade onde trabalho: o conceito de human in the loop, que coloca o humano como responsável no processo com a IA, cabendo a ele estruturar o pedido e validar o resultado gerado. E nesse ponto há um critério muito importante: não tem como validar algo que você não conhece, certo?! Por isso devemos deixar de ser, definitivamente, um meat proxy.
Mas isso é assunto para outro post.
Para saber mais:
- AI Act – https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
- Caso da Amazon – https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/
- Caso da companhia aérea – Air Canadá: https://www.bbc.com/travel/article/20240222-air-canada-chatbot-misinformation-what-travellers-should-know
