Como mencionei na publicação que fiz na semana passada, finalizei uma pós-graduação sobre Engenharia e Arquitetura de Software, e no meu trabalho de conclusão de curso abordei o tema sobre governança no uso de IA nas empresas. No post dessa semana falarei um pouco sobre o AI Risk Management Framework, lançado em 2023 pelo NIST (Instituto de Padrões e Tecnologia dos EUA).
O AI Risk Management Framework (AI RMF) foi desenvolvido em conjunto com o setor público e privado. E, diferente de uma lei, ele é um framework voluntário, ou seja, é um conjunto de diretrizes que as empresas decidem ou não seguir. Diferente de uma lei, como a LGPD no Brasil, onde as empresas brasileiras ou empresas que atendem o público brasileiro precisam seguir com risco de sanções caso não a sigam.
A estrutura do AI Risk Management Framework gira em torno de 4 funções, pensadas para se repetir continuamente ao longo do ciclo de vida de adoção um sistema de Inteligência Artificial. São elas:
- Govern : Que está ligado a cultura organizacional, políticas e responsabilização. Quem decide o quê, e com base em que critérios?
- Map : Ligado ao contexto. Que sistema é esse, pra que serve, quem é impactado por ele?
- Measure : Ligado a medição do risco. Quais métricas, testes e evidências serão utilizadas para medir o risco do uso da IA na empresa. Não é achismo!
- Manage : Ligado a gestão. Quem prioriza? Quem decide? O esforço deve ser ligado ao risco que aquela IA impõe à empresa. Por exemplo, o esforço de revisão no uso da IA para resumo de um e-mail que será utilizado por uma única pessoa, deve ser obviamente menor do que o esforço de revisão de um software que utiliza IA e irá afetar o trabalho de um departamento.
O interessante desse framework de governança é que ele não é linear, é um ciclo que pode ser realizado em uma sequência diferente dessa listada acima. Por exemplo, o sistema atualizou, o uso mudou, o contexto mudou, volte para o mapeamento, o Govern já está decidido.
Esse foi um dos frameworks que aprofundei na minha pesquisa e que fará parte do livro que estou escrevendo sobre governança de IA.
Para saber mais sobre o AI RMF: https://lnkd.in/dhnJ45Wt
A cada semana irei compartilhar um pouco desse trabalho por aqui.
Até a próxima. 😉
