Em março de 2023, na sede da Samsung, na Coreia do Sul, a empresa permitiu que engenheiros da divisão de semicondutores utilizassem uma ferramenta de IA generativa para ganhar produtividade. Poucos dias depois, vieram à tona vazamentos de códigos-fonte e de informações de propriedade intelectual em uma ferramenta de IA generativa gratuita.
O ponto mais interessante desse caso é que não houve má intenção, má-fé ou sabotagem. Havia apenas profissionais com tarefas atribuídas, prazos a cumprir e a intenção legítima de concluir suas entregas. Mesmo com boas intenções, o resultado foi desastroso: vazamento de dados sigilosos e exposição de propriedade intelectual são riscos extremamente relevantes para qualquer organização.
Se você acompanha as notícias sobre tecnologia, provavelmente já se deparou com casos semelhantes, envolvendo problemas decorrentes do uso indiscriminado da IA generativa. E, quando analisamos muitos desses episódios, percebemos que a origem nem sempre está na má intenção, mas na ausência de orientação, governança e limites claros. Foi justamente essa reflexão que me levou a desenvolver uma pesquisa acadêmica como trabalho de conclusão da pós-graduação que concluí recentemente.
Inicialmente, meu objetivo era estudar os frameworks de governança que apoiam a adoção responsável da inteligência artificial nas corporações. Com a evolução da pesquisa, percebi que seria possível ir além: propor um framework capaz de apoiar a implementação de um modelo de governança para organizar, controlar e orientar o uso responsável dessa tecnologia, que se tornou um dos principais motores da revolução tecnológica que estamos vivendo.
Gostei muito do resultado dessa pesquisa e estou trabalhando para transformá-la em um pequeno livro prático, com uma proposta de governança para organizar o uso da IA generativa nas organizações — especialmente em um contexto em que diversas iniciativas de Shadow AI já acontecem de forma descentralizada e, muitas vezes, sem controle ou visibilidade da gestão e da área de governança. Enquanto isso, vou compartilhar por aqui alguns insights que surgiram durante a pesquisa e que continuam surgindo durante a construção desse livro, que será o meu primeiro.
Você pode saber mais sobre esse caso da Samsung nesse link: https://exame.com/tecnologia/samsung-proibe-uso-de-ia-apos-vazamento-de-dados-com-chatgpt/
Se você quer acompanhar essa construção e refletir comigo sobre os desafios da governança em IA generativa, fique por aqui.
