Eu penso que essa é uma definição muito definitiva pra uma contexto que está em mutação praticamente diária. Na minha visão, a resposta é que precisamos dos dois perfis, por motivos diferentes. Vou explicar, mas antes vale alinhar alguns termos.

• O profissional Generalista é o quem tem conhecimento amplo, porém mais superficial, em várias áreas.
• O profissional T-shaped é um generalista com uma especialidade profunda. A barra vertical do T representa essa profundidade, e a horizontal, a amplitude em áreas que se conectam a ela. É o perfil de que as empresas costumam falar quando elogiam o “generalista”, eu me encaixo nesse perfil.
• O Especialista Generalista é um conceito do artigo Expert Generalists (Martin Fowler, Unmesh Joshi e Gitanjali Venkatraman), que faz sentido mencionar nessa análise e eu vou falar sobre ele no decorrer do texto.

Me usando como exemplo: sou especialista em Design de Experiência do Usuário e em Design e Engenharia de Software, tenho bastante fluência em Qualidade de Software e uma profundidade razoável em programação e DevOps. Isso me permite construir produtos completos, dentro de um certo nível de complexidade.

Os profissionais T-shaped têm como principais características:

• Curiosidade: exploram tecnologias e conseguem utilizá-las sem conhecer a fundo sua arquitetura ou linguagem de programação.
• Colaboração: precisam da troca com especialistas para validar suas ideias de execução e para tirá-las do papel da forma correta.
• Foco no cliente: costumam ter uma visão mais ampla do negócio e pensam soluções em um contexto mais geral.

Dito isso, o advento da IA trouxe superpoderes aos profissionais generalistas, incluindo os T-shaped. A chegada da IA na vida de quem trabalha com tecnologia, cujo uso prático é bem diferente do de outras profissões, ampliou muito o alcance dos generalistas. Projetos que antes exigiriam uma equipe inteira agora podem ser construídos em pouquíssimo tempo. Repare que falei de execução, não de qualidade.

É como se o generalista ganhasse uma equipe de especialistas incríveis, que faz qualquer coisa, a qualquer hora, sem questionar. Mas essa equipe só considera segurança, arquitetura, documentação e testes se você souber pedir. Pensou, pediu, está feito. Parece maravilhoso e, em certa medida, é: a IA derrubou a barreira da execução, e agora qualquer ideia pode sair do papel.

Em uma conversa recente com um superintendente de tecnologia de um dos maiores bancos do Brasil, ouvi que uma das primeiras coisas que ele fez com IA foi pegar os post-its de ideias do seu quadro de to-dos e pedir que ela os construísse. Ideias que ele considerava incríveis, na prática eram bastante diferentes disso. Comigo aconteceu o mesmo: construí vários mapas mentais de anos de ideias “geniais” e o resultado não foi bem o que eu esperava. Mas isso é assunto para outro post.

Ou seja, a IA permite que generalistas, mesmo sem desenvolvimento de software como especialidade, construam softwares completos para validar ideias, resolver pequenos problemas do trabalho ou da vida pessoal e agregar mais valor ao dia a dia.

Existe, porém, um gap importante. Um dos princípios fundamentais do desenvolvimento de software é a qualidade: atender critérios técnicos como confiabilidade, segurança, eficiência, usabilidade e manutenibilidade, entre outros (Sommerville). E, quando um generalista usa IA generativa no trabalho, é fundamental considerar o contexto:

• Qual é o resultado esperado?
• Que problema esse trabalho resolve?
• Quem ele atende?
• Para quem será enviado?
• Quem vai validar, e em que nível?
• Quem é impactado?

O risco está no que fica fora da especialidade. Por definição, o conhecimento do generalista nessas áreas é mais raso, e é justamente nelas que ele tem menos condições de avaliar o que a IA entrega. Sem clareza de atuação e sem regras de uso, os tão falados guardrails, podemos criar uma fábrica de softwares sem qualidade, que coloca empresas, funcionários e clientes em risco.

Especialista Generalista

Na semana passada li o artigo Expert Generalists – o link está no final do post. Os autores identificaram que a indústria de tecnologia tende a valorizar profissionais que combinam especialização sólida com a capacidade de ser produtivos em contextos diferentes, porque dominam princípios que se transferem entre tecnologias. Um exemplo do artigo: um programador Python que domina os padrões e práticas centrais de desenvolvimento consegue ser produtivo em uma equipe Java.

Em relação ao T-shaped, o Especialista Generalista tem especialização e generalização mais amplas. Os autores também observam que o modelo tradicional de carreira, com uma especialidade clara (Desenvolvedor Java Jr > Pleno > Sênior), não se encaixa bem nesse perfil.

O que eu penso sobre isso, é que pelo menos no curto prazo, não vejo o Especialista Generalista se tornando um cargo comum no mercado. O que vejo é espaço para todos os profissionais que queiram evoluir na carreira de forma responsável e engajada.

Com meus alunos, defendo que os especialistas são e sempre serão muito importantes no ciclo de desenvolvimento de software, e em qualquer outra área, porque sempre será necessário validar o que a IA constrói. Mesmo que ela seja a protagonista da construção, é imprescindível haver um humano responsável pela concepção e pela validação.

Especialmente durante a formação, esse pensamento é muito importante, porque a decisão de se aprofundar em um assunto é de cada profissional. Li, no livro Chomsky e Mujica: Sobrevivendo ao século XXI, de Saúl Alvídrez, uma analogia que resume bem isso: a IA é como um martelo. Com ele, você pode construir uma casa ou machucar alguém. A escolha é sua.

Em resumo: os generalistas são essenciais pela capacidade de olhar a solução de forma ampla, testar ideias e apresentar propostas minimamente validadas. Os especialistas são igualmente essenciais para garantir que a solução criada pela IA tenha a segurança necessária para ser usada sem riscos para usuários e empresas.

E você, no seu trabalho, quem valida o que a IA constrói?

Link para o artigo sobre Generalistas Especialistas: https://martinfowler.com/articles/expert-generalist.html

Leia também

• Conhecimento as a Service – A evolução do Xtreme Go Horse?
• IA como ferramenta no processo de UX Design

The post Profissionais Generalistas ou Especialistas. Quem leva vantagem na era da IA? appeared first on Fábio Figueredo.

O AI Act é a primeira lei abrangente do mundo sobre IA. A lei entrou em vigor em 01/08/2024 e está sendo implementada em etapas. O AI Act não regula a tecnologia; ele regula os usos da IA, e as exigências aumentam conforme o risco de cada tipo de uso. Isso faz bastante sentido, pois não adianta aplicar o mesmo remédio para todos os tipos de situação ou risco. Por exemplo, o uso da IA para identificar as principais mensagens que você recebeu na sua caixa de e-mail no dia necessita de uma validação muito menor do que o uso da IA para analisar um relatório relacionado à performance de um produto ou serviço.

O AI Act usa como lógica central a pirâmide de riscos, separando os riscos em 4 níveis:

Risco Inaceitável – Usos de IA que ameaçam direitos fundamentais são proibidos. Um exemplo é a utilização de técnicas enganosas que causem algum tipo de dano, como utilizar IA para detectar o momento em que um usuário está mais impulsivo em um app de apostas, exibindo estímulos que o influenciem a continuar apostando. Outro exemplo de uso proibido é o social scoring. Imagine que uma prefeitura crie uma espécie de nota para os cidadãos, que usa as ações das pessoas (multas de trânsito, atraso no pagamento de contas etc.) para classificá-las e oferecer (ou negar) serviços a partir dessa pontuação (Nossa, isso é muito Black Mirror… rs).

Alto Risco – Utilizar IA em áreas sensíveis, como equipamentos médicos, veículos, brinquedos, triagem de currículos, avaliação de funcionários, avaliação de crédito e seguro etc. Um bom exemplo é um caso que aconteceu na Amazon, que inclusive discuto em sala de aula com meus alunos. A Amazon utilizou um modelo de IA para classificar currículos de candidatos e, como o volume de candidatos homens era muito maior que o de candidatas, o modelo internalizou esse viés e passou a selecionar apenas currículos de homens.

Risco Limitado – Neste nível, o AI Act trata de transparência, ou seja, o risco principal é enganar as pessoas sobre o que é e o que não é real. A lei não proíbe nada específico nem exige certificação; o ponto aqui é que as pessoas precisam ser informadas e ter clareza sobre o que é e o que não é real. Um exemplo são os chatbots de atendimento que utilizam IA e que estão sendo amplamente adotados pelas empresas. Há um caso bastante emblemático sobre esse tipo de risco, em que o chatbot de uma companhia aérea passou uma informação incorreta para um cliente. O cliente processou a empresa e, no julgamento, o advogado da empresa disse que ela não tinha responsabilidade sobre o que a IA havia dito ao cliente (sic).

Risco Mínimo – Este nível fica na base da pirâmide, e é aqui que está a grande maioria dos usos corriqueiros da IA. Entram nesta camada os filtros de spam dos clientes de e-mail, corretores ortográficos, ferramentas de transcrição de reuniões e sistemas de recomendação de produtos, vídeos e músicas, entre outros. O AI Act não impõe nenhuma obrigação específica para esse nível, mas há uma exceção importante a considerar: o artigo 4 do AI Act diz que, independentemente do nível de risco em que atue, o profissional precisa ser treinado para o uso de IA. Já o artigo 95 diz que devem existir códigos de conduta que orientem o uso da IA. É aqui que entra outro tema bastante discutido nas aulas de IA que ministro na faculdade onde trabalho: o conceito de human in the loop, que coloca o humano como responsável no processo com a IA, cabendo a ele estruturar o pedido e validar o resultado gerado. E nesse ponto há um critério muito importante: não tem como validar algo que você não conhece, certo?! Por isso devemos deixar de ser, definitivamente, um meat proxy.

Mas isso é assunto para outro post.

Para saber mais:

• AI Act – https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• Caso da Amazon – https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/
• Caso da companhia aérea – Air Canadá: https://www.bbc.com/travel/article/20240222-air-canada-chatbot-misinformation-what-travellers-should-know

Leia também

• AI Risk Management Framework – NIST
• Quando a Samsung subestimou a validação de riscos com a IA

The post AI Act, a lei europeia sobre Inteligência Artificial appeared first on Fábio Figueredo.

O AI Risk Management Framework (AI RMF) foi desenvolvido em conjunto com o setor público e privado. E, diferente de uma lei, ele é um framework voluntário, ou seja, é um conjunto de diretrizes que as empresas decidem ou não seguir. Diferente de uma lei, como a LGPD no Brasil, onde as empresas brasileiras ou empresas que atendem o público brasileiro precisam seguir com risco de sanções caso não a sigam.

A estrutura do AI Risk Management Framework gira em torno de 4 funções, pensadas para se repetir continuamente ao longo do ciclo de vida de adoção um sistema de Inteligência Artificial. São elas:

O interessante desse framework de governança é que ele não é linear, é um ciclo que pode ser realizado em uma sequência diferente dessa listada acima. Por exemplo, o sistema atualizou, o uso mudou, o contexto mudou, volte para o mapeamento, o Govern já está decidido.

Esse foi um dos frameworks que aprofundei na minha pesquisa e que fará parte do livro que estou escrevendo sobre governança de IA.

Para saber mais sobre o AI RMF: https://lnkd.in/dhnJ45Wt

A cada semana irei compartilhar um pouco desse trabalho por aqui.

Até a próxima.

Leia também

• AI Act, a lei europeia sobre Inteligência Artificial
• Quando a Samsung subestimou a validação de riscos com a IA

The post AI Risk Management Framework – NIST appeared first on Fábio Figueredo.

O ponto mais interessante desse caso é que não houve má intenção, má-fé ou sabotagem. Havia apenas profissionais com tarefas atribuídas, prazos a cumprir e a intenção legítima de concluir suas entregas. Mesmo com boas intenções, o resultado foi desastroso: vazamento de dados sigilosos e exposição de propriedade intelectual são riscos extremamente relevantes para qualquer organização.

Se você acompanha as notícias sobre tecnologia, provavelmente já se deparou com casos semelhantes, envolvendo problemas decorrentes do uso indiscriminado da IA generativa. E, quando analisamos muitos desses episódios, percebemos que a origem nem sempre está na má intenção, mas na ausência de orientação, governança e limites claros. Foi justamente essa reflexão que me levou a desenvolver uma pesquisa acadêmica como trabalho de conclusão da pós-graduação que concluí recentemente.

Inicialmente, meu objetivo era estudar os frameworks de governança que apoiam a adoção responsável da inteligência artificial nas corporações. Com a evolução da pesquisa, percebi que seria possível ir além: propor um framework capaz de apoiar a implementação de um modelo de governança para organizar, controlar e orientar o uso responsável dessa tecnologia, que se tornou um dos principais motores da revolução tecnológica que estamos vivendo.

Gostei muito do resultado dessa pesquisa e estou trabalhando para transformá-la em um pequeno livro prático, com uma proposta de governança para organizar o uso da IA generativa nas organizações — especialmente em um contexto em que diversas iniciativas de Shadow AI já acontecem de forma descentralizada e, muitas vezes, sem controle ou visibilidade da gestão e da área de governança. Enquanto isso, vou compartilhar por aqui alguns insights que surgiram durante a pesquisa e que continuam surgindo durante a construção desse livro, que será o meu primeiro.

Você pode saber mais sobre esse caso da Samsung nesse link: https://exame.com/tecnologia/samsung-proibe-uso-de-ia-apos-vazamento-de-dados-com-chatgpt/

Se você quer acompanhar essa construção e refletir comigo sobre os desafios da governança em IA generativa, fique por aqui.

Leia também

• AI Risk Management Framework – NIST
• AI Act, a lei europeia sobre Inteligência Artificial

The post Quando a Samsung subestimou a validação de riscos com a IA appeared first on Fábio Figueredo.