Ele relatou uma experiência que a maioria de nós, professores, já viveu: um aluno com dificuldade em determinado assunto, o que é normal, todo mundo tem suas fortalezas e fraquezas. Em sala de aula, esse aluno tem bastante dificuldade para realizar as atividades, mas, quando a atividade é para casa, ela vem super completa, nota 10. Na sequência, é aplicada uma atividade semelhante, presencialmente, e o resultado fica abaixo do esperado. E esse “fenômeno” não acontece somente nas salas de aula, seja no ensino médio ou na graduação: está acontecendo nas empresas também.

É muito comum ouvirmos relatos assim: “Meu filho faz todos os trabalhos, entrega tudo direitinho, mas vai mal nas provas.” “Na minha equipe tem uma pessoa que faz tudo com IA; se acabarem os tokens, é capaz de ele ir para casa, porque já não consegue trabalhar sem ajuda da IA.” Você já deve ter ouvido algo parecido por aí…

Como professor, tenho pensado muito em quais mecanismos podemos desenvolver para mitigar esse problema. Como criar conscientização e engajamento para que as pessoas não abram mão do processo de aprendizado em troca de um resultado rápido? Ainda não encontrei as respostas, mas já existem estudos tentando medir o tamanho do problema:

Em um estudo preliminar do MIT Media Lab, chamado “Your Brain on ChatGPT” (2025), 54 estudantes escreveram redações sob três condições: com ChatGPT, com Google e sem ferramenta alguma, e tiveram a atividade cerebral medida por eletroencefalograma. O grupo do ChatGPT teve a menor conectividade cerebral, mais dificuldade de lembrar o que havia escrito e, com o passar das sessões, passaram a copiar e colar a saída da IA com pouca edição. Os autores deram a isso o nome de Dívida Cognitiva (cognitive debt).

Outro estudo, realizado na Turquia com cerca de 1.000 alunos do ensino médio, deu a eles acesso livre ao GPT-4. Eles foram muito bem nas atividades de prática, mas, quando o acesso foi retirado, o desempenho foi 17% pior que o do grupo de controle, que nunca tinha usado a ferramenta.

Daniel Kahneman descreve, na “lei do menor esforço” (Rápido e Devagar, 2011), que o sistema analítico do cérebro só é ativado quando necessário, porque é custoso e “preguiçoso”: gasta muita energia. Existe uma atividade simples que faço com meus alunos e sempre dá certo, quer ver? Leia a frase abaixo

A rápida raposa castanha salta por cima do

do cão preguiçoso.

Percebeu que a palavra do está escrita duas vezes? Pois é, nosso cérebro é preguiçoso, se entende o contexto, economiza processamento.

Tendo a pensar que as pessoas estão usando a IA como esse atalho para fugir do processo de aprendizado e da responsabilidade com o trabalho entregue, não por maldade, mas por uma preguiça involuntária.

Passei os últimos dias pensando em um termo que chamei de Conhecimento as a Service: o conhecimento deixou de ser algo que se constrói e passou a ser algo que se acessa sob demanda. Parece que, neste momento da evolução tecnológica, a necessidade de aprender ficou em segundo plano, pois hoje é possível realizar de forma simples e rápida atividades que antes eram complexas e dependiam de profissionais capacitados. Na verdade, estudar ainda é necessário, pois é através do estudo que você encontra sua posição no mercado de trabalho e conclui o colégio, a faculdade, a pós-graduação, o mestrado etc. Mas agora com uma facilidade nunca antes experimentada: antes, você não podia simplesmente delegar uma atividade a uma inteligência artificial, precisava pesquisar e elaborar o trabalho por conta própria. Na minha época de escola, tinha que pegar o ônibus e ir a uma biblioteca pública, pois não existia o Google.

E nem dá para culpar a tecnologia. Definitivamente, ela não tem responsabilidade nisso. Nos casos de prazos insuficientes, regras de avaliação ou excesso de demanda, existe espaço para negociação. Não estou falando disso. Estou falando da decisão pessoal de usar a IA como atalho: do profissional que escolhe cortar caminho e do aluno que decide delegar o processo de aprendizagem a um modelo de linguagem.

Será que estamos na iminência de uma mudança no processo de aprendizado? Será que adquirir conhecimento não funcionará mais da forma como conhecemos? Será que o conhecimento vai virar uma commodity?

Quantas dúvidas…

E pensando nisso também, eu criei uma versão alternativa e atualizada do nosso querido Xtreme Go Horse, para esse novo momento da evolução tecnológica.

Conheça o MITM Protocol
https://mitmprotocol.com.br

#InteligenciaArtificial #Educacao #Aprendizado

Leia também

• Profissionais Generalistas ou Especialistas. Quem leva vantagem na era da IA?
• Quando a Samsung subestimou a validação de riscos com a IA

The post Conhecimento as a Service – A evolução do Xtreme Go Horse? appeared first on Fábio Figueredo.

Eu penso que essa é uma definição muito definitiva pra uma contexto que está em mutação praticamente diária. Na minha visão, a resposta é que precisamos dos dois perfis, por motivos diferentes. Vou explicar, mas antes vale alinhar alguns termos.

• O profissional Generalista é o quem tem conhecimento amplo, porém mais superficial, em várias áreas.
• O profissional T-shaped é um generalista com uma especialidade profunda. A barra vertical do T representa essa profundidade, e a horizontal, a amplitude em áreas que se conectam a ela. É o perfil de que as empresas costumam falar quando elogiam o “generalista”, eu me encaixo nesse perfil.
• O Especialista Generalista é um conceito do artigo Expert Generalists (Martin Fowler, Unmesh Joshi e Gitanjali Venkatraman), que faz sentido mencionar nessa análise e eu vou falar sobre ele no decorrer do texto.

Me usando como exemplo: sou especialista em Design de Experiência do Usuário e em Design e Engenharia de Software, tenho bastante fluência em Qualidade de Software e uma profundidade razoável em programação e DevOps. Isso me permite construir produtos completos, dentro de um certo nível de complexidade.

Os profissionais T-shaped têm como principais características:

• Curiosidade: exploram tecnologias e conseguem utilizá-las sem conhecer a fundo sua arquitetura ou linguagem de programação.
• Colaboração: precisam da troca com especialistas para validar suas ideias de execução e para tirá-las do papel da forma correta.
• Foco no cliente: costumam ter uma visão mais ampla do negócio e pensam soluções em um contexto mais geral.

Dito isso, o advento da IA trouxe superpoderes aos profissionais generalistas, incluindo os T-shaped. A chegada da IA na vida de quem trabalha com tecnologia, cujo uso prático é bem diferente do de outras profissões, ampliou muito o alcance dos generalistas. Projetos que antes exigiriam uma equipe inteira agora podem ser construídos em pouquíssimo tempo. Repare que falei de execução, não de qualidade.

É como se o generalista ganhasse uma equipe de especialistas incríveis, que faz qualquer coisa, a qualquer hora, sem questionar. Mas essa equipe só considera segurança, arquitetura, documentação e testes se você souber pedir. Pensou, pediu, está feito. Parece maravilhoso e, em certa medida, é: a IA derrubou a barreira da execução, e agora qualquer ideia pode sair do papel.

Em uma conversa recente com um superintendente de tecnologia de um dos maiores bancos do Brasil, ouvi que uma das primeiras coisas que ele fez com IA foi pegar os post-its de ideias do seu quadro de to-dos e pedir que ela os construísse. Ideias que ele considerava incríveis, na prática eram bastante diferentes disso. Comigo aconteceu o mesmo: construí vários mapas mentais de anos de ideias “geniais” e o resultado não foi bem o que eu esperava. Mas isso é assunto para outro post.

Ou seja, a IA permite que generalistas, mesmo sem desenvolvimento de software como especialidade, construam softwares completos para validar ideias, resolver pequenos problemas do trabalho ou da vida pessoal e agregar mais valor ao dia a dia.

Existe, porém, um gap importante. Um dos princípios fundamentais do desenvolvimento de software é a qualidade: atender critérios técnicos como confiabilidade, segurança, eficiência, usabilidade e manutenibilidade, entre outros (Sommerville). E, quando um generalista usa IA generativa no trabalho, é fundamental considerar o contexto:

• Qual é o resultado esperado?
• Que problema esse trabalho resolve?
• Quem ele atende?
• Para quem será enviado?
• Quem vai validar, e em que nível?
• Quem é impactado?

O risco está no que fica fora da especialidade. Por definição, o conhecimento do generalista nessas áreas é mais raso, e é justamente nelas que ele tem menos condições de avaliar o que a IA entrega. Sem clareza de atuação e sem regras de uso, os tão falados guardrails, podemos criar uma fábrica de softwares sem qualidade, que coloca empresas, funcionários e clientes em risco.

Especialista Generalista

Na semana passada li o artigo Expert Generalists – o link está no final do post. Os autores identificaram que a indústria de tecnologia tende a valorizar profissionais que combinam especialização sólida com a capacidade de ser produtivos em contextos diferentes, porque dominam princípios que se transferem entre tecnologias. Um exemplo do artigo: um programador Python que domina os padrões e práticas centrais de desenvolvimento consegue ser produtivo em uma equipe Java.

Em relação ao T-shaped, o Especialista Generalista tem especialização e generalização mais amplas. Os autores também observam que o modelo tradicional de carreira, com uma especialidade clara (Desenvolvedor Java Jr > Pleno > Sênior), não se encaixa bem nesse perfil.

O que eu penso sobre isso, é que pelo menos no curto prazo, não vejo o Especialista Generalista se tornando um cargo comum no mercado. O que vejo é espaço para todos os profissionais que queiram evoluir na carreira de forma responsável e engajada.

Com meus alunos, defendo que os especialistas são e sempre serão muito importantes no ciclo de desenvolvimento de software, e em qualquer outra área, porque sempre será necessário validar o que a IA constrói. Mesmo que ela seja a protagonista da construção, é imprescindível haver um humano responsável pela concepção e pela validação.

Especialmente durante a formação, esse pensamento é muito importante, porque a decisão de se aprofundar em um assunto é de cada profissional. Li, no livro Chomsky e Mujica: Sobrevivendo ao século XXI, de Saúl Alvídrez, uma analogia que resume bem isso: a IA é como um martelo. Com ele, você pode construir uma casa ou machucar alguém. A escolha é sua.

Em resumo: os generalistas são essenciais pela capacidade de olhar a solução de forma ampla, testar ideias e apresentar propostas minimamente validadas. Os especialistas são igualmente essenciais para garantir que a solução criada pela IA tenha a segurança necessária para ser usada sem riscos para usuários e empresas.

E você, no seu trabalho, quem valida o que a IA constrói?

Link para o artigo sobre Generalistas Especialistas: https://martinfowler.com/articles/expert-generalist.html

Leia também

• Conhecimento as a Service – A evolução do Xtreme Go Horse?
• IA como ferramenta no processo de UX Design

The post Profissionais Generalistas ou Especialistas. Quem leva vantagem na era da IA? appeared first on Fábio Figueredo.

O AI Act é a primeira lei abrangente do mundo sobre IA. A lei entrou em vigor em 01/08/2024 e está sendo implementada em etapas. O AI Act não regula a tecnologia; ele regula os usos da IA, e as exigências aumentam conforme o risco de cada tipo de uso. Isso faz bastante sentido, pois não adianta aplicar o mesmo remédio para todos os tipos de situação ou risco. Por exemplo, o uso da IA para identificar as principais mensagens que você recebeu na sua caixa de e-mail no dia necessita de uma validação muito menor do que o uso da IA para analisar um relatório relacionado à performance de um produto ou serviço.

O AI Act usa como lógica central a pirâmide de riscos, separando os riscos em 4 níveis:

Risco Inaceitável – Usos de IA que ameaçam direitos fundamentais são proibidos. Um exemplo é a utilização de técnicas enganosas que causem algum tipo de dano, como utilizar IA para detectar o momento em que um usuário está mais impulsivo em um app de apostas, exibindo estímulos que o influenciem a continuar apostando. Outro exemplo de uso proibido é o social scoring. Imagine que uma prefeitura crie uma espécie de nota para os cidadãos, que usa as ações das pessoas (multas de trânsito, atraso no pagamento de contas etc.) para classificá-las e oferecer (ou negar) serviços a partir dessa pontuação (Nossa, isso é muito Black Mirror… rs).

Alto Risco – Utilizar IA em áreas sensíveis, como equipamentos médicos, veículos, brinquedos, triagem de currículos, avaliação de funcionários, avaliação de crédito e seguro etc. Um bom exemplo é um caso que aconteceu na Amazon, que inclusive discuto em sala de aula com meus alunos. A Amazon utilizou um modelo de IA para classificar currículos de candidatos e, como o volume de candidatos homens era muito maior que o de candidatas, o modelo internalizou esse viés e passou a selecionar apenas currículos de homens.

Risco Limitado – Neste nível, o AI Act trata de transparência, ou seja, o risco principal é enganar as pessoas sobre o que é e o que não é real. A lei não proíbe nada específico nem exige certificação; o ponto aqui é que as pessoas precisam ser informadas e ter clareza sobre o que é e o que não é real. Um exemplo são os chatbots de atendimento que utilizam IA e que estão sendo amplamente adotados pelas empresas. Há um caso bastante emblemático sobre esse tipo de risco, em que o chatbot de uma companhia aérea passou uma informação incorreta para um cliente. O cliente processou a empresa e, no julgamento, o advogado da empresa disse que ela não tinha responsabilidade sobre o que a IA havia dito ao cliente (sic).

Risco Mínimo – Este nível fica na base da pirâmide, e é aqui que está a grande maioria dos usos corriqueiros da IA. Entram nesta camada os filtros de spam dos clientes de e-mail, corretores ortográficos, ferramentas de transcrição de reuniões e sistemas de recomendação de produtos, vídeos e músicas, entre outros. O AI Act não impõe nenhuma obrigação específica para esse nível, mas há uma exceção importante a considerar: o artigo 4 do AI Act diz que, independentemente do nível de risco em que atue, o profissional precisa ser treinado para o uso de IA. Já o artigo 95 diz que devem existir códigos de conduta que orientem o uso da IA. É aqui que entra outro tema bastante discutido nas aulas de IA que ministro na faculdade onde trabalho: o conceito de human in the loop, que coloca o humano como responsável no processo com a IA, cabendo a ele estruturar o pedido e validar o resultado gerado. E nesse ponto há um critério muito importante: não tem como validar algo que você não conhece, certo?! Por isso devemos deixar de ser, definitivamente, um meat proxy.

Mas isso é assunto para outro post.

Para saber mais:

• AI Act – https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• Caso da Amazon – https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/
• Caso da companhia aérea – Air Canadá: https://www.bbc.com/travel/article/20240222-air-canada-chatbot-misinformation-what-travellers-should-know

Leia também

• AI Risk Management Framework – NIST
• Quando a Samsung subestimou a validação de riscos com a IA

The post AI Act, a lei europeia sobre Inteligência Artificial appeared first on Fábio Figueredo.

O AI Risk Management Framework (AI RMF) foi desenvolvido em conjunto com o setor público e privado. E, diferente de uma lei, ele é um framework voluntário, ou seja, é um conjunto de diretrizes que as empresas decidem ou não seguir. Diferente de uma lei, como a LGPD no Brasil, onde as empresas brasileiras ou empresas que atendem o público brasileiro precisam seguir com risco de sanções caso não a sigam.

A estrutura do AI Risk Management Framework gira em torno de 4 funções, pensadas para se repetir continuamente ao longo do ciclo de vida de adoção um sistema de Inteligência Artificial. São elas:

O interessante desse framework de governança é que ele não é linear, é um ciclo que pode ser realizado em uma sequência diferente dessa listada acima. Por exemplo, o sistema atualizou, o uso mudou, o contexto mudou, volte para o mapeamento, o Govern já está decidido.

Esse foi um dos frameworks que aprofundei na minha pesquisa e que fará parte do livro que estou escrevendo sobre governança de IA.

Para saber mais sobre o AI RMF: https://lnkd.in/dhnJ45Wt

A cada semana irei compartilhar um pouco desse trabalho por aqui.

Até a próxima.

Leia também

• AI Act, a lei europeia sobre Inteligência Artificial
• Quando a Samsung subestimou a validação de riscos com a IA

The post AI Risk Management Framework – NIST appeared first on Fábio Figueredo.

A revolução comandada pelas soluções de Inteligência Artificial (IA) também influencia de forma direta essa etapa tão importante do processo de criação de um produto digital. Porém, precisamos utilizar a Inteligência Artificial de forma responsável, para garantir a qualidade das informações, trazer agilidade e insights mais profundos para a definição de proto-personas e tomadas de decisão no design.

A pesquisa com usuários nos ajuda a evitar um dos erros mais comuns no desenvolvimento de produtos: criar soluções baseadas em suposições ou na opinião somente do dono do produto, que em muitos casos não é o usuário final. Sem entender as dores, os objetivos e os comportamentos do público-alvo, as chances de errar no design e nas decisões de usabilidade aumentam significativamente. Portanto essa etapa é muito importante para permitir que designers criem produtos centrados no usuário, promovendo uma experiência mais intuitiva, acessível, eficaz e que faça com que o usuário retorne e recomende o produto para mais pessoas.

Segundo o Norman Nielsen Group, a mais importante consultoria em UX, empresas que investem em pesquisas com usuários e aplicações centradas no UX design obtêm um retorno sobre investimento (ROI) bastante significativo. Essa informação ressalta que entender o usuário não é apenas uma questão de empatia, mas também de estratégia de negócios.

IA como ferramenta na Pesquisa de UX

A Inteligência Artificial pode ser uma ferramenta poderosa para aprimorar as pesquisas com usuários. Contudo, é fundamental utilizá-la com responsabilidade, garantindo que os dados analisados sejam confiáveis e que os resultados gerados respeitem a privacidade e ética no tratamento das informações, inclusive se atentando às regras da LGPD.

A IA é uma aliada bastante eficiente no processo de análise das informações coletadas para a criação de uma proto-persona. É possível buscar e tabular os dados através de uma pesquisa netnográfica, ou realizar pesquisas qualitativas ou quantitativas através de formulários on-line. Os resultados dessas pesquisas podem ser submetidos para que a IA analise e elabore uma proto-persona para apoiar o desenvolvimento do projeto.

Um prompt que pode te ajudar nesse processo:

“Com base nos dados fornecidos no documento anexo, elabore uma proto-persona detalhada contendo as seguintes informações:

• Nome fictício
• Idade
• Local de residência (cidade ou região)
• Uma frase que resume a essência da persona
• Lista de dores (principais desafios ou problemas enfrentados)
• Lista de necessidades (principais objetivos ou desejos).

Certifique-se de que a proto-persona represente fielmente os dados apresentados no documento.”

Obviamente, os dados coletados devem ser compatíveis com as informações que você precisa para a construção da proto-persona.

Em resumo, a pesquisa com usuários é uma etapa fundamental no processo de UX Design, e a Inteligência Artificial pode potencializar esse trabalho de maneira significativa. Contudo, é essencial equilibrar tecnologia e responsabilidade, assegurando que os dados sejam tratados de forma ética e que as ferramentas sejam utilizadas para servir aos objetivos dos usuários.

Devemos incluir a IA no nosso fluxo de trabalho como uma ferramenta de apoio e aceleração do trabalho. Nunca como uma forma de pular etapas ou trabalhar inteiramente por você, pois os resultados gerados pelas IAs não são precisos ou 100% confiáveis. Cabe a você, como profissional, analisar a aplicabilidade da ferramenta IA no seu dia a dia, e avaliar os resultados gerados antes de tomá-los como verdade absoluta.

Outra dica valiosa sobre IAs: Pedir para uma IA simplesmente fazer todo o seu trabalho não é nem de longe uma boa ideia. Não caia nessa armadilha.

O futuro do UX design é promissor, especialmente quando combinamos criatividade, empatia e inovação tecnológica. Que possamos aproveitar ao máximo o poder da IA para criar experiências que verdadeiramente transformem o modo como as pessoas interagem com o mundo digital.

Fontes:

Norman Nielsen Group. “ROI of User Experience.” Disponível em: https://www.nngroup.com/articles/return-on-investment-for-usability/

Leia também

• UX, CX e HX: Conceitos diferentes, mas profundamente interligados
• Design Inclusivo: Transformando Experiências Digitais em Ferramentas de Inclusão

The post IA como ferramenta no processo de UX Design appeared first on Fábio Figueredo.