A indústria de inteligência artificial não é apenas a que cresce mais rápido no mundo, mas também a que avançou com maior velocidade na história recente. De 2024 para 2025, os investimentos corporativos globais em IA passaram de US$ 252,9 bilhões para US$ 581,7 bilhões. Um salto de 130%, segundo relatório da Stanford.
As cifras bilionárias impressionam, assim como o potencial de transformação dessa tecnologia. Ao contrário de inovações anteriores, que se concentravam na automação de tarefas mecânicas, a IA passou a impactar diretamente o trabalho cognitivo: interage com pessoas, apoia a tomada de decisões e impulsiona a produção de conteúdo.
Porém, como diz a sabedoria popular, com grandes poderes vêm grandes responsabilidades. E é nesse contexto que surge o conceito de IA Responsável (do inglês, Responsible AI ou simplesmente RAI), um conjunto de boas práticas voltadas para o desenvolvimento, a implementação e o uso ético da IA.
Indo além de uma conduta individual, a IA Responsável é um pacto coletivo, uma espécie de contrato social entre quem desenvolve novas tecnologias e a sociedade. Enquanto o desenvolvedor assume o dever de entregar uma tecnologia que opere sem discriminar, perpetuar preconceitos, expor dados ou violar a privacidade do usuário, a sociedade se beneficia de uma solução justa, segura e transparente.
Imagine que um chatbot de Recursos Humanos conceda a um funcionário acesso à folha de pagamento de um colega. Ou que uma ferramenta de recrutamento elimine currículos de mulheres para áreas historicamente dominadas por homens. Ou ainda um sistema que ofereça níveis de crédito diferentes apenas pela raça, gênero ou orientação sexual.
São três comportamentos problemáticos – relacionados à segurança, à discriminação e à ética, respectivamente –, mas passíveis de acontecer em soluções baseadas em IA. Afinal, tratam-se de reproduções de comportamentos humanos, e os repositórios que treinam e alimentam a inteligência artificial advêm de bases de dados produzidos por… humanos. Para o bem ou para o mal, a inteligência artificial atua apenas como um intensificador, distribuindo e escalando questões positivas e negativas já presentes na sociedade.
E esses riscos surgem da interação entre homem e máquina, a mitigação deles se torna mais efetiva quando também conjuga esforços desses dois agentes. É nesse caminho que o ICTi acredita. Muito antes de ser disponibilizado para os clientes, todo produto do Banco Itaú que utiliza IA passa por testes automatizados e, na sequência, por checagens humanas. Ambos os testes acontecem em sandboxes, ambientes controlados que asseguram o isolamento do modelo testado.
Os testes automatizados servem para mapear em grande volume riscos mais claros, simples e conhecidos. Já a intervenção humana – também conhecida como human-in-the-loop – vem para detectar riscos menos óbvios e mais contextuais. Afinal, assim como nem toda discriminação é explícita, os vieses da IA também podem operar em camadas mais tácitas.
Uma das inovações criadas pelo ICTi para endereçar esse desafio é o Enviesador, metodologia proprietária desenvolvida para identificar vieses implícitos em modelos de IA. Inspirada em conceitos da psicologia social, comportamental e da sociologia, a solução trata o viés implícito como uma falha de julgamento. Enquanto a maioria das ferramentas de mercado busca vieses apenas em padrões óbvios, o Enviesador utiliza modelos avançados de linguagem para analisar o contexto e identificar anomalias sutis. Na prática, a ferramenta aplica cenários hipotéticos de teste e utiliza técnicas de processamento de linguagem natural para verificar se as recomendações do modelo tendem a reforçar estereótipos associados a grupos sociais.
Ainda assim, há coisas que só o ser humano, com sua pluralidade de pontos de vista, pode detectar. É por isso que, para além de competências técnicas, é imprescindível valorizar a diversidade nos red teams – equipes dedicadas a encontrar vulnerabilidades nos modelos. Quanto mais diversidade, mais acurácia na mitigação de riscos.
Pessoas negras são mais propensas a descobrir racismo algorítmico do que pessoas brancas. Mulheres tendem a estressar mais o sistema em questões de gênero do que homens. Pessoas LGBTQIAPN+ têm mais repertório para identificar comportamentos LGBTfóbicos que poderiam passar despercebidos para um homem heterossexual e cisgênero. Assim como um psicólogo ou um jornalista tende a conversar com a IA de maneira diferente do que faria um engenheiro ou um contador, por exemplo.
Para conseguir essa pluralidade de olhares e mitigar o máximo possível de riscos em uma aplicação de IA, montamos equipes com especialistas de diversas áreas do Itaú, para além da tecnologia. Esses profissionais passam a atuar na curadoria humana após receberem uma capacitação técnica sobre o funcionamento da inteligência artificial e sobre a criação de prompts desafiadores.
Toda e qualquer vulnerabilidade que encontram, reportam ao blue team, equipe responsável por desenvolver soluções para sanar os comportamentos indesejados. E assim, o ciclo de testes e correções recomeça: com um produto ainda experimental, mas já significativamente mais seguro, ético e robusto.
Afinal, uma boa inteligência artificial não é apenas aquela que apresenta desempenho satisfatório, mas aquela cujo comportamento pode ser testado, questionado, documentado e continuamente aprimorado. De toda tecnologia emergente, emergem não apenas novas possibilidades, mas também novos riscos. E é nosso dever tratá-los para que, em vez de amplificar velhos problemas, a IA possa nos propor novas soluções.
Saiba mais:
- ICTi e Itaú: pioneirismo em inovação e Propriedade Intelectual com a patente do Enviesador
- Alfabetizando a IA em português: por que estamos treinando modelos de LLM na nossa língua e cultura?
- ICTi desenvolve método inédito para testar a confiabilidade de agentes de inteligência artificial
Fonte: https://hai.stanford.edu/ai-index/2026-ai-index-report