Quando pensamos em Inteligência Artificial, é comum imaginar sistemas capazes de gerar textos, reconhecer imagens ou responder perguntas. Mas uma das transformações mais significativas trazidas pelos modelos modernos acontece em um plano menos visível: a capacidade de identificar padrões em grandes volumes de informação e extrair conhecimentos sobre comportamentos, preferências e contextos. A partir da combinação de diferentes sinais, esses sistemas encontram relações que permitem classificar, prever ou recomendar ações, ampliando seu potencial de aplicação em uma ampla variedade de cenários.

De dados a inferências

Os sistemas de inteligência artificial atuais são resultado de uma mudança importante na forma como problemas complexos são resolvidos: em vez de depender exclusivamente de regras definidas manualmente, os modelos passam a aprender padrões diretamente a partir dos dados. Durante o treinamento, essas tecnologias identificam relações estatísticas, regularidades e associações que podem ser utilizadas futuramente para apoiar análises e previsões.

Essa capacidade permite que os algoritmos cheguem a conclusões que vão além das informações explicitamente fornecidas. Ao analisar diferentes sinais em conjunto, os modelos podem produzir estimativas, sugerir classificações e reconhecer comportamentos semelhantes aos observados anteriormente. Essa evolução ampliou significativamente o papel da inteligência artificial em processos de análise e tomada de decisão, mas também trouxe novos desafios científicos relacionados à confiabilidade das conclusões geradas por esses sistemas.

Os limites da inteligência artificial ao interpretar o mundo

Embora os modelos sejam cada vez mais capazes de identificar padrões complexos, isso não significa que compreendam o contexto da mesma forma que os seres humanos. Muitas vezes, sistemas de IA encontram correlações relevantes sem necessariamente compreender as causas que explicam determinado fenômeno. Em outras situações, podem aprender relações presentes nos dados de treinamento que não representam adequadamente a realidade quando aplicadas em novos contextos. A razão disso é que correlação entre dados são suficientes para modelos de IA voltados para fazer previsões sobre o futuro com base no passado, mas podem existir mesmo sem que haja uma relação de causa e efeito entre estes dados. Estimar o efeito de uma possível ação, algo tão importante para avaliação de impacto e tomada de decisão, exige habilidades de raciocínio causal.

Esse desafio torna-se ainda mais relevante à medida que algoritmos participam de processos que envolvem classificação, recomendação ou apoio à tomada de decisão. Nesses cenários, não basta avaliar apenas o desempenho final do modelo. Também é necessário investigar quais fatores influenciaram determinado resultado, quais limitações estão envolvidas e quais consequências podem surgir a partir dessas análises. É por isso que temas como avaliação de riscos, vieses, transparência e explicabilidade vêm ganhando espaço entre as principais frentes de pesquisa em inteligência artificial.

Por que compreender as decisões dos algoritmos se tornou tão importante?

Durante muitos anos, o foco esteve principalmente em aumentar a precisão das previsões. Hoje, pesquisadores e organizações dedicam atenção crescente aos mecanismos que levam um sistema a produzir determinada resposta. O interesse não está apenas no resultado final, mas também nos fatores que influenciam essa conclusão, nos seus limites e nas condições em que ela pode ser considerada confiável. Esse movimento impulsiona pesquisas em explicabilidade e avaliação de impacto, áreas voltadas a tornar sistemas inteligentes mais transparentes e adequados aos diferentes cenários de aplicação

Pesquisa aplicada que gera valor

À medida que sistemas de inteligência artificial passam a apoiar análises, classificações e processos de tomada de decisão, compreender como essas conclusões são construídas tornou-se uma questão tão importante quanto aprimorar o desempenho dos modelos. Nem toda correlação encontrada por um algoritmo representa uma relação significativa para o contexto em que será aplicada, o que torna essencial investigar os fatores que influenciam esses resultados, seus limites e seus potenciais impactos.

Nesse contexto, o ICTi desenvolve pesquisas voltadas à análise do comportamento de sistemas inteligentes, explorando temas como inferência algorítmica, explicabilidade, avaliação de riscos e robustez de modelos. O objetivo é aprofundar o conhecimento sobre como essas tecnologias produzem análises e recomendações a partir de grandes volumes de informação, contribuindo para o desenvolvimento de soluções mais transparentes, consistentes e adequadas aos diferentes cenários de uso.

Algumas das pesquisas que são exploradas por pesquisadores do ICTi:

Essas frentes de pesquisa também se refletem na produção científica do ICTi, com trabalhos publicados em conferências e periódicos nacionais e internacionais. Alguns exemplos incluem:

• Inferências algorítmicas e construção de perfis: pesquisas sobre como sistemas inteligentes identificam padrões e produzem classificações podem ser observadas em trabalhos como “Business Activity Classification Extraction from Commercial Footage: A Multimodal LLM Approach Based on CNAE”, que explora a classificação automática de atividades econômicas a partir de diferentes fontes de informação, e em estudos sobre sistemas de recomendação personalizados baseados em modelos avançados de IA.

• Explicabilidade em modelos de Inteligência Artificial: o tema é abordado em pesquisas como “Quantitative Analysis of Visual XAI for Multiclass DeepFake Detection based on CNN”, que investiga técnicas de Explainable Artificial Intelligence (XAI) para ampliar a compreensão sobre os fatores que influenciam as decisões de modelos de classificação.

• Avaliação de riscos em decisões automatizadas: trabalhos como “Safeguarding Human Agency in AI-Assisted Financial Decisions: Detecting and Mitigating Cognitive Biases in LLMs “ investigam riscos associados ao uso de IA no apoio à tomada de decisão, enquanto pesquisas em inferência causal exploram métodos para compreender relações de causa e efeito e analisar possíveis impactos gerados pelos modelos.

• Viés e qualidade de inferências em sistemas inteligentes: estudos como “Assessing Demographic Bias and Fairness in Facial Recognition Systems: A Framework”  analisam aspectos relacionados à equidade e aos vieses presentes em sistemas de reconhecimento facial, contribuindo para o desenvolvimento de modelos mais robustos e confiáveis.

• Transparência e confiança em Inteligência Artificial: além das pesquisas em explicabilidade, o ICTi também desenvolve trabalhos voltados à avaliação e validação de sistemas inteligentes, contribuindo para ampliar a compreensão sobre o funcionamento desses modelos e fortalecer a confiança em sua aplicação em cenários reais.

Algumas dessas pesquisas já resultaram em publicações científicas apresentadas em importantes eventos da área. Confira a produção científica completa do ICTi em Produção Científica do ICTi.