A inteligência artificial (IA) está se tornando cada vez mais influente na educação STEM. Ferramentas de IA agora podem suportar pontuação automatizada, feedback personalizado, tutoria e análises de aprendizagem. No entanto, muitos sistemas avançados de IA, incluindo modelos de aprendizado profundo e grandes modelos de linguagem (LLMs), operam como "caixas-pretas". Eles podem fornecer pontuações ou feedback, mas é difícil para educadores, estudantes e pesquisadores entenderem como as decisões geradas pela IA são tomadas.

Em um livro de acesso aberto recentemente publicado, Inteligência Artificial para Pesquisa em Educação STEM, um capítulo "IA explicável na pesquisa em educação em STEM" é dedicado a essa questão. Examina como sistemas de IA podem ser tornados mais transparentes, interpretáveis e úteis para a educação STEM, introduzindo abordagens-chave explicáveis de IA e discutindo como elas podem apoiar confiança, insights diagnósticos, tomada de decisões instrucionais e integração responsável de IA em contextos de aprendizagem STEM.

IA explicável, frequentemente chamada de XAI, refere-se a métodos e princípios que ajudam as pessoas a entender, confiar e, potencialmente, controlar o raciocínio por trás das previsões de um modelo de IA. Na educação, a explicabilidade não é apenas uma preocupação técnica, mas também pedagógica e ética.

Quando a IA é usada para pontuação ou geração de feedback, os educadores precisam saber se o sistema está focando em evidências significativas de aprendizagem. Os alunos também se beneficiam quando o feedback da IA os ajuda a entender por que uma resposta é forte, incompleta ou imprecisa. Pesquisadores precisam de explicabilidade para avaliar se os modelos de IA estão alinhados com teorias de aprendizagem, estruturas de avaliação e expectativas disciplinares.

Alguns modelos de IA são mais fáceis de entender por design, como modelos lineares e baseados em árvores. Um modelo linear pode ajudar a mostrar como um fator, como o tempo de estudo ou o desempenho prévio, está associado a um resultado previsto. Um modelo baseado em árvore pode mostrar uma sequência de regras de decisão que levam a um resultado. Esses modelos tornam visível a lógica da previsão da IA.

Outros métodos são projetados para explicar sistemas de IA mais complexos. Uma abordagem usa o raciocínio do tipo "e se", também conhecido como explicação contrafactual, para transformar uma previsão em orientação. Por exemplo, uma ferramenta de IA pode mostrar como a resposta de um aluno pode melhorar se ele adicionasse uma ideia-chave científica ou corrigisse um equívoco. Esse tipo de explicação pode transformar uma pontuação de IA em um feedback útil.

Outra abordagem ajuda a identificar quais partes do trabalho do aluno mais importaram para a IA. Por exemplo, na pontuação automatizada, a IA explicável pode ajudar a mostrar se o sistema reconheceu ideias importantes como fotossíntese ou conversão de energia nas respostas dos alunos. Isso ajuda os professores a determinar se a IA está prestando atenção e detectando conteúdo disciplinar significativo.

O ChatGPT e outros LLMs levantam outra questão importante. Como essas ferramentas respondem a prompts escritos em linguagem cotidiana, a forma como os usuários fazem perguntas importa. Prompts claros, exemplos relevantes, informações de fundo e raciocínio passo a passo podem tornar as interações com IA mais visíveis e mais fáceis de refinar. Estratégias como exemplos em contexto, aprimoramentos de conhecimento e incitamento em cadeia de pensamento podem ajudar a orientar LLMs para respostas mais interpretáveis e úteis para ensino e aprendizagem.

No geral, uma mensagem central é que a IA na educação STEM não deve ser julgada apenas pela precisão. Uma nota, recomendação ou mensagem de feedback se torna mais valiosa quando as pessoas entendem o motivo por trás dela. A XAI pode ajudar a conectar os resultados dos modelos aos tipos de evidências que os educadores valorizam, como raciocínio estudantil, equívocos, compreensão disciplinar e progresso ao longo do tempo.

À medida que a IA continua a evoluir, seu papel na educação STEM exigirá colaboração contínua entre pesquisadores, educadores, cientistas da aprendizagem e especialistas em avaliação para garantir que as ferramentas de IA permaneçam centradas no ser humano. Embora vista como uma transformação dentro do sistema educacional, seu sucesso dependerá de quão cuidadosa será implementada, sendo extrema importância que os educadores permaneçam no centro das decisões sobre como a IA é usada, quais evidências importam e como os insights gerados pela IA devem informar o ensino e a aprendizagem. No geral, se usada de forma responsável, a IA pode ser uma ferramenta poderosa para melhorar o feedback, apoiar a avaliação, aprofundar a compreensão e preparar os alunos para o futuro. A IA explicável é uma parte importante para tornar esse futuro confiável e alinhado com o aprendizado humano.