A inteligência artificial (IA) está a tornar-se cada vez mais influente na educação STEM. As ferramentas de IA podem agora suportar pontuação automatizada, feedback personalizado, explicações e análises de aprendizagem. No entanto, muitos sistemas avançados de IA, incluindo modelos de aprendizagem profunda e grandes modelos de linguagem (LLMs), funcionam como "caixas negras". Podem fornecer pontuações ou feedback, mas é difícil para educadores, estudantes e investigadores compreenderem como são tomadas as decisões geradas pela IA.

Num livro de acesso aberto recentemente publicado, Artificial Intelligence for STEM Education Research, um capítulo "Explainable AI in STEM Education Research" é dedicado a esta questão. Examina como os sistemas de IA podem ser tornados mais transparentes, interpretáveis e úteis para a educação STEM, introduzindo abordagens-chave explicáveis de IA e discutindo como podem apoiar a confiança, a perceção diagnóstica, a tomada de decisões instrucionais e a integração responsável da IA em contextos de aprendizagem STEM.

A IA explicável, frequentemente chamada XAI, refere-se a métodos e princípios que ajudam as pessoas a compreender, confiar e, potencialmente, controlar a razão por detrás das previsões de um modelo de IA. Na educação, a explicabilidade não é apenas uma questão técnica, mas também pedagógica e ética.

Quando a IA é usada para pontuação ou geração de feedback, os educadores precisam de saber se o sistema está a focar-se em evidências significativas de aprendizagem. Os alunos também beneficiam quando o feedback da IA os ajuda a compreender porque é que uma resposta é forte, incompleta ou imprecisa. Os investigadores precisam de explicabilidade para avaliar se os modelos de IA estão alinhados com as teorias de aprendizagem, os quadros de avaliação e as expectativas disciplinares.

Alguns modelos de IA são mais fáceis de compreender por design, como modelos lineares e baseados em árvores. Um modelo linear pode ajudar a mostrar como um fator, como o tempo de estudo ou o desempenho prévio, está associado a um resultado previsto. Um modelo baseado em árvores pode mostrar uma sequência de regras de decisão que conduzem a um resultado. Estes modelos tornam visível a lógica da previsão da IA.

Outros métodos são concebidos para explicar sistemas de IA mais complexos. Uma abordagem utiliza o raciocínio "e se", também conhecido como explicação contrafactual, para transformar uma previsão em orientação. Por exemplo, uma ferramenta de IA pode mostrar como a resposta de um aluno pode melhorar se adicionar uma ideia-chave científica ou corrigir um equívoco. Este tipo de explicação pode transformar uma pontuação de IA num feedback útil.

Outra abordagem ajuda a identificar quais as partes do trabalho do aluno que mais importaram para a IA. Por exemplo, na pontuação automatizada, a IA explicável pode ajudar a mostrar se o sistema reconheceu ideias importantes como fotossíntese ou conversão de energia nas respostas dos alunos. Isto ajuda os professores a determinar se a IA está atenta e a detetar conteúdos disciplinares significativos.

O ChatGPT e outros LLMs levantam outra questão importante. Como estas ferramentas respondem a prompts escritos em linguagem quotidiana, a forma como os utilizadores fazem perguntas é importante. Prompts claros, exemplos relevantes, informações de fundo e raciocínio passo a passo podem tornar as interações da IA mais visíveis e fáceis de refinar. Estratégias como exemplos em contexto, aumentos de conhecimento e incitamentos em cadeia de pensamento podem ajudar a orientar os LLMs para respostas mais interpretáveis e úteis para o ensino e a aprendizagem.

No geral, uma mensagem central é que a IA na educação STEM não deve ser julgada apenas pela precisão. Uma pontuação, recomendação ou mensagem de feedback torna-se mais valiosa quando as pessoas compreendem a razão por trás dela. A XAI pode ajudar a ligar os resultados dos modelos aos tipos de evidência que os educadores valorizam, como o raciocínio dos alunos, equívocos, compreensão disciplinar e progresso ao longo do tempo.

À medida que a IA continua a evoluir, o seu papel na educação STEM exigirá colaboração contínua entre investigadores em IA, educadores, cientistas da aprendizagem e especialistas em avaliação para garantir que as ferramentas de IA permaneçam centradas no ser humano. Embora vista como uma transformação dentro do sistema educativo, o seu sucesso dependerá da sua implementação ponderada, sendo extremamente importante que os educadores permaneçam no centro das decisões sobre como a IA é utilizada, que evidências importam e como os insights gerados pela IA devem informar o ensino e a aprendizagem. No geral, se usada de forma responsável, a IA pode ser uma ferramenta poderosa para melhorar o feedback, apoiar a avaliação, aprofundar a compreensão e preparar os alunos para o seu futuro. A IA explicável é uma parte importante para tornar esse futuro fiável e alinhado com a aprendizagem humana.