Künstliche Intelligenz (KI) gewinnt zunehmend an Einfluss in der MINT-Bildung. KI-Tools können nun automatisierte Bewertungen, personalisiertes Feedback, Nachhilfe und Lernanalysen unterstützen. Viele fortschrittliche KI-Systeme, darunter Deep-Learning-Modelle und große Sprachmodelle (LLMs), funktionieren jedoch wie "Black Boxes". Sie können Bewertungen oder Feedback geben, aber es ist für Lehrkräfte, Schüler und Forscher schwierig zu verstehen, wie KI-generierte Entscheidungen getroffen werden.

In einem kürzlich veröffentlichten Open-Access-Buch, Artificial Intelligence for STEM Education Research, widmet sich dieses Thema ein Kapitel mit dem Titel "Explainable AI in STEM Education Research". Es untersucht, wie KI-Systeme transparenter, interpretierbarer und nützlicher für MINT-Bildung gemacht werden können, indem zentrale erklärbare KI-Ansätze eingeführt und diskutiert wird, wie sie Vertrauen, diagnostische Einsichten, Unterrichtsentscheidungen und verantwortungsvolle KI-Integration in MINT-Lernkontexte unterstützen können.

Erklärbare KI, oft XAI genannt, bezieht sich auf Methoden und Prinzipien, die Menschen helfen, die Begründung eines KI-Modells zu verstehen, zu vertrauen und möglicherweise die Begründung dafür zu kontrollieren. In der Bildung ist Erklärbarkeit nicht nur eine technische Angelegenheit, sondern auch eine pädagogische und ethische Angelegenheit.

Wenn KI zur Bewertung oder Feedback-Generierung eingesetzt wird, müssen Lehrkräfte wissen, ob das System sich auf sinnvolle Belege für Lernen konzentriert. Schüler profitieren auch davon, wenn KI-Feedback ihnen hilft zu verstehen, warum eine Antwort stark, unvollständig oder ungenau ist. Forscher benötigen Erklärbarkeit, um zu bewerten, ob KI-Modelle mit Lerntheorien, Bewertungsrahmen und disziplinären Erwartungen übereinstimmen.

Einige KI-Modelle sind von Natur aus leichter zu verstehen, wie lineare und baumbasierte Modelle. Ein lineares Modell kann zeigen, wie ein Faktor, wie Studienzeit oder bisherige Leistung, mit einem vorhergesagten Ergebnis zusammenhängt. Ein baumbasiertes Modell kann eine Abfolge von Entscheidungsregeln zeigen, die zu einem Ergebnis führen. Diese Modelle machen die Logik der KI-Vorhersage sichtbar.

Andere Methoden sind darauf ausgelegt, komplexere KI-Systeme zu erklären. Ein Ansatz verwendet "Was-wäre-wenn"-Argumentation, auch als kontrafaktische Erklärung bekannt, um eine Vorhersage in eine Orientierung zu verwandeln. Zum Beispiel könnte ein KI-Tool zeigen, wie sich die Antwort eines Schülers verbessern könnte, wenn er eine wichtige wissenschaftliche Idee hinzugefügt oder ein Missverständnis korrigiert. Diese Art von Erklärung kann einen KI-Score in nützliches Feedback verwandeln.

Ein anderer Ansatz hilft dabei, herauszufinden, welche Teile der Arbeit eines Schülers für die KI am wichtigsten waren. Zum Beispiel kann bei der automatisierten Bewertung erklärbare KI helfen zu zeigen, ob das System wichtige Ideen wie Photosynthese oder Energieumwandlung in den Schülerantworten erkannt hat. Dies hilft Lehrern zu erkennen, ob die KI aufmerksam ist und sinnvolle disziplinarische Inhalte erkennt.

ChatGPT und andere LLMs werfen ein weiteres wichtiges Thema auf. Da diese Tools auf Prompts in alltäglicher Sprache reagieren, ist die Art und Weise, wie Nutzer Fragen stellen, wichtig. Klare Hinweise, relevante Beispiele, Hintergrundinformationen und Schritt-für-Schritt-Argumentation können KI-Interaktionen sichtbarer machen und leichter zu verfeinern. Strategien wie Beispiele im Kontext, Wissenserweiterungen und Chain-of-Thought-Prompting können LLMs zu Antworten führen, die besser interpretierbar und nützlich für Lehre und Lernen sind.

Insgesamt ist eine zentrale Botschaft, dass KI in der MINT-Bildung nicht allein nach Genauigkeit beurteilt werden sollte. Eine Bewertung, Empfehlung oder Feedback-Botschaft wird wertvoller, wenn die Menschen die Beweggründe dahinter verstehen. XAI kann helfen, Modellergebnisse mit den Arten von Beweisen zu verbinden, die Lehrkräfte interessieren, wie zum Beispiel das Denken der Schüler, Missverständnisse, disziplinäres Verständnis und Fortschritt im Zeitverlauf.

Da sich KI weiterentwickelt, wird ihre Rolle in der MINT-Bildung eine fortlaufende Zusammenarbeit zwischen KI-Forschern, Lehrkräften, Lernwissenschaftlern und Experten für Assessments erfordern, um sicherzustellen, dass KI-Werkzeuge menschenzentriert bleiben. Obwohl sie als Transformation im Bildungssystem betrachtet wird, hängt ihr Erfolg davon ab, wie durchdacht sie umgesetzt wird, wobei es äußerst wichtig ist, dass Lehrkräfte im Mittelpunkt der Entscheidungen darüber stehen, wie KI eingesetzt wird, welche Beweise wichtig sind und wie KI-generierte Erkenntnisse Lehre und Lernen informieren sollten. Insgesamt kann KI, wenn sie verantwortungsvoll eingesetzt wird, ein mächtiges Werkzeug sein, um Feedback zu verbessern, Bewertungen zu unterstützen, das Verständnis zu vertiefen und Schüler auf ihre Zukunft vorzubereiten. Erklärbare KI ist ein wichtiger Bestandteil, um diese Zukunft vertrauenswürdig und mit menschlichem Lernen in Einklang zu bringen.