Beschreibung

Künstliche Intelligenz (KI) kommt im Bildungsbereich zunehmend zum Einsatz: Adaptive Lernsysteme wählen Aufgaben aus und geben den Lernenden Feedback, Systeme zur automatisierten Bewertung können mittlerweile sogar Freitextaufgaben oder Aufsätze beurteilen und durch die umfassende Analyse grosser Datenmengen erhalten Lehrpersonen ungeahnte Einblicke in das Verhalten der Lernenden. Lehrpersonen arbeiten folglich mit Maschinen zusammen und treffen pädagogische Entscheidungen im Zusammenspiel mit algorithmischen Analysen.

Das Projekt hat die Auswirkungen solcher Systeme auf Fragen der Zurechenbarkeit und Verantwortlichkeit untersucht. Wer (oder was) wird zur Rechenschaft gezogen, wenn Lehrpersonen mit Maschinen zusammenarbeiten? Hierzu wurden Lehrpersonen sowie Akteure aus der Industrie und aus der Bildungspolitik interviewt.

Es zeigt sich, dass Fragen nach der Verantwortlichkeit nicht eindeutig zu beantworten sind. Lehrpersonen sehen die Entwicklerinnen und Entwickler in der Pflicht, stabile und möglichst objektive Tools bereitzustellen. Aus Sicht der entwickelnden Unternehmen sind aber auch die Lehrpersonen verantwortlich dafür, KI-Anwendungen so einzusetzen, dass pädagogische wie soziale Risiken minimiert werden. Bildungspolitisch stellen sich Fragen nach neuen Aufgaben, die Lehrerinnen und Lehrer übernehmen müssen, wenn sie es zunehmend mit digitalen Daten zu tun haben. Eltern und Schulkinder sehen weiterhin die Lehrperson in der Pflicht, Verantwortung für Aufgabenauswahl und Beurteilung zu übernehmen.

Mensch und Maschine im Zusammenspiel

Insgesamt deutet sich eine Verschiebung an: Die pädagogische Profession ist mit neuen Erwartungen konfrontiert und kann die Verantwortung für ihr Tun nur teilweise auf die Hersteller abwälzen. KI-Anwendungen ersetzt keinen Lehrer oder Lehrerin aus Fleisch und Blut und entlassen sie damit auch nicht aus der Verantwortung. Mensch und Maschine müssen zusammenarbeiten. Dies kann nur dann verantwortungsvoll gelingen, wenn Lehrpersonen über die notwendigen Kompetenzen (data literacy) verfügen, um datengetriebene Tools und ihre Analysen grundlegend begreifen und einordnen zu können.

Projektergebnisse

Die Erkenntnisse des Projekts haben in der Entwicklung eines Leitfadens zum verantwortungsvollen Umgang mit Künstlicher Intelligenz (KI) und Daten in der schulischen Bildung Eingang gefunden. Der Leitfaden ist Ergebnis der Arbeiten einer Expertengruppe der Europäischen Kommission (Expert group on AI and data in education), der Tobias Röhl angehört. Er sensibilisiert Lehrpersonen und andere Akteure in der schulischen Bildung für Chancen und Risiken von KI-Anwendungen.

Abschlussbericht «Künstliche Intelligenz und verteilte Zurechenbarkeit»

Publikationen

Kontakt