Bei KI-Systemen existieren bereits spezialisierte Angebote, die gezielt auf den Bildungssektor zugeschnitten sind. Viele Bildungsakteur:innen fühlen sich angesichts fehlender rechtlicher Grundlagen und ihres Unwissens zum Thema verunsichert. Das Fachpapier gibt Lehrkräften, Schulaufsichten und Entscheider:innen im Bildungswesen erstmals eine rechtliche Orientierung im Bereich generative künstliche Intelligenz bei der schulischen Leistungsbewertung.
Aus den Erfahrungen der DKJS in der Arbeit mit der Schulaufsicht und den Ergebnissen von Evaluationen und unserer Studie zur Beratenden Schulaufsicht wird deutlich, dass die Schulaufsicht es als ihre Aufgabe sieht, Schulen hinsichtlich rechtlicher Rahmenbedingungen gerade auch zu neuen Technologien zu beraten. Gleichzeitig wünschen sie sich mehr Klarheit von Seiten der Politik und entsprechende Empfehlungen zur rechtssicheren Ausübung ihrer Tätigkeit.
„Schulen dürfen in diesem komplexen Transformationsprozess nicht allein gelassen werden. Schulaufsichten sind die zentralen Partner:innen, um Qualität bei der Nutzung von KI abzusichern und Kinderrechte zu schützen.“
Gefahr einer „Schatten-KI“
In dem Papier haben Manja Hauschild, Peter Hense, Tea Mustać und David Wagner ausformuliert, was rechtlich geht und was nicht. Die Jurist:innen stellen unter anderem fest: Die Anforderungen des Datenschutzrechts und der KI-Verordnung können meist nicht erfüllt werden. Deshalb ist der Einsatz von KI-Systemen zur Bewertung schulischer Leistungen in der Regel rechtswidrig. Schulen sind in der Pflicht, ihre Lehrkräfte über die rechtlichen Risiken aufzuklären. Ohne Sensibilisierung droht die Entstehung einer „Schatten-KI" – nicht dokumentierter Systeme – an deutschen Schulen.
Empfehlungen und Take-aways
Die Autor:innen des Papiers kommen zu dem Schluss: KI-Systeme dürfen die Arbeit qualifizierter Lehrer:innen nicht ersetzen – sie können jedoch zu ihrer Entlastung beitragen und bessere Lernprozesse ermöglichen. Dieses Anwendungsspektrum stellt einen wichtigen Schritt in Richtung Integration digitaler Dienste im Bildungswesen dar.
Die DKJS formuliert dazu fünf Take-aways. Dazu gehört die Forderung klarer Richtlinien der Arbeitgeber:innen und Schulungen der Lehrkräfte zur Bekämpfung von „Schatten-KI“ sowie eine entsprechende Anpassung der Landesgesetze. Der KI-Einsatz darf außerdem nicht die mangelnde Ausstattung von Schulen an Personal und Sachmitteln ausgleichen.