Schlagwort: KI Plattformen

Veröffentlicht am

Protokolle von Lehrerkonferenzen per KI erstellen

Lesezeit: 11 Minuten

Lehrerkonferenzen1siehe § 68 SchulG NRW zählen zu den schulischen Mitwirkungsgremien und müssen als solche gem. § 63 SchulG NRW Niederschriften über ihre Sitzungen anfertigen.

“Über jede Sitzung ist eine Niederschrift zu fertigen, die mindestens den Wortlaut der Beschlüsse und die Stimmenmehrheit enthält, mit der sie gefasst sind.“

KI-Plattformen können schon seit einiger Zeit Audioaufnahmen transkribieren und den dabei entstehenden Text verarbeiten. Warum sollte man dann das ungeliebte Protokollieren von langen Lehrerkonferenzen nicht einfach an eine KI auszulagern?

Die Idee erscheint auf den ersten Blick naheliegend. Gleichzeitig wirft sie eine Reihe rechtlicher Fragen auf. Dazu gehören insbesondere die Zulässigkeit von Audioaufnahmen schulischer Konferenzen, die Verarbeitung personenbezogener Daten durch KI-Systeme, die Vertraulichkeit von Beratungen sowie die Frage, welche technischen Lösungen überhaupt eingesetzt werden dürfen.

Anfragen in dieser Art erreichten den Verfasser des Beitrags bereits mehrfach. Entsprechend überrascht es nicht, dass diese Idee auch schon über das im November 2025 eingerichtete Portal Bürokratieabbau für Schulen herangetragen wurde. Unter den von den Fachabteilungen gesichteten Vorschlägen schaffte es einer, Transkription von Konferenzen (Wisper OpenAI), in die finale Auswahl von 300 Vorschlägen. Der Vorschlag lautet:

“Zur Transkription z. B. von Konferenzen sollte eine datenschutzkonforme KI-Lösung zur automatischen Protokollerstellung bereitgestellt werden (z. B. vergleichbar zu Wisper/OpenAI).”

Die Antwort auf der Portalseite lautet:

“Die Möglichkeiten zur Unterstützung von Schulen bei der Erstellung von Protokollen werden aktuell geprüft. Dies umfasst auch den Einsatz von KI. Dabei werden nicht nur rein technische Aspekte, sondern auch der Datenschutz und der Schutzbedarf einbezogen. Nicht jedes verfügbare System wird für jede Art von Konferenz geeignet sein. Vor einem Abschluss der Prüfung können keine Empfehlungen zu konkreten Produkten gemacht werden.
Eine flächendeckende Umsetzung durch die Schulträger in absehbarer Zeit ist angesichts der vielfältigen digitalen Herausforderungen, denen sich die Kommunen stellen müssen, unrealistisch.”

Der Vorschlag ging über Lehrerkonferenzen hinaus. Das Ministerium sagt eine Prüfung des Vorschlags zu, gibt aber gleichzeitig zu bedenken, dass neben den technischen auch rechtliche Aspekte zu berücksichtigen sind und die Art des genutzten Systems von der Art der Konferenzen abhängig sein wird. Diesbezüglich möchte man prüfen, um dann konkrete Vorschläge zu geegneten KI-Plattformen machen zu können. Man geht davon aus, dass von Seiten der Schulträger nicht zu erwarten ist, dass diese flächendeckend entsprechende Anwendungen bereitstellen werden.

Warum nicht einfach AIS.chat nutzen?

Diese Aussage wurde vor dem Hintergrund abgegeben, dass in diesem Zeitraum auch die Landeslösung AIS.chat (ehemals telli) ausgerollt wurde, bzw. dass die Ausrollung bevorstand. AIS.chat kommt für die Transkription und Verarbeitung von Audioaufnahmen von Konferenz aus verschiedenen Gründen nicht in Frage. Die KI-Landes-Lösung ist eine pädagogische Plattform, in welcher die Verarbeitung von personenbezogenen Daten zumindest aktuell nicht zulässig ist. Außerdem verfügt die Plattform bisher über keine Funktion zur Transkription von Audio.

Datenschutzrechtliche Einordnung

Um eine Einordnung vorzunehmen, ist zunächst zu klären, um welche Kategorien von Personen und personenbezogenen Daten es bei den wichtigsten schulischen Konferenzen überhaupt geht. Die Bedeutung dieser Unterscheidung liegt darin, dass sich je nach Konferenzart sowohl der Kreis der Betroffenen als auch die Sensibilität der verarbeiteten Daten erheblich unterscheiden können.

Um welche Kategorien von Personen geht es eigentlich bei diesem Thema?

Die Kategorien von Personen, welche von der Transkription einer Konferenz betroffen sein können, hängt maßgeblich von der Art der Konferenz ab.

Bei Lehrerkonferenzen geht es in der Regel um die Lehrkräfte selbst, Lehramtsanwärter, Lehrkräfte in Ausbildung, die Schulleitung und je nach Schule um weitere schulische Mitarbeiter wie Schulsozialpädagogen. Mitunter nehmen auch Praktikantinnen und Praktikanten an Lehrerkonferenzen teil. Alle genannten Personen treten als Teilnehmer mit möglichen Redebeiträgen auf und können auch selbst Gegenstand von Beiträgen sein.

Bei Klassenkonferenzen sind Lehrkräfte und Schüler betroffen und je nach Situation Mitglieder der Schulleitung. Außerdem gehören zu den Mitgliedern einer Klassenkonferenz der oder die Vorsitzende der Klassenpflegschaft sowie in Abhängigkeit von der Schulstufe die Klassensprecherin oder der Klassensprecher sowie deren Stellvertretungen.

Bei Teilkonferenzen Ordnungsmaßnahmen geht es um Lehrkräfte, Schüler, Eltern, Mitglieder der Schulleitung und gegebenenfalls auch Schulsozialpädagogen.

Welche Kategorien von Daten wären betroffen von einer Transkription?

In einer Lehrerkonferenz sind – sofern es um personenbezogene Daten geht – in der Regel vor allem organisatorische Daten betroffen, um Aufgaben von Lehrkräften oder um Berichte über Tätigkeiten. Es können dabei aber auch Gesundheitsdaten betroffen sein, etwa wenn dem Kollegium mitgeteilt wird, dass eine Lehrkraft für längere Zeit krankheitsbedingt ausfällt. In Lehrerkonferenzen wird oft auch zu Geburtstagen und Jubiläen gratuliert oder zur Geburt von Kindern. Es werden außerdem Wahlen durchgeführt. Daneben werden Themen, welche die Schule betreffen, diskutiert, wobei auch sehr persönliche Meinungen geäußert werden können.

Bei Klassenkonferenzen geht es um Noten, Versetzungen, Rückstufungen, Beschlüsse über den Förderstatus, soziales Verhalten, Regelverstöße, die körperliche und psychische Gesundheit, die Familiensituation und mehr.

Während bei Lehrerkonferenzen gelegentlich auch die sogenannten besondere Kategorien von Daten gem. Art. 9 DS-GVO Gegenstand sein können, ist diese Kategorie von Daten in Klassenkonferenzen sehr häufig vertreten. Bei Teilkonferenzen Ordnungsmaßnahmen sind sie die Regel.

Gibt es eine Rechtsgrundlage für die Aufnahme von Redebeiträgen in Konferenzen?

Die überwiegende Mehrzahl der Verarbeitungen von personenbezogenen Daten zur Erfüllung des Bildungs- und Erziehungsauftrags stützt sich in der Schule auf die sogenannten Generalklauseln § 120 Abs. 1 Satz 1 und § 121 Abs. 1 Satz 1 des Schulgesetzes NRW. Hierauf könnte man grundsätzlich auch die Aufzeichnung von Redebeiträgen in Konferenzen stützen, wenn der Gesetzgeber mit § 120 Abs. 6 und § 121 Abs. 1 Satz 3 SchulG NRW für Bild- und Tonaufzeichnungen nicht spezielle Regelungen geschaffen hätte.

“Bild- und Tonaufzeichnungen des Unterrichts oder sonstiger verbindlicher Schulveranstaltungen bedürfen der Einwilligung der betroffenen Personen. Die Einwilligung muss freiwillig erteilt werden. Den betroffenen Personen dürfen keine Nachteile entstehen, wenn sie eine Einwilligung nicht erteilen.”

“Bild- und Tonaufzeichnungen des Unterrichts oder sonstiger verbindlicher Schulveranstaltungen bedürfen der Einwilligung der betroffenen Personen.“

Bild- und Tonaufnahmen werden dabei ausdrücklich von der freiwilligen Einwilligung der betroffenen Personen abhängig gemacht. Gerade bei verbindlichen schulischen Konferenzen stellt sich damit die Frage, ob eine solche Freiwilligkeit in jedem Fall tatsächlich gegeben ist.

Zwar enthält das Schulgesetz NRW mit § 120 Abs. 5 Satz 2 bzw. § 121 Abs. 1 Satz 2 eine spezielle Regelung zur Verarbeitung von Bild- und Tondaten im Rahmen von Videokonferenzsystemen, doch diese Vorschrift dient der Durchführung digitaler Besprechungen und der Übertragung von Bild- und Tonsignalen. Eine Rechtsgrundlage für die dauerhafte Aufzeichnung von Redebeiträgen oder deren anschließende Transkription lässt sich daraus nicht ableiten.

Die Einwilligung als Alternative?

Tonaufzeichnungen von verpflichtenden schulischen Veranstaltungen wie Konferenzen setzen nach § 120 Abs. 6 bzw. § 121 Abs. 1 Satz 3 SchulG NRW eine Einwilligung der betroffenen Personen voraus, die freiwillig erteilt werden muss.

Bei verpflichtenden schulischen Veranstaltungen wird die Freiwilligkeit einer Einwilligung allerdings häufig kritisch gesehen. Aufsichtsbehörden weisen regelmäßig darauf hin, dass in Situationen mit Abhängigkeitsverhältnissen oder faktischem Gruppendruck Zweifel an einer tatsächlich freien Entscheidung bestehen können.

Gleichwohl erscheint es nicht ausgeschlossen, dass alle Teilnehmenden einer Konferenz freiwillig in eine Aufzeichnung einwilligen möchten, etwa weil sie sich hiervon eine erhebliche Arbeitserleichterung bei der Erstellung von Protokollen versprechen. Denkbar wäre beispielsweise eine anonyme Vorab-Abfrage, bei der keine Rückschlüsse auf einzelne Personen möglich sind, die eine Einwilligung nicht erteilen möchten.

Selbst wenn sich auf diesem Weg eine einheitliche Zustimmung aller Beteiligten ergeben sollte, bliebe im Einzelfall zu prüfen, ob die Voraussetzungen einer freiwilligen Einwilligung tatsächlich erfüllt sind.

Voraussetzung wäre darüber hinaus, dass alle Betroffenen vorab umfassend informiert werden. Hierzu gehört insbesondere die Information, dass sämtliche durch das Mikrofon erfassten Äußerungen aufgezeichnet werden können und dass diese Daten anschließend durch eine konkret benannte KI-Plattform transkribiert und weiterverarbeitet werden.

Datenminimierung und Zweckbindung

Gemäß § 63 Abs. 4 Satz 4 SchulG NRW gilt für Protokolle von Konferenzen:

“Über jede Sitzung ist eine Niederschrift zu fertigen, die mindestens den Wortlaut der Beschlüsse und die Stimmenmehrheit enthält, mit der sie gefasst sind.“

Mit dieser Vorgabe beschreibt das Schulgesetz den Kerninhalt einer Niederschrift. Weitere Inhalte sind damit nicht grundsätzlich ausgeschlossen, etwa die Wiedergabe einzelner Wortmeldungen, um den Weg zu einer Entscheidung nachvollziehbar zu dokumentieren.

Eine vollständige Audioaufzeichnung einer Konferenz geht jedoch deutlich über das hinaus, was typischerweise Gegenstand einer Niederschrift ist. Sie erfasst sämtliche Wortbeiträge, spontane Äußerungen, Nebensätze, Meinungen und Zwischenrufe. Je nach Empfindlichkeit des Mikrofons können darüber hinaus auch Gespräche zwischen einzelnen Teilnehmern aufgezeichnet werden, die nicht an die Konferenz gerichtet sind und keinen Bezug zu den Beratungsgegenständen haben.

Damit werden regelmäßig deutlich mehr personenbezogene Daten verarbeitet, als für die Erstellung einer Niederschrift erforderlich sind. Dies wirft insbesondere Fragen im Hinblick auf die Grundsätze der Datenminimierung und Zweckbindung gemäß Art. 5 Abs. 1 lit. b und c DS-GVO auf.

Besondere Kategorien personenbezogener Daten

Je nach Art der Konferenz können dort auch Informationen Gegenstand der Beratung sein, die zu den besonderen Kategorien personenbezogener Daten gemäß Art. 9 DS-GVO zählen. Hierzu gehören insbesondere Gesundheitsdaten, aber auch andere Daten, deren Verarbeitung nach der DS-GVO einem besonderen Schutz unterliegt.

Gerade in Klassenkonferenzen oder Teilkonferenzen für Ordnungsmaßnahmen kann es erforderlich sein, sehr sensible Informationen zu besprechen, um eine sachgerechte Entscheidung treffen zu können. Dazu können beispielsweise Angaben zum körperlichen oder psychischen Gesundheitszustand, zu sonderpädagogischen Unterstützungsbedarfen oder zu familiären Belastungssituationen gehören.

Während solche Informationen regelmäßig nur insoweit in einer Niederschrift erscheinen, wie dies für die Dokumentation eines Beschlusses erforderlich ist, würde eine Audioaufzeichnung mit anschließender Transkription sämtliche diesbezüglichen Äußerungen erfassen und verarbeiten. Dies erhöht den Umfang der Verarbeitung erheblich und betrifft zugleich Daten, für die die DS-GVO einen besonderen Schutz vorsieht.

Wenn es um Kinder und Jugendliche geht

Bei Konferenzen, in denen Schülerinnen und Schüler Gegenstand der Beratungen sind, kommt ein weiterer Aspekt hinzu. Die DS-GVO misst personenbezogenen Daten von Kindern und Jugendlichen einen besonderen Schutz bei.2Siehe z.B. Erwägungsgrund 38

Gerade in Klassenkonferenzen und Teilkonferenzen für Ordnungsmaßnahmen werden häufig sehr persönliche Informationen über Schülerinnen und Schüler besprochen, die für die Entscheidungsfindung erforderlich sein können, aber regelmäßig nicht vollständig in einer Niederschrift dokumentiert werden. Eine Audioaufzeichnung mit anschließender Transkription würde hingegen sämtliche diesbezüglichen Äußerungen erfassen und verarbeiten.

Eine Frage der Technologie?

KI-Transkriptionen lassen sich auf verschiedenen Wegen erstellen. Der wohl praktikabelste Weg wäre eine Aufzeichnung der Konferenz durch ein spezialisiertes zentral positioniertes Raum-Mikrofon, welches in der Lage ist, die Beiträge aller Teilnehmer sauber zu erfassen. Anschließend würde die Aufzeichnung beispielsweise in Form einer MP3 Datei an die KI zur Audiotranskription übergeben.

Es kommen nun zwei Optionen bezüglich der Auswahl einer geeigneten KI-Anwendung in Frage, eine Online-Lösung oder eine lokale Lösung.

Online-Lösungen

Eine speziell für Schulen angebotene Transkriptionslösung finde sich im Tool-Bereich von fobizz. Der Anbieter betont, dass sein Angebot DS-GVO konform nutzbar ist, auch das Tool zur automatischen Spracherkennung (Automatic Speech Recognition, ASR). Gleichzeitig untersagt die Nutzungsordnung der Plattform die Verwendung personenbezogener Daten, setzt Sicherheitsfilter ein und weist Nutzer an verschiedenen Stellen auf diesen Umstand hin. Beim Transkriptions-Tool heißt es:

  • Teile niemals sensible oder persönliche Informationen mit einer KI-Anwendung
  • Verwende keine Inhalte mit persönlichen Daten deiner Schüler*innen

Bereits aus diesem Grund kommt das Transkriptions-Tool von fobizz für die Erstellung von Konferenzprotokollen nicht in Betracht, da es in diesen regelmäßig um die personenbezogene Daten von Lehrkräften, Schülerinnen und Schülern, Eltern oder weiteren Beteiligten geht. Eine Nutzung entgegen den Vorgaben des Anbieters wäre daher ausgeschlossen.

Anders stellt sich die Situation bei allgemeinen KI-Plattformen dar, die die Verarbeitung personenbezogener Daten nicht grundsätzlich ausschließen und entsprechende Funktionen zur Transkription von Audiodateien bereitstellen. Viele dieser Anbieter stammen jedoch aus den USA oder unterliegen als US-Unternehmen amerikanischem Recht. Selbst wenn die Verarbeitung in Rechenzentren innerhalb der EU erfolgt, ergeben sich daraus zusätzliche datenschutzrechtliche Fragestellungen, etwa hinsichtlich möglicher Zugriffe auf Daten durch Behörden außerhalb der Europäischen Union. Der Einsatz solcher Dienste ist daher aus datenschutzrechtlicher Sicht besonders sorgfältig zu prüfen.

Aber es gibt auch andere Lösungen, etwa Anbieter direkt aus der EU wie das französische Mistral oder in der EU betriebene Open Source KI-Anwendungen. Das von OpenAI, dem US-Konzern hinter ChatGPT, entwickelte Whisper AI ist das bekannteste Beispiel für eine Open Source Lösung zur Transkription von Audio Dateien. Das Modell kann von unterschiedlichen Anbietern betrieben und entsprechend auch von einem Anbieter innerhalb der Europäischen Union bereitgestellt werden. Eine datenschutzkonforme Nutzung einer solchen Lösung wäre grundsätzlich denkbar, wenn der jeweilige Anbieter beziehungsweise Betreiber auch die weiteren Anforderungen der DS-GVO erfüllt. Hierzu gehören insbesondere ein Vertrag zur Auftragsverarbeitung, geeignete technische und organisatorische Maßnahmen sowie die vertragliche Zusicherung, dass die verarbeiteten Inhalte nicht zum Training von KI-Modellen verwendet werden.

Lokale Lösungen

Aus datenschutzrechtlicher Sicht besonders interessant sind lokale Lösungen, bei denen die Verarbeitung vollständig auf schulischen Endgeräten oder Servern erfolgt. Mit Whisper AI und vergleichbaren Modellen3z. B. Parakeet, Breeze ASR, Canary, GigaAM, SenseVoice oder Cohere, die sich auf leistungsfähigen Notebooks und Rechnern betreiben lassen, kann die Verarbeitung von Audiodateien vollständig innerhalb der technischen Infrastruktur der Schule beziehungsweise des Schulträgers erfolgen.

Eine Übermittlung der Audiodateien oder der daraus erzeugten Transkripte an externe KI-Anbieter wäre in diesem Fall nicht erforderlich. Dadurch lassen sich zahlreiche datenschutzrechtliche Risiken vermeiden, die mit cloudbasierten Lösungen verbunden sind.

KI-Transkription

Erfolgt die Erstellung eines Protokolls auf dem beschriebenen Weg, hängt dessen Qualität im Wesentlichen von zwei Faktoren ab. Der erste Faktor ist die Qualität der Audioaufzeichnung und die Fähigkeit des eingesetzten KI-Modells, die gesprochenen Inhalte korrekt zu transkribieren.

Anders als ein menschlicher Protokollführer kann ein KI-Modell nicht nachfragen, wenn es einen Redebeitrag akustisch nicht eindeutig versteht. Stattdessen versucht es, unklare oder nur teilweise erkannte Wörter anhand des sprachlichen Kontextes zu rekonstruieren. Liefert eine Aufnahme aufgrund von geringer Lautstärke, undeutlicher Aussprache, hoher Sprechgeschwindigkeit oder Hintergrundgeräuschen kein eindeutiges Signal, kann dies dazu führen, dass Wörter oder ganze Aussagen fehlerhaft transkribiert werden. Je sensibler die Inhalte, desto problematischer werden Transkriptionsfehler. Ein „versetzt“ statt „nicht versetzt“ oder „empfohlen“ statt „nicht empfohlen“ oder ein falscher Name, falscher Förderbedarf oder falsche Abstimmungsergebnisse wären rechtlich problematisch und folgenbehaftet.

Der zweite Faktor ist die Umsetzung der wortgetreuen Transkription in ein Protokoll. Dabei müssen Diskussionsverläufe zusammengefasst, wichtige Beiträge gegebenenfalls auszugsweise wiedergegeben, Anträge korrekt erfasst und Abstimmungsergebnisse dokumentiert werden. Diese Überführung einer Transkription in ein Protokoll muss inhaltlich zutreffend erfolgen. Auch moderne KI-Systeme können dabei Fehler machen, etwa indem sie Aussagen verkürzt wiedergeben, Zusammenhänge missverstehen, Schwerpunkte falsch setzen oder wichtige Einschränkungen übersehen.

Ein weiterer Faktor sollte nicht übersehen werden. KI-Anwendungen können zwar Audio transkribieren, doch nicht alle verfügen über die Fähigkeit zur Sprechertrennung (Speaker Diarization4Speaker Diarization bezeichnet die Aufteilung einer Audiodatei in einzelnen Sprechern zugeordnete Segmente. Die Unterscheidung erfolgt anhand charakteristischer Merkmale der jeweiligen Stimme. Moderne Verfahren nutzen hierfür häufig neuronale Netze und Deep-Learning-Methoden. Siehe Wikipedia). Verfügt eine Anwendung über diese Fähigkeit, kann sie Gesprächsverläufe häufig einzelnen Sprechern zuordnen und damit rekonstruieren, wer wann gesprochen hat. Sie weiß deshalb jedoch noch nicht, welche konkrete Person sich hinter einem Sprecher verbirgt. Redebeiträge, Anträge, Änderungsanträge, vorgebrachte Bedenken und ähnlich können daher nicht ohne Weiteres zuverlässig einer bestimmten Person zugeordnet werden.

Whisper selbst beherrscht keine Speaker Diarization. Die Funktion kann jedoch durch zusätzliche Module ergänzt werden. Um einzelne Sprecher tatsächlich identifizieren zu können, wären darüber hinaus weitere Informationen erforderlich, die dem System von außen bereitgestellt werden müssten.5Siehe z.B. Falcon Speaker Diarization for any ASR, including Whisper. Die Google Cloud Speech-to-Text Plattform beherrscht Speaker Diarization selbst

Zu berücksichtigen ist ferner, dass die Identifizierung einzelner Sprecher zur Verbesserung der Protokollqualität regelmäßig zusätzliche personenbezogene Daten erfordert und damit den Umfang der Verarbeitung sowie die Anforderungen an eine datenschutzkonforme Verarbeitung erweitert. Werden Sprecher anhand ihrer Stimme identifiziert, kann dies zudem eine Verarbeitung biometrischer Daten darstellen.

Einordnung mit Blick auf die KI-Verordnung

Der Schwerpunkt dieses Beitrags lag bislang auf der datenschutzrechtlichen Bewertung der Erstellung von Konferenzprotokollen auf Grundlage von KI-Transkriptionen. Da hierbei ein KI-System zur Verarbeitung von Daten eingesetzt wird, ist ergänzend auch eine Einordnung nach den Vorgaben der KI-Verordnung (KI-VO) erforderlich.

Schulen werden bei der Nutzung einer KI-Anwendung zur Anfertigung von Protokollen aus Transkriptionen von Audiodaten regelmäßig als Betreiber im Sinne der KI-Verordnung anzusehen sein, unabhängig davon, ob es sich um ein durch einen Dienstleister bereitgestelltes System oder um eine lokal betriebene Lösung handelt. Damit treffen sie die für Betreiber vorgesehenen Pflichten der KI-Verordnung. Dazu gehört insbesondere der Aufbau einer ausreichenden KI-Kompetenz hinsichtlich der beabsichtigten Nutzung des Systems. Nutzer müssen verstehen, wie das eingesetzte KI-System funktioniert, welche Grenzen es hat und welche Fehler auftreten können.

Der Einsatz von KI-Systemen muss zudem transparent erfolgen. Die Beteiligten sollten daher darüber informiert werden, dass ihre Redebeiträge nicht nur aufgezeichnet, sondern anschließend auch mittels eines KI-Systems transkribiert und für die Erstellung eines Protokolls verarbeitet werden. Diese Transparenzanforderungen überschneiden sich, soweit sie die Teilnehmer einer Konferenz betreffen, weitgehend mit den Informationspflichten aus Art. 13 DS-GVO gegenüber den von der Verarbeitung betroffenen Personen.

Von besonderer Bedeutung ist darüber hinaus die menschliche Aufsicht über das KI-System. Die Ergebnisse eines KI-Systems dürfen aus den zuvor beschriebenen Gründen nicht ungeprüft übernommen werden. Die Erstellung eines Konferenzprotokolls aus einer KI-gestützten Audiotranskription erfordert daher weiterhin eine sorgfältige menschliche Kontrolle, insbesondere wenn Beschlüsse, Abstimmungsergebnisse oder personenbezogene Aussagen betroffen sind. Verantwortliche müssen in der Lage sein, diese Kontrolle tatsächlich auszuüben und gegebenenfalls nachzuweisen.

Ob für innerhalb der Schule verbreitete Konferenzprotokolle darüber hinaus Kennzeichnungspflichten nach Art. 50 Abs. 4 KI-VO bestehen, erscheint dagegen zweifelhaft und dürfte von den Umständen des Einzelfalls abhängen.

Fazit

Wie die vorangegangenen Betrachtungen hoffentlich zeigen konnten, ist die Frage nach der Zulässigkeit der Erstellung von Konferenzprotokollen mittels KI deutlich komplexer, als es auf den ersten Blick erscheinen mag.

Die datenschutzrechtlichen Herausforderungen beginnen dabei nicht erst bei der Auswahl einer geeigneten KI-Plattform. Bereits die Anfertigung einer Audioaufzeichnung von Konferenzen wirft erhebliche rechtliche Fragen auf. Aktuell besteht im Schulrecht NRW keine ausdrückliche Rechtsgrundlage, die Schulen die Aufzeichnung von Konferenzen zum Zweck der Erstellung von Protokollen erlauben würde. Ein Rückgriff auf Einwilligungen der Konferenzteilnehmer erscheint angesichts der verpflichtenden Teilnahme an Konferenzen zumindest problematisch, da die erforderliche Freiwilligkeit regelmäßig in Frage stehen dürfte.

Hinzu kommt, dass Konferenzen häufig personenbezogene Daten und je nach Konferenzart auch besondere Kategorien personenbezogener Daten im Sinne des Art. 9 DS-GVO zum Gegenstand haben. Eine vollständige Audioaufzeichnung und deren Transkription erfassen regelmäßig deutlich mehr Informationen, als später in einem Protokoll dokumentiert werden müssen.

Auch aus technischer Sicht sind KI-gestützte Transkriptionen nicht fehlerfrei. Die Qualität hängt von der Audioaufnahme, dem eingesetzten Modell sowie gegebenenfalls von zusätzlichen Verfahren zur Sprecheridentifikation ab. Fehler bei der Transkription, der Zuordnung von Redebeiträgen oder der anschließenden Erstellung eines Protokolls können insbesondere bei sensiblen Inhalten erhebliche Folgen haben.

Sollte der Gesetzgeber künftig die rechtlichen Voraussetzungen für eine KI-gestützte Protokollerstellung schaffen, wären darüber hinaus hohe Anforderungen an die eingesetzten Systeme zu stellen. Hierzu gehören insbesondere die Zulässigkeit der Verarbeitung personenbezogener Daten, geeignete vertragliche und technische Schutzmaßnahmen, ein Ausschluss der Nutzung zu Trainingszwecken sowie eine datenschutzkonforme Verarbeitung innerhalb des europäischen Rechtsrahmens.

Unabhängig von der technischen Lösung bleibt festzuhalten, dass eine menschliche Kontrolle der Transkripte und der daraus erstellten Protokolle unverzichtbar ist.

Weiterlesen

Mit einem vergleichbaren Thema hat sich übrigens die Aufsichtsbehörde Baden Württemberg befasst. In der Schrift “Datenschutz-Leitfaden für KI-Transkription von Gemeinderatssitzungen in Baden-Württemberg” schaut man wie in diesem Beitrag auf die verschiedenen datenschutzrechtlichen Aspekte. Man kommt dort zu dem Schluss, dass die Sprecherunterscheidung („Diarization“) keine Verarbeitung biometrischer Daten im Sinne von Art. 9 DS-GVO darstellt, solange dieses ausschließlich temporär innerhalb der Sitzung erfolgt, ohne dauerhafte Profilbildung und ohne Zuordnung zu konkreten Personen.

Zum Einsatz von KI-Transkriptionssystemen bei Gemeinderatssitzungen kommt der Leitfaden zu dem Schluss:

“Der Einsatz von KI-Transkriptionssystemen zur Fertigung der Niederschrift in Gemeinderatssitzungen ist unter klaren rechtlichen und technischen Rahmenbedingungen zulässig:

  • unter strikter Beachtung der Rollen der Beteiligten und
  • bei konsequenter technischer Absicherung.

Die zentrale Voraussetzung ist eine normative Verankerung im Ortsrecht sowie eine risikoadäquate Umsetzung.”

Viele der in der Schrift dargestellten datenschutzrechtlichen Überlegungen lassen sich auch auf schulische Konferenzen übertragen. Zugleich zeigt der Leitfaden, dass für die Zulässigkeit KI-gestützter Protokollierung eine ausdrückliche rechtliche Grundlage von zentraler Bedeutung ist. Gerade an einer solchen Grundlage fehlt es nach der in diesem Beitrag vorgenommenen Betrachtung derzeit im Schulrecht NRW.

Stand 06/2026

Veröffentlicht am

Rechtsgrundlage der Nutzung von ais.chat (ehem. telli – KI Chat)

Lesezeit: 3 Minuten

ais.chat, die im Auftrag der Länder entwickelte KI Plattform, steht Schulen in NRW seit geraumer Zeit zur Verfügung. Schulleitungen erhielten in einem gestaffelten Rollout spezielle Administrations-Zugänge, über welche sie ihre Lehrkräfte als Nutzer in die Plattform einpflegen können. Lehrkräfte selbst können ais.chat dann ihren Schülern im Unterricht über Links und QR Codes zur Nutzung zur Verfügung stellen.

Vor dem Beginn des Rollouts gab es eine Informationsveranstaltung für Schulleitungen1Link zur Videoaufzeichnung: https://player.vimeo.com/video/1145629909?h=a8c8beea9a&amp, bei welcher ais.chat in seinen Funktionen sowie der Administration vorgestellt und Fragen beantwortet wurden. Im Video wurde auch erklärt, dass es für die Einführung der Plattform weder einen Schulkonferenzbeschluss noch eine Einwilligung der Lehrkräfte braucht.

Nicht jeder wird alle Informationen zu ais.chat kennen und deshalb besteht vermutlich an einigen Stellen ein Klärungsbedarf, was bei der Nutzung der Plattform in rechtlicher Hinsicht zu beachten ist.

⚖️ Was ist die rechtliche Grundlage für die Nutzung von ais.chat?

Wie Logineo NRW wird ais.chat Schulen direkt durch das Land bzw. das Ministerium für Schule und Bildung (MSB) bereitgestellt. Anders jedoch als bei Logineo NRW setzt die Nutzung von ais.chat durch Lehrkräfte sowie Schülerinnen und Schüler keine Einwilligung voraus. Auch ais.chat ist mitbestimmt durch die Hauptpersonalräte, die hier aber – anders als bei Logineo NRW – nicht auf einer freiwilligen Nutzung durch Lehrkräfte und andere Nutzer bestanden.

Durch diesen kleinen aber entscheidenden Unterschied erfolgt die Verarbeitung der personenbezogenen Daten von Lehrkräften wie auch Schülerinnen und Schülern bei der Nutzung von ais.chat auf der Grundlage der Generalklauseln von § 121 Satz 1 repektive § 120 Satz 1 SchulG NRW in Verbindung mit Art. 6 Abs. 1 lit. e DS-GVO. Dies wird so auch in der Datenschutzerklärung zu telli angeführt:

“4. Rechtsgrundlage
Art. 6 Abs. 1 lit. e DSGVO i. V. m. den jeweiligen Schulgesetzen (Verarbeitung zur Wahrnehmung einer Aufgabe im öffentlichen Interesse – staatlicher Bildungs- und Erziehungsauftrag)

Eine Einwilligung ist hierfür nicht erforderlich.“

🏫 Was bedeutet das in der Praxis?

Schulleitungen schalten ais.chat im Vidis Portal frei und zeichnen dabei den Vertrag zur Auftragsverarbeitung. Anschließend pflegen sie ihre Lehrkräfte im System ein, um ihnen Nutzerzugänge zur Verfügung stellen zu können.

Die Nutzung von ais.chat durch Lehrkräfte wie auch Schülerinnen und Schüler erfolgt danach ohne Einwilligung.

Lehrkräfte wie auch Schülerinnen und Schüler sind zur Nutzung von ais.chat verpflichtet, auch ohne Beschluss der Schulkonferenz. Voraussetzung dafür ist aber immer, dass:

  • die Nutzung zur Erfüllung des Bildungs- und Erziehungsauftrages der Schule erforderlich ist und
  • sie über ein von der Schule oder dem Schulträger zur Verfügung gestelltes Endgerät möglich ist.

Eine Nutzung über private Endgeräte ist immer freiwillig.

Hinweis: … zur Nutzung von ais.chat verpflichtet … bedeutet hier keine generelle Verpflichtung im Sinne von, das Land NRW schreibt Schulen die Nutzung von ais.chat vor. Für Schulen ist die Nutzung von ais.chat optional. Es steht ihnen frei, auch die KI-Plattformen anderer Anbieter zu nutzen, sofern diese die dafür erforderlichen Voraussetzungen erfüllen. Eine Verpflichtung bezüglich der Nutzung von ais.chat greift für Lehrkräfte in dem Moment, in welchem beispielsweise eine Fachschaft sich im Rahmen einer Unterrichtsreihe einigt, dass dabei mit einem in ais.chat bereitgestellten Lernszenario gearbeitet wird, oder die Schule ais.chat im Medienkonzept festschreibt. Entsprechend sind dann auch Schülerinnen und Schüler zur Nutzung von ais.chat verpflichtet.

Welche datenschutzrechtlichen Vorgaben müssen Schulen bei der Nutzung von ais.chat einhalten?

Auch wenn die Nutzung von ais.chat keine Einwilligung erfordert, so bedarf es jedoch einer Information über die Datenverarbeitung gem. Art. 13 DS-GVO, denn eine Verarbeitung von personenbezogenen oder -beziehbaren Daten findet – auch wenn Schüler und Lehrkräfte gegenüber den KI-Modellen in ais.chat anonym bleiben – in den meisten Fällen statt.

Wie jeder Verarbeitungsvorgang in einer Schule muss die Verarbeitung von personenbezogenen Daten bei der Nutzung von ais.chat in das Verzeichnis der Verarbeitungstätigkeiten der Schule aufgenommen werden.

Auch wenn der Zugang zu ais.chat DS-GVO konform ist, alle genutzten KI-Modelle in der EU betrieben und keine Eingaben von Nutzern (Prompts) zu Trainingszwecken genutzt werden, sind persönliche Inhalte in Prompts nicht erlaubt. Das gilt für Lehrkräfte wie auch Schülerinnen und Schüler. Auf der Informationsseite Zugang zu ais.chat heißt es entsprechend:

“Für eine Nutzung für Schulverwaltungsaufgaben, die eine Eingabe von personenbezogenen Daten beinhaltet, ist „ais.chat“ nicht geeignet, da in das System über den Prompt keine personenbezogenen Daten eingegeben werden dürfen.“

Personenbezogene Daten (Lehrkräfte)

Lehrkräfte sind in ais.chat mit ihrer dienstlichen E-Mail, Vor- und Nachnamen sowie einer elfstelligen Lehrer-ID angelegt. Verknüpft fallen Daten an, wenn sie mit einer KI chatten, Assistenten anlegen oder Lernszenarien bereitstellen.

Personenbezogene Daten (Schüler)

Beim Zugriff mit personalisierten schulischen Endgeräten und vor allem bei Nutzung von privaten Endgeräten werden technische Daten verarbeitet, die theoretisch eine Zuordnung ermöglichen könnten.

Gibt es weitere rechtliche Vorgaben?

Ja, die gibt es. Es geht um die Vorgaben der KI-Verordnung. Diese verlangt von Schulen als sogenannten Betreibern von KI-Systemen Maßnahmen, mit denen sichergestellt wird, dass die Nutzenden eines KI-Systems “über ein ausreichendes Maß an KI‑Kompetenz verfügen“2Siehe Art. 4 KI-VO.

Gegenüber Schülerinnen und Schülern ist die Schule zur Transparenz verpflichtet. Sie müssen darüber informiert werden, dass sie mit einem KI-System interagieren. So darf z.B. bei der Nutzung eines Dialogpartners nicht der Eindruck entstehen, man kommuniziere mit einem echten Menschen.

📋 Nutzungsordnung

Es empfiehlt sich für Schulen, bestehende Nutzungsordnungen für IT-Räume und digitale Medien um einen von den Mitwirkungsgremien der Schule beschlossenen Zusatz zur KI-Nutzung zu ergänzen. In diesem sollten die Do’s and Don’ts festgehalten werden, etwa:

  • das Verbot der Eingabe von privaten Details oder Daten Dritter,
  • das Verbot missbräuchlicher Prompts,
  • die Pflicht zur Kennzeichnung KI-erstellter Inhalte,
  • …
Veröffentlicht am

Microsoft Copilot in MS365 Edu – Datenschutzfragen

Lesezeit: 8 Minuten

Aufsichtsbehörden sehen Microsoft 365 weiterhin kritisch und gehen davon aus, dass eine datenschutzgerechte Nutzung den Abschluss einer Zusatzvereinbarung in Anlehnung an die von sieben Aufsichtsbehörden erarbeitete Handreichung erfordert. An vielen Schulen wird Microsoft 365 seit Jahren genutzt und Schulen halten daran fest, auch wenn es im Bildungsbereich bisher noch keine Zusatzvereinbarung gibt. Copilot ist mittlerweile ein Bestandteil von Microsoft 365 und steht dort in Abhängigkeit von der Lizenz des Tenants mit unterschiedlichem Funktionsumfang zur Verfügung. An vielen Schulen fragt man sich, ob es möglich ist Copilot im Unterricht einzusetzen, um so Extrakosten für Lizenzen bei Anbietern wie fobizz, SchulKI, Paddy, FellowFish und ähnlich zu vermeiden?

Der Beitrag erklärt die Unterschiede zwischen Copilot-Versionen, ordnet rechtliche Vorgaben ein und zeigt anhand von Beispielen aus Deutschland und Nachbarländern, wie Behörden und andere Player reagieren. Am Ende wird aufgezeigt, wie der aktuelle Stand im Bildungsbereich einzuschätzen ist und welche Leitplanken Schulen derzeit beim Einsatz von Copilot berücksichtigen sollten.

Grundsätzliches

Es gibt diverse Copilot Funktionen von Microsoft und es gelten unterschiedliche Datenschutzbedingungen.

Copilot innerhalb von Microsoft 365 und Consumer Version

Zu unterscheiden ist innerhalb von Microsoft 365

  • Copilot Chat – https://m365.cloud.microsoft/chat/ – verfügbar für Schüler und Lehrkräfte
  • Copilot als Bestandteil von Word, Excel, PowerPoint, Outlook, Teams, OneNote – verfügbar als kostenpflichtiges Add-on, jedoch nur für Lehrkräfte in den entsprechenden A3 und A5 Lizenzen

Außerhalb von Microsoft 365 gibt es noch Copilot über Browser und Apps

  • Copilot Apps – mobile Apps für iOS und Android: „Microsoft Copilot“.

Microsoft beschreibt die Unterschiede in der Benennung der Copilot-Versionen wie folgt:

“Seit Januar 2025 haben die Erfahrungen für die Copilot Arbeit und den persönlichen Gebrauch nicht mehr den gleichen Namen:

  • Microsoft 365 Copilot Chat (im Web verankert) und Microsoft 365 Copilot (basiert auf Web- und Arbeitsdaten) sind für Arbeit und Bildung vorgesehen.
  • Microsoft Copilot ist für den persönlichen Gebrauch”

Altersfreigaben/ – beschränkungen

Microsoft hat im Mai 2025 offiziell bekanntgegeben, dass Copilot Chat in Microsoft 365 Education für Schülerinnen und Schüler ab 13 Jahren verfügbar ist.

Die Consumer-Version von Copilot für den privaten, nicht-schulischen Gebrauch ist dagegen erst ab 18 Jahren nutzbar und in einigen EU-Ländern bereits früher. Da Deutschland keine eigene Regelung zur Einwilligungsfähigkeit nach Art. 8 DS-GVO getroffen hat, gilt hier ein Mindestalter von 16 Jahren für die wirksame Einwilligung. Unterhalb dieser Grenze ist die Nutzung nur mit Einwilligung der Sorgeberechtigten rechtmäßig. Der Einsatz der Consumer-Version im schulischen Kontext ist datenschutzrechtlich ausgeschlossen.“

Webzugriff in Copilot

Microsoft  sagt:

“Wenn Sie die Richtlinie Websuche in Copilot zulassen nicht konfigurieren, ist die Websuche für Benutzer sowohl in Microsoft 365 Copilot als auch im Chat standardmäßig verfügbar, es sei denn, Sie legen die Richtlinie Verwendung zusätzlicher optionaler verbundener Umgebungen in Office zulassen auf Deaktiviert fest. Das Deaktivieren optionaler verbundener Erfahrungen schränkt jedoch Microsoft 365 Copilot Chat, Microsoft 365 Copilot und mehrere Benutzeroberflächen in Microsoft 365 ein.”

Das bedeutet: sobald Copilot über die Web-Schnittstelle mit Bing kommuniziert, verlässt der Datenfluss diesen geschützten Raum. Microsoft selbst weist in seiner Dokumentation darauf hin, dass für Web-Suchanfragen andere Bedingungen gelten können und diese z.B. nicht von der EU Data Boundary abgedeckt sind. Da unklar ist, welche Daten Microsoft in diesem Zusammenhang verarbeitet, werden die Zusagen für den Edu-Bereich damit vermutlich unterlaufen. Schulen sollten, wenn Copilot für Schülerinnen und Schüler zur Verfügung gestellt wird, den Webzugriff mandantenweit deaktivieren.

Wie ist die Verbindung von Microsoft Copilot zu OpenAI ChatGPT?

Microsoft besitzt große Anteile von OpenAI und hat dadurch Zugriff auf die LLM von OpenAI, aber die OpenAI-Modelle laufen innerhalb von Microsofts Azure-Infrastruktur. Das bedeutet, es handelt sich um eigene Instanzen des KI-Systems. Nutzerdaten bzw. -eingaben werden nicht für Trainingszwecke genutzt. Es gibt zwischen den von Microsoft betriebenen OpenAI-Modellen und den von OpenAI selbst betriebenen ChatGPT Modellen keine technische Verbindung und auch keinen Austausch von Daten.

  • Copilot läuft über Azure OpenAI Service, abgesichert durch Microsofts Verträge und EU-Data-Boundary.
  • ChatGPT ist der direkte OpenAI-Dienst, ohne die Microsoft-Schutzschicht – deshalb für Schulen/Behörden datenschutzrechtlich nicht nutzbar (ohne zwischengeschaltete API durch Anbieter wie fobizz, SchulKI, Paddy, FellowFish, …).

Zugriff auf Daten

Copilot Chat arbeitet nur mit den Prompts, die der Nutzer direkt eingibt (z. B. Fragen, hochgeladene Dateien).

Das Copilot Add-on kann innerhalb der Microsoft 365 auf alle Dokumente zugreifen, die ein Nutzer erstellt hat oder auf die er Zugriff hat/ die für ihn freigegeben sind. Copilot Chat hat keinen Zugriff auf OneDrive/SharePoint/Graph-Daten. Nur das Add-on nutzt die Microsoft Graph-Integration. Copilot sieht nur das, was auch der Nutzer sehen darf (Berechtigungen werden nicht umgangen). 

Datenschutz

Für Copilot außerhalb von Microsoft 365 gelten die Datenschutzstandards für Privatnutzer. Diese sind mit den datenschutzrechtlichen Vorgaben für Schulen nicht vereinbar. Das bedeutet, Versionen außerhalb von Microsoft 365 können im Unterricht auf gar keinen Fall mit Schülerinnen und Schülern genutzt werden. Die Nutzung ist vergleichbar einer direkten Nutzung von ChatGPT, Gemini, Claude und DeepSeek.

CoPilot Chat ist zwar vergleichbar einer direkten Nutzung von KI-Plattformen wie den zuvor genannten, doch es gibt wichtige Unterschiede.

  • Copilot Chat in Microsoft 365 Edu unterliegt den gleichen Datenschutzstandards, wie sie für die anderen in der Plattform enthaltenen Dienste (Word, Excel, PowerPoint, Teams, OneNote, …) gilt, da Copilot Chat ein Core-Service ist, ein eigenständiger Dienst und damit nicht zu den problematischen optionalen verbundenen Erfahrungen zählt.
  • Als Core-Service gilt für Copilot Chat der Enterprise-Datenschutz und es fällt unter die EU Data Boundary. Letzteres ist wichtig, da Microsoft  so zusichert, dass sämtliche Daten ausschließlich innerhalb der EU verarbeitet werden.

Innerhalb des Nutzerkontos können Nutzer ihren Copilot Aktivitätsverlauf löschen.1Die Einstellung findet sich unter:  https://myaccount.microsoft.com/settingsandprivacy/privacy Die Löschung betrifft Microsoft Copilot Chat und auch die Aktionen von über Add-on verfügbaren Copilot Funktionen in Word, Excel, … Mit Copilot erstellte und bearbeitete Inhalte werden nicht gelöscht.

Was man noch wissen sollte

Berlin

In Berlin stellte zum Schuljahr 2024/25 allen Lehrkräften Copilot zur Verfügung:

“Als eines der ersten Bundesländer bietet Berlin seinen Lehrkräften jetzt ein datenschutzkonformes KI-Tool an. Mit Copilot, dem KI-Assistenten von Microsoft, wird alles digitaler, einfacher und kreativer. Die Anwendung nutzt ausschließlich öffentliche Webdaten und schützt dabei die Privatsphäre. Es unterstützt Pädagoginnen und Pädagogen im Unterrichtsalltag bei einer Vielzahl von Aufgaben:

➡️ schnell im Netz recherchieren

➡️ Unterrichtsmaterialien mit Bildern erstellen

➡️ Routineaufgaben, wie Terminplanung und Dokumentenerstellung, automatisieren

„Mit Copilot ermöglichen wir an unseren Schulen Unterricht auf der Höhe der Zeit. Um alle Pädagoginnen und Pädagogen auf diesem Weg mitzunehmen, haben wir zum neuen Schuljahr eine Fortbildungsreihe zum Umgang mit KI an unseren Schulen gestartet.”2Quelle: https://www.linkedin.com/posts/senbjf_copilot-ki-k%C3%BCnstlicheintelligenz-activity-7254427341001560065-7324/?originalSubdomain=de

Von der Berliner Aufsichtsbehörde wurde das kritisch gesehen, da sie nicht vorab beteiligt worden war.

Die Berliner Senatsverwaltung hatte Copilot Chat in Edge zur Verfügung gestellt und gibt dazu an:

    • …. dass “durch die Einführung von Microsoft Copilot in Edge im  Unternehmensdatenschutz keine weiteren personenbezogenen Daten verarbeitet werden als diejenigen durch die Einführung der MEG [mobilen Endgeräte], …”
    • “Von den Nutzenden dürfen keine personenbezogenen Daten in Microsoft Copilot eingegeben werden.
    • Die Kl darf auch nicht für Bewertungen oder die Kontrolle von Prüfungen eingesetzt werden.”
    • “Datenschutzfilter: Es kommen Filter zum Einsatz, die verhindern, dass sensible persönliche Informationen verarbeitet werden. Zum Beispiel ist es nicht möglich, persönliche Informationen anzugeben oder abzufragen.”3Quelle: https://fragdenstaat.de/anfrage/einfuehrung-von-microsoft-copilot-in-schulen/956810/anhang/319764-name-antwort_geschwaerzt.pdf

Niedersachsen

In Niedersachsen hatte man in enger Abstimmung mit der Aufsichtsbehörde eine Zusatzvereinbarung mit Microsoft getroffen, welche es öffentlichen Stellen (gemeint ist hier Verwaltungen) erlaubt Microsoft Teams zu nutzen. In diesem Kontext testet die Landesverwaltung seit März 2025 in mehreren Ressorts Copilot.4Quelle: https://www.it.niedersachsen.de/startseite/it_news/aktuelles/ki-assistent-fur-die-verwaltung-it-niedersachsen-testet-microsoft-365-copilot-chat-240173.html

Schweiz Kanton Zürich

Der Kanton Zürich hat darauf reagiert, dass Lehrkräften nun Copilot als Basisdienst zur Verfügung steht und nicht mehr zentral deaktivierbar ist. Nach einer internen datenschutzrechtlichen Prüfung entschied, dass Copilot von den Lehrpersonen genutzt werden darf. Die Schule trägt dabei jedoch die Verantwortung für die korrekte Nutzung von Copilot durch die Lehrpersonen. Schulen werden Hinweise gegeben, welche Regeln bei der Nutzung zu beachten sind, auch mit Blick auf Datenschutz.5Quelle: https://help.mba.zh.ch/images/Projekt_GenKI/Merkblatt_zu_Microsoft_Copilot.pdf

Niederlande

Die Niederlande sind bekannt für ihre Vorreiterrolle in Sachen Datenschutz. Sie konnten in der Vergangenheit erfolgreich durch Datenschutz-Folgenabschätzungen Mängel in großen Plattformen wie Microsoft 365 und Google Workspace for Education nachweisen und dann jedoch durch Verhandlungen mit den großen Anbietern Veränderungen erwirken, welche in Folge eine datenschutzfreundliche Nutzung der Plattformen durch Behörden und Schulen ermöglichte. Die zentralen Akteure im niederländischen Bildungssektor, SURF und SIVON, raten derzeit dringend von der Nutzung von Microsoft 365 CoPilot ab. Wie in vergangenen Fällen hatte SURF6Quelle: https://www.surf.nl/nieuws/advies-gebruik-microsoft-365-copilot-vooralsnog-niet-vanwege-privacyrisicos hier Privacy Company im Januar 2024 mit einer Datenschutz-Folgenabschätzung (DSFA/ DPIA)7Quelle: https://www.surf.nl/files/2024-12/20241218-dpia-microsoft-365-copilot.pdf beauftragt und dann im Dezember 2024 nach Veröffentlichung der Untersuchungsergebnisse dazu geraten, Microsoft 365 Copilot wegen Datenschutzrisiken vorerst nicht zu verwenden. In Bezug auf Datenschutz kritisierte man u.a. fehlende Transparenz und auch das Risiko falscher Daten.

Man sollte beachten, dass sich seit der DSFA in den Niederlanden Anfang 2024 eine Menge getan hat, was Microsoft Copilot angeht. Microsoft hat an vielen Stellen nachgebessert, technisch wie auch in Bezug auf die Dokumentation und vertragliche Anpassungen.8Siehe hierzu die von Raphael Koellner dokumentierten Updates: https://www.rakoellner.de/?s=copilot Ob die in der DSFA festgestellten Mängel weiterhin Bestand haben oder von Microsoft erfolgreich beseitigt wurden, dazu gibt es von Seiten von SURF bisher keine Informationen.

Ergänzung zur niederländischen DSFA – September 2025

Privacy Company hat seine Datenschutz-Folgenabschätzung (DPIA) aktualisiert9Stand 15.09.2025 und konnte dabei nachweisen, dass Microsoft Maßnahmen ergriffen, um vier der zuvor identifizierten hohen Datenschutzrisiken zu minimieren. Allerdings konnte Microsoft damit diese vier hohen Risiken noch nicht vollständig beseitigen. Beachtet werden sollte, dass es hier nicht um Copilot Chat, sondern das kostenpflichtige Add-on von Copilot geht, welches dann auch in Word, Excel, PowerPoint und Outlook zur Verfügung steht. Zwei der zuvor ermittelten hohen Risiken (rot) wurden zu mittelschweren Risiken herabgestuft. Es geht bei diesen Risiken um die Verarbeitung von inkorrekten und unvollständig verarbeiteten personenbezogenen Daten in Antworten von Copilot und eine unangemessen lange Speicherfrist von 18 Monaten für pseudonymisierte Metadaten, erforderliche Dienstdaten und Telemetriedaten. Die Bewertung bleibt vorläufig; eine Neubewertung ist nach einem weiteren halben Jahr angekündigt – abhängig davon, ob Microsoft die angekündigten Verbesserungen wirklich umsetzt. Privacy Company empfiehlt Schulen, Copilot grundsätzlich nur sehr restriktiv und für genau definierte Aufgaben zu nutzen, bei denen keine inakzeptablen Datenschutzrisiken entstehen. Vor dem Einsatz sind verschiedene Schutzmaßnahmen und technische Einstellungen verpflichtend vorzunehmen, z. B. KI-Nutzungsordnung, datenschutzfreundliche Standardeinstellungen und Sperrung des Bing-Zugriffs.

Ergänzung zu Copilot Chat Erweiterung – Oktober 2025

Wie Raphael Koellner bereits am 16.09.2025 meldet, ist Copilot Chat jetzt auch in Office Produkten (Word, Excel, PowerPoint, OneNote, Outlook) verfügbar, ohne dass dafür extra eine zusätzliche Lizenz erworben werden muss. Die Neuerungen beschreibt Koellner wie folgt:

“Microsoft hat Copilot Chat und intelligente Agenten in die Microsoft 365 Apps wie Word, Excel, PowerPoint, Outlook und OneNote integriert. Damit entsteht eine einheitliche Chat-Erfahrung direkt in den Anwendungen, die Millionen täglich nutzen. Copilot Chat erkennt den Kontext der geöffneten Datei und liefert passende Antworten – ohne zusätzlichen Upload oder App-Wechsel.”

Mit Blick auf IT und Sicherheit erläutert Koellner, dass Administratoren die neu verfügbaren Funktionen durch das Copilot Control System (CCS) verwalten und absichern können. Microsoft sichert für die neu verfügbaren Funktionen, Datenschutz nach Enterprise-Commercial-Standard zu, Urheberrecht sowie die vertraglichen Regelungen in DPA (Data Protection Addendum), PT (Product Terms) und SLA (Service Level Agreement). Copilot Chat ist weiterhin ein Core-Service. Auf Nachfrage zur Abgrenzung von Copilot Chat zu Copilot in Microsoft 365 schreibt er auf LinkedIn “Es ändert sich in dem Punkt, dass mit dem Zugriff auf das Office Dokument und auch der Funktion “/” nun doch Graph Zugriff auf Dokumente besteht, wie beim Copilot for Microsoft 365. Es gibt keine klare Trennung mehr zwischen Copilot Chat und Copilot for Microsoft 365. Technisch wird Chat immer mehr zu Copilot for Microsoft 365.”10https://www.linkedin.com/posts/raphael-k%C3%B6llner_microsoft-copilot-chat-willkommen-in-den-activity-7373591245996081152–Wd2/ Welche Auswirkungen diese Veränderungen auf die datenschutzrechtliche Bewertung von Copilot Chat haben werden, ist aktuell schwierig abzuschätzen. Schulen dürften auf der sichereren Seite sein, wenn sie Copilot Chat auf seine Basis Funktionen einschränken.

Hinweise zur Administration von Copilot Chat in Microsoft 365 Education Tenants finden sich unter https://learn.microsoft.com/de-de/copilot/manage

Wo stehen wir aktuell

Es ergibt sich aus dem, was öffentlich dokumentiert ist, kein einheitliches Bild.

  • Festzuhalten ist, dass die derzeit offiziell bekannten schulischen Einsatzbereiche von Copilot auf Lehrkräfte beschränkt sind und nur für Tätigkeiten gestattet sind, die keine personenbezogenen Daten enthalten. Eine Nutzung durch Schulministerien/ Bildungsverwaltungen oder Aufsichtsbehörden sanktionierte Nutzung durch Schülerinnen und Schüler ist nicht bekannt.
  • Werden KI-Anwendungen durch Bundesländer über Landeslizenzen bereitgestellt, dann geht es bisher immer um über API vermittelte Angebote wie fobizz, SchulKI, Paddy, FellowFish und Ähnliche, jedoch nicht um direkt genutzte Plattformen (auch wenn das bei einer EU KI wie Mixtral durchaus denkbar wäre mit Blick auf Datenschutz).
  • Microsoft selbst lässt eine Nutzung von Copilot in Microsoft 365 Education ab 13 Jahren zu verweist jedoch auf die rechtlichen Vorgaben im jeweiligen EU Land.
  • Wenn Schulen Copilot Chat für ihre Schülerinnen und Schüler freigeben, sollte der Webzugriff von Copilot Chat zentral deaktiviert werden, um mit der Nutzung innerhalb der Datenschutzbestimmungen/ -zusagen für den Bildungsbereich zu bleiben.
  • Die Nutzung von Copilot Chat in Microsoft 365 ist immer auch im Kontext der insgesamt von den Aufsichtsbehörden als problematisch eingeschätzten Nutzung von Microsoft 365 zu sehen. Es bewegt sich hier in verschiedenen Bundesländern etwas, indem Zusatzvereinbarungen mit Microsoft abgeschlossen werden, die sich an der Handreichung der sieben Aufsichtsbehörden orientieren. In Hessen ist man von Seiten der Aufsichtsbehörde bemüht, hier auch zu einer entsprechenden Regelung für den Bildungsbereich zu kommen.
  • Man kann davon ausgehen, dass bei Zustandekommen einer Zusatzvereinbarung mit Microsoft für den Bildungsbereich in einem Bundesland, andere Bundesländer folgen werden. Copilot wäre dann ziemlich sicher mit der genannten Einschränkung auch für Schüler verfügbar.
  • Schulen, die aktuell Microsoft 365 nutzen, können davon ausgehen, dass sich die datenschutzrechtliche Lage für sie nicht ändert, wenn sie im Unterricht Copilot Chat mit zentral deaktiviertem Webzugriff für Copilot Chat einsetzen und sich an die Altersfreigabe halten.
  • Bezüglich dessen, was im Unterricht möglich ist, kann man mit Copilot Chat alles machen, was ein LLM ohne den Webzugriff kann. Inhaltlich ist Copilot Chat dabei jedoch immer nur auf dem Stand der letzten Trainingsdaten des aktuell bereitgestellten Modells. Es gelten die gleichen Regeln wie bei jeder KI-Plattform bezüglich der Verwendung von personenbezogenen oder -beziehbaren Daten in Prompts. Diese sollten vermieden werden, um mögliche Risiken auszuschließen. Es empfiehlt sich eine KI Nutzungsordnung zu erstellen und durch die schulischen Mitbestimmungsgremien verabschieden zu lassen sowie mögliche Risiken, welche aus der Nutzung einer KI-Plattform entstehen können, im Rahmen der Medienbildung zu thematisieren.

 

 Stand Oktober 2025

Veröffentlicht am

KI-Plattformen – DS-GVO und KI Verordnung

Lesezeit: 14 Minuten

Seit nunmehr zwei Jahren stellen KI-Plattformen unsere Welt auf den Kopf. Nicht nur in der Wirtschaft und Behörden treiben die auf großen Sprachmodelle (Large Language Model (LLM)) basierenden Plattformen umwälzende Veränderungen an, auch in der Schule bestimmen sie den Diskurs, egal ob es um das Lernen mit und über KI geht, eine veränderte Prüfungskultur, Intelligente Tutorielle Systeme, Learning Analytics, Diagnoseverfahren, die automatisierte Auswertung von Leistungsüberprüfungen und -nachweisen, Laufbahnprognosen, das Verfassen von Gutachten und die Erstellung von Förderempfehlungen. Das Potential von KI-Plattformen erscheint gerade in Schulen unbegrenzt. Welche Nutzungsmöglichkeiten sich im schulischen Alltag jedoch tatsächlich ergeben, hängt maßgeblich von zwei Faktoren ab: den rechtlichen Vorgaben sowie der Verfügbarkeit geeigneter Plattformen. Rechtliche Vorgaben und die sich daraus ergebenden Grenzen der Nutzung, im Datenschutz oft als Schranken bezeichnet, bestimmte bisher soweit es eine schulische Nutzung betrifft, das Datenschutzrecht und hier dann die DS-GVO und die aus ihr abgeleiteten spezialrechtlichen Regelungen der Schulgesetze- und Verordnungen der Bundesländer.

Die DS-GVO trat 2016 in Kraft und wird seit 2018 umgesetzt. Als sie in einem mehrjährigen Prozess erarbeitet wurde, konnte niemand damit rechnen, dass es gerade einmal vier Jahre nach Beginn der Umsetzung des Regelwerkes Plattformen geben könnte, die in der Lage sind zu tun, was die sogenannten KI-Plattformen heute leisten. Es gab durchaus eine Vorstellung von Computerprogrammen, in denen komplexe Algorithmen personenbezogene Daten auswerten und daraus resultierende Entscheidungen treffen. Um EU-Bürger vor Profiling und Entscheidungen zu schützen, die ausschließlich auf automatisierten Entscheidungen beruhen, entstand Art. 22 der DS-GVO. Europäischen Gesetzgebern wurde angesichts der rasanten Entwicklung und Verbreitung von KI-Plattformen seit November 2022 und den damit verbundenen Herausforderungen schnell klar, dass die DS-GVO diese nicht ausreichend abdecken kann. Die DS-GVO regelt den Schutz personenbezogener Daten, adressiert damit jedoch längst nicht alle Risiken, die mit dem Einsatz von KI verbunden sind. Mit der KI-Verordnung der EU (AI Act) versucht man nun, die neuen technologischen, ethischen und sicherheitsrelevanten Herausforderungen zu regulieren. Anders als die DS-GVO reguliert die KI-Verordnung in Abhängigkeit vom Risiko, welches von einer KI Anwendung ausgeht, und reguliert auch, wenn keine personenbezogenen Daten verarbeitet werden. Die KI-Verordnung ist so als Ergänzung zur DS-GVO zu sehen, welche durch einen neuen, spezifischen Rechtsrahmen einen sicheren und ethischen Einsatz von KI in der EU gewährleisten soll. Auch Schule ist von der KI-Verordnung betroffen, wenngleich ihre unmittelbaren Auswirkungen deutlich geringer sind als die, welche aus der DS-GVO resultieren. Inhaltlich knüpft die KI-Verordnung ein Stück weit an die in Art. 22 DS-GVO gesetzten Grenzen an, erweitert diese jedoch und erlegt Schulen neue Pflichten auf, die über den reinen Schutz der personenbezogenen Daten hinausreichen.

KI-Plattformen im Unterricht

Unabhängig von der KI-Verordnung gelten für die schulische Nutzung von KI-Plattformen, sofern personenbezogene Daten davon betroffen sind, weiterhin die bisherigen Regeln. Da diese im vorherigen Beitrag ausführlich beschrieben wurden, sind sie hier nur auf die wichtigsten Punkte reduziert wiedergegeben.

Die wichtigsten Grundregeln, welche mit Blick auf Datenschutz zu beachten sind, wenn KI-Plattformen mit Schülerinnen und Schülern im Unterricht genutzt werden, sind:

  • Eine direkte, unvermittelte Interaktion von Schülerinnen und Schülern mit den KI-Plattformen von US Anbietern wie OpenAI (ChatGPT), Anthropic (Claude), Meta (KI in Messengern wie WhatsApp und FB Messenger), Google (Gemini) usw. Oder oder auch von chinesischen Anbietern wie Hangzhou DeepSeek Artificial Intelligence Basic Technology Research Co., Ltd. (DeepSeek) ist mit unkalkulierbaren hohen Risiken verbunden und von daher mit Blick auf Datenschutz für Schulen auf keinen Fall zu empfehlen. Hintergrund: Die Anbieter haben nicht nur auf die Inhalte der Interaktion zwischen Schülerinnen und Schülern und der KI Zugriff, sondern auch auf alle mit der Interaktion verbundenen Metadaten wie Endgeräte-Kennungen, Standort, Spuren von anderen genutzten Plattformen usw.. Sie können alle diese Daten für eigene Zwecke wie zum Training ihrer Plattformen oder andere wirtschaftliche Interessen verwenden.
  • Wenn Schülerinnen und Schüler mit KI-Plattformen arbeiten, egal wie sie darauf zugreifen, dürfen die im Hintergrund laufenden LLM die in Prompts eingegeben Daten niemals für Trainingszwecke verwenden.
  • Schülerinnen und Schüler dürfen bei der Interaktion mit KI-Plattformen, egal wie sie darauf zugreifen, niemals persönliche Informationen von sich selbst oder anderen ihnen bekannten Personen als Bestandteil von Prompts eingeben.
    • Bei multimodalen KI-Plattformen, das meint Plattformen, die in der Lage sind, Fotos, Videos und Audiodateien als Bestandteil von Prompts zu verarbeiten, muss darauf geachtet werden, dass diese Medien keine personenbezogenen oder -beziehbaren Daten enthalten, welche es ermöglichen die Daten auf eine identifizierbare Person zurückzuführen. Personenbezogene oder -beziehbare Daten können in Medien sowohl als Inhalt wie die Abbildung der Person oder ihre Stimme enthalten sein, als auch in Metadaten wie Standortdaten, Geräte-Kennungen usw..
  • Lehrkräfte sollten eine Möglichkeit haben, die Interaktion ihrer Schülerinnen und Schüler nachträglich stichprobenartig kontrollieren zu können, um eine riskante Nutzung sowie Missbrauch zu verhindern.
  • Schulen sollten in ihrer Nutzungsordnung für digitale Endgeräte, Apps und Online Plattformen auch die Nutzung von KI-Plattformen ausdrücklich berücksichtigen und entsprechende Nutzungsregeln darin festlegen.
  • Schülerinnen und Schüler sollten über die Funktionsweise von KI-Plattformen und mögliche Risiken für ihr Recht auf informationelle Selbstbestimmung aufgeklärt werden, bevor sie mit derartigen Plattformen im Unterricht arbeiten.

Es sollte klar geworden sein, dass eine unterrichtliche Nutzung von ChatGPT, Gemini, Claude, DeepSeek u. Ä. direkt über die Websites oder Apps der Anbieter durch Schülerinnen und Schülern für Schulen zu Konflikten mit den datenschutzrechtlichen Vorgaben führt, welchen sie unterliegen, und von daher nicht vertretbar ist.

Mittlerweile sind ausreichend viele alternative Möglichkeiten entstanden, die es erlauben, mit den genannten US-amerikanischen und chinesischen KI-Plattformen datenschutzfreundlich(er) zu interagieren. Darüber hinaus wächst die Zahl von Angeboten aus dem EU Raum wie auch direkt aus Deutschland, welche eigene, zumeist auf Open Source LLM aufsetzende KI-Plattformen bereitstellen.

Zu den Anbietern, welche alternative Zugriffsmöglichkeiten auf US-amerikanische KI-Plattformen anbieten, gehören aktuell bekanntere Namen wie fobizz, schulKI und FelloFish (Fiete.ai). Sie “entschärfen” die mit einer direkten Nutzung der US-amerikanischen KI-Plattformen verbundenen Risiken, indem sie über die von diesen Anbietern bereitgestellten API (Programmschnittstellen zu den LLM) als Vermittler auf personalisierte Zugänge für Schülerinnen und Schüler verzichten, die Nutzer anonymisieren und so eine mögliche Identifizierung anhand von Zugangs- und/oder Metadaten verhindern. Ergänzend stellen einige Anbieter in ihren Plattformen zusätzliche datenschutzfreundliche LLM zur Auswahl bereit. Dabei kann es sich um Open Source Modelle handeln oder Eigenentwicklungen von im DS-GVO Raum ansässigen Drittanbietern.

Verschiedene Bundesländer haben bei den genannten bekannteren Anbietern Landeslizenzen erworben, während andere Bundesländer eigene Lösungen in Auftrag gegeben haben. Aktuell entsteht im Auftrag der KMK eine weitere KI-Plattform, die unter Federführung des FWU entwickelt wird und dann durch die Bundesländer als Landesplattform den Schulen zur Verfügung gestellt werden kann.

Zu beachten ist, dass die oben aufgeführten Grundregeln aktuell auch bei der vermittelten Nutzung von US-amerikanischen und chinesischen KI-Plattformen gilt wie auch bei den von den Ländern bereitgestellten Plattformen, sofern diese keine abweichenden Vorgaben machen.

KI-Plattformen als Werkzeuge für Lehrkräfte

KI-Plattform sind nicht nur in der Lage, Texte zu verarbeiten, um Anweisungen zu folgen,  sondern sie können Texte sowohl inhaltlich wie auch sprachlich analysieren. Das eröffnet nicht nur für Schülerinnen und Schüler neue Möglichkeiten. Während diese sich Feedback geben lassen können, um bessere Texte zu schreiben, können Lehrkräfte KI-Plattformen didaktische Kriterien bezüglich Sprache, Inhalt, Struktur, erwarteten Kompetenzen und ähnlich vorgeben mit dem Ziel, Schülertexte entsprechend auswerten zu lassen.

Einige Anbieter von KI-Plattformen wie auch beispielsweise Cornelsen mit der KI-Toolbox cornelsen.ai haben bereits spezialisierte Module in ihre Angebote integriert oder sich sogar darauf spezialisiert, Textprodukte einer größeren Anzahl von Schülerinnen und Schülern nacheinander schnell und effizient über ein von der Lehrkraft angelegtes Bewertungsraster auswerten zu lassen. In diesem Zusammenhang lassen sich auch schnell und einfach Vorschläge für eine Bepunktung und sogar eine Bewertung erstellen. Gleiches ist möglich, wenn die KI-Plattform Fotos als Bestandteil von Prompts entgegen nimmt. So lassen sich sogar handschriftliche Textprodukte über die Plattform analysieren und bewerten.

Mit Blick auf Datenschutz ergeben sich aus diesen Möglichkeiten neue Herausforderungen. Ist es überhaupt zulässig, Schülertexte mittels KI-Plattformen auswerten zu lassen?

Möchte man auf einer der oben genannten datenschutzfreundlichen Plattformen Schülertexte unterstützend auswerten lassen, dürften dabei keine persönlichen Inhalte in die Prompts einfließen, keine Namen und auch keine biographischen Daten. Es versteht sich von selbst, dass so Lebensläufe wie auch sehr persönliche Texte nicht über KI-Plattformen ausgewertet werden können. Digitale Texte sehen vom Schriftbild alle gleich aus. Doch wie verhält es sich mit handschriftlichen Texten? Diese stellen zumindest aktuell immer noch den Großteil der von Schülerinnen und Schülern erstellten Texte dar. Man sollte davon ausgehen können, dass die Handschrift von Schülern kein Merkmal darstellt, über welches Betreiber der großen KI-Plattformen diese einer identifizierbaren Person zuordnen können, wenn sie solches entgegen ihrer Datenschutzrichtlinien für API Nutzer doch tun sollten. Zwei Gründe sprechen dafür. Zum Einen finden sich kaum handschriftliche Muster von jungen Menschen im Internet oder auf Social Media, die einen Abgleich und eine Zuordnung ermöglichen würden und zum Anderen müssten KI-Plattformen darauf trainiert sein, individuelle Handschriften als solche zu erkennen.

Bei nicht handschriftlichen, digital verfassten Texten kann man sicher davon ausgehen, dass es keine datenschutzrechtlichen Bedenken gibt, diese in einer KI-Plattform auswerten zu lassen, solange diese Texte frei von identifizierenden Merkmale, wie Namen oder persönlichen Inhalte bleiben. Geht es um handschriftliche Texte, werden diese Einschätzungen vermutlich nicht von jedem geteilt werden.

Eine Auswertung von Schülertexten sollte damit unter den genannten Bedingungen zumindest für nicht handschriftliche, digital verfasste Texte in den Grenzen der DS-GVO möglich sein. Gemäß Art. 22 DS-GVO haben Betroffene, hier Schülerinnen und Schüler, “das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung […] beruhenden Entscheidung unterworfen zu werden, die” ihnen “gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.” Im Fall einer Auswertung von Schülerarbeiten mittels einer KI-Plattform meint dies eine Leistungsbewertung, welche von der Lehrkraft unkontrolliert übernommen wird. Es ist somit beispielsweise nicht zulässig, dass eine Lehrkraft die von ihren Schülerinnen und Schülern erstellten Leistungsnachweise über eine KI-Plattformen anhand von zuvor eingegebenen Aufgabenstellungen sowie dem Erwartungshorizont und einem Bewertungsraster automatisiert auswerten lässt und anschließend die von der Plattform ermittelten Noten in ihr Notenprogramm übernimmt und am Ende des Halbjahres aus den so ermittelten Noten eine Endnote festlegt. Art. 22 DS-GVO lässt Ausnahmen zu, wenn es entsprechende Rechtsvorschriften gibt und dort auch festgelegt ist, wie die Rechte und Belange der betroffenen Personen geschützt werden. Entsprechende spezialgesetzliche Regelungen aus dem Schulrecht sind dem Verfasser des Beitrags aus den verschiedenen Bundesländern bisher nicht bekannt. Offizielle Vorstöße in Richtung der Korrektur von Klassenarbeiten mittels KI-Plattformen müssen diese Grenzen berücksichtigen, wie der Schulversuchs „proof – Prozessorganisation und Feedback“ in Bayern verdeutlicht. Im Rahmen dieses Projektes dürfen 16 Schulen den Einsatz von KI bei der Korrektur von Arbeiten erproben, um Lehrkräfte von Routineaufgaben zu entlasten, jedoch ausdrücklich beschränkt auf die Vorkorrektur zur Beurteilung der sprachlichen und inhaltlichen Richtigkeit von Arbeiten.1https://www.verkuendung-bayern.de/files/baymbl/2024/439/baymbl-2024-439.pdf

In der Praxis bedeutet das, eine Vorauswertung von Schülertexten mittels einer geeigneten KI-Plattform ist unter Beachtung der oben genannten Hinweise durchaus möglich, solange die Lehrkraft die Resultate nicht ungeprüft übernimmt und die abschließende Notenfindung selbst vornimmt. Wenn Lehrkräfte KI-Plattformen zur Unterstützung bei der Bewertung von Schülertexten einsetzen, sollten sie sich immer auch der Tendenz bei menschlichen Entscheidenden bewusst sein, “die Ergebnisse des Computers ohne Kritik oder weitere Kontrolle zu übernehmen (sogenannter „Automation Bias“),” vor welcher der Landesbeauftragte für Datenschutz Baden Württemberg in seinem 40. Tätigkeitsbericht warnt.

Auswirkungen der KI-VO

Nicht nur die DS-GVO setzt mit Art. 22 dem Einsatz von KI-Plattformen bei der Auswertung von Schülerarbeiten Grenzen, auch die KI-Verordnung hat an dieser Stelle rechtliche Relevanz, allerdings aus einem völlig anderen Blickwinkel.

Exkurs: Während die DS-GVO auf das Recht der Betroffenen auf informationelle Selbstbestimmung und das Verbot automatisierter Einzelfallentscheidungen ohne menschliche Kontrolle fokussiert, nimmt die KI-Verordnung der EU (AI Act/ KI-VO) mögliche Risiken, die für Betroffene aus einer Verarbeitung ihrer Daten mittels KI-Plattformen entstehen können, in den Blick. Sie stuft dafür KI-Plattformen, in der Verordnung als KI-Systeme bezeichnet, nach ihrem Einsatzzweck in Risikokategorien ein, die von minimalem Risiko über geringes und hohes Risiko bis zu unannehmbarem Risiko reichen. Mit Ausnahme von KI-Systemen, welche durch unannehmbare Risiken grundsätzlich verboten sind, gilt – je höher das potentielle Risiko, welches mit dem Einsatz eines KI-Systems verbunden ist, desto umfangreicher sind die daraus resultierenden Auflagen – für die Anbieter der Systeme sowie auch die Betreiber, hier die Schulen.

Speziell mit Blick auf Bildung beschreibt die KI-VO in Anhang III2https://artificialintelligenceact.eu/de/annex/3/, Nr. 3 KI-VO vier Kategorien von KI-Systemen, die als hochriskant gemäß Art. 6 Abs. 2 KI-VO einzustufen sind. Das sind KI-Systeme, die (a) dazu dienen einen Zugang zur Schule oder eine Einteilung in Lerngruppen zuzuweisen, die (b) Lernergebnisse bewerten und solche die darauf aufbauend Lernprozesse steuern, die (c) über die Bildungslaufbahn entscheiden und die (d) Prüfungen auf unzulässige Handlungen überwachen. Das hohe Risiko entsteht aus diesen KI-Systemen, “da sie den Bildungs- und Berufsweg einer Person bestimmen und daher die Fähigkeit dieser Person, ihren Lebensunterhalt zu sichern, beeinflussen können.”3https://artificialintelligenceact.eu/de/recital/56/

Für die Einstufung als Hochrisiko-KI-System ist nicht entscheidend, was ein Nutzer damit vorhat, sondern wozu das System objektiv in der Lage ist und für welchen Einsatzzweck es bestimmt ist.

Bisher müssen Schulen beim geplanten Einsatz von KI-Systemen zur Auswertung von Schülerarbeiten lediglich die Vorgaben der DS-GVO, wie oben beschrieben, berücksichtigen. Mit dem schrittweisen Beginn der Umsetzung der KI-VO kommen nun deren Vorgaben noch hinzu. Für die Klassifizierung von KI-Systemen ist der Stichtag hier der 02.08.2026. Bis dahin gelten für Schulen weiterhin ausschließlich die Vorgaben der DS-GVO sowie gegebenenfalls landesspezifische Regelungen wie beispielsweise in Baden-Württemberg; die KI-Verordnung betrifft bis dahin nur einzelne Pflichten wie die Schulung der Mitarbeitenden zur KI-Kompetenz, nicht jedoch die konkrete Nutzung von KI-Plattformen im Unterricht. Ab dem Stichtag ist klar, KI-Plattformen, welche laut KI-VO in der allgemeinen oder beruflichen Bildung “zur Bewertung von Lernergebnissen eingesetzt werden sollen”, werden als „hochriskant“ klassifiziert. Eine Einstufung als Hochrisiko-KI-System entfällt gemäß Art. 6 Abs. 3 lit. d) KI-Verordnung nur dann, wenn das KI-System objektiv ausschließlich vorbereitende Aufgaben wie die Fehleranalyse in Schülertexten übernimmt, ohne selbst die Bewertung maßgeblich zu beeinflussen, und die Endbewertung eigenständig durch eine Lehrkraft erfolgt.

Sollte der Gesetzgeber eines Bundeslandes eine Rechtsgrundlage für die Nutzung von KI-Plattformen zur eigenständigen Bewertung von Lernergebnissen schaffen, so würde dies für Schulen, welche eine geeignete, spezialisierte Plattform entsprechend einsetzen wollen, ab August 2026 eine Anzahl von Pflichten mit sich bringen, vergleichbar denen, welche Schulen durch die DS-GVO auferlegt werden, je nach KI-System jedoch möglicherweise deutlich umfangreicher. Schulen werden geeignete KI-Plattformen zur Bewertung von Lernergebnissen u.a. daran erkennen können, dass sie als Hochrisiko-KI-Plattformen ein CE-Kennzeichen, eine EU-Konformitätserklärung sowie einen Eintrag in der zentralen EU-KI-Datenbank mit Informationen zu Einsatzzweck, Risikobewertung usw. nachweisen können. Derzeit ist ein solcher Schritt von Seiten der Schul- und Kultusministerien jedoch höchst unwahrscheinlich. Das wird auch so bleiben, solange KI-Modelle eine erhebliche Fehleranfälligkeit aufweisen, Anbieter nicht die notwendige Transparenz gewährleisten und der Einsatz solcher Systeme — angesichts der daraus resultierenden Risiken für Fairness, Transparenz und Nachvollziehbarkeit — einen nicht vertretbaren Eingriff in die Grundrechte der Schülerinnen und Schüler darstellen würde.

Zudem ist in diesem Zusammenhang zu beachten, dass eine Einwilligung der Schülerinnen und Schüler nach Art. 6 Abs. 1 lit. a DS-GVO in den Einsatz hochriskanter KI-Systeme regelmäßig keine tragfähige Rechtsgrundlage darstellen kann. Voraussetzung für eine wirksame Einwilligung ist ihre Freiwilligkeit, Informiertheit und die Möglichkeit, sie jederzeit ohne Nachteile zu verweigern oder zu widerrufen. Im schulischen Kontext ist eine echte Freiwilligkeit jedoch kaum anzunehmen, da Schülerinnen und Schüler sich in einem strukturellen Abhängigkeitsverhältnis zur Schule befinden. Aus diesem Grund bedarf der Einsatz hochriskanter KI-Systeme im Bereich der Leistungsbewertung einer spezialgesetzlichen Rechtsgrundlage, die die Interessen der betroffenen Personen angemessen schützt.

Möchte eine Schule ein KI-Modell mit allgemeinem Verwendungszweck im Sinne von Art. 3 Nr. 63 KI-VO für eine spezialisierte Anwendung, wie die Bewertung von Lernergebnissen, einsetzen, verkompliziert sich die Sache deutlich. Bereits durch die mit der Spezialisierung einhergehende Änderung des Einsatzzwecks könnte die Schule rechtlich selbst als Anbieter eines KI-Systems gelten, was umfassende zusätzliche Auflagen wie Risikomanagement, technische Dokumentationspflichten, Konformitätsbewertungen, CE-Kennzeichnung und die Eintragung in die EU-KI-Datenbank nach sich zieht.

Exkurs: ChatGPT, Claude, Gemini und DeepSeek gelten im Sinne der KI-VO als KI-Modelle mit allgemeinem Verwendungszweck, wohingegen die Angebote von Anbietern wie fobizz, FelloFish und vergleichbar nicht unter diese Kategorie fallen, da es sich bei ihnen um domänenspezifische KI-Systeme handelt, die für konkrete pädagogische Zwecke (z. B. Korrekturassistenz, Feedbackgenerierung) optimiert und nicht für eine „breite Palette unterschiedlicher Aufgaben“ ausgelegt sind.

Die KI-VO unterscheidet zwischen KI-Modell und KI-System. Ein KI-System basiert auf einem oder mehreren KI-Modellen, die in der Regel über eine Programmierschnittstelle (API) integriert oder direkt eingebettet werden. Das System wird dabei für einen konkreten oder allgemeinen Anwendungszweck gestaltet und über eine Benutzeroberfläche bereitgestellt. Greift ein Nutzer über seinen Browser auf ein Angebot wie ChatGPT zu, interagiert er mit dem KI-System von OpenAI, das auf dem KI-Modell GPT-4 basiert. Die von Anbietern wie SchulKI, fobizz und ähnlichen Plattformen angebotenen KI-Systeme integrieren verschiedene KI-Modelle, aus denen Nutzer je nach Anwendungszweck bzw. Tool auswählen können.

Viele Bildungs-KI-Anbieter werden voraussichtlich ihre KI-Bewertungsfunktionen weiterhin so ausgestalten, dass sie nur vorbereitende Aufgaben unterstützen, um einer Einstufung als Hochrisiko-KI und den daraus resultierenden Pflichten als Anbieter zu entgehen.

Als hochriskant kategorisiert die KI-VO in Anhang III, Nr. 3 nicht nur KI-Systeme zur “Bewertung von Lernergebnissen“, sondern auch solche, welche “diese Ergebnisse zur Steuerung des Lernprozesses natürlicher Personen” verwenden. Darunter fallen je nach technischer Ausgestaltung auch Adaptive Lernsysteme und Intelligente Tutorielle Systeme – ob ein System jedoch tatsächlich als Hochrisiko-KI gilt, hängt davon ab, ob es im Sinne der Verordnung „intelligent“ agiert (z. B. durch den Einsatz komplexer KI-Modelle mit diagnosefähiger Lernsteuerung) oder lediglich einfache Algorithmen nutzt.

Ein Blick nach Baden Württemberg

Was würde das in der Praxis heißen? Zunächst ein kurzer Blick nach Baden-Württemberg. Dort gibt es mit § 115b im Schulgesetz4https://www.landesrecht-bw.de/bsbw/document/jlr-SchulGBW1983V57P115b seit 2024 eine Regelung, welche Schulen das “Anwenden automatisierter, anpassungsfähiger Verfahren […] zum Zweck der technischen Unterstützung und Förderung des individuellen Lernweges” erlaubt. Ergänzt und präzisiert wird diese Regelung mit der Digitalunterrichtsverordnung5https://www.landesrecht-bw.de/bsbw/document/jlr-DigUVBWrahmen (DUVO). Automatisierte, anpassungsfähige Verfahren werden dort beschrieben als Computersysteme, die automatisch passende Lernangebote für Schülerinnen und Schüler auswählen, sich interaktiv an das Können und den Lernfortschritt der Lernenden anpassen, gezielt beim individuellen Üben helfen und Rückmeldungen geben. Zu den Informationspflichten gemäß Art. 13 und 14 DS-GVO werden Schulen auch Pflichten in Orientierung an der KI-VO auferlegt. Dazu gehören die Transparenzpflicht, welche Schulen durch Information über die Nutzung und Funktion des System erfüllen müssen, wie das Recht der Betroffenen zur Einsichtnahme, die Zweckbindung, mit welcher der Einsatzzweck eingeschränkt wird, das Verbot der Nutzung von Schülerdaten für Trainingszwecke und der Schutz der personenbezogenen Daten der Nutzer, wozu auch das Verbot gehört, in der Plattform personenbezogenen Daten besonderer Kategorien (Art. 9 DS-GVO zu verarbeiten. Eine Einsichtnahme der Lehrkräfte in die Lernfortschritte ist möglich, setzt jedoch eine Vorabinformation der Schülerinnen und Schüler über den Zeitpunkt voraus. Lehrkräfte dürfen im System erbrachte Leistungen “bei der Notenbildung oder anderen wesentlichen schulischen Entscheidungen” nur dann berücksichtigen, wenn sie diese “fachlich und pädagogisch” geprüft haben. Das bedeutet, um es noch einmal auf den Punkt zu bringen: will eine Lehrkraft in Baden-Württemberg die Leistungen ihrer Schülerinnen und Schüler in einem KI-gestützten System wie einem Adaptiven Lernsystem oder Intelligenten Tutoriellen System, dessen Nutzung in den Regelungsbereich der DUVO fällt, bewerten, setzt dieses voraus, dass vor der Einsichtnahme eine Information über den beabsichtigten Zeitpunkt erfolgt und die erbrachten Leistungen von der Lehrkraft fachlich und pädagogisch geprüft werden.

Ein Blick nach NRW

In NRW lassen sich Adaptive Lernsysteme und Intelligente Tutorielle Systeme unter Lehr- und Lernsysteme gem. § 120 Abs. 5 Satz 1 fassen6Siehe hierzu 29. Bericht 2024 LDI NRW; S. 47ff . Schulen können demnach entsprechende Systeme zur Erfüllung des Bildungs- und Erziehungsauftrags einsetzen und die dafür erforderlichen personenbezogenen Daten verarbeiten. Anders als in Baden-Württemberg findet sich im Schulgesetz NRW bisher keine bereichsspezifische Regelung zur Nutzung von KI-Plattformen oder Systemen, welche mit KI-Unterstützung arbeiten. Bestehende datenschutzrechtliche Grundsätze aus dem Schulgesetz und der DS-GVO sind hier anzuwenden, wie bei anderen Plattformen auch. Darüber hinaus müssen Schulen sich vorerst an der sperrigen KI-VO orientieren. Möchte eine Schule ein vom Schulträger bereitgestelltes Adaptives Lernsystem oder ein Intelligentes Tutorielles System nutzen, welches lediglich durch einfache Algorithmen gesteuert wird, geben alleine das Schulgesetz und die DS-GVO den Rechtsrahmen vor, innerhalb dessen eine Nutzung möglich ist. Mit dem Anbieter ist ein Vertrag zur Auftragsverarbeitung abzuschließen, Betroffene müssen vorab über die Datenverarbeitung informiert werden und die Nutzung ist nur im Rahmen des Erforderlichen möglich. Ist im Hintergrund ein KI-System aktiv, kommt auch die KI-VO ins Spiel. Die Schule müsste zunächst prüfen, ob das System  als Hochrisiko-KI gemäß Anhang III der KI-VO einzustufen ist. Das wäre beispielsweise dann der Fall, wenn das System zunächst über einen Kompetenz-Check einen Lernstand ermittelt, diesen bewertet bzw. zu einer Diagnose verarbeitet und daraus abgeleitet die weiteren Lernprozesse automatisch steuert, d.h. sich anpasst und Lernvorgaben ohne direkte menschliche Entscheidung verändert. Durch die Einstufung als Hochrisiko-KI ist die Schule verpflichtet, die Lernenden vorab entsprechend zu informieren. Lehrkräfte müssen jederzeit in der Lage sein, die Entscheidungen des KI-Systems zur Steuerung der Lernprozesse nachzuvollziehen und diese bei Bedarf anzupassen.

KI-Plattformen ohne hohes Risiko

Viele für den schulischen Einsatzzweck konzipierte Plattformen, deren Funktionen KI-Systeme integrieren, fallen nicht unter Hochrisiko-KI-Systeme, da sie Anwendungsbereiche adressieren, die nur mit minimalem oder geringem Risiko verbunden sind. Dazu gehören etwa Hilfestellungen beim Verfassen von Texten, automatisiertes Feedback auf Entwürfe, interaktive Chats mit historischen oder fiktiven Persönlichkeiten, Erstellung von Podcasts aus Texten, Erschließung von Texten durch Fragen an ein PDF, das Erstellen von Grafiken und Bildern usw. Solche Anwendungen unterstützen den Lernprozess oder die kreative Arbeit, greifen jedoch nicht maßgeblich in die Leistungsbewertung oder die Bildungslaufbahn der Schülerinnen und Schüler ein. Sie unterliegen daher nach der KI-VO weniger strengen Anforderungen und können unter Einhaltung allgemeiner Datenschutzvorgaben deutlich einfacher eingesetzt werden.

Anwendungen, die nur ein geringes Risiko im Sinne der KI-Verordnung darstellen, unterliegen keinem Konformitätsbewertungsverfahren, keiner CE-Kennzeichnung und auch keinen umfassenden Risikomanagementpflichten. Die oben genannten typischen Funktionen der schulischen KI-Plattformen — wie Textassistenz, Feedbacksysteme, Chats mit historischen Persönlichkeiten, Bild- oder Podcast-Erstellung sowie interaktive PDF-Auswertungen — dürften in der Mehrzahl unter diese Kategorie der Anwendungen mit geringem Risiko fallen. Für Schulen als Betreiber solcher Systeme bedeutet dies in erster Linie, dass die Transparenzpflichten nach Artikel 52 der KI-VO zu beachten sind und Nutzerinnen und Nutzer — hier Schülerinnen und Schüler sowie Lehrkräfte — klar und verständlich darüber informiert werden müssen, dass sie mit einem KI-System interagieren. Voraussetzung bleibt, wie bereits an anderer Stelle erwähnt, stets, dass die eingesetzten Plattformen datenschutzkonform betrieben werden, insbesondere keine sensiblen personenbezogenen Daten im Sinne von Artikel 9 DS-GVO unzulässig verarbeitet oder übermittelt werden.

Ausblick

Die KI-VO wird Schulen spätestens ab August 2026 vor zusätzliche Herausforderungen stellen, da dann vor allem die unter die Hochrisiko-KI-Systeme fallenden Plattformen nur noch rechtmäßig eingesetzt werden können, wenn die von der KI-VO festgelegten Anforderungen dabei eingehalten werden. Darüber hinaus verpflichtet die KI-Verordnung Schulen als Betreiber von KI-Systemen dazu, sicherzustellen, dass sowohl Lernende als auch Lehrkräfte über eine ausreichende Kompetenz im Umgang mit KI-Systemen verfügen („AI Literacy“). Diese Pflicht besteht bereits seit Februar 2025. Lehrkräfte müssen in der Lage sein, die Funktionsweise, Risiken und Grenzen der eingesetzten Systeme zu verstehen, um ihrer Rolle als menschliche Kontrollinstanz („Human Oversight“) gerecht werden zu können. Die KI-VO schreibt keine bestimmte Maßnahme zur Kompetenzentwicklung vor, sondern fordert lediglich das Ergebnis: den kompetenten und verantwortungsbewussten Umgang mit KI im schulischen Alltag. Die Vermittlung von KI-Kompetenz wird damit ein weiterer zentraler Aspekt der Schulentwicklung.

Bis August 2026 bleibt Schulen noch Zeit zu experimentieren, solange sie dabei die Grenzen von Art. 22 DS-GVO beachten. Je nach Bundesland können sie sich dabei sogar auf schon vorhandene Rechtsgrundlagen aus der Schulgesetzgebung stützen. Um die Schulen bei der Bewältigung dieser neuen Herausforderungen zu unterstützen, haben die Bundesländer in der Bildungsministerkonferenz am 10. Oktober 2024 vereinbart, Schulen und Schulträgern Orientierungshilfen für den rechtskonformen Einsatz von KI-Anwendungen bereitzustellen.7https://www.kmk.org/fileadmin/veroeffentlichungen_beschluesse/2024/2024_10_10-Handlungsempfehlung-KI.pdf (S. 10)

Wer sich selbst KI-kundig machen möchte, hat mit der Lektüre dieses Beitrags einen ersten Schritt dazu getan. Weitere hilfreiche Informationen finden sich u.a. unter:

Veröffentlicht am

Schulische Nutzung von KI Plattformen

Lesezeit: 9 Minuten

Im November 2022 ging OpenAI mit seinem generativen Sprachmodell ChatGPT an die Öffentlichkeit. Mehr als ein Jahr ist seither vergangen und die Entwicklung der “KI Plattformen” ist rasant fortgeschritten. ChatGPT und vergleichbare Plattformen wie Google Bard oder Claude von Anthropic haben sich weiterentwickelt, sind leistungsstärker geworden und haben neue Funktionen erhalten. Neben den großen Sprachmodellen (LLM), den textgenerierenden KI, entstanden auch bildgenerierende KI wie DALL-E von OpenAI oder Midjouney und Stable Diffusion. Aus einigen textgenerierenden KI wurden im Laufe der Monate so multimodale KI, Plattformen, die nicht nur textbasierte Inhalte erstellen können, sondern auch Bilder, Videos, Musik und Sprache, und neben Prompts im Textformat, auch Eingaben in Form von Bildern, Sprache, Ton und Video verarbeiten. Ergänzend zu API Schnittstellen haben Anbieter wie OpenAI neue Möglichkeiten geschaffen, die Funktionen ihrer Plattformen zu nutzen. Bei OpenAI ist das beispielsweise die Möglichkeit, eigene GPTs zu erstellen und anderen Nutzern zur Verfügung zu stellen. Einige dieser GPT integrieren dazu externe Dienste anderer Anbieter. Schon bevor es diese Möglichkeit gab nutzten zahlreiche Drittanbieter die API Schnittstellen der großen Anbieter, um darauf aufbauend eigene Produkte zu entwickeln. Die Palette reicht hier von Microsoft, wo ChatGPT und andere OpenAI KI Plattformen in eigene Produkte wie Microsoft  365 und Bing integriert wurden, über Apps für Mobilgeräte mit KI Funktionen bis zu Anbietern im Bildungsbereich, welche KI Funktionalitäten für Lehrkräfte und Schüler entwickelten Plattformen bereitstellen. Neben Anbietern, die auf die großen KI Plattformen der großen Anbieter setzen, kommen auch immer mehr Angebote auf den Markt, welche auf eigene KI Plattformen oder die Open Source Plattformen anderer Akteure setzen. Ergänzt werden diese Entwicklungen durch Anwendungen und spezialisierte Chips, die es ermöglichen, KI Plattformen jeglicher Art lokal auf Computern und digitalen Endgeräten wie Smartphones laufen zu lassen.

Schüler wie auch Lehrkräfte erkannten schon im November 2022 die Möglichkeiten, welche eine KI Plattform für die eigene Arbeit bringen kann, sei es für die Anfertigung von Hausaufgaben oder die Vorbereitung von Unterricht. Schnell war den am Bildungsprozess beteiligten Akteuren klar, dass Schule sich vor KI Plattformen nicht verschließen kann, sowohl mit Blick auf Medienerziehung wie auch als Werkzeug im Unterricht. Das Ministerium für Schule und Bildung (MSB) veröffentlichte nur drei Monate später im Februar 2023 seinen Handungsleitfaden Umgang mit textgenerierenden KI-Systemen. Andere Bundesländer folgten. Neben den Möglichkeiten zur unterrichtlichen Nutzung standen und stehen bei allen Handreichungen immer auch zwei rechtliche Aspekte im Fokus, Urheberrecht und Datenschutz.

ChatGPT, momentan im Zentrum aller Aufmerksamkeit und vermutlich der bislang meistgenutzte Anbieter, stand eine Zeit lang im Fokus der Aufsichtsbehörden. Italien verbot OpenAI gar die Bereitstellung seines Dienstes für Nutzer in Italien, bevor nicht einige Mängel abgestellt worden sind. Es ging u.a. um die Aufklärung italienischer Nutzer, dass ihre Daten möglicherweise zu Trainingszwecken verwendet und sachlich falsch von ChatGPT wiedergegeben werden könnten. Auch deutsche Aufsichtsbehörden wandten sich wiederholt mit Fragenkatalogen an den US Anbieter. ChatGPT ist in Italien wieder verfügbar und deutsche Aufsichtsbehörden kamen bisher nicht zu dem Schluss, zu vergleichbaren drastischen Maßnahmen greifen zu müssen. Auf Schulen hatte all das ohnehin keine Auswirkung. Auch eine Änderung der Geschäftsbedingungen von OpenAI bezüglich der Nutzung der KI Dienste via API im Januar wirkte sich nicht auf die Nutzung in Schulen aus. Der Anbieter hatte seine Nutzungsbedingungen im November 2023 um eine Passage ergänzt, die Drittanbieter verpflichten soll, von den Eltern von Schülerinnen und Schülern unter 16 Jahren vor Nutzung eine Einwilligung einzuholen. Vom Landesdatenschutzbeauftragte von Rheinland-Pfalz, Dieter Kugelmann, kam hier Entwarnung. Nach seiner Einschätzung ist eine Zustimmung von Eltern minderjähriger Schülerinnen und Schülern nicht erforderlich. 

Mit der Entwicklung der textgenerierenden KI hin zu multimodalen KI mit neuen Ein- und Ausgabeformaten haben sich auch neue datenschutzrechtliche Herausforderungen ergeben. Wie sich im Verlauf der weiteren Betrachtungen zeigen wird, hat sich an den bisherigen Empfehlungen zu einer datenschutzfreundlichen schulischen Nutzung von KI Plattformen nichts wesentlich verändert. Ergänzt werden müssen die Empfehlungen jedoch vor allem mit Blick auf neue Eingabeformate, das meint hier vor allem Prompts in Form von Bild und Ton, also Spracheingaben sowie Fotos und Videos als Eingaben.

Beschränkt auf textgenerierende KI wie ChatGPT und die Eingabe von Prompts ausschließlich in Form von digitalem Text, konnten bisher als datenschutzfreundlich folgende Nutzungsszenarien empfohlen werden:

  • Die Lehrkraft hat einen privaten Zugang, kostenlos oder kostenpflichtig, und nimmt die Prompts der Lerngruppe an, gibt sie selbst ein und teilt die Ergebnisse mit der Lerngruppe. Für Schülerinnen und Schüler bestehen keine Risiken, da sie nicht direkt mit der Plattform interagieren.
  • Die Lehrkraft verfügt über einen Drittanbieterzugang, der von der Schule/ dem Träger/ Bundesland/ Medienzentrum bereitgestellt wird, und die Schule hat einen Vertrag zur Auftragsverarbeitung (AVV) mit dem Anbieter abgeschlossen. Über den Drittanbieterzugang kann die Lehrkraft anonyme Schülerzugänge erstellen. Für Schülerinnen und Schüler entstehen bei Einhaltung zuvor festgelegter Spielregeln keine Risiken bei einer Interaktion mit der Plattform.
  • Die Schule hat einen eigenen Zugang, API Schlüssel und AVV mit dem Anbieter abgeschlossen und erstellt mit Oberstufenschülern eine eigene Plattform zur Nutzung der KI via API. Sind die Spielregeln klar, ist eine Nutzung mit älteren Schülerinnen und Schülern ab 16 Jahren möglich. Die Risiken sind begrenzt.
  • Die Schule hat lokal als App auf Computern oder Tablets laufende KI Anwendungen. Eine Nutzung ist für Schülerinnen und Schüler ohne Risiken möglich, da keine Daten an Dritte abfließen. Trotzdem sollte es zuvor abgesprochene Spielregeln geben.

Risiken für Nutzer von KI Plattformen von Anbietern wie OpenAI, Microsoft, Google, Anthropic usw. ergeben sich vor allem aus den Inhalten von Prompts, wenn diese einen Personenbezug herstellen lassen. In Kombination mit einem individuellen Nutzerkonto beim KI Anbieter nehmen die Risiken noch einmal deutlich zu.  Weitere Risiken können sich prinzipiell aus den Metadaten wie Gerätekennungen, Standortdaten, Cookies und Trackern ergeben, die es erlauben, einen Nutzer zu identifizieren. Werden Dateien wie Bild- und Tonaufnahmen  zu Bestandteilen von Prompts, können mit diesen zusätzliche Metadaten übermittelt werden. Fotos und Videos, die Personen abbilden oder Spracheingaben enthalten weitere Daten, die einen Personenbezug herstellen lassen, wenn sie an die Anbieter der KI Plattformen übermittelt werden.

Auch wenn die großen US Anbieter in ihren Datenschutzerklärungen, Geschäftsbedingungen und Verträgen zur Auftragsverarbeitung mittlerweile ausschließen, von Nutzern eingegebene Prompts und andere Daten zu Trainingszwecken zu verwenden, bleibt die Übermittlung von personenbezogenen oder -beziehbaren Daten auf die Server von US Anbietern problematisch und ist im Rahmen unterrichtlichen Nutzung von KI Plattformen zur Erfüllung des Bildungs- und Erziehungsauftrags von Schulen nicht vertretbar.

Bei einer Nutzung via API über einen Drittanbieter reduzieren sich mögliche Risiken aus der Interaktion von Nutzer mit einer KI Plattform deutlich. Das individuelle Nutzerkonto und Metadaten der Geräte, mit welchen der Zugriff erfolgt, entfallen und erlauben es den KI Anbietern nicht, darüber den Bezug zu einer identifizierbaren Person herzustellen. Risiken könnten jetzt nur noch entstehen, wenn Prompts persönliche oder auf eine Person beziehbare Informationen enthalten. Diese Informationen können Teil von eingegebenen Texten wie auch von Bild- und Tondaten sein, bei Stimmeingaben die Stimme selbst und bei Prompts in Form von Bild- und Tonmedien die mit ihnen verbundenen Metadaten. Welche Risiken sich im Einzelnen ergeben können, hängt jeweils vom KI Plattform Anbieter ab, der Ausgestaltung der API und der Art und Weise, wie bzw. in welcher Form der Drittanbieter die Daten der Prompts an den Plattformanbieter übermittelt. Werden die Daten beim Drittanbieter bereits aufbereitet, wie dieses bei Prompts in Form von Texteingaben in der Regel der Fall ist, oder werden die Inhalte der Prompts wie im Fall von Bilddateien  weitestgehend unverändert auf die Server des Plattformanbieters übertragen, wo dann die KI Anwendung mit ihnen interagiert?

Im Tätigkeitsbericht der Aufsichtsbehörde Baden Württemberg für 2023 findet sich auch ein kurzer Bericht zu einer Beratungstätigkeit, deren Gegenstand ein in der Entwicklung befindliches Moodle-Modul fAIrchat war. Dieses Modul nutzt ChatGPT von OpenAI über die vom Anbieter bereitgestellte API und zu den dazu gehörenden Terms of Use, die zusichern, dass Nutzerdaten nicht zu Weiterentwicklung oder Verbesserung von ChatGPT verwendet werden. Metadaten der einzelnen Nutzer werden durch den Zugriff auf ChatGPT über die API nicht an den Anbieter übermittelt. Eine Nutzungsordnung für fAIrchat untersagt Nutzern die Eingabe von personenbezogenen Daten. Ein individuelles Konto beim KI Anbieter gibt es nicht. Außerdem gibt fAIrchat Lehrkräften die Möglichkeit, Eingaben der Lernenden nachträglich einzusehen. Die Aufsichtsbehörde kommt zu dem Schluss  „Sofern zusätzlich die jeweilige Lehrkraft die Schüler_innen auch ausdrücklich und für sie verständlich darüber aufklärt, dass sie keine personenbezogenen Daten in das System eingeben dürfen, und die Lehrkraft die Eingaben der Schüler_innen nachträglich überprüfen kann, die nachträgliche Kontrolle durch die Lehrkraft auch tatsächlich risikoangemessen zumindest stichprobenhaft erfolgt, scheint uns unter diesen Voraussetzungen eine Verwendung dieser KI im Rahmen des Unterrichts datenschutzrechtlich vertretbar.”1Eltern müssen einer schulischen Anwendung von Künstlicher Intelligenz nicht zustimmen. Das gilt auch für minderjährige Schüler. So sieht das jedenfalls der Datenschutzbeauftragte von Rheinland-Pfalz, Dieter Kugelmann. Der Datenschützer mischt sich damit in eine Diskussion um die Nutzung von ChatGPT über Dritt-Accounts durch Lehrkräfte und Schüler ein. Eine Änderung der „terms of business“ von OpenAI für Drittanbieter hatte verlangt, dass bei der Nutzung durch Minderjährige die Eltern zustimmen müssen. (Table.Media berichtete)

Das bedeutet, sind die folgende Bedingungen erfüllt:

  • Nutzung durch Schülerinnen und Schülern via API entsprechend den Terms of Use,
  • Nutzungsordnung, welche die Verwendung von personenbezogenen Daten untersagt,
  • Aufklärung der Schülerinnen und Schülern über die Nutzungsregel – keine Eingabe von personenbezogenen Daten,
  • Möglichkeit der stichprobenhaften nachträglichen Kontrolle von Eingaben durch die Lehrkraft und tatsächliche Umsetzung dieser Maßnahme durch die Lehrkräfte,

sieht man von Seiten der Aufsichtsbehörde keine datenschutzrechtlichen Probleme bei einer unterrichtlichen Nutzung. 

Das lässt sich auch auf die unterrichtliche Nutzung multimodaler KI Plattformen via API und Drittanbieter übertragen. Es müssen hierzu allerdings vergleichbare Bedingungen hergestellt werden. 

Fotos und Bilder als Bestandteile von Prompts

  • Selbst angefertigten Fotos hängen in der Regel neben GPS Daten auch Gerätedaten als Metadaten an, über die Nutzer potentiell immer identifizierbar sind, sofern es sich dabei um private Endgeräte handelt. Um die Übertragung dieser Daten zu vermeiden, sollten selbst angefertigte Fotos für Prompts immer nur mit schulischen Endgeräten aufgenommen werden. Gleiches gilt, wenn Zeichnungen angefertigt werden, die einer bildgenerierenden KI Plattform als Vorlage für eine Ausarbeitung dienen sollen. 
  • Soll ein auf einem privaten Endgerät angefertigtes Foto oder Bild für einen Prompt genutzt werden, muss es über eine entsprechende Software/ App von den Metadaten befreit werden. Ist dies nicht möglich, ist eine Verwendung für einen Prompt nicht zu empfehlen.
  • Analog zu Texteingaben dürfen Prompts in Form von Fotos oder Zeichnungen und ähnlich keine Personen aus der Schule oder dem Umfeld der Schüler erkennbar abbilden. Dabei ist es unerheblich, ob diese Fotos oder Zeichnungen speziell für einen Prompt angefertigt werden oder aus anderen Quellen stammen. 
  • Die Eingabe von Fotos mit handschriftlich bearbeiteten Aufgaben, etwa Aufsätzen oder Rechenaufgaben, sollte keine Risiken für Schülerinnen und Schüler erzeugen, solange die abfotografierten Blätter keine Daten wie Namen und Klasse enthalten, welche, eine Identifizierung ermöglichen. Die Identifizierung einer Person über ihre Handschrift setzt voraus, dass andere Handschriftproben öffentlich abrufbar online vorliegen und dort mit weiteren die Person identifizierenden Daten verknüpft ist. Bei Kindern und Jugendlichen ist das sehr unwahrscheinlich.

Videos als Bestandteile von Prompts

  • Werden Videos auf privaten Endgeräten angefertigt, bestehen durch die mit ihnen verbundenen Metadaten bei einer Nutzung für Prompts die gleichen Probleme wie bei Fotos und Bildern. Entsprechend sollten auch hier neutrale Schulgeräte für die Anfertigung genutzt werden.
  • Für die Inhalte von Videos gelten die gleichen Vorgaben wie für Fotos und Bilder. Sie dürfen keine Personen aus der Schule oder dem Umfeld der Schüler erkennbar abbilden, egal ob sie speziell für einen Prompt angefertigt wurden oder aus einer anderen Quelle stammen. Videos dürfen auch keine Inhalte zum Gegenstand haben, welche es ermöglichen, die genannten Personen zu identifizieren.

Tonaufnahmen als Bestandteile von Prompts

  • Bei Tonaufnahmen über private Endgeräte besteht unabhängig vom Inhalt der Aufnahme auch hier das Problem der Metadaten. Welche dieses sind, hängt vom Endgerät, der genutzten App und vom Betriebssystem ab. Um Risiken zu vermeiden, sollten auch sie nicht über Prompts übermittelt werden.
  • Enthalten die Tonaufnahmen Stimmen, so lassen sich darüber Personen potentiell identifizieren. Wie bei Fotos, Bildern und Videos dürfen Tonaufnahmen keine Personen aus der Schule oder dem Umfeld der Schüler erkennbar abbilden und auch keine Inhalte haben, welche es erlauben, diese Personen zu identifizieren, egal ob sie speziell für einen Prompt angefertigt wurden oder aus einer anderen Quelle stammen.
  • Direkte Spracheingaben von Prompts durch Nutzer sollten nur dann erfolgen, wenn der Drittanbieter die Umwandlung von Sprache zu Text auf eigenen Servern vornimmt. Das ist möglich, da Whisper AI, die Plattform von OpenAI, als Open Source Lösung auch selbst betrieben werden kann. Da die Anwendung sehr rechenintensiv ist, nutzen nicht alle Drittanbieter diese Möglichkeit. Es reicht nicht, wenn Drittanbieter die Sprachaufnahmen auf eigenen Servern speichern und dann zur Transkription an den KI Plattformanbieter übermitteln. Schülerinnen und Schüler, welche die Spracheingabe nutzen wollen oder müssen, sollten stattdessen die Diktierfunktion des Endgerätes nutzen. 

Die Regeln für die Eingabe von Prompts in Form von Fotos, Bildern, Videos und Ton sollten in einer Nutzungsordnung festgehalten werden und Schülerinnen und Schüler müssen darüber aufgeklärt sein. Lehrkräfte sollten die Möglichkeit haben, die Prompts ihrer Schülerinnen und Schüler stichprobenhaft zu kontrollieren und diese Möglichkeit auch nutzen. Für Drittanbieter aus Deutschland, welche die beschriebenen Voraussetzungen erfüllen, sind beispielhaft Fobizz und SchulKI zu nennen. Beide lassen sich entsprechend datenschutzfreundlich nutzen und bieten die für Schulen wichtigen Verträge zur Auftragsverarbeitung an. Bei Fobizz ist es zusätzlich möglich, in den Einstellungen zwischen verschiedenen KI Plattformanbietern zu wählen. Das heißt, wer ChatGPT nicht nutzen möchte, kann auf Alternativen wechseln, darunter auch EU Anbieter. Einige Bundesländer haben bei den Anbietern Landeslizenzen erworben.

Schulen in NRW sollte außerdem beachten, dass die Verarbeitung von Bild- und Tonaufnahmen durch die Schule nach der aktuellen Rechtslage einer Einwilligung bedarf. Sollen sie als Prompts verwendet werden (100% EU Anbieter, lokal laufende KI App), ist ein entsprechender Verarbeitungszweck in der Einwilligung anzugeben.

Nutzung durch Lehrkräfte

KI Plattformen sind nicht nur für den Unterricht von Interesse, sondern auch für die Vor- und Nachbereitung von Unterricht. Während die Erstellung von Unterrichtsmaterialien mittels KI in der Regel unproblematisch ist, da es hier zumeist nicht um personenbezogene Daten geht, können diese bei der Nachbereitung von Unterricht durchaus relevant sein.

Soll eine KI Plattform genutzt werden, um individuelles Feedback zu Schülerarbeiten zu erstellen oder um sie für eine Bewertung analysieren zu lassen, ist es erforderlich, die Schülerarbeiten als Prompt in die Anwendung zu laden. Es gelten hier für Lehrkräfte letztlich die gleichen Spielregeln, die auch für Schülerinnen und Schüler gelten. Solange die Prompts keine personenbezogenen oder -beziehbaren Daten enthalten, ob direkt als Inhalt oder in Form von Metadaten, entstehen bei einer Nutzung als Bestandteile von Prompts keine Risiken für Betroffene. Für die Eingabe von Sprachaufnahmen, etwa zur Auswertung von durch Schülerinnen und Schüler erstellte Podasts oder anderen gesprochenen Lernprodukten, gelten die bereits beschriebenen Einschränkungen. Auch die Erstellung von auf einzelne Lernende zugeschnittenen individuellen Unterrichtsmaterialien ist unproblematisch, solange dazu keine personenbezogenen Daten in Prompts eingegeben werden. Hier reicht in der Regel der Verzicht auf Namen und weitere biographische Daten, um mögliche Risiken auszuschließen.

Perspektiven schulischer KI Nutzung

Verglichen mit den ersten Monaten nachdem OpenAI mit ChatGPT die KI Welle losgetreten hatte, haben sich die Bedingungen für eine schulische Nutzung eindeutig verbessert und tendenziell werden die Bedingungen mit den ersten sich am Markt etablierenden ernstzunehmenden europäischen Anbietern mit eigenen KI Modellen und Plattformen sogar noch besser. Auch wenn die KI Plattformen von US Anbietern durch die vermittelnden Dienste von Drittanbietern mittlerweile datenschutzfreundlich nutzbar sind, ist die unterrichtliche Nutzung mit deutlichen Einschränkungen verbunden. Persönliche Inhalte müssen außen vor bleiben. Die Optimierung eines Lebenslaufes oder das Verfremden eines Portraits ist so unter keinen Umständen möglich. Schülerinnen und Schüler müssen wissen, warum das so ist, die Risiken kennen und sich an die vereinbarten Spielregeln halten. Mit europäischen Anbietern, die einen Vertrag zur Auftragsverarbeitung anbieten und bezüglich ihres Modells ausreichende Transparenz herstellen, sollten diese Grenzen in Zukunft fallen. Perspektivisch werden es auch die Plattformen dieser Anbieter sein, welche dauerhafter Bestandteil von schulischen Landesplattformen sind. Die voranschreitende Optimierung von KI Anwendungen und die gleichzeitige Entwicklung von immer leistungsfähigeren Prozessoren sowohl für stationäre wie auch mobile Endgeräte erlaubt es zunehmend, diese KI Anwendungen als Apps lokal laufen zu lassen. Auch das wird für Schulen neue Möglichkeiten bieten, da in Prompts eingegebene Daten dann die Schule nie verlassen, sondern auf den Endgeräten gespeichert werden.

Stolz präsentiert von WordPress