ais.chat, die im Auftrag der Länder entwickelte KI Plattform, steht Schulen in NRW seit geraumer Zeit zur Verfügung. Schulleitungen erhielten in einem gestaffelten Rollout spezielle Administrations-Zugänge, über welche sie ihre Lehrkräfte als Nutzer in die Plattform einpflegen können. Lehrkräfte selbst können ais.chat dann ihren Schülern im Unterricht über Links und QR Codes zur Nutzung zur Verfügung stellen.
Vor dem Beginn des Rollouts gab es eine Informationsveranstaltung für Schulleitungen1Link zur Videoaufzeichnung: https://player.vimeo.com/video/1145629909?h=a8c8beea9a&, bei welcher ais.chat in seinen Funktionen sowie der Administration vorgestellt und Fragen beantwortet wurden. Im Video wurde auch erklärt, dass es für die Einführung der Plattform weder einen Schulkonferenzbeschluss noch eine Einwilligung der Lehrkräfte braucht.
Nicht jeder wird alle Informationen zu ais.chat kennen und deshalb besteht vermutlich an einigen Stellen ein Klärungsbedarf, was bei der Nutzung der Plattform in rechtlicher Hinsicht zu beachten ist.
⚖️ Was ist die rechtliche Grundlage für die Nutzung von ais.chat?
Wie Logineo NRW wird ais.chat Schulen direkt durch das Land bzw. das Ministerium für Schule und Bildung (MSB) bereitgestellt. Anders jedoch als bei Logineo NRW setzt die Nutzung von ais.chat durch Lehrkräfte sowie Schülerinnen und Schüler keine Einwilligung voraus. Auch ais.chat ist mitbestimmt durch die Hauptpersonalräte, die hier aber – anders als bei Logineo NRW – nicht auf einer freiwilligen Nutzung durch Lehrkräfte und andere Nutzer bestanden.
Durch diesen kleinen aber entscheidenden Unterschied erfolgt die Verarbeitung der personenbezogenen Daten von Lehrkräften wie auch Schülerinnen und Schülern bei der Nutzung von ais.chat auf der Grundlage der Generalklauseln von § 121 Satz 1 repektive § 120 Satz 1 SchulG NRW in Verbindung mit Art. 6 Abs. 1 lit. e DS-GVO. Dies wird so auch in der Datenschutzerklärung zu telli angeführt:
“4. Rechtsgrundlage
Art. 6 Abs. 1 lit. e DSGVO i. V. m. den jeweiligen Schulgesetzen (Verarbeitung zur Wahrnehmung einer Aufgabe im öffentlichen Interesse – staatlicher Bildungs- und Erziehungsauftrag)Eine Einwilligung ist hierfür nicht erforderlich.“
🏫 Was bedeutet das in der Praxis?
Schulleitungen schalten ais.chat im Vidis Portal frei und zeichnen dabei den Vertrag zur Auftragsverarbeitung. Anschließend pflegen sie ihre Lehrkräfte im System ein, um ihnen Nutzerzugänge zur Verfügung stellen zu können.
Die Nutzung von ais.chat durch Lehrkräfte wie auch Schülerinnen und Schüler erfolgt danach ohne Einwilligung.
Lehrkräfte wie auch Schülerinnen und Schüler sind zur Nutzung von ais.chat verpflichtet, auch ohne Beschluss der Schulkonferenz. Voraussetzung dafür ist aber immer, dass:
- die Nutzung zur Erfüllung des Bildungs- und Erziehungsauftrages der Schule erforderlich ist und
- sie über ein von der Schule oder dem Schulträger zur Verfügung gestelltes Endgerät möglich ist.
Eine Nutzung über private Endgeräte ist immer freiwillig.
Welche datenschutzrechtlichen Vorgaben müssen Schulen bei der Nutzung von ais.chat einhalten?
Auch wenn die Nutzung von ais.chat keine Einwilligung erfordert, so bedarf es jedoch einer Information über die Datenverarbeitung gem. Art. 13 DS-GVO, denn eine Verarbeitung von personenbezogenen oder -beziehbaren Daten findet – auch wenn Schüler und Lehrkräfte gegenüber den KI-Modellen in ais.chat anonym bleiben – in den meisten Fällen statt.
Wie jeder Verarbeitungsvorgang in einer Schule muss die Verarbeitung von personenbezogenen Daten bei der Nutzung von ais.chat in das Verzeichnis der Verarbeitungstätigkeiten der Schule aufgenommen werden.
Auch wenn der Zugang zu ais.chat DS-GVO konform ist, alle genutzten KI-Modelle in der EU betrieben und keine Eingaben von Nutzern (Prompts) zu Trainingszwecken genutzt werden, sind persönliche Inhalte in Prompts nicht erlaubt. Das gilt für Lehrkräfte wie auch Schülerinnen und Schüler. Auf der Informationsseite Zugang zu ais.chat heißt es entsprechend:
“Für eine Nutzung für Schulverwaltungsaufgaben, die eine Eingabe von personenbezogenen Daten beinhaltet, ist „ais.chat“ nicht geeignet, da in das System über den Prompt keine personenbezogenen Daten eingegeben werden dürfen.“
Personenbezogene Daten (Lehrkräfte)
Lehrkräfte sind in ais.chat mit ihrer dienstlichen E-Mail, Vor- und Nachnamen sowie einer elfstelligen Lehrer-ID angelegt. Verknüpft fallen Daten an, wenn sie mit einer KI chatten, Assistenten anlegen oder Lernszenarien bereitstellen.
Personenbezogene Daten (Schüler)
Beim Zugriff mit personalisierten schulischen Endgeräten und vor allem bei Nutzung von privaten Endgeräten werden technische Daten verarbeitet, die theoretisch eine Zuordnung ermöglichen könnten.
Gibt es weitere rechtliche Vorgaben?
Ja, die gibt es. Es geht um die Vorgaben der KI-Verordnung. Diese verlangt von Schulen als sogenannten Betreibern von KI-Systemen Maßnahmen, mit denen sichergestellt wird, dass die Nutzenden eines KI-Systems “über ein ausreichendes Maß an KI‑Kompetenz verfügen“2Siehe Art. 4 KI-VO.
Gegenüber Schülerinnen und Schülern ist die Schule zur Transparenz verpflichtet. Sie müssen darüber informiert werden, dass sie mit einem KI-System interagieren. So darf z.B. bei der Nutzung eines Dialogpartners nicht der Eindruck entstehen, man kommuniziere mit einem echten Menschen.
📋 Nutzungsordnung
Es empfiehlt sich für Schulen, bestehende Nutzungsordnungen für IT-Räume und digitale Medien um einen von den Mitwirkungsgremien der Schule beschlossenen Zusatz zur KI-Nutzung zu ergänzen. In diesem sollten die Do’s and Don’ts festgehalten werden, etwa:
- das Verbot der Eingabe von privaten Details oder Daten Dritter,
- das Verbot missbräuchlicher Prompts,
- die Pflicht zur Kennzeichnung KI-erstellter Inhalte,
- …