Rechtsgrundlage der Nutzung von telli – KI Chat

Lesezeit: 3 Minuten

Telli, die im Auftrag der Länder entwickelte KI Plattform, steht Schulen in NRW seit geraumer Zeit zur Verfügung. Schulleitungen erhielten in einem gestaffelten Rollout spezielle Administrations-Zugänge, über welche sie ihre Lehrkräfte als Nutzer in die Plattform einpflegen können. Lehrkräfte selbst können telli dann ihren Schülern im Unterricht über Links und QR Codes zur Nutzung zur Verfügung stellen.

Vor dem Beginn des Rollouts gab es eine Informationsveranstaltung für Schulleitungen¹, bei welcher telli in seinen Funktionen sowie der Administration vorgestellt und Fragen beantwortet wurden. Im Video wurde auch erklärt, dass es für die Einführung der Plattform weder einen Schulkonferenzbeschluss noch eine Einwilligung der Lehrkräfte braucht.

Nicht jeder wird alle Informationen zu telli kennen und deshalb besteht vermutlich an einigen Stellen ein Klärungsbedarf, was bei der Nutzung der Plattform in rechtlicher Hinsicht zu beachten ist.

Was ist die rechtliche Grundlage für die Nutzung von telli?

Wie Logineo NRW wird telli Schulen direkt durch das Land bzw. das Ministerium für Schule und Bildung (MSB) bereitgestellt. Anders jedoch als bei Logineo NRW setzt die Nutzung von telli durch Lehrkräfte sowie Schülerinnen und Schüler keine Einwilligung voraus. Auch Telli ist mitbestimmt durch die Hauptpersonalräte, die hier aber – anders als bei Logineo NRW – nicht auf einer freiwilligen Nutzung durch Lehrkräfte und andere Nutzer bestanden.

Durch diesen kleinen aber entscheidenden Unterschied erfolgt die Verarbeitung der personenbezogenen Daten von Lehrkräften wie auch Schülerinnen und Schülern bei der Nutzung von telli auf der Grundlage der Generalklauseln von § 121 Satz 1 repektive § 120 Satz 1 SchulG NRW in Verbindung mit Art. 6 Abs. 1 lit. e DS-GVO. Dies wird so auch in der Datenschutzerklärung zu telli angeführt:

“4. Rechtsgrundlage
Art. 6 Abs. 1 lit. e DSGVO i. V. m. den jeweiligen Schulgesetzen (Verarbeitung zur Wahrnehmung einer Aufgabe im öffentlichen Interesse – staatlicher Bildungs- und Erziehungsauftrag)

Eine Einwilligung ist hierfür nicht erforderlich.“

Was bedeutet das in der Praxis?

Schulleitungen schalten telli im Vidis Portal frei und zeichnen dabei den Vertrag zur Auftragsverarbeitung. Anschließend pflegen sie ihre Lehrkräfte im System ein, um ihnen Nutzerzugänge zur Verfügung stellen zu können.

Die Nutzung von telli durch Lehrkräfte wie auch Schülerinnen und Schüler erfolgt danach ohne Einwilligung.

Lehrkräfte wie auch Schülerinnen und Schüler sind zur Nutzung von telli verpflichtet, auch ohne Beschluss der Schulkonferenz. Voraussetzung dafür ist aber immer, dass

die Nutzung zur Erfüllung des Bildungs- und Erziehungsauftrages der Schule erforderlich ist und
sie über ein von der Schule oder dem Schulträger zur Verfügung gestelltes Endgerät möglich ist.

Eine Nutzung über private Endgeräte ist immer freiwillig.

Hinweis: … zur Nutzung von telli verpflichtet … bedeutet hier keine generelle Verpflichtung im Sinne von, das Land NRW schreibt Schulen die Nutzung von telli vor. Für Schulen ist die Nutzung von telli optional. Es steht ihnen frei, auch die KI-Plattformen anderer Anbieter zu nutzen, sofern diese die dafür erforderlichen Voraussetzungen erfüllen. Eine Verpflichtung bezüglich der Nutzung von telli greift für Lehrkräfte in dem Moment, in welchem beispielsweise eine Fachschaft sich im Rahmen einer Unterrichtsreihe einigt, dass dabei mit einem in telli bereitgestellten Lernszenario gearbeitet wird, oder die Schule telli im Medienkonzept festschreibt. Entsprechend sind dann auch Schülerinnen und Schüler zur Nutzung von telli verpflichtet.

Welche datenschutzrechtlichen Vorgaben müssen Schulen bei der Nutzung von telli einhalten?

Auch wenn die Nutzung von telli keine Einwilligung erfordert, so bedarf es jedoch einer Information über die Datenverarbeitung gem. Art. 13 DS-GVO, denn eine Verarbeitung von personenbezogenen oder -beziehbaren Daten findet – auch wenn Schüler und Lehrkräfte gegenüber den KI-Modellen in telli anonym bleiben – in den meisten Fällen statt.

Wie jeder Verarbeitungsvorgang in einer Schule muss die Verarbeitung von personenbezogenen Daten bei der Nutzung von telli in das Verzeichnis der Verarbeitungstätigkeiten der Schule aufgenommen werden.

Auch wenn der Zugang zu telli DS-GVO konform ist, alle genutzten KI-Modelle in der EU betrieben und keine Eingaben von Nutzern (Prompts) zu Trainingszwecken genutzt werden, sind persönliche Inhalte in Prompts nicht erlaubt. Das gilt für Lehrkräfte wie auch Schülerinnen und Schüler. Auf der Informationsseite Zugang zu telli heißt es entsprechend:

“Für eine Nutzung für Schulverwaltungsaufgaben, die eine Eingabe von personenbezogenen Daten beinhaltet, ist „telli“ nicht geeignet, da in das System über den Prompt keine personenbezogenen Daten eingegeben werden dürfen.“

Werden bei telli überhaupt personenbezogene Daten verarbeitet?

Ja, bei der Nutzung von telli werden personenbezogene und -beziehbare Daten verarbeitet. Es sind vor allem die der Lehrkräfte, da diese einen individuellen Zugang haben, über den sie als Nutzer Zugang zu telli erhalten. Lehrkräfte sind in telli mit ihrer dienstlichen E-Mail, Vor- und Nachnamen sowie einer elfstelligen Lehrer-ID als Nutzer angelegt. Mit diesem Nutzer verknüpft fallen personenbeziehbare Daten an, wenn sie mit einer KI chatten, sich Assistenten anlegen oder Lernszenarien und Dialogpartner für ihre Schülerinnen und Schüler bereitstellen.

Von Schülerinnen und Schülern werden beim Zugriff mit personalisierten schulischen Endgeräten und vor allem bei einer Nutzung von telli von privaten Endgeräten aus technische Daten verarbeitet, die genutzt werden könnten, um den anonymen Nutzern eine identifizierbare Person zuzuordnen.

Gibt es weitere rechtliche Vorgaben, welche Schulen bei der Nutzung von telli einhalten müssen?

Ja, die gibt es. Es geht um die Vorgaben der KI-Verordnung. Diese verlangt von Schulen als sogenannten Betreibern von KI-Systemen Maßnahmen, mit denen sichergestellt wird, dass die Nutzenden eines KI-Systems “über ein ausreichendes Maß an KI‑Kompetenz verfügen“²

Gegenüber Schülerinnen und Schülern, die als Nutzer ebenfalls über eine KI-Kompetenz verfügen müssen, ist die Schule zur Transparenz verpflichtet. Sie müssen darüber informiert werden, dass sie mit einem KI-System interagieren. So darf z.B. bei der Nutzung eines Dialogpartners nicht der Eindruck entstehen, man kommuniziere mit einem echten Menschen.

Nutzungsordnung

Es empfiehlt sich für Schulen, bestehende Nutzungsordnungen für IT-Räume und digitale Medien um einen von den Mitwirkungsgremien der Schule beschlossenen Zusatz zur KI-Nutzung zu ergänzen. In diesem sollten die Do’s and Don’ts festgehalten werden, etwa:

das Verbot der Eingabe von privaten Details oder den personenbezogenen Daten von Dritten,
das Verbot missbräuchlicher Prompts,
die Pflicht zur Kennzeichnung der von KI erstellten Inhalte,
…