Kommunikation zwischen Klassenräumen & Setzen von Erinnerungen mittels Smart Speaker
Anfrage
Eine Grundschule möchte einen digitalen Assistenten wie Amazon Echo (Alexa) oder Google Assistant in den Klassenräumen der Schule als Intercom zur Kommunikation der Lehrkräften zwischen den Klassenräumen nutzen, zum Setzen von Timern und zum Anlegen von zeitgesteuerten Erinnerungen. Damit es kleine Probleme mit dem Datenschutz gibt, sollen keine Namen oder sonstigen personenbeziehbaren Daten bei der Nutzung verwendet werden.
Datenschutzrechtliche Bewertung
Die Technik, soweit sie den Datenschutz betrifft
Die Funktionsweise digitaler Assistenten hat maßgeblich Auswirkungen auf ihre datenschutzrechtliche Bewertung. Deshalb wird zunächst die Funktionsweise digitaler Assistenten erklärt, um verständlich zu machen, wo sich Konflikte mit dem Recht auf informationelle Selbstbestimmung der Betroffenen und damit zusammenhängenden rechtlichen Vorgaben ergeben könnten.
Was sind digitale Assistenten?
Digitale Assistenten wie Alexa (Amazon), Google Assistant, Siri (Amazon), Bixby (Samsung), Cortana (Microsoft) und ähnlich sind zunächst einmal Programme, die über eine Sprachschnittstelle angesprochen werden können. Im Hintergrund, in der Cloud der Anbieter, arbeiten dabei lernfähige Algorithmen, die Zugriff auf Datenbanken und Ressourcen im Internet sowie Schnittstellen zu anderen Anbietern haben. Je nach Fähigkeiten des Assistenten können Antworten gegeben werden oder Aktionen ausgelöst werden, ob das das Abspielen von Musik ist oder die Steuerung eine Smart Home Gerätes.
Verkörperungen von digitalen Assistenten
Digitale Assistenten lassen sich einmal über Softwareprodukte ansprechen, integriert in Betriebssysteme oder als Apps für Endgeräte wie Computer, Smartphones und Tablets, und außerdem über sogenannte Smart Speaker. Dieses sind Geräte wie Amazon Echo, Google Mini oder Apple HomePod, mit dem Internet verbundene drahtlose Lautsprecher mit integrierter Schnittstelle zum digitalen Assistenten.
Die Zugangssoftware bzw. Apps und die Smart Speaker sind integraler Bestandteil der digitalen Assistenten und Hersteller sind bemüht, Funktionalitäten aus der Cloud in diese zu übertragen, soweit Rechen- und Speicherkapazität dieses zulassen. So will man eine Teilautonomie erreichen, mit der zumindest rudimentäre Funktionalitäten auch ohne oder mit eingeschränkter Internetverbindung verfügbar sind. Zur Vereinfachung wird daher im Folgenden nur noch vom digitalen Assistenten gesprochen.
Always on
Smart Speaker wie Amazon Echo, Google Home oder Apple HomePod “verfügen meist über leistungsfähige Hardware, die die Sprachbefehle mittels mehrerer Mikrofone aufzeichnen. Damit werden auch aus relativ großer Entfernung und bei höherem Hintergrundgeräuschpegel Audioaufnahmen erzeugt, die auf den verarbeitenden Servern wirkungsvoll verarbeitet werden können.” Die Funktion des digitalen Assistenten selbst wird erst durch ein Aktivierungskennwort ausgelöst. Dazu müssen die Mikrofone permanent aktiviert sein und auf dieses Kennwort warten, auf ihren “Namen”, ein Wort oder eine Wortkombination, durch welchen die digitalen Assistenten aktiviert werden. “Solange die Mikrofonfunktion aktiv ist, wird die Umgebung ständig auf dem Gerät abgehört und die letzten Sekunden werden auf dem Gerät aufgezeichnet.” Ein integrierter Prozessor gleicht fortwährend die eingegangenen Audiosignale mit einem abgespeicherten Kennwort ab. Sobald es dabei einen Treffer gibt, zeichnen digitale Assistenten alles auf, was in ihrem Umfeld an akustischen Signalen anfällt. Daraus wird dann versucht, Sprache herauszufiltern und in der Abfolge der erkannten Wörter einen “Sinn” zu erkennen, das meint eine Anfrage.
Always online
Smart Speaker, bestehen vor allem aus Mikrofonen und Lautsprechern. Ihre eigene Rechenleistung ist in den meisten Fällen begrenzt. Selbst wenn die Hersteller daran arbeiten, den Geräten mehr Unabhängigkeit von der Rechenleistung der Cloud zu geben, verbinden sie sich regelmäßig mit den Rechenzentren ihrer Anbieter. So werden aufgezeichnete Anfragen als Audiodatei in die Anbieter Cloud geschickt und dort verarbeitet, um eine passende Antwort zu liefern, ob diese eine Sprachantwort auf eine Frage ist, das Abspielen eines Songs oder Films, das Herstellen einer Rufverbindung zu einem anderen Smart Speaker oder Smartphone, das Anlegen einer Erinnerung, das Setzen eines Timers oder die Steuerung eines mit dem System gekoppelten Smart Home Gerätes. Die Audioaufzeichnungen werden in der Cloud im Nutzerverzeichnis aufbewahrt und teilweise sogar transkribiert.
Fehlauslösungen
Vom System her erfolgt eine Aufzeichnung und Übermittlung von Sprache nur, wenn zuvor der Trigger erkannt wurde. In der Praxis kommt es jedoch immer wieder vor, dass völlig andere Worte oder Phrasen durch undeutliche Aussprache oder Verzerrung durch andere Geräusche oder Entfernung als der Trigger identifiziert werden. Die Tonaufzeichnung setzt ein. Sie hört erst dann auf wenn das System glaubt, die Anfrage ist abgeschlossen, oder der Strom der Worte abbricht und das System versucht, aus dem Gehörten einen Sinn zu entnehmen. Im harmlosesten Fall erhält der Sprechende lediglich eine unpassende Antwort oder die Auskunft, dass der Assistent keine Antwort parat hat.
Falsch verstandene Sprache kann jedoch nicht nur unpassende Antworten zur Folge haben, sondern auch Kommandos auslösen. Dazu gehört bei Amazon Echo beispielsweise auch das Kommando, eine Sprachnachricht aufzunehmen und an ein anderes Amazon Echo zu senden. Genau dieses passierte einem Ehepaar in den USA, wo so ein Gespräch über einen längeren Zeitraum aufgezeichnet und an ein anderes Echo übertragen wurde, wo dann Personen das Gespräch mithörten, für die es nicht bestimmt war. Bekannt wurde auch ein Fall, wo es durch fehlerhafte Software im Smart Speaker zu einer permanenten Aufzeichnung sämtlicher Konversationen in “Hörweite” kam.
Sie hören auf jedermann
So wie digitale Assistenten in Form von Smart Speakern aktuell angelegt sind, reagieren sie auf jeden Sprecher. Bei Amazon Alexa ist es mit Training zwar möglich, verschiedene Sprecher unterscheiden zu lassen, doch eine Beschränkung auf einzelne Sprecher zum Auslösen von Interaktionen ist so noch nicht möglich. Eine Einschränkung bestimmter Aktionen durch Vergabe eines “Passwortes” entfällt im Klassenraum, da die Schüler dieses mithören würden, wenn im Unterricht ein dadurch geschütztes Kommando gegeben werden soll.
Datenschutzrechtliches zum Thema Tonaufzeichnung im Klassenraum
Personenbezogene Daten
Es geht bei der Nutzung von digitalen Assistenten um die Verarbeitung von personenbezogenen bzw. -beziehbaren Daten in Form von Tonaufzeichnungen. Dazu gehören von Personen gesprochene Kommandos und Inhalte wie auch sämtliche anderen lautlichen Äußerungen oder verursachten Geräusche.
Mangelnde Kontrolle
So wie die digitalen Assistenten funktionieren, besteht permanent die Möglichkeit, dass aufgezeichnet wird, was im Klassenraum gesprochen wird oder sonst an hörbarer Interaktion zwischen den Personen im Klassenraum stattfindet. Läuft eine Aufzeichnung, egal wie sie ausgelöst wurde, kann sich keine Person dieser Aufzeichnung und der damit verbundenen Übermittlung an den Betreiber des Dienstes entziehen. Je nach Situation werden die Betroffenen der Aufzeichnung nicht einmal gewahr werden.
Die Fehleranfälligkeit des Systems,und die Aufnahme von Hintergrundgeräuschen, die auch Sprache sein können, schränkt die Kontrollmöglichkeiten über die Tonaufzeichnungen stark ein. Es ist zwar möglich, etwa beim Google Assistant, Aufzeichnungen nachträglich automatisiert löschen zu lassen, doch die Tonaufzeichnungen werden, und das ist entscheidend, zunächst erst einmal aufgezeichnet, in der Cloud gespeichert und verarbeitet.
Die fehlende Möglichkeit, die Interaktion mit den digitalen Assistenten auf bestimmte Sprecher zu beschränken, eröffnet darüber hinaus auch weiteres Potential für datenschutzrechtliche Probleme. Wenn der Smart Speaker im Klassenraum unbeaufsichtigt ist, können die Schüler in der Klasse damit unkontrolliert interagieren und alle “erfolgreichen” Interaktionen werden aufgezeichnet und in der Cloud abgespeichert.
Vom SchulG zugelassene Verarbeitungszwecke von Tonaufzeichnungen des Unterrichts
Auch wenn zu geplanten Verarbeitungszwecken (Intercom, Erinnerung, Timer, …) keine Tonaufzeichnung des Unterrichts gehört, legen die technische Funktionsweise der digitalen Assistenten (Tonaufzeichnung des Hintergrundes des Sprechers) und das Fehlerpotential (unbeabsichtigte Tonaufzeichnungen des gesamten Umfeldes im Klassenraum) nahe, bei Nutzung eines digitalen Assistenten von einer Tonaufzeichnung des Unterrichts im Sinne von § 120 Abs. 3 Satz 2 SchulG NRW auszugehen. Dort ist vorgegeben, dass eine Tonaufzeichnung des Unterrichts nur zu Zwecken der Lehrerausbildung und der Qualitätsentwicklung und nur mit ministerieller Genehmigung zulässig ist.
“Für Zwecke der Lehrerbildung sowie der Qualitätsentwicklung und Qualitätssicherung dürfen vom Ministerium genehmigte Bild- und Tonaufzeichnungen des Unterrichts erfolgen, wenn die Betroffenen rechtzeitig über die beabsichtigte Aufzeichnung und den Aufzeichnungszweck informiert worden sind und nicht widersprochen haben. Die Schülerinnen und Schüler sowie die Eltern sind über die wesentlichen Ergebnisse zu informieren.”
Die mit der Nutzung eines digitalen Assistenten verbundenen Tonaufzeichnungen des Unterrichts sind von ihrem Verarbeitungszweck weder der Lehrerausbildung noch der Qualitätsentwicklung zuzuordnen. Ohne diesen Verarbeitungszweck würde auch von Seiten des Ministeriums keine Genehmigung erteilt werden.
Problem – das Recht auf informationelle Selbstbestimmung
Hinzu kommt, dass Schülerinnen und Schüler sich den Aufnahmen nicht entziehen können, da sie zur Teilnahme am Unterricht verpflichtet sind.
“Ton- und Bildaufzeichnungen tangieren die Persönlichkeitsrechte der betroffenen Personen in besonderer Weise. Dies gilt erst recht, wenn die Aufzeichnung im Unterricht erfolgt, weil die Teilnahme am Unterricht sowohl für die Lehrkraft als auch für die Schülerinnen und Schüler im Regelfall verpflichtend ist. Deshalb ist es besonders wichtig, die Voraussetzungen und Grenzen des § 120 Abs. 3 Satz 2 SchulG wie auch des § 121 Abs. 1 Satz 2 SchulG in der Schulpraxis sorgfältig zu beachten.”
Ausnahmen
Der einzige Weg, dem Recht auf informationelle Selbstbestimmung der Betroffenen Rechnung zu tragen, wäre eine informierte und freiwillige Einwilligung der Betroffenen. Ob es jedoch zu vertreten wäre, eine solche Einwilligung für potentiell permanente Tonaufzeichnungen des Unterrichts einzuholen, ist fraglich. Der Kommentar zum SchuG NRW geht entsprechend auch von “besonderen Einzelfällen” aus. Dazu dürfte der Einsatz eines digitalen Assistenten mit der andauernd möglichen Tonaufzeichnung des Unterrichts nicht zählen.
“Soll in besonderen Einzelfällen eine Aufzeichnung des Unterrichtsgeschehens zu anderen Zwecken erfolgen – etwa weil Bewerbungsgespräche im Unterricht simuliert, trainiert und reflektiert werden sollen – kann sie bereits aus diesem Grund nicht auf Satz 2 gestützt werden und ist folglich nur mit Einwilligung aller betroffenen Personen zulässig. Dabei ist grundsätzlich den unter Erl. 2.2 zu § 120 SchulG genannten Anforderungen Rechnung zu tragen. Besonders sorgfältig muss sichergestellt wer- den, dass sich die betroffenen Schülerinnen und Schüler – sofern sie bereits selbst einwilligungsfähig sind (vgl. unter Erl. 2.3 zu § 120 SchulG) – nach entsprechender Information auch tatsächlich frei von Druck und Zwang für oder gegen die Aufzeichnung entscheiden können. Dasselbe gilt für ihre Eltern, falls diese über die Einwilligungserklärung zu entscheiden haben. Eine solche Aufzeichnung darf im Übrigen nur streng zweckgebunden verwendet werden und ist unverzüglich zu löschen, wenn eine weitere Speicherung zu diesem Zweck nicht mehr erforderlich ist.”
Auftragsverarbeitung
Die geplante Verarbeitung von personenbezogenen Daten betrifft Lehrkräfte, Schülerinnen und Schüler und findet durch die Funktionsweise der digitalen Assistenten nicht nur innerhalb der Schule statt, da sie nicht auf eine Verarbeitung auf den Geräten selbst oder einen schulischen Server beschränkt ist. Die Tonaufzeichnungen werden zum Dienstanbieter, in diesem Fall Amazon, Google oder Apple übertragen und auf deren Servern verarbeitet. Dadurch ist nach Art. 28 Abs. 3 DS-GVO ein Vertrag zur Auftragsverarbeitung oder vergleichbares Rechtsinstrument nach Unionsrecht oder Bundesrecht erforderlich.
Einen solchen Vertrag mit einem der Anbieter abzuschließen, dürfte in diesem Verwendungszusammenhang nicht einmal möglich sein; da auch die Anbieter einen Verwendungszweck, wie von der Schule beabsichtigt, nicht vorsehen.
Cloud
Wie beschrieben, werde sämtliche Tonaufzeichnungen in der Cloud der Anbieter gespeichert. Diese sind bezüglich der Serverstandorte nicht auf Deutschland oder die Europäisch Union beschränkt. Da es sich bei den drei genannten Anbietern und US amerikanische Anbieter handelt, stehen die Server überall auf der Welt, darunter auch in den USA. Bezüglich eines Vertrags zur Auftragsverarbeitung oder vergleichbaren Rechtsinstrumentes kämen hier noch einmal neue Anforderungen hinzu, da entsprechende Garantien vorliegen müssten.
Schlussfolgerung – Ergebnis
Auch wenn digitale Assistenten sehr praktisch sind und im Alltag einer Schule durch ihre Funktionen Lehrkräften Erleichterungen in der Kommunikation von Klassenraum zu Klassenraum geben und das einfache Anlegen von Terminen, Erinnerungen und Timern ermöglichen könnten, so führt ihre Funktionsweise und das damit verbundene Fehlerpotential zu Konflikten mit dem Recht der Betroffenen auf informationelle Selbstbestimmung und den Vorgaben der Schul- und Datenschutzgesetzgebung. Das Risiko, dass personenbezogene Daten durch unbeabsichtigte Tonaufnahmen erhoben und in der Cloud an unbestimmtem Ort verarbeitet werden, besteht permanent und kann bei einer offenen Aufstellung im Klassenraum auch nicht durch technische und organisatorische Maßnahmen so eingeschränkt werden, dass eine Nutzung vertretbar erscheint. Auch wenn alle Betroffenen einwilligen, kann eine Freiwilligkeit dabei nicht vorausgesetzt werden, da für Schüler die Teilnahme am Unterricht verpflichtend ist.
Aus diesen Gründen kann eine Nutzung von digitalen Assistenten über Smart Speaker im Klassenraum, so wie von der Schule geplant, nicht empfohlen werden.
Weiteres
Digitale Assistenten im Unterricht
In den USA sieht man den Einsatz digitaler Assistenten längst nicht so kritisch. Dort nutzt man die Assistenten auch im Unterricht.
Ob eine Nutzung, so wie in den verschiedenen Projekten beschrieben, in einer Schule in Deutschland rechtlich vertretbar wäre, müsste man im Einzelfall prüfen. Aus Sicht des Datenschutz wäre die Sachlage aber auch hier ähnlich. Personenbezogene Daten in Form von Tonaufzeichnungen landen auf den Servern von nicht EU Anbietern und da dieses nicht durch irgendein gültiges Rechtsinstrument abgesichert werden kann, entstehen schon die ersten rechtlichen Probleme. Das wäre auch der Fall, wenn man statt der Smart Speaker einen digitalen Assistenten über ein Tablet im Unterricht nutzen würde, etwa Siri über ein iPad.
Videoüberwachung
Auch wenn es bei den digitalen Assistenten (mit Ausnahmen wie Amazon Echo Spot und ähnlich) nur um Tonaufzeichnung geht, so legen obige Überlegungen doch eine rechtliche Verwandtschaft der Nutzung von Smart Speakern im Klassenraum zum Thema Videoüberwachung in der Schule nahe.
Der Beitrag zum Download: Digitale Assistenten im Klassenzimmer.pdf
