Ja. Mündliche Übungen in Brian sind mit der DSGVO, dem Schweizer DSG und der KI-Verordnung der EU vereinbar. Brians KI wertet aus, was Lernende sagen – nicht, wer spricht oder wie sie sich dabei fühlen.
So funktioniert eine mündliche Übung
Die Lehrperson legt im KI-Dialog eine Rolle fest, etwa eine Kundin im Verkaufsgespräch. Lernende sprechen ins Mikrofon, die KI versteht den Inhalt und antwortet in Echtzeit mit einer KI-Stimme. Die Sprachverarbeitung läuft über Googles Gemini-Infrastruktur (Vertex AI) in Rechenzentren in der EU. Google verwendet die Daten nicht zum Training seiner Modelle.
Die Stimme ist hier kein biometrisches Merkmal
Eine Sprachaufnahme ist ein personenbezogenes Datum, aber kein besonders geschütztes. Biometrisch wird die Stimme erst, wenn sie zur eindeutigen Identifizierung einer Person ausgewertet wird (Art. 4 Nr. 14 und Art. 9 DSGVO, Art. 5 lit. c Ziff. 4 DSG). Brian identifiziert Lernende nicht über die Stimme – die Anmeldung läuft wie bisher über das Brian-Konto.
KI-Verordnung der EU
- Keine Emotionserkennung: Die KI-Verordnung verbietet in Bildungsinstitutionen KI-Systeme, die aus der Stimme auf Emotionen schliessen (Art. 5 Abs. 1 lit. f). Brians KI erkennt keine Emotionen, Stimmungen oder Einstellungen. Sie verarbeitet den Inhalt des Gesprochenen und antwortet darauf.
- Transparenz: Wer mit einer KI spricht, muss das wissen (Art. 50). Jede mündliche Übung ist klar als KI-Dialog gekennzeichnet, und das Gegenüber spricht mit einer KI-Stimme.
- Die Lehrperson steuert den Lernprozess: Anhang III nennt KI-Systeme, die Lernergebnisse bewerten – auch wenn damit der Lernprozess gesteuert wird –, als Hochrisiko-Systeme. In Brian steuert die Lehrperson den Lernprozess, nicht die KI. Formatives Feedback und Punkte sind Übungsimpulse und fliessen nicht in Noten ein. Welche Inhalte folgen und wie Leistungen beurteilt werden, entscheidet die Lehrperson.
DSGVO und DSG
- Rechtsgrundlage: Die Bildungsinstitution ist Verantwortliche. Sie stützt die Nutzung auf ihren Bildungsauftrag oder auf eine Einwilligung.
- Entscheidung der Bildungsinstitution: Mündliche Übungen sind eine eigene Funktion, die jede Bildungsinstitution einzeln ausschalten kann.
- Auftragsverarbeitung: Brian verarbeitet die Daten im Auftrag der Bildungsinstitution. Google ist dabei Unterauftragsverarbeiter von Brian.
- Datenstandort: Die Verarbeitung findet in EU-Rechenzentren statt. Für Bildungsinstitutionen in der Schweiz gilt die EU als Staatengebiet mit angemessenem Datenschutz.
- Datenschutz-Folgenabschätzung: Für den Einsatz mit Minderjährigen empfehlen wir der Bildungsinstitution eine Datenschutz-Folgenabschätzung. Brian stellt die nötigen Angaben dafür bereit.