«Sind unsere Daten sicher?» ist die erste Frage in fast jedem KI-Projekt, und oft die am wenigsten genau beantwortete. Die ehrliche Antwort hängt davon ab, wohin die Daten tatsächlich fliessen, und ein KI-System hat unterwegs mehr Stationen, als die meisten erwarten.
Die sechs Orte, an denen Ihre Daten landen können
Nehmen wir einen typischen Wissensassistenten, der Fragen von Mitarbeitenden aus internen Dokumenten beantwortet. Die Daten passieren:
- Die Quellsysteme: SharePoint, das DMS, das ERP. Diese haben bereits Verantwortliche und Zugriffsregeln.
- Die Ingestion-Pipeline, die Dokumente ausliest und in Abschnitte zerlegt.
- Das Embedding-Modell, das jeden Abschnitt für die Suche in einen Vektor umwandelt. Ist es eine Cloud-API, läuft jedes Dokument hindurch.
- Die Vektordatenbank, die diese Abschnitte und Vektoren speichert, oft als Kopie sensibler Inhalte.
- Das Sprachmodell, das bei jeder einzelnen Anfrage die Frage samt gefundenen Abschnitten erhält.
- Logs und Traces, die Prompts und Antworten für Fehlersuche und Qualitätskontrolle festhalten, und der Ort, an dem sich sensible Daten am häufigsten unbemerkt ansammeln.
Jede dieser Stationen ist ein Bearbeitungsort im Sinne des Datenschutzgesetzes (DSG) und der DSGVO. Für jede braucht es eine Antwort auf drei Fragen: Wo steht sie, wer betreibt sie, und wie lange werden Daten aufbewahrt?
Zuerst die Verträge
Sobald ein externer Anbieter in Ihrem Auftrag Personendaten bearbeitet, braucht es einen Auftragsverarbeitungsvertrag nach Art. 9 DSG und Art. 28 DSGVO. In der Praxis heisst das:
- Ein AVV mit Ihrem Umsetzungspartner, der regelt, was dieser während des Projekts sehen und tun darf.
- Eine Liste der Unterauftragsverarbeiter: Cloud-Anbieter, Modellanbieter, Monitoring-Tool. Diese Liste sollten Sie genehmigen, ebenso jede Änderung daran.
- Für jeden Anbieter ausserhalb der Schweiz und der EU eine Prüfung der Rechtsgrundlage für die Übermittlung, etwa ein Angemessenheitsbeschluss oder Standardvertragsklauseln.
Ein NDA schützt Geschäftsgeheimnisse; einen AVV für Personendaten ersetzt es nicht. Meist braucht es beides.
Designentscheide, die Daten unter Kontrolle halten
Verträge setzen die Regeln; die Architektur entscheidet, wie viel auf dem Spiel steht. Die wichtigsten Entscheide:
Die Region bewusst wählen. Grosse Cloud-Anbieter betreiben Rechenzentren in der Schweiz, und mehrere bieten Sprachmodelle in Schweizer oder EU-Regionen an. Wo ein leistungsfähiges Modell in der benötigten Region nicht verfügbar ist, können Open-Weight-Modelle auf Ihrer eigenen Infrastruktur oder in einer Schweizer Cloud laufen.
Abschalten, was nicht gebraucht wird. Viele Modell-APIs bieten Optionen für Zero Data Retention und schliessen Daten von Geschäftskunden standardmässig vom Training aus. Lassen Sie sich beides schriftlich bestätigen und konfigurieren Sie es ausdrücklich, statt sich auf Voreinstellungen zu verlassen, die sich ändern können.
Reduzieren, bevor gesendet wird. Nicht jedes Feld muss das Modell erreichen. Namen, Kontonummern und Adressen lassen sich oft vor der Anfrage durch Platzhalter ersetzen und danach wieder einsetzen. Das Modell erledigt seine Aufgabe trotzdem; der Anbieter sieht die Identifikatoren nie.
Bestehende Berechtigungen respektieren. Ein Wissensassistent darf kein Weg um Zugriffsregeln herum werden. Jede Antwort darf nur aus Dokumenten entstehen, die die fragende Person sehen darf, durchgesetzt bei der Suche, nicht durch die Bitte an das Modell, diskret zu sein.
Logs als sensible Daten behandeln. Personendaten in Traces maskieren, eine Aufbewahrungsfrist festlegen und den Lesezugriff beschränken. Debug-Logs, die ewig aufbewahrt werden, sind ein häufiger Befund in Audits.
Den Ausstieg planen. Bei Projektende werden die Daten zurückgegeben oder gelöscht, einschliesslich Kopien in Vektordatenbanken, Backups und Testumgebungen, und die Löschung wird schriftlich bestätigt.
Eine Datenlandkarte auf einer Seite
Bevor echte Daten fliessen, erstellen wir eine einseitige Übersicht des Systems: jede Komponente, ihr Standort, ihr Betreiber, welche Daten sie sieht und wie lange sie diese aufbewahrt. Es ist das Dokument, nach dem Ihr Datenschutzberater fragen wird, es vereinfacht das Bearbeitungsverzeichnis, und es macht aus «Sind unsere Daten sicher?» eine Frage mit einer konkreten, überprüfbaren Antwort.