Nein, ich werde nicht den äußerst umfangreichen Blog-Post der Microsoft vom 16. Juni (Link) rezitieren oder zusammenfassen – das kann jede KI besser. Viel spannender ist es, an einem Kundenbeispiel zu schauen, was z.B. konkret mit Daten im Zusammenhang mit OpenAI und weiteren KI-Diensten geschieht und wo das Announcement eine Rolle spielt.
Der Kunde hatte die Herausforderung, Informationen aus digitalisierten Dokumenten mit personenbezogenen Daten zu extrahieren und zu verarbeiten – und dabei gleichzeitig strenge regulatorische Anforderungen zu erfüllen. Insbesondere durften die Daten das Land nicht verlassen, mussten mit kundeneigenen Schlüsseln („Bring Your Own Key“) verschlüsselt werden, und es musste sichergestellt sein, dass die verwendeten KI-Modelle nicht mit den Kundendaten trainiert werden. Zudem durfte auch Microsoft selbst keinen Zugriff auf die Daten haben.
Daraus ergab sich die Aufgabe, eine KI-gestützte Lösung zur automatisierten Dokumentenverarbeitung in das bestehende Dokumentenmanagementsystem zu integrieren – bei gleichzeitiger Einhaltung höchster Datenschutz- und Sicherheitsstandards.
Die Lösung bestand in der Integration von Azure Document Intelligence und Azure OpenAI in das bestehende DMS. Dabei wurden die Daten durchgängig verschlüsselt verarbeitet, die kundenseitige Schlüsselverwaltung (BYOK) umgesetzt und sämtliche Log- sowie Abuse-Monitoring-Daten gezielt unterdrückt, um eine vollständige Datensouveränität sicherzustellen.
Erkenntnisse während des PoCs:
- KI ist nicht gleich KI. Document Intelligence schlägt im direkten Vergleich die eigene KI des verwendeten Dokumenten-Managementsystems bei weitem => also PoC fortsetzen.
Datenspeicherung: Man kann nicht nur die EU als Data Region angeben, sondern direkt regionale RZs in bestimmten Ländern.
- Eine einfache Verschlüsselung ist kein Problem, Bring your own Key braucht etwas mehr Konfigurationsaufwand. Damit können die Daten nicht zum Trainieren der Datenmodelle verwendet werden und stehen damit auch nicht indirekt anderen Kunden zur Verfügung.
- Das Key-Management lässt sich in einem separaten Tenant mit Kunden-eigenen Keys unterbringen.
- Datenschutz-Lücke Abuse Monitoring: Auch wenn die Kundendaten nicht von Microsoft dechiffriert werden können, so hält das Abuse Monitoring doch die Prompts mit Ihren generierten Ergebnissen für 30 Tage separat und nicht einsehbar in der gewählten Region fest. Schlägt das Abuse-Monitoring Alarm, werden diese Ergebnisse potenziell einem Microsoft-Mitarbeiter (immerhin in derEU) zur Prüfung vorgelegt. An dieser Stelle wäre der schöne PoC normalerweise aus Datenschutzgründen zu Ende, aber es gibt eine Lösung: Microsoft gestattet es Kunden, das Abuse Monitoring und die damit verbundene Speicherung der Prompts abzuschalten (wie: gerne direkt bei mir nachfragen)
Was konkret ändert sich durch das Microsoft-Announcement vom 16. Juni?
- Das Key Management in einem Key Vault im eigenen Tenant ist schon gut, noch besser wäre aber ein eigenes HSM. Zukünftig können dafür Module externer Hersteller eingebunden werden, mit drei Anbietern werden derzeit Gespräche geführt.
- Die bisherige EU Data Boundary konnte bereits sicherstellen, dass Daten die EU nicht verlassen, mit Data Guardian als Teil der Souvereign Public Cloud wird außerdem sichergestellt, dass im Support-Fall nur lokale EU-Mitarbeiter der Microsoft auf die Systeme Zugriff haben.
Fazit: Der Datenschutz in OpenAI und weiteren Microsoft KI-Diensten ist möglich, aber nicht immer out the Box. Mit dem nötigen Wissen lassen sich aber potenzielle Show-Stopper revisionssicher ausräumen.
Sie haben ein KI-Projekt und sind nicht sicher, ob es bei Ihnen Datenschutz- und Compliance-Konform umgesetzt werden kann? Sprechen Sie mich gerne unverbindlich an!
Sie möchten stets über die aktuellen Trends in der IT Welt informiert werden und kein BTC Event oder Webinar mehr verpassen? Dann melden Sie sich gerne zu unserem Newsletter an.