DSGVO bei AI — was das in der Praxis wirklich bedeutet

„DSGVO macht AI in Europa unmöglich" — dieser Satz begegnet einem in fast jeder Diskussion, und er ist meistens falsch. Was wahr ist: DSGVO macht schlampige AI unmöglich. Das ist gut. Hier sind die fünf Fragen, die wir jedes Mal beantworten, bevor wir auch nur einen API-Key beantragen.

1. Welche Daten gehen überhaupt durch das Modell?

Vor allem anderen: klassifizieren Sie Ihre Daten. Es macht einen riesigen Unterschied, ob die LLM ein Patient-Symptom („mein Rücken schmerzt seit gestern") oder ein anonymisiertes Aggregat („14% der Anfragen sind Rezept-Nachbestellung") sieht.

Pro Use-Case gehen wir die Felder einzeln durch und labeln sie:

• Personenbezogen identifizierend — Name, Mail, IP, Geräte-ID. Kommt nur in die LLM, wenn es absolut nötig ist.
• Personenbezogen sensitiv — Gesundheit, Glauben, Sexualität, politische Meinung. Art 9 DSGVO. Geht in 95% der Use-Cases nicht in eine externe LLM.
• Pseudonymisiert — Token statt Email, ID statt Name. Wenn das Mapping bei Ihnen bleibt, ist es kein voller Personenbezug mehr.
• Anonym — keine Rückführung möglich, auch nicht über Umwege. Frei verwendbar.

Faustregel: Nichts mehr durch die LLM schicken, als der Use-Case zwingend braucht. Für die meisten Anwendungsfälle reichen pseudonymisierte Daten aus.

2. Wo läuft das Modell physisch?

OpenAI rohe US-API: Daten gehen nach USA, Standardvertragsklauseln greifen, aber die Optik im DACH-Mittelstand ist schwierig. Auch Microsoft-Azure-OpenAI war lang in dieser Grauzone.

Seit Vercel AI Gateway mit Zero Data Retention verfügbar ist (August 2025), ist unser Standard-Setup für den DACH-Raum, LLM-Calls ausschließlich über die EU-Region zu routen. Konkret:

• Hosting in Frankfurt (Vercel Fluid Compute). Welche Zertifizierungen der Anbieter führt, prüfen Sie im Zweifel selbst — wir geben sie nicht als unsere aus.
• Routing über Vercel AI Gateway → konfigurierbar pro Provider, ZDR aktiviert.
• Keine Modell-Trainings-Nutzung Ihrer Daten — vertraglich zugesichert beim Gateway-Setup.
• Logs bei uns in Vercel, nicht beim Modell-Provider.

3. Wer ist der Verantwortliche, wer der Auftragsverarbeiter?

Im DSGVO-Vokabular: Controller (Sie als Auftraggeber) → Processor (NeXsoft, der das System betreibt) → Sub-Processor (Vercel, OpenAI, etc).

Das heißt zwei AV-Verträge sind nötig:

1. Zwischen Ihnen und uns (NeXsoft als Processor) — wir liefern den Standard-AVV bei Projekt-Kick-off.
2. Zwischen uns und allen Sub-Processoren (Vercel, OpenAI via Gateway). Diese Ebene liegt auf unserer Seite — die Auftragsverarbeitungs-Bedingungen der Anbieter gelten über unseren Account, Sie müssen sie nicht selbst verhandeln.

Die Liste der Sub-Processoren steht im AVV. Wenn wir einen neuen reinholen, informieren wir Sie vorab und Sie können widersprechen.

4. Wie lange werden Daten gespeichert?

Das ist die Frage, bei der Projekte am häufigsten gegen die Wand fahren — weil sie nie geklärt wird.

• LLM-Prompts & Responses: bei Zero Data Retention nicht beim Provider gespeichert. Wie lange sie auf Ihrer Seite vorgehalten werden, legen Sie im Projekt fest — die Aufbewahrungsfrist gehört in die Spezifikation, nicht in eine pauschale Zusage.
• Trainings-Daten für eigene Fine-Tunes: nur wenn der Use-Case es zwingend braucht. Pseudonymisiert. Mit Lösch-Pipeline pro User auf Anfrage.
• Embeddings (Vektor-DB für RAG): Texte selbst nicht, nur Vektoren. Trotzdem im AVV erwähnen.
• Backups: Aufbewahrungsdauer und Wiederherstellungsfenster werden projektbezogen vereinbart. Was danach nicht mehr wiederherstellbar ist, steht vorher schriftlich fest.

5. Was passiert, wenn das Modell falsch entscheidet?

Wenn ein Mensch von einer automatisierten Entscheidung „erheblich beeinträchtigt" wird, hat er nach Art 22 DSGVO ein Recht auf menschliche Überprüfung. Bei AI-Triage in einer Praxis bedeutet das konkret:

• Jede „Eskalations"-Entscheidung der AI ist gleichzeitig sichtbar auf einem MFA-Tablet. Niemand verlässt sich darauf, dass die AI eine Notfall-Empfehlung wirklich zu Konsequenzen führt.
• Patient:innen können widersprechen. „Ich will einen Termin, auch wenn die AI sagt: chronisch, kein Akut-Slot nötig" — durchgewinkt, Menschen entscheiden.
• Audit-Trail: jede AI-Entscheidung mit Input, Output, Timestamp, Modell-Version. Damit Sie in zwei Jahren auf eine Anfrage „warum hat die AI das damals so entschieden?" antworten können.

Was Sie jetzt tun können

Wenn Sie AI in einem deutschen Unternehmen einsetzen — egal wie früh — gehen Sie diese fünf Fragen mit Ihrem Datenschutzbeauftragten durch:

1. Welche Daten brauchen wir wirklich? (Minimalprinzip)
2. Wo wird gerechnet? (EU oder mit SCC + ZDR)
3. Wer ist Verantwortlicher, wer Auftragsverarbeiter? (AVVs)
4. Wie lange werden Daten gespeichert? (Auftragsverarbeitung + Logs)
5. Was passiert bei falschen Outputs? (Art 22 / menschliche Eskalation)

Wenn Sie auf alle fünf eine schriftliche Antwort haben, sind Sie näher an „DSGVO-konformer AI" als 95% des Markts. Und ja — dann können Sie auch starten.

DSGVO ist bei AI nicht der Endgegner. Schlampige Architektur ist der Endgegner. DSGVO zwingt nur dazu, sauber zu sein.