DSGVO-konforme KI-Software richtig umsetzen

Ein KI-Chatbot, der interne Dokumente durchsucht, ein Assistent für den Kundenservice oder eine Automatisierung für Rechnungen: Der Nutzen ist oft schnell erkennbar. Sobald dabei personenbezogene Daten verarbeitet werden, reicht ein gutes Sprachmodell jedoch nicht aus. DSGVO-konforme KI-Software entsteht nicht durch einen Haken in den Einstellungen eines Tools, sondern durch ein System, das Daten, Prozesse, Rollen und Technik von Anfang an sauber zusammenführt.

Für Geschäftsführung, IT und Fachbereiche ist das entscheidend: Eine KI-Lösung muss nicht nur beeindruckende Antworten liefern. Sie muss kontrollierbar sein, in bestehende Abläufe passen und auch dann belastbar funktionieren, wenn Nutzerzahlen, Datenmengen und regulatorische Anforderungen wachsen.

Was DSGVO-konforme KI-Software tatsächlich bedeutet

Der Begriff wird häufig zu einfach verwendet. DSGVO-Konformität ist keine Produkteigenschaft, die ein Anbieter pauschal zusichern kann. Ob eine KI-Anwendung datenschutzkonform eingesetzt wird, hängt immer vom konkreten Verarbeitungsvorgang ab: Welche Daten werden eingegeben? Zu welchem Zweck? Wer erhält Zugriff? Wo werden Daten verarbeitet und wie lange gespeichert?

Eine KI-Software kann technisch sehr gut abgesichert sein und dennoch problematisch werden, wenn Mitarbeitende sensible Kundeninformationen in einen nicht freigegebenen Dienst kopieren. Umgekehrt kann ein leistungsfähiges Modell in einer datenschutzgerechten Architektur produktiv genutzt werden, wenn Datenflüsse klar begrenzt, rechtlich eingeordnet und organisatorisch abgesichert sind.

Im Kern geht es um fünf Fragen: Gibt es eine tragfähige Rechtsgrundlage? Werden nur erforderliche Daten verarbeitet? Ist der Zweck klar definiert? Sind Zugriffe und Aufbewahrungsfristen kontrolliert? Und können Verantwortliche nachvollziehen, was das System mit Daten getan hat? Bei Anwendungen mit hohem Risiko kommen Anforderungen aus dem EU AI Act hinzu, etwa an Dokumentation, menschliche Aufsicht und Risikomanagement. DSGVO und AI Act sind dabei keine austauschbaren Regelwerke, sondern greifen an unterschiedlichen Stellen.

Die Architektur entscheidet über Datenschutz und Nutzbarkeit

Viele Unternehmen starten mit einzelnen KI-Lizenzen. Das kann für erste Erfahrungen sinnvoll sein, ist aber selten eine tragfähige Grundlage für zentrale Geschäftsprozesse. Besonders kritisch wird es, wenn KI auf CRM-Daten, SAP-Prozesse, Vertragsdokumente, Tickets oder Personalinformationen zugreifen soll. Dann braucht es eine Architektur, die den Datenzugriff gezielt steuert, statt Wissen unkontrolliert in Prompts zu verlagern.

Ein bewährter Ansatz ist, das Sprachmodell nicht direkt mit allen Quellsystemen zu verbinden. Dazwischen liegt eine Anwendungsschicht, die Berechtigungen prüft, Anfragen protokolliert, Daten minimiert und die Ausgabe in den jeweiligen Prozess einordnet. Ein Vertriebsmitarbeiter darf dann beispielsweise nur Informationen sehen, für die er auch im CRM berechtigt ist. Ein Serviceteam erhält Antworten aus freigegebenen Wissensdatenbanken, nicht aus dem gesamten Dateisystem.

Bei dokumentenbasierten Assistenten wird häufig Retrieval-Augmented Generation eingesetzt. Die KI erhält dabei nicht pauschal alle Unternehmensdaten zum Training. Sie sucht für eine konkrete Anfrage in ausgewählten, indexierten Quellen und verarbeitet nur relevante Textausschnitte als Kontext. Das reduziert Datenumfang und Halluzinationsrisiko, ersetzt aber keine Berechtigungslogik. Der Suchindex, die Quelldokumente und die Protokolle müssen ebenso geschützt werden wie das Modell selbst.

Auch die Wahl des Betriebsmodells ist eine Architekturentscheidung. Eine europäische Cloud-Region, ein Vertrag zur Auftragsverarbeitung und deaktivierte Trainingsnutzung können passende Bausteine sein. Sie sind jedoch nicht automatisch die beste Lösung für jede Anwendung. Für besonders sensible Daten oder streng regulierte Bereiche kann ein isolierter Betrieb in einer privaten Cloud oder im eigenen Rechenzentrum sinnvoll sein. Das erhöht Steuerbarkeit, Betriebspflichten und meist auch Kosten. Für einen allgemeinen Textassistenten ohne vertrauliche Eingaben wäre dieser Aufwand dagegen oft nicht wirtschaftlich.

Datenminimierung beginnt vor dem Prompt

Die wirksamste Datenschutzmaßnahme ist häufig banal: Die KI erhält nur Daten, die sie für die Aufgabe wirklich benötigt. Für eine Zusammenfassung eines Servicefalls braucht sie möglicherweise Produkt, Fehlerbild und bisherigen Verlauf, aber keine vollständige Kundenakte. Für eine automatische Klassifizierung können pseudonymisierte Inhalte genügen.

Wo möglich, sollten direkte Identifikatoren entfernt oder durch technische Kennungen ersetzt werden. Dabei ist Präzision wichtig: Pseudonymisierte Daten bleiben personenbezogene Daten, wenn eine Re-Identifizierung mit vertretbarem Aufwand möglich ist. Anonymisierung ist deutlich anspruchsvoller und für viele operative KI-Fälle nicht erforderlich. Entscheidend ist eine nachvollziehbare Entscheidung pro Anwendungsfall, nicht ein pauschales Etikett.

Von der Idee zum produktiven System

Ein guter KI-Use-Case beginnt nicht mit der Modellauswahl, sondern mit einer klaren Prozessfrage. Wo entstehen manuelle Suchzeiten, Medienbrüche, wiederkehrende Prüfungen oder unklare Übergaben? Welche Entscheidung darf vorbereitet werden und welche muss bei einem Menschen bleiben? Diese Abgrenzung schützt nicht nur vor Fehlentscheidungen, sondern schafft auch Akzeptanz im Fachbereich.

Für die Umsetzung hat sich ein schrittweises Vorgehen bewährt. Zunächst wird der Verarbeitungszweck beschrieben und der Datenfluss aufgenommen - von der Eingabe über Schnittstellen und Modellaufrufe bis zu Speicherung, Monitoring und Löschung. Anschließend werden Rollen, Rechtsgrundlagen und technische Schutzmaßnahmen festgelegt. Bei voraussichtlich hohem Risiko für Betroffene ist früh zu prüfen, ob eine Datenschutz-Folgenabschätzung erforderlich ist. Das sollte vor dem Rollout geschehen, nicht erst nach einer Beschwerde.

Danach folgt ein abgegrenzter Pilot mit echten, aber kontrollierten Daten und klaren Erfolgskriterien. Relevant sind nicht allein Antwortqualität und Bearbeitungszeit. Ebenso wichtig sind Fehlerraten, Berechtigungsverstöße, unerwünschte Datenweitergaben, Kosten pro Vorgang und die Frage, ob Mitarbeitende die Ergebnisse korrekt einordnen können. Erst wenn diese Faktoren belastbar sind, lohnt sich die Anbindung weiterer Systeme und Teams.

Für produktive Anwendungen braucht es außerdem einen Betrieb, der Veränderungen mitdenkt. Modelle, Schnittstellen und rechtliche Bewertungen entwickeln sich weiter. Prompt-Vorlagen, Berechtigungen, Datenquellen und Sicherheitsregeln müssen versioniert und überprüfbar sein. Eine KI-Lösung ohne definierten Verantwortlichen wird schnell zu einem Schattenprozess - auch wenn sie technisch anfangs gut funktioniert.

Anforderungen an Anbieter und Entwicklungspartner

Wer KI-Software einkauft oder individuell entwickeln lässt, sollte nicht nur nach Modellqualität fragen. Entscheidend ist, ob der Anbieter die Datenverarbeitung transparent beschreiben kann und ob die Lösung in die eigene Sicherheits- und Prozesslandschaft passt.

Diese Punkte sollten vor einer Entscheidung geklärt sein:

• Welche Daten werden verarbeitet, gespeichert und gegebenenfalls an Unterauftragnehmer weitergegeben?
• In welchen Regionen findet die Verarbeitung statt, und welche vertraglichen Regelungen gelten?
• Werden Eingaben oder Ausgaben zum Training verwendet, und lässt sich das verbindlich ausschließen?
• Wie werden Rollen, Berechtigungen, Protokollierung, Löschfristen und Sicherheitsvorfälle technisch umgesetzt?
• Wie lassen sich Modellwechsel, neue Datenquellen und rechtliche Änderungen kontrolliert in den Betrieb übernehmen?

Bei Standardsoftware sind diese Fragen oft nur innerhalb der vorgegebenen Produktgrenzen beantwortbar. Individuelle KI-Software bietet mehr Spielraum, weil Datenzugriffe, Benutzeroberflächen und Prozessregeln gezielt auf das Unternehmen zugeschnitten werden können. Sie verlangt dafür eine saubere Konzeption und einen Partner, der nicht nur ein Modell integriert, sondern Architektur, Cloud-Betrieb, Schnittstellen und Weiterentwicklung verantwortet.

Typische Fehler, die Projekte ausbremsen

Der erste Fehler ist die Annahme, eine Cloud-Region in Deutschland löse alle Datenschutzfragen. Der Standort ist relevant, beantwortet aber weder die Frage nach Zweckbindung noch nach Berechtigungen, Aufbewahrung oder menschlicher Kontrolle.

Der zweite Fehler ist ein unkontrollierter Proof of Concept. Testzugänge werden mit realen Daten befüllt, Ergebnisse werden per E-Mail geteilt und nach dem Pilot bleibt unklar, wer die Umgebung abschaltet oder weiter betreibt. Ein Pilot braucht deshalb dieselben Grundregeln wie ein späteres Produkt, nur mit engerem Umfang.

Der dritte Fehler liegt in der Überschätzung autonomer Entscheidungen. KI kann Vorgänge priorisieren, Entwürfe erstellen und Informationen verdichten. Wenn Entscheidungen erhebliche Folgen für Personen haben, etwa bei Bewerbungen, Krediten oder Leistungsbewertungen, sind die rechtlichen und organisatorischen Anforderungen wesentlich höher. Menschliche Prüfung darf dann keine bloße Formalität sein.

Schließlich scheitern Projekte oft an fehlender Integration. Ein Chatfenster ohne Zugriff auf freigegebene Daten und ohne Verbindung zu Ticketing, CRM oder ERP erzeugt zusätzliche Arbeit statt Entlastung. Der geschäftliche Mehrwert entsteht dort, wo KI innerhalb eines definierten Prozesses zuverlässig Aufgaben übernimmt oder vorbereitet.

Datenschutz als Grundlage für skalierbare KI

Datenschutz verlangsamt gute KI-Projekte nicht zwangsläufig. Richtig umgesetzt, schafft er die Voraussetzungen, damit Fachbereiche eine Lösung dauerhaft nutzen können. Klare Datenflüsse erleichtern Audits, präzise Berechtigungen reduzieren Risiken und eine modulare Architektur erlaubt es, Modelle oder Betriebsumgebungen später auszutauschen.

entrecode verbindet individuelle KI-Entwicklung mit Prozessintegration, Cloud-Architektur und langfristigem Betrieb. Damit wird aus einem einzelnen KI-Experiment eine Anwendung, die im Tagesgeschäft funktioniert und weiterentwickelt werden kann. Der sinnvollste nächste Schritt ist deshalb nicht die Frage, welches Modell gerade am stärksten wirkt, sondern welcher konkrete Prozess mit klaren Datenregeln messbar besser werden soll.