Datenschutz bei Unternehmens-KI richtig umsetzen

Ein Vertriebsmitarbeiter kopiert eine Kundenanfrage in einen öffentlichen KI-Chat, um schneller zu antworten. Eine Fachabteilung lädt Vertragsdokumente hoch, um Klauseln zusammenzufassen. Solche Situationen entstehen oft vor dem offiziellen KI-Projekt - und sie zeigen, warum Datenschutz bei Unternehmens KI nicht erst beim Go-live beginnt. Wer Daten, Zugriffe und Einsatzgrenzen nicht früh klärt, riskiert unkontrollierte Datenabflüsse, unklare Verantwortlichkeiten und Akzeptanzprobleme im Unternehmen.

Die gute Nachricht: Datenschutz und produktive KI sind kein Widerspruch. Richtig geplant, schützt eine passende Architektur sensible Informationen und schafft zugleich die Grundlage für Automatisierung, schnellere Entscheidungen und skalierbare Prozesse. Entscheidend ist, KI nicht als isoliertes Tool zu behandeln, sondern als Bestandteil der bestehenden System- und Prozesslandschaft.

Datenschutz bei Unternehmens-KI beginnt mit dem Anwendungsfall

Nicht jede KI-Anwendung verarbeitet dieselben Daten und trägt dieselben Risiken. Ein interner Assistent, der auf freigegebene Prozesshandbücher zugreift, ist anders zu bewerten als ein KI-Agent, der Bewerbungen vorsortiert, Supportfälle bearbeitet oder Daten aus SAP-Systemen verarbeitet. Deshalb steht am Anfang nicht die Modellauswahl, sondern eine präzise Frage: Welchen geschäftlichen Prozess soll die Lösung verbessern und welche Daten benötigt sie dafür tatsächlich?

Diese Klarheit verhindert zwei typische Fehler. Erstens werden zu viele Informationen an das Modell übergeben, weil Datenquellen ohne fachliche Eingrenzung angebunden sind. Zweitens wird ein System mit personenbezogenen Daten betrieben, obwohl anonymisierte, pseudonymisierte oder aggregierte Daten für den Zweck ausreichen würden. Datenminimierung ist damit kein formaler Zusatz, sondern eine konkrete Architekturentscheidung.

Für jeden Anwendungsfall sollten Fachbereich, IT, Datenschutz und Informationssicherheit gemeinsam festlegen, welche Eingaben verarbeitet werden, welche Ergebnisse entstehen und ob Personen anhand der Daten identifizierbar sind. Ebenso wichtig: Wird die KI nur als Assistenz genutzt oder trifft ihr Ergebnis Entscheidungen mit spürbaren Folgen für Beschäftigte, Kunden oder Bewerber? Je stärker die Auswirkung, desto höher sind die Anforderungen an Kontrolle, Nachvollziehbarkeit und menschliche Prüfung.

Datenflüsse sichtbar machen, bevor Systeme verbunden werden

Viele Risiken entstehen nicht im KI-Modell selbst, sondern an seinen Schnittstellen. Eine Unternehmens-KI kann Inhalte aus Dokumentenmanagement, CRM, E-Mail-Postfächern, Ticketsystemen, Datenbanken oder ERP- und SAP-Prozessen beziehen. Ohne eine saubere Datenflussanalyse bleibt offen, welche Daten wohin gelangen, wie lange sie gespeichert werden und wer sie später einsehen kann.

Eine belastbare Konzeption dokumentiert daher den gesamten Weg einer Anfrage: von der Quelle über Vorverarbeitung und Modellaufruf bis zur Ausgabe, Protokollierung und Löschung. Dabei müssen auch technische Zwischenschritte berücksichtigt werden. Werden Dokumente für eine Wissenssuche in Abschnitte zerlegt? Entstehen Embeddings in einer Vektordatenbank? Werden Prompts oder Antworten für Debugging und Qualitätsverbesserung gespeichert? Jede dieser Stationen kann personenbezogene oder vertrauliche Unternehmensdaten enthalten.

Besondere Aufmerksamkeit verdient die Mandantentrennung. Bei SaaS-Produkten, Plattformen mit mehreren Gesellschaften oder Lösungen für verschiedene Kunden darf ein Nutzer nur auf die Inhalte zugreifen, für die er berechtigt ist. Das gilt nicht nur für die Quellsysteme, sondern auch für Suchindizes, Chatverläufe, Caches und Protokolle. Berechtigungen müssen durchgängig aus den führenden Systemen übernommen oder zuverlässig abgebildet werden.

Die passende Betriebsform ist eine strategische Entscheidung

Cloud-Dienste können KI-Projekte deutlich beschleunigen. Gleichzeitig entscheidet die Betriebsform mit darüber, wie gut sich Datenschutz, Compliance und Integrationsanforderungen steuern lassen. Es gibt keine pauschal beste Variante - die richtige Wahl hängt von Schutzbedarf, Datenarten, Skalierungszielen, vorhandener Infrastruktur und dem gewünschten Funktionsumfang ab.

Bei externen KI-Diensten ist vertraglich und technisch zu klären, ob Eingaben zur Modellverbesserung verwendet werden, in welchen Regionen die Verarbeitung stattfindet, welche Unterauftragnehmer beteiligt sind und wie Löschfristen umgesetzt werden. Ein Auftragsverarbeitungsvertrag kann erforderlich sein, ersetzt aber keine sorgfältige Prüfung des konkreten Dienstes und der tatsächlichen Datenflüsse.

Für sensible Anwendungsfälle kann eine Architektur sinnvoll sein, bei der Daten in einer kontrollierten europäischen Cloud-Umgebung oder im eigenen Rechenzentrum verarbeitet werden. Auch hybride Modelle sind möglich: Ein leistungsfähiges externes Modell übernimmt allgemeine Sprachverarbeitung, während vertrauliche Inhalte erst nach Filterung, Pseudonymisierung oder in einer getrennten Komponente verarbeitet werden. Das reduziert Risiken, erhöht jedoch Komplexität und Betriebsaufwand.

Bei entrecode wird diese Frage deshalb nicht losgelöst vom Produkt gedacht. Architektur, Cloud-Betrieb, Schnittstellen und Berechtigungskonzept müssen zusammenpassen. Eine Lösung ist nur dann langfristig tragfähig, wenn sie nicht nur im Pilotprojekt funktioniert, sondern auch bei wachsender Nutzerzahl, neuen Datenquellen und veränderten regulatorischen Anforderungen beherrschbar bleibt.

Technische Schutzmaßnahmen müssen im Prozess greifen

Datenschutzkonforme KI entsteht nicht durch einen Hinweis im Interface. Sie braucht technische und organisatorische Maßnahmen, die sich im Alltag durchsetzen lassen. Besonders wirksam sind klare Zugriffskontrollen, eine kontrollierte Datenanbindung und nachvollziehbare Betriebsprozesse.

Folgende Maßnahmen gehören bei vielen Unternehmensanwendungen zur Grundausstattung:

• Rollen- und rechtebasierte Zugriffe, idealerweise angebunden an bestehende Identity- und Berechtigungssysteme.
• Verschlüsselung bei Übertragung und Speicherung sowie eine nachvollziehbare Verwaltung von Schlüsseln und Secrets.
• Filter, die personenbezogene Daten, Zugangsdaten oder besonders vertrauliche Inhalte vor der Verarbeitung erkennen und je nach Regel entfernen, maskieren oder blockieren.
• Protokollierung von Zugriffen, Modellaufrufen und Änderungen am System, ohne dabei unnötig sensible Prompt-Inhalte dauerhaft abzulegen.
• Definierte Lösch- und Aufbewahrungsregeln für Chatverläufe, hochgeladene Dateien, Vektordaten und technische Logs.

Wie weit diese Maßnahmen reichen müssen, hängt vom Risiko ab. Ein Wissensassistent für interne Richtlinien benötigt andere Schutzvorkehrungen als eine KI, die medizinische Informationen, Gehaltsdaten oder Vertragsunterlagen verarbeitet. Wichtig ist, die Maßnahmen testbar zu machen: Wer kann welche Quelle abfragen? Erscheinen gesperrte Dokumente in den Ergebnissen? Was passiert bei einer fehlerhaften Rechtezuweisung? Solche Tests gehören in die Abnahme und in den laufenden Betrieb.

Transparenz schafft Akzeptanz bei Mitarbeitenden und Kunden

KI-Systeme scheitern selten allein an der Technik. Häufig nutzen Mitarbeitende sie nicht, umgehen die vorgesehenen Prozesse oder vertrauen Ergebnissen zu stark. Eine klare Governance schafft Orientierung, ohne jede Innovation auszubremsen. Sie definiert, welche Tools zulässig sind, welche Daten nie eingegeben werden dürfen und wann Fachverantwortliche oder Datenschutzbeauftragte einzubeziehen sind.

Nutzer sollten erkennen können, wann sie mit KI arbeiten, auf welchen Quellen eine Antwort basiert und wo die Grenzen des Systems liegen. Gerade bei internen Wissensassistenten erhöhen Quellenverweise innerhalb der Anwendung und ein nachvollziehbarer Umgang mit Unsicherheit die Qualität. Wenn die KI keine verlässliche Grundlage findet, sollte sie das sagen, statt eine überzeugend formulierte Vermutung auszugeben.

Bei Anwendungen mit personenbezogenen Daten sind zudem Informationspflichten, Rechtsgrundlagen und gegebenenfalls Datenschutz-Folgenabschätzungen frühzeitig zu prüfen. Der EU AI Act ergänzt diese Perspektive um Anforderungen, die sich am Risiko der KI-Anwendung orientieren. Datenschutzrecht und KI-Regulierung sollten daher gemeinsam betrachtet werden. Wer sie getrennt organisiert, erzeugt doppelte Abstimmungen und übersieht Abhängigkeiten im Produktdesign.

Vom Pilot zur kontrollierten Skalierung

Ein Pilot ist sinnvoll, wenn er unter realistischen Bedingungen stattfindet. Statt sofort alle Dokumente und Nutzer anzubinden, empfiehlt sich ein klar abgegrenzter Bereich mit einer überschaubaren Datenbasis, definierten Nutzerrollen und messbaren Qualitätszielen. So lassen sich Antwortqualität, Zeitersparnis, Fehlerraten und Datenschutzmaßnahmen gemeinsam prüfen.

Nach dem Pilot beginnt die eigentliche Produktarbeit. Datenquellen ändern sich, Berechtigungsmodelle werden angepasst, Modellanbieter entwickeln ihre Dienste weiter und neue Fachbereiche möchten Funktionen ergänzen. Deshalb braucht Unternehmens-KI feste Verantwortlichkeiten für Betrieb, Monitoring, Sicherheitsupdates und fachliche Qualität. Ein einmal freigegebenes System bleibt nicht automatisch datenschutzkonform.

Der sinnvollste nächste Schritt ist oft kein großes KI-Programm, sondern die strukturierte Bewertung eines konkreten Prozesses. Wenn Daten, Nutzen, Risiken und technische Integration dort sauber zusammengebracht werden, entsteht aus einer einzelnen Anwendung eine belastbare Grundlage für weitere KI-Initiativen.