KI und Datenschutz in Deutschland

Künstliche Intelligenz verarbeitet Informationen besonders schnell und kann große Datenmengen miteinander verknüpfen. Genau darin liegt ihr praktischer Nutzen. Gleichzeitig entsteht ein Datenschutzrisiko, sobald Texte, Bilder, Stimmen, Kundendaten oder andere Informationen einer konkreten Person zugeordnet werden können.

Wer einen KI-Chatbot lediglich nach einem Rezept fragt, verarbeitet in der Regel keine fremden personenbezogenen Daten. Anders sieht es aus, wenn eine Beschäftigte einen Kundenvertrag hochlädt, ein Arzt einen Befund zusammenfassen lässt oder ein Unternehmen Bewerbungen automatisch bewertet. Dann greifen die Vorgaben der Datenschutz-Grundverordnung und gegebenenfalls ergänzende deutsche sowie europäische Regelungen.

Dieser Artikel erklärt, wie KI und Datenschutz in Deutschland zusammenhängen, welche Daten besonders geschützt sind und was Privatpersonen sowie Unternehmen bei der Nutzung von KI beachten sollten.

Rechtsstand: Juli 2026.

Warum Datenschutz bei künstlicher Intelligenz wichtig ist

Viele KI-Anwendungen funktionieren, indem sie Eingaben analysieren und daraus Antworten, Vorhersagen, Bilder oder Empfehlungen erzeugen. Dabei können personenbezogene Daten an mehreren Stellen auftauchen:

• in den Trainingsdaten des KI-Modells

• in einer Texteingabe, dem sogenannten Prompt

• in hochgeladenen Dokumenten, Bildern oder Audiodateien

• in der erzeugten Antwort

• in gespeicherten Chatverläufen

• in Protokoll-, Geräte- und Nutzungsdaten

• in verbundenen Unternehmensdatenbanken

Eine KI kann außerdem Informationen miteinander kombinieren. Selbst wenn ein Name entfernt wurde, lässt sich eine Person möglicherweise über Beruf, Wohnort, Alter, Arbeitgeber oder besondere Ereignisse identifizieren.

Die deutsche Datenschutzkonferenz weist deshalb darauf hin, dass es bei KI-Anwendungen häufig nicht genügt, lediglich Namen und Anschriften aus einer Eingabe zu entfernen. Der Personenbezug kann sich weiterhin aus dem Zusammenhang ergeben, insbesondere wenn das System Querbezüge in unstrukturierten Daten herstellen kann.

Nicht nur der Name ist personenbezogen. Auch eine ausreichend genaue Beschreibung kann erkennen lassen, um wen es geht.

Was sind personenbezogene Daten?

Personenbezogene Daten sind alle Informationen, die sich auf eine identifizierte oder identifizierbare lebende Person beziehen. Dazu gehören offensichtliche Angaben wie Name, Anschrift und Telefonnummer, aber auch IP-Adressen, Standortdaten, Kennnummern, Fotos, Stimmen oder bestimmte Online-Kennungen.

Auch mehrere zunächst unauffällige Informationen können zusammen personenbezogen sein, wenn sie die Identifizierung einer Person ermöglichen. Die DSGVO ist technologieneutral. Sie gilt daher unabhängig davon, ob Daten von einer klassischen Software, einem KI-System oder manuell verarbeitet werden.

Typische Beispiele sind:

Pseudonymisierung bedeutet, dass direkt identifizierende Merkmale durch Kennzeichen ersetzt werden. Solange eine Zuordnung mit zusätzlichen Informationen möglich bleibt, gelten die Daten weiterhin als personenbezogen. Nur eine tatsächlich irreversible Anonymisierung führt dazu, dass die DSGVO nicht mehr anwendbar ist.

Welche Daten sind besonders geschützt?

Bestimmte Kategorien personenbezogener Daten gelten als besonders sensibel. Dazu gehören unter anderem Angaben über:

• Gesundheit

• ethnische Herkunft

• politische Meinungen

• religiöse oder weltanschauliche Überzeugungen

• Gewerkschaftszugehörigkeit

• genetische Merkmale

• biometrische Merkmale zur eindeutigen Identifizierung

• Sexualleben oder sexuelle Orientierung

Die Verarbeitung dieser Daten ist nach Artikel 9 DSGVO grundsätzlich untersagt, sofern keine ausdrückliche gesetzliche Ausnahme greift.

Besondere Vorsicht ist daher geboten, wenn KI in Arztpraxen, Krankenhäusern, Personalabteilungen, Versicherungen, Schulen oder sozialen Einrichtungen eingesetzt wird. Ein medizinischer Befund sollte beispielsweise nicht in einen beliebigen öffentlichen KI-Chat kopiert werden.

Gilt die DSGVO auch für KI?

Ja. Die DSGVO enthält kein Sonderprivileg für künstliche Intelligenz. Sobald personenbezogene Daten verarbeitet werden und keine Ausnahme greift, müssen dieselben Grundprinzipien eingehalten werden wie bei anderen IT-Systemen.

Die wichtigsten Datenschutzgrundsätze sind:

1. Rechtmäßigkeit, Verarbeitung nach Treu und Glauben und Transparenz

2. Zweckbindung

3. Datenminimierung

4. Richtigkeit

5. Speicherbegrenzung

6. Integrität und Vertraulichkeit

7. Rechenschaftspflicht

Ein Unternehmen darf Kundendaten deshalb nicht allein aus dem Grund in eine KI-Anwendung eingeben, weil das technisch möglich oder praktisch bequem ist. Es muss einen festgelegten Zweck, eine passende Rechtsgrundlage und geeignete Schutzmaßnahmen geben.

DSGVO, BDSG und AI Act

Für KI-Anwendungen in Deutschland sind mehrere Regelwerke relevant.

Die DSGVO regelt den Umgang mit personenbezogenen Daten. Das Bundesdatenschutzgesetz ergänzt die europäischen Vorschriften in bestimmten Bereichen, unter anderem beim Beschäftigtendatenschutz. § 26 BDSG regelt, unter welchen Voraussetzungen personenbezogene Daten von Beschäftigten und Bewerbern verarbeitet werden dürfen.

Daneben enthält der europäische AI Act besondere Anforderungen an KI-Systeme. Er ersetzt die DSGVO nicht, sondern gilt zusätzlich. Ein KI-System kann daher mit dem AI Act vereinbar sein und trotzdem gegen Datenschutzrecht verstoßen, wenn personenbezogene Daten unzulässig verarbeitet werden.

Der AI Act ist stufenweise anwendbar. Verbote bestimmter KI-Praktiken und Anforderungen an KI-Kompetenz gelten bereits seit Februar 2025. Vorgaben für Modelle mit allgemeinem Verwendungszweck gelten seit August 2025. Weitere Bestimmungen, darunter wichtige Transparenzpflichten, werden am 2. August 2026 anwendbar. Die Regeln für bestimmte eigenständige Hochrisiko-Systeme wurden auf den 2. Dezember 2027 verschoben, für in regulierte Produkte integrierte Hochrisiko-Systeme auf den 2. August 2028.

Wann ist die Nutzung einer KI datenschutzrechtlich relevant?

Nicht jede KI-Anfrage enthält personenbezogene Daten. Wer sich eine allgemeine Erklärung zu einer mathematischen Formel erstellen lässt, übermittelt normalerweise keine Informationen über eine bestimmte Person.

Datenschutzrechtlich relevant wird die Nutzung beispielsweise bei folgenden Eingaben:

„Fasse die Beschwerden dieses Patienten zusammen.“

„Bewerte die Bewerbung von Anna Müller.“

„Formuliere eine Kündigung für unseren Mitarbeiter.“

„Analysiere die bisherigen Bestellungen dieses Kunden.“

„Welche Beschäftigten könnten das Unternehmen bald verlassen?“

„Prüfe diesen Vertrag.“ Dabei wird ein Dokument mit Namen und Kontaktdaten hochgeladen.

Auch die Ausgabe kann personenbezogene Daten enthalten. Ein Sprachmodell könnte beispielsweise Informationen über eine konkrete Person erzeugen, Personen bewerten oder Angaben aus verschiedenen Quellen miteinander verknüpfen. Ob diese Informationen richtig sind, ist eine zusätzliche Frage.

Die Datenschutzkonferenz empfiehlt deshalb, sowohl Eingaben als auch Ausgaben mit Personenbezug kritisch zu prüfen.

Werden Eingaben automatisch zum Training verwendet?

Das lässt sich nicht pauschal beantworten. Es hängt vom Anbieter, Tarif, Vertrag, gewählten Produkt und den Kontoeinstellungen ab. Manche Dienste verwenden bestimmte Eingaben zur Verbesserung ihrer Systeme, andere schließen dies für Geschäftskonten oder über Schnittstellen verarbeitete Daten vertraglich aus.

Vor der Nutzung sollten daher mindestens folgende Fragen geklärt werden:

• Werden Prompts und hochgeladene Dateien gespeichert?

• Wie lange werden sie gespeichert?

• Werden Eingaben für Training oder Produktverbesserung verwendet?

• Kann die Trainingsnutzung deaktiviert werden?

• Werden Inhalte von Mitarbeitern des Anbieters geprüft?

• Wo befinden sich die Server?

• Welche Unterauftragnehmer erhalten Zugriff?

• Kann ein Chatverlauf vollständig gelöscht werden?

• Gibt es einen Vertrag zur Auftragsverarbeitung?

Datenschutzfreundliche Einstellungen sollten von Anfang an aktiviert werden. Die deutsche Datenschutzkonferenz empfiehlt insbesondere, die Verwendung von Eingaben für Trainingszwecke abzuschalten und die Speicherung der Eingabehistorie soweit möglich zu begrenzen.

Welche Rechtsgrundlage ist erforderlich?

Unternehmen, Behörden und andere Organisationen benötigen für jeden Verarbeitungsvorgang mit personenbezogenen Daten eine Rechtsgrundlage.

Je nach Situation können beispielsweise infrage kommen:

• Einwilligung der betroffenen Person

• Erfüllung eines Vertrags

• Durchführung vorvertraglicher Maßnahmen

• Erfüllung einer rechtlichen Verpflichtung

• Schutz lebenswichtiger Interessen

• Wahrnehmung einer öffentlichen Aufgabe

• berechtigtes Interesse

Die passende Rechtsgrundlage muss vor Beginn der Verarbeitung bestimmt werden. Eine Einwilligung ist nicht automatisch die beste oder einzige Lösung. Sie muss freiwillig, informiert, eindeutig und widerrufbar sein. Bei sensiblen Daten gelten zusätzliche Anforderungen.

Auch ein berechtigtes Interesse ist kein pauschaler Freibrief. Es müssen ein legitimes Interesse, die Erforderlichkeit der Verarbeitung und die Rechte der betroffenen Personen gegeneinander abgewogen werden. Der Europäische Datenschutzausschuss stellt klar, dass ein berechtigtes Interesse bei der Entwicklung oder Nutzung von KI-Modellen im Einzelfall möglich sein kann, aber stets eine konkrete Prüfung benötigt.

Öffentlich zugängliche Daten sind nicht automatisch frei nutzbar

Ein häufiger Irrtum lautet, dass öffentlich sichtbare Informationen ohne Einschränkung für KI-Training, Profilbildung oder automatische Bewertungen verwendet werden dürfen.

Die öffentliche Verfügbarkeit beseitigt den Personenbezug jedoch nicht. Auch Informationen auf Webseiten, in sozialen Netzwerken, öffentlichen Verzeichnissen oder beruflichen Profilen unterliegen grundsätzlich dem Datenschutzrecht, wenn sie sich auf identifizierbare Personen beziehen.

Entscheidend sind unter anderem der ursprüngliche Zweck, die Erwartungen der betroffenen Personen, die Art der Daten, mögliche Folgen und die Rechtsgrundlage der weiteren Verarbeitung. Der Europäische Datenschutzausschuss betont, dass die Rechtmäßigkeit der Verwendung personenbezogener Daten für KI-Modelle jeweils im konkreten Einzelfall beurteilt werden muss.

Zweckbindung bei KI-Systemen

Personenbezogene Daten dürfen grundsätzlich nur für festgelegte, eindeutige und legitime Zwecke erhoben werden.

Ein Online-Shop kann beispielsweise eine Lieferadresse benötigen, um eine Bestellung zuzustellen. Daraus folgt nicht automatisch, dass diese Adresse zusammen mit allen Bestelldaten für ein neues KI-Modell zur Erstellung psychologischer Kundenprofile verwendet werden darf.

Soll ein neuer Zweck hinzukommen, muss geprüft werden, ob er mit dem ursprünglichen Zweck vereinbar ist oder eine neue Rechtsgrundlage erforderlich wird. Dabei spielen der Zusammenhang zwischen den Zwecken, die Art der Daten, die Erwartungen der Person, mögliche Folgen und vorhandene Schutzmaßnahmen eine Rolle.

Daten, die für einen Vertrag erhoben wurden, werden nicht allein durch den Einsatz einer KI zu frei verfügbaren Trainingsdaten.

Datenminimierung bei Prompts und Dokumenten

Datenminimierung bedeutet, nur die Informationen zu verarbeiten, die für einen konkreten Zweck tatsächlich erforderlich sind.

Soll eine KI beispielsweise die Sprache eines Kundenbriefs verbessern, benötigt sie normalerweise nicht die vollständige Kundenhistorie, Bankverbindung oder interne Kundennummer. Diese Angaben sollten vor der Eingabe entfernt oder durch neutrale Platzhalter ersetzt werden.

Eine datensparsame Version könnte so aussehen:

Problematisch:
„Schreibe eine Antwort an Maria Beispiel, wohnhaft in Musterstraße 12, die seit März wegen ihrer Depression arbeitsunfähig ist.“

Besser:
„Schreibe eine höfliche Antwort an eine Beschäftigte, die seit mehreren Monaten arbeitsunfähig ist. Verwende keine Diagnose.“

Noch sicherer ist es, lediglich eine allgemeine Textvorlage erzeugen zu lassen und die konkreten Informationen anschließend lokal einzufügen.

Wo eine Aufgabe mit anonymen Daten erfüllt werden kann, sollten keine personenbezogenen Daten verwendet werden.

Anonymisieren reicht nicht immer durch das Entfernen des Namens

Das Ersetzen eines Namens durch „Kunde A“ oder „Mitarbeiter B“ ist meist nur eine Pseudonymisierung. Sind weitere Merkmale vorhanden, kann die Person weiterhin identifizierbar bleiben.

Das gilt besonders bei seltenen Kombinationen, etwa:

„Der einzige 63-jährige Abteilungsleiter unseres Standorts in Ulm“

„Die Bürgermeisterin einer kleinen Gemeinde, die im Februar einen Unfall hatte“

„Unser Mitarbeiter mit einer seltenen neurologischen Erkrankung“

Eine wirksame Anonymisierung muss eine Identifizierung praktisch ausschließen und irreversibel sein. Bleibt eine Zuordnung mit zusätzlichen Informationen möglich, gilt die DSGVO weiterhin.

KI im Unternehmen datenschutzkonform einführen

Ein Unternehmen sollte einen KI-Dienst nicht allein anhand von Preis, Funktionsumfang oder Bekanntheit auswählen. Datenschutz und Informationssicherheit müssen bereits vor der Einführung geprüft werden.

1. Den konkreten Zweck festlegen

Zunächst muss klar sein, wofür die KI eingesetzt werden soll. Eine allgemeine Vorgabe wie „für effizienteres Arbeiten“ ist zu ungenau.

Konkrete Zwecke wären beispielsweise:

• sprachliche Überarbeitung nicht vertraulicher Texte

• Zusammenfassung interner technischer Dokumentationen

• Klassifizierung von Kundenanfragen

• Unterstützung bei der Produktsuche

• Transkription von Besprechungen

Danach ist zu klären, welche Daten für diesen Zweck benötigt werden und ob die Aufgabe ohne Personenbezug erfüllt werden kann.

2. Anbieter und Datenflüsse prüfen

Das Unternehmen muss verstehen, welche Daten an welche Stelle übertragen werden. Dazu gehören auch Unterauftragnehmer, Schnittstellen, Protokolldaten, Backups und Supportzugriffe.

Besonders wichtig ist die Frage, ob der Anbieter ausschließlich im Auftrag des Unternehmens handelt oder Daten für eigene Zwecke verwendet. Verarbeitet er personenbezogene Daten nur nach dokumentierten Weisungen, kann eine Auftragsverarbeitung vorliegen. Bestimmt er selbst über zusätzliche Zwecke, kann er für diese Verarbeitung selbst verantwortlich sein. Die Rollen hängen von der tatsächlichen Ausgestaltung ab, nicht nur von der Bezeichnung im Vertrag.

3. Vertrag zur Auftragsverarbeitung abschließen

Ist der KI-Anbieter Auftragsverarbeiter, wird grundsätzlich ein Vertrag nach Artikel 28 DSGVO benötigt. Darin sollten unter anderem Weisungsbindung, Sicherheitsmaßnahmen, Unterauftragnehmer, Löschung, Unterstützung bei Betroffenenrechten und Datenschutzvorfällen geregelt sein.

Ein gewöhnliches Benutzerkonto mit allgemeinen Nutzungsbedingungen reicht für die Verarbeitung geschäftlicher personenbezogener Daten nicht automatisch aus.

4. Drittlandübermittlungen prüfen

Werden Daten außerhalb des Europäischen Wirtschaftsraums verarbeitet, muss eine zulässige Grundlage für den Drittlandtransfer bestehen. Abhängig vom Empfängerland können beispielsweise ein Angemessenheitsbeschluss oder Standardvertragsklauseln erforderlich sein.

Standardvertragsklauseln allein lösen nicht jedes Risiko. Unternehmen müssen auch die tatsächlichen Verarbeitungsbedingungen und gegebenenfalls zusätzliche Schutzmaßnahmen prüfen.

5. Datenschutzinformationen anpassen

Betroffene Personen müssen verständlich erfahren, wer ihre Daten verarbeitet, zu welchem Zweck, auf welcher Rechtsgrundlage, wie lange die Daten gespeichert werden und an wen sie übermittelt werden.

Bei automatisierten Entscheidungen können weitere Informationen über die Logik sowie die Bedeutung und möglichen Folgen der Verarbeitung erforderlich sein.

6. Datenschutz-Folgenabschätzung prüfen

Eine Datenschutz-Folgenabschätzung ist erforderlich, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen verursacht.

Das kann insbesondere der Fall sein bei:

• umfangreicher Bewertung persönlicher Merkmale

• Profiling

• automatisierten Entscheidungen mit erheblichen Auswirkungen

• großflächiger Verarbeitung sensibler Daten

• systematischer Überwachung

• neuartigen Kombinationen umfangreicher Datenbestände

Die Datenschutzkonferenz geht davon aus, dass beim Einsatz von KI-Anwendungen eine Datenschutz-Folgenabschätzung vielfach erforderlich sein kann. Sie muss vor Beginn der Verarbeitung erfolgen und sollte bei Veränderungen des Systems aktualisiert werden.

7. Technische und organisatorische Maßnahmen umsetzen

Zu geeigneten Schutzmaßnahmen können gehören:

• Verschlüsselung

• rollenbasierte Zugriffsrechte

• Mehrfaktor-Authentifizierung

• begrenzte Speicherfristen

• deaktivierte Trainingsnutzung

• deaktivierte öffentliche Freigaben

• Protokollierung administrativer Zugriffe

• getrennte Test- und Produktivsysteme

• Filter für sensible Eingaben

• regelmäßige Sicherheitsprüfungen

• dokumentierte Löschprozesse

Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen sind bereits bei der Konzeption zu berücksichtigen. Die DSGVO verlangt außerdem ein dem Risiko angemessenes Sicherheitsniveau.

8. Interne KI-Richtlinien erstellen

Beschäftigte benötigen klare Vorgaben, welche Anwendungen erlaubt sind und welche Informationen eingegeben werden dürfen.

Eine interne Richtlinie sollte beispielsweise festlegen:

• welche KI-Dienste freigegeben sind

• welche Daten niemals eingegeben werden dürfen

• ob Ergebnisse vor Verwendung geprüft werden müssen

• wie KI-generierte Inhalte gekennzeichnet werden

• wer neue KI-Anwendungen genehmigt

• wie Datenschutzvorfälle gemeldet werden

• welche Aufgaben nicht automatisiert entschieden werden dürfen

Die Datenschutzkonferenz empfiehlt dokumentierte interne Weisungen mit konkreten erlaubten und untersagten Einsatzszenarien. Beschäftigte sollten außerdem geschult und für Risiken sensibilisiert werden.

KI und Beschäftigtendatenschutz

Der Einsatz von KI im Arbeitsverhältnis ist besonders sensibel. Arbeitgeber könnten KI beispielsweise für Bewerberauswahl, Leistungsbewertung, Personaleinsatzplanung, Krankheitsprognosen oder die Analyse von Kommunikation verwenden.

Personenbezogene Beschäftigtendaten dürfen nach § 26 BDSG verarbeitet werden, wenn dies für die Begründung, Durchführung oder Beendigung des Beschäftigungsverhältnisses erforderlich ist oder eine andere zulässige Grundlage vorliegt. Auch Bewerber gelten in diesem Zusammenhang als Beschäftigte.

Eine Einwilligung ist im Arbeitsverhältnis nicht immer problemlos, weil zwischen Arbeitgeber und Beschäftigten ein Abhängigkeitsverhältnis besteht. Die Freiwilligkeit muss deshalb besonders sorgfältig beurteilt werden.

Darüber hinaus können Beteiligungsrechte des Betriebs- oder Personalrats bestehen. Die Datenschutzkonferenz empfiehlt betriebliche Accounts und Geräte, damit Beschäftigte nicht gezwungen sind, private Konten für berufliche KI-Anwendungen zu verwenden.

Darf KI allein über Menschen entscheiden?

Artikel 22 DSGVO schützt Menschen grundsätzlich davor, einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt.

Dazu können je nach Situation Entscheidungen über Kreditvergabe, Versicherung, Bewerbung, Leistungsansprüche oder Vertragsabschluss gehören.

Es gibt begrenzte Ausnahmen, etwa wenn die automatisierte Entscheidung für einen Vertrag erforderlich, gesetzlich erlaubt oder auf ausdrückliche Einwilligung gestützt ist. Auch dann müssen geeignete Schutzmaßnahmen vorgesehen werden. Dazu kann das Recht gehören, eine menschliche Überprüfung zu verlangen und den eigenen Standpunkt darzulegen.

Eine formale Bestätigung durch einen Mitarbeiter genügt nicht unbedingt. Der Mensch muss die Entscheidung tatsächlich verstehen, überprüfen und bei Bedarf ändern können.

Menschliche Aufsicht bedeutet nicht, dass eine Person lediglich auf „Bestätigen“ klickt.

Fehlerhafte KI-Ausgaben und das Recht auf Berichtigung

KI-Systeme können falsche personenbezogene Angaben erzeugen. Ein Chatbot könnte einer realen Person einen falschen Beruf, eine erfundene Straftat oder nicht vorhandene politische Ansichten zuschreiben.

Die DSGVO enthält unter anderem Rechte auf:

• Information

• Auskunft

• Berichtigung

• Löschung

• Einschränkung der Verarbeitung

• Datenübertragbarkeit

• Widerspruch

• Schutz bei automatisierten Entscheidungen

Diese Rechte gelten auch dann, wenn die technische Umsetzung für einen Anbieter schwierig ist. Unternehmen müssen bereits bei Auswahl und Einführung eines KI-Systems prüfen, wie Anfragen betroffener Personen bearbeitet werden können.

Das Recht auf Löschung gilt allerdings nicht ausnahmslos. Gesetzliche Aufbewahrungspflichten, öffentliche Interessen, Forschung oder die Ausübung von Rechtsansprüchen können einer Löschung entgegenstehen.

Was gilt für Privatpersonen?

Die DSGVO gilt grundsätzlich nicht für die Verarbeitung personenbezogener Daten im Rahmen einer rein persönlichen oder familiären Tätigkeit ohne beruflichen oder geschäftlichen Bezug.

Das bedeutet jedoch nicht, dass private Nutzer unbedenklich alle Informationen in einen KI-Dienst eingeben sollten. Der Anbieter verarbeitet die Daten weiterhin, und zusätzlich können Persönlichkeitsrechte, Vertraulichkeitspflichten oder andere gesetzliche Regelungen betroffen sein.

Besonders problematisch sind Eingaben wie:

• vollständige medizinische Unterlagen

• private Nachrichten anderer Personen

• Ausweiskopien

• Passwörter oder Zugangscodes

• intime Fotos

• Bank- und Kreditkartendaten

• Unterlagen aus dem Arbeitsverhältnis

• unveröffentlichte Verträge

• Daten von Kindern

• personenbezogene Informationen über Streitigkeiten

Auch wenn eine KI für eine persönliche Einschätzung genutzt wird, sollten fremde Daten möglichst entfernt oder durch neutrale Platzhalter ersetzt werden.

Zehn Regeln für den privaten Umgang mit KI

1. Geben Sie keine Passwörter, TANs oder vollständigen Zahlungsdaten ein.

2. Laden Sie keine Ausweise oder vertraulichen Originaldokumente hoch.

3. Entfernen Sie Namen, Adressen und eindeutige Merkmale anderer Personen.

4. Vermeiden Sie Gesundheitsdaten und intime Informationen.

5. Prüfen Sie, ob Chatverläufe gespeichert oder fürs Training genutzt werden.

6. Löschen Sie nicht mehr benötigte Verläufe und Dateien.

7. Kontrollieren Sie App-Berechtigungen für Mikrofon, Kamera und Kontakte.

8. Vertrauen Sie personenbezogenen Aussagen der KI nicht ungeprüft.

9. Veröffentlichen Sie keine KI-Ausgaben über reale Personen ohne Prüfung.

10. Nutzen Sie für sensible Fragen möglichst Dienste mit klaren Datenschutz- und Sicherheitsbedingungen.

Beispiel aus dem Unternehmensalltag

Ein kleines Unternehmen möchte einen KI-Assistenten nutzen, um Kunden-E-Mails zusammenzufassen und Antwortentwürfe zu erstellen.

Eine unkontrollierte Einführung wäre riskant. Die E-Mails können Namen, Kontaktdaten, Bestellinformationen, Beschwerden oder Gesundheitsangaben enthalten. Die Inhalte könnten gespeichert, an Unterauftragnehmer weitergegeben oder für zusätzliche Zwecke verwendet werden.

Ein datenschutzorientiertes Vorgehen sieht anders aus:

Zunächst wird geprüft, ob alle E-Mails verarbeitet werden müssen. Danach wählt das Unternehmen einen geschäftlichen Dienst mit geeigneten Verträgen und deaktivierter Trainingsnutzung. Sensible Kategorien werden ausgeschlossen oder automatisch herausgefiltert. Die Beschäftigten erhalten betriebliche Konten und klare Anweisungen. Antworten werden nicht automatisch versendet, sondern von einem Mitarbeiter überprüft. Speicherfristen, Zugriffsrechte und Löschprozesse werden dokumentiert.

Dadurch verschwindet das Datenschutzrisiko nicht vollständig, wird aber systematisch reduziert.

Typische Datenschutzfehler bei KI

Private Konten für berufliche Aufgaben nutzen

Mitarbeiter verwenden einen kostenlosen persönlichen KI-Account und laden Unternehmensdaten hoch. Das Unternehmen kennt weder Einstellungen noch Vertragsbedingungen und hat kaum Kontrolle über die gespeicherten Inhalte.

Vollständige Dokumente hochladen

Für eine einfache Zusammenfassung wird ein vollständiger Vertrag einschließlich Namen, Unterschriften, Kontaktdaten und Bankverbindung eingegeben, obwohl der eigentliche Zweck auch mit einem anonymisierten Textausschnitt erreichbar wäre.

Einwilligung als Universallösung behandeln

Eine pauschale Einwilligung wird eingeholt, ohne den konkreten Zweck, die Empfänger oder mögliche Trainingsnutzung zu erklären.

Datenschutz erst nach der Einführung prüfen

Die Fachabteilung nutzt bereits mehrere Monate ein KI-System, bevor Datenschutzbeauftragte, IT-Sicherheit oder Betriebsrat informiert werden.

KI-Ergebnisse ungeprüft übernehmen

Ein System bewertet Bewerber, Kunden oder Beschäftigte. Die Ausgabe wird ohne echte menschliche Prüfung als Entscheidung übernommen.

Keine Löschstrategie haben

Chatverläufe, hochgeladene Dokumente und Protokolldaten bleiben unbegrenzt gespeichert, obwohl sie für den ursprünglichen Zweck nicht mehr benötigt werden.

Datenschutzfreundliche KI ist kein Widerspruch

Künstliche Intelligenz und Datenschutz schließen sich nicht grundsätzlich aus. Datenschutz verhindert nicht jede Verarbeitung, sondern verlangt klare Zwecke, angemessene Rechtsgrundlagen und kontrollierbare Risiken.

Eine datenschutzfreundliche KI-Anwendung verarbeitet möglichst wenige personenbezogene Daten, nutzt sichere Voreinstellungen, begrenzt Zugriffe und Speicherzeiten, informiert Betroffene verständlich und ermöglicht die Wahrnehmung ihrer Rechte.

Für Unternehmen bedeutet das, Datenschutz nicht erst kurz vor dem Start zu prüfen. Verantwortlichkeiten, Datenflüsse, Verträge und Sicherheitsmaßnahmen müssen bereits bei Auswahl und Konzeption berücksichtigt werden. Die deutschen Datenschutzaufsichtsbehörden empfehlen ausdrücklich, Datenschutz nach dem Prinzip „Data Protection by Design“ von Anfang an in Entwicklung und Einsatz von KI-Systemen einzubeziehen.

KI verantwortungsvoll nutzen

KI kann Texte bearbeiten, Arbeitsabläufe beschleunigen und große Informationsmengen auswerten. Je mehr personenbezogene Daten ein System verarbeitet und je stärker seine Ergebnisse das Leben eines Menschen beeinflussen, desto höher sind jedoch die Anforderungen.

Für Privatpersonen gilt eine einfache Grundregel: Keine Informationen eingeben, die man nicht auch einem unbekannten externen Dienstleister anvertrauen würde.

Unternehmen benötigen ein strukturiertes Verfahren. Dazu gehören Zweckbestimmung, Rechtsgrundlage, Anbieterprüfung, Datenminimierung, Verträge, technische Schutzmaßnahmen, Schulungen und menschliche Kontrolle.

Datenschutz sollte dabei nicht als einmalige Checkliste betrachtet werden. KI-Anwendungen, Modelle, Funktionen und Vertragsbedingungen können sich verändern. Deshalb müssen Risiken und interne Vorgaben regelmäßig neu bewertet werden.

Hinweis: Dieser Artikel bietet eine allgemeine Orientierung und ersetzt keine individuelle Rechts- oder Datenschutzberatung.