p17-ki.de · Wissen · Datenschutz-Ampel
Das Wichtigste in Kürze
- Grün: öffentliche und allgemeine Inhalte dürfen in jedes Werkzeug.
- Gelb: interne Informationen nur in das vom Unternehmen freigegebene Business-Werkzeug.
- Rot: personenbezogene Daten Dritter, Gesundheitsdaten und Geschäftsgeheimnisse gehören nicht in KI-Chats, außer Ihr Unternehmen hat das ausdrücklich geregelt.
Die Ampel auf einen Blick
Grün: in jedes Werkzeug
Öffentliche und allgemeine Inhalte ohne Bezug zu Personen oder Geheimnissen.
- Texte von Ihrer Website, Pressemitteilungen, Prospekte
- allgemeine Fragen: „Wie funktioniert SVERWEIS?“
- Entwürfe ohne Namen und interne Zahlen
Gelb: nur ins freigegebene Business-Werkzeug
Interne Informationen, die nicht öffentlich sind, aber keine sensiblen Daten über Personen enthalten.
- interne Abläufe, Protokolle ohne Personenbezug
- Angebotsvorlagen, Produktdaten, interne Präsentationen
- Auswertungen ohne Namen, Kundennummern oder Rückschlüsse auf Personen
Rot: nicht in KI-Chats, außer ausdrücklich geregelt
Daten, deren Weitergabe Menschen oder Ihrem Unternehmen schaden kann.
- personenbezogene Daten von Kundschaft, Beschäftigten oder Bewerbungen
- Gesundheitsdaten, Religion, Gewerkschaft und andere besondere Kategorien
- Geschäftsgeheimnisse, Verträge mit Vertraulichkeit, Zugangsdaten
Die Einteilung ist eine Vereinfachung für den Alltag. Sie leitet sich aus der Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz ab (Version 1.0, Mai 2024). Im Zweifel gilt: lieber gelb als grün, lieber rot als gelb, und kurz nachfragen.
Warum „Namen weglassen“ nicht reicht
Viele denken: Wenn kein Name drinsteht, ist es anonym. Die Datenschutzbehörden sehen das anders. Ob eine Person erkennbar ist, ergibt sich oft aus dem Zusammenhang: Funktion, Ort, Zeitraum, besondere Ereignisse.
Ein Beispiel aus der Orientierungshilfe: „Entwirf ein Arbeitszeugnis für einen Kundenberater im Autohaus X.“ In einem kleinen Autohaus gibt es vielleicht nur einen Kundenberater. Damit ist klar, um wen es geht, auch ohne Namen. Für Sie heißt das: Ersetzen Sie nicht nur Namen, sondern auch alles, was auf eine bestimmte Person schließen lässt. Oder nutzen Sie für solche Aufgaben nur ein freigegebenes Business-Werkzeug.
Fünf Einstellungen, die Sie prüfen sollten
Die Orientierungshilfe nennt einige Grundregeln, die sich in jedem Unternehmen umsetzen lassen:
- Betriebliche statt private Konten: Das Unternehmen stellt die Zugänge bereit, möglichst über eine Funktions-E-Mail-Adresse. Niemand soll mit privaten Konten arbeiten müssen.
- Training ausschalten: Prüfen Sie, ob Ihre Eingaben zum Training des Modells genutzt werden, und schalten Sie das ab. In Business-Tarifen ist das meist schon so, aber prüfen Sie es je Werkzeug.
- Verlauf bewusst einstellen: Die Speicherung des Chatverlaufs sollte transparent und abschaltbar sein.
- Vertrag zur Auftragsverarbeitung: Bei Cloud-Werkzeugen besteht meist eine Auftragsverarbeitung nach Artikel 28 DSGVO. Der Vertrag muss vorliegen, bevor personenbezogene Daten verarbeitet werden.
- Regeln aufschreiben: Halten Sie fest, wer welches Werkzeug wofür nutzen darf, mit Beispielen für Erlaubtes und Verbotenes. Eine Vorlage finden Sie unter Muster-KI-Richtlinie.
Auch Ergebnisse brauchen Aufmerksamkeit
Datenschutz betrifft nicht nur das, was hineingeht. Auch Antworten der KI können personenbezogene Angaben enthalten, und die müssen stimmen. Prüfen Sie Ergebnisse über Menschen besonders sorgfältig, etwa Zusammenfassungen von Bewerbungen oder Gesprächsnotizen.
Zwei Regeln sind dabei besonders wichtig. Erstens: Der Mensch entscheidet. Entscheidungen mit rechtlicher Wirkung über Personen, etwa über eine Bewerbung oder einen Kredit, trifft kein KI-System allein. Zweitens: Auf Benachteiligung achten. KI übernimmt Vorurteile aus ihren Trainingsdaten. Prüfen Sie Texte und Auswahlvorschläge auf einseitige Darstellungen.
Sicherheit: drei Gewohnheiten
Das Bundesamt für Sicherheit in der Informationstechnik nennt als Risiken generativer KI vor allem erfundene Antworten, Datenabfluss und sogenannte Prompt Injection, also versteckte Anweisungen in Dokumenten oder Webseiten, die eine KI auslesen soll. Drei Gewohnheiten helfen:
- Zugänge schützen: starke Passwörter und Zwei-Faktor-Anmeldung für alle KI-Konten.
- Vorsicht bei Agenten: Wenn eine KI selbstständig Mails, Dokumente oder Webseiten liest, kann sie auf versteckte Anweisungen hereinfallen. Geben Sie Agenten nur so viele Rechte, wie sie brauchen.
- Echtheit prüfen: KI macht Betrugsversuche überzeugender, etwa gefälschte Anrufe mit der Stimme der Chefin. Bei ungewöhnlichen Zahlungsaufforderungen immer auf einem zweiten Weg nachfragen.
Dieser Text ist eine Orientierung, keine Rechtsberatung. Quellen: Datenschutzkonferenz, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 06.05.2024; Bundesamt für Sicherheit in der Informationstechnik, Themenseite Künstliche Intelligenz (abgerufen 03.11.2026). Stand November 2026.
Häufige Fragen
Reicht es, Namen zu entfernen?
Meist nicht. Die Datenschutzbehörden weisen darauf hin, dass sich der Personenbezug aus dem Zusammenhang ergeben kann. Ihr Beispiel: Ein Arbeitszeugnis „für einen Kundenberater im Autohaus X“ kann auch ohne Namen einer bestimmten Person zuzuordnen sein.
Ist Copilot automatisch datenschutzkonform?
Microsoft 365 Copilot arbeitet im Rahmen Ihres Microsoft-365-Vertrags und nur mit Daten, auf die die fragende Person Zugriff hat. Ob der Einsatz in Ihrem Unternehmen zulässig ist, hängt aber von Ihren Einstellungen, Berechtigungen und Regeln ab. Das klären Sie mit Ihrer IT und Ihrer Datenschutzbeauftragten oder Ihrem Datenschutzbeauftragten.
Was ist mit dem Betriebsrat?
Führt ein Unternehmen KI-Werkzeuge ein, kann ein Mitbestimmungsrecht des Betriebsrats bestehen. Die Datenschutzbehörden empfehlen, Datenschutzbeauftragte und Beschäftigtenvertretung früh einzubinden.
Dürfen wir KI über Bewerbungen entscheiden lassen?
Nein. Entscheidungen mit rechtlicher Wirkung über Menschen dürfen nach der DSGVO grundsätzlich nur Menschen treffen. KI darf unterstützen, etwa beim Formulieren, die Entscheidung bleibt beim Menschen. Ergebnisse sind zudem auf Benachteiligung zu prüfen.
Zuletzt geprüft: · Benjamin Beloch
