DSGVO und KI-Agenten: So bleibst du compliant bei der Automatisierung

Inzwischen nutzt fast jedes zweite deutsche Unternehmen KI — sagt die Bitkom. Aber nur jeder Dritte hat sich vorher Gedanken über Datenschutz gemacht. Und spätestens wenn du KI-Agenten einsetzt, die selbstständig Entscheidungen treffen, wird die Frage richtig spannend.

Denn ein KI-Agent ist kein normales Tool. Ein KI-Agent entscheidet. Er handelt. Er speichert. Und er hat — je nach Architektur — ein Gedächtnis. Das bringt juristische Fragen mit sich, die viele KMUs nicht auf dem Schirm haben.

Gut gemeint ist nicht gut compliant. Und eine DSGVO-Strafe von bis zu 20 Millionen Euro oder 4 % des Jahresumsatzes? Die will niemand.

Also: Was musst du beachten, wenn du KI-Agenten in deinem Unternehmen einsetzt? Ohne Panikmache, aber mit klaren Regeln.

Was sich bei KI-Agenten gegenüber normaler Software ändert

Ein CRM-System speichert Daten. Ein KI-Agent tut das auch — aber er verarbeitet sie anders. Er analysiert, bewertet und trifft Entscheidungen auf Basis von Wahrscheinlichkeiten. Und genau das ist der Knackpunkt.

Klassische Software: Du gibst Input rein, kriegst Output raus. Der Weg ist deterministisch, nachvollziehbar, prüfbar.

KI-Agent: Du gibst ein Ziel vor, der Agent entscheidet selbst, wie er es erreicht. Er wählt Tools, priorisiert Daten, und manchmal — wenn er ein Gedächtnis hat — behält er Informationen aus früheren Sessions.

Aus DSGVO-Sicht heißt das:

• Automatisierte Entscheidungen (Art. 22 DSGVO) — Dein KI-Agent trifft Entscheidungen, die rechtliche Wirkung entfalten? Das ist reguliert.
• Datenverarbeitung im Auftrag (Art. 28 DSGVO) — Wer hostet den Agenten? Wer hat Zugriff auf die Daten?
• Recht auf Erklärung (Art. 13–15 DSGVO) — Kann dein KI-Agent erklären, warum er eine bestimmte Entscheidung getroffen hat?
• Datenminimierung (Art. 5 DSGVO) — Ein Agent mit Gedächtnis sammelt im Laufe der Zeit viele Daten. Darf er das?

Klingt nach viel Bürokratie? Ist es auch. Aber es ist machbar. Wir haben es für unsere Kunden schon mehrfach gelöst.

Art. 22 DSGVO: Wann dein KI-Agent zur Compliance-Falle wird

Artikel 22 ist der Paragraf, den die meisten unterschätzen. Er besagt: Du darfst Entscheidungen, die eine rechtliche Wirkung haben oder eine Person „in ähnlicher Weise beeinträchtigen", nicht ausschließlich automatisiert treffen — es sei denn, die betroffene Person hat eingewilligt oder es ist gesetzlich vorgesehen.

Klingt abstrakt? Konkret bedeutet das:

• Vertragsentscheidungen: Dein KI-Agent lehnt eine Kreditanfrage ab? → Art. 22.
• Personalbewertung: Dein KI-Agent bewertet die Leistung eines Mitarbeiters? → Art. 22.
• Kundenklassifizierung: Dein KI-Agent stuft Kunden in „gut" und „schlecht" ein? → Sehr wahrscheinlich Art. 22.

Was du tun musst: Wenn dein KI-Agent solche Entscheidungen trifft, brauchst du eine Rechtsgrundlage. Die Einwilligung des Betroffenen ist eine Option — aber schwer umsetzbar. Der praktischere Weg: Bau den Menschen ein. Der Agent schlägt vor, der Mensch entscheidet. Damit ist die Automatisierung nicht „ausschließlich" und Art. 22 greift nicht.

Pro-Tipp: Formuliere in deinem System-Design explizit, welche Entscheidungen der KI-Agent autonom treffen darf und welche einen Human-in-the-Loop brauchen. Dokumentiere das. Nicht nur im Code — auch für den Datenschutzbeauftragten. Unsere Erfahrung: Die klare Trennung ist das, was Prüfer sehen wollen.

Auftragsverarbeitung: Der Vertrag, den du brauchst

Jeder KI-Agent braucht eine Infrastruktur. Ob gehostet in der Cloud oder lokal auf deinem Server — irgendjemand betreibt die Technik. Und sobald ein Dienstleister Zugriff auf personenbezogene Daten hat, brauchst du einen Auftragsverarbeitungsvertrag (AVV).

Die Hürde bei KI-Agenten: Viele KI-Anbieter haben keine AVVs für den Betrieb autonomer Agenten. Ihre Standardverträge decken normale API-Nutzung ab — aber nicht das, was ein Agent tut: nämlich Daten aus deinem System lesen, zwischenspeichern, verarbeiten und in neue Kontexte stellen.

Checkliste für den AVV mit deinem KI-Anbieter:

• Werden meine Daten für das Training des Modells verwendet? (Wenn ja — nein danke)
• Wo liegen die Server? (Muss EU/GDPR-sicher sein)
• Was passiert mit Daten im Agenten-Gedächtnis? (Löschfristen!)
• Wer hat Zugriff auf die Daten? (Support, Admin?)
• Gibt es eine Datenexport-Funktion? (Kein Vendor Lock-in)

Unser Ansatz bei raspb: Wir hosten KI-Agenten entweder auf Kundenservern oder in deutschen Rechenzentren. Der Kunde unterschreibt einen AVV mit uns — und wir verpflichten unsere Unterdienstleister vertraglich. Fixpreis, transparente Datenverarbeitung, kein Training mit Kundendaten. Klingt simpel. Ist es auch — wenn man es von Anfang an richtig macht.

Das Gedächtnis des KI-Agenten: Segen und Fluch zugleich

Ein KI-Agent mit Gedächtnis ist mächtig. Er erinnert sich an frühere Gespräche, lernt aus Fehlern und wird mit der Zeit besser. Aber genau das ist das Problem.

Die DSGVO-Anforderungen:

• Speicherbegrenzung (Art. 5 Abs. 1 lit. e): Daten dürfen nur so lange gespeichert werden, wie sie benötigt werden. Ein Agenten-Gedächtnis, das alles für immer behält, ist nicht erlaubt.
• Recht auf Löschung (Art. 17): Ein Kunde sagt „Lösch meine Daten". Darf dein KI-Agent das? Kann er das? Oder steckt die Information noch irgendwo in seinem internen Zustand?
• Datenminimierung (Art. 5 Abs. 1 lit. c): Der Agent sollte nur die Daten speichern, die er wirklich braucht. Nicht alles, was er sieht.

Praktische Lösung: Bau dein Agenten-Gedächtnis nicht als Black Box. Strukturiere es. Session-Speicher für den aktuellen Vorgang. Langzeitspeicher nur mit expliziter Freigabe. Und implementiere Löschmechanismen — auf Knopfdruck.

Unser WissensRetter macht genau das. Er speichert Wissen strukturiert, gibt dem Kunden volle Kontrolle über die Daten und kann jederzeit zurückgesetzt werden. Keine Black Box, kein Datenmüll. Dafür Fixpreise, klare Regeln und ein ROI von 333 %.

Right to Explanation: Dein Agent muss Auskunft geben können

Das ist vielleicht der Punkt, der am meisten unterschätzt wird. Die DSGVO gibt Betroffenen ein Recht zu erfahren, wie eine Entscheidung zustande gekommen ist. Bei klassischer Software ist das einfach: Du zeigst die Datenbankabfrage oder den Geschäftslogik-Code.

Bei KI-Agenten? Schwieriger.

Ein Large Language Model ist keine If-Then-Else-Logik. Es berechnet Wahrscheinlichkeiten über Milliarden von Parametern. „Warum hast du diesen Kunden als risikoarm eingestuft?" — Die Antwort liegt im mathematischen Raum, nicht in einer lesbaren Regel.

Was du tun kannst:

1. Tracking einbauen: Jede Entscheidung des KI-Agenten wird protokolliert. Welche Daten wurden verwendet? Welches Tool wurde aufgerufen? Welches Modell hat die Entscheidung getroffen?
2. Quellen angeben: Wenn der Agent Wissen aus deiner Wissensdatenbank nutzt, muss er sagen können, aus welchem Dokument die Information stammt.
3. Menschlichen Review ermöglichen: Der Agent gibt eine Empfehlung mit Quellenangabe. Der Mensch prüft und entscheidet.

Wir bauen in unsere Agenten standardmäßig ein Audit-Log ein. Jede Aktion, jede Entscheidung, jeder Datenzugriff wird dokumentiert. Der Kunde kann jederzeit nachvollziehen, was sein Agent getan hat — und es dem Prüfer vorlegen. Das rettet nicht nur vor Bußgeldern, es schafft auch Vertrauen.

Datenminimierung: Wie viel darf dein Agent wissen?

Ein häufiges Missverständnis: „Mein KI-Agent braucht Zugriff auf alle Daten, um gut zu arbeiten." Stimmt nicht.

Ein KI-Agent für die Rechnungsprüfung braucht keine Personalakten. Ein KI-Agent für die Kundenkommunikation braucht keine Produktionsdaten. Ein KI-Agent für Compliance-Checks braucht nicht die privaten E-Mails der Mitarbeiter.

Das Prinzip der Datenminimierung bedeutet: Gib deinem Agenten genau die Daten, die er für seine Aufgabe braucht — nicht mehr. Das ist nicht nur DSGVO-konformer. Es macht den Agenten auch effizienter, weil er relevantere Ergebnisse liefert.

So setzt du es um:

• Rollenbasierter Zugriff: Der Agent bekommt nur Zugriff auf die Datenquellen, die für seine Aufgabe relevant sind. Wie ein Mitarbeiter hat der Agent nur die Berechtigungen, die er braucht.
• Zeitliche Begrenzung: Der Agent speichert Daten nur für die Dauer der Verarbeitung. Danach werden sie gelöscht oder anonymisiert.
• Trennung von Systemen: Trenne Datenverarbeitung und Datenspeicherung. Ein Agent kann eine Entscheidung treffen, ohne die Rohdaten dauerhaft zu speichern.

Noch ein Pro-Tipp: Fang mit einem kleinen, klar abgegrenzten Use-Case an. Ein Agent, der nur Rechnungsdaten prüft, ist leichter compliant zu bekommen als ein Alleskönner, der die ganze Firma durchsucht. Starte klein. Lerne. Skaliere dann.

Der Fahrplan: So machst du deinen KI-Agenten DSGVO-fit

Zusammenfassend der Plan in fünf Schritten:

1. Bestandsaufnahme: Welche Daten verarbeitet dein KI-Agent? Personenbezogene Daten? Besondere Kategorien (Gesundheit, Religion, etc.)? Klingt langweilig, aber ohne Bestandsaufnahme geht nichts.
2. Verzeichnis der Verarbeitungstätigkeiten (VVT) aktualisieren: Dein VVT muss die KI-Agenten enthalten. Was sie tun, welche Daten sie verarbeiten, auf welcher Rechtsgrundlage.
3. Rechtsgrundlage prüfen: Ist es Vertragserfüllung? Berechtigtes Interesse? Einwilligung? Für KI-Agenten ist oft eine Kombination nötig.
4. AVV abschließen: Mit deinem KI-Anbieter, mit deinem Hosting-Dienstleister, mit allen, die Daten im Auftrag verarbeiten.
5. Datenschutz-Folgenabschätzung (DPIA) durchführen: Wenn dein KI-Agent „voraussichtlich ein hohes Risiko" für die Rechte Betroffener darstellt (was bei autonomen Entscheidungen oft der Fall ist), brauchst du eine DPIA.

Klingt nach Arbeit? Ist es. Aber es ist einmalige Arbeit. Und sie ist um ein Vielfaches günstiger als das Bußgeld, das dich erwartet, wenn du sie nicht machst.

Fazit: Compliant ist kein Widerspruch zu effizient

Ich höre oft: „DSGVO bremst uns bei der KI-Einführung aus." – Meine ehrliche Meinung: Das stimmt nur, wenn man Compliance als nachträgliches Add-on behandelt.

Wenn du DSGVO von Anfang an mitdenkst — beim Design des Agenten, bei der Wahl der Infrastruktur, bei der Definition seiner Aufgaben — dann ist sie kein Bremsklotz. Sondern ein Qualitätsmerkmal. Deine Kunden vertrauen dir mehr. Deine Mitarbeiter arbeiten sicherer. Und der Prüfer ist zufrieden.

Wir bei raspb bauen KI-Agenten, die von Grund auf DSGVO-konform sind. Nicht weil es Mode ist. Sondern weil wir selbst KMU sind und wissen, dass Vertrauen das härteste Kapital ist.

Unser Versprechen: Fixpreise, keine Überraschungen, dein Code gehört dir. Und deine Daten bleiben da, wo sie hingehören: bei dir.

Bereit für deinen ersten DSGVO-konformen KI-Agenten? Buche ein kostenloses KI-Audit — 30 Minuten, konkrete Empfehlungen, keine versteckten Kosten. Wir checken, wo du stehst und was dein erster Schritt sein sollte.