KI und Datenschutz: was für kleine Unternehmen wirklich gilt
„Dürfen wir das überhaupt?" ist die Frage, die in fast jedem ersten Gespräch kommt — meist bevor überhaupt geklärt ist, worum es inhaltlich gehen soll.
Die Antwort ist selten ein klares Ja oder Nein. Sie hängt davon ab, welche Daten im Spiel sind, wer sie verarbeitet und wozu. Diese Seite ordnet die Regeln, statt sie zu bewerten — damit ihr wisst, welche Fragen ihr stellen müsst.
Stand: 27. Juli 2026. Dieser Text beschreibt die Rechtslage in allgemeiner Form und ersetzt keine rechtliche Beratung im Einzelfall.
Zwei Regelwerke, nicht eins
Der häufigste Denkfehler beim Thema KI ist, alles in einen Topf zu werfen. Tatsächlich sind zwei völlig verschiedene Regelwerke im Spiel, und sie fragen nach Unterschiedlichem.
Die DSGVO regelt, was mit personenbezogenen Daten geschehen darf — unabhängig davon, ob eine KI beteiligt ist. Sie gilt seit 2018 und hat mit dem Aufkommen von KI keine neuen Regeln bekommen, sondern nur neue Anwendungsfälle.
Die KI-Verordnung der EU, meist AI Act genannt, regelt KI-Systeme als Produkte — unabhängig davon, ob personenbezogene Daten verarbeitet werden. Sie fragt danach, wie riskant eine Anwendung ist und wer sie in Verkehr bringt oder betreibt.
Ein Betrieb kann von beiden betroffen sein, von einem oder von keinem. Wer diese Ebenen trennt, findet Antworten deutlich schneller — und stellt oft fest, dass die eigene Anwendung in einer der beiden Welten gar nicht vorkommt.
Wann die DSGVO überhaupt greift
Die DSGVO gilt für die Verarbeitung personenbezogener Daten. Das ist eine engere Voraussetzung, als viele annehmen — und der Punkt, an dem sich für einen Betrieb häufig die erste Entlastung ergibt.
Ein Assistent, der aus Stichworten einen Angebotstext formuliert, verarbeitet keine personenbezogenen Daten. Eine Suche über die eigene technische Dokumentation ebenso wenig. Wer Produktbeschreibungen erzeugen oder interne Handbücher durchsuchbar machen lässt, bewegt sich datenschutzrechtlich auf unauffälligem Terrain.
Anders sieht es aus, sobald Kundenanfragen, Bewerbungen, Personalakten oder Gesundheitsdaten ins Spiel kommen. Dann gelten dieselben Regeln, die für jede andere Verarbeitung auch gelten würden — nicht mehr, aber eben auch nicht weniger.
Die vier Fragen, um die es datenschutzrechtlich geht
Wenn personenbezogene Daten beteiligt sind, laufen die Anforderungen der DSGVO auf vier Fragen hinaus. Die Orientierungshilfe der deutschen Datenschutzkonferenz zu Künstlicher Intelligenz ordnet sie ähnlich.
Welche Daten fließen überhaupt?
Der Grundsatz der Datenminimierung nach Art. 5 DSGVO verlangt, dass nur verarbeitet wird, was für den Zweck erforderlich ist. Praktisch heißt das: Ein System, das Termine vergibt, braucht keinen Zugriff auf Vertragsdaten. Was gar nicht erst fließt, muss auch nicht abgesichert werden.
Wer verarbeitet sie?
Wird ein externer Dienst genutzt, liegt in aller Regel eine Auftragsverarbeitung vor. Art. 28 DSGVO verlangt dafür einen Vertrag mit festgelegtem Inhalt. Liegt die Verarbeitung außerhalb der EU, kommen die Anforderungen der Art. 44 ff. hinzu.
Auf welcher Rechtsgrundlage?
Jede Verarbeitung braucht eine Grundlage nach Art. 6 DSGVO — Vertragserfüllung, berechtigtes Interesse, Einwilligung. Bei besonderen Kategorien wie Gesundheitsdaten gilt zusätzlich Art. 9, der die Verarbeitung grundsätzlich untersagt und nur enge Ausnahmen kennt.
Wissen die Betroffenen davon?
Aus Art. 13 und 14 folgen Informationspflichten. Und wo Entscheidungen automatisiert fallen, greift Art. 22. Der Europäische Gerichtshof hat dazu am 7. Dezember 2023 entschieden, dass bereits ein automatisch erzeugter Wahrscheinlichkeitswert eine solche Entscheidung sein kann, wenn Dritte ihm maßgebliche Bedeutung beimessen — auch dann, wenn formal noch ein Mensch zustimmt.
Der Punkt, an dem es in der Praxis scheitert
In den allermeisten Betrieben ist nicht das geplante KI-Projekt das datenschutzrechtliche Problem. Es ist das, was ohnehin schon passiert.
Jemand hat einen Kundenbrief zu formulieren, öffnet einen frei zugänglichen Chatbot im privaten Konto, fügt den bisherigen Schriftverkehr ein und lässt eine Antwort entwerfen. Das ist keine böse Absicht, sondern der kürzeste Weg zum Ziel. Datenschutzrechtlich ist es eine Übermittlung an einen Dritten — ohne Vertrag, ohne Rechtsgrundlage, ohne dass der Betrieb davon weiß.
Erfahrungsgemäß entsteht diese Praxis genau dort, wo es keine offizielle Möglichkeit gibt. Ein Verbot ohne Alternative verlagert den Vorgang nur weiter ins Verborgene. Das ist weniger eine juristische Frage als eine organisatorische — sie gehört aber in jede Betrachtung, weil sie das reale Risiko beschreibt, während über hypothetische Projekte diskutiert wird.
Sonderfall: Berufe mit Schweigepflicht
Für einige Berufe gilt neben der DSGVO eine zweite, strafbewehrte Ebene: die Schweigepflicht nach § 203 StGB. Sie betrifft unter anderem Ärztinnen und Ärzte, Steuerberater, Rechtsanwälte und Psychotherapeuten.
Seit 2017 regelt § 203 Abs. 3 StGB ausdrücklich, dass externe Dienstleister als mitwirkende Personen eingebunden werden dürfen — unter Bedingungen: Beschränkung auf das Erforderliche, sorgfältige Auswahl und Überwachung, vertragliche Verpflichtung zur Geheimhaltung. Nach Abs. 4 macht sich der Dienstleister bei unbefugter Offenbarung selbst strafbar.
Was das konkret bedeutet, haben wir für zwei Berufsgruppen ausführlicher beschrieben: für die Arztpraxis und für die Steuerkanzlei.
Der AI Act: was wann gilt
Die KI-Verordnung unterscheidet zwei Rollen. Anbieter entwickeln ein KI-System oder bringen es unter eigenem Namen auf den Markt. Betreiber setzen ein bestehendes System beruflich ein. Die meisten kleinen und mittleren Unternehmen sind Betreiber — und für die ist der Pflichtenkatalog deutlich kürzer.
Die Verordnung gilt gestaffelt. Im Juli 2026 wurden mehrere Fristen durch die Digital-Omnibus-Verordnung (EU) 2026/1744 verschoben, die am 27. Juli 2026 in Kraft getreten ist. Verschoben wurden Termine, nicht Anforderungen — inhaltlich bleibt es beim risikobasierten Ansatz.
| Was | Gilt ab |
|---|---|
| Verbotene Praktiken (z. B. Social Scoring, Emotionserkennung am Arbeitsplatz) | 2.2.2025 |
| Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck | 2.8.2025 |
| Transparenzpflichten für Betreiber — Menschen müssen erfahren, dass sie mit einem KI-System sprechen | 2.8.2026 |
| Technische Markierung synthetisch erzeugter Inhalte | 2.12.2026 |
| Anforderungen an eigenständige Hochrisiko-Systeme (Anhang III) | 2.12.2027 |
| Hochrisiko-Systeme als Sicherheitsbauteil in Produkten (Anhang I) | 2.8.2028 |
Für einen normalen Betrieb ist die Zeile in der Mitte die praktisch bedeutsame: Ab dem 2. August 2026 muss erkennbar sein, dass eine Antwort von einem KI-System kommt. Die Pflicht entfällt, wenn das für eine aufmerksame Person ohnehin offensichtlich ist. Das betrifft auch uns selbst — die Assistenten, die wir bauen, geben sich als solche zu erkennen.
Auch die Anforderung, dass Beschäftigte über ausreichende KI-Kompetenz verfügen sollen, wurde im Juli 2026 angepasst: Aus der Pflicht, ein ausreichendes Niveau sicherzustellen, wurde die Aufgabe, KI-Kompetenz zu fördern. Der Gedanke dahinter bleibt derselbe — wer ein Werkzeug einsetzt, sollte verstehen, was es tut.
Hochrisiko-Anwendungen betreffen kleine Betriebe seltener, als der Begriff vermuten lässt. Gemeint sind unter anderem Systeme für Personalauswahl, Kreditvergabe oder kritische Infrastruktur. Ein Assistent, der Öffnungszeiten beantwortet oder Termine koordiniert, fällt nicht darunter.
Was Gesetz und Aufsichtsbehörden verlangen
Aus beiden Regelwerken zusammen ergeben sich die Anforderungen, die in der Praxis regelmäßig geprüft werden:
- Ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, wenn ein externer Dienst beteiligt ist.
- Ein Eintrag im Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO.
- Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO, wenn die Verarbeitung voraussichtlich ein hohes Risiko birgt.
- Angaben in der Datenschutzerklärung, aus denen die Verarbeitung und ihr Zweck hervorgehen.
- Festgelegte Löschfristen und die Umsetzbarkeit von Betroffenenrechten.
- Nach dem AI Act ab August 2026: die Erkennbarkeit, dass ein KI-System antwortet.
Die deutschen Aufsichtsbehörden haben dazu mehrere Orientierungshilfen veröffentlicht: zu Künstlicher Intelligenz und Datenschutz allgemein (2024), zu technischen und organisatorischen Maßnahmen beim Betrieb von KI-Systemen (2025) und zu Besonderheiten generativer Systeme, die auf eigene Dokumente zugreifen (2025).
Fragen, die vor einem KI-Projekt geklärt sein sollten
Keine Checkliste zum Abhaken, sondern die Fragen, an denen sich in Gesprächen erfahrungsgemäß entscheidet, ob ein Vorhaben trägt:
- Sind überhaupt personenbezogene Daten im Spiel — und wenn ja, welche genau?
- Ließe sich dieselbe Aufgabe mit weniger Daten lösen?
- Wo werden die Daten verarbeitet, und werden sie zum Training von Modellen verwendet?
- Auf welche Rechtsgrundlage stützt sich die Verarbeitung?
- Fällt eine Entscheidung, die für Betroffene erhebliche Folgen hat?
- Wer im Betrieb darf das System nutzen — und was passiert, wenn es jemand anders tut?
- Gilt für den Beruf eine Schweigepflicht?
- Ist für Außenstehende erkennbar, dass eine KI antwortet?
- Was passiert, wenn das System eine falsche Antwort gibt — wer merkt es?
Häufige Fragen
„Dürfen wir ChatGPT im Unternehmen einsetzen?"
Es kommt darauf an, welche Daten hineingehen und unter welchem Vertrag. Ohne personenbezogene Daten ist die Frage datenschutzrechtlich unkritisch. Sobald Kunden-, Beschäftigten- oder Gesundheitsdaten beteiligt sind, braucht es eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag und Klarheit über den Verarbeitungsort. Private Konten von Mitarbeitenden erfüllen diese Voraussetzungen nicht.
„Brauchen wir für KI einen Auftragsverarbeitungsvertrag?"
Wenn ein externer Dienst personenbezogene Daten im Auftrag verarbeitet, verlangt Art. 28 DSGVO einen Vertrag mit festgelegtem Inhalt. Werden keine personenbezogenen Daten verarbeitet, greift die Vorschrift nicht. Die Abgrenzung entscheidet sich am Datenfluss, nicht an der Technik.
„Müssen Kunden erfahren, dass ein Chatbot antwortet?"
Nach dem AI Act gilt ab dem 2. August 2026 eine Transparenzpflicht: Menschen müssen erkennen können, dass sie mit einem KI-System interagieren. Sie entfällt, wenn das für eine durchschnittlich aufmerksame Person ohnehin offensichtlich ist. In der Praxis ist ein deutlicher Hinweis zu Beginn der einfachere Weg.
„Dürfen Kundendaten in eine KI eingegeben werden?"
Grundsätzlich ja, wenn eine Rechtsgrundlage nach Art. 6 DSGVO vorliegt, die Verarbeitung erforderlich ist und die vertraglichen Voraussetzungen erfüllt sind. Bei besonderen Kategorien wie Gesundheitsdaten gilt zusätzlich Art. 9 mit deutlich engeren Ausnahmen. Der Umfang der Daten ist dabei ebenso relevant wie die Frage nach dem Ob.
„Brauchen wir eine Datenschutz-Folgenabschätzung?"
Art. 35 DSGVO verlangt sie, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten mit sich bringt. Die Aufsichtsbehörden führen dazu Listen von Verarbeitungen, bei denen sie regelmäßig erforderlich ist. Ob ein konkretes Vorhaben darunterfällt, lässt sich nicht pauschal beantworten.
„Gilt der AI Act auch für kleine Betriebe?"
Ja, aber mit deutlich geringerem Umfang. Kleine Betriebe sind in der Regel Betreiber, nicht Anbieter. Für sie sind vor allem die Transparenzpflichten relevant sowie das Verbot bestimmter Praktiken. Die umfangreichen Hochrisiko-Anforderungen greifen erst ab Dezember 2027 und betreffen klar umgrenzte Anwendungsbereiche.
„Was ist mit Mitarbeitenden, die KI privat für die Arbeit nutzen?"
Datenschutzrechtlich verantwortlich bleibt der Betrieb, auch wenn er von der Nutzung nichts weiß. Werden dabei personenbezogene Daten in ein privates Konto eingegeben, fehlt es regelmäßig an Rechtsgrundlage und Vertrag. Erfahrungsgemäß entsteht diese Praxis dort, wo es keine offizielle Möglichkeit gibt.
