KI, Datenschutz und Recht: was beim Einsatz zu beachten ist

Artikel-Übersicht

Hinweis: Dieser Artikel ist eine Einordnung, keine Rechtsberatung. Er beschreibt, wie sich die Rechtslage aus der Sicht von jemandem darstellt, der KI-Systeme baut und betreibt. Er ersetzt keine Prüfung im Einzelfall durch eine Anwältin oder einen Anwalt. Alle Angaben mit Rechtsstand Mai 2027 — Rechtsstand ohne Datum ist wertlos, und dieses Feld bewegt sich schnell.

Drei Rechtsfelder überlagern sich beim KI-Einsatz: Datenschutz, Urheberrecht und die KI-Verordnung der EU. Dieser Artikel geht sie in dieser Reihenfolge durch — beginnend mit den Risikoklassen der KI-Verordnung und ihrem Zeitplan, dann der praktisch häufigsten Frage überhaupt: was in eine Eingabe an ein Sprachmodell darf. Danach die beiden urheberrechtlichen Fragen, die ständig vermischt werden, ein Abschnitt zur Ethik mit konkreten statt abstrakten Punkten, die Einführung im Unternehmen, die Unterschiede in Österreich und der Schweiz und zum Schluss eine Checkliste für den Bau eines Systems.

Der AI Act: was er regelt

Die KI-Verordnung der EU ordnet KI-Systeme nach ihrem Risiko ein und knüpft an jede Klasse eigene Pflichten — von verboten über hochriskant bis hin zu geringem Risiko mit bloßer Transparenzpflicht.

Das Grundprinzip ist wichtig zu verstehen: Nicht die Technik wird reguliert, sondern der Anwendungsfall. Dasselbe Sprachmodell kann in einer Anwendung unter geringes Risiko fallen und in einer anderen unter hohes.

Die Risikoklassen

┌─────────────────────────────────────────────────────────────┐
│  VERBOTEN                                                   │
│  Social Scoring durch Behörden, ungezielte Auswertung von   │
│  Gesichtsbildern aus dem Internet, Emotionserkennung am      │
│  Arbeitsplatz und in Schulen, manipulative Systeme          │
├─────────────────────────────────────────────────────────────┤
│  HOCHRISIKO                                                 │
│  Personalauswahl, Kreditwürdigkeit, Zugang zu Bildung,      │
│  kritische Infrastruktur, Strafverfolgung, Medizinprodukte  │
│  → Risikomanagement, Datenqualität, Dokumentation,          │
│    Protokollierung, menschliche Aufsicht, Konformität       │
├─────────────────────────────────────────────────────────────┤
│  BEGRENZTES RISIKO — Transparenzpflicht                     │
│  Chatbots, generierte Inhalte, Deepfakes                    │
│  → Nutzende müssen erkennen können, dass sie mit einer      │
│    Maschine sprechen; generierte Inhalte kennzeichnen       │
├─────────────────────────────────────────────────────────────┤
│  GERINGES RISIKO                                            │
│  alles Übrige — Spamfilter, Empfehlungen, Spiele            │
│  → keine besonderen Pflichten                               │
└─────────────────────────────────────────────────────────────┘

Diagramm der Risikoklassen der KI-Verordnung mit Beispielen und den jeweiligen Pflichten.

Hinzu kommt eine eigene Kategorie für Modelle mit allgemeinem Verwendungszweck — die großen Basismodelle. Für sie gelten gesonderte Pflichten zu technischer Dokumentation, Urheberrechtsstrategie und einer Zusammenfassung der Trainingsdaten; bei besonders leistungsfähigen Modellen kommen weitere Anforderungen hinzu.

Der Zeitplan

Die Verordnung (EU) 2024/1689 trat im August 2024 in Kraft und gilt gestaffelt:

ab	was gilt
Februar 2025	Verbote und Pflicht zur KI-Kompetenz in Unternehmen
August 2025	Pflichten für Modelle mit allgemeinem Verwendungszweck
August 2026	allgemeine Anwendbarkeit, Transparenzpflichten
August 2027	Hochrisiko-Systeme in regulierten Produkten

Zwei Hinweise, die den Zeitplan relativieren. Erstens wurden nach der Verabschiedung Verschiebungen einzelner Fristen diskutiert und teils beschlossen; wer sich auf ein Datum stützt, sollte den aktuellen Stand prüfen. Zweitens ist die Pflicht zur KI-Kompetenz der Punkt, den fast alle übersehen: Unternehmen müssen dafür sorgen, dass ihre Beschäftigten die eingesetzten Systeme hinreichend verstehen. Das ist eine Schulungspflicht, und sie gilt unabhängig von der Risikoklasse.

Was für Entwickler folgt

Drei Dinge, unabhängig von der Klasse:

Kennzeichnung. Wer mit einer Maschine spricht, muss es erkennen können. Generierte Inhalte sind als solche auszuweisen.

Protokollierung. Bei hochriskanten Systemen verpflichtend, bei allen anderen praktisch unverzichtbar — ohne Protokoll ist keine Pflicht nachweisbar.

Dokumentation. Was das System tut, mit welchen Daten es arbeitet, wie Menschen eingreifen können. Das lässt sich nicht nachträglich erzeugen; es muss beim Bau entstehen.

Datenschutz: was in ein Modell darf

Der praktisch wichtigste Abschnitt — und die Frage, bei der die meisten Artikel ausweichen.

Darf ich personenbezogene Daten in ein Sprachmodell eingeben? Ja, unter Bedingungen — aber die Eingabe ist eine Verarbeitung im Sinne der DSGVO und braucht damit alles, was jede andere Verarbeitung auch braucht: eine Rechtsgrundlage, einen Zweck, eine Information der Betroffenen und einen Vertrag mit dem Anbieter.

Was daraus im Einzelnen folgt:

Die Eingabe ist der Verarbeitungsvorgang. Nicht das Modell, nicht die Antwort — der Moment, in dem Daten das Haus verlassen. Deshalb greifen an dieser Stelle alle Pflichten, und deshalb ist es die Stelle, an der man ansetzt.

Auftragsverarbeitung. Wer einen externen Anbieter nutzt, braucht einen Auftragsverarbeitungsvertrag. Die großen Anbieter stellen ihn bereit — meist nur in Geschäftstarifen, nicht in kostenlosen. Ein kostenloser Zugang ohne solchen Vertrag ist für personenbezogene Daten keine Option.

Drittlandübermittlung. Läuft die Verarbeitung außerhalb der EU, kommen die Anforderungen an Drittlandtransfers hinzu. Mehrere Anbieter bieten inzwischen europäische Verarbeitungsregionen an; ob eine solche Zusage die gesamte Verarbeitung erfasst, ist im Einzelfall zu prüfen. Die technische Seite dieser Frage behandle ich in Cloud-Architektur für KI-Anwendungen.

Trainingsnutzung der Eingaben. Ob ein Anbieter Eingaben zur Modellverbesserung verwendet, unterscheidet sich je Anbieter und je Tarif. In Geschäftstarifen ist die Nichtnutzung meist vertraglich zugesichert, in kostenlosen Angeboten häufig nicht. Das ist der wichtigste Punkt beim Tarifvergleich, und er steht selten vorne.

Betroffenenrechte und Löschung. Hier liegt ein ungelöstes Problem: Ein Löschanspruch lässt sich auf Protokolle und gespeicherte Verläufe anwenden. Ob und wie er sich auf ein bereits trainiertes Modell anwenden lässt, in dem Informationen nicht als Datensatz, sondern in Gewichten vorliegen, ist technisch wie rechtlich nicht abschließend geklärt. Die praktische Konsequenz: Was einmal in Trainingsdaten geraten ist, bekommt man nicht zuverlässig heraus — was ein guter Grund ist, es gar nicht erst hineinzugeben.

Die technischen Gegenmittel

Drei, nach Wirksamkeit geordnet:

Lokale Modelle. Das wirksamste Mittel: Was den eigenen Rechner nicht verlässt, wird nicht übermittelt. Damit entfallen Auftragsverarbeitung, Drittlandfrage und Trainingsnutzung auf einen Schlag. Wie das geht, steht in Ollama: lokale Sprachmodelle betreiben. Der Preis ist Leistung — für viele Aufgaben reicht sie.

Anonymisierung vor der Eingabe. Namen, Kundennummern und Adressen ersetzen, bevor der Text an das Modell geht. Wirksam, aber fehleranfällig: Personenbezug entsteht auch aus Kombinationen, die kein Filter erkennt.

Eingabefilter mit Sperrliste. Verhindert die groben Fälle — Kreditkartennummern, Zugangsdaten, bekannte Kundennamen. Als alleinige Maßnahme zu schwach, als Netz darunter sinnvoll.

Urheberrecht: wem gehört das Ergebnis?

Zwei Fragen, die ständig vermischt werden, obwohl sie nichts miteinander zu tun haben.

Dürfen geschützte Werke zum Training verwendet werden?

Im deutschen Recht gibt es Schranken für Text und Data Mining. Sie erlauben die automatisierte Auswertung auch geschützter Werke; für nicht-wissenschaftliche Zwecke besteht dabei die Möglichkeit eines maschinenlesbaren Nutzungsvorbehalts durch die Rechteinhaber. Ob diese Schranken das Training großer generativer Modelle in vollem Umfang decken, ist umstritten und Gegenstand laufender Verfahren.

Der Stand ist ehrlicherweise: offen. Es gibt erste Entscheidungen in beide Richtungen — deutsche Gerichte haben sowohl zugunsten der Auswertung im Forschungskontext als auch zugunsten von Rechteinhabern entschieden, wenn ein Modell geschützte Inhalte erkennbar wiedergab. Beide Richtungen sind bislang keine höchstrichterliche Klärung.

Wer hat Rechte an dem, was ein Modell erzeugt?

Nach deutschem Urheberrecht setzt Schutz eine persönliche geistige Schöpfung voraus — also einen Menschen. Rein maschinell erzeugte Inhalte sind daher grundsätzlich nicht urheberrechtlich geschützt.

Das hat zwei Seiten, die beide selten mitgedacht werden:

Erstens: Wer sich auf generierte Texte oder Bilder als eigenes geschütztes Werk verlassen will, kann das nicht. Ein rein generiertes Logo ist nicht geschützt; jeder darf es verwenden. Sobald ein Mensch schöpferisch gestaltet — auswählt, anordnet, bearbeitet —, kann Schutz an diesem menschlichen Beitrag entstehen.

Zweitens, und praktisch wichtiger: Generierter Code ist nicht automatisch frei von Rechten Dritter. Dass am Ergebnis kein eigenes Urheberrecht entsteht, heißt nicht, dass daran keine fremden bestehen. Wenn ein Modell einen längeren Ausschnitt aus geschütztem Trainingsmaterial faktisch wiedergibt, ist das ein Problem — unabhängig davon, dass es eine Maschine getan hat. Einige Anbieter bieten Filter gegen wörtliche Übernahmen und teils Freistellungszusagen an; das ist der praktische Umgang mit einem ungelösten Punkt. Mehr dazu in KI-Coding-Assistenten.

Ethik: die Fragen vor dem Recht

Ethik ist der Teil, der geregelt gehört, bevor jemand ein Gesetz dazu macht. Vier konkrete Fragen statt eines Prinzipienkatalogs.

Transparenz gegenüber Nutzenden. Weiß der Mensch am anderen Ende, dass er mit einer Maschine spricht? Weiß er, dass seine Eingaben gespeichert werden? Die rechtliche Pflicht dazu ist das Minimum; die ethische Frage ist, ob die Information auch ankommt oder nur formal erfüllt wird.

Diskriminierung durch Trainingsdaten. Ein System, das aus vergangenen Entscheidungen lernt, lernt auch die Ungleichbehandlung darin. Das passiert ohne Absicht und ist ohne gezielte Prüfung unsichtbar. Wer ein System für Personalauswahl oder Kreditvergabe baut, muss auf Gruppenunterschiede testen — und zwar bevor es produktiv geht.

Verantwortung für automatisierte Entscheidungen. Die Frage lautet nicht „wer ist schuld", sondern „wer entscheidet". Solange ein Mensch die Letztentscheidung trifft und sie tatsächlich treffen kann — also Zeit, Information und Befugnis hat, anders zu entscheiden —, ist die Verantwortung klar. Eine Aufsicht, die faktisch nur bestätigt, ist keine.

Arbeitsbedingungen bei der Datenaufbereitung. Der Punkt, der in Ethikdebatten am seltensten vorkommt: Trainingsdaten werden von Menschen gekennzeichnet und gefiltert, häufig unter schlechten Bedingungen und mit belastenden Inhalten. Wer Modelle einsetzt, profitiert davon.

Als Rahmen lassen sich die vier Prinzipien aus der Medizinethik sinnvoll übertragen: Nutzen stiften, nicht schaden, Selbstbestimmung achten, gerecht verteilen. Sie beantworten keine Einzelfrage, aber sie sortieren die Diskussion. Die Risiken, die dahinterstehen, behandle ich ausführlich in Wie gefährlich ist künstliche Intelligenz?.

KI im Unternehmen einführen

Was ein mittelständisches Unternehmen tatsächlich braucht — keine Konzernstruktur, aber auch nicht nichts.

Eine Richtlinie. Zwei Seiten reichen: welche Werkzeuge freigegeben sind, was eingegeben werden darf und was nicht, wer zu fragen ist. Der häufigste Fehler ist keine zu schwache Richtlinie, sondern gar keine — dann nutzen alle private Zugänge, und niemand weiß, wo die Daten liegen.

Ein Freigabeprozess für neue Werkzeuge. Eine Person, die prüft: Auftragsverarbeitungsvertrag vorhanden? Trainingsnutzung ausgeschlossen? Verarbeitungsort bekannt? Das dauert pro Werkzeug eine halbe Stunde.

Schulung. Seit der KI-Kompetenzpflicht keine Kür mehr. Inhaltlich reicht wenig: was die Systeme können, was sie nicht können, und was nicht hineingehört.

Betriebsvereinbarung. In Deutschland und Österreich sind Werkzeuge, die laufend Eingaben an einen Anbieter senden, in aller Regel mitbestimmungspflichtig, weil sie zur Verhaltens- und Leistungskontrolle geeignet sind. Das früh anzugehen ist deutlich einfacher, als es nachzuholen.

Verzeichnis der Verarbeitungstätigkeiten. Der KI-Einsatz gehört hinein wie jede andere Verarbeitung.

Was in Österreich und der Schweiz gilt

Deutschland und Österreich. KI-Verordnung und DSGVO gelten unmittelbar in beiden Ländern. Die Unterschiede liegen in der Aufsicht: In Deutschland ist die Zuständigkeit auf mehrere Stellen verteilt, in Österreich wurde eine KI-Servicestelle bei der Rundfunk und Telekom Regulierungs-GmbH als Anlaufstelle eingerichtet — für Unternehmen der praktischere Einstiegspunkt. Im Datenschutz gelten neben der DSGVO jeweils nationale Ergänzungen; im Arbeitnehmerdatenschutz und in der Mitbestimmung unterscheiden sich beide Länder spürbar.

Schweiz. Die KI-Verordnung gilt nicht unmittelbar. Sie wirkt trotzdem: Wer Systeme in der EU anbietet oder deren Ausgaben dort verwendet werden, fällt in ihren Anwendungsbereich. Für den Datenschutz gilt das revidierte Datenschutzgesetz, das seit September 2023 in Kraft ist und der DSGVO in vielen Punkten ähnelt, ohne mit ihr identisch zu sein — Unterschiede gibt es unter anderem bei den Bußgeldern, die sich in der Schweiz gegen natürliche Personen richten können. Ein eigenes KI-Gesetz gibt es bislang nicht; die Schweiz setzt auf bestehendes Recht und sektorale Regeln.

Die praktische Folge für Unternehmen mit Standorten in mehreren Ländern: Richte dich am strengsten Standard aus. Der Aufwand, drei Regelwerke parallel zu erfüllen, ist regelmäßig höher als der, überall die strengsten Anforderungen anzuwenden — und die Alternative ist erfahrungsgemäß, dass niemand mehr weiß, welche Regel wo gilt.

Was das für den Bau eines Systems heißt

Die Checkliste, die diesen Artikel für Entwickler nützlich macht:

• Eingaben und Ausgaben protokollieren — mit Zeitpunkt, Modell und Nutzer. Ohne Protokoll ist keine Pflicht nachweisbar und kein Vorfall aufklärbar.
• Generierte Inhalte kennzeichnen — sichtbar für Nutzende, nicht im Impressum.
• Quellen mitliefern, wo es geht. Eine belegte Antwort ist prüfbar; das ist der praktische Grund für abrufgestützte Systeme.
• Eingabefilter gegen offensichtliche personenbezogene Daten und Zugangsdaten.
• Modellwechselfähigkeit — die Anbindung so bauen, dass ein Anbieterwechsel möglich ist. Das ist auch eine rechtliche Vorsorge, nicht nur eine technische.
• Löschpfade für Verläufe, Protokolle und abgeleitete Daten. Ein Löschanspruch muss technisch erfüllbar sein.
• Menschliche Letztentscheidung überall dort, wo die Ausgabe Folgen für Personen hat — mit echter Eingriffsmöglichkeit.
• Rechte begrenzen, besonders bei agentischen Systemen. Die technische Seite steht in KI-Sicherheit: Prompt Injection und Datenabfluss und in KI-Agenten-Frameworks im Vergleich.

Häufige Fragen

Was hat künstliche Intelligenz mit Ethik zu tun? Sie trifft oder bereitet Entscheidungen vor, die Menschen betreffen — bei Bewerbungen, Krediten, Diagnosen. Damit stellen sich Fragen nach Transparenz, Gleichbehandlung und Verantwortung, bevor ein Gesetz sie beantwortet.

Welche ethischen Probleme stellt künstliche Intelligenz dar? Vor allem vier: fehlende Transparenz gegenüber Nutzenden, Diskriminierung durch Trainingsdaten, unklare Verantwortung bei automatisierten Entscheidungen und die Arbeitsbedingungen bei der Datenaufbereitung.

Was regelt der AI Act? Er ordnet KI-Systeme nach Anwendungsfall in Risikoklassen ein und knüpft daran gestaffelte Pflichten — von Verboten über umfangreiche Anforderungen bei hohem Risiko bis zu bloßen Transparenzpflichten.

Darf ich personenbezogene Daten in ein Sprachmodell eingeben? Ja, wenn die Voraussetzungen jeder Verarbeitung erfüllt sind: Rechtsgrundlage, Zweck, Information der Betroffenen und ein Auftragsverarbeitungsvertrag mit dem Anbieter. Ohne diesen Vertrag nicht.

Wem gehört von KI erzeugter Code oder Text? Rein maschinell Erzeugtes ist nach deutschem Recht nicht urheberrechtlich geschützt, weil es an der menschlichen Schöpfung fehlt. Das heißt aber nicht, dass keine fremden Rechte daran bestehen können.

Was gilt in Österreich und der Schweiz? In Österreich dasselbe EU-Recht wie in Deutschland, mit einer eigenen KI-Servicestelle als Anlaufstelle. In der Schweiz gilt die KI-Verordnung nicht unmittelbar, wirkt aber über den Marktzugang; für den Datenschutz gilt das revidierte Datenschutzgesetz.

Zusammenfassung und praktische Tipps

• Nicht die Technik wird reguliert, sondern der Anwendungsfall. Dasselbe Modell kann in zwei Anwendungen in zwei Risikoklassen fallen.
• Die Pflicht zur KI-Kompetenz gilt unabhängig von der Risikoklasse und wird am häufigsten übersehen.
• Die Eingabe ist die Verarbeitung. Dort setzen alle Datenschutzpflichten an.
• Auftragsverarbeitungsvertrag und Trainingsnutzung sind die beiden Punkte, an denen kostenlose Tarife für personenbezogene Daten ausscheiden.
• Was einmal in Trainingsdaten ist, bekommt man nicht zuverlässig heraus.
• Rein maschinell Erzeugtes ist nicht geschützt — und trotzdem nicht automatisch frei von fremden Rechten.
• Lokale Modelle lösen mehrere Rechtsfragen auf einmal, zum Preis von Leistung.
• Mit Standorten in mehreren Ländern: am strengsten Standard ausrichten.

Mein Rat: Fang nicht mit dem Gesetzestext an, sondern mit einer Liste der KI-Werkzeuge, die in deinem Unternehmen tatsächlich benutzt werden — einschließlich der privaten Zugänge, die niemand gemeldet hat. Diese Liste ist erfahrungsgemäß länger als erwartet und beantwortet die dringendste Frage von selbst: Wo fließen gerade Daten ab, von denen niemand weiß? Alles Weitere — Richtlinie, Freigabe, Schulung — ergibt sich daraus. Und für den konkreten Einzelfall gilt weiterhin der Hinweis vom Anfang: Dieser Artikel ordnet ein, er berät nicht.

Ressourcen

• Verordnung (EU) 2024/1689 über künstliche Intelligenz – der Rechtstext mit Risikoklassen und Fristen
• Europäische Datenschutzbeauftragte und -behörden: Stellungnahmen zu KI – Auslegungshinweise zum Zusammenspiel von DSGVO und KI
• KI-Servicestelle der RTR (Österreich) – nationale Anlaufstelle für Unternehmen
• Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter – Schweizer Datenschutzrecht und Hinweise zu KI