Die wichtigsten Aspekte der KI Verordnung für Unternehmen im Überblick

Anwendungsbereich und Kernziele der KI-VO für Unternehmen

Die KI-VO für Unternehmen gilt seit dem 1. August 2024. Sie erfasst Unternehmen, die KI-Systeme in der Europäischen Union entwickeln, anbieten, importieren, vertreiben oder beruflich einsetzen. Auch Unternehmen außerhalb der EU können betroffen sein, wenn ihre KI-Ergebnisse in der EU genutzt werden oder das System hier auf den Markt gelangt.

Entscheidend sind nicht allein der Unternehmenssitz, sondern der konkrete Einsatz, der Marktbezug und die Funktion des jeweiligen Systems. Ein Unternehmen aus Deutschland kann daher ebenso erfasst sein wie ein Anbieter aus einem Drittstaat.

Welche Ziele verfolgt die KI-Verordnung?

Die KI-Verordnung soll den Einsatz künstlicher Intelligenz sicherer und nachvollziehbarer machen, Innovation ermöglichen und einheitliche Regeln im EU-Binnenmarkt schaffen. Im Mittelpunkt stehen:

• der Schutz von Gesundheit, Sicherheit und Grundrechten,
• ein verlässlicher Binnenmarkt für KI-Anwendungen,
• klare Verantwortlichkeiten entlang der KI-Wertschöpfungskette,
• mehr Transparenz bei bestimmten KI-Anwendungen und
• einheitliche Anforderungen an besonders risikoreiche Systeme.

Die Verordnung folgt keinem pauschalen Verbot. Sie unterscheidet zwischen erlaubten, regulierten und unzulässigen Anwendungen. Für Unternehmen bedeutet das: Nicht jede Nutzung löst denselben Aufwand aus. Der Prüfbedarf wächst mit dem möglichen Einfluss auf Menschen und gesellschaftliche Abläufe.

Welche Unternehmen müssen die KI-VO beachten?

Der persönliche Anwendungsbereich ist weit. Erfasst werden unter anderem private Unternehmen, Konzerne, Start-ups, öffentliche Stellen und Organisationen, die KI-Systeme geschäftlich verwenden. Auch ein Unternehmen, das keine eigene KI entwickelt, kann Pflichten haben, etwa wenn es ein System in einem sensiblen Arbeitsprozess einsetzt oder ein fremdes KI-System unter eigenem Namen anbietet.

Besonders wichtig ist die Abgrenzung zwischen bloßer interner Nutzung und eigener Bereitstellung. Wer ein fertiges System nur für interne Entwürfe verwendet, steht rechtlich meist anders da als ein Unternehmen, das daraus eine Kundenlösung entwickelt. Diese Unterscheidung sollte bereits bei der Beschaffung festgehalten werden.

Territorialer Bezug: Wann gilt die KI-VO auch für Unternehmen außerhalb der EU?

Die KI-VO für Unternehmen hat grenzüberschreitende Wirkung. Ein Anbieter aus den USA, dem Vereinigten Königreich oder Asien kann unter die Verordnung fallen, wenn die von ihm bereitgestellte KI in der EU angeboten wird oder ihre Ergebnisse hier verwendet werden. So soll verhindert werden, dass sich Anbieter allein durch einen Unternehmenssitz außerhalb der EU den Regeln entziehen.

Für Unternehmen in der EU entstehen dadurch auch Anforderungen an Lieferantenverträge. Vor dem Einkauf eines KI-Dienstes sollte geklärt werden, wo das System betrieben wird, welche Version eingesetzt wird und welche Informationen der Anbieter zur Konformität bereitstellt.

Was fällt nicht oder nur eingeschränkt unter die KI-VO?

Die Verordnung gilt nicht unterschiedslos für jede Software. Bestimmte Tätigkeiten außerhalb des EU-Rechtsrahmens sowie rein persönliche, nicht berufliche Nutzungen können ausgenommen sein. Auch Forschungs-, Test- und Entwicklungsarbeiten können unter bestimmten Voraussetzungen anders behandelt werden, solange das System noch nicht regulär auf dem Markt bereitgestellt wird.

Diese Ausnahmen sind eng zu lesen. Sobald ein Forschungsprojekt in ein kommerzielles Produkt übergeht, kann sich die rechtliche Bewertung ändern. Ein interner Prototyp ist also nicht automatisch dauerhaft privilegiert. Unternehmen sollten den Übergang von Entwicklung zu Vertrieb zeitlich und sachlich dokumentieren.

Warum der Einsatzzweck den Ausschlag gibt

Die rechtliche Bewertung hängt stark davon ab, wofür ein System eingesetzt wird. Eine Anwendung zur Sortierung interner Dokumente kann anders zu beurteilen sein als dieselbe technische Grundlage bei Bewerbungen, Kreditentscheidungen oder der Bewertung von Lernleistungen. Die Technik allein entscheidet nicht, sondern ihr Einsatzkontext.

Für die Praxis empfiehlt sich deshalb eine kurze Zweckbeschreibung mit vier Angaben:

• Welche Aufgabe übernimmt das System?
• Welche Personen oder Gruppen sind betroffen?
• Welche Handlung folgt auf das Ergebnis?
• Wie stark kann das Ergebnis eine Entscheidung beeinflussen?

Diese Angaben bilden den Ausgangspunkt für die späteren Prüfungen. Sie helfen außerdem, Anforderungen aus der KI-Verordnung mit Datenschutz, Arbeitsrecht, Produktsicherheit und Branchenregeln zusammenzuführen.

Rollenverteilung: Anbieter, Betreiber und weitere Wirtschaftsakteure

Für die KI-VO in Unternehmen zählt nicht nur, wer ein System programmiert hat. Entscheidend ist, welche Funktion ein Unternehmen in der Liefer- und Nutzungskette übernimmt. Dieselbe Anwendung kann je nach Geschäftsmodell unterschiedliche rechtliche Pflichten auslösen.

Die Rolle sollte deshalb für jedes System einzeln festgehalten werden. Eine pauschale Einstufung des gesamten Unternehmens reicht meist nicht aus.

• Anbieter: Eine natürliche oder juristische Person entwickelt ein KI-System oder lässt es entwickeln und stellt es unter eigenem Namen oder eigener Marke bereit. Auch eine wesentliche Veränderung eines bestehenden Systems kann zur Anbieterrolle führen.
• Betreiber: Ein Unternehmen nutzt ein KI-System unter eigener Verantwortung im Rahmen seiner beruflichen Tätigkeit. Dazu zählt auch der Einsatz eines extern eingekauften Dienstes.
• Bevollmächtigter: Ein in der EU ansässiger Vertreter handelt für einen Anbieter außerhalb der Union. Seine Aufgaben richten sich nach dem schriftlichen Auftrag und den Vorgaben der KI-Verordnung.
• Produkthersteller: Ein Hersteller kann zusätzlich als Anbieter gelten, wenn ein KI-System zusammen mit einem Produkt unter seinem Namen vermarktet oder in Betrieb genommen wird.
• Einführer: Wer ein KI-System aus einem Drittstaat in der EU auf den Markt bringt, muss vor der Bereitstellung bestimmte Angaben und Verantwortlichkeiten prüfen.
• Händler: Händler stellen Systeme innerhalb der Vertriebskette bereit. Sie müssen insbesondere erkennbare formale Mängel beachten und dürfen nicht einfach jedes System weiterverkaufen.

Die Bezeichnung „Nutzer“ ist im Geschäftsalltag oft zu ungenau. Eine Person, die eine Anwendung öffnet, ist nicht automatisch der rechtlich verantwortliche Betreiber. Maßgeblich ist, ob das Unternehmen den Einsatz im Rahmen seiner beruflichen Tätigkeit steuert oder veranlasst.

Bezieht ein Betrieb einen fertigen Textdienst und verwendet ihn für interne Entwürfe, spricht vieles für eine Betreiberrolle. Entwickelt derselbe Betrieb daraus jedoch eine eigene Kundenplattform und tritt mit dieser Lösung am Markt auf, können zusätzliche Anbieterpflichten entstehen.

Besonders heikel ist das sogenannte Rollenwechsel-Risiko. Es entsteht etwa, wenn ein Unternehmen:

• ein fremdes System mit eigener Marke versieht,
• die Zweckbestimmung deutlich verändert,
• ein allgemeines KI-Modell in ein sensibles Fachprodukt einbettet,
• wesentliche technische Änderungen vornimmt oder
• die Ergebnisse als Teil einer eigenen Dienstleistung weitergibt.

Verträge mit Anbietern sollten daher nicht nur Preise und Verfügbarkeit regeln. Sinnvoll sind auch klare Angaben zum vorgesehenen Zweck, zu Versionsänderungen, zu technischen Grenzen, zu Mitwirkungspflichten und zur Unterstützung bei behördlichen Anfragen.

Für die interne Zuordnung genügt zunächst eine kurze Rollenakte je System. Sie sollte mindestens enthalten:

• Name und Version der Anwendung,
• Vertragspartner und Herkunft des Systems,
• verantwortliche Abteilung,
• geplante Nutzergruppen,
• Art der Anpassungen und Einbindung,
• Entscheidung, ob das Unternehmen Anbieter oder Betreiber ist,
• Datum der letzten Rollenprüfung.

Diese Zuordnung ist kein einmaliger Verwaltungsakt. Ändert sich das Produkt, die Vermarktung oder der Einsatz, kann sich auch die rechtliche Rolle verschieben.

Risikoklassen, Pflichten und Verantwortlichkeiten nach der KI-Verordnung

KI-Systeme rechtssicher erkennen und von regelbasierten Systemen abgrenzen

Für die KI-VO in Unternehmen beginnt die Prüfung vor der Risikoklasse: Zuerst muss feststehen, ob überhaupt ein KI-System vorliegt. Der Name des Produkts hilft dabei kaum. Begriffe wie „Automatisierung“, „intelligente Suche“ oder „Assistenzfunktion“ sind keine rechtlichen Kategorien.

Maßgeblich ist die technische Arbeitsweise. Ein System fällt typischerweise unter die KI-Definition, wenn es aus Eingaben selbstständig Ableitungen erzeugt und daraus etwa Inhalte, Prognosen, Empfehlungen oder Entscheidungen erstellt. Das kann auch dann gelten, wenn die Anwendung nur einen eng begrenzten Arbeitsschritt übernimmt.

Ein regelbasiertes System arbeitet dagegen nach festgelegten Anweisungen. Es führt Wenn-dann-Regeln, Schwellenwerte oder feste Berechnungen aus. Die Ergebnisse ändern sich nur, wenn Menschen die Regeln, Parameter oder Datenbestände anpassen.

• Regelbasiert: Ein festgelegter Grenzwert löst immer dieselbe Aktion aus.
• Statistisch auswertend: Das System berechnet Werte nach vorgegebenen Formeln.
• KI-gestützt: Das System leitet aus Daten oder Eingaben Muster, Inhalte, Bewertungen oder Handlungsvorschläge ab.

Die Grenze verläuft nicht zwischen „automatisch“ und „manuell“. Auch ein vollautomatischer Taschenrechner ist deshalb nicht ohne Weiteres ein KI-System. Umgekehrt kann eine Anwendung mit menschlicher Freigabe als KI-System gelten, wenn ihre Vorschläge oder Ergebnisse durch ein lernendes oder ableitendes Verfahren entstehen.

Für die Einordnung sollten Unternehmen die tatsächliche Funktionslogik untersuchen. Eine Produktbeschreibung reicht dafür oft nicht. Hilfreicher sind technische Unterlagen, Architekturdiagramme, Angaben zum Training und eine Beschreibung des Ausgabeverfahrens.

Folgende Fragen schaffen eine belastbare erste Abgrenzung:

• Erzeugt das System neue Inhalte oder nur vorher festgelegte Ausgaben?
• Leitet es aus Eingaben Wahrscheinlichkeiten, Muster oder Empfehlungen ab?
• Kann es mit unstrukturierten Daten wie Texten, Bildern oder Sprache umgehen?
• Verändert sich sein Verhalten durch Training, Feinabstimmung oder laufende Anpassung?
• Gibt es mehrere plausible Ergebnisse statt nur einer fest programmierten Antwort?
• Beeinflusst die Ausgabe eine Entscheidung, einen Arbeitsablauf oder eine Umgebung?

Ein einfaches Beispiel: Eine Software verschiebt Rechnungen anhand fester Dateinamen in Ordner. Das spricht für eine klassische Regelautomatisierung. Erkennt eine andere Anwendung dagegen den Inhalt von Rechnungen, ordnet sie Positionen Kategorien zu und schlägt selbstständig Buchungscodes vor, deutet dies auf ein KI-System hin.

Besondere Sorgfalt verlangt die Kombination mehrerer Komponenten. Ein KI-Modell allein ist nicht zwingend das vollständige Produkt. Erst das Zusammenspiel mit Eingabemaske, Datenbank, Bewertungslogik, Schnittstellen und Ausgabefunktion kann den relevanten Systemzweck ergeben. Für die KI-Verordnung für Unternehmen sollte daher die gesamte Anwendung betrachtet werden, nicht nur der Modellname.

Auch ein extern bezogener Dienst bleibt prüfpflichtig. Unternehmen sollten beim Anbieter gezielt nachfragen:

• Welche technischen Verfahren werden eingesetzt?
• Welche Eingaben verarbeitet das System?
• Welche Arten von Ausgaben erzeugt es?
• Wird das Modell trainiert oder nachträglich angepasst?
• Welche Funktionen gehören zum eigentlichen System?
• Welche Änderungen werden automatisch ausgerollt?

Die Antworten gehören in die Systemakte. Fehlen technische Angaben, sollte das Unternehmen die Nutzung nicht einfach als „normale Software“ einstufen. Eine unklare Dokumentation ist kein Beleg dafür, dass die KI-VO nicht gilt.

Für eine nachvollziehbare Entscheidung genügt zunächst ein kurzer Prüfvermerk mit Funktionsbeschreibung, Anbieterangaben, Version, Einsatzbereich und Begründung. Ändert sich die Architektur oder kommt eine neue Funktion hinzu, muss die Abgrenzung erneut erfolgen.

Risikoklassen der KI-VO und ihre Bedeutung für Unternehmen

Die Risikoklassen der KI-VO bestimmen, wie streng ein Unternehmen eine Anwendung prüfen und steuern muss. Für die KI-VO in Unternehmen zählt dabei nicht nur die technische Leistungsfähigkeit. Entscheidend ist vor allem, welchen Schaden ein System verursachen kann und wie stark es Menschen, Rechte oder kritische Abläufe beeinflusst.

Die Einstufung folgt einem abgestuften Modell. Neben verbotenen Anwendungen und Hochrisiko-Systemen gibt es Systeme mit besonderen Transparenzpflichten sowie Anwendungen mit geringem oder keinem zusätzlichen Risiko.

• Unannehmbares Risiko: Bestimmte Praktiken sind untersagt.
• Hohes Risiko: Strenge Anforderungen gelten für Entwicklung, Bereitstellung und Nutzung.
• Begrenztes Risiko: Vor allem Informations- und Kennzeichnungspflichten können greifen.
• Minimales oder kein besonderes Risiko: Die KI-VO verlangt meist keine speziellen Maßnahmen, andere Gesetze bleiben aber anwendbar.

Bei der Bewertung sollten Unternehmen zwischen drei Ebenen unterscheiden:

• Technik: Welche Funktionen und Modelle verwendet die Anwendung?
• Zweck: Welche Aufgabe erfüllt sie im Geschäftsprozess?
• Auswirkung: Welche Folgen kann eine fehlerhafte oder verzerrte Ausgabe haben?

Ein Schreibassistent für interne Notizen liegt meist in einer anderen Kategorie als ein System, das Bewerbungen vorsortiert oder den Zugang zu einer wesentlichen Leistung beeinflusst. Selbst ähnliche Software kann daher unterschiedlich eingestuft werden.

Für Unternehmen bietet sich eine Risikomatrix mit vier Prüffeldern an: betroffene Personen, Entscheidungsspielraum, Schadenshöhe und Ersetzbarkeit der Entscheidung. Je mehr Personen betroffen sind, je schwerer ein Fehler wiegt und je weniger eine Entscheidung korrigiert werden kann, desto intensiver sollte die Prüfung ausfallen.

Die Risikoklasse kann sich außerdem verändern. Neue Funktionen, zusätzliche Datenquellen oder ein anderer Verwendungszweck führen möglicherweise zu einer Neubewertung. Ein System, das zunächst nur Texte zusammenfasst, kann durch eine spätere Bewertungsfunktion in einen deutlich sensibleren Bereich rutschen.

Für eine belastbare Einstufung sollten Unternehmen deshalb auch Änderungsprüfungen vorsehen bei:

• neuen Modellversionen,
• neuen Nutzergruppen,
• neuen Entscheidungsempfehlungen,
• zusätzlichen Datenarten,
• der Einbindung in Produkte oder Kundenportale.

Bei KI-Systemen mit allgemeinem Verwendungszweck kommt eine weitere Ebene hinzu. Solche Modelle können für viele Aufgaben genutzt werden. Ihre Risiken hängen daher nicht allein vom Modell selbst ab, sondern auch von der konkreten Einbettung. Ein allgemeines Modell für Recherche ist anders zu bewerten als dieselbe Grundlage in einer Anwendung für Personalentscheidungen.

Unternehmen sollten die Risikoklasse mit einer nachvollziehbaren Begründung versehen. Ein kurzer Vermerk ist besser als eine bloße Ampelfarbe. Er sollte erklären, welche Tatsachen zur Einstufung geführt haben und wann die Bewertung erneut erfolgt.

Verbotene KI-Praktiken: Diese Anwendungen dürfen Unternehmen nicht einsetzen

Für Unternehmen beginnt die Prüfung nicht bei der Frage nach technischen Pflichten, sondern bei einem möglichen Ausschluss. Die KI-VO für Unternehmen verbietet bestimmte KI-Praktiken vollständig. Solche Anwendungen dürfen weder bereitgestellt noch im eigenen Betrieb eingesetzt werden. Eine gute Absicht oder ein wirtschaftlicher Nutzen ändert daran nichts.

Die Verbote stehen vor allem in Artikel 5 der Verordnung (EU) 2024/1689. Sie betreffen Anwendungen, die Menschen manipulieren, ihre Schwächen ausnutzen, sie unzulässig bewerten oder besonders sensible biometrische Daten auf problematische Weise verwenden.

Zu den wichtigsten verbotenen Praktiken gehören:

• Manipulative oder täuschende Systeme: KI darf nicht gezielt subliminale Techniken oder täuschende Methoden einsetzen, wenn dadurch das Verhalten einer Person wesentlich beeinflusst wird und ein erheblicher Schaden entstehen kann.
• Ausnutzung besonderer Schutzbedürftigkeit: Verboten ist die gezielte Ausnutzung von Alter, Behinderung oder schwieriger sozialer oder wirtschaftlicher Lage, wenn dadurch eine schädliche Verhaltensänderung bewirkt werden kann.
• Social Scoring: Personen dürfen nicht anhand ihres sozialen Verhaltens oder persönlicher Merkmale bewertet werden, wenn daraus eine ungerechtfertigte oder unverhältnismäßige Benachteiligung folgt.
• Vorhersage von Straftaten allein anhand persönlicher Merkmale: Eine solche Bewertung darf nicht die alleinige Grundlage für eine strafrechtliche Risikoprognose bilden.
• Unzulässige biometrische Kategorisierung: Biometrische Daten dürfen nicht dazu genutzt werden, sensible Eigenschaften wie politische Ansichten, Gewerkschaftszugehörigkeit, religiöse Überzeugungen oder sexuelle Orientierung abzuleiten.
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen: Systeme zur Erkennung von Emotionen sind dort grundsätzlich untersagt, sofern keine eng begrenzte Ausnahme greift.
• Ungezieltes Sammeln von Gesichtsbildern: Das massenhafte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoaufnahmen zum Aufbau von Gesichtserkennungsdatenbanken ist verboten.
• Bestimmte biometrische Echtzeit-Fernidentifizierung: Der Einsatz im öffentlich zugänglichen Raum ist für Strafverfolgungszwecke grundsätzlich untersagt, vorbehaltlich gesetzlich geregelter Ausnahmen.

Ein häufiger Fehler ist die Gleichsetzung von „nützlich“ mit „zulässig“. Ein Unternehmen darf ein verbotenes System nicht dadurch rechtfertigen, dass es Kosten senkt, Sicherheitsrisiken erkennt oder Personal entlastet. Entscheidend sind die konkrete Methode und ihre Wirkung.

Bei biometrischen Anwendungen ist außerdem der Zweck ausschlaggebend. Eine gewöhnliche Zugangskontrolle kann anders zu bewerten sein als eine Anwendung, die Gesichter aus öffentlichen Kamerabildern abgleicht. Auch eine angebliche Sicherheitsfunktion braucht daher eine genaue rechtliche Prüfung.

Für die KI-Verordnung in Unternehmen empfiehlt sich vor jeder Beschaffung ein kurzer Verbots-Check:

• Beeinflusst das System Personen auf verdeckte oder täuschende Weise?
• Nutzt es eine persönliche Schwäche gezielt aus?
• Vergibt es soziale Bewertungen oder Rangfolgen?
• Leitet es geschützte Eigenschaften aus biometrischen Daten ab?
• Erkennt es Emotionen bei Beschäftigten oder Lernenden?
• Sammelt es Gesichtsbilder ohne klar begrenzten und zulässigen Zweck?
• Identifiziert es Personen aus der Ferne in öffentlich zugänglichen Bereichen?

Die Prüfung sollte nicht nur das fertige Produkt erfassen. Auch einzelne Module, Testumgebungen und Pilotprojekte können problematisch sein, wenn sie bereits reale Personen bewerten oder biometrische Daten verarbeiten. Ein „Proof of Concept“ ist kein Freifahrtschein.

Unternehmen sollten ihre Beschaffungsunterlagen um eine ausdrückliche Zusicherung ergänzen, dass keine verbotene Praxis vorgesehen ist. Die Erklärung des Anbieters genügt zwar nicht als alleiniger Nachweis, schafft aber eine wichtige Prüfspur und zwingt beide Seiten, den Verwendungszweck konkret zu beschreiben.

Für die Einordnung gelten Ausnahmen und Sonderregeln. Diese sind eng gefasst und betreffen vor allem bestimmte staatliche Aufgaben. Private Unternehmen sollten deshalb nicht davon ausgehen, dass eine Ausnahme automatisch auf ihren geschäftlichen Einsatz übertragbar ist.

Wer eine verbotene Anwendung entdeckt, sollte sie nicht weiter testen oder stillschweigend umbenennen. Der sichere Weg ist: Nutzung stoppen, Zugriff sperren, Sachverhalt dokumentieren und die rechtliche Bewertung klären.

Hochrisiko-KI in sensiblen Geschäftsbereichen

Hochrisiko-KI betrifft Geschäftsprozesse, in denen automatisierte Ausgaben über Chancen, Pflichten oder den Zugang zu wichtigen Leistungen mitentscheiden. Für Unternehmen ist deshalb nicht nur die Technik relevant. Entscheidend ist, welche praktische Wirkung das System auf Menschen und Organisationen entfaltet.

Die sensiblen Einsatzfelder ergeben sich vor allem aus Anhang III der KI-Verordnung. Dazu zählen insbesondere Beschäftigung, Bildung, kritische Infrastruktur, wesentliche private und öffentliche Dienste, Migration, Strafverfolgung, Rechtspflege und demokratische Prozesse.

In diesen Bereichen kann schon eine unterstützende Funktion erheblich sein. Ein System muss keine endgültige Entscheidung treffen. Es reicht, wenn seine Bewertung die Auswahl, Priorisierung oder Behandlung einer Person spürbar beeinflusst.

• Personalwesen: Bewerbungen filtern, Leistungen bewerten, Beförderungen empfehlen oder Schichten planen.
• Bildung: Prüfungen bewerten, Lernende einstufen oder Zugänge zu Bildungsangeboten beeinflussen.
• Kritische Infrastruktur: Energie-, Verkehrs- oder Wassernetze überwachen und sicherheitsrelevante Abläufe steuern.
• Finanzielle und öffentliche Leistungen: Kreditwürdigkeit, Versicherungsbedingungen oder den Zugang zu grundlegenden Diensten bewerten.
• Migration und Grenzverwaltung: Anträge, Identitäten oder Sicherheitsmerkmale analysieren.
• Rechtspflege und demokratische Prozesse: bei der Beweisauswertung, Rechtsanwendung oder Wahlorganisation unterstützen.

Besonders heikel ist der Einsatz im Personalbereich. Eine Software, die nur Termine koordiniert, ist nicht automatisch kritisch. Bewertet sie dagegen Lebensläufe, Gesprächsaufzeichnungen oder Leistungsdaten und erstellt daraus eine Rangfolge, steigt das rechtliche Gewicht deutlich. Für die KI-VO in Unternehmen zählt dann die konkrete Entscheidungskette.

Auch bei Kundenentscheidungen lauern Fallstricke. Ein Modell, das lediglich Betrugsfälle zur Prüfung markiert, kann anders einzuordnen sein als ein System, das Anträge automatisch ablehnt. Je weniger Raum für Korrektur bleibt, desto sorgfältiger muss der Prozess gestaltet werden.

Unternehmen sollten bei sensiblen Anwendungen vier Ebenen getrennt betrachten:

• Eingabe: Welche Daten fließen ein und wie aktuell sind sie?
• Bewertung: Welche Merkmale nutzt das System für seine Einschätzung?
• Ausgabe: Entsteht ein Text, ein Score, eine Empfehlung oder eine Entscheidung?
• Folge: Welche konkrete Handlung wird dadurch ausgelöst?

Diese Trennung verhindert, dass ein unauffälliges Einzelmodul den Blick auf den gesamten Prozess verstellt. Ein Score mag technisch nur eine Zahl sein. Im Betrieb kann er jedoch über eine Einstellung, einen Vertrag oder eine Leistung entscheiden.

Für die Einstufung ist zudem die Produktanbindung wichtig. Gehört die KI zu einem regulierten Produkt oder übernimmt sie eine Sicherheitsfunktion, greifen besondere Regeln. Bei Anwendungen in Anhang-III-Bereichen kommt es dagegen stark auf Zweck und Wirkung im jeweiligen Geschäftsprozess an.

Ein praktischer Prüfvermerk sollte daher nicht nur den Namen der Software nennen. Er sollte festhalten:

• den betroffenen Geschäftsprozess,
• die betroffene Personengruppe,
• die Art der ausgegebenen Empfehlung,
• die mögliche Benachteiligung durch Fehler,
• die Möglichkeit einer nachträglichen Korrektur,
• die Rolle der verantwortlichen Beschäftigten.

Für internationale Unternehmen ist die Lieferkette ein zusätzlicher Prüfpunkt. Ein zentral beschafftes System kann in verschiedenen Ländern unterschiedlich eingesetzt werden. Die Risikobewertung sollte deshalb auch lokale Prozesse und Rechtsfolgen abbilden.

Pflichten für Anbieter und Betreiber von Hochrisiko-KI

Bei Hochrisiko-KI verteilt die KI-Verordnung für Unternehmen die Verantwortung auf mehrere Ebenen. Anbieter müssen ein regelkonformes System bereitstellen. Betreiber müssen dafür sorgen, dass der Einsatz im Unternehmen kontrolliert, zweckgemäß und nachvollziehbar erfolgt. Ein Vertrag mit dem Hersteller verschiebt diese Verantwortung nicht automatisch.

Für Anbieter richtet sich der Pflichtenkatalog vor allem nach den Artikeln 8 bis 17 der Verordnung (EU) 2024/1689. Für Betreiber sind insbesondere die Vorgaben des Artikels 26 relevant. Die Anforderungen greifen nicht alle am selben Tag. Unternehmen sollten deshalb den jeweiligen Anwendungsbeginn der einzelnen Pflichten prüfen.

Anbieterpflichten betreffen den gesamten Lebenszyklus des Systems. Dazu gehören unter anderem:

• ein dokumentiertes Qualitätsmanagement,
• eine Bewertung und Behandlung vorhersehbarer Risiken,
• geeignete Daten-Governance für Trainings-, Validierungs- und Testdaten,
• eine technische Dokumentation in der vorgeschriebenen Form,
• automatische Aufzeichnungen bestimmter Systemvorgänge,
• eine verständliche Gebrauchsanweisung für Betreiber,
• ein Konformitätsbewertungsverfahren vor der Bereitstellung,
• die Anbringung der CE-Kennzeichnung, soweit erforderlich,
• die Registrierung in der EU-Datenbank und
• ein System für Korrekturmaßnahmen, Meldungen und Rücknahmen.

Die technische Dokumentation muss nicht nur das Modell beschreiben. Sie sollte auch Zweck, Architektur, Leistungsgrenzen, Prüfverfahren, Datenherkunft, Änderungen und bekannte Risiken abbilden. Ein einzelnes Datenblatt reicht dafür meistens nicht. Gerade bei späteren Modellversionen braucht es eine nachvollziehbare Änderungsakte.

Für Betreiber stehen andere Aufgaben im Mittelpunkt:

• Das System muss entsprechend der Gebrauchsanweisung eingesetzt werden.
• Die Eingabedaten müssen für den vorgesehenen Zweck relevant und ausreichend repräsentativ sein, soweit der Betreiber darauf Einfluss hat.
• Die Protokolle müssen angemessen aufbewahrt werden, sofern sie unter seiner Kontrolle stehen.
• Verantwortliche Personen brauchen ausreichende Kompetenz und Entscheidungsbefugnis.
• Die Nutzung muss bei konkreten Risiken angepasst oder beendet werden.
• Betroffene Beschäftigte und gegebenenfalls ihre Vertretungen müssen vor bestimmten Einsätzen informiert werden.
• Bei Entscheidungen über Personen sind die einschlägigen Informations- und Mitteilungspflichten zu beachten.

Die Pflicht zur Information der Beschäftigten ist besonders relevant, wenn ein Hochrisiko-System am Arbeitsplatz eingesetzt wird. Sie ergänzt die Beteiligungsrechte nach Arbeits- und Betriebsverfassungsrecht. Eine knappe Mitteilung wie „Wir nutzen jetzt KI“ wird dem Zweck der Regelung kaum gerecht. Erforderlich sind klare Angaben zur Funktion und zum Einfluss auf den Arbeitsprozess.

Betreiber sollten zudem eine Verantwortungsmatrix erstellen. Sie ordnet mindestens vier Aufgaben zu:

• Freigabe des vorgesehenen Einsatzes,
• laufende Überwachung der Nutzung,
• Bewertung von Fehlern und Vorfällen,
• Entscheidung über Änderung, Pause oder Abschaltung.

Diese Zuständigkeiten müssen praktisch funktionieren. Eine Person ohne Zugriff auf Protokolle oder ohne Befugnis zum Stoppen des Einsatzes kann keine wirksame Aufsicht leisten. Ebenso wenig genügt eine rein formale Benennung, wenn niemand die Ergebnisse fachlich einordnen kann.

Wer ein Hochrisiko-System wesentlich verändert oder unter eigenem Namen weitergibt, kann selbst zum Anbieter werden. Dann kommen zusätzliche Pflichten hinzu. Das ist bei internen Eigenentwicklungen, tiefen Anpassungen und kundenspezifischen Lösungen ein zentraler Prüfpunkt der KI-VO für Unternehmen.

Auch die Zusammenarbeit zwischen Anbieter und Betreiber sollte operativ geregelt sein. Sinnvoll sind Vereinbarungen zu:

• Versionen und Änderungsmitteilungen,
• Fehler- und Vorfallmeldungen,
• technischen Schnittstellen,
• Protokollzugriff und Aufbewahrung,
• Unterstützung bei Behördenkontakten,
• Schulung und Betriebsgrenzen,
• Beendigung des Dienstes und Datenexport.

Besondere Aufmerksamkeit verdient die sogenannte Grundrechte-Folgenabschätzung. Betreiber müssen sie in den von Artikel 27 erfassten Fällen vor der Nutzung eines Hochrisiko-Systems durchführen. Dabei werden unter anderem Zweck, betroffene Personengruppen, mögliche negative Folgen und vorhandene Schutzmaßnahmen betrachtet. Für bestimmte Unternehmen kann eine bereits vorhandene Datenschutz-Folgenabschätzung ein Ausgangspunkt sein; sie ersetzt die Prüfung aber nicht automatisch.

Die Rechtsfolgen bei Verstößen können erheblich sein. Die KI-VO sieht für bestimmte Zuwiderhandlungen Geldbußen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes vor, wobei der höhere Betrag maßgeblich sein kann. Die konkrete Sanktion hängt vom Verstoß, seiner Dauer, dem Verhalten des Unternehmens und weiteren Umständen ab.

Transparenz, menschliche Aufsicht und Cybersicherheit

Transparenz, menschliche Aufsicht und Cybersicherheit bilden drei getrennte Schutzlinien für Hochrisiko-KI. Für die KI-VO in Unternehmen bedeutet das: Betroffene müssen den Einsatz erkennen können, verantwortliche Personen müssen sinnvoll eingreifen können und das System muss gegen Manipulation geschützt sein.

Transparenz gegenüber betroffenen Personen ist besonders wichtig, wenn ein KI-System Menschen bewertet oder Entscheidungen vorbereitet. Beschäftigte müssen unter bestimmten Voraussetzungen über den Einsatz eines Hochrisiko-Systems am Arbeitsplatz informiert werden. Bei biometrischer Kategorisierung und Emotionserkennung gelten zusätzliche Informationsanforderungen, soweit die jeweilige Anwendung zulässig ist.

Die Information sollte klar und frühzeitig erfolgen. Eine versteckte Klausel in einer langen Datenschutzerklärung reicht nicht immer aus. Sinnvoll sind kurze Hinweise mit diesen Angaben:

• welche Funktion das System erfüllt,
• welche Personengruppen betroffen sind,
• ob das Ergebnis eine Entscheidung beeinflusst,
• wer für Rückfragen zuständig ist,
• wie eine Korrektur oder Beschwerde angestoßen werden kann.

Bei generativer KI kommen weitere Transparenzregeln hinzu. Künstlich erzeugte oder bearbeitete Inhalte müssen in bestimmten Fällen maschinenlesbar gekennzeichnet werden. Das betrifft etwa synthetische Bild-, Ton- oder Videoinhalte. Unternehmen sollten deshalb die Ausgabe nicht nur fachlich prüfen, sondern auch erkennen können, ob ein Kennzeichnungsmerkmal vorhanden ist.

Bei Texten, die veröffentlicht werden und die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, kann eine Offenlegung des KI-Einsatzes erforderlich sein. Ausnahmen bestehen unter anderem für redaktionelle Prozesse, wenn eine verantwortliche Person die Inhalte geprüft und die redaktionelle Verantwortung übernommen hat.

Menschliche Aufsicht ist mehr als ein Name in einer Organisationsgrafik. Die beaufsichtigende Person muss das System verstehen, seine Grenzen erkennen und eine Ausgabe kritisch bewerten können. Dafür braucht sie ausreichend Zeit, Informationen und Zugriff auf die nötigen Funktionen.

Wirksam wird die Aufsicht erst, wenn folgende Handlungen möglich sind:

• eine Ausgabe zurückweisen oder korrigieren,
• eine Entscheidung nicht allein auf das System stützen,
• den Prozess bei auffälligen Ergebnissen anhalten,
• das System vorübergehend deaktivieren,
• Fehler und unerwartete Muster melden.

Eine reine Bestätigung per Mausklick ist keine echte Kontrolle. Wenn Beschäftigte hundert automatische Vorschläge in kurzer Zeit abarbeiten müssen, entsteht leicht eine sogenannte Automationsverzerrung. Schulungen sollten daher nicht nur die Bedienung erklären, sondern auch typische Fehlermuster und Grenzen zeigen.

Cybersicherheit richtet sich bei KI-Systemen gegen mehr als gewöhnliche Schadsoftware. Angreifer können Eingaben manipulieren, Trainingsdaten verfälschen, interne Anweisungen auslesen oder das Modell mit gezielten Anfragen zu falschen Ausgaben bringen. Auch gestohlene Zugangsdaten und ungeschützte Programmierschnittstellen sind häufige Angriffspunkte.

Ein angemessenes Schutzkonzept sollte daher mindestens diese Bereiche abdecken:

• starke Authentifizierung und rollenbasierte Zugriffe,
• Trennung von Entwicklungs-, Test- und Produktivumgebung,
• Schutz vertraulicher Eingaben und Ausgaben,
• Prüfung eingebundener Datenquellen und Schnittstellen,
• Überwachung ungewöhnlicher Abfragen und Nutzungsmuster,
• regelmäßige Sicherheits- und Belastungstests,
• Notfallverfahren bei Manipulation oder Systemausfall.

Bei selbstlernenden oder regelmäßig aktualisierten Systemen muss die Sicherheitsprüfung wiederholt werden. Ein Update kann Funktionen verändern, neue Schnittstellen öffnen oder bisher unbekannte Schwächen erzeugen. Für die KI-Verordnung für Unternehmen ist deshalb ein fester Prüfpunkt vor der Freigabe neuer Versionen sinnvoll.

Bestandsschutz, Fristen und wesentliche Änderungen bis 2030

Für die KI-VO in Unternehmen ist das Datum der Bereitstellung allein nicht entscheidend. Bestandsschutz greift nur, wenn das System bereits vor dem maßgeblichen Stichtag rechtmäßig in Verkehr gebracht oder in Betrieb genommen wurde und danach nicht wesentlich verändert wird. Ein bloß abgeschlossener Kaufvertrag oder ein interner Test genügt dafür nicht automatisch.

Hochrisiko-Systeme, die vor dem 2. August 2026 bereitgestellt oder in Betrieb genommen wurden, können grundsätzlich unter die Übergangsregel fallen. Für Systeme, die von Behörden genutzt werden, endet diese Sonderregel spätestens am 2. August 2030. Unternehmen sollten den Status jedes Systems belegen können.

Eine belastbare Bestandsakte sollte mindestens folgende Nachweise enthalten:

• Datum des ersten Inverkehrbringens oder der Inbetriebnahme,
• damalige Version und technische Konfiguration,
• ursprünglicher Verwendungszweck,
• Vertrag oder Freigaben zur Bereitstellung,
• Liste späterer Änderungen,
• Bewertung, ob eine Änderung wesentlich war.

Schwierig wird es bei cloudbasierten Diensten. Der Anbieter kann das Modell im Hintergrund aktualisieren, ohne dass das Unternehmen selbst eine neue Software installiert. Deshalb sollten Verträge und Betriebsprozesse festlegen, wann ein Update gemeldet, geprüft oder zurückgewiesen werden muss. Ein Versionsprotokoll gehört hier praktisch zur KI-Verordnung für Unternehmen.

Relevant sind vor allem Eingriffe, die Zweck, Funktionsweise, Leistungsgrenzen oder Risikoprofil beeinflussen. Dazu zählen etwa:

• eine neue Entscheidungs- oder Bewertungsfunktion,
• ein Wechsel zu einer anderen Zielgruppe,
• die Nutzung zusätzlicher personenbezogener Merkmale,
• eine neue Einbindung in einen sicherheitsrelevanten Prozess,
• eine deutlich veränderte Modellarchitektur,
• eine Erweiterung der Ausgaben von Empfehlungen zu automatisierten Entscheidungen.

Eine reine Anpassung der Benutzeroberfläche ist meist anders zu bewerten als eine Änderung der Entscheidungslogik. Trotzdem sollte auch eine scheinbar kleine Änderung kurz eingeordnet werden. Ein knapper Vermerk mit Begründung ist später deutlich hilfreicher als die Erinnerung einzelner Beschäftigter.

Besondere Vorsicht gilt bei Eigenentwicklungen. Wird ein bestehendes System intern so umgebaut, dass es einen neuen Zweck erfüllt, kann der bisherige Bestandsschutz entfallen. Gleiches gilt, wenn ein Unternehmen das Produkt unter eigenem Namen weitergibt oder seine Funktionsweise wesentlich prägt.

Für die Fristenplanung bietet sich ein dreistufiges Verfahren an:

• Bis zum 2. August 2026: Bestandssysteme erfassen und den ursprünglichen Status sichern.
• Ab dem 2. August 2026: neue Hochrisiko-Systeme nur mit passender Konformitäts- und Betriebsplanung einsetzen.
• Bis zum 2. August 2030: behördlich genutzte Bestandssysteme abschließend auf die geltenden Anforderungen umstellen.

Diese Daten sind keine allgemeine Verlängerung für jede Pflicht der KI-VO. Andere Vorgaben, etwa zur Kompetenz von Beschäftigten oder zu bestimmten verbotenen Praktiken, gelten nach ihren eigenen Zeitplänen. Für KI-VO Unternehmen ist deshalb ein Fristenkalender besser als ein einziger Sammeltermin.

Bei einer Änderung sollte das Unternehmen vier Fragen beantworten:

• Was wurde technisch oder organisatorisch geändert?
• Verändert sich dadurch der vorgesehene Zweck?
• Kann die Änderung die Risikoeinstufung beeinflussen?
• Ist eine neue Prüfung, Registrierung oder Konformitätsbewertung nötig?

Wer den Bestandsschutz nutzen möchte, sollte die alte Version nicht einfach überschreiben. Sicherer ist eine nachvollziehbare Archivierung mit Zugriffs- und Änderungsprotokoll.

Sanktionen und Risiken bei Verstößen gegen die KI-VO

Verstöße gegen die KI-VO in Unternehmen können teuer werden. Die Höhe der Geldbuße richtet sich nach der Art des Verstoßes und der verantwortlichen Rolle. Besonders streng ahndet die Verordnung den Einsatz verbotener KI-Praktiken.

Für bestimmte Zuwiderhandlungen gegen Artikel 5 sieht die KI-Verordnung Geldbußen von bis zu 35 Millionen Euro oder 7 % des weltweiten Gesamtjahresumsatzes vor. Maßgeblich ist der höhere Betrag. Bei kleineren und mittleren Unternehmen darf die konkrete Geldbuße jedoch nicht über dem genannten Prozentsatz ihres weltweiten Jahresumsatzes liegen, sofern dieser Betrag höher wäre als der gesetzliche Höchstbetrag.

Bei anderen Verstößen können bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes anfallen. Falsche, unvollständige oder irreführende Angaben gegenüber zuständigen Stellen können mit bis zu 7,5 Millionen Euro oder 1 % des weltweiten Jahresumsatzes sanktioniert werden.

• Verbotene KI-Praktiken: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes.
• Sonstige Verstöße gegen Pflichten: bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes.
• Unrichtige Angaben: bis zu 7,5 Millionen Euro oder 1 % des weltweiten Jahresumsatzes.

Diese Höchstwerte sind keine automatische Rechnung. Bei der Festsetzung müssen die Behörden unter anderem die Schwere, Dauer und Folgen des Verstoßes berücksichtigen. Auch die Größe des Unternehmens, sein Marktanteil, die Zahl betroffener Personen, eine mögliche Wiederholung und das Verhalten nach Bekanntwerden des Problems spielen eine Rolle.

Ein Unternehmen kann seine Lage verbessern, wenn es freiwillig mit Behörden kooperiert, Risiken schnell begrenzt und betroffene Systeme vom Markt nimmt oder die Nutzung stoppt. Eine nachträgliche Korrektur macht den ursprünglichen Verstoß zwar nicht ungeschehen, kann aber bei der Bemessung der Sanktion eine wichtige Rolle spielen.

Für KI-VO Unternehmen können weitere Folgen entstehen:

• Rückruf oder Einschränkung eines Produkts,
• Verbot der weiteren Bereitstellung,
• Anordnung von Änderungen am System,
• Verlust von Kunden und Geschäftspartnern,
• Verzögerungen bei Produkteinführungen,
• Schadensersatzforderungen nach anderen Rechtsgrundlagen,
• arbeitsrechtliche oder aufsichtsrechtliche Folgen.

Die KI-VO selbst ersetzt keine Ansprüche aus Datenschutzrecht, Produkthaftung, Arbeitsrecht oder Vertragsrecht. Ein fehlerhaftes System kann daher mehrere rechtliche Verfahren auslösen. Auch die persönliche Verantwortung sollte nicht unterschätzt werden. Die Geldbußen nach der KI-VO richten sich grundsätzlich gegen Unternehmen und andere verantwortliche Organisationen. Je nach nationalem Recht können Pflichtverletzungen aber zusätzlich für Geschäftsleitungen oder verantwortliche Beschäftigte relevant werden.

Um Risiken früh zu erkennen, sollte ein Unternehmen klare Auslöser für eine interne Eskalation festlegen:

• unerklärliche Häufung falscher Ergebnisse,
• Hinweise auf diskriminierende Bewertungen,
• Manipulation von Eingaben oder Ausgaben,
• Verwendung außerhalb des freigegebenen Zwecks,
• fehlende oder unbrauchbare Nachweise,
• nicht gemeldete Änderungen durch einen Dienstleister,
• Beschwerden betroffener Personen oder Beschäftigter.

Für jeden Vorfall sollte eine kurze Ereignisakte angelegt werden. Sie enthält Datum, Systemversion, betroffenen Prozess, erste Auswirkung, Sofortmaßnahme, verantwortliche Person und weitere Entscheidung.

Praxisbeispiel: KI-Einsatz im Personalwesen bewerten

Ein mittelständisches Unternehmen setzt ein KI-System ein, das Bewerbungen ausliest, berufliche Erfahrungen bewertet und eine Reihenfolge für Vorstellungsgespräche erstellt. Für die KI-VO in Unternehmen ist nicht entscheidend, ob die Personalabteilung die Empfehlung anschließend bestätigt. Maßgeblich ist, dass die Ausgabe die Auswahl von Bewerbenden beeinflusst.

Ein solcher Einsatz fällt typischerweise in den sensiblen Bereich Beschäftigung und Personalmanagement. Die Bewertung kann den Zugang zu einer Arbeitsstelle beeinflussen. Deshalb muss das Unternehmen den gesamten Ablauf prüfen: von der Stellenausschreibung über die Dateneingabe bis zur endgültigen Einladung.

Die erste Frage lautet: Welche Entscheidung unterstützt das System konkret? Eine reine Suche nach fehlenden Dokumenten ist anders zu bewerten als ein Modell, das Bewerbende nach vermuteter Eignung sortiert. Auch eine scheinbar neutrale Kennzahl kann problematisch sein, wenn sie als verdecktes Auswahlkriterium dient.

Für die Prüfung sollte das Unternehmen den Prozess in einzelne Schritte zerlegen:

• Import und Aufbereitung der Bewerbungsunterlagen,
• Erkennung von Qualifikationen und Berufserfahrung,
• Berechnung eines Eignungswerts,
• Erstellung einer Rangfolge,
• Einladung oder Ablehnung durch die Personalabteilung.

Danach wird sichtbar, an welcher Stelle die KI Einfluss nimmt. Erstellt sie nur eine übersichtliche Zusammenfassung, kann die Bewertung anders ausfallen als bei einem automatischen Ausschluss. Je näher die Ausgabe an einer Auswahlentscheidung liegt, desto höher ist das rechtliche und praktische Risiko.

Besonders kritisch sind Merkmale, die mittelbar zu Benachteiligungen führen können. Dazu gehören etwa Lücken im Lebenslauf, bestimmte Hochschulen, Wohnorte, Sprachmuster oder frühere Arbeitgeber. Selbst wenn geschützte Merkmale nicht ausdrücklich eingegeben werden, kann ein Modell Ersatzmerkmale erkennen und verwenden.

Ein Unternehmen sollte daher einen Testdatensatz mit unterschiedlichen Lebensläufen bilden. Dabei sind keine künstlichen Stereotype nötig. Schon eine strukturierte Prüfung typischer Profile kann zeigen, ob ähnliche Qualifikationen unterschiedlich bewertet werden. Die Ergebnisse müssen fachlich interpretiert werden; eine gute Trefferquote allein beweist keine faire Auswahl.

Vor dem produktiven Einsatz sind außerdem klare Grenzen festzulegen:

• Das System darf keine automatische Ablehnung auslösen.
• Unklare oder widersprüchliche Ergebnisse müssen zur manuellen Prüfung gelangen.
• Die Personalabteilung muss die Begründung der Empfehlung nachvollziehen können.
• Betroffene dürfen nicht wegen eines nicht überprüften Scores ausscheiden.
• Änderungen an Kriterien und Modellversionen brauchen eine neue Freigabe.

Die verantwortliche Person muss für die Prüfung ausreichend qualifiziert sein. Eine kurze Einweisung in die Benutzeroberfläche genügt nicht. Erforderlich sind Kenntnisse über typische Fehlbewertungen, die Bedeutung der verwendeten Kriterien und die Grenzen statistischer Prognosen.

Die Information der Beschäftigten ist ebenfalls ein eigener Prüfungspunkt. Werden Mitarbeitende mit einem KI-System bewertet, geplant oder überwacht, müssen sie unter den Voraussetzungen der KI-Verordnung über den Einsatz informiert werden. Zusätzlich können Beteiligungsrechte des Betriebsrats und Vorgaben aus dem Arbeitsrecht greifen.

Das Unternehmen sollte die Entscheidung für oder gegen den Einsatz schriftlich begründen. In die Akte gehören insbesondere der Zweck, die betroffenen Personengruppen, verwendete Kriterien, Prüfergebnisse, Freigaben und die festgelegten Korrekturwege.

Ein sinnvoller Freigabevermerk kann mit vier Ergebnissen enden:

• Freigegeben: Die Anwendung unterstützt nur klar begrenzte Aufgaben.
• Freigegeben mit Bedingungen: Bestimmte Funktionen, Daten oder Entscheidungen bleiben ausgeschlossen.
• Überarbeitung erforderlich: Kriterien, Tests oder Abläufe müssen angepasst werden.
• Nicht freigegeben: Die Risiken lassen sich im vorgesehenen Prozess nicht ausreichend beherrschen.

Fazit: KI-Systeme prüfen, Risiken bewerten und Pflichten umsetzen

Für KI-VO Unternehmen endet die Arbeit nicht mit der Auswahl eines passenden Tools. Entscheidend ist, ob aus der rechtlichen Einordnung ein belastbarer Unternehmensprozess entsteht. Dazu gehören klare Freigaben, feste Zuständigkeiten und ein Nachweis, dass Entscheidungen nachvollziehbar getroffen wurden.

Ein sinnvoller Abschluss jeder Prüfung ist ein kurzer KI-Compliance-Vermerk. Er hält fest, warum eine Anwendung eingesetzt werden darf, welche Grenzen gelten und wann die Bewertung erneut erfolgt. So bleibt die Begründung auch bei Personalwechseln, Anbieterwechseln oder späteren Nachfragen verständlich.

• Benennen Sie eine verantwortliche Stelle für das KI-Register.
• Verknüpfen Sie jede Anwendung mit einem Geschäftsprozess und einem konkreten Zweck.
• Legen Sie Freigabestufen für neue Funktionen und neue Einsatzfelder fest.
• Definieren Sie Eskalationswege für Beschwerden, Fehler und Sicherheitsvorfälle.
• Prüfen Sie regelmäßig, ob Verträge und interne Vorgaben noch zum tatsächlichen Betrieb passen.
• Bewerten Sie beendete Systeme nach, damit Zugänge, Datenflüsse und offene Pflichten geschlossen werden.

Ein KI-Register sollte nicht als statische Liste verstanden werden. Neben dem Systemnamen gehören auch Verantwortliche, Zweck, Version, Lieferant, Risikoeinstufung, Freigabedatum und nächster Prüftermin hinein. Eine solche Struktur schafft den praktischen Kern einer KI-Verordnung für Unternehmen.

Besonders wertvoll ist die Verbindung mit bestehenden Unternehmensprozessen. Einkauf, Informationssicherheit, Qualitätsmanagement, Personalabteilung und Rechtsabteilung sollten nicht unabhängig voneinander prüfen. Ein gemeinsamer Freigabepunkt verhindert, dass ein System technisch eingeführt wird, bevor seine rechtlichen oder organisatorischen Grenzen geklärt sind.

Für die Geschäftsleitung zählt am Ende vor allem die Steuerbarkeit. Sie sollte erkennen können, welche KI-Anwendungen geschäftskritisch sind, welche Nachweise fehlen und wo sofortiger Handlungsbedarf besteht. Eine einfache Statusübersicht mit den Kategorien „freigegeben“, „in Prüfung“ und „gesperrt“ kann dafür bereits genügen.

Die KI-VO in Unternehmen ist kein einmaliges Projekt, sondern eine dauerhafte Aufgabe. Modelle ändern sich, Anbieter passen Dienste an und Geschäftsbereiche entwickeln neue Einsatzideen. Wer Prüfungen, Freigaben und Nachweise in den normalen Arbeitsablauf integriert, schafft Rechtssicherheit ohne unnötige Bürokratie.

Der wichtigste Grundsatz lautet: Nicht jede KI-Anwendung braucht denselben Aufwand. Aber jede geschäftlich eingesetzte Anwendung braucht eine nachvollziehbare Entscheidung darüber, was geprüft wurde und wer dafür einsteht.

Rechtsstand: 18. Juli 2026. Dieser Überblick ersetzt keine individuelle Rechtsberatung. Für die Umsetzung sind die konkrete Anwendung, der Geschäftsprozess und die jeweils geltenden Fristen maßgeblich.

FAQ zur KI-Verordnung für Unternehmen