Das Klassifizierungsproblem: Die meisten Unternehmen wissen nicht, was sie nutzen
Laut Bitkom (März 2026) setzen 41% der deutschen Unternehmen KI ein, mehr als doppelt so viele wie ein Jahr zuvor. Aber nur 23% erwarten eine direkte Betroffenheit als Betreiber unter dem AI Act. Die Realität: Die Initiative for Applied AI schätzt, dass ca. 18% aller eingesetzten KI-Systeme als Hochrisiko einzustufen sind. Bei durchschnittlich 1,5 Hochrisiko-Systemen pro betroffenem Unternehmen ist die Lücke zwischen Wahrnehmung und Betroffenheit erheblich.
Der Grund: Moderne Unternehmenssoftware enthält KI-Komponenten, die im Kaufvertrag nicht als solche ausgewiesen sind. Ein CRM mit Lead-Scoring, eine HR-Plattform mit Bewerberranking, ein ERP-Modul mit Demand-Forecasting: all das fällt unter die KI-Verordnung.
Die vier Risikoklassen im Überblick
Stufe 1 — Inakzeptables Risiko (verboten seit 02.02.2025): Acht KI-Praktiken sind verboten: unterschwellige Manipulation, Ausnutzung von Vulnerabilitäten, Social Scoring, prädiktive Polizeiarbeit, ungerichtetes Gesichtsbilder-Scraping, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, biometrische Kategorisierung nach sensiblen Merkmalen und biometrische Echtzeit-Fernidentifikation. Für die meisten Mittelständler relevant: Emotionserkennung am Arbeitsplatz: keine Software darf die Emotionen Ihrer Mitarbeiter überwachen.
Stufe 2 — Hochrisiko (8 Bereiche in Anhang III): Umfangreiche Pflichten: technische Dokumentation, menschliche Aufsicht, Protokollaufbewahrung (6 Monate), Registrierung in EU-Datenbank. Details siehe unten.
Stufe 3 — Begrenztes Risiko: Chatbots, KI-generierte Inhalte, Deepfakes. Einzige Pflicht: Transparenz, denn der Nutzer muss wissen, dass er mit einer KI interagiert.
Stufe 4 — Minimales Risiko: Spamfilter, Empfehlungssysteme, KI-Suchalgorithmen. Keine gesonderten Pflichten.
Die 8 Hochrisiko-Bereiche aus Anhang III — konkret für den Mittelstand
1. Biometrie: Gesichtserkennung im öffentlichen Raum, biometrische Kategorisierung. Ausnahme: 1:1-Verifikation (Geräte-Entsperrung) ist NICHT hochriskant.
2. Kritische Infrastruktur: KI als Sicherheitskomponente in Energie-, Wasser-, Verkehrsversorgung. Relevant für Zulieferer und Betreiber.
3. Bildung: KI-basierte Hochschulzulassung, automatisierte Essay-Bewertung, adaptive Lernsysteme, KI-Proctoring.
4. Beschäftigung — der relevanteste Bereich für den Mittelstand:
- (a) Einstellung: Bewerbungsfilterung, Kandidaten-Ranking, KI-Interview-Bewertung
- (b) Arbeitsverhältnis: Beförderung, Kündigung, Aufgabenzuweisung, Leistungsüberwachung
93% der betroffenen Unternehmen erwarten hohen Umsetzungsaufwand in diesem Bereich (Bitkom 2025).
5. Wesentliche Dienste: Kreditwürdigkeit/Kredit-Scoring (Ausnahme: reine Betrugserkennung), Sozialleistungsbewilligung, Versicherungs-Risikoprüfung. Wichtig: SCHUFA-ähnliche Systeme fallen hierunter.
6. Strafverfolgung: Predictive Policing, KI-Lügendetektoren, Rückfallprognosen. Für die meisten Mittelständler nicht relevant.
7. Migration/Asyl/Grenze: Automatisierte Grenzrisikobewertung, KI-Asylentscheidungen. Für die meisten Mittelständler nicht relevant.
8. Justiz/Demokratie: KI-Urteilsempfehlungen, KI-Wähler-Targeting. Für die meisten Mittelständler nicht relevant.
Welche Standard-Software ist Hochrisiko?
Die Klassifizierung hängt nicht von der Software ab, sondern vom Einsatzzweck. Trotzdem gibt es klare Muster:
SAP SuccessFactors (KI-Bewerbungsscreening, Performance): Hochrisiko bei HR-KI-Funktionen (Anhang III, Nr. 4). SAP hat ISO/IEC 42001 erlangt und ein AI Ethics Office eingerichtet. Betreiber werden zu Deployern mit Art.-26-Pflichten.
Microsoft 365 Copilot (allgemein): Kein Hochrisiko als Produktivitätstool. Wird Copilot aber für Bewerbungsfilterung oder Performance-Bewertung eingesetzt, wird es durch den Zweck zu Hochrisiko.
Salesforce Einstein (Standard-CRM): Kein Hochrisiko bei B2B-Lead-Scoring. Hochrisiko bei Kreditwürdigkeitsbewertung natürlicher Personen.
Personio (KI-Rekrutierung): Hochrisiko bei KI-basierter Bewerbungsfilterung und Performance-Bewertung.
Workday (KI-Recruiting): Hochrisiko. Bereits US-Sammelklage wegen KI-Diskriminierung (Mobley v. Workday, N.D. Cal.).
DATEV (Steuer-/Buchführung): Typischerweise kein Hochrisiko, da klassische regelbasierte Systeme nicht unter die KI-Definition fallen.
Grenzfälle: Wann wird es Hochrisiko?
Die häufigsten Grenzfälle im Mittelstand:
- B2B-Lead-Scoring für Vertriebsprioritäten → Kein Hochrisiko (kein Einfluss auf Rechte natürlicher Personen)
- KI-Screening von Bewerbungen → Hochrisiko (Anhang III, Nr. 4(a))
- Copilot erstellt E-Mails → Kein Hochrisiko (minimales Risiko)
- Copilot rankt Bewerber → Hochrisiko (Betreiber wird ggf. Anbieter unter Art. 25)
- KI-Kredit-Scoring von Verbrauchern → Hochrisiko (Anhang III, Nr. 5(b))
- KI-Betrugserkennung bei Transaktionen → Kein Hochrisiko (explizit ausgenommen)
- Chatbot beantwortet HR-FAQ → Begrenztes Risiko (nur Transparenzpflicht)
- KI bewertet Mitarbeiterleistung → Hochrisiko (Anhang III, Nr. 4(b))
- KI-Vorsortierung mit anschließender Human Review → Trotzdem Hochrisiko (wesentlicher Einfluss auf Ergebnis)
Entscheidend ist der Verwendungszweck, nicht die technische Fähigkeit des Tools. Nutzt ein Betreiber das System für einen Anhang-III-Zweck, der vom Anbieter nicht vorgesehen war, wird der Betreiber unter Art. 25 selbst zum Anbieter, mit vollen Anbieter-Pflichten.
Die drei häufigsten Klassifizierungsfehler
Fehler 1 — HR-Tools unterschätzen: 60% der geprüften Unternehmen erkennen ihre HR-Software nicht als Hochrisiko. Bewerbungsfilterung, Kandidaten-Ranking und Performance-Monitoring fallen alle unter Anhang III, Nr. 4.
Fehler 2 — Anbietervertrauen ohne eigene Prüfung: Die Einschätzung des Softwareanbieters ist nicht bindend. Als Betreiber tragen Sie die Verantwortung für Ihre eigene Klassifizierung.
Fehler 3 — GPAI-Zweckentfremdung nicht erkennen: Wer ChatGPT oder Copilot für Anhang-III-Zwecke (Bewerberbewertung, Kreditentscheidungen) einsetzt, schafft unter Art. 25 ein Hochrisiko-System und wird zum Anbieter.
Nächster Schritt: Vom Inventar zum Compliance-Check
Die Klassifizierung ist der erste Schritt. Die konkreten Pflichten je Risikoklasse, die danach kommen, beschreiben wir im Detail auf unserer Seite zu den EU KI-Verordnung Pflichten für den Mittelstand. Den vollständigen Audit-Prozess in 5 Schritten finden Sie auf unserer Seite zum AI Act Compliance-Check.
Über die BAFA-Beratungsförderung ist eine professionelle Klassifizierung zu 50% förderbar (max. 1.750 € Eigenanteil). ST Strategieberatung führt strukturierte Risikoklassifizierungen durch, mit Annex-III-Fragebogen und konkreter Software-Zuordnung.