EU-KI-Verordnung: kostenfreie Videoreihe, Artikel für Artikel

Diese Folge führt in die EU-KI-Verordnung als Verordnung (EU) 2024/1689 ein: Produktsicherheitsrecht, nicht DSGVO für KI. Sie trennt die Verbote des Art. 5, die Hochrisiko-Stufen nach Anhang I und Anhang III und die Transparenzpflichten des Art. 50 von der parallelen Schiene des Kapitels V für KI-Modelle mit allgemeinem Verwendungszweck und zeigt, was die Verordnung (EU) 2026/1744 verschoben hat – Anhang III auf den 2. Dezember 2027, Anhang I auf den 2. August 2028 – und was ein Compliance-Team heute bindet.

Diese Folge behandelt Art. 2 der KI-VO: die sieben Adressatengruppen des Art. 2 Abs. 1 und die drei Anknüpfungspunkte, die ein Unternehmen mit Sitz außerhalb der Union erfassen, darunter Art. 2 Abs. 1 Buchst. c, der die Verordnung anwendbar macht, wenn die Ausgabe eines Systems in der Union verwendet wird. Geprüft werden die Ausnahmen des Art. 2 Abs. 3 bis 12 für Militär, Forschung, Open Source und private Nutzung, das Teilregime für Produkte nach Anhang I Abschnitt B und eine fünfstufige Prüffolge je System.

Diese Folge wendet den Begriff des KI-Systems nach Art. 3 Nr. 1 auf die eigene Software an, anhand der sieben Elemente der Leitlinien der Kommission und der vier Softwarekategorien, die diese davon ausnehmen. Sie trennt den Begriff sodann vom KI-Modell mit allgemeinem Verwendungszweck nach Art. 3 Nr. 63, vom KI-System mit allgemeinem Verwendungszweck nach Art. 3 Nr. 66 und von der Vermutung eines systemischen Risikos nach Art. 51 Abs. 2, denn beide Regime können dasselbe Unternehmen binden.

Diese Folge behandelt die Rollen der Akteure nach Art. 3 Nr. 3 bis 8 und stellt die Anbieterpflichten des Art. 16 den engeren Betreiberpflichten des Art. 26 gegenüber. Sodann arbeitet sie Art. 25 durch: Eigenes Branding, eine wesentliche Veränderung oder eine geänderte Zweckbestimmung können einen Kunden zum Anbieter eines Hochrisiko-KI-Systems machen; Art. 99 Abs. 4 Buchst. da stellt Verstöße gegen die Mitwirkungspflichten des Art. 25 Abs. 2 und 4 unter Geldbuße.

Diese Folge behandelt die beiden Mandate für Bevollmächtigte von Anbietern aus Drittländern: Art. 54 für KI-Modelle mit allgemeinem Verwendungszweck, seit 2. August 2025, und Art. 22 für Hochrisiko-KI-Systeme, ab 2. Dezember 2027 bzw. 2. August 2028. Es geht um den schriftlichen Auftrag, die zehnjährige Aufbewahrung, die Pflicht zur Beendigung und Meldung, die Ausnahme des Art. 54 Abs. 6 für quelloffene Modelle ohne systemisches Risiko sowie die Pflichten des Einführers nach Art. 23 und des Händlers nach Art. 24.

Diese Folge behandelt vier der zehn Verbote des Art. 5 Abs. 1, die Buchst. a, b, c und d: unterschwellige, manipulative oder täuschende Techniken, das Ausnutzen von Alter, Behinderung oder sozialer Lage, Social Scoring und die Vorhersage von Straftaten allein anhand von Profiling. Auf Grundlage der Leitlinien der Kommission C(2025) 5052 final vom 29. Juli 2025 trennt sie die jeweils verbotenen Verhaltensweisen und zeigt, wie sich eigene und eingekaufte Systeme dagegen prüfen lassen.

Behandelt werden die vier biometrischen Verbote des Art. 5 Abs. 1 Buchst. e bis h: ungezieltes Auslesen von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, Kategorisierung nach sensiblen Merkmalen und Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zur Strafverfolgung. Sie zeigt, warum Stimmungsanalysen interner Kommunikation unter Buchst. f fallen können, wie eng die Ausnahme für Medizin und Sicherheit ist und warum der Echtzeit-Einsatz vom nationalen Recht abhängt.

Diese Folge behandelt die beiden Verbote, die der Digital Omnibus in Art. 5 Abs. 1 eingefügt hat: Buchst. ba zu intimen Darstellungen ohne Einwilligung und Buchst. bb zu KI-generiertem Material über sexuellen Kindesmissbrauch. Sie erläutert die Eingrenzungen des Art. 5 Abs. 1a und 1b, die darüber entscheiden, ob ein leistungsfähiges generatives System in der Union in Verkehr gebracht werden darf, den Geltungsbeginn am 2. Dezember 2026 nach Art. 113 und die Sanktionslage nach Art. 99.

Art. 4 bindet Anbieter und Betreiber seit dem 2. Februar 2025; der Digital Omnibus hat die Vorschrift von einer Erfolgs- zu einer Bemühenspflicht umgestellt, nicht aufgehoben. Die Folge zeigt ein Programm, das als Nachweis trägt: nach Rollen differenziert, Auftragnehmer vertraglich eingebunden, Inhalte an den tatsächlichen Systembestand und an Aufzeichnungen gebunden. Ergänzt wird die Aufsichtskompetenz, die Art. 26 Abs. 2 Betreibern von Hochrisiko-Systemen abverlangt. Band 1 schließt in sieben Schritten.

Diese Folge ordnet Kapitel III – Art. 6 bis 49 in fünf Abschnitten – den geänderten Fristen des Art. 113 zu: Die Abschnitte 1 bis 3 gelten ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für Systeme nach Anhang I. Sie erläutert, warum die Verschiebung nur teilweise wirkt und warum Anbietern biometrischer Systeme der Weg der internen Kontrolle nach Art. 43 nur offensteht, wenn harmonisierte Normen oder gemeinsame Spezifikationen angewandt wurden; sonst gilt Anhang VII.

Diese Folge behandelt den ersten Weg in das Hochrisiko-Regime: die beiden kumulativen Voraussetzungen des Art. 6 Abs. 1 für KI in Produkten nach Anhang I. Es geht um den verengten Begriff des Sicherheitsbauteils nach Art. 3 Nr. 14, die Ausnahme des Art. 6 Abs. 1a, die Rückausnahme des Abs. 1b, den Filter des Abs. 1c für allein funk- und EMV-bedingte Prüfpflichten sowie Art. 2 Abs. 13, 42 Abs. 3 und 43 Abs. 3. Entschieden wird, ob eingebettete KI unter Kapitel III fällt.

Diese Folge behandelt den zweiten Weg in die Hochrisiko-Einstufung: Nach Art. 6 Abs. 2 ist ein in Anhang III genanntes System wegen seiner Zweckbestimmung Hochrisiko-KI-System, nicht wegen eines Produkts, vorbehaltlich der Ausnahme des Art. 6 Abs. 3. Behandelt werden die acht Bereiche samt Ausnahmen, die notifizierte Stelle nach Art. 43 nur für Bereich 1, die Befugnis nach Art. 7 und die Einordnung vor allem in Bereich 4, Beschäftigung, und Bereich 5, grundlegende Dienste.

Diese Folge arbeitet Art. 6 Abs. 3 durch: Ein Anbieter kann zu dem Ergebnis kommen, dass ein in Anhang III genanntes System kein Hochrisiko-KI-System ist. Maßstab ist der Einleitungssatz, die vier Bedingungen sind alternativ; nach der Rückausnahme gilt ein solches System stets als Hochrisiko-KI-System, sobald es Profiling nach Art. 3 Nr. 52 vornimmt. Hinzu kommen Dokumentation vor Inverkehrbringen oder Inbetriebnahme nach Art. 6 Abs. 4 und Registrierung nach Art. 49 Abs. 2.

Diese Folge behandelt den Kern des Hochrisiko-Regimes: den relativen Maßstab des Art. 8, den fortlaufenden Prozess des Art. 9 samt zwingender Rückkopplung aus der Beobachtung nach dem Inverkehrbringen (Art. 72) und die acht Praktiken der Daten-Governance des Art. 10 Abs. 2. Der neue Art. 4a lässt besondere Kategorien personenbezogener Daten zur Erkennung von Verzerrungen nur unter sechs kumulativen Bedingungen zu. Nötig sind ein Prozess und Aufzeichnungen zur Datenherkunft.

Diese Folge arbeitet die Art. 11, 12 und 13 durch, die Dokumentationspflichten bei Hochrisiko-KI-Systemen: die technische Dokumentation, vor dem Inverkehrbringen zu erstellen und aktuell zu halten, die neun Blöcke des Anhangs IV, die vereinfachte Form für KMU und kleine Mid-Caps sowie die Protokollierung als Architekturmerkmal. Die Protokolle bewahren Anbieter nach Art. 19 und Betreiber nach Art. 26 Abs. 6 mindestens sechs Monate auf. Art. 13 regelt die Betriebsanleitung.

Diese Folge behandelt Art. 14 und 15 als Gestaltungs-, nicht als Dokumentationspflichten für Hochrisiko-KI-Systeme: die im Produkt angelegte Aufsicht, die eigene Betreiberpflicht nach Art. 26 Abs. 2, das Vier-Augen-Prinzip des Art. 14 Abs. 5, das nur für die biometrische Fernidentifizierung nach Anhang III Nr. 1 Buchst. a gilt, protokolliert nach Art. 12 Abs. 3, Genauigkeitsgrad und Metrik nach Art. 15 Abs. 3. Die neue Fiktion des Art. 42 Abs. 3 deckt nur die Cybersicherheit.

Diese Folge arbeitet Art. 16 KI-VO durch, die zwölf Pflichten der Anbieter von Hochrisiko-KI-Systemen, und die Art. 17 bis 21: das Qualitätsmanagementsystem mit dreizehn Elementen, von dem Art. 17 Abs. 4 Finanzinstitute nur teilweise entlastet – die Elemente zu Art. 9, 72 und 73 bleiben –, die zehnjährige Aufbewahrung nach Art. 18, sechs Monate Mindestfrist für Protokolle unter Kontrolle des Anbieters, Korrekturmaßnahmen nach Art. 20 und die Zusammenarbeit nach Art. 21.

Diese Folge behandelt den Marktzugang von Hochrisiko-KI-Systemen: die drei Wege des Art. 43 — interne Kontrolle (Anhang VI) für sieben der acht Bereiche des Anhangs III, notifizierte Stelle (Anhang VII) bei Biometrie, solange weder harmonisierte Normen noch gemeinsame Spezifikationen angewandt sind, sektorales Verfahren bei Anhang I —, die EU-Konformitätserklärung (Art. 47), die digitale CE-Kennzeichnung (Art. 48) und vier Registrierungspflichten (Art. 49) ohne EU-Datenbank.

Diese Folge behandelt die Betreiberpflichten des Art. 26 bei Hochrisiko-KI-Systemen: Nutzung nach der Betriebsanleitung, fachkundige, befugte Aufsicht, Unterrichtung der Belegschaft, Aussetzung des Betriebs bei Risikoverdacht und Meldung an die Marktüberwachungsbehörde (Abs. 5). Die Grundrechte-Folgenabschätzung nach Art. 27 schulden und einreichen nur Betreiber von Anhang-III-Systemen: öffentliche Stellen, Erbringer öffentlicher Dienste, Betreiber nach Nr. 5 Buchst. b und c.

Diese Folge arbeitet Art. 50 KI-VO durch, der seit dem 2. August 2026 gilt: die Anbieterpflichten zur Offenlegung der Interaktion mit einem KI-System und zur maschinenlesbaren Markierung synthetischer Audio-, Bild-, Video- und Textinhalte sowie die Betreiberpflichten bei Deepfakes und bei Texten von öffentlichem Interesse ohne redaktionelle Kontrolle. Art. 111 Abs. 4 lässt nur für die Markierung nach Art. 50 Abs. 2 und nur für Altsysteme Zeit bis zum 2. Dezember 2026.

Diese Folge trennt die beiden Schwellenwerte, die darüber entscheiden, ob Kapitel V für ein Modell gilt und ob dieses ein systemisches Risiko aufweist. 10 hoch 23 Gleitkommaoperationen sind eine Hälfte des indikativen Kriteriums der Kommission für ein KI-Modell mit allgemeinem Verwendungszweck nach Art. 3 Nr. 63; 10 hoch 25 begründen die widerlegbare Vermutung des Art. 51 Abs. 2. Hinzu kommen die Kriterien des Anhangs XIII und die Zwei-Wochen-Frist des Art. 52.

Art. 53 Abs. 1 erlegt jedem Anbieter von KI-Modellen mit allgemeinem Verwendungszweck vier Pflichten auf: Dokumentation nach Anhang XI, Angaben nach Anhang XII an nachgelagerte Anbieter, Urheberrechtsstrategie zu Art. 4 Abs. 3 der Richtlinie (EU) 2019/790 und öffentliche Zusammenfassung der Trainingsinhalte ohne Geschäftsgeheimnis-Ausnahme. Art. 53 Abs. 2 befreit nur quelloffene Modelle ohne systemisches Risiko, nur von den ersten beiden; Art. 54 gilt für Drittlandsanbieter.

Behandelt werden die vier zusätzlichen Pflichten des Art. 55 Abs. 1 für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko und die Wege des Abs. 2: Praxisleitfaden vom 10. Juli 2025, solange keine harmonisierte Norm gilt, oder Nachweis anderer angemessener Mittel gegenüber der Kommission. Dazu der neu gefasste Art. 56 Abs. 6 und die Geldbuße des Art. 101 Abs. 1 Buchst. b bei unrichtig oder gar nicht beantwortetem Auskunftsverlangen nach Art. 91.

Diese Folge zeigt, welche Behörde ein KI-System überwacht: die nationalen Marktüberwachungsbehörden nach Art. 70 und 74, in Deutschland die Bundesnetzagentur, und die ausschließliche Zuständigkeit des Büros für Künstliche Intelligenz nach Art. 75 für Anbieter von Systemen auf eigenen KI-Modellen mit allgemeinem Verwendungszweck oder in sehr großen Online-Plattformen. Betreiber werden nur erfasst, soweit sie zugleich Anbieter sind; dazu die Befugnisse der Art. 75a bis 75d.

Diese Folge behandelt die drei Sanktionsstufen des Art. 99, die Deckelung auf den niedrigeren Wert für KMU – für kleine Mid-Caps nur in Abs. 4 und 5 –, die festen Obergrenzen des Art. 100 für Unionsorgane und die Geldbußen der Kommission gegen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach Art. 101. Es folgen die Rechte Einzelner nach Art. 85 bis 87 und die verschuldensunabhängige Produkthaftung nach Richtlinie (EU) 2024/2853, umzusetzen bis 9. Dezember 2026.

Diese Folge fügt die Reihe zu einem Programm mit Fristen zusammen: Art. 4, 5, 50 und die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck gelten heute; die Kennzeichnung nach Art. 111 Abs. 4 trifft am 2. Dezember 2026 nur bereits in Verkehr gebrachte generative Systeme; der Hochrisiko-Aufbau nach Art. 9, 10 und 17 liegt 2027. Überschneidungen mit DSGVO, DSA, CRA und NIS2 gehören in ein Kontrollsystem; offen bleiben harmonisierte Normen und die Datenbank nach Art. 71.