Online-Dossier: AI Regulation & KI-Verordnung

Seit dem 1.8.2024 ist der AI Act als Verordnung (EU) 2024/1689 in Kraft und wird gestaffelt anwendbar – der überwiegende Teil ab dem 2.8.2026, Art. 113 KI-VO. Die KI-Verordnung (KI-VO) verfolgt den Zweck, die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen KI zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, vor schädlichen Auswirkungen von KI-Systemen zu gewährleisten und die Innovation zu unterstützen, Art. 1 KI-VO.

Zu diesem Zweck verfolgt die KI-VO folgende vier materielle Regelungskonzepte, die nebeneinander bestehen uns durch ein Konzept der öffentlichen Aufsicht und Regeln zur Zusammenarbeit der Mitgliedstaaten:

• Verbote bestimmter Praktiken mit KI-Systemen,
• die Regelung eines Risikomanagements für Hochrisiko-KI-Systeme und bestimmte KI-Modelle,
• Transparenzpflichten für generative KI-Systeme und
• Förderung der Entwicklung und Vermarktung von KI-Systemen.

Dieses Online-Dossier soll Ihnen den Start in diese Materie erleichtern und ermöglichen, mit der dynamischen Entwicklung Schritt zu halten. Für Unternehmen gilt es, rechtzeitig tragfähige technische Lösungen aufzusetzen und in belastbaren Vertragsstrukturen einzufangen. Das Dossier wird laufend aktualisiert, so dass Sie den aktuellen Meinungsstand zu spannenden Einzelfragen hier stets mitverfolgen können:

Beiträge in CR:

• Pech, Sebastian, Urheberrecht trifft Produktsicherheitsrecht: Urheberrechtliche Implikationen der KI-VO – Teil 1, CR 2024, 773-779
• Dornis, Tim W., Generative KI und urheberrechtliche Vervielfältigung im Modellinnern – Teil 2: Die öffentliche Zugänglichmachung, CR 2024, 830-839
• Dornis, Tim W., Generative KI, urheberrechtliche Vervielfältigung und öffentliche Zugänglichmachung - Teil 1: Das Modellinnere, CR 2024, 765-772
• Borges, Georg, Die europäische KI-Verordnung (AI Act) Teil 3 – Transparenzpflichten, Durchsetzung, Gesamtbewertung, CR 2024, 633-648
• Imhof, Ralf, Die urheberrechtliche Haftung für KI-Output – Ein Vorschlag für eine Haftungsprivilegierung des Betreibers, CR 2024, 648-654
• Borges, Georg, Die europäische KI-Verordnung (AI Act) Teil 2 – Risikomanagement für Hochrisiko-KI-Systeme, CR 2024, 565-576
• Käde, Lisa, Wann ist ein Nutzungsvorbehalt gegenüber Text- und Data Mining maschinenlesbar und dem Rechtsinhaber zurechenbar?, CR 2024, 598-603
• Blum, Benjamin / Rappenglück, Jakob, Fine-Tuning von GPAI-Modellen nach der KI-Verordnung: Eine Regelungslücke für Zukunftstechnologie?, CR 2024, 626-632
• Borges, Georg, Die europäische KI-Verordnung (AI Act) – Teil 1, CR 2024, 497-507
• Stiemerling, Oliver, Was ist ein KI-System im Sinne der KI-VO?, CR 2024, 554-558
• Steinrötter, Björn / Borchert, Anna-Lena, Urheber- und Investitionsschutz von (und vor) KI-Output, CR 2024, 558-564
• Flume, Johannes W., Das digitale Gewährleistungsrecht im Kontext von KI-Systemen, CR 2024, 536-542
• Becker, Maximilian, Generative KI und Deepfakes in der KI-VO, CR 2024, 353-366
• Kraetzig, Viktoria, Deliktsschutz gegen KI-Abbilder – Teil 1: Täuschende Deepfakes, CR 2024, 207-212
• Daum, Andreas, Die Durchsetzung der KI-Verordnung im Rahmen des digitalen Schuldrechts, CR 2024, 178-184
• Buchalik, Barbara / Gehrmann, Mareike Christine, Von Nullen und Einsen zu Paragraphen: Der AI Act, ein Rechtscode für Künstliche Intelligenz, CR 2024, 145-153
• Kohpeiß, Marcel / Schaller, Till, Systeme zur Angriffserkennung nach dem neuen EU-Cybersicherheitsrahmen – Hochrisiko-Systeme der KI-Verordnung?, CR 2024, 22-29
• Muttach, Jan-Philipp / Link, Hendrik, Verarbeitung personenbezogener Daten in KI-Reallaboren nach dem KI-VO-E, CR 2023, 725-732
• Borges, Georg, Der Begriff des KI-Systems, CR 2023, 706-716
• Seidel, Andreas, Wissen und Künstliche Intelligenz, CR 2023, 636-643
• Denga, Michael, Unternehmenshaftung für KI – zur Konformitätsbewertung in Permanenz, CR 2023, 277-285
• Sesing-Wagenpfeil, Andreas, KI und Kunst – Zwei Thesen zur urheberrechtlichen Schutzfähigkeit computergenerierter Werke, CR 2022, 749-756
• Borges, Georg, Haftung für KI-Systeme, CR 2022, 553-561
• Grützmacher, Malte, Die zivilrechtliche Haftung für KI nach dem Entwurf der geplanten KI-VO, CR 2021, 433-444
• Spindler, Gerald, Der Vorschlag der EU-Kommission für eine Verordnung zur Regulierung der Künstlichen Intelligenz (KI-VO-E), CR 2021, 361-374
• Diedrich, Kay, Mängelrechte bei KI: Wann sind lernende Systeme fehlerhaft?, CR 2021, 289-295

Articles in CRi:

• Zhang, Jason, Australian Mandatory AI Guardrails Proposed:, CRi 2024, 162-165
• Beardwood, John, The Canadian Artificial Intelligence and Data Act and the EU AI Act: Will Sanity Prevail as they more closely align? – Part 2, CRi 2024, 129-137
• Schwartmann, Rolf / Keber, Tobias / Zenner, Kai / Kurth, Sonja, Data Protection Aspects of the Use of Artificial Intelligence, CRi 2024, 145-150
• Beardwood, John, The Canadian AIDA and the EU AI Act: Will Sanity Prevail as they more closely align? – Part 1, CRi 2024, 97-104
• Karathanasis, Theodoros, Defining AI Systems in the EU and Beyond, CRi 2024, 104-114
• Keber, Tobias / Schwartmann, Rolf / Zenner, Kai, The EU AI Act: A Practice-Oriented Interpretation, CRi 2024, 114-120
• Molavi Vasse’i, Ramak, The AI Act – The Epitome of Outdated Tech Governance, CRi 2024, 72-78
• Li, Qian / Kollnig, Konrad, Data Scraping for the Training of Generative AI, CRi 2024, 33-41
• Matthan, Rahul, The Approach to AI Regulation for the Global South, CRi 2024, 1-5
• Block, Martina / Jung, Constantin / Wendt, Domenik, Requirements for “Legal Tech AI Systems”, CRi 2023, 97-105
• Beardwood, John, Heads Up: The Companion Document To The Canadian Artificial Intelligence And Data Act, CRi 2023, 65-72
• Borges, Georg, The Manufacturer's Liability for AI Systems under Current and Future Law, CRi 2023, 33-43
• Borges, Georg, Liability for AI Systems Under Current and Future Law, CRi 2023, 1-8
• Beardwood, John, Bill C-27 Births New Regulation of Artificial Intelligence in Canada – Part 2, CRi 2022, 129-135
• Veale, Michael / Zuiderveen Borgesius, Frederik, Demystifying the Draft EU Artificial Intelligence Act, CRi 2021, 97-112

Case Law in CRi:

• District Court for the Southern District of New York, 7 November 2024 - Raw Story Media v. OpenAI,  USA: Copyright Management Information and Training Material for Generative AI, CRi 2024, 185-188

Beiträge im ITRB:

• Dr. Bierekoven, Christiane, Anforderungsmatriken als Herausforderung für die KI-Compliance, ITRB 2025, 16
• Schippel, Robert, Vertragsklauseln über KI-Funktionen, ITRB 2024, 298
• Bierekoven, Christiane, Die neue KI-Verordnung – Teil 2, ITRB 2024, 290
• Bierekoven, Christiane, Die neue KI-Verordnung – Teil 1, ITRB 2024, 264
• Klotz, Isabella, KI-Einsatz in der Justiz vor dem Hintergrund der neuen KI-Verordnung, ITRB 2024, 245
• Niclas, Vilma / von Blumenthal, German, Datenschutzaufsicht für Umsetzung der KI-VO, ITRB 2024, 141
• Söbbing, Thomas, Verabschiedung der europäischen KI-Verordnung, ITRB 2024, 108
• Schneider, Jochen / Streitz, Siegfried, ITRB-Themenradar: KI-Verordnung, ITRB 2023, 266

Aus der AG:

• Dubovitskaya, Elena, KI‑Compliance aus Betreibersicht, AG 2024, 877

Veranstaltungen:

• Lizenzierung und Nutzung von KI (13.02., 10-12:45 Uhr)
• Kölner Tage IT-Recht 2025 (13.-14.03.)