Ein Europa für das digitale Zeitalter: EU-Kommission schlägt neue Vorschriften und Maßnahmen für Exzellenz und Vertrauen im Bereich der künstlichen Intelligenz vor

Margrethe Vestager, die für das Ressort "Ein Europa für das digitale Zeitalter" zuständige Exekutiv-Vizepräsidentin, erklärte dazu: "Bei künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist. Mit der Schaffung der Standards können wir weltweit den Weg für ethische Technik ebnen und dafür sorgen, dass die EU hierbei wettbewerbsfähig bleibt. Unsere Vorschriften werden zukunftssicher und innovationsfreundlich sein und nur dort eingreifen, wo dies unbedingt notwendig ist, nämlich wenn die Sicherheit und die Grundrechte der EU-Bürger auf dem Spiel stehen."

Der für den Binnenmarkt zuständige EU-Kommissar Thierry Breton ergänzte: "KI ist kein Ziel für sich, sondern ein Mittel, das schon seit Jahrzehnten eingesetzt wird. Aber mit der heutigen Rechenleistung hat sie nun ganz neue Fähigkeiten. Dies bietet ein riesiges Potenzial in so verschiedenen Bereichen wie Gesundheit, Verkehr, Energie, Landwirtschaft, Tourismus oder Cybersicherheit. KI birgt aber auch eine Reihe von Risiken. Die heutigen Vorschläge sollen die Position Europas als globales Zentrum für Exzellenz in der KI vom Labor bis zum Markt stärken. Außerdem sollen sie dafür sorgen, dass die KI in Europa unsere Werte und Regeln wahrt, und das Potenzial der KI für eine industrielle Nutzung erschließen helfen."

Die neue KI-Verordnung wird sicherstellen, dass die Europäerinnen und Europäer dem vertrauen können, was die KI zu bieten hat. Verhältnismäßige und flexible Vorschriften werden den spezifischen Risiken gerecht, die von KI-Systemen ausgehen, und werden die weltweit höchsten Standards setzen. Im koordinierten Plan werden die politischen Veränderungen und die Investitionen dargelegt, die in den Mitgliedstaaten nötig sind, um Europas Führungsposition bei der Entwicklung einer auf den Menschen ausgerichteten, nachhaltigen, sicheren, inklusiven und vertrauenswürdigen KI zu stärken.

Das europäische Konzept für vertrauenswürdige KI

Die neuen Vorschriften werden auf einer zukunftssicheren Definition der KI beruhen und in allen Mitgliedstaaten direkt und in gleicher Weise Anwendung finden. Sie folgen einem risikobasierten Ansatz:

Unannehmbares Risiko: KI-Systeme, die als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen (z. B. Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert), sowie Systeme, die den Behörden eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen.

Hohes Risiko: KI-Systeme, bei denen ein hohes Risiko besteht, wenn KI-Technik in folgenden Bereichen eingesetzt wird:

• kritische Infrastrukturen (z. B. im Verkehr), in denen das Leben und die Gesundheit der Bürger gefährdet werden könnten;
• Schul- oder Berufsausbildung, wenn der Zugang einer Person zur Bildung und zum Berufsleben beeinträchtigt werden könnte (z. B. Bewertung von Prüfungen);
• Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie);
• Beschäftigung, Personalmanagement und Zugang zu selbstständiger Tätigkeit (z. B. Software zur Auswertung von Lebensläufen für Einstellungsverfahren);
• wichtige private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgern die Möglichkeit verwehrt wird, ein Darlehen zu erhalten);
• Strafverfolgung, die in die Grundrechte der Menschen eingreifen könnte (z. B. Bewertung der Verlässlichkeit von Beweismitteln);
• Migration, Asyl und Grenzkontrolle (z. B. Überprüfung der Echtheit von Reisedokumenten);
• Rechtspflege und demokratische Prozesse (z. B. Anwendung der Rechtsvorschriften auf konkrete Sachverhalte).

Für KI-Systeme mit hohem Risiko werden strenge Vorgaben gelten, die erfüllt sein müssen, bevor sie auf den Markt gebracht werden dürfen:

• Angemessene Risikobewertungs- und Risikominderungssysteme;
• hohe Qualität der Datensätze, die in das System eingespeist werden, um Risiken und diskriminierende Ergebnisse so gering wie möglich zu halten;
• Protokollierung der Vorgänge, um die Rückverfolgbarkeit von Ergebnissen zu ermöglichen;
• ausführliche Dokumentation mit allen erforderlichen Informationen über das System und seinen Zweck, damit die Behörden seine Konformität beurteilen können;
• klare und angemessene Informationen für die Nutzer;
• angemessene menschliche Aufsicht zur Minimierung der Risiken;
• hohes Maß an Robustheit, Sicherheit und Genauigkeit.

Insbesondere alle Arten biometrischer Fernidentifizierungssysteme bergen ein hohes Risiko und unterliegen strengen Anforderungen. Ihre Echtzeit-Nutzung im öffentlichen Raum zu Strafverfolgungszwecken wird grundsätzlich verboten. Eng abgesteckte Ausnahmen werden strikt definiert und geregelt (z. B. wenn sie unbedingt erforderlich sind, um ein vermisstes Kind zu suchen, um eine konkrete und unmittelbare terroristische Bedrohung abzuwenden oder um Täter bzw. Verdächtige schwerer Straftaten zu erkennen, aufzuspüren, zu identifizieren oder zu verfolgen). Eine solche Nutzung bedarf der Genehmigung einer Justizbehörde oder einer anderen unabhängigen Stelle und unterliegt angemessenen Beschränkungen in Bezug auf die zeitliche und geografische Geltung und die abgefragten Datenbanken.

Geringes Risiko, d. h. KI-Systeme, für die besondere Transparenzverpflichtungen gelten: Beim Umgang mit KI-Systemen wie Chatbots sollte den Nutzern bewusst sein, dass sie es mit einer Maschine zu tun haben, damit sie in voller Kenntnis der Sachlage entscheiden können, ob sie die Anwendung weiter nutzen wollen oder nicht.

Minimales Risiko: Der Legislativvorschlag soll die freie Nutzung von Anwendungen wie KI-gestützten Videospielen oder Spamfiltern ermöglichen. Die große Mehrheit der KI-Systeme fällt in diese Kategorie. Der Verordnungsentwurf soll hier nicht eingreifen, denn diese KI-Systeme stellen nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit dar.

Bezüglich der KI-Governance schlägt die Kommission vor, dass die Anwendung der neuen Vorschriften von den zuständigen nationalen Marktüberwachungsbehörden beaufsichtigt werden soll. Ferner wird ein Europäischer Ausschuss für künstliche Intelligenz eingerichtet werden, der die Umsetzung begleiten und die Ausarbeitung von Normen auf dem Gebiet der KI vorantreiben soll. Darüber hinaus werden freiwillige Verhaltenskodizes für KI-Anwendungen, die kein hohes Risiko darstellen, und regulatorische "Sandkästen" vorgeschlagen, um verantwortungsvolle Innovationen zu erleichtern.

Das europäische Konzept für Exzellenz in der KI

Durch die Koordinierung wird Europas Führungsposition bei einer auf den Menschen ausgerichteten, nachhaltigen, sicheren, inklusiven und vertrauenswürdigen KI gestärkt. Damit Europa weltweit wettbewerbsfähig bleibt, setzt sich die Kommission dafür ein, dass Innovationen bei der Entwicklung und Nutzung von KI-Technik in allen Wirtschaftszweigen und in allen Mitgliedstaaten gefördert werden.

Der Koordinierte Plan für KI, wurde erstmals im Jahr 2018 veröffentlicht, um Maßnahmen und Finanzierungsinstrumente für die Entwicklung und Einführung von KI festzulegen, und ermöglichte ein dynamisches Umfeld aus nationalen Strategien und EU-Fördermitteln für öffentlich-private Partnerschaften und für Forschungs- und Innovationsnetze. Mit der umfassenden Überarbeitung des koordinierten Plans werden konkrete gemeinsame Maßnahmen für die Zusammenarbeit vorgeschlagen, damit alle Anstrengungen im Einklang mit der europäischen KI-Strategie und dem europäischen Grünen Deal stehen und zugleich die neuen Herausforderungen, die sich aus der Coronavirus-Pandemie ergeben, berücksichtigt werden. Sein ausdrückliches Ziel ist es, Investitionen in KI zu beschleunigen, die der Erholung zugutekommen können. Außerdem soll er die Umsetzung nationaler KI-Strategien vorantreiben, jegliche Fragmentierung beseitigen und bei der Bewältigung globaler Herausforderungen helfen.

Im aktualisierten koordinierten Plan werden Mittel verwendet, die im Rahmen der Programme Digitales Europa und Horizont Europa zugewiesen wurden, sowie Mittel der Aufbau- und Resilienzfazilität, die ein Ausgabenziel von 20 % für digitale Zwecke vorsieht, und der Programme der Kohäsionspolitik, und zwar für

• die Schaffung günstiger Voraussetzungen für die KI-Entwicklung und -Einführung durch den Austausch politischer Erkenntnisse, den Datenaustausch und Investitionen in kritische Rechenkapazitäten;
• die Förderung von KI-Exzellenz "vom Labor bis zum Markt" durch Einrichtung einer öffentlich-privaten Partnerschaft, durch Aufbau und Mobilisierung von Forschungs-, Entwicklungs- und Innovationskapazitäten sowie durch Bereitstellung von Erprobungs- und Versuchseinrichtungen und von Zentren für digitale Innovation zugunsten der KMU und der öffentlichen Verwaltungen;
• die Gewährleistung, dass KI den Menschen nützt und eine Kraft zum Wohle der Gesellschaft darstellt, indem dafür gesorgt wird, dass Europa bei der Entwicklung und dem Einsatz vertrauenswürdiger KI eine Vorreiterrolle einnimmt, dass auf digitalen Gebieten Talente und Kompetenzen mithilfe von Praktika, Doktorandennetzwerken und Stipendien für promovierte Wissenschaftler gefördert werden, dass Vertrauensbildung zum festen Bestandteil der KI-Politik wird und die europäische Zielvorstellung von einer nachhaltigen und vertrauenswürdigen KI auch weltweit zur Geltung gebracht wird;
• den Aufbau einer strategischen Führungsrolle in hochwirksamen Sektoren und Technologien, auch im Umweltbereich, wobei der Schwerpunkt auf dem Beitrag der KI zu einer nachhaltigen Produktion und zu Bereichen wie Gesundheit (durch Ausweitung des grenzüberschreitenden Informationsaustauschs), öffentlicher Sektor, Mobilität, Inneres, Landwirtschaft und Robotik liegt.

Das europäische Konzept für neue Maschinenprodukte

Maschinenprodukte umfassen eine breite Palette von Verbraucherprodukten und Produkten für den gewerblichen Gebrauch - von Robotern über Rasenmäher bis zu 3D-Druckern und von Baumaschinen bis hin zu industriellen Produktionslinien. In der Maschinenrichtlinie, die nun durch die neue Maschinenverordnung ersetzt wird, sind Gesundheits- und Sicherheitsanforderungen für Maschinen festgelegt worden. Diese neue Maschinenverordnung wird sicherstellen, dass auch die neue Generation von Maschinen die Sicherheit der Benutzer und Verbraucher gewährleistet und die Innovation fördert. Während es in der KI-Verordnung um die von KI-Systemen ausgehenden Sicherheitsrisiken geht, wird die neue Maschinenverordnung für die sichere Integration von KI-Systemen in den gesamten Maschinenpark sorgen. So werden die Unternehmen nur eine einzige Konformitätsbewertung durchführen müssen.

Darüber hinaus wird mit der neuen Maschinenverordnung auf die Bedürfnisse des Marktes eingegangen. So wird mehr Rechtsklarheit in den geltenden Bestimmungen geschaffen, es werden der Verwaltungsaufwand und die Kosten für Unternehmen verringert (Zulassung digitaler Formate für die Dokumentation) und die Konformitätsbewertungsgebühren für KMU angepasst. Bei alledem wird die Kohärenz mit dem EU-Rechtsrahmen für Produkte gewährleistet.

Nächste Schritte

Nun müssen die Vorschläge der Kommission für ein europäisches Konzept für künstliche Intelligenz und für eine Maschinenverordnung vom Europäischen Parlament und von den Mitgliedstaaten im ordentlichen Gesetzgebungsverfahren angenommen werden. Sobald die Verordnungen verabschiedet sind, werden sie unmittelbar in der gesamten EU gelten. Parallel dazu wird die Kommission weiter mit den Mitgliedstaaten zusammenarbeiten, um die im koordinierten Plan angekündigten Maßnahmen umzusetzen.

Hintergrund

Seit Jahren erleichtert und verstärkt die Kommission die EU-weite Zusammenarbeit auf dem Gebiet der KI, um die europäische Wettbewerbsfähigkeit zu steigern und das auf den EU-Werten beruhende Vertrauen zu stärken.

Nach der Veröffentlichung der europäischen KI-Strategie im Jahr 2018 und nach einer weitreichenden Konsultation der Interessenträger stellte die hochrangige Expertengruppe für künstliche Intelligenz (HEG-KI) im Jahr 2019 Leitlinien für vertrauenswürdige KI und im Jahr 2020 eine Bewertungsliste für vertrauenswürdige KI auf. Parallel dazu wurde im Dezember 2018 der erste Koordinierte Plan für KI als gemeinsame Handlungsverpflichtung mit den Mitgliedstaaten veröffentlicht.

In ihrem 2020 veröffentlichten Weißbuch zur KI legte die Kommission eine klare Zielvorstellung für KI in Europa dar: ein Ökosystem für Exzellenz und Vertrauen, das die Grundlage für den heutigen Vorschlag bildet. Im Rahmen der öffentlichen Konsultation zum Weißbuch zur KI gingen breit gefächerte Beiträge aus aller Welt ein. Dem Weißbuch war ein "Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung" beigefügt, der ergab, dass die geltenden Produktsicherheitsvorschriften eine Reihe von Lücken aufweisen, die vor allem mithilfe der Maschinenrichtlinie beseitigt werden sollten.

Weitere Informationen:
Verordnung über ein europäisches Konzept für künstliche Intelligenz