Ein zukunftsweisendes Gesetz: Europas Vorstoß in die Regulierung der Künstlichen Intelligenz

Künstliche Intelligenz (KI) hat sich in den vergangenen Jahren zu einer der wichtigsten Technologien entwickelt. Sie hat das Potenzial, unsere Gesellschaft und Wirtschaft tiefgreifend zu verändern. Aufgrund der weitreichenden Auswirkungen von KI hat die Europäische Union (EU) die Regulierung der Technologie als eine ihrer Prioritäten identifiziert.

Die EU will das globale Zentrum für vertrauenswürdige KI werden. Dafür wurde im April 2021 ein Vorschlag für ein Gesetz über Künstliche Intelligenz vorgelegt (Begründung: LINK). Dieses Gesetz hat das Ziel, KI sicher und vertrauenswürdig zu gestalten. Damit soll das Vertrauen und die Akzeptanz in KI gestärkt werden, um Innovationen zu fördern und die Wettbewerbsfähigkeit zu sichern.

Weitere Informationen: Beratung / Schulung zum Einsatz von KI im Unternehmen

Europas Vision für vertrauenswürdige KI

Das Gesetz sieht verschiedene Risikoklassen für KI-Anwendungen vor und legt entsprechende Anforderungen fest. KI-Systeme, die den ethischen Grundsätzen in der EU widersprechen, sollen gänzlich verboten werden. Hochriskante Anwendungen sollen strengen Anforderungen unterliegen, während für Anwendungen mit geringem Risiko lediglich Transparenzpflichten vorgesehen sind.

Rat der EU befürwortet einen sicheren und grundrechtekonformen Einsatz von KI

Der Rat der EU hat sich ebenfalls zu diesem Thema geäußert und betont, dass KI sicher sein muss und die bestehenden Grundrechte und die Werte der Union wahren soll. Der Rat unterstützt einen risikobasierten Ansatz und will durch einen einheitlichen Rechtsrahmen Rechtssicherheit gewährleisten.

In Bezug auf verbotene KI-Praktiken wird das Verbot der Nutzung von KI für die soziale Bewertung auf private Akteure ausgeweitet. Der Text des Rats enthält zudem präzisierte Anforderungen an Hochrisiko-KI-Systeme und stellt die Zuständigkeiten und Aufgaben der verschiedenen Akteure in den Wertschöpfungsketten klar.

Risikoklassen in der KI-Regulierung

Die Risikoklassen, die das EU-Gesetz vorsieht, teilen KI-Anwendungen in vier Hauptkategorien ein: unzulässige Risiken, hohe Risiken, begrenzte Risiken und minimale Risiken.

Unzulässige Risiken beziehen sich auf KI-Anwendungen, die als eindeutige Bedrohung für EU-Bürger angesehen werden, wie beispielsweise die behördliche Bewertung des sozialen Verhaltens (Social Scoring) oder Spielzeug mit Sprachassistent, das Kinder zu riskantem Verhalten verleitet. Solche Anwendungen sollen gänzlich verboten werden.

KI-Anwendungen mit hohem Risiko betreffen unter anderem kritische Infrastrukturen, Schul- oder Berufsausbildung, Beschäftigung und Personalmanagement, zentrale private und öffentliche Dienstleistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle sowie Rechtspflege und demokratische Prozesse. Diese Systeme sollen strengen Anforderungen unterliegen, einschließlich einer sorgfältigen Prüfung vor ihres Inverkehrbringens und während ihres gesamten Lebenszyklus.

Für KI-Systeme mit begrenztem Risiko, wie beispielsweise Chatbots, sind minimale Transparenzverpflichtungen vorgesehen. Diese sollen es den Nutzern ermöglichen, fundierte Entscheidungen zu treffen.

Die Kategorie des minimalen Risikos umfasst Anwendungen wie KI-gestützte Videospiele oder Spamfilter. Die meisten KI-Systeme fallen in diese Kategorie, da sie nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit darstellen.

Anforderungen

Die Bemühungen der EU, eine umfassende Regulierung der KI zu entwickeln, muss sicherzustellen, dass die betroffenen Personen angemessene Informationen erhalten, die es ihnen ermöglichen, fundierte Entscheidungen zu treffen und ihre Rechte auszuüben.

Weitere Änderungen betreffen die KI-Systeme, die Nutzerbewertungen erstellen, manipulieren oder beeinflussen. Hier wurde festgelegt, dass solche Systeme so ausgelegt und verwendet werden müssen, dass sie die Meinungsfreiheit, die Demokratie und die kulturelle Vielfalt schützen und fördern.

Darüber hinaus wurden klare Anforderungen an die Transparenz von KI-Systemen festgelegt, die in der Bildung und Ausbildung eingesetzt werden. Diese Systeme müssen den Lernenden klare, genaue und umfassende Informationen über die Funktionsweise des Systems, die Art und Weise, wie es ihre Leistung bewertet, und die Auswirkungen ihrer Interaktion mit dem System auf ihre Leistung und ihre Lernergebnisse zur Verfügung stellen.

Die Auswirkungen auf die Wirtschaft und Unternehmen und Private

Der vorgesehene Rechtsrahmen kann einen Beitrag leisten, das Vertrauen und die Akzeptanz in KI zu stärken. Unternehmen brauchen klare und verständliche Kriterien, was als spezifisches Risiko einer KI zu verstehen ist. Nur so ist es möglich, die Betroffenheit schnell, einfach und rechtssicher zuzuordnen. Bürokratischer Aufwand und Doppelregulierung sind zu vermeiden, um Belastungen gering zu halten und damit die europäische Wettbewerbsfähigkeit sowie die Weiterentwicklung von KI in Europa zu sichern.

Der Entwurf der EU-KI-Verordnung zeichnet sich durch eine bemerkenswerte Breite aus, sowohl hinsichtlich der verschiedenen KI-Anwendungen, die sie zu regulieren versucht, als auch hinsichtlich der verschiedenen Arten von Akteuren, die sie zu beeinflussen versucht. Die vorgeschlagenen Änderungen des Rates scheinen darauf abzuzielen, diese Breite einzuschränken, sowohl indem sie die Definition dessen, was als KI gilt, präzisieren, als auch indem sie die Kriterien für die Einstufung eines KI-Systems als Hochrisiko-System klarer definieren.

Die Auswirkungen dieser Änderungen auf Unternehmen und insbesondere auf KMU könnten erheblich sein. Die vorgeschlagenen Änderungen scheinen darauf abzuzielen, die Belastung für Unternehmen zu verringern, indem sie die Anforderungen präzisieren und vereinfachen, die an Hochrisiko-KI-Systeme gestellt werden, und indem sie klarstellen, wie diese Anforderungen auf KI-Systeme mit allgemeinem Verwendungszweck angewendet werden sollten.

Fazit und Einschätzung

Zusammenfassend lässt sich sagen, dass die EU mit dem vorgeschlagenen KI-Gesetz einen ehrgeizigen Schritt unternimmt, um die Entwicklung und Anwendung von KI in der Union zu regulieren. Der Rat hat zahlreiche Änderungen vorgeschlagen, um die Anwendungsbereiche des Gesetzes zu präzisieren und die Belastung für Unternehmen zu verringern.

Die Auswirkungen des Gesetzes werden jedoch weit über die EU hinausreichen, da die Unternehmen, die ihre KI-Systeme in der EU verkaufen oder nutzen wollen, sich an diese Regeln halten müssen. Daher ist es für alle globalen Akteure, die in der KI tätig sind, wichtig, die Entwicklungen rund um dieses Gesetz genau zu beobachten.

In meiner Einschätzung ist es zu begrüßen, dass die EU einen regulierten Ansatz für KI verfolgt. Die Verwendung von KI birgt sowohl enorme Chancen als auch Risiken, und eine umsichtige Regulierung kann dazu beitragen, die Vorteile zu maximieren und die Risiken zu minimieren. Es ist wichtig, dass solche Regulierungen jedoch nicht zu restriktiv sind, um Innovationen nicht zu ersticken.

Die vorgeschlagenen Änderungen scheinen in die richtige Richtung zu gehen, indem sie mehr Klarheit und Präzision in die Verordnung bringen. Sie scheinen auch bemüht zu sein, die Last für Unternehmen zu verringern, insbesondere für KMU, die möglicherweise nicht die Ressourcen haben, um mit zu komplexen oder unklaren Vorschriften umzugehen.

Dennoch bleibt abzuwarten, wie diese Regulierung in der Praxis umgesetzt wird und welche Auswirkungen sie letztlich auf die KI-Branche in Europa und weltweit haben wird. Es ist zu hoffen, dass die EU in diesem Prozess eine Balance zwischen dem Schutz der Bürgerrechte und der Förderung von Innovation und Wettbewerbsfähigkeit findet.

Während wir auf weitere Details warten, ist es für alle Beteiligten, einschließlich Unternehmen, Forschungseinrichtungen und Bürger, wichtig, sich über die Entwicklungen auf dem Laufenden zu halten und sich aktiv an Diskussionen und Konsultationen zu beteiligen, um sicherzustellen, dass die endgültigen Regulierungen sowohl effektiv als auch gerecht sind.

Zusammenfassend lässt sich sagen, dass die EU mit ihrem Ansatz zur KI-Regulierung einen wichtigen Schritt in die richtige Richtung macht. Die Ausgestaltung und Umsetzung dieser Verordnung wird jedoch entscheidend sein, um sicherzustellen, dass sie die beabsichtigten Ziele erreicht und gleichzeitig Innovation und Wachstum in der KI-Branche ermöglicht.