Verantwortung statt Vollgas: Der EU AI Act
Generative künstliche Intelligenz prägt unseren Alltag massiv – und bislang im Prinzip grenzenlos. Doch jetzt gelten in Europa neue Regeln: Wir werfen einen Blick auf den EU AI Act, der am 1. August 2024 in Kraft trat.
Der EU AI Act ist das weltweit erste umfassende, demokratisch legitimierte und verbindliche Gesetz zur Regelung von Künstlicher Intelligenz. Er soll die Grundrechte und Sicherheit der Bürger:innen in der Europäischen Union schützen, Vertrauen in die Technologie stärken und Innovationen „made in Europe“ fördern. Das Regelwerk gilt für alle, die in der EU leben, sowie für Unternehmen und Behörden, die in der EU KI-Systeme anbieten; ausgenommen sind militärische Anwendungen. Der AI Act konzentriert sich auf Herausforderungen, die durch selbstlernende Systeme, oft ungewollt, entstehen. Innerhalb der nächsten zwei Jahre tritt der AI Act schrittweise vollständig in Kraft, und alle 27 Mitgliedstaaten müssen ihn in nationales Recht überführen.
Wie der EU AI Act die KI klassifiziert
Der EU AI Act gewichtet KI-Systeme nach ihrem Risiko für die Gesellschaft. Das soll gewährleisten, dass KI-basierte Systeme keine negativen Auswirkungen auf Sicherheit, Gesundheit, Umwelt und Grundrechte haben. Je höher das Risiko, desto strenger die Vorgaben. Es gibt vier Kategorien:
- Unannehmbares Risiko: In diesem Fall verbietet die EU künftig den Einsatz von KI. Es betrifft Systeme, die Verhalten manipulieren – etwa über soziale Medien –, die Personen sozial bewerten oder die eine biometrische Echtzeit-Identifikation in öffentlichen Räumen ermöglichen. Ausnahmen gelten für Terrorabwehr sowie für die Fahndung nach vermissten Kindern oder Schwerverbrechern.
- Hohes Risiko: In dieser KI-Kategorie müssen Anbieter Konformitätserklärungen abgeben, die sicherstellen, dass geltende EU-Gesetze eingehalten werden. Zudem sind Qualitäts- und Risikomanagementsysteme verpflichtend. Dies gilt für KI, die beispielsweise der Sicherheit von kritischer Infrastruktur dient, im Gesundheits- oder Bankwesen eingesetzt wird, oder individuelle Bewertungen wie bei Einwanderung und Straftaten vornimmt.
- Geringes Risiko: Für Systeme dieser Einstufung gelten Transparenz- und Informationspflichten. Betroffen sind zum Beispiel Chatbots, Spamfilter oder Suchalgorithmen.
- Vernachlässigbares Risiko: Systeme auf dieser Stufe unterliegen keinen weiteren Pflichten. Dazu können Suchmaschinen-Algorithmen, Spamfilter oder rein datengetriebene Systeme ohne Entscheidungsautonomie zählen.
Im Fall der Missachtung greifen saftige Sanktionen: Bei verbotenen Systemen betragen sie bis zu 35 Millionen Euro oder 7 Prozent des Jahresumsatzes. Und bei Falschangaben drohen Strafen von bis zu 7,5 Millionen Euro oder 1,5 Prozent des Jahresumsatzes.
Der EU AI Act wirkt über Europa hinaus
Auch auf globaler Ebene zeigt der EU AI Act seine Wirkung. Viele Länder sehen ihn als wichtigen Schritt in Richtung „digitale Verlässlichkeit“. Brasilien hat durch den sogenannten Brüssel-Effekt bereits einige Elemente des EU AI Acts in nationales Recht übernommen.
Andere Länder, andere Regelungen
Mit ihrem AI Act geht die EU einen entschieden anderen Weg als die USA und China. In China steht die staatliche Kontrolle im Vordergrund: Anbieter von KI-Diensten müssen sicherstellen, dass die generierten Inhalte den Vorgaben der chinesischen Regierung entsprechen und sozialistische Werte respektieren. Zum Teil geschieht dies mit jenen KI-Systemen, die die EU als hochriskant einstuft und verbietet.
Anders in den USA: Da vertritt die „AI Bill of Rights“ die Maxime der Marktfreiheit. Während kritische Stimmen das Fehlen von „Checks and Balances“ bemängeln, sehen andere in der liberalen Haltung Chancen für Innovation. Das rechtliche Vakuum füllen die Bundesstaaten: Allein 2024 verabschiedeten sie 31 eigene KI-Regelungen.
Überregulierung? Oder dringend notwendiger Realitätscheck?
Umstritten bleibt, was nun das größere Risiko darstellt: unzulängliche KI-Regulierungen oder eine KI-Entwicklung im „Move fast and break things“-Stil, die Risiken ignoriert. Die Zeit wird zeigen, ob der EU AI Act als kleinliches Bürokratiemonster oder als großartiges Schutzschild in die Geschichte eingeht. Der „Blaumann-Spirit“ des EU AI Acts mit pragmatischem Fokus auf professionellen und verantwortungsvollen Umgang mit KI-Systemen scheint zumindest für die User-Sicherheit den nachhaltigeren Weg in die Zukunft zu bieten.
