Der EU AI Act: Regulierung für Künstliche Intelligenz

Am 1. August 2024 trat der „AI Act“ der Europäischen Union in Kraft. Dabei handelt es sich um das weltweit erste staatenübergreifende Regelwerk, das klare Prioritäten und Standards für den Einsatz künstlicher Intelligenz festlegt. Ziel ist es, ethische und transparente Innovationen zu fördern und gleichzeitig ein hohes Maß an Schutz für Gesundheit, Sicherheit und Grundrechte zu gewährleisten.

1. Risikobasierter Ansatz

Der AI Act verfolgt einen risikobasierten Ansatz und teilt KI-Systeme in vier Risikokategorien ein – je nach Kategorie des KI-Systems, sind damit unterschiedliche Folgen verbunden – zu beachten ist außerdem, dass die Einstufung der KI-Systeme durch den jeweiligen Anbieter erfolgen muss:

• Minimales oder kein Risiko: Die überwiegende Mehrheit der KI-Systeme, wie Spiele oder Spamfilter, birgt keine Risiken und kann weiterhin uneingeschränkt genutzt werden.
• Begrenztes Risiko: Für KI-Systeme mit begrenztem Risiko, wie Chatbots oder bei der Generierung von KI-basierten Inhalten, gelten lediglich Transparenzpflichten, z.B. die Kennzeichnung von entsprechenden Inhalten als KI-generiert bzw. die Information darüber, dass man mit einem KI-Chatbot kommuniziert.
• Hohes Risiko: Hochrisiko-KI-Systeme, etwa in den Bereichen Biometrie, kritische Infrastrukturen oder Strafverfolgung, müssen strenge Anforderungen erfüllen, um Zugang zum EU-Markt zu erhalten. Dazu gehören Prüfverfahren, Transparenz und menschliche Überwachung.
• Unannehmbares Risiko: Die Verwendung von KI-Systemen, die eine Bedrohung für Sicherheit, Rechte oder Lebensgrundlagen darstellen, ist in der EU verboten. Dazu zählen Systeme zur kognitiven Verhaltensmanipulation, Emotionserkennung am Arbeitsplatz oder Sozialkreditsysteme.

2. Governance-Architektur

Um die Einhaltung des AI Act sicherzustellen, werden mehrere Gremien eingerichtet:

• Ein „KI-Amt“ innerhalb der Europäischen Kommission zur Durchsetzung der Vorschriften in der gesamten EU
• Ein wissenschaftliches Beratungsgremium unabhängiger Experten
• Ein „KI-Ausschuss“ aus Vertretern der Mitgliedstaaten zur Koordinierung und Unterstützung der Kommission
• Ein Beratungsforum für Interessenvertreter, das den Gremien technisches Fachwissen zur Verfügung stellt

3. Sanktionen

Bei Verstößen gegen den AI Act drohen empfindliche Strafen – diese unterscheiden sich je nach Art des Verstoßes, welche folgendermaßen unterschieden werden können:

Verstöße gegen verbotene KI-Praktiken:

Besonders hohe Geldbußen bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes können verhängt werden, wenn verbotene KI-Praktiken gem. Artikel 5 des AI Acts angewendet werden werden – darunter fallen:

• Unterschwellige Beeinflussung: Das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen, die Techniken der unterschwelligen Beeinflussung einsetzen, um das Verhalten von Personen wesentlich zu verändern, indem deren Entscheidungsfähigkeit beeinträchtigt wird, ist untersagt.
• Ausnutzung von Vulnerabilitäten: KI-Systeme, die die Vulnerabilität einer Person oder einer bestimmten Gruppe (z.B. aufgrund von Alter, Behinderung oder sozialer Situation) ausnutzen, um deren Verhalten wesentlich zu verändern, sind ebenfalls verboten.
• Soziale Bewertung: Das Inverkehrbringen oder die Verwendung von KI-Systemen zur Bewertung oder Einstufung von Personen oder Gruppen auf der Grundlage ihres sozialen Verhaltens oder persönlicher Eigenschaften, ist untersagt.
• Risikobewertungen: KI-Systeme, die ausschließlich auf der Grundlage von Profiling oder der Bewertung persönlicher Merkmale das Risiko bewerten, dass eine Person eine Straftat begeht, sind verboten.
• Gesichtserkennung: Das Inverkehrbringen oder die Verwendung von KI-Systemen zur Erstellung oder Erweiterung von Datenbanken zur Gesichtserkennung durch ungezieltes Auslesen von Bildern aus dem Internet oder von Überwachungsaufnahmen ist untersagt.
• Emotionserkennung am Arbeitsplatz: KI-Systeme, die zur Ableitung von Emotionen einer Person am Arbeitsplatz oder in Bildungseinrichtungen eingesetzt werden, sind verboten, es sei denn, sie dienen medizinischen oder sicherheitstechnischen Zwecken.

Diese Verbote zielen darauf ab, die Grundrechte und die Würde der Menschen zu schützen und sicherzustellen, dass KI-Technologien verantwortungsvoll eingesetzt werden.

Verstöße gegen andere Bestimmungen

Bei Verstößen gegen andere Bestimmungen (außer den in Artikel 5 genannten) können Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist, verhängt werden. Das betrifft folgende Regelungen:

• Pflichten der Anbieter gemäß Artikel 16
• Pflichten der Bevollmächtigten gemäß Artikel 22
• Pflichten der Einführer gemäß Artikel 23
• Pflichten der Händler gemäß Artikel 24
• Pflichten der Betreiber gemäß Artikel 26
• für notifizierte Stellen geltende Anforderungen und Pflichten gemäß Artikel 31, Artikel 33 Absatz 1, 3 und 4 bzw. Artikel 34
• Transparenzpflichten für Anbieter und Betreiber gemäß Artikel 50

Verstöße gegen Auskunftsersuchen

Werden zuständigen Behörden auf deren Auskunftsersuchen hin falsche, unvollständige oder irreführende Informationen bereitgestellt, so werden Geldbußen von bis zu 7,5 Millionen EUR oder — im Falle von Unternehmen — von bis zu 1 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist.

Für KMU, einschließlich Start-ups, gilt immer der niedrigere Betrag aus genanntem Prozentsatz oder genannter Summe, wobei damit natürlich nur die Höchstgrenze der Strafe festgelegt ist. Bei der Entscheidung über die Verhängung und die Höhe einer Geldbuße werden im Einzelfall alle relevanten Umstände der konkreten Situation berücksichtigt.

4. Innovationsförderung

Neben Regulierung und Kontrolle enthält der AI Act auch Bestimmungen zur Förderung von Innovationen im Bereich der Künstlichen Intelligenz. Dazu gehören:

• Regulatorische „KI-Reallabore“ zur Entwicklung, Testung und Validierung innovativer KI-Systeme
• Möglichkeiten, KI-Systeme unter realen Bedingungen zu testen, sofern bestimmte Schutzmaßnahmen eingehalten werden
• Unterstützungsmaßnahmen für kleine und mittlere Unternehmen

5. Zeitplan

Der AI Act tritt schrittweise in Kraft:

• Nach 6 Monaten gelten die Verbote für KI-Systeme mit „unannehmbarem Risiko“, d.h. bereits ab Anfang 2025
• Nach 12 Monaten greifen die Vorschriften für KI-Systeme mit allgemeinem Verwendungszweck und Basismodelle
• Nach 24 Monaten treten die restlichen Bestimmungen für Hochrisiko-KI-Systeme in Kraft

6. Fazit

Mit dem AI Act hat die EU den Grundstein für eine verantwortungsvolle und vertrauenswürdige Entwicklung und Nutzung Künstlicher Intelligenz gelegt. Der risikobasierte Ansatz, die klaren Regeln und die Governance-Struktur sollen Innovation fördern, gleichzeitig aber auch die Grundrechte der Bürger schützen. Als weltweit erste Regulierung für KI könnte der AI Act auch von anderen Gesetzgebungen herangezogen werden und so die ethische Gestaltung dieser Schlüsseltechnologie vorantreiben. Es wird sich zeigen, ob die Regelungen geeignet sind, die Ziele, die sich die Europäische Union gesetzt hat, zu erreichen.