EU-Gesetz zur Künstlichen Intelligenz tritt am 1. August in Kraft

Am 1. August 2024 tritt das erste umfassende Gesetz der Europäischen Union zur Regulierung Künstlicher Intelligenz (KI) in Kraft. Dieses Gesetz soll den Einsatz von KI-Systemen in verschiedenen Bereichen regeln und bestimmte Anwendungen verbieten, um den Schutz der Grundrechte der Bürger zu gewährleisten.

Verbotene Anwendungen von KI

Das neue Gesetz verbietet den Einsatz von KI-Systemen, die Menschen nach Kriterien wie Hautfarbe, politischen und religiösen Ansichten oder sexueller Orientierung in Gruppen einteilen. Auch die in China üblichen „Sozialkredit“-Systeme, die Menschen durch Massenüberwachung zu erwünschtem Verhalten und politischer Loyalität erziehen sollen, sind künftig in der EU verboten. Unternehmen dürfen KI zudem nicht einsetzen, um die Gefühle ihrer Beschäftigten zu erfassen oder Menschen gegen ihren Willen zu beeinflussen.

Regeln für Gesichtserkennungstechnologien

Für die Nutzung von KI-gesteuerter Gesichtserkennung an öffentlichen Orten gelten strenge Regeln. Die Polizei und andere Sicherheitsbehörden dürfen diese Technologie nur mit einer richterlichen Anordnung einsetzen. Bei aufgezeichnetem Videomaterial darf die Technologie zur Fahndung nach Verurteilten oder Verdächtigen schwerer Straftaten verwendet werden. In Echtzeit dürfen die Behörden die Gesichtserkennung nutzen, um Opfer von Menschenhandel und sexueller Gewalt zu finden oder um eine konkrete und akute Terrorgefahr abzuwenden.

Hochrisiko-Anwendungen und Kontrolle

Das Gesetz sieht vor, dass bei der Nutzung von KI in Sicherheitsbehörden und der Personalverwaltung ein hohes Risiko für Grundrechteverstöße besteht. In diesen Fällen soll ein Mensch die Kontrolle über die KI-Entscheidungen haben. Entwickler müssen künftig klar kennzeichnen, wenn Texte, Bilder oder Videos auf Künstlicher Intelligenz beruhen. Online-Plattformen und nationale Behörden sollen dies überprüfen, wobei Fachleute die Durchsetzung als schwierig erachten.

Industrie und Strafen

Industrieverbände befürchten, dass die neuen KI-Regeln zu hohe Hürden bei der Entwicklung neuer Anwendungen schaffen könnten, was EU-Unternehmen Nachteile gegenüber der Konkurrenz aus den USA und China bringen würde. Bei Verstößen gegen das KI-Gesetz drohen Strafen in Millionenhöhe. Für den Einsatz verbotener Technologien kann die EU-Kommission Zahlungen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Unternehmens verlangen.

Schrittweise Einführung

Das Gesetz wird schrittweise eingeführt: Ab dem 2. Februar 2025 sind in den Mitgliedsländern zunächst inakzeptable Technologien wie „Sozialkredit“-Systeme verboten. Ab dem 2. August 2025 gelten die Regeln für allgemein nutzbare KI-Systeme zur Text- oder Bilderstellung. Ab dem 2. August 2026 werden dann alle anderen Bestimmungen des KI-Gesetzes wirksam. Bereits in diesem Herbst erwartet die EU-Kommission einen „KI-Pakt“ hunderter Unternehmen zu freiwilligen Selbstkontrollen.

Während die EU sich bemüht, durch das neue Gesetz den Einsatz von KI zu regulieren und Missbrauch zu verhindern, bleibt abzuwarten, wie effektiv die Umsetzung und Kontrolle in der Praxis sein werden. Kritiker warnen vor möglichen Nachteilen für europäische Unternehmen, doch die Sicherheit und der Schutz der Bürger stehen im Vordergrund.