Als erste große Organisation regelt die EU die Anwendung der Künstlichen Intelligenz (KI), und zwar mit dem Artificial Intelligence Act, den das EU-Parlament heute (13.03.2024) verabschiedet hat. „Wir nehmen weltweit eine Vorreiterrolle ein, indem wir einen Rahmen für diese Schlüsseltechnologie schaffen, Risiken minimieren, zugleich aber die Chancen, die mit der KI einhergehen, nicht unterbinden“, so der Südtiroler EU-Parlamentarier Herbert Dorfmann in einer Mitteilung an die Medien.

„Die Nutzerinnen und Nutzer müssen in diesen Fällen wissen, dass sie es mit KI zu tun haben.“

In der EU verboten sind demnach künftig KI-Systeme, die ein inakzeptables Risiko darstellen. „Eine KI wie jene in China, die die Bürgerinnen und Bürger lückenlos überwacht, darf es in der EU damit nicht geben“, so Dorfmann. Zudem sind Anwendungen, die grundlegende Rechte der Bürgerinnen und Bürger einschränkten oder auf deren Manipulation ausgelegt seien, untersagt.

Der Fokus des KI-Gesetzes liegt auf Anwendungen und Systemen, die mit einem hohen Risiko verbunden sind. „Sie unterliegen künftig besonderen rechtlichen Anforderungen und Vorschriften, werden auf Herz und Nieren geprüft, bevor sie eingeführt werden, und auch danach noch weiter kontrolliert“, erklärt der EU-Parlamentarier. Die Entwicklung von „Allerwelts-KI“, die kein Risiko darstelle, bleibt schließlich weitgehend frei und muss nur klar definierten Transparenz-Richtlinien entsprechen. „Die Nutzerinnen und Nutzer müssen in diesen Fällen wissen, dass sie es mit KI zu tun haben“, so Dorfmann.

Das heute verabschiedete KI-Gesetz erfülle drei grundlegende Notwendigkeiten: Es verbiete gefährliche KI, ermögliche weiterhin die Entwicklung nützlicher Anwendungen in Europa und schaffe bei den Nutzerinnen und Nutzern das nötige Vertrauen in die Künstliche Intelligenz. 

Im Dezember hatten sich die EU-Kommission, das Europaparlament und die Mitgliedsstaaten auf das Gesetz geeinigt. Nachdem das EU-Parlament grünes Licht gegeben hat, kann es nun in Kraft treten.