Aktuell | Künstliche Intelligenz | c't

Experten kritisieren AI Act der EU

Die EU will kommerzielle KI-Anbieter im AI Act schärfer kontrollieren. Doch ein geleakter Kompromiss aus den Trilog-Verhandlungen zeigt, wie schwierig das Unterfangen ist.

Kurz nach Redaktionsschluss sollte der EU-Ministerrat am 2. Februar über den sogenannten AI Act (KI-Verordnung) abstimmen, der neue Regeln für kommerzielle KI-Systeme aufstellt. Die Verordnung verbietet beispielsweise, dass KI-Systeme Menschen mit unterschwelligen Botschaften manipulieren, und schreibt die Kennzeichnung bestimmter KI-generierter Inhalte vor. So will die EU Deep Fakes verhindern, die die Öffentlichkeit täuschen.

Besonders streng kontrolliert werden sollen Systeme, die ein hohes Risiko bergen, etwa wenn sie die Gesundheit oder Sicherheit von Menschen betreffen oder rechtliche Konsequenzen haben könnten. Entscheidungen in diesen Bereichen sind immer von Menschen zu treffen und dürfen nicht vollständig automatisiert werden. Der AI Act gilt jedoch nicht für KI-Systeme, die ausschließlich von Militär oder Sicherheitsbehörden eingesetzt werden. Auch Forschungssysteme und freie Open-Source-Entwicklungen sind ausgenommen, solange sie keine Hochrisikobereiche betreffen.