Die JuLis Niedersachsen stehen der Einführung der EU-Verordnung über künstliche Intelligenz („AI-Act“) kritisch gegenüber. Es werden Definitionen und Regulierungen für KI-Systeme getroffen, die teilweise noch gar nicht existieren. Während der AI-Act grundsätzlich sinnvolle Regulierungen zur Vermeidung von Missbrauch und Diskriminierung vorsieht, gehen einige seiner Maßnahmen über das Ziel hinaus und gefährden zentrale liberale Werte.
Konkret fordern wir daher eine Anpassung des AI-Acts in folgenden Punkten:
Keine Überregulierung von KI-Innovationen
Strenge Regulierungen erschweren es Start-ups und kleineren Unternehmen, konkurrenzfähig zu bleiben. Dies führt dazu, dass nur große Unternehmen mit Ressourcen für Compliance mithalten können, was zu einer Marktkonzentration führt.
Die Einstufung von KI-Systemen als „Hochrisiko“ darf deshalb nicht dazu führen, dass Innovation durch übermäßige Bürokratie ausgebremst wird. Die Definition von Hochrisiko-KI muss klarer gefasst werden, um nur tatsächlich sicherheitskritische Anwendungen zu erfassen. Start-ups und KMUs müssen von einem erleichterten Prüfverfahren profitieren, um sicherzustellen, dass nicht nur große Konzerne am Markt bestehen können.
Keine Einschränkung von Open-Source-KI
Open-Source-Entwicklung muss von strikten Haftungsregelungen ausgenommen werden, um Innovation und Transparenz zu fördern. Die Verpflichtung zur Offenlegung von Trainingsdaten und Algorithmen sollte nicht in einer Weise erfolgen, die die Rechte von Entwicklern verletzt oder Geschäftsgeheimnisse gefährdet.
Kein Türöffner für Massenüberwachung
Wir lehnen die im AI-Act vorgesehene Möglichkeit des Einsatzes biometrischer Echtzeit-Überwachung im öffentlichen Raum strikt ab. Dies widerspricht der liberalen Idee einer offenen Gesellschaft ohne Generalverdacht. Auch wenn diese Überwachung auf schwere Straftaten beschränkt ist, sehen wir das Missbrauchspotential durch staatliche Stellen als zu hoch an.
Mehr Rechtssicherheit für Unternehmen und Bürger
Unklare Begriffe und unpräzise Definitionen im AI-Act führen zu rechtlicher Unsicherheit. Wir fordern eine Präzisierung der Bestimmungen, insbesondere bei den Begriffen „Hochrisiko-KI“, „und „vertrauenswürdige KI“. Unternehmen und Entwickler brauchen klare, unbürokratische Regeln, um die Einhaltung der Vorschriften sicherzustellen, ohne dass Innovationen gehemmt werden
Sunset-Klausel: 5 Jahre