Kurz vor 22 Uhr hat der Bundestag am Donnerstag das nationale Umsetzungsgesetz für die KI-Verordnung der EU verabschiedet und die Bundesnetzagentur als zentrale Marktüberwachungsbehörde für Künstliche Intelligenz in Deutschland bestimmt. Wirtschaftsverbände begrüßen die gewonnene Rechtssicherheit. Opposition und Zivilgesellschaft beklagen dagegen Defizite beim Grundrechtsschutz und warnen vor einem föderalen Kompetenz-Wirrwarr.

Mit den Stimmen der Koalition von CDU/CSU und SPD beschloss das Parlament den vom Digitalausschuss noch geänderten Gesetzentwurf. AfD, Grüne und Linke votierten dagegen. Zugleich nahmen die Abgeordneten eine Entschließung an, die einen innovationsfreundlichen und möglichst bürokratiearmen Rahmen für KI-Anwendungen schaffen soll. Oppositionsanträge für ein Verbot biometrischer Fernidentifikation im öffentlichen Raum sowie ein verpflichtendes Transparenzregister fanden keine Mehrheit.

Mit der Initiative schafft Deutschland knapp zwei Jahre nach Inkrafttreten des AI Acts die nötigen nationalen Aufsichts- und Bußgeldstrukturen. Die Bundesnetzagentur übernimmt dabei die Marktaufsicht, sofern keine spezialisierten Fachbehörden zuständig sind. Bei der Behörde soll zudem ein Koordinierungs- und Kompetenzzentrum als Ansprechpartner für europäische Institutionen und zur Bündelung nationaler Expertise entstehen.

Bundesnetzagentur erhält Schlüsselrolle

Für die Bürger wird die Bundesnetzagentur zur Beschwerdestelle bei vermuteten Verstößen gegen KI-Vorgaben. Gleichzeitig soll sie Unternehmen beraten und mindestens ein KI-Reallabor betreiben, in dem neue Anwendungen vorab getestet werden können. So will der Gesetzgeber Start-ups und mittelständische Unternehmen unterstützen.

Die NGO AlgorithmWatch moniert, dass zentrale Forderungen aus Wissenschaft und Zivilgesellschaft unberücksichtigt geblieben seien. So fehle weiterhin ein verpflichtendes Transparenzregister für den KI-Einsatz in Behörden. Datenschutzbehörden hatten zudem gefordert, die Aufsicht über besonders sensible Hochrisiko-KI-Systeme ihnen statt der Bundesnetzagentur zu übertragen. Auch einen unabhängigen KI-Beirat hat das Parlament nicht gesetzlich verankert. Die stattdessen vorgesehene regelmäßige Beratung im Digitalausschuss gilt Kritikern als unzureichend.

Der IT-Verband Bitkom warnt vor Problemen bei der Umsetzung. Da die Länder in den Vollzug eingebunden seien, drohten unterschiedliche Bewertungen identischer KI-Systeme und ein bürokratischer Flickenteppich. Die Bundesregierung verweist indes darauf, dass die Zuständigkeiten zwischen Bundesnetzagentur und Fachaufsichten wie der BaFin klar abgegrenzt werden könnten. Nach Angaben des Nationalen Normenkontrollrats entstehen dem Bund einmalige Kosten von rund vier Millionen Euro. Die laufenden jährlichen Ausgaben werden auf 15,9 Millionen Euro für den Bund und 33,1 Millionen Euro für die Länder geschätzt. Bei Verstößen gegen Mitwirkungs- und Auskunftspflichten drohen Bußgelder von bis zu 50.000 Euro.

(mki)