Heute ist es soweit: Die europäische KI-Verordnung, auch bekannt als „AI Act“, tritt in Kraft. Lange haben die EU-Institutionen daran gefeilt, nun ist sie Realität. Doch in Deutschland bleibt eine zentrale Frage offen: Welche Behörde soll die Einhaltung der neuen Regeln überwachen?

Eine neue Ära der KI-Regulierung

Mit der KI-Verordnung wird unter anderem das umstrittene Social Scoring verboten und strenge Anforderungen an hochriskante KI-Anwendungen formuliert. Diese betreffen Bereiche wie die Bewerberauswahl, Justiz, Grenzkontrollen und das Bildungswesen. Die Regelungen werden schrittweise bis 2027 umgesetzt, wobei die Mitgliedsstaaten bereits in einem Jahr nationale Aufsichtsbehörden benennen müssen.

Die Aufgaben der KI-Aufsicht

Die Aufgaben der nationalen KI-Aufsicht umfassen im Wesentlichen drei Punkte:

1. Benennung unabhängiger Prüfstellen zur Kontrolle von Hochrisiko-KI-Systemen.
2. Überwachung des Marktes und Anlaufstelle für KI-Anbieter bei Fehlern in ihren Systemen.
3. Förderung von Innovation und Wettbewerb.

In Deutschland wird diskutiert, ob mehrere Behörden diese Aufgaben teilen sollten. Kandidaten sind die Bundesnetzagentur, die Datenschutzbehörden oder eine neu zu gründende Behörde.

Datenschützer in den Startlöchern

Die Datenschutzbehörden haben bereits im Mai ihre Bereitschaft signalisiert, die nationale Marktüberwachung für KI-Systeme zu übernehmen. Ihr Vorschlag: Für bundesweite KI-Produkte soll der Bund zuständig sein, für die Anwendung von KI in Unternehmen und Behörden die Länder. Louisa Specht-Riemenschneider, die neue Bundesdatenschutzbeauftragte, sieht die Datenschutzbehörden als hervorragend geeignet an und warnt vor doppelten und kostenintensiven Aufsichtsstrukturen.

Experten fordern zentrale Aufsicht

Mario Martini vom Deutschen Forschungsinstitut für öffentliche Verwaltung plädiert für eine zentrale Aufsicht. Eine föderale Struktur könnte laut Martini zu inkonsistenter Regelauslegung führen und den Innovationsprozess hemmen. Stattdessen sollte eine einzige bundesweit zuständige Behörde die Überwachung übernehmen.

Bundesnetzagentur als Favorit

Laut Expertenmeinung ist die Bundesnetzagentur am geeignetsten für diese Aufgabe. Sie überwacht bereits den Markt der Mobilfunk- und Internetanbieter in Deutschland und könnte relativ leicht zu einer umfassenderen Digitalbehörde ausgebaut werden. Voraussetzung ist, dass sie unabhängig und weisungsfrei handeln kann. Allerdings hat die Bundesnetzagentur bisher nicht auf Anfragen reagiert.

Sorge vor „Kompetenz-Wirrwarr“

Während Länder wie Österreich ihre nationale KI-Aufsicht bereits geregelt haben, wächst in Deutschland die Sorge vor diffusen Zuständigkeiten. Der Telekommunikationsverband VATM warnt vor einem „KI-Kompetenz-Wirrwarr“. Auch der KI Bundesverband sieht die Bundesnetzagentur als geeignetste Behörde, betont aber die Notwendigkeit ausreichender Ressourcen und Expertise.

Fazit: Das Ringen geht weiter

Der Bundestag hat nun zwölf Monate Zeit, um die Aufsicht über den „AI Act“ zu regeln. Eine neue Behörde zu gründen, wäre vermutlich zu aufwändig und könnte die KI-Aufsicht vornehmlich mit sich selbst beschäftigen. Das Ringen um die Verordnung ist also auch nach ihrem Inkrafttreten noch nicht beendet.

Ein Fazit mit einem Augenzwinkern: Es bleibt spannend, wer am Ende das Rennen macht – und ob die KI künftig von Netzagenten, Datenschützern oder einer ganz neuen Truppe überwacht wird. Eines ist sicher: Der erste Platz ist hart umkämpft!