EU AI Act: 3 Fragen an das KI-Büro der Europäischen Kommission
Nach langen Verhandlungen gibt es nun eine Einigung über allgemeine KI-Modelle (GPAI), aber das im Januar 2024 gegründete EU-KI-Büro (EU AIO) steht nun vor schwierigen Entscheidungen. Diese haben in den Medien und bei Forschungsorganisationen Fragen aufgeworfen - unsere KI-Experten haben dazu 3 eigene Fragen.
Das EU-AI Office (EU AIO) ist unter anderem für die Überwachung und Durchsetzung der Bestimmungen des KI-Gesetzes (AIA) in Bezug auf allgemeine KI-Modelle (GPAI) zuständig.
Das wird keine leichte Aufgabe. Die Verhandlungen über GPAI-Modelle waren kontrovers, denn zahlreiche Interessengruppen haben intensiv über Definitionen, Verfahren und institutionelle Rahmenbedingungen diskutiert. Nachdem nun eine Einigung erzielt wurde - wobei GPAI-Modelle anhand eines Schwellenwerts für die Rechenleistung in Modelle mit und ohne „hohe Auswirkung“ kategorisiert werden - beginnt für das EU-KI-Büro die eigentliche Arbeit.
Basierend auf dem Erfahrungsaustausch im appliedAI-Ökosystem und aktuellen Medienberichten gibt es mindestens drei wichtige Fragen, die das EU-KI-Büro in den kommenden Monaten beantworten muss.
1. Wie wird das Büro geleitet und personell ausgestattet?
Am 10. April berichtete Euractiv, dass Abgeordnete aus drei Parteien in einem Schreiben an die Kommission Transparenz darüber fordern, wer das neue Büro leiten wird und wie sie plant, das benötigte Personal zu gewinnen.
Diese Fragen sind wichtig, da der Wettbewerb um KI-Experten weltweit zunimmt. Im März berichteten die Financial Times und das Wall Street Journal, dass die Gehälter für qualifizierte KI-Forscher normalerweise die Millionenmarke überschreiten. Diese Berichte sowie Untersuchungen des MacroPolo-Instituts zeigen auch, dass die USA nach wie vor das beliebteste Ziel für diese Forscher sind.
Das EU-KI-Büro wird diese Herausforderungen lösen müssen, da es mit begrenzten Ressourcen versucht, Mitarbeiter zu gewinnen, die in der Lage sind, sich mit einigen der komplexesten wissenschaftlichen, technischen und politischen Herausforderungen auseinanderzusetzen. Wer das KI-Büro leitet, wird auch eine entscheidende Rolle bei der Beantwortung der nächsten Frage spielen.
2. Wie sieht der Prozess zur Erstellung der GPAI-Verhaltenskodizes (CoP) aus?
Anbieter von GPAI-Modellen werden sich auf den CoP verlassen, um die Einhaltung ihrer Verpflichtungen gemäß dem EU AI Act nachzuweisen. Wie diese Kodizes in der Praxis erstellt werden, bleibt jedoch unklar.
Laut dem EU AI Act besteht die Aufgabe des KI-Büros lediglich darin, die Erstellung der Verhaltenskodizes zu „ermöglichen und zu erleichtern“. In der Praxis werden daher die Anbieter von GPAI-Modellen selbst für die Ausarbeitung verantwortlich sein. Die Rolle der Zivilgesellschaft, der Wissenschaft und anderer Interessengruppen bleibt ebenfalls unklar, wobei die EU AI Act anmerkt, dass sie den Prozess „unterstützen können“.
Ein aktueller Bericht von Politico zeigte, dass das britische Institut für Künstliche Intelligenz und Sicherheit (AISI), das mit der Prüfung und Bewertung fortschrittlicher KI-Modelle beauftragt war, aufgrund von Verfahrensproblemen keinen Zugang zu den Modellen hatte. Um ähnliche Fehler in den nur neun Monaten zu vermeiden, die dem EU-KI-Büro zur Steuerung dieses Prozesses zur Verfügung stehen, muss es einen Rahmen schaffen, der transparent, gerecht und effizient ist.
3. Wie wird das EU-KI-Büro fragmentierte internationale und EU-weite Prozesse in Einklang bringen?
In seinen Überlegungen zum EU AI Act bemerkte Kai Zenner, dass eine der Herausforderungen des AI Acts das komplexe Netz von Behörden ist, die für die Überwachung und Durchsetzung verantwortlich sind, sowie die Interaktion des AI Acts mit anderen Gesetzen, wie der DSGVO.
Wie TechCrunch im April dokumentierte, sind diese Herausforderungen bereits deutlich geworden, als einige Anbieter von GPAI-Modellen von den Datenschutzbehörden mehrerer EU-Mitgliedstaaten untersucht wurden. Tatsächlich werden die Entscheidungen dieser und anderer Behörden genauso viel Einfluss auf die Anbieter von GPAI-Modellen haben wie die CoP.
Diese Herausforderungen für das EU-KI-Büro werden sich verschärfen, wenn es versucht, seinen Ansatz mit internationalen KI-Institutionen wie dem amerikanischen oder britischen Institut für Künstliche Intelligenz und Sicherheit zu harmonisieren – beide haben unterschiedliche Anreize und Betriebsbedingungen – und gleichzeitig versucht, kohärente EU-Binnenmarktregeln für GPAI-Anbieter zu schaffen.
Diese Probleme sind nicht unüberwindbar
Bei appliedAI versuchen wir, das EU KI-Büro und andere europäische und nationale Institutionen zu unterstützen. In den letzten Monaten haben wir deshalb:
- Einen Bericht über den Stand der generativen KI in Europa veröffentlicht,
- Experten von europäischen GPAI-Anbietern zusammengebracht, um sich mit Politikern in Europa auszutauschen,
- Einen Aufruf zur Einstellung von GenAI Regulatory Engineers gestartet, die in der Lage sind, die Kluft zwischen technischer und politischer Expertise zu überbrücken,
- Europäische Unternehmen bei Entscheidungen über vertrauenswürdige LLM-Anwendungen unterstützt.
Wir freuen uns darauf, das KI-Büro, die Industrie und die Zivilgesellschaft im kommenden Jahr durch technische Lösungen, politische Optionen und Partnerschaften zu unterstützen und mit ihnen zusammenzuarbeiten.