Vom Arbeitsmarktservice bis zur Zulassungsstelle für Kraftfahrzeuge – die öffentliche Verwaltung umfasst eine Vielzahl an Institutionen, die unterschiedlichste Aufgaben für die Bürger:innen eines Landes erledigen. Um Abläufe zu beschleunigen und damit die Dienstleistungsqualität zu verbessern, will das EU-Projekt EUNOMIA.AI in den kommenden drei Jahren neue, auf generativer KI (GenAI) basierende Anwendungen dafür schaffen. Ein zentraler Aspekt: Sie müssen vertrauenswürdig und kontrollierbar sowie mit EU-Recht vereinbar sein.
Stefan Storr, Professor für Öffentliches Recht und Öffentliches Wirtschaftsrecht an der Uni Graz, und Dissertantin Magdalena Eder bringen dazu ihre Expertise ein. „Wir werden in einem Konsortium ein Handbuch erstellen, das festhält, welche Anforderungen KI-Dienste erfüllen müssen, um der Datenschutz (DSGVO) wie auch der EU-Cybersicherheitsrichtlinie für kritische Infrastruktur (NIS2) gerecht zu werden“, so Storr.
Die Herausforderungen sind vielfältig. So gelte es etwa von Beginn an zu überlegen, wie bei der Verarbeitung personenbezogener Informationen gewährleistet werden kann, dass die Grundrechte der Bürger:innen gewahrt werden. Außerdem müssten alle Risiken von Fehlentscheidungen in Betracht gezogen werden, um möglichen negativen Folgen vorzubeugen.
Die Entwicklung eines Evaluierungskonzepts für Large Language Models (LLM) in der öffentlichen Verwaltung ist Aufgabe von Stefan Thalmann, Leiter des Center for Data Science in Business and Society (BANDAS) der Uni Graz, und seinem Team. Dieses soll zum einen bei der Planung von LLM-Projekten helfen und zum anderen bei der Evaluierung, ob die KI-gestützten Anwendungen und Dienste tatsächlich zu den gewünschten Ergebnissen führen. In Österreich sind als Pilotprojekte ein KI-Tool für das Umweltministerium (BMLUK) zum Management der Abfallwirtschaft sowie LLMs für die Städte Graz und Wels zur besseren Abwicklung von Bauanträgen geplant.
33 Organisationen aus 14 Ländern sind an EUNOMIA.AI beteiligt. Die Koordination liegt bei der Agencia Digital de Andalucía (ADA), einer öffentlichen Agentur der Regionalregierung von Andalusien/Spanien. Die KI-Tools werden auf europäischer Open-Source-Technologie basieren und auf einer gemeinsamen GenAI-Infrastruktur, die an der Universität Granada/Spanien gehostet wird, laufen. Das Gesamtbudget des Projekts beträgt rund 14 Millionen Euro. Die Hälfte wird über das EU-Programm „Digital Europe“ finanziert.
Wer selbst an der Entwicklung neuer KI-Systeme mitarbeiten will, kann im Masterstudium Data Science die dafür nötigen Kompetenzen erwerben.