Bundesdigitalminister Karsten Wildberger ist überzeugt, dass die hauseigene KI-Software „Spark Workflow“ Verwaltungsprozesse deutlich beschleunigen wird. Doch noch seien etliche Fragen offen, die auch der Minister nicht beantworte, sagt Digitalexperte Stefan Kaufmann. Er plädiert für einen alternativen Ansatz, um die Verwaltung zu modernisieren.

Bürokratierückbau, Modernisierung des Staates und eine effizientere öffentliche Verwaltung – gebetsmühlenartig wiederholt die Bundesregierung die im Koalitionsvertrag festgeschriebenen Ziele. Digitalminister Karsten Wildberger (CDU) will die öffentliche Verwaltung vor allem mit Hilfe generativer KI modernisieren. Darüber hinaus sollen KI-Agenten Genehmigungsverfahren um bis zu 50 Prozent beschleunigen und so Mitarbeiter:innen entlasten. Zu Jahresanfang hatte Wildberger sogar noch von 80 Prozent Beschleunigung gesprochen.

Seine Hoffnungen setzt der Minister dabei vor allem auf Spark Workflow. Das sind KI-Agenten, die den Ablauf von Verwaltungsverfahren durchgängig abbilden sollen. Im Gespräch mit netzpolitik.org ordnet Stefan Kaufmann ein, was nach jetzigem Wissensstand von Spark Workflow zu erwarten ist. Kaufmann ist Experte für Open Data und Verwaltungsdigitalisierung und beschäftigt sich auch privat mit Spark Workflow und den offenen Fragen des Projekts.

netzpolitik.org: Das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) will Spark Workflow in die öffentliche Verwaltung bringen. Was tut das Programm?

Stefan Kaufmann: Spark Workflow soll dabei helfen, Genehmigungsverfahren schneller zu bearbeiten. Nach allem, was wir zurzeit über das Programm wissen, arbeitet es in mehreren Schritten. Zunächst soll es Word-Dokumente, PDFs und PowerPoint-Dokumente in Markdown übersetzen, damit der Inhalt des Dokuments überhaupt analysierbar wird. Mit der Markdown-Syntax werden Struktur und Inhalte leichter maschinell auswertbar.

Anschließend wirft das Programm die aufbereiteten Inhalte nach und nach gegen Sprachmodelle und die wenden darauf festgelegte Prompts an, also Eingaben an das KI-System. Das Programm soll so einen Antrag auf Vollständigkeit und Plausibilität prüfen und eine rechtliche Einordnung vornehmen.

„Es braucht hundertprozentige Verlässlichkeit“

netzpolitik.org: Wie funktioniert das genau?

Stefan Kaufmann: Das ist nicht so leicht zu sagen. Zwar ist der Code auf openCode öffentlich einsehbar. Aber es fehlt eine Gesamtdokumentation. Die öffentlich zugänglichen Informationen zum Projekt lassen kaum Rückschlüsse darauf zu, wie die einzelnen Spark-Module im Detail funktionieren sollen und was die allgemeine Erwartungshaltung an das Programm ist.

So fehlt auch ein Gütetest: Tut das System, was es soll? Entsprechende Kriterien müsste man vorher definieren. Das wäre ein wissenschaftliches Vorgehen. Wenn ich ein Medikament teste, formuliere ich solche Kriterien auch, führe Doppel-Blindstudien durch und prüfe, ob meine Erwartung an die Wirkung des Medikaments erfüllt ist. Bei Spark Workflow ist so etwas bislang nicht erkennbar.

Außerdem müsste man zuvor definieren, was eine akzeptable Fehlerquote ist. Dass die generative KI unterschiedliche Ergebnisse auswerfen kann, auch wenn man dieselbe Abfrage macht, ließe sich systematisch testen. Man könnte einen Musterantrag mehrmals durch das System laufen lassen und die Ergebnisse speichern. Anschließend könnte man die Varianzen zwischen den Ergebnissen untersuchen. Wie man die dann bewertet, hängt davon ab, welche Abweichung als akzeptabel gilt.

Angenommen von 100 Anträgen wird einer falsch positiv oder einer falsch negativ bewilligt. Ist das dann ein akzeptables Ergebnis? Das müsste man diskutieren und definieren. Ich bin der Überzeugung, bei einer maschinellen Auswertung von Anträgen braucht es eine hundertprozentige Verlässlichkeit. Aber das ist eine politische Frage.

Mit Markdown zur „symbolischen KI“

netzpolitik.org: Gehen wir kurz noch einen Schritt zurück: Inhalte aus Dokumenten in Markdown zu übersetzen, das ist doch sinnvoll, oder?

Stefan Kaufmann: Ja, wenn man aber bei Spark Workflow schon diesen Schritt geht, könnte man noch einen Schritt weitergehen: nämlich die Anträge so gestalten, dass sie direkt in Markdown vorliegen. Damit könnte man auf Sprachmodelle verzichten und hätte einen Schritt hin zu einer verlässlichen und schnell verfügbaren Datenbasis zurückgelegt.

netzpolitik.org: Warum wäre das sinnvoll?

Stefan Kaufmann: Beispielsweise kann man mit Begriffen viel besser umgehen, die je nach Kontext eine andere Bedeutung haben, wie etwa der Begriff „Einkommen“. Durch eine passende Datenkodierung könnte man sicherstellen, dass das System jeweils den richtigen Einkommensbegriff erfasst. So etwa arbeitet die sogenannte symbolische KI, nach Regeln von Logik und Mathematik.

Die hat einen wesentlichen Vorteil: Auch wenn ich dieselbe Abfrage hundertmal vornehme, ich erhalte immer dasselbe Ergebnis. Bei diesem System bin ich lediglich darauf angewiesen, dass die zugrunde liegenden Sachverhaltsdarstellungen in einem maschinell auswertbaren Format vorliegen. Die Korrektheit des Ergebnisses hängt hier nicht davon ab, dass das System zufällig das richtige Ergebnis ausspuckt, sondern das folgt logisch aus den verarbeiteten Daten.

Digitalministerium will KI-Agenten für die Verwaltung

netzpolitik.org: Wie unterscheiden sich Sprachmodelle von der symbolischen KI?

Stefan Kaufmann: Sprachmodelle sind den sogenannten konnektionistischen KI-Modellen zuzuordnen. Das sind all die Modelle, die auf stochastischen Verfahren basieren, die nach dem Prinzip der Wahrscheinlichkeit funktionieren. Ein klassischer konnektionistischer KI-Ansatz ist maschinelles Lernen. Eine Untergruppe davon ist Deep Learning und daneben gibt es eben die großen Sprachmodelle. Gesichtserkennung ist beispielsweise ein klassischer konnektionistischer Ansatz. Da kann ich ein Gesicht mit einer gewissen Wahrscheinlichkeit erkennen, die liegt dann irgendwo zwischen 0 und 100 Prozent. Diese Konfidenz, eine Art Kennzahl über die Gewissheit, kann ich mir oft auch anzeigen lassen.

Bei symbolischer KI gibt es eigentlich nur die Ergebnisse 0 und 1. Entweder die Ausgabe ist richtig oder die Anfrage nicht beantwortbar, etwa wenn die Datenlage das nicht hergibt.

Mehr Effizienz mit maschinenlesbaren Daten

netzpolitik.org: Wie kommt es, dass die öffentliche Verwaltung mit Dokumenten in unterschiedlichen und nicht maschinenlesbaren Formaten arbeitet?

Stefan Kaufmann: Menschen lernen schon in der Schule, dass sie Texte mit Microsoft Word schreiben. Wir alle sind in gewisser Weise darauf „trainiert“ worden. Die meisten verfassen auch in ihrem Berufsleben Dokumente so, dass sie für Menschen lesbar sind.

Zum Beispiel ein PDF-Dokument, in dem Tabellen enthalten sind. Zwar ist die Darstellung digital. Aber eine automatische mathematische Auswertung der Inhalte ist sehr viel schwieriger, als wenn die ursprüngliche Tabelle im CSV-Format vorliegen würde – oder noch besser: als Linked Data. Wären die Inhalte maschinenlesbar aufbereitet, wäre das ein Riesenschritt in Richtung einer verlässlichen Auswertung.

netzpolitik.org: Wie bewertest du die Entscheidung, dass die öffentliche Verwaltung diesen Weg bislang nicht eingeschlagen hat und stattdessen zumindest auf Entscheider-Ebene auf generative KI setzt?

Stefan Kaufmann: Benjamin Degenhardt hat das neulich sehr schön eingeordnet: Der Weg hin zu semantischer Datenhaltung, also etwa besserer Maschinenlesbarkeit, sei strategisch der weitsichtige und auch der einzig sinnvolle. Ich stimme ihm da voll zu.

Degenhart ist Wissensingenieur und engagiert sich für Open Source, Linked Open Data, Graphen und Nachhaltigkeit.

Damit ließen sich alle Vorteile des automatisierten Rechnens nutzen, ohne irgendwelche Abstriche machen zu müssen. In strukturierte Daten zu investieren, wäre nachhaltig. Damit könnte man Mitarbeiter:innen in der Verwaltung nicht nur Arbeit abnehmen, man könnte gleichzeitig Kompetenz vorantreiben, besser mit Daten umzugehen, also mit Fokus auf Maschinenlesbarkeit. Da wäre deutlich mehr Effizienz zu gewinnen, während man die Grundsätze von Verwaltungshandeln wie Gleichheitsgrundsatz oder Verlässlichkeit nicht infrage stellen müsste.

Die Existenz generativer KI-Systeme verleitet dazu, Workarounds zu bauen, weil die momentan durch die Verfügbarkeit solcher Systeme günstig erscheinen. Ich kann damit kurzfristig einen Erfolg erzielen und komme meinem Ziel augenscheinlich näher. Bei genauer Betrachtung wird aber klar: Ich verbaue mir damit gleichzeitig, das gesamte System zu ertüchtigen.

netzpolitik.org: Wie kann man sich das vorstellen?

Stefan Kaufmann: Ich versuche, das an einem Bild zu erklären. Es gibt ein Ministerium, das eine desolate Wasser-Verrohrung hat. Eigentlich ist allen klar, wir sind hier auf dem Stand, der nicht mehr tragbar ist. Das sind technische Schulden. Wir müssten diese Infrastruktur von Grund auf neu festigen. Denn bislang haben Mitarbeitende das Wasser in Eimern von A nach B getragen. Statt die Infrastruktur zu erneuern, nimmt das Ministerium das Angebot einer Firma an. Sie sponsert billige Arbeiter:innen, die den Ministeriumsmitarbeiter:innen das Wassertragen abnehmen.

Diese Lösung reduziert vorerst das akute Defizit. Fraglich ist: Wollen wir, dass da Menschen das Wasser hin und her tragen? Ist das langfristig wirtschaftlich? Oder wollen wir nicht eher eine Situation, wo ich den Wasserhahn aufdrehe und das Wasser einfach läuft, Wasser as a service sozusagen?

„Ich halte es für eine Ausrede“

netzpolitik.org: Welche Gefahr siehst du bei Spark Workflow?

Stefan Kaufmann: Weniger eine Gefahr, mir fällt aber auf, dass vieles von dem, was gerade verhandelt wird, auf Kategorienfehlern basiert. Dass hier eine agentische KI am Werk sei, die 50 oder gar 80 Prozent der Arbeit abnehmen könne, sind zunächst Behauptungen. Das lässt sich nicht überprüfen. Ich habe die Befürchtung, dass die Verantwortlichen im BMDS Annahmen anhängen, wie solche Systeme arbeiten und welche Leistung sie erzielen können, die sich schwer belegen lassen.

Es ist durchaus möglich, dass Spark Workflow eingereichte Anträge prüft und darin tatsächlich Inkonsistenzen und Unvollständigkeiten anzeigt. Doch scheint das System einige technische Probleme mit sich zu bringen. Demnach kann es vorkommen, dass es zwei Dateien mit demselben Dateinamen ermittelt und dann eine davon verwirft. Dass die Dateinamen sich decken, bedeutet aber nicht automatisch, dass der Inhalt der Dubletten identisch ist.

Die Person, die das Programm bedient, sieht offenbar auch nicht, wenn im Hintergrund etwas passiert, was den Umfang des ursprünglichen Antrags verändert. Sie hat womöglich keine Information darüber, dass das System damit unter Umständen zu einem verfälschten Ergebnis kommt.

netzpolitik.org: Es fällt immer wieder das Argument vom „human in the loop“, am Ende entscheide immer ein Mensch. Ein Programm wie Spark Workflow solle lediglich unterstützen, menschliche Expertise sich dann auf das Ergebnis konzentrieren. Wie bewertest du das?

Stefan Kaufmann: Ich halte es für eine Ausrede. Im konkreten Fall ist nicht klar: Kann die Person, die das Programm bedient, einordnen, dass das Ergebnis der generativen KI zufallsbehaftet ist? Weiß sie, dass das System vielleicht unter der Haube anders agiert, als man es als Laie erwarten würde? Grundsätzlich ist die Frage offen: Wie kann der Mensch einen Antrag angesichts des Moments des Zufalls verlässlich bearbeiten? Oder werden solche Anträge in Zukunft quasi per Losverfahren beschieden?

„Nur auf einen spezifischen Anwendungsfall zugeschnitten“

netzpolitik.org: Laut den Aussagen etwa von BMDS-Staatssekretär Thomas Jarzombek soll Spark in mehreren Bereichen der öffentlichen Verwaltung eingesetzt werden können. Für wie realistisch hältst du das?

Stefan Kaufmann: Wenn man in den Code von Spark Workflow reinschaut, fällt auf: Dieses System ist gerade nur auf einen spezifischen Anwendungsfall zugeschnitten, nämlich auf die umweltrechtliche Genehmigung.

Würde man diesen Anwendungsfall auf einen anderen umbauen, muss man da händisch in viele Konfigurationsdateien eingreifen. Das wirkt auf mich nicht wie ein System, das flexibel auf verschiedene Szenarien in der Verwaltung angepasst werden kann. Zumindest nicht ohne erheblichen Aufwand.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Für eine dreistellige Millionensumme sollen SAP und Telekom eine „KI-Cloud“ für die öffentliche Verwaltung bauen. Digitalminister Karsten Wildberger nennt das souverän. Unabhängig wird Deutschlands Verwaltung damit nicht, warnen Opposition und Fachleute.

Für 250 Millionen Euro sollen deutsche Konzerne IT-Infrastruktur für die öffentliche Verwaltung aufbauen. Im Mittelpunkt steht eine „KI-Cloud“. Das sind Server, auf denen KI-Software laufen soll.

Damit setzt Digitalminister Karsten Wildberger (CDU) seinen KI-freundlichen Kurs fort. Zuletzt hatte er den Agentic AI Hub gestartet. Sogenannte KI-Agenten sollen Beamt*innen zum Beispiel dabei helfen, Dokumente auf Vollständigkeit zu prüfen. Im Gegensatz zu Sprachmodellen wie ChatGPT geben KI-Agenten nicht nur Antworten, sondern erfüllen Aufgaben mit digitalen Werkzeugen.

Die neue „KI-Cloud“ soll nun „zur zentralen Schaltstelle für die öffentliche Verwaltung werden“, erklärt das Digitalministerium. Zunächst soll die KI-Plattform KIPITZ dorthin umziehen. Die Cloud sei das „Rückgrat einer souveränen, digitalen und KI-fähigen Verwaltung“, sagt der Digitalminister. Die dafür veranschlagten 250 Millionen Euro will sein Ministerium an zwei Konsortien verteilen: 70 Prozent erhalten die Telekom-Tochter T‑Systems und SAP; weitere 30 Prozent ein Konsortium um den Wiesbadener IT-Dienstleister SVA.

Wie die Deutsche Presse-Agentur berichtet, sei der Auftrag „bewusst zweigeteilt“ worden, um die Abhängigkeit von nur einem Anbieter zu umgehen. Wildberger sprach von einer „Infrastruktur, die wir selbst kontrollieren“. Telekom-Chef Tim Höttges sagte: „Zusammen sorgen wir dafür, dass Deutschland und Europa die digitale Zukunft selbst in der Hand haben.“ Das soll unter anderem mit SAPs „Business AI Platform“ geschehen. SAP-Chef Christian Klein zeigte sich zufrieden, dass seine KI-Cloud „Teil des Deutschland-Stacks“ werden soll.

Bund zahlt hunderte Millionen für Lizenzen

SAP profitiert bereits in großem Stil von Steuergeldern: Allein im Haushaltsjahr 2025 überwies der Bund an das deutsche Softwareunternehmen 110 Millionen Euro für Lizenzen und weitere 71 Millionen Euro für Produkte und Dienstleistungen. Das zeigt die Antwort der Bundesregierung auf eine Schriftliche Frage von Sonja Lemke von der Linksfraktion, die netzpolitik.org vorliegt.

Zum Vergleich: Im selben Jahr hat der Bund 481 Millionen Euro für Microsoft-Lizenzen ausgegeben. Die Kosten sind im Vergleich zu den beiden Vorjahren stetig gestiegen: 2023 waren es noch rund 274 Millionen Euro, ein Jahr später bereits rund 348 Millionen.

Nicht nur Lizenzen großer US-Unternehmen sind „ein wahnsinniger Kostenfaktor“, kommentiert die Abgeordnete gegenüber netzpolitik.org.

Warnung vor Lock-in-Effekt

Die Projekte aus dem Digitalministerium zeigen: Künftig könnte vermehrt Geld an deutsche oder europäische Konzerne fließen. Das entspricht dem Tenor aus dem Gipfel zur europäischen digitalen Souveränität im November: „buy european“, kauft in Europa ein. Kritik daran gibt es von der Opposition und von Fachleuten. Sie warnen vor neuen Abhängigkeiten durch andere Konzerne.

So kritisiert Linken-Abgeordnete Lemke: US-Konzerne hätten kein Patent darauf, Kunden von sich abhängig zu machen. Sie warnt vor dem Lock-in-Effekt – also davor, dass die Verwaltung von einem einmal gewählten Anbieter nicht mehr loskommt. Dieser Effekt richtet sich nicht danach, wo ein Unternehmen sitzt, sondern danach, wie das IT-Produkt gestaltet ist. „Wer einmal SAP nutzt, kann die eigenen Daten nicht mehr einfach zu einem anderen Anbieter umziehen“, warnt Lemke.

Deshalb fordert sie ein Umdenken: „Digitalisierung muss endlich heißen, eigene Infrastrukturen aufzubauen.“ Dafür brauche es eigene Rechenzentren sowie eigene Betriebssysteme und Software, über die die öffentliche Hand selbst verfügen kann. Die Verwaltung brauche mehr IT-Kompetenz, um weniger von externen Beraterfirmen abhängig zu sein.

Ähnlich argumentiert die Free Software Foundation Europe. Mit Blick auf die Debatte um digitale Souveränität in Deutschland pocht der gemeinnützige Verein auf das Credo „Public Money, Public Code“.

Dahinter steht der Gedanke: Wenn Bürger*innen mit ihren Steuern eine Software zahlen, dann sollte sie allen gehören und öffentlich einsehbar sein. „Nur so lässt sich die strukturelle Abhängigkeit öffentlicher Verwaltungen von proprietärer Software und ihren Herstellern beenden und technologische Souveränität erreichen.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Das Digitalministerium hatte die Zivilgesellschaft aufgerufen, sich beim Deutschland-Stack einzubringen. Doch in beiden Konsultationsphasen wurde deren Expertise nicht gefragt. Dabei bringt die Zivilgesellschaft Fragen ein, die sonst untergehen. Das zeigt der Workshop zu „KI in der Verwaltung“ des Bündnisses F5.

Der Deutschland-Stack ist das Großprojekt des jungen Bundesministeriums für Digitales und Staatsmodernisierung schlechthin. Damit will Karsten Wildberger (CDU) ein „digitales Update“ (€) für Deutschland. Mit der „einheitlichen IT-Infrastruktur mit Basiskomponenten wie Cloud- und IT-Diensten und klar definierten Schnittstellen“ adressiert er die grundlegenden Versäumnisse der seit Jahren schleppenden Digitalisierung der öffentlichen Verwaltung.

Eigentlich könnte das Ministerium hier aus dem Vollen zivilgesellschaftlicher Expertise schöpfen. Viele zivilgesellschaftliche Akteure beobachten die scheiternde Verwaltungsdigitalisierung nicht nur seit Jahrzehnten, sondern bringen ihr Wissen und ihre Erfahrungen häufig ehrenamtlich in Digitalisierungsprojekte und nachhaltige Lösungswege ein.

Zum Start des Konsultationsprozesses im Herbst erhielt das Ministerium zunächst viel Lob. Öffentlich rief es Gruppen, Verbände, aber auch Einzelpersonen dazu auf, über die Plattform openCode ihr Feedback zum Stack einzubringen. Der Zugang dazu ist niedrigschwellig und die einzelnen Beiträge sind öffentlich einsehbar. Die volle Transparenz hebt hier die Konsultation stark von bisherigen Beteiligungsformaten ab.

Workshops ohne die Zivilgesellschaft

Doch um Feedback zu bekommen, fährt das Ministerium von Anfang an zweigleisig. Denn zeitgleich zur offenen Konsultation plante es Workshops mit Verbänden aus den Bereichen Start-ups, Wissenschaft, IT- und Digitalwirtschaft sowie weiteren. Mit von der Partie waren vor allem Wirtschaftsverbände. Dabei erhielt die Zivilgesellschaft bislang keinen Zugang.

Was bei den Workshops herauskam, ist nicht bekannt. Die hätten „generell im Haus intern und auf Arbeitsebene stattgefunden – zu diesen gibt es keine öffentliche Berichterstattung“, erklärt ein Sprecher des BMDS gegenüber netzpolitik.org.

Wie aus der Antwort (PDF) der Bundesregierung auf eine Kleine Anfrage von Sonja Lemke (Die Linke) hervorgeht, gab es im November fünf Workshops – zu den Themen Markt und Integrationsplattform, Startups und Agentic AI. Sie wurden unter anderem ausgerichtet von eco, dem KI-Verband, Bitkom und Databund. Die Bundesregierung betonte, sie habe Expertise zum Thema „technische Standards und Technologien des Deutschland-Stacks“ angefragt, aber an den Workshops lediglich als „Impulsgeber“ teilgenommen.

Digitalministerium lässt sich bitten

Bei der Terminvergabe ging die Zivilgesellschaft leer aus, sowohl in der ersten Konsultationsphase vom 1. Oktober bis zum 30. November als auch in der zweiten vom 16. Januar bis zum 15. Februar. Dabei hatte das Bündnis F5 bereits im Herbst beim Ministerium nach einem Termin gefragt, so Kai Dittmann. Er leitet die Advocacy- und Policyarbeit bei der Gesellschaft für Freiheitsrechte (GFF) und koordiniert das Bündnis.

Zu diesem Bündnis haben sich die Organisationen Reporter ohne Grenzen, AlgorithmWatch, Wikimedia Deutschland, Open Knowledge Foundation Deutschland und GFF zusammengeschlossen, sie setzen sich für eine gemeinwohlorientierte Digitalpolitik ein.

„Wir hatten gehofft, dass das BMDS von sich aus einen Konsultationsworkshop zum Deutschland-Stack anbietet“, sagt Dittmann, „um zunächst ein paar grundlegende Informationen zu vermitteln, etwa was zum Stack gehört und was nicht. Es wäre sinnvoll gewesen, zu Beginn darüber zu diskutieren, bei welchen Fragestellungen die Zivilgesellschaft aktiv eingebunden sein sollte“, etwa bei der Frage nach dem Einsatz digitaler Identitäten und danach, wie der sich auf Grundrechte auswirkt und wie er eingeschränkt werden müsste. Auch zur Frage einer sinnvollen Datenhaltung, um diesen Deutschland-Stack zu befüllen, hätte das BMDS von der Expertise von Wikimedia profitieren können, so Dittmann.

F5-Workshop zu KI in der Verwaltung

Schließlich fand Ende März ein Workshop mit F5 statt. Das Thema: „KI in der Verwaltung“. Doch wie das BMDS auf Anfrage erklärt, habe der Workshop „keinen speziellen Bezug zum Deutschland-Stack“. Das überrascht in doppelter Hinsicht. Denn laut Antwort der Bundesregierung vom Dezember sei ein Workshop mit der Zivilgesellschaft „in Klärung“ und als Organisation benannte sie das Bündnis F5. Das suggeriert, dass der F5-Workshop im Kontext des Deutschland-Stacks geplant war.

Zweitens waren bei diesem Workshop laut BMDS nicht nur Vertreter:innen aus der Zivilgesellschaft eingeladen, sondern auch aus der Wirtschaft. Überraschend ist die „Klarstellung“ des Ministeriums auch, weil KI im überarbeiteten „Gesamtbild“ ausdrücklich Teil des Deutschland-Stacks ist.

Agentische KI soll Verwaltungsaufgaben künftig erleichtern und teilweise übernehmen. Dazu hat das BMDS einen eigenen Hub gegründet und fördert eine Reihe an Pilotprojekten. Eines davon setzt agentische KI beim Antragsverfahren für Wohnberechtigungsscheine ein. Sie betrifft einen sensiblen Bereich, in dem es um die Existenz von Menschen geht. Fehler wären hier verheerend. Das veranschaulicht das Beispiel um die Kindergeldaffäre in den Niederlanden.

„Ins Machen kommen“ braucht klare Grenzen

„Im Workshop haben wir viele Fragen erst angerissen“, so Dittmann. Wie gehen Verwaltungen und Mitarbeiter:innen etwa damit um, wenn was schief geht? Wer trägt die Verantwortung für den Fall, dass Fehler passieren, die unter Umständen gravierende Konsequenzen haben? Der Sachbearbeiter, die Software-Hersteller, der IT-Dienstleister, die Behörde, die das KI-System eingekauft hat, oder der Minister, der das Ganze vorangetrieben hat? Wer ist zuständig, wenn entsprechende KI-Systeme nicht die gewünschten Ergebnisse liefern?

Was passiert, wenn ein einzelner Sachbearbeiter mithilfe von KI-Agenten immer mehr Anträge bearbeitet und etwas übersieht? „Müssen wir mit einer Verantwortungsdiffusion in diesem System rechnen?“, fragt Dittmann. Denn klar sei, die Maschine kann keine Verantwortung tragen.

Das alles seien gesellschaftliche Fragen, über die wir sprechen und die wir klären müssten. Angesichts des Mottos „ins Machen kommen“ seien sie bislang untergegangen. Ins Machen zu kommen, heiße aber auch zu entscheiden, „was wir alles nicht machen“ und Grenzen abzustecken, so Dittmann.

Aufsuchende Beteiligung

Dass das BMDS im Rahmen des D-Stacks die Zivilgesellschaft auf Abstand hält, ist umso unverständlicher, als es laut Sprecher beim KI-Transformationsprozess ausdrücklich darum gehe, deren Perspektiven einzubeziehen.

Auch wenn die Kommunikation des Ministeriums bislang unstet war, den Workshop Ende März sieht Dittmann als Startschuss dafür, zivilgesellschaftliche Expertise nicht nur einzubeziehen, sondern auch als Ressource zu begreifen. Die könne das Ministerium noch mehr nutzen, wenn es sich um eine aufsuchende Beteiligung bemüht.

Das kann bedeuten, die Expertise engagierter Menschen über andere Wege einzuholen. Denn die arbeiten häufig ehrenamtlich und können Workshops nicht wahrnehmen, wenn die an einem Werktag zu normalen Geschäftszeiten stattfinden. Das betrifft zum Beispiel Ehrenamtliche von D64, dem Zentrum für digitalen Fortschritt, vom Chaos Computer Club oder InÖG, dem Innovationsverbund öffentliche Gesundheit.

Das Ministerium könnte Forschungsmittel bereitstellen oder bei Forschenden anfragen, welche Personen oder ehrenamtlichen Organisationen sich bei bestimmten Fragen besonders gut auskennen. Beispielsweise könne das BMDS auch nach Erfahrungen fragen, die ehrenamtliche Digitalisierungsprojekte in Berlin, auf Bundesebene, aber auch in Städten und kleineren Gemeinden eingeholt haben.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.