Beim Thema KI brauchen Kommunen Haltung: Ein Gespräch mit dem KI-Manager der Stadt Dortmund

Revolution der Verwaltung oder Gefahr für sensible Daten – die Frage, wie sich KI-Nutzung auf Kommunen auswirken wird, treibt um. In der Stadt Dortmund wurde eine Leitlinie entwickelt, die Verwaltungsmitarbeitenden sowie Unternehmen und Zivilgesellschaft Orientierung und Grundsätze an die Hand gibt. Wir haben mit Dr. Athanasios Karafillidis gesprochen, KI-Manager der Stadt Dortmund und Ansprechpartner für die Leitlinie – über die großen KI-Fragen für die lokale Ebene, was andere Kommunen aus dem Entwicklungsprozess lernen können und was die Diskussion um KI aktuell verzerrt.

Die Stadt Dortmund hat eine umfassende Leitlinie für einen verantwortungsvollen Einsatz von KI-Systemen entwickelt. An wen richtet sich diese und was ist ihr Ziel?

Bereits Ende 2023 hat die Stadt Dortmund festgestellt, dass es im Umgang mit KI-Systemen verbindliche Regelungen braucht. Insbesondere aus verwaltungsrechtlicher Perspektive, etwa mit Blick auf Datenschutz und Diskriminierung, bestand Bedarf nach einer klaren, belastbaren Orientierung. Einige Kommunen hatten zu jener Zeit bereits damit begonnen, ihre Beschäftigten mit entsprechenden Informationen zu versorgen und für die Besonderheiten insbesondere von Generativer KI zu sensibilisieren: Was darf ich nutzen, was nicht? Wie ist mit personenbezogenen Daten oder vertraulichen Dokumenten umzugehen? Ein Beispiel hierfür ist der gelungene KI-Kompass der Stadt Wien, an dem sich viele Kommunen orientiert haben.

Dortmund hat sich allerdings dafür entschieden, direkt an einer rechtsverbindlichen Geschäftsanweisung zu arbeiten und ihr eine Leitlinie vorauszuschicken. Die Leitlinie zum Einsatz von Künstlicher Intelligenz (KI) bei der Stadt Dortmund richtet sich an alle Beschäftigten der Stadtverwaltung, aber auch an die Zivilgesellschaft, Unternehmen und andere Kommunen. Sie bietet eine allgemeine, nicht-technische Orientierung und erläutert KI aus der Perspektive der Nutzung. Dabei hat die Stadt bewusst auf eine technologische Überfrachtung oder vermenschlichende KI-Definitionen verzichtet. Ziel ist es, den Beschäftigten eine Vorstellung von KI-Systemen zu geben, die ihnen mehr Sicherheit geben kann und gleichzeitig die Haltung der Stadt Dortmund mit Blick auf diese Technologie sichtbar macht.

Die Leitlinie wird aktuell im Corporate Design der Stadt aufbereitet und soll zukünftig über die Website veröffentlicht werden.

Was sind die grundlegenden Aussagen der Leitlinie?

Die grundlegenden Aussagen sind in drei zentralen Grundsätzen festgehalten. Zu Beginn setzt sich die Leitlinie damit auseinander, in welcher Beziehung wir zu dieser Technologie stehen und wie wir sie verstehen können, um verantwortungsvoll und sicher damit umgehen zu können, nämlich als Fremden, dem wir nicht alles anvertrauen können. Es folgen dann auch Beispiele für bewusste und unbewusste Nutzung von KI-Technologien bevor dann die drei Grundsätze genannt und erläutert werden.

Die drei Grundsätze lauten: dass KI als Unterstützung wahrgenommen werden muss; dass für Entscheidungen immer Menschen verantwortlich sind; und dass unser Handeln sich an ethische und rechtliche Pflichten hält.

• Die Beschäftigten müssen KI tatsächlich als Unterstützung wahrnehmen. Wenn das nämlich nicht der Fall ist, dann mangelt es schnell an Akzeptanz der Technologie. Ohne Akzeptanz werden KI-Systeme aber nicht die Vorteile bringen, die wir uns erhoffen. Nur was als Hilfe wahrgenommen wird, wird auch sinnvoll eingesetzt. Das legt den Fokus direkt auf die Tätigkeit der Menschen, statt auf die erhoffte Leistungsfähigkeit der KI-Systeme. Dadurch wird außerdem verhindert, dass KI-Anwendungen pauschal mit der Gießkanne eingesetzt werden, statt gezielt dort, wo sie tatsächlich einen Mehrwert bieten.
• Die Verantwortlichkeit für Entscheidungen muss immer beim Menschen liegen, weil KI-Systeme ein bekanntes Problem verstärken: die Diffusion von Verantwortung. Gerade in einer gemeinwohlorientierten Verwaltung muss jedoch klar sein, dass die letzte Entscheidung, insbesondere bei Leistungen der kommunalen Daseinsvorsorge, immer von einem Menschen getroffen wird. Maschinen können nicht verantwortlich sein und spüren keine Konsequenzen. Menschen hingegen schon. Nur sie können zur Rechenschaft gezogen werden.
• Der Grundsatz, dass relevante ethische und rechtliche Pflichten beachtet werden, ist ein Versprechen: Es bezieht sich darauf, dass die Stadtverwaltung bei allen Vorhaben, die den Einsatz von KI-betreffen, unter anderem nach dem jeweils aktuellen Stand der rechtlichen Entwicklungen auf EU- und Bundesebene handelt, eine von Beginn an ethische Entwicklung von KI-Systemen fördert und ökologische Aspekte im Blick behält.

Jeder Grundsatz wird in mehreren Punkten genauer erläutert. Ergänzend zu Leitlinie und Geschäftsanweisung ist auch ein Praxishandbuch entstanden, das Hilfestellungen bietet, Erfahrungen sammelt und es ermöglicht, flexibel auf technologische oder regulatorische Veränderungen zu reagieren. Das Ganze wird flankiert durch ein verpflichtendes E-Learning-Angebot. Perspektivisch sind auch weitere Schulungsformate geplant. Der Aufbau von entsprechenden Kompetenzen wird jedenfalls der Schlüssel dafür sein, die abstrakten Potenziale dieser Technologie auch wirklich nutzen zu können. Die Leitlinie verstehen wir auch als einen Beitrag zum erforderlichen Kompetenzaufbau.

Woher kam der Anstoß, eine Leitlinie zu entwickeln?

Ende 2023 wurde eine fachbereichsübergreifende Arbeitsgruppe als Reaktion auf die rasante Entwicklung von KI und grundlegende Fragen gegründet: Nutzen wir KI bereits? Wenn ja, in welchen Bereichen? Wie schulen wir Beschäftigte? Wo liegen Verantwortlichkeiten? Teil dieser Gruppe waren von Beginn an auch der Datenschutz, IT und IT-Sicherheit und der Personalrat beteiligt. In dieser Runde wurde schnell deutlich, dass die Einführung von KI-Anwendungen keine rein technische, sondern eine organisationale und gesellschaftliche Angelegenheit ist. Daher brauchte es nicht nur rechtliche Regeln für das Verwaltungshandeln, sondern das, was nachher zur Leitlinie geworden ist: Erläuterung, Orientierung, Verständnis und auch nüchterne Information ohne Übertreibungen, falsche Hoffnungen oder Ängste.

Die öffentliche Debatte über KI ist meiner Ansicht nach sehr stark verzerrt. Sie kreist um immer neue Modelle, vermeintliche Revolutionen oder dystopische Zukunftsbilder. Was KI heute konkret für Verwaltungen bedeutet, bleibt dabei oft unklar. Meine Aufgabe als KI-Manager bei der Stadt Dortmund besteht seltener darin, Ängste zu nehmen, als vielmehr Erwartungen realistischer zu gestalten.

Was meinen Sie: Sollte eine Leitlinie zum KI-Einsatz in Zukunft zum verbindlichen Standardwerk einer Kommune gehören?

Grundsätzlich ja, aber nur dann, wenn die Kommune sie selbst erarbeitet. Eine Leitlinie ist dann sinnvoll, wenn sie das Ergebnis eines internen Prozesses darstellt, in dem unterschiedliche Stakeholder gemeinsam eine Haltung zu diesem Thema entwickeln. Dieser Prozess schafft Multiplikatoren und verankert das Thema langfristig in der Kommune. Schwieriger wird es hingegen, wenn eine Leitlinie lediglich einen symbolischen Wert hat. Das Ergebnis ist wichtig, auch die symbolische Bedeutung, aber ein echter Mehrwert entsteht durch den gemeinsamen Aushandlungsprozess und das, was anschließend folgt. Denn wie wird die Leitlinie sichtbar und wie bleibt sie es? Wie wird sie organisatorisch verankert? Welche langfristige Wirkung soll sie entfalten? Der Prozess und die Einbettung in die Organisation sollten also im Zentrum jeder kommunalen KI-Leitlinie stehen.

Was können andere Kommunen aus den Prozessen in Dortmund lernen – was sollten sie bei der Erstellung eigener Leitlinien unbedingt beachten?

Das Wichtigste ist die frühe und breite Einbindung aller relevanten Stakeholder. Nicht nur bei uns sind es insbesondere Datenschutz, Personalrat, IT-Sicherheit, Organisation und Personalverwaltung. Durch die zahlreichen, unterschiedlichen Perspektiven ist der Prozess manchmal mühsam, aber das Ergebnis ist es wert. Es braucht einfach diese verteilte, organisationsinterne Expertise, weil jede Kommune auch etwas anders tickt. Zudem hilft es, die Perspektiven der späteren Nutzerinnen und Nutzer einzubeziehen.

Mein Tipp: Ein pragmatischer Einstieg in die Entwicklung einer Leitlinie kann darin liegen, bestehende Ansätze anderer Kommunen als Diskussionsgrundlage zu nutzen. Darauf aufbauend kann Schritt für Schritt eine Leitlinie entwickelt werden. Im nächsten Schritt geht es dann weiter mit einer ganzheitlichen KI-Governance. Die Leitlinie kann hierfür ein guter Startschuss sein.

Kurz zusammengefasst: Am wichtigsten ist eine breite Beteiligung von Leuten mit unterschiedlichen Expertisen und die Einbindung der Perspektive der Nutzerinnen und Nutzer. Dann ergeben sich die Themen und Schwerpunkte von selbst.

Wie funktioniert die Umsetzung der Leitlinie bisher in der Praxis? Und haben Sie ggf. Stolpersteine oder Lücken festgestellt, die es anzugehen gilt?

Aktuell erreichen wir vor allem diejenigen, die bereits interessiert sind. Rein schriftliche Formate stoßen insbesondere bei jüngeren Beschäftigten an Grenzen, weshalb ergänzende Formate wie Videos oder Podcasts diskutiert werden. Tatsächlich wurde der Prozess auch durch drei kurze Podcasts begleitet, in denen ich über den Prozess berichtet habe und die im Intranet der Stadt veröffentlicht worden sind.

Diejenigen, die die Leitlinie gelesen haben, gaben positive Rückmeldung, dass das Dokument trotz seines Anspruchs gut verständlich und nachvollziehbar ist. Auch aus der Politik kamen positive Reaktionen. Die eigentlichen Herausforderungen beginnen allerdings jetzt erst, da die Geschäftsführung die Anforderungen, die sich aus der Leitlinie ergeben, umsetzen muss. Die Leitlinie bildet eine Grundlage, ist aber bisher noch nicht in der Breite der Verwaltung angekommen. Ab jetzt heißt es, dass jede KI-Anwendung durch die Fachbereiche unter anderem daraufhin beurteilt und bestimmt werden muss, inwiefern sie konkret unterstützt und für welchen sie genau genutzt wird.

Die größte Herausforderung steht uns also noch bevor: Wie können wir die Leitlinie verankern und Kompetenzen aufbauen und organisational sichern? Das wird mich in den kommenden Jahren sehr beschäftigen.

Welche Unterstützung brauchen Kommunen von Land und Bund, aber z.B. auch der lokalen Zivilgesellschaft, in diesen Prozessen?

Das ist eine gute Frage. Was kann der Bund, was kann das Land? Der Bundesminister für Digitales und Staatsmodernisierung setzt sich sehr für das Thema ein und versucht, Vernetzungsmöglichkeiten zwischen KI-Start-ups und Kommunen zu fördern und zu erleichtern. Das ist eine wichtige Initiative, an der wir uns beteiligen und deren Früchte wir abwarten müssen. Auf Landesebene müssen Möglichkeiten geschaffen und rechtssichere Lösungen angeboten werden. Auch hier gibt es erste wichtige Ansätze in NRW. Kommunen wünschen sich standardisierte Lösungen beispielsweise für die Antragsprüfung, zur Protokollerstellung oder für ein internes GPT, das sie dann entsprechend auf ihre Bedarfe anpassen können. Eine zentrale Plattform auf Landes- oder Bundesebene das im Vergleich zu kommerziellen Einzellösungen auch finanziell attraktiver und langfristig zuverlässiger ist, könnte ein entscheidender Schritt sein.

All das wird aber nur dann erfolgreich sein, wenn sich bei allen die Einsicht durchsetzt, dass es notwendig ist, sich mit dieser Technologie und ihren Risiken, Chancen und Gefahren zu befassen. Das ist nicht nur Aufgabe der IT-Bereiche oder der Technikbegeisterten, weil uns hier eine Technologie auf Ebene unserer Sprache und Inhalte begegnet. Sprechen und Schreiben tun wir alle, nicht nur die IT-Fachleute.

In Richtung Kompetenzaufbau braucht es außerdem auch eine kulturspezifische Sicht auf die einzelnen Kommunen. Ein bundesweites Portal mit verschiedenen Angeboten für den Aufbau von Kompetenzen, wäre für viele Kommunen eine große Hilfe, ohne ihnen die Verantwortung und Gestaltungsfreiheit zu nehmen. Erforderlich sind leicht zugängliche Angebote für Kommunalverwaltungen sowie verlässliche Rahmenbedingungen.

Weiterlesen

Weitere Interviews unserer Reihe zu KI-Nutzung im zivilgesellschaftlichen Bereich werden laufend auf der Themenseite "KI & Nachhaltige Entwicklung" veröffentlicht. | Link

Eine Wissensgrundlage zu KI-Systemen, von der Technik über aktuelle politische Rahmen bis zu Nachhaltigkeitsfragen, bietet unser Dossier "Künstliche Intelligenz & Nachhaltigkeit". Zum Dossier.

Mehr zu unserer Zusammenarbeit mit der Stadt Dortmund zur Aktualisierung des Dortmunder Nachhaltigkeitsberichts hier: Link