Keine KI ohne Werte: Ein Gespräch über den Code of Conduct „Demokratische KI“

Mit dem Code of Conduct „Demokratische KI“ hat D 64, das Zentrum für Digitalen Fortschritt, eine starke Leitlinie für gemeinwohlorientierten und wertegeleiteten KI-Einsatz in der Zivilgesellschaft vorgelegt. Wie die partizipative Erarbeitung gelang, was für weitere Publikationen die praktische Umsetzung in der Organisation erleichtern und wieso Passivität bei KI-Fragen niemals die Antwort sein darf, erläutert Monika Ilves, Co-Direktorin des Institute of Electronic Business und Board Member bei D 64, im Interview.

Frau Ilves, herzlichen Glückwunsch zum erfolgreichen Projektabschluss. Können Sie uns zunächst den Ausgangspunkt und die Motivation hinter dem Projekt Code of Conduct „Demokratische KI“ beschreiben?

Vielen Dank für die Glückwünsche. Zu Beginn haben wir uns gefragt, wo wir als D64 – Zentrum für Digitalen Fortschritt einen Mehrwert im Thema Künstliche Intelligenz einbringen können. Unser Ziel ist es, eine sachliche und menschenzentrierte Herangehensweise zu fördern. Wir sehen eine hohe Durchdringung der Technologie in der Gesellschaft, und unsere Arbeit soll Unsicherheiten mindern. In der Zivilgesellschaft liegt, neben der grundsätzlichen Wirtschaftlichkeit, der Fokus meist mehr bei Gemeinwohl und sozialen Themen. Die Herangehensweise an Chancen und Risiken ist somit eine andere.  Letztlich unterstützt der Code of Conduct als eine Selbstverpflichtung bei der reflektierten Entscheidungsfindung innerhalb der eignen Organisation.

Was genau ist der Code of Conduct „Demokratische KI“ und wie ist dieser aufgebaut?

Der Code of Conduct ist ein Leitfaden speziell für die Zivilgesellschaft. Die Grundidee ist, Organisationen einen Orientierungsrahmen für den informierten und reflektierten Umgang mit KI an die Hand zu geben. Er wurde von mehr als 50 zivilgesellschaftlichen Organisationen entwickelt, richtet sich aber offen an Unternehmen, öffentliche Institutionen und Einzelpersonen, wenn sie unsere Werte teilen. Der Code basiert auf acht gleichberechtigten Grundprinzipien:

1. Abwägung der Nutzung
2. Menschenzentrierung
3. Transparenz
4. Teilhabe und Partizipation
5. Diskriminierungskritische Haltung
6. Verantwortung und Verantwortlichkeit
7. Kompetenzen
8. Ökologische Nachhaltigkeit

Für jedes Prinzip gibt es konkrete Selbstverpflichtungen. Ein Beispiel ist die Offenlegung des KI-Einsatzes bei Audio-, Video- und Tonmedien, Übersetzungen sowie bei komplett oder wesentlich KI-generierten Texten. Besonders wichtig war uns das Prinzip der Abwägung der Nutzung. Es sollte vor dem Einsatz von KI immer geprüft werden: Gibt es einen konkreten Mehrwert für die Organisation und meine Zielgruppen? Überwiegt dieser Mehrwert die Risiken wie Ressourcenverbrauch oder Diskriminierungspotenziale?

Sie betonen im Projekt stets, dass Partizipation weit mehr ist als ein „Wunschzettel“. Was meinen Sie konkret damit und wie ist echte Mitgestaltung möglich?

Echte Mitgestaltung bedeutet, dass Organisationen nicht bei jedem neuen KI-Tool neu anfangen müssen. Der Code of Conduct bietet einen festen Orientierungsrahmen für diesen Prozess. Und mit drei weiteren Veröffentlichungen geben wir praktische Handhabungen, diese im Team oder in der Organisation durchzuführen:

• White Paper „KI & Freiheit“ behandelt die Rolle von KI in der Gesellschaft, ohne den Fokus ausschließlich auf technologische Aspekte zu legen. Eine Verbindung von Werten und Technologie ist aus dieser Perspektive sinnvoll. Das Whitepaper enthält z. B. den Wertekompass als methodisches Werkzeug, das Organisationen bei der Priorisierung beim Einsatz von KI unterstützt. Insbesondere zu Beginn sollte die Frage einmal besprochen werden „Auf welche Basis bauen wir unsere KI-Nutzung aus?“
• White Paper „KI & Gerechtigkeit“ beleuchtet vier zentrale Thesen für die Zivilgesellschaft: Literacy und Kompetenzen, Zugang und Zugänglichkeit, Diskriminierung und Nachhaltigkeit. Das Whitepaper zeigt auf, wie KI bestehende Ungerechtigkeiten reproduzieren kann, bietet aber auch positive Visionen und konkrete Lösungsansätze. Es enthält z. B. einen Entscheidungsflowchart und eine Vulnerabilitäts-Risiko-Matrix, um Organisationen bei der Abwägung von KI-Einsätzen zu unterstützen.
• White Paper „KI & Solidarität“ verankert Solidarität als Gestaltungsprinzip entlang des gesamten KI-Nutzungszyklus – von der Entwicklung über Auswahl und Einsatz bis zur Evaluation. Das Whitepaper enthält z. B. konkrete Reflexionsfragen und Workshop-Konzepte, um sicherzustellen, dass echte Mitgestaltung und gemeinsame Verantwortung gelebt werden, nicht nur abstrakte Prinzipien bleiben.

Den gesamten Prozess selbst haben wir co-kreativ gestaltet. Wir haben in vier größeren Community-Treffen und vielen digitalen Arbeitstreffen zusammengearbeitet. Beteiligt waren Organisationen wie AWO, ASB, DRK und Neue deutsche Medienmacher*innen. Bei allen Formaten haben wir auf Vielfalt geachtet, denn Methodenvielfalt erhöht die Chancen, dass sich alle einbringen können. Regelmäßige Variation der Formate spricht unterschiedliche Arbeitsweisen an. Außerdem braucht es für die Vertrauensbildung Zeit und Formate jenseits der inhaltlichen Arbeit.

Welche Rolle spielt die Zivilgesellschaft aktuell in der KI-Entwicklung und wie können sich zivilgesellschaftliche Akteur*innen auch künftig aktiv und sichtbar in den öffentlichen Diskurs rund um KI einbringen?

Momentan kontrollieren einzelne große Tech-Firmen fast die gesamten KI-Infrastrukturen, Rechenkapazitäten und Algorithmen. Für den Rest der Gesellschaft gibt es kaum Möglichkeiten, sich wirklich einzubringen oder mitzuentscheiden. Zeitgleich beobachten wir, dass immer mehr Organisationen in der Zivilgesellschaft KI-Systeme einsetzen. Es ist zentral, dabei nicht unkritisch vorzugehen. Zivilgesellschaftliche Organisationen können durch den Code of Conduct ein wichtiges Signal setzen: Wir verfallen nicht in Passivität, sondern wollen aktiv mitgestalten. Das ist ein starkes Signal für die Handlungsfähigkeit der Zivilgesellschaft und all jener, die einen sinnvollen Umgang mit dieser herausfordernden Technologie finden möchten. Konkret können sich Akteur*innen einbringen, indem sie sich in Austauschräumen jenseits von Profitinteressen organisieren. Die Community des Civic Data Labs im Space KI fürs Gemeinwohl bietet dafür eine Heimat. Dort können alle beitreten und weiterarbeiten. Durch die Unterzeichnung des Code of Conduct zeigen Organisationen nach innen und außen, dass das Thema ernst genommen wird und dass es Orientierung gibt.

Welche Empfehlungen geben Sie Organisationen, die den Code of Conduct nun aktiv in ihre Strukturen und Arbeitsprozesse überführen möchten?

Der Code of Conduct hilft vor allem dabei, das Thema KI intern strukturiert anzustoßen und dabei Ängste und auch erhöhte Erwartungen abzubauen. Er bietet einen festen Orientierungsrahmen, damit man nicht bei jedem neuen Tool neu anfangen muss. Meine erste Empfehlung: Man fängt bei den Werten an und prüft dann konkret – passt diese Anwendung zu den Prinzipien und zu unserer Mission? Der Wertekompass ist dabei ein hilfreiches methodisches Werkzeug. Er regt zu speziellen Fragestellungen an: Soll die Technologie offen und explorativ genutzt werden? Unter welchen Aspekten? Oder ist ein konservativer Ansatz gewünscht, um Prozessen zu helfen und gleichzeitig die Arbeit mit sensiblen Daten zu schützen? Im Kompass gibt es unterschiedliche Dimensionen wie Offenheit versus Sicherheit, Präzision versus Imagination, Transparenz versus Datenschutz oder Innovation versus Stabilität. Jede Organisation startet aus einer anderen Perspektive. Die eine Organisation kommt von einer ökologischen Betrachtung, eine andere Organisation möchte Technologie in der Arbeit mit marginalisierten Gruppen nutzen. Der Kompass hilft Organisationen, ihre Haltung zwischen Innovation und Verantwortung zu definieren und auf ihre spezifischen Ziele abzustimmen.

Das Whitepaper enthält mehrere Praxisbeispiele: Ein Chatbot für ältere Menschen unterstützt sie bei der Informationssuche und ermöglicht soziale Interaktion, wodurch ihre Selbstbestimmung gestärkt wird. Ein anderes Beispiel sind KI-gestützte Sprachassistenten in der Pflege, die wiederkehrende administrative Aufgaben übernehmen, sodass Pflegekräfte mehr Zeit für zwischenmenschliche und emotionale Unterstützung gewinnen. Solche Anwendungen können gezielt mit Hilfe des Kompasses gestaltet werden, um ethische Überlegungen frühzeitig in den Entwicklungsprozess einzubringen. Wenn eine Organisation den Code of Conduct unterzeichnet, setzt sie nach innen das Signal, dass das Thema ernst genommen wird und dass es Orientierung gibt. Zu oft sind Einzelpersonen in Organisationen für das Thema verantwortlich. Eine Unterschrift schafft Sicherheit und Verbindlichkeit für alle.

Und abschließend: Wie geht es für Sie und das Team hinter dem Code of Conduct weiter?

Aktuell suchen wir noch nach Förderpartner*innen, um die Community noch weiter aufzubauen. Wir möchten gemeinsame Lern- und Austauschräume schaffen und noch konkretere Umsetzungsmaterialien für unterschiedliche Organisationstypen entwickeln. Wir sehen große Synergien zwischen den Herausforderungen von kleinen Nichtregierungsorganisationen (NROs) und kleinen und mittleren Unternehmen (KMUs). Beide stehen oft vor ganz ähnlichen praktischen Hürden. Diese Synergien möchten wir nutzen und ausbauen. Ebenso können wir uns vorstellen, dass auf europäischer Ebene ein Code of Coduct erarbeitet wird, gerade weil in nächster Zeit einige Wahlen anstehen.