Die Verbreitung Künstlicher Intelligenz prägt zunehmend gesellschaftliche Handlungsfelder und stellt auch gemeinwohlorientierte Organisationen vor strategische und operative Entscheidungen. Trotz unterschiedlicher Arbeitsbereiche, Ressourcen und technischer Kompetenzen verbindet sie das Ziel, KI verantwortungsvoll und im Sinne gesellschaftlicher Zielsetzungen einzusetzen.
Vor diesem Hintergrund hat D64 – Zentrum für Digitalen Fortschritt den vorliegenden Code initiiert, den inzwischen über 75 zivilgesellschaftliche Organisationen unterzeichnet haben. Gefördert wurde die Entwicklung durch das Bundesministerium für Familie, Senioren, Frauen und Jugend im Rahmen der Richtlinie zur Förderung von KI für das Gemeinwohl.
Ziele des Code of Conduct
Der Code of Conduct dient als Orientierung und Selbstverpflichtung. Er unterstützt Organisationen dabei, Potenziale und Risiken von KI systematisch zu bewerten, Kriterien für oder gegen den Einsatz zu entwickeln und ethische Grundsätze in Entscheidungsprozesse einzubinden. KI kann Prozesse verbessern, den Wissenszugang erleichtern und Beteiligung erweitern; gleichzeitig erfordert ihr Einsatz eine sorgfältige Prüfung ethischer, rechtlicher, sozialer, ökologischer und technischer Auswirkungen. Da KI-Systeme auf historischen Daten basieren, können sie bestehende Strukturen reproduzieren oder Ungleichheiten verstärken.
Gemeinwohlorientierte Akteure tragen daher besondere Verantwortung: Sie müssen sicherstellen, dass KI demokratische Teilhabe stärkt, Diskriminierung entgegenwirkt und gesellschaftlichen Zusammenhalt fördert.
Entstehungsprozess
Der Code entstand seit April 2024 in einem partizipativen Prozess und ergänzt bestehende internationale Leitlinien wie die EU-Ethikleitlinien für vertrauenswürdige KI, die UNESCO-Empfehlungen zur KI-Ethik und die OECD-Grundsätze. Er bietet einen strukturierten Rahmen für die Reflexion, Bewertung und Gestaltung eines verantwortungsvollen KI-Einsatzes.
Acht Grundprinzipien des Code of Conduct:
Die zivilgesellschaftlichen Organisationen gehen mit der Unterzeichnung folgende acht Selbstverpflichtungen ein:
- Abwägung der Nutzung: Chancen und Risiken des Einsatzes von KI-Anwendungen abwägen.
- Menschenzentrierung: Angebotene oder betriebene KI-Systeme an Menschen ausrichten und dabei sowohl die Bedürfnisse der Nutzenden als auch derjenigen zu berücksichtigen, die KI nicht nutzen können oder wollen. Eine menschenzentrierte Entwicklung von KI, die soziale und ökologische Standards im globalen Kontext berücksichtigt, soll vorangetrieben werden.
- Transparenz: Der Einsatz von KI-Systemen soll intern wie extern transparent gemacht werden, indem KI-generierte Inhalte vollständig oder in wesentlichen Teilen gekennzeichnet werden. Dies gilt insbesondere für Bild- und Audiomaterialien, da sie hohes Potential zur Manipulation und Desinformation haben.
- Teilhabe und Partizipation: Bei der Entwicklung, Auswahl und Nutzung von KI-Systemen sollen Beteiligungsmöglichkeiten für Mitarbeitenden geschaffen werden. Betreffen KI-Anwendungen auch Zielgruppen der Organisationen, sollen auch die an den Prozessen beteiligt werden können.
- Diskriminierungskritische Haltung: Bekenntnis zu einer lernbereiten und machtsensiblen Haltung, einem offenen Umgang mit Fehlern sowie zu einer kontinuierlichen, kritischen Reflexion des Einsatzes von KI-Systemen.
- Verantwortung und Verantwortlichkeit: Für Ergebnisse und Erzeugnisse von KI-Systemen in unserer Organisation wird Verantwortung übernommen und klare Zuständigkeiten für den Umgang mit KI-Systemen in Organisation werden benannt.
- Kompetenzen: Mitarbeitende (angestellt, ehrenamtlich) werden durch Fortbildungen zu einem reflektierten Umgang mit KI-Systemen befähigt, wobei ein systematischer Kompetenzaufbau im Vordergrund steht.
- Ökologische Nachhaltigkeit: Bei der Auswahl und Nutzung von KI-Systemen werden nachhaltige Lösungen bevorzugt. Zudem wird mehr Transparenz gefordert, um einen zielgerichteten Einsatz zu ermöglichen und informierte Entscheidungen treffen zu können.