Deep Dive Ethik Assessment

Das Herzstück des Ethik-as-a-Service-Prozesses ist – Tusch – natürlich die ethische Analyse selbst. Ok. Auf Basis des gesammelten Wissens werden die zentralen ethischen Fragestellungen und Konfliktpotenziale herausgearbeitet. Als Analyseinstrument kommt eine Ethik-Matrix zum Einsatz – ein Werkzeug, das aus der wissenschaftlichen Literatur zur angewandten Ethik stammt und relevante Stakeholdergruppen systematisch mit ethischen Dimensionen wie Autonomie, Gerechtigkeit, Nutzen und Nicht-Schaden in Beziehung setzt. Die Analyse kann iterativ verlaufen: Neue Erkenntnisse führen gegebenenfalls zu Rückfragen oder zur Erweiterung der Matrix.

Hallo aus der Tiefe – komm gern mit in den Deep Dive #2. Wir haben Schnorchel, das wird sicher reichen.

Nicht jedes Problem ist ein ethisches Dilemma. Ein technisches Risiko – etwa dass ein Algorithmus unter bestimmten Bedingungen versagt – ist zunächst ein Ingenieursproblem. Ein ethisches Dilemma entsteht, wenn hinter dem Problem ein Wertekonflikt steckt: wenn das, was für eine Gruppe gut ist, einer anderen schadet. Wenn Effizienz gegen Autonomie steht. Wenn Transparenz mit Datenschutz kollidiert. Wenn Innovation und Vorsorgepflicht in Spannung geraten.

Diese Unterscheidung klingt akademisch, ist aber praktisch entscheidend – denn ein Ethics Assessment, das nur Risiken listet, wird von der EU-Kommission nicht als solches anerkannt.

Der Identifikationsprozess – ganz konkret

Die Wissensbasis aus Phase 1 wird durch drei Linsen betrachtet – jede deckt eine andere Quelle ethischer Spannung auf:

Betroffenheitsperspektive

Hat nichts mit GenZ-Bashing zu tun, wie man denken könnte. Nicht nur, weil wir Pauschalurteile doof finden, sondern auch, weil es hier um eine formale Frage geht: Wer ist von der Technologie betroffen – direkt und/oder  indirekt? Wer profitiert, wer trägt Risiken, wer hat keine Stimme im Prozess? Hier entstehen Dilemmata oft entlang von Asymmetrien: Eine Technologie, die für ihre Nutzer Vorteile bringt, kann für Dritte – etwa vulnerable Gruppen, die gar nicht am Tisch sitzen – erhebliche Nachteile haben.

Werteperspektive

Welche Werte stehen implizit oder explizit hinter dem Projekt – und wo geraten sie in Konflikt? Typische Kollisionen in Deep-Tech-Projekten: Effizienz gegen Autonomie, Sicherheit gegen Privatsphäre, Innovation gegen Vorsorgepflicht, wirtschaftlicher Nutzen gegen Verteilungsgerechtigkeit. Diese Konflikte lassen sich oft direkt aus der aufbereiteten Wissensbasis ablesen – wenn man weiß, wonach man sucht.

Regulatorische Perspektive

Was erwartet die EU-Kommission konkret? Der AI Act, die DSGVO, die Ethik-Leitlinien für vertrauenswürdige KI – diese Vorgaben definieren, welche ethischen Fragen zwingend adressiert werden müssen. Ein Dilemma, das regulatorisch relevant ist, aber im Assessment fehlt, ist ein Ablehnungsgrund.
Was dabei menschliches Urteil erfordert
KI kann bei der systematischen Durchsicht der Wissensbasis helfen und bekannte ethische Problemfelder für ähnliche Technologien benennen. Was sie nicht leisten kann: das kreative Querdenken, das nötig ist, wenn ein Dilemma nicht offensichtlich ist. Manche der relevantesten ethischen Spannungen in einem Projekt sind genau die, die intern noch niemand so benannt hat – sie entstehen erst im Gespräch, durch Nachfragen, durch das Zusammendenken von Informationen, die bislang getrennt lagen.

Das Ergebnis

Eine Liste identifizierter Dilemmata – nicht länger als nötig, aber vollständig genug, um vor der EU-Kommission standzuhalten. Jedes Dilemma ist benannt, kurz begründet und in seiner Relevanz eingeschätzt. Diese Liste ist der direkte Input für die Ethik-Matrix.

Das Instrument Ethik-Matrix ist keins, das wir und rühmen könnten/würden, wntwickelt zu haben. Es geht auf den britischen Agrarwissenschaftler Ben Mepham zurück, der es ursprünglich für die Bewertung von Innovationen in der Landwirtschaft entwickelte – als Adaption des medizinethischen Prinzipienrahmens von Beauchamp und Childress.

Die Grundidee: Statt ethische Fragen abstrakt zu diskutieren, werden sie in einer Matrix verortet – mit Stakeholdergruppen auf einer Achse und ethischen Grundprinzipien auf der anderen. In Europa hat sich das Instrument für die Bewertung von Innovationsprojekten bewährt. Ethaas hat es für den EU-Horizon-Kontext weiterentwickelt und operationalisiert.

Matrix erstellen, Matrix befüllen … was ist die Matrix?

Die Matrix ist kein Selbstläufer – sie ist so gut wie das Wissen, das in sie eingeht. Die Felder werden auf Basis der aufbereiteten Wissensbasis aus Phase 1 und der identifizierten Dilemmata befüllt.

Für jede Zelle wird eingeschätzt: Wie hoch ist die ethische Spannung hier, und womit begründet sich das konkret im Projekt?

Dabei entstehen oft die aufschlussreichsten Erkenntnisse genau dort, wo man sie nicht erwartet hat – etwa wenn eine Gruppe, die im Projekt kaum vorkommt, in der Matrix plötzlich als stark betroffen sichtbar wird. Das ist der eigentliche Mehrwert des Instruments: Es zwingt dazu, alle Kombinationen systematisch durchzudenken, statt nur die offensichtlichen Fälle zu betrachten.

Was die Matrix leistet … und was nicht

Sie gibt keine Antworten, sie strukturiert Fragen. Das mal vorab.

Beispiel: Ein Feld mit hohem Spannungsniveau bedeutet nicht automatisch, dass das Projekt problematisch ist – es bedeutet, dass an dieser Stelle eine fundierte Auseinandersetzung stattfinden muss.

Die Matrix ist das Werkzeug, mit dem ethaas sicherstellt, dass keine ethisch relevante Kombination übersehen wird.

Was sie nicht leistet: Sie ersetzt nicht das menschliche Urteil bei der Bewertung und erst recht nicht bei der Formulierung von Empfehlungen. Sie ist ein Strukturierungsinstrument, kein Entscheidungsautomat.

Meistens läuft die Verfeinerung in zwei bis drei Runden ab:

1. Erste Iteration: Die Matrix wird auf Basis des gesammelten Wissens initial befüllt. Dabei werden oft Lücken sichtbar – Felder, für die das Wissen noch fehlt, oder Dimensionen, die unklar formuliert sind.
2. Rückfragen und Nachrecherche: Die identifizierten Lücken führen zu gezielten Rückfragen – an Wissensträger im Projekt, an Förderdokumente oder an externe Quellen. Manchmal ergibt sich ein kurzes Folgeinterview, manchmal reicht ein gezielter Blick in die Projektdokumentation.
3. Präzisierung und Abschluss: Die Matrix wird verfeinert, widersprüchliche Einschätzungen werden aufgelöst oder explizit als offene Spannung dokumentiert. Am Ende dieser Phase steht ein Analysestand, aus dem sich belastbare Ableitungen formulieren lassen.

Was dabei wichtig ist: Die Iteration hat ein klares Ziel und endet nicht erst, wenn keine neuen Fragen mehr auftauchen – das wäre bei komplexen Deep-Tech-Projekten quasi nie der Fall. Sie endet, wenn die Matrix vollständig genug ist, um verantwortbare Empfehlungen zu tragen. Das erfordert zwar ein bisschen Erfahrung im Umgang mit dem, was die EU-Kommission in einem Ethics Assessment erwartet – aber die haben wir ja. Ach, und vielleicht ein bisschen Pragmatismus im Umgang mit dem, was ein Startup-Team leisten kann. Und dazu haben wir ja diesen ganzen Prozess.

Schritt 1: Priorisieren

Nicht jedes als unfassbar wichtig (rot) markierte Feld in der Matrix erfordert dieselbe Reaktion. Der erste Schritt ist eine Einschätzung nach zwei Kriterien: Wie wahrscheinlich ist es, dass die Spannung zu einem realen Problem wird? Und: Wie schwerwiegend wären die Folgen? Felder mit hoher Wahrscheinlichkeit und hoher Schwere kommen zuerst – sie sind die Grundlage für die zwingenden Empfehlungen. Felder mit geringer Schwere oder sehr unwahrscheinlichem Eintreten können als Hinweise dokumentiert werden, ohne dass eine konkrete Maßnahme gleich erforderlich wäre.

Schritt 2: Ursachen verstehen

Bevor eine Maßnahme formuliert wird, muss klar sein, woher die Spannung eigentlich kommt. Ist sie struktureller Natur – also im Design der Technologie angelegt und nur durch grundlegende Änderungen behebbar? Oder ist sie situativ – entstanden durch eine spezifische Implementierungsentscheidung, die sich anpassen lässt? Und: Gibt es Spannungen, die unvermeidlich sind, weil sie aus echten Zielkonflikten bzw. Wertekonflikten entstehen, die sich nicht auflösen, sondern nur transparent machen lassen?

Diese Unterscheidung ist für das Projektteam oft die wertvollste Erkenntnis des ganzen Assessments – weil sie zeigt, wo Handlungsspielraum besteht und wo nicht.

Schritt 3: Maßnahmen formulieren

Eine gute Empfehlung ist konkret, umsetzbar und verhältnismäßig.

Konkret bedeutet: nicht Datenschutz verbessern, sondern – beispielsweise – Einwilligungsprozess für Gruppe Soundso überarbeiten und dokumentieren.

Umsetzbar bedeutet: im Rahmen dessen, was ein Startup mit den gegebenen Ressourcen leisten kann.

Verhältnismäßig bedeutet: Die Maßnahme soll zum Schweregrad der Spannung passen – kein Drei-Jahres-Prozess für ein nachrangiges Feld.

Empfehlungen werden in drei Kategorien eingeteilt: zwingend erforderlich für die EU-Konformität, empfohlen zur Risikominimierung, und optional als good practice. Diese Unterscheidung hilft dem Projektteam bei der Priorisierung und der Förderstelle bei der Einschätzung.

Schritt 4: Verantwortung zuweisen

Eine Empfehlung ohne Adressaten ist keine Empfehlung. Für jede Maßnahme wird festgehalten, wer im Unternehmen bzw. welche Teams sie umsetzen soll – und bis wann. Das klingt selbstverständlich, wird in der Praxis aber häufig ausgelassen. Empfehlungen, die niemand owned, werden aber nicht umgesetzt. Transparenz- und Fairnesshalber hinzugefügt sei aber: Was ihr draus macht, ist nicht mehr unsere Aufgabe.

Immernoch nicht von KI ersetzt: Das menschliche Urteil

Die Formulierung von Empfehlungen ist der Schritt, der am stärksten von Erfahrung abhängt – Erfahrung damit, was die EU-Kommission tatsächlich erwartet, was in Startup-Kontexten realistisch umsetzbar ist, und wie man Kritisches so formuliert, dass es gehört wird, ohne unnötig zu alarmieren. KI kann Entwürfe liefern und Struktur geben – aber die letzte Verantwortung für das, was im Report steht, liegt bei einer Person, die dafür einsteht