Menschen, Maschinen, Daten und Prozesse vernetzen sich immer enger. Der technologische Fortschritt verändert unsere Gesellschaft und stellt uns vor neue ethische Herausforderungen. Unsere Digitalethik beschreibt, wie wir verantwortungsvoll mit Daten und Algorithmen umgehen.
Unser Ansatz für digitale unternehmerische Verantwortung
Wir haben den Anspruch, neue digitale Technologien verantwortungsvoll zu entwickeln und zu nutzen. Deshalb erörtern wir frühzeitig ethische Fragen, die sich aus Algorithmen, Künstlicher Intelligenz (KI) und datenorientierten Geschäftsmodellen ergeben. Seit 2021 widmet sich das Merck Digital Ethics Advisory Panel (DEAP) komplexen ethischen Fragestellungen rund um digitale Technologien.
Rollen und Verantwortlichkeiten
Eine Hauptaufgabe des DEAP ist es, uns dabei zu unterstützen, digitale Anwendungen auf verantwortungsvolle Weise zu entwickeln und dabei ethische Fragestellungen zu berücksichtigen, die sich aus der Sammlung und Verarbeitung von Daten sowie aus der Nutzung innovativer Technologien ergeben könnten. Es spricht Empfehlungen für unser unternehmerisches Handeln aus.
Das Panel besteht aus externen, internationalen Wissenschafts- und Industriefachleuten mit Fachkenntnis in folgenden Themenfeldern: Digitalethik, Recht, Big-Data-Technologien, digitale Gesundheit, Medizin und Daten-Governance. Bei Bedarf werden zusätzlich Fachleute für Bioethik sowie Vertreter von Patientenorganisationen hinzugezogen. Das DEAP wurde von der Geschäftsleitung eingesetzt; unsere Beschäftigten können Diskussionsthemen einreichen. Wie im Vorjahr hielt das Panel 2023 vier Sitzungen ab. Dabei standen Fragestellungen zur Anwendung von generativer KI im Fokus. Zusammenfassende Protokolle der DEAP-Sitzungen sind seit 2023 in unserem Intranet abrufbar, soweit sie keine Geschäftsgeheimnisse enthalten. Darin werden auch die ausgesprochenen Empfehlungen dokumentiert.
Wozu wir uns verpflichten: Richtlinien und Standards
Wir wollen uns als Unternehmen zum Thema Digitalethik positionieren. Deshalb entwickeln wir auf diesem neuen Gebiet klare ethische Standards – vor allem für kritische Bereiche, beispielsweise für den Umgang mit Gesundheitsdaten. Dazu arbeiten wir mit verschiedenen Stakeholdern und Fachleuten zusammen.
Gemeinsam mit dem DEAP wenden wir unseren Kodex für den ethischen Umgang mit Daten und Algorithmen (Code of Digital Ethics, CoDE) an, um digitalethische Fragestellungen zu erörtern. Der CoDE dient als Richtschnur für unsere digitalen Geschäftsmodelle, als Instrument für die Analyse ethischer Fragestellungen und als Grundlage für die praktischen Empfehlungen des DEAP. Er gehört zu unseren übergeordneten Richtlinien, daher gilt er für alle Mitarbeitenden und ist zudem öffentlich zugänglich.
Der CoDE basiert auf fünf Kernprinzipien: Gerechtigkeit, Autonomie, Fürsorge, Schadensvermeidung und Transparenz. Diese Prinzipien geben eine klare Struktur vor, um ethische Fragestellungen zu analysieren und zu bewerten. Zudem unterstützen sie sowohl unsere Unternehmensbereiche als auch einzelne Beschäftigte in schwierigen Situationen, für die (noch) keine Gesetze oder anderweitige Regulierungen existieren.
Der CoDE hilft nicht nur bei der ethischen Risikobewertung von bestehenden Tätigkeiten; er ermöglicht uns auch, neu aufkommende digitale Lösungen ethisch zu beurteilen. Dafür wenden wir eine Principle at Risk-Analyse (PaRA) an, die auf dem CoDE beruht. Mit der PaRA untersuchen wir ethische Fragestellungen, die sich aus unserem Geschäft, der Entwicklung interner Anwendungen sowie aus der Entwicklung neuer Produkte ergeben. Die Ergebnisse der PaRA dienen dem DEAP als Diskussionsgrundlage. Die PaRA-Methodik wurde 2023 in der Fachzeitschrift Minds and Machines beschrieben.
Entwicklungen im Bereich der generativen KI, zum Beispiel ChatGPT, gewinnen stark an Bedeutung. Auf generativer KI basierende Anwendungen werden in allen Unternehmensbereichen entwickelt. Um diese innovativen Technologien in verantwortungsvoller Weise und zum Wohl aller zu nutzen, wird derzeit ein ethisches Rahmenwerk entwickelt. Das DEAP setzt sich intensiv mit der Bewertung der erarbeiteten Richtlinien auseinander. Ziel ist es, dieses Rahmenwerk im Laufe des Jahres 2024 im Unternehmen auszurollen.
Schulungen zum ethischen Umgang mit Daten und Algorithmen
Im Juni 2023 wurde rund 12.000 Führungskräften mit Personalverantwortung eine verpflichtende Online-Schulung zum CoDE zugeordnet, die über unsere interne Schulungsplattform in acht Sprachen abrufbar ist. Zudem ist eine weiterführende Schulung verfügbar, die sich speziell an Beschäftigte mit Aufgaben aus den Bereichen Data Science, KI und anderen digitalen Profilen richtet. Die Schulung verdeutlicht die Bedeutung des CoDE und soll die Teilnehmenden in die Lage versetzen, verantwortungsvolle Entscheidungen rund um ethische Aspekte der Datennutzung und der Algorithmen in digitalen Produkten und Geschäftsmodellen zu treffen. Diese Schulung steht auch externen Stakeholdern über unsere öffentliche Website zur Verfügung.
Risiken identifizieren
Seit 2022 betrachten wir potenzielle ethische Risiken, die von Projekten des Analytics Center of Excellence (ACE) des Unternehmensbereichs Life Science ausgehen, um angemessene Prozesse zu entwickeln. Die Einheit analysiert Daten aus dem Unternehmensbereich, um daraus Erkenntnisse für unser Geschäft abzuleiten.
Im Zuge dessen führten wir im Juni 2023 ein eigens entwickeltes Tool zur frühzeitigen Erkennung ethischer Risiken im Projektmanagement des ACE ein. Dieser Merck-Digitalethik-Check ist ein halb-automatisierter Analysemechanismus: Auf Basis existierender Projektmerkmale kalkuliert er ethische Risiken und schlägt mögliche Maßnahmen zu deren Minderung vor. Grundlage hierfür ist ein Scoring-System, das eine Risikobewertung für jedes Projekt erstellt. Je nach Risiko-Score kann die ACE-Einheit daraus Rückschlüsse für die Produktentwicklung ziehen. Dabei bezieht sie alle entscheidenden Stationen entlang des Produktlebenszyklus ein und prüft diese auf ethische Risiken. Ab Januar 2024 soll jedes neue Projekt im Unternehmensbereich Life Science gemäß unseres Scoring-Systems analysiert werden. Ziel ist es, den Merck-Digitalethik-Check auf Projekte des gesamten Unternehmens auszuweiten.