Wie in Episode 1 angekündigt, dient der Responsible Innovators Kickstart Guide dazu, euch Zugang zu dem Themenfeld verantwortungsbewusste Innovation und digitale Ethik zu erleichtern. Befasst man sich neu mit den Themen, liegt eine große Hürde in der Vielzahl an Konzepten, die man durchblicken muss. Um das zu ändern, habe ich euch eine Übersicht über die wichtigsten Grundkonzepte zusammengestellt, die man kennen muss.
Da verantwortungsbewusste Innovation und digitale Ethik noch keinen festgelegten Regulatorikrahmen in Unternehmen haben, basieren viele Konzepte auf praxisorientierten Innovationsmethoden, wissenschaftlichen Erörterungen oder sind Ergebnisse politischer Gremienarbeit.
Zu nennen sind in diesem Zusammenhang unter anderem: Responsible Research & Innovation (RRI), Corporate Digital Responsibility (CDR), Digitale Ethik, Responsible Tech, Trustworthy AI, Inclusive Tech, ESG, Nachhaltige Digitalisierung, UN Sustainable Development Goals, Compliance, AI Audit, Informationssicherheit, IT-Sicherheit, Cyber-Sicherheit, Datenschutz, Design Thinking, Human-centered Design und Responsible Design.
(1) Responsible Research & Innovation
Responsible Research & Innovation (RRI) wurde als Konzept im Rahmen des Projekt Horizon 2020 der Europäischen Kommission entwickelt. Anschließend wurde es bis 2021 im Projekt NewHoRRIzon weiterentwickelt. “Das RRI-Konzept ist ein Ansatz, der darauf abzielt, die Lücken zwischen Wissenschaft, Forschung und Innovation und der Gesellschaft insgesamt zu schließen, indem integrative, vorausschauende, offene und reaktionsfähige Forschungs- und Innovationssysteme gefördert werden. In diesem Rahmen werden zahlreiche Akteure (aus Forschung, Wirtschaft, Politik, Bildung und Zivilgesellschaft) auf Projekt- und Systemebene in die Forschung und Innovation einbezogen, um ihre Prozesse und Ergebnisse besser auf die Werte, Bedürfnisse und Erwartungen der Gesellschaft abzustimmen. Ein erster großer Schritt war die Operationalisierung von RRI in die folgenden sechs Schlüsselelemente: Ethik, Geschlechtergleichstellung, Governance, öffentliches Engagement, wissenschaftliche Bildung und freier und offener Zugang.” (NewHoRRIzon – An Experiment in Responsible Research and Innovation)
(2) Corporate Digital Responsibility (CDR)
Corporate Digital Responisbility “(CDR) ist ein Managementkonzept, bei dem Unternehmen, soziale und ökologische Belange in ihre Geschäftstätigkeit und in die Interaktionen mit ihren Stakeholdern (insbesondere im Rahmen des digitalen Wandels) integrieren. CDR umfasst den freiwilligen Beitrag der Wirtschaft zu einer ethischen und nachhaltigen digitalen Entwicklung. Dieses Ziel geht über die reine Erfüllung bestehender gesetzlicher Anforderungen hinaus. Ein wesentlicher Bestandteil der CDR ist die wertebasierte Auseinandersetzung mit positiven und negativen sowie direkten und indirekten Auswirkungen des Einsatzes digitaler Technologien. Darüber hinaus werden datengetriebene Produkte und Systeme sowie digitale Geschäftsprozesse und -modelle im Hinblick auf die Interessen unterschiedlicher Stakeholder analysiert, abgewogen und entlang der Unternehmenswerte angeglichen. Dabei spielt die Übertragung von gesellschaftlichen Normen und Werten auf die digitale Welt eine wesentliche Rolle. Diese wertebasierte Auseinandersetzung beruht auf allgemeinen Fragen der Digitalen Ethik. Diese fragt nach dem guten und richtigen Leben und Zusammenleben in einer Welt, die von digitalen Technologien geprägt ist und übersetzt dabei bestehende ethische Maßstäbe für eine digital geprägte Gesellschaft”. (CDR Building Bloxx: Bundesverband Digitale Wirtschaft (BVDW) e.V.)
(3) Digitale Ethik
“Der Begriff der digitalen Ethik ("digital ethics") ist ebenso erfolgreich wie uneindeutig. Die einen verweisen damit auf einen Teilbereich der Informationsethik, die anderen – mit dem Ziel einer Neubenennung – auf die Gesamtheit dieser Bereichsethik, womöglich unter Einbeziehung der Medienethik. Wieder andere fassen darunter ein zu konstruierendes normatives System, das für die Informationsgesellschaft oder auch speziell für die Wirtschaft (nicht nur für KI-, IT- und Internetfirmen) zu gelten habe, was mit Aussagen wie "Wir brauchen eine digitale Ethik!" verbunden wird. Nicht zuletzt kann die Moral der Informationsgesellschaft gemeint sein, wobei dann – wie es häufig im Englischen der Fall ist – die Begriffe von Ethik und Moral nicht scharf getrennt werden.” (Prof. Bendel, Gabler Wirtschaftslexikon, Digitale Ethik • Definition | Gabler Wirtschaftslexikon)
(4) Responsible Tech(nology)
“Verantwortungsvolle Technologie bedeutet die Anwendung eines ethischen Ansatzes bei der Entwicklung, Nutzung und Verbreitung neuer Technologien. Es bedeutet auch, einen Beitrag zu einer ökologisch, sozial und wirtschaftlich nachhaltigen Gesellschaft zu leisten.” (Responsible tech)
(5) Trustworthy AI
“Künstliche Intelligenz (KI) bietet viele Möglichkeiten, zum Wohlergehen des Einzelnen und zum Fortschritt von Wirtschaft und Gesellschaft beizutragen, bringt aber auch eine Vielzahl neuer ethischer, rechtlicher, sozialer und technologischer Herausforderungen mit sich. Vertrauenswürdige KI (Trustworthy AI, TAI) basiert auf der Idee, dass Vertrauen das Fundament von Gesellschaften, Volkswirtschaften und nachhaltiger Entwicklung bildet und dass Individuen, Organisationen und Gesellschaften daher nur dann in der Lage sein werden, das volle Potenzial von KI auszuschöpfen, wenn bei ihrer Entwicklung, ihrem Einsatz und ihrer Nutzung Vertrauen geschaffen werden kann.” Das Konzept der vertrauenswürdigen KI basiert auf den fünf Grundprinzipien “(1) Gemeinnützigkeit, (2) Unschädlichkeit, (3) Autonomie, (4) Gerechtigkeit und (5) Erklärbarkeit.” (Trustworthy artificial intelligence | SpringerLink)
(6) Inclusive Tech/ Digitale Inklusion
“Digitale Inklusion wird definiert als gleichberechtigter, sinnvoller und sicherer Zugang zur Nutzung, Führung und Gestaltung digitaler Technologien, Dienste und damit verbundener Möglichkeiten für alle und überall. Die digitale Inklusion wird durch menschenrechtsbasierte, intersektionale und gesellschaftsübergreifende Politiken sowie durch Ansätze und Maßnahmen mehrerer Interessengruppen ermöglicht, die die verschiedenen Barrieren berücksichtigen, mit denen der Einzelne beim Zugang zu und der Nutzung von digitalen Technologien konfrontiert ist. Die Menschenrechte müssen online wie offline gefördert, geschützt, geachtet und genossen werden, und die spezifischen Bedürfnisse des Einzelnen müssen in der digitalen Welt berücksichtigt werden, damit niemand zurückgelassen wird. Die digitale Integration sollte darauf abzielen, bestehende strukturelle soziale Ungleichheiten abzubauen und das Wohlbefinden aller zu verbessern. Wir müssen eine gerechte Inklusion anstreben, damit alle Online-Nutzer die gleichen Möglichkeiten haben und marginalisierte Gemeinschaften nicht zurückgelassen werden." (Definition_Digital-Inclusion.pdf (un.org))
(7) ESG
Mittlerweile in vielen Unternehmen durch verschärfte Regulatorik angekommen, hat sich ESG einst “als Standard nachhaltiger Anlagen [...] etabliert. Die drei Buchstaben beschreiben drei nachhaltigkeitsbezogene Verantwortungsbereiche von Unternehmen:
Das „E“ für Environment steht hierbei z.B. für Umweltverschmutzung oder -gefährdung, Treibhausgasemissionen oder Energieeffizienzthemen (Umwelt).
Social („S“) beinhaltet Aspekte wie Arbeitssicherheit und Gesundheitsschutz, Diversity oder gesellschaftliches Engagement (Corporate Social Responsibility).
Unter Governance („G“) wird eine nachhaltige Unternehmensführung verstanden. Hierzu zählen z.B. Themen wie Unternehmenswerte oder Steuerungs- und Kontrollprozesse (Corporate Governance)”.
(8) Nachhaltige Digitalisierung
Viele Initiativen und Forschungsgruppen setzen sich für eine Kombination von Digitalisierung und Nachhaltigkeit ein. So auch das deutsche Bundesministerium für Bildung und Forschung mit dem Aktionsplan „Natürlich.Digital.Nachhaltig“. Auf der Seite des Ministeriums wird die Mission wie folgt zusammengefasst: “Wir wollen Digitalisierung und nachhaltige Entwicklung gezielt zusammenführen. Denn digitale Technologien können die nachhaltige Entwicklung in vielen Bereichen unterstützen und beschleunigen – sei es durch datengetriebene Effizienzsteigerungen oder digitale Innovationen, etwa für nachhaltige Stadtentwicklung, Kreislaufwirtschaft und die Energiewende. Wir vertreten die Überzeugung, dass eine nachhaltige Digitalisierung nur gelingen kann, wenn die Menschen darauf vertrauen, dass sich ihr Leben durch die Digitalisierung signifikant verbessert. Dieses Vertrauen setzt voraus, dass Forschung und Entwicklung im Bereich der Digitalisierung sich insbesondere auch an den Grundsätzen der nachhaltigen Entwicklung und der Umsetzung der von den Vereinten Nationen verabschiedeten Agenda 2030 für nachhaltige Entwicklung orientieren. Denn das Ziel von nachhaltiger Entwicklung ist ein gutes Leben der heutigen und zukünftigen Generationen. Deshalb beruht unser Handeln auf folgenden Überzeugungen:
Die Digitalisierung muss den Menschen in seiner individuellen Entfaltung unterstützen
Digitale Technologien müssen der Gesellschaft dienen
Die Digitalisierung soll dem Erhalt der natürlichen Lebensgrundlagen dienen und darf ihm nicht entgegenstehen” (Digitalisierung und Nachhaltigkeit - BMBF)
Damit bezieht sich das Ministerium explizit auf die von der UN verabschiedeten Sustainable Development Goals der Agenda 2030.
(9) UN Sustainable Development Goals (SDGs)
“Die Agenda 2030 für nachhaltige Entwicklung, die 2015 von allen Mitgliedstaaten der Vereinten Nationen angenommen wurde, ist ein gemeinsames Konzept für Frieden und Wohlstand für die Menschen und den Planeten, jetzt und in Zukunft. Ihr Kernstück sind die 17 Ziele für nachhaltige Entwicklung (SDGs), die einen dringenden Aufruf zum Handeln aller Länder - Industrie- und Entwicklungsländer - in einer globalen Partnerschaft darstellen. Sie erkennen an, dass die Beseitigung von Armut und anderen Entbehrungen Hand in Hand gehen muss mit Strategien zur Verbesserung von Gesundheit und Bildung, zur Verringerung der Ungleichheit und zur Ankurbelung des Wirtschaftswachstums - und das alles bei gleichzeitiger Bekämpfung des Klimawandels und dem Einsatz für den Schutz unserer Ozeane und Wälder.” (THE 17 GOALS | Sustainable Development (un.org))
(10) Compliance
Compliance bedeutet sinngemäß die “Einhaltung von Gesetzen, Regeln und Normen. Ursprünglich auf die Bankwirtschaft und das Gesundheitsmanagement begrenzt, inzwischen breit eingesetzt, z.B. IT-Compliance, Global Compliance, Tax Compliance, Customs Compliance, Datenschutz Compliance, das mithilfe von Compliance Management Systemen (CMS) und personifiziert durch den Complance Officer durchgeführt wird (u.a. im Rahmen des Risikomanagements)." (Dr. Cordula Heldt, Compliance • Definition | Gabler Wirtschaftslexikon)
(11) AI Audit
Die Auditierung von KI Systemen hat die objektive Analyse der Risiken algorithmischer Systeme zum Ziel. “Trotz ihrer unbestrittenen Vorteile bringt der Einsatz von KI auch qualitativ und quantitativ neue Risiken und Schwachstellen mit sich. Zusammen mit der zunehmenden Verbreitung von KI erfordert dies Prüfmethoden, die Garantien für die Vertrauenswürdigkeit geben und die es ermöglichen, die entstehenden KI-Standards und KI-Regulierungsbemühungen, z. B. den europäischen KI-Rechtsakt, zu operationalisieren. Die Prüfung von KI-Systemen ist ein komplexes Unterfangen, da entlang des KI-Lebenszyklus zahlreiche Aspekte berücksichtigt werden müssen, die multidisziplinäre Ansätze erfordern. KI-Auditmethoden und -Werkzeuge sind in vielen Fällen Gegenstand der Forschung und noch nicht praktisch anwendbar.” (Whitepaper | Towards Auditable AI Systems - From Principles to Practice (bund.de) Aktuell gibt es verschiedene Ansätze für KI Auditierung. Welche Systematik von der EU gewählt wird, wird sich im nächsten Jahr herausstellen. Ein Ansatz zur KI Auditierung wurde von ForHumanity entwickelt. Er zielt darauf ab eine Vertrauensinfrastruktur für alle künstlichen Intelligenzen und autonomen Systeme schaffen, die sich auf den Menschen auswirken, und zwar in den Bereichen Ethik, Voreingenommenheit, Datenschutz, Vertrauen und Cybersicherheit. Dafür werden Prüfungsregeln erstellt, die Gesetze zu kodifizieren und bewährte Praktiken festlegen, die die Risiken für den Menschen mindern. (Independent Audit of AI Systems - (forhumanity.center))
(12) Informationssicherheit
“Der Begriff der Informationssicherheit bezeichnet den Schutz von Informationen in jeglicher Form – ob digital auf einem Datenträger oder analog auf dem Papier, ob mit Personenbezug oder ohne. „Informationen“ werden in diesem Zusammenhang als „interpretierte Daten“ definiert. Damit ist gemeint, dass reine Daten, wie zum Beispiel Ziffern, erst nach ihrer Interpretation zu Informationen, also zum Beispiel Uhrzeiten oder Geburtsdaten werden. Die Informationssicherheit hat den Schutz dieser Informationen zum Ziel und beruht dabei auf drei Bereichen: Vertraulichkeit, Verfügbarkeit und Integrität. Das bedeutet, dass sensible Daten vor dem unberechtigten Zugriff Dritter geschützt werden, für berechtigte Nutzer aber zu jeder Zeit vollständig und richtig zugänglich sind. Dieser Schutz wird durch organisatorische Maßnahmen und klare Handlungs-Vorgaben im Unternehmen umgesetzt.” (IT-Sicherheit, Informationssicherheit und Cyber-Sicherheit: Wo liegen die Unterschiede? - isits (is-its.org)
(13) IT-Sicherheit
“Die IT-Sicherheit ist ein Teilbereich der Informationssicherheit, die sich auf die elektronisch gespeicherten Informationen und IT-Systeme bezieht. Insbesondere die heutzutage vermehrt digital gespeicherten und übertragenen Informationen sind vielen möglichen Bedrohungen ausgesetzt: Vom unberechtigten Zugriff Dritter auf die Daten, über Spionage und Sabotage, bis hin zu Hackerangriffen. Das Ziel der IT-Sicherheit ist, Unternehmen und Organisationen gegen diese Bedrohungen und die Folgeschäden zu schützen. Auch hierbei greifen die drei Schutzziele Vertraulichkeit, Verfügbarkeit und Integrität. Die IT-Sicherheit wird ebenfalls durch organisatorische Maßnahmen und entsprechende Vorgaben in Unternehmen umgesetzt und fußt beispielsweise auf Antivirenlösungen, Firewalls und Backups.” (IT-Sicherheit, Informationssicherheit und Cyber-Sicherheit: Wo liegen die Unterschiede? - isits (is-its.org)
(14) Cyber-Sicherheit
“Die sogenannte Cyber-Sicherheit bezieht sich prinzipiell auf den gleichen Bereich wie die IT-Sicherheit, wird jedoch auf den gesamten Bereich des Internets und jeglicher Netzwerke ausgeweitet. Da viele Daten und auch Dinge heutzutage über Netzwerke miteinander und mit dem Internet verbunden sind, kann die Sicherheit nicht mehr isoliert betrachtet werden. Das bedeutet, die Cyber-Sicherheit schließt alle auf Netzwerken basierende Kommunikation, Anwendungen, Prozesse und verarbeitete Informationen mit ein – und damit auch Infrastrukturen wie Stromversorgung oder Telekommunikation. Damit ist Cyber-Sicherheit ein Thema der Gesamtheit, das nicht nur auf die eigene Firma oder Umgebung begrenzt ist. Zahlreiche Bedrohungen und sich ständig weiterentwickelnde Cyberkriminalität in Form von Viren, Würmern, Spyware oder Trojanern erfordern umfassende und immer aktuell gehaltene Schutzmaßnahmen.” (IT-Sicherheit, Informationssicherheit und Cyber-Sicherheit: Wo liegen die Unterschiede? - isits (is-its.org)
(15) Datenschutz
Datenschutz ist ein “Sammelbegriff über die in verschiedenen Gesetzen zum Schutz des Individuums angeordneten Rechtsnormen, die erreichen sollen, dass seine Privatsphäre in einer zunehmend automatisierten und computerisierten Welt („Der gläserene Mensch“) vor unberechtigten Zugriffen von außen (Staat, andere Private) geschützt wird. Die Angriffsflächen, denen sich der moderne Mensch zunehmend ausgesetzt sieht (oft aber auch durch eigene Sorglosigkeit im Umgang mit seinen Daten), sind vielfältig: Neben dem Umgang mit dem Computer und Internet (Stichworte hier z.B.: Viren, Trojaner, Hacking, Phishing) sind auch ganz alltägliche Situationen betroffen, wie sich z.B. an den Diskussionen zum sog. Nacktscanning an Flughäfen oder die Nutzung von Aufzeichnungen der Autobahnmautkontrollbrücken für die Rasterfahndung zeigt.” (Jan-Hendrik Krumme, Datenschutz • Definition | Gabler Wirtschaftslexikon)
(16) Design Thinking
“Design Thinking ist ein nichtlinearer, iterativer Prozess, den Teams nutzen, um Nutzer zu verstehen, Annahmen in Frage zu stellen, Probleme neu zu definieren und innovative Lösungen zu entwickeln, die dann als Prototypen getestet werden. Es umfasst fünf Phasen - Empathize (Einfühlen), Define (Definieren), Ideate ("Ideen entwickeln"), Prototype ("Prototypen entwickeln") und Test ("Testen") - und ist besonders nützlich, um Probleme anzugehen, die nicht klar definiert oder unbekannt sind.” Damit ist Design Thinking eine Methode um menschenzentriertes Design umzusetzen. (What is Design Thinking? | IxDF (interaction-design.org)
(17) Human-centered Design
“Menschenzentriertes Design ist ein kreativer Ansatz zur Problemlösung. Es ist ein Prozess, der mit den Menschen beginnt, für die man entwirft und mit neuen Lösungen endet, die auf ihre Bedürfnisse zugeschnitten sind. Beim menschenzentrierten Design geht es vor allem darum, ein tiefes Einfühlungsvermögen für die Menschen zu entwickeln, für die man entwirft, eine Vielzahl von Ideen zu generieren, eine Reihe von Prototypen zu bauen, die Ergebnisse mit den Menschen zu teilen, für die man entwirft, und schließlich innovative neue Lösungen in die Welt zu bringen.” (Design Kit)
(18) Responsible Design
Unter Responsible Design versteht man das “Erreichen einer ausgewogenen sozialen, ökologischen und wirtschaftlichen Entwicklung durch die Einbettung ethischer Entscheidungen in eine integrative und nachhaltige Designpraxis. Verantwortungsbewusstes Design ist ein aufstrebendes Feld ohne eine vollständig definierte Theorie oder Definition.”
Die Forschungsgruppe der School of Design and Creative Arts an der Loughborough University hat z.B. die folgenden Responsible Design Prinzipien aufgestellt:
Verantwortungsbewusste Designer sind ethisch, sowohl in der Art und Weise, wie sie Forschung betreiben und darüber berichten, als auch in den Designinterventionen, die sie vorschlagen;
Verantwortungsbewusste Designer sind pluralistisch, sie lehnen den "entmutigenden" Charakter des technologischen Status quo ab und akzeptieren eine Vielzahl plausibler Zukünfte;
Verantwortungsbewusste Designer sind nachhatligkeits zentriert, sie akzeptieren und nehmen die Herausforderungen des Klimawandels an und berücksichtigen die Bedürfnisse aller Beteiligten, sowohl der Menschen als auch anderer;
Verantwortungsbewusste Designer sind dekolonial, da sie erkennen, dass eine vorwiegend westliche Auffassung und ein Kanon von "gutem Design" einschränkend und schädlich sind;
Verantwortungsbewusste Designer sind transdisziplinär, sie arbeiten gerne mit Kreativen außerhalb ihres eigenen Fachgebiets zusammen und lassen sich von ihnen herausfordern;
Verantwortungsbewusste Designer sind optimistisch und glauben daran, dass Designer die Welt verbessern können.”
Die hier geteilten Definitionen sind als Einführung gedacht und stellen keine abschließende Auflistung dar. Noch gibt es keine Einigkeit darüber, was die Konzepte zu verantwortungsbewusster Innovation im Einzelnen beinhalten und in welchem Verhältnis sie zueinander stehen. In den folgenden Episoden werde ich daher die verschiedenen Sichtweisen auf die Themenbereiche teilen und aufzeigen, wie man das Wissen in die Praxis umsetzen kann.
Ich persönlich habe mich für den Titel Responsible Innovators für unsere Plattform entschieden, weil es genügend Offenheit für alle Dimensionen von Verantwortung signalisiert. Es geht also weder nur um die ökologische und soziale, als ausschließlich um die digitale Dimension. Genauso ist Innovation mehr als Technologie. Sie umfasst alle neuen Ideen und Ansätze, egal ob aus Wissenschaft oder Unternehmenspraxis. Mein Ziel mit Responsible Innovators ist es, neben dem Zusammenbringen von Interessierten in der neu entstehenden Branche, gemeinsam mit dieser Community an der Konsolidierung dieser Konzepte zu arbeiten. Am Ende brauchen wir nicht 2000 Theorien, sondern eine gemeinsame Methode, die in der Praxis verantwortungsbewusste Innovation fördert.
Mit meinem Responsible Innovators Kickstart Guide möchte ich euch Zugang zu Wissen im Bereich digitale Ethik und verantwortungsbewusste Innovation geben. Außerdem werde ich Möglichkeiten aufzeigen, wie ihr dieses Wissen in die Praxis umsetzen könnt. Bekommt Einblicke in ein inspirierendes Ökosystem und lasst uns gemeinsam den Wandel für eine bessere Zukunft gestalten!