Ethische Leitlinien in der KI

Headergrafik KI Internview

Die Datenethikkommission der Bundesregierung erarbeitet derzeit Handlungsempfehlungen für den ethischen Umgang mit künstlicher Intelligenz. Wir haben die Co-Sprecherin der Kommission, Prof. Dr. Christiane Wendehorst, zu den Aufgaben und Herausforderungen befragt und wollten von ihr wissen, was nationale Initiativen erreichen können, wenn in Ländern ethische Grundsätze eine untergeordnete Rolle spielen.

Interview mit Prof. Dr. Christiane Wendehorst über Markenzeichen und Wettbewerbsvorteile

Frau Prof. Dr. Wendehorst, künstliche Intelligenz ist ein wichtiges Technologiethema unserer Zeit. In Deutschland wird es momentan häufig im Zusammenhang mit Ethik diskutiert. Warum gehören KI und Ethik aus Ihrer Sicht zusammen?

Prof. Dr. Christiane Wendehorst: Künstliche Intelligenz – kurz: KI – ist eine Technologie, die vollkommen ungeahnte Möglichkeiten eröffnen wird. Damit kommen neue Chancen, aber auch Gefährdungen. Die Ethik kann hier gestaltend wirken, um nicht in eine Dystopie à la 1984 zu verfallen, sondern um die neuen Möglichkeiten zum Wohle der Allgemeinheit und des Einzelnen einsetzen zu können. Ohne eine vertiefte ethische Reflexion, was wir als Gesellschaft für erstrebenswert erachten, und ohne eine kraftvolle Implementierung wird dies nicht gehen. 

Kann eine Technologie wie KI denn an sich unethisch sein?

C. W.: Nein, denn KI ist ja eine Maschine, eine intelligente Software. Die reine Technik kann nicht unethisch handeln. Aber ihre Nutzung kann ethisch oder unethisch sein. Deshalb muss jeder, der künstliche Intelligenz entwickelt, ihr mögliches Einsatzszenario gleich mitdenken. Wir müssen uns etwa die Frage stellen: Was darf künftig eine Maschine machen, das bisher Menschen getan haben? Und wir müssen uns auch damit auseinandersetzen, wo wir durch KI auch mehr Objektivität erreichen wollen. Wir haben ja leider keine heile analoge Welt, in der ausschließlich hervorragende Entscheidungen getroffen werden. Diese Sichtweise wäre sicher verzerrt. KI kann durchaus zur Verbesserung von Prozessen eingesetzt werden, beispielsweise in der Medizin bei der Mustererkennung von Krankheiten oder ganz banal bei einer sinnvolleren Verteilung von Kitaplätzen.

Die Bundesregierung hat dies verstanden und eine Datenethikkommission eingesetzt. Was sind die Aufgaben der Kommission?

C. W.: Die Bundesregierung hat uns einen langen Fragenkatalog an die Hand gegeben zu drei großen Themenkomplexen. Erstens zu algorithmischen Entscheidungsfindungen, zweitens zu künstlicher Intelligenz und drittens zum Umgang mit Daten. Da geht es zum Beispiel darum, wie Endgeräte für Verbraucher gestaltet sein müssen, um digitale Selbstbestimmung und einen umfassenden Grundrechtsschutz zu gewährleisten. Oder wie ein Datenzugangsregime in modernen Wertschöpfungssystemen aussehen muss, um einen für alle Parteien fairen Datenzugang zu garantieren, der sowohl den Individual- als auch den Allgemeininteressen gerecht wird. Oder um Fragen wie: In welchem Verhältnis stehen Datenschutz und das Bedürfnis, mithilfe von Daten neue Forschungsergebnisse zu erzielen? Oder: Was passiert mit den digitalen Daten von Verstorbenen?

Nur weil wir etwas nicht wahrnehmen, dürfen wir nicht denken, dass es nicht existiert.
Prof. Dr. Christiane Wendehorst

Die Themengebiete sind extrem breit und wir gehen den Fragenkatalog eher mit einem holistischen Ansatz an. Wir diskutieren in vernetzter Form, haben Use Cases betrachtet und diese analysiert und daraus Handlungsempfehlungen abgeleitet. Aktuell sind wir in eine eher horizontale Phase eingetreten und versuchen, allgemeinere Prinzipien, aber auch konkrete Handlungsempfehlungen für die Bundesregierung zu formulieren. Ziel ist es, aus unserer Sicht darzulegen, welche Maßnahmen konkret getroffen werden müssen, um eine ethisch fundierte Gestaltung unserer digitalen Zukunft sicherzustellen. Unser Zeitplan ist sehr ambitioniert – das Ergebnis unserer Arbeit soll am 23. Oktober der Öffentlichkeit vorgestellt werden.

In welche Falle würden wir tappen, wenn wir uns dieses Themas nicht so umfassend annehmen würden?

C. W.: Aufgrund ihrer rasanten Entwicklung können wir als Gesellschaft noch gar nicht exakt abschätzen, welche Rolle KI in welchen Feldern spielen wird. Noch ist dem Einzelnen die Auswirkung von KI auf seinen Alltag gar nicht bewusst. Denn die Effekte sind für den Einzelnen meist unsichtbar. Die meisten Menschen erkennen die Vorteile der fantastischen technologischen Entwicklungen. Der mögliche Preis, den wir zu zahlen haben, ist hingegen nicht immer sofort zu erkennen. Aber nur weil wir etwas nicht wahrnehmen, dürfen wir nicht denken, dass es nicht existiert. Deshalb müssen wir uns lieber früher als später damit auseinandersetzen.

Was ist dabei aktuell Ihre größte Herausforderung?

C. W.: Die größte Herausforderung der gesamten Datenethikkommission ist es, herauszufinden, welche Themen nicht nur heute reguliert werden müssen, sondern welche Bereiche morgen und übermorgen ein Problem sein werden. Jedes Gesetzgebungsverfahren hat ja einen langen Entstehungsprozess und bei der heutigen Geschwindigkeit der technologischen Entwicklung müssen wir aufpassen, dass die Leitlinien nicht schon überholt sind, wenn man sie formuliert hat. Wir müssen eine Balance finden, nämlich einerseits weit genug in die Zukunft blicken und hinreichend technologieneutral formulieren und andererseits für die heutigen Anforderungen konkret genug denken, damit die Bundesregierung mit unseren Handlungsempfehlungen sinnvoll arbeiten kann.

Die Datenethikkommission ist ja mit Experten aus unterschiedlichsten Disziplinen besetzt. Ist das für die zu bewältigenden Aufgaben eher ein Vor- oder ein Nachteil?

C. W.: Aus meiner Sicht ist die Interdisziplinarität der Datenethikkommission etwas sehr Besonderes und eine große Stärke. Dort sind Ethiker, Juristen und Techniker vertreten, aber auch andere Disziplinen, wie Volkswirtschaft oder Theologie. Das ist herausfordernd, weil natürlich jeder seine disziplinäre Brille aufhat. So trafen die unterschiedlichen Sichtweisen und Methoden aufeinander. Es hat erstmal ein wenig gedauert, bis wir einander verstanden haben. Aber die Kommission ist mit fantastischen Leuten besetzt, die alle bereit sind, zuzuhören und sich auf die anderen einzustellen. So haben wir die Interdisziplinarität alle als großen Mehrwert erlebt. Und dieser interdisziplinäre Diskurs ist insbesondere beim Thema KI und Ethik dringend erforderlich.

Auch die Privatwirtschaft hat sich des Themas angenommen. Im KI Bundesverband e.V.  etwa haben 50 Unternehmen sich auf ein Gütesiegel verständigt; SAP hat einen eigenen Ethikbeirat ins Leben gerufen. Sind solche Initiativen aus Ihrer Sicht sinnvoll?

C. W.: Ja, die sind unbedingt sinnvoll. Ich denke, es wird gar nicht anders gehen, als dass insbesondere Tech-Firmen dem Thema Ethik verstärkte Bedeutung beimessen. Das muss ganz oben angesiedelt sein. Ethik muss auf allen Ebenen und in allen Phasen von Produktentwicklung und -vertrieb mitgedacht werden. Allerdings können diese Initiativen eine verbindliche und durchsetzbare Regulierung nicht vollends ersetzen. Man muss hier sicherlich sehr behutsam vorgehen, denn Überregulierung wäre das Letzte, was unsere europäische Datenwirtschaft braucht. Aber ganz ohne Regulierung wird es eben auch nicht gehen. Antwort also: Solche Initiativen sind aus meiner Sicht unerlässlich und ein sehr wichtiger Impuls, aber man darf sie nicht so verstehen, als wären sie ein Ersatz für jegliche bindenden Vorgaben.

KI-Entwicklung und -Nutzung sind globale Themen. Was können nationale Initiativen erreichen, wenn in Ländern wie den USA oder China ethische Grundsätze kaum oder gar nicht festgehalten werden?

C. W.: Ich denke, dass ethische Leitlinien auch ein Markenzeichen sein und einen Wettbewerbsvorteil bedeuten können. In den USA ist die Bevölkerung in einem hohen Maße alarmiert und gerade dort wird sich auch ein deutlicheres Bewusstsein für diese Fragen entwickeln. In China ist das vielleicht ein bisschen anders. Mit dem staatlich organisierten Scoring-System gibt es natürlich einen fundamentalen Mentalitätsunterschied, aber ich gehe davon aus, dass auch dort diese Fragen eine verstärkte Relevanz erlangen. Es hat sich in anderen Ressorts schon gezeigt, dass es überhaupt keinen Wettbewerbsnachteil bedeuten muss, wenn man hohe Standards formuliert. Das kann auch einen enormen Innovationsschub für die Wirtschaft bringen, die diese ethisch hochwertigen Technologien entwickelt. Ich gehöre zu denen, die sehr optimistisch sind, dass sich Ethik auch wirtschaftlich rechnen kann.

Herzlichen Dank für das Gespräch, Frau Professorin Wendehorst!

Über Frau Prof. Dr. Christiane Wendehorst

Christiane Wendehorst ist seit 2008 Professorin für Zivilrecht an der Universität Wien. Davor hatte sie Lehrstühle in Göttingen und Greifswald inne und war geschäftsführende Direktorin des Deutsch-Chinesischen Instituts für Rechtswissenschaft.

Prof. Dr. Christiane Wendehorst

Prof. Dr. Christiane Wendehorst ist Co-Sprecherin der Datenethikkommission der Bundesregierung

Sie ist u. a. Gründungsmitglied und Präsidentin des European Law Institute (ELI), Vorsitzende des Akademierats der Österreichischen Akademie der Wissenschaften (ÖAW), Vorsitzende der zivilrechtlichen Abteilung des Österreichischen Juristentags (ÖJT), Co-Vorsitzende der deutschen Datenethikkommission sowie Mitglied der Academia Europaea (AE), der International Academy of Comparative Law (IACL), des American Law Institute (ALI) und der Bioethikkommission beim österreichischen Bundeskanzleramt. Derzeit arbeitet sie vor allem zu den rechtlichen Herausforderungen der Digitalisierung und ist als Expertin zu Themen rund um digitale Inhalte, Internet der Dinge, künstliche Intelligenz und Datenwirtschaft u. a. für die Europäische Kommission, das Europäische Parlament, die deutsche Bundesregierung, das ELI und das ALI tätig gewesen. Prof. Dr. Wendehorst ist verheiratet und hat vier Kinder.

Digitale Transformation

KI „Made in Germany“ soll weltweit anerkanntes Gütesiegel werden

Digitale Transformation

Big Data und KI – anderer Begriff, gleicher Inhalt

Künstliche Intelligenz und Machine Learning werden die Wirtschaft komplett verändern. Denn Big Data wird immer mehr zu einem Faktor der Macht. Was jetzt zu tun ist, erklärt Internetforscher und Mitglied des Digitalrats der Bundesregierung Professor Viktor Mayer-Schönberger im Interview mit Markus Albers.

Digitale Sicherheit

Sechs Tipps für den erfolgreichen Aufbau einer PKI

Wie gelingt der sichere elektronische Austausch sensibler Daten? Unser Bundesdruckerei-Experte Dr. Kim Nguyen weiß Rat und gibt sechs Tipps für den erfolgreichen Aufbau einer sicheren Public-Key-Infrastruktur (PKI).