Wie die Bundeskanzlerin bei unserer Konferenz Morals&Machines auf den Roboter Sophia traf
 
  Ansicht im Browser  
 
 
 
 
 
   
 
  Liebe sabine,

Die Bundeskanzlerin hat in diesen Tagen mit allerlei eigentümlichen Wesen zu tun. Vor allem innerhalb ihrer Parteienfamilie, ab und an aber auch auf europäischer Ebene. Das stählt. Und so hat Angela Merkel (CDU) auch am Mittwochabend dieser Woche in der Berliner St. Elisabeth-Kirche keine Scheu, sich der etwas eigenartigen Gesprächspartnerin zu nähern. „Nun Sophia“, beginnt die Kanzlerin und wendet sich an den gleichnamigen Roboter des Unternehmens Hanson Robotics, der hier auf der Bühne steht, „ich bin froh, Dich kennen zu lernen. Aber nimm es mir bitte nicht übel, wenn ich deutsch spreche. Wir Menschen sind manchmal etwas sonderbar beim Einhalten von Protokollregeln.“ Dafür hatte Sophia mehr Verständnis als manch ein europäischer Regierungschef.

Das war der Beginn eines ungewöhnlichen Gesprächs über Künstliche Intelligenz und einer Reflexion darüber, ob Menschen ersetzbar sind, warum wir in Deutschland mehr Mut zur Disruption brauchen und ob Gott ein Datensatz ist. Geführt am Vorabend unserer Konferenz „Morals & Machines“ in Berlin. Und damit begrüßen wir Euch auch zu adas erstem "Brief aus der Zukunft", den Ihr nach dieser Sonderausgabe mit dem Interview der Bundeskanzlerin künftig jeden Sonntagnachmittag in Eurem elektronischen Postfach findet. Wir freuen uns, dass Ihr auf dieser einmaligen Reise in die Zukunft dabei seid!

Wenn Ihr Fragen oder Anregungen habt: Wir freuen uns über Feedback!


Eure Miriam
 
 
 
 
 
Angela Merkel im Interview
 
 
 
 
 
"Europa muss wieder disruptiv denken"

Frau Bundeskanzlerin, Sie haben vor unserem Gespräch mit Sophia, einem humanoiden Roboter, gesprochen. Wie fühlte sich da an?
Es ist in gewisser Weise gewöhnungsbedürftig, weil Sophia natürlich Reaktion zeigt und man gleichzeitig merkt, dass wir noch nicht ganz miteinander eingearbeitet sind.

Wenn man Sophia fragt, woher sie ihre ethischen Standards bekommt, antwortet sie: Die werden mir einprogrammiert. Aber es könne Situationen geben, bei denen sie sich von diesen einprogrammierten Standards löse. Wenn Sie das hören, löst das bei Ihnen eher Faszination oder eher Sorge aus?
Wenn es so wäre, dass sich Sophia völlig selbstständig machen würde, fände ich das nicht gut. Ich glaube, deshalb müssen wir die Dinge so steuern, dass der Mensch die Hoheit hat und Leitplanken setzt, auch wenn die Maschine lernt. Wir müssen sicherstellen, dass unsere moralischen Vorstellungen, zum Beispiel die Achtung der Würde jedes einzelnen Menschen, durch Roboter nicht verletzt werden.
 
Angela Merkel mit Miriam Meckel und Sophia auf der Bühne
 
 
 
Sie sind ja promovierte Physikerin. Schauen Sie als solche anders auf das Thema „Künstliche Intelligenz“ als in Ihrer Funktion als Regierungschefin?
Natürlich denke ich als Physikerin: Mensch, was kannst du da alles programmieren! Was kann man da auch lernen! Aber auch als Physikerin habe ich immer auch die philosophische Dimension im Kopf: Das physikalisch Mögliche ist noch nicht das gesellschaftlich Ausreichende.

Welche Frage an das Universum hat Sie als Physikerin am meisten fasziniert?
Als ich in der DDR aufwuchs, ging das mit Juri Gagarin, dem ersten Kosmonauten, los: Wo ist Gott? Gibt es Gott? Ist Gott sichtbar? Der Mensch hat Bilder von Gott. Durch naturwissenschaftliche Erkenntnisse verschwimmen sie natürlich immer mehr. Trotzdem kann ich daran glauben, dass es Gott gibt. Nur, weil ich ihn nicht irgendwo im Universum auffinde, kann es ihn trotzdem geben.

Es gibt Menschen im Silicon Valley, die sagen: Gott ist eigentlich ein Datensatz, eine Art künstliche Intelligenz.
Da wäre ich jetzt vorsichtig. Wir Menschen haben durch die gesamte Geschichte hindurch immer wieder versucht, uns ein Bild von Gott zu machen. Dieses Bild wandelt sich. Dass die Menschen im Silicon Valley anders darüber denken als die Urchristen in Rom, das wundert mich nicht. Aber auch das Bild der Menschen im Silicon Valley wird nicht das letzte sein.

Sophia wurde von Hanson Robotics in Hongkong gebaut. Wenn wir die Sicht auf die Möglichkeiten intelligenter Maschinen als Deutsche mit beeinflussen wollen, müssen wir solche Roboter nicht künftig auch in Deutschland bauen?
Warum stellen wir keine Chips her? Warum sind alle Handys aus Asien oder den Vereinigten Staaten von Amerika? Diese Fragen beschäftigen mich als Bundeskanzlerin sehr. Wir waren seit der Zeit der Aufklärung daran gewöhnt, die technischen Innovationen in Europa als Erste herzustellen. Das ist heute nicht mehr so. Das sollte uns schon umtreiben. Deshalb sage ich: Ich möchte nicht nur Sophia, sondern ich möchte auch deutsche Roboter dieser Art haben.
 
 
 
 
Sind die deutschen Unternehmen nicht gut genug vorbereitet, oder ist die deutsche Forschung nicht weit genug?
Wir haben das alles in der Grundlagenforschung schon seit Jahrzehnten betrieben. Jetzt ist ein bestimmter Punkt eingetreten, an dem Computer plötzlich sehr große Datenmengen verarbeiten und gleichzeitig Algorithmen damit auch etwas anfangen können. Aber wir bringen beides bisher noch nicht so schnell zusammen. Wir haben jedoch die Chance, das aufzuholen, und zwar ganz besonders in dem Bereich des Internets der Dinge. Da können wir Künstliche Intelligenz auch in den industriellen Produktionen anwenden – also da, wo wir in Deutschland stark sind.

Wenn man sich die Autoindustrie anschaut, dann stellt man fest, dass sie permanent mit der Vergangenheitsbewältigung beschäftigt ist und die Zukunft unbearbeitet bleibt. Sind wir zu satt geworden?
Wir müssen aufpassen, dass wir es nicht sind. Aber bei aller Vergangenheitsbewältigung der Automobilindustrie, die im Augenblick leider notwendig ist, will ich doch eine Lanze brechen. Ein Großteil der Patente für das autonome Fahren stammt aus Deutschland. Ich persönlich stehe im Augenblick sehr intensiv mit der Automobilindustrie in Gesprächen. Viele sagen zum Beispiel: Wir brauchen in Europa keine Batteriezell-Produktion. Diese werden jetzt nur noch in Asien hergestellt. Da kommen wir nicht mehr ran. Ich weiß nicht, ob das die richtige Einstellung ist. Deshalb bin ich der Meinung, wir sollten strategische Fähigkeiten auch weiter bei uns - in Deutschland und in Europa - behalten.

Wir brauchen also mehr europäische Autarkie im Technologiebereich?
Wir müssen uns in Europa, das haben Frankreich und Deutschland jetzt begonnen, auch mit disruptiven Innovationen beschäftigen. Dazu gehört auch die künstliche Intelligenz. Wir müssen uns dann mit dem Bundesrechnungshof und dem Europäischen Rechnungshof darüber auseinandersetzen, dass dabei nicht jede Investition gleich eine Erfolgsmeldung nach sich ziehen kann, sondern dass vielleicht 90 oder 95 Prozent nicht erfolgreich sind, dafür eine aber eine wirklich große, bahnbrechende Erfindung dabei ist. Dieses disruptive Denken muss in Europa wieder gepusht werden.

Die Weltgesundheitsorganisation gibt jedes Jahr die Zahl von 1,25 Millionen Verkehrstoten bekannt. Wir haben jetzt einen Fall, bei dem ein selbstfahrendes Auto in Arizona einen tödlichen Unfall verursacht, und gleich geht eine Riesendiskussion los. Sind wir da nicht manchmal auch mit unterschiedlichen Maßstäben unterwegs?
Bei diesem Fall auf jeden Fall. Ich habe schon vor drei, vier Jahren gesagt: Passen Sie auf, eines Tages werden wir das autonome Fahren haben. Das wird eine riesige Chance sein. Wenn Sie älter sind oder ein Bier getrunken haben können Sie sich trotzdem in Ihr Auto setzen, aber dann sagten die Leute damals zurecht: Die Frau hat jetzt irgendwie…

…schon ein Bier getrunken.
Genau. Aber Fakt ist: In Zukunft macht das keinen Unterschied mehr, wenn das Auto selbst fährt. Da gibt es heute schon ein bisschen mehr Nachdenklichkeit. Das Unsichere beim Fahren wird der menschliche Faktor sein. Trotzdem haben wir jetzt natürlich unglaublich viele ethische Entscheidungen beim Programmieren des autonomen Fahrens zu treffen. Die müssen wir diskutieren. Im Bundesverkehrsministerium hat es in der vergangenen Legislaturperiode eine Ethikkommission gegeben, die Vorschläge dazu gemacht hat. Ich glaube, solche Dinge müssen wir jetzt vermehrt auch in die Gesellschaft tragen. Es war ja auch immer Europas und auch Deutschlands Stärke, dass die soziale Marktwirtschaft nie davon ausgegangen ist, dass nur der Markt oder nur der Staat das alles bestimmt, sondern dass wir die richtige Mischung gefunden und Leitplanken gesetzt haben.

Aber wie bekommen Sie die Grundideen der sozialen Marktwirtschaft auf den digitalen Kapitalismus transferiert?
Das ist nicht ganz leicht. Wir haben im Augenblick zwei Entwicklungen: In den Vereinigten Staaten von Amerika ist die Hoheit über die Daten in sehr starkem Maße privatisiert, also in privater Hand. In China haben wir das andere Extrem. Dort ist im Grunde ein „merger“ von persönlichen Daten und staatlichem Zugriff entstanden. Das sind die beiden Pole, zwischen denen wir jetzt den Weg finden müssen. In Bezug darauf, wie das Weggeben von Daten bewertet wird, sind wir noch - ich darf nicht mehr „Neuland“ sagen - „in the middle of nowhere“.

Sie haben neulich gesagt, die Bepreisung von Daten sei aus Ihrer Sicht das zentrale Gerechtigkeitsproblem der Zukunft. Dann gab es gleich ein Riesengeschrei: Die Bundeskanzlerin will eine Datensteuer.
Nein, ich will keine Datensteuer.

Sondern?
Im Augenblick gibt es eine riesige Diskussion: Wie besteuern wir digitale Unternehmen? Da wird im Augenblick in der Europäischen Union eine Zwischenlösung favorisiert, die besagt: Wir nehmen einfach eine virtuelle Betriebsstätte. Auf deren Umsatz erhebe ich eine Umsatzsteuer. Das halte ich für sehr gefährlich. Denn wenn morgen das Auto ein rollender Computer ist, komme ich natürlich mit meinem heutigen Unternehmenssteuerrecht in Konflikt. Wir als Exportweltmeister profitieren davon, dass über den Firmensitz in Deutschland - VW zum Beispiel - ein viel größerer Betrag an Steuern eingenommen wird als auf der chinesischen Seite, wo VW auch produziert. Das heißt, wenn wir jetzt leichtfertig die virtuelle Betriebsstätte nehmen, dann sagen die Chinesen: Passt mal auf, dann wollen wir aber für alles, was bei uns passiert, einen viel größeren Körperschaftsteueranteil. Insofern würden wir uns dann unserer eigenen Steuerbasis berauben.

Wir sitzen ja heute an einem Tag zusammen, an dem das erste Mal das Digitalkabinett getagt hat. Was müssen wir uns darunter vorstellen?
In Sachen Digitalkabinett haben wir alle Minister gefragt, ob sie glauben, dass sie da hineingehören, und alle haben Ja gesagt.

Sie kleben sich jetzt also alle für zwei Stunden ein Post-it auf die Stirn und sagen: „Jetzt sind wir das Digitalkabinett.“
Es zeigt sich, dass die Digitalisierung alle gesellschaftlichen Bereiche durchdringt, egal, ob das jetzt die Staatsministerin für Kultur ist, ob das der Gesundheitsminister ist oder ob das die Landwirtschaftsministerin ist.

Könnte man dann nicht auch einfach sagen, dass das Kabinett immer ein Digitalkabinett ist, weil sowieso alles digital durchdrungen ist?
Aber wir haben damit unsere Themen eingegrenzt. Wir haben heute über drei Themen gesprochen: erstens, dass wir eine Strategie für künstliche Intelligenz bis zum Herbst erarbeiten wollen. Zweitens haben wir über die Möglichkeiten der Blockchain gesprochen. Drittens haben wir über die Arbeitswelt in Zeiten der Digitalisierung gesprochen. Das sind schon einmal drei Themen, mit denen wir uns vertieft beschäftigen werden.

Gibt es da Konsens im Kabinett, was die Potenziale Deutschlands sind?
Es gibt jedenfalls Konsens über die Herausforderungen: Die erste ist, dass wir uns unglaublich um die Expertinnen und Experten bemühen müssen, weil da im Augenblick ein wahnsinniger weltweiter Wettbewerb stattfindet. Die großen Internetkonzerne versuchen hier wirklich, Marktmonopole zu erreichen. Zweitens haben wir das Problem, dass wir für unsere Start-ups, wenn sie größer werden, noch nicht die richtigen Finanzierungsmethoden haben. Drittens haben wir auch wettbewerbsrechtlich noch ziemlich große Schwierigkeiten, Plattformen zu entwickeln. Gott sei Dank gibt es jetzt in der Wirtschaft entsprechende Bestrebungen. Die Deutsche Bank, Lufthansa, Siemens und andere haben sich zum Beispiel zu solchen Plattformen zusammengeschlossen.

Wenn Sie einen Minister Ihres Kabinetts durch eine künstliche Intelligenz ersetzen könnten, wen würden Sie dann wählen?
Heute sind sie mir alle als Menschen lieb. Wenn, dann müssten wir einen zusätzlichen Stuhl an den Kabinettstisch stellen und einmal testen, ob die Antworten besser sind als die der realen Minister.
 
 
 
  Sie wollen im Herbst eine Strategie für künstliche Intelligenz vorstellen. Gibt es irgendetwas, was Ihnen ganz besonders wichtig ist?
Wir müssen an unseren Stärken ansetzen. Und unsere Stärken liegen im Augenblick nicht darin, dass wir die Konsumenten besonders gut erreichen. Vielmehr müssen wir über das Internet der Dinge versuchen, dort Anwendungen für die künstliche Intelligenz anzudocken. Eines der großen Probleme hat man heute im Digitalkabinett schon gesehen: Unser Verhältnis zu den Daten kann uns hemmen und es kann eine Beförderung sein.

Werden Sie auch diejenige sein, die die Umsetzung dieser KI-Strategie an der Spitze dieser Bundesregierung noch vorantreibt?
Ich hoffe es. Warum fragen Sie?

Es ist immer gut, einmal zu fragen.
Habe ich jetzt einen so dummen Eindruck gemacht?

Gar nicht! Sie haben eben über China geredet. Am Beispiel China ist interessant, dass dort der Umgang mit Daten völlig anders ist. Ist uns dieses Land damit automatisch voraus?
Ich bin von unserem freiheitlich-demokratischen System überzeugt und glaube deshalb, dass wir Lösungen finden können, die mit unserem Verständnis von der Würde jedes einzelnen Menschen zusammenpassen, aber wir müssen darum kämpfen. Dass die Welt des klassischen Westens ihre Überlegenheit gegenüber anderen gesellschaftlichen Systemen gezeigt hat, ist heute nicht mehr selbstverständlich. Aber ich finde, dieser Wettbewerb lohnt sich. Wir können ihn eingehen und wir sollten ihn auch ohne Scheuklappen eingehen.

Wenn Sie lesen, dass China bis 2030 Weltmarktführer bei KI werden will, und wenn Sie sehen, dass dort ein System eingeführt wird, bei dem künstlich intelligent Wohlverhalten bewertet wird ist das die Zukunft?
Ich sage einmal: Ganz unbekannt ist uns ein solches Credit-System ja auch nicht. Wer zehn Jahre unfallfrei fährt, bekommt eine niedrigere Haftpflichtversicherung, wer immer schön beim gleichen Verkäufer einkaufen geht, bekommt irgendwelche Bonuspunkte, und wer zehnmal im gleichen Hotel war, hat eine Übernachtung frei. Wenn sich das jetzt aber sozusagen über meine gesamte Persönlichkeit erstreckt und mein Urlaubsverhalten mit meinem Verkehrsverhalten und mit meinem Ausbildungsverhalten und meiner Kindererziehung vermischt wird, dann würden wir sagen, das ist nicht unser Bild vom Menschen. Die Fragen stellen sich ganz praktisch. Nehmen wir einmal die chemische Industrie. BASF hat Werke in China. Von Ludwigshafen aus wird auch die Wartung der chinesischen Werke durchgeführt. Dabei müssen Daten übertragen werden. Unsere Unternehmen bestehen darauf, dass sie diese Wartung nur gut machen können, wenn sie sichere Datenleitungen haben. Darüber sprechen wir mit China, und durchaus mit Erfolg.

Wie müssen wir denn unsere Haltung zu humanoiden Robotern definieren? Brauchen die auch Rechte wie wir, wie das in Estland zum Beispiel schon der Fall ist?
Stromzufuhr oder was ist das Recht des Roboters?

Dass sie nicht für falsche Zwecke eingesetzt werden darf zum Beispiel.
Natürlich brauche ich das. Das firmiert bei mir, wie gesagt, alles unter der Frage der Haltung und der Leitplanken.

Aber Roboterrechte nach Vorbild klassischer Menschenrechte sehen Sie nicht? Das Zusammenspiel von Gehirn, Bewusstsein und Körper, ist das das Alleinstellungsmerkmal des Menschen gegenüber der Maschine?
Es ist jedenfalls erst einmal eine zusätzliche Dimension. Wie sich die Dinge in den nächsten Jahren weiterentwickeln und welche Alleinstellungsmerkmale wir noch herausfinden, kann ich heute nicht abschließend sagen. Aber heute ist es erst einmal eine Dimension, die bei den Robotern noch nicht da ist.

Würden Sie sich im Alter von jemandem wie Sophia pflegen lassen?
Warum soll Sophia einem nicht Orangen auspressen, wenn man mit der Hand nicht mehr so richtig zugreifen kann?

Pflege ist ja nicht Orangenpressen.
Oder das Licht einschalten oder einem etwas zu trinken geben. Ich kann mir schon Dinge vorstellen. Trotzdem werde ich, so wie ich mich jetzt sehe, nicht zufrieden sein, wenn ich nur von Robotern umgeben bin.

Wäre es für Sie eine schöne Utopie, dass wir vieles von künstlich intelligenten Maschinen machen lassen und dann mehr Zeit haben, um kreativ zu sein?
Ja, wobei ich finde, selbst wenn Roboter alles für mich kochen könnten, würde ich wohl selber gerne noch kochen. Ich möchte nicht alles ersetzt bekommen, was ersetzbar ist, sodass ich dann nur noch denken darf. Das wäre mir zu wenig.
Frau Bundeskanzlerin, vielen Dank für das Gespräch.
 
 
 
 
 
ADA
AUTORINNEN UND AUTOREN
 
 
 
 
 
 
Miriam Meckel
 
 
Astrid
Maier
 
 
Sven Prange
 
 
Milena Merten
 
 
Lea Steinacker
 
 
 
 
Wenn Dir dieser Brief gefallen hat, schick ihn weiter an eine Freundin oder Freund.
Wenn er Dich nervt, schicke ihn an jemanden, der es verdient hat.
 
  weiterempfehlen  
 
 
 
 
 
Sie bekommen diesen Newsletter, weil Sie ihn mit der E-Mail-Adresse sabinedelorme@yahoo.de bestellt haben. Hier können Sie den Newsletter abbestellen.

Impressum
Handelsblatt GmbH (Anbieter i.S.d. §§ 5 TMG, 55 RStV)
Toulouser Allee 27, 40211 Düsseldorf
E-Mail: online@wiwo.de
Telefon: 0800 723 831 1 (kostenlos)
Geschäftsführer: Frank Dopheide, Ingo Rieper, Gerrit Schumann
AG Düsseldorf, HRB 38183
UID: DE812813090