Berlin. Menschen lassen sich immer mehr von Algorithmen leiten, sagt Armin Grunwald. Das schafft Abhängigkeiten. Mitgestaltung ist wichtig.

Pflegeroboter, selbstfahrende Autos, smartes Wohnen: Wir digitalisieren uns allmählich weg, mahnt Deutschlands führender Technikfolgenabschätzer Armin Grunwald in seinem Buch „Der unterlegene Mensch“. Noch aber könnten wir die analoge Welt gestalten.

Herr Grunwald, viele Science-Fiction-Filme sind düster und dystopisch. Auch der Titel Ihres Buches klingt danach. Warum so negativ?

Armin Grunwald: Ganz so ist es nicht. Der Titel soll einfach die Menschen da abholen, wo viele mit ihren Sorgen sind. Wir hören dauernd, was die Computer alles können, und viele fangen an, sich unterlegen zu fühlen. Das letzte Kapitel des Buches aber heißt „Der überlegene Mensch“, und darauf möchte ich hinaus: Wir haben viele Möglichkeiten, diese zukünftige digitale Welt aktiv zu gestalten. Und wir sind nicht blind einem Verhängnis ausgeliefert.

Fangen wir mit den Sorgen an. Wo sehen Sie bei der Digitalisierung Gefahren?

Wir Menschen können heute teils nicht mehr nachvollziehen, wie Algorithmen auf Ergebnisse kommen. Beispiel Big Data: Programme suchen nach Zusammenhängen in riesigen Datenmengen. Doch hat man was gefunden, weiß man nicht, ob eine Ursache-Wirkungs-Beziehung zwischen beidem besteht. Ein Beispiel: Auf dem Land werden mehr Kinder geboren als in der Stadt, auf dem Land leben auch mehr Störche als in der Stadt – also müssen die Störche wohl etwas mit dem Kinderkriegen zu tun haben. Das mag lustig klingen. Aber wenn Entscheidungen aufgrund solcher bloßen Korrelationen getroffen werden, dann beunruhigt mich das.

Die Menschen sorgen sich offenbar weit weniger. Stichwort Datenschutz: Nach dem Facebook-Datenskandal um Cambridge Analytica sind die Nutzerzahlen nicht eingebrochen. Wie erklären Sie sich das?

Wir wissen zwar, was mit unseren Daten passiert und wie wir auch manipuliert werden. Doch trotzdem nutzen wir ungehemmt die schönen digitalen Werkzeuge und geben dabei unsere Daten preis. Wir tun das natürlich, weil das so schön komfortabel ist: Online-Banking, Einkauf im Internet, soziale Medien, Kommunikation.

Wie können Menschen sensibilisiert werden?

Da gibt es nur den langwierigen Weg der Aufklärung und Bildung ab der Schule. Hier ist die EU ein bisschen aufgewacht, da wächst das Selbstbewusstsein und die Erkenntnis, dass man von den Konzernen, die bei uns Geld verdienen wollen, auch erwarten kann, dass sie unsere Regeln und Werte anerkennen.

Ein Computer, der ein eigenes Bewusstsein hat und als Folge den Menschen beherrscht – halten Sie das für möglich?

Ich kann mir das nicht vorstellen. Ob aus dem Abspulen von Programmen ein Selbstbewusstsein entstehen kann, ist für mich nur schwer nachvollziehbar. Nick Bostrom, einer der Gurus der Transhumanisten, hat gesagt, dass wir im Jahre 2075 mit 90 prozentiger Wahrscheinlichkeit von einem Weltherrscheralgorithmus regiert werden. Ich weiß nicht, woher er das so genau weiß. Aber ich glaube nicht, dass wir in absehbarer Zeit damit rechnen müssen.

Womit dann?

Wir sind jetzt schon auf Gedeih und Verderb vom Internet abhängig. Wir können es nicht einfach abstellen, denn dann würde die Weltwirtschaft zusammenbrechen, vermutlich würden in Großstädten innerhalb weniger Tage Hungersnöte ausbrechen, weil die Versorgung mit Lebensmitteln nicht mehr klappt. Außerdem gibt es die Abhängigkeit von den großen Firmen, die die für uns wichtigen Algorithmen produzieren. Und diese Abhängigkeit ist ein viel größeres Problem.

Das Internet ist ja immer noch in der Hand weniger Staaten. Müsste es nicht in die Hände der UN gelegt werden?

Das wäre wirklich eine faszinierende Vision: Ein Internet für alle, das nach demokratischen Prinzipien geregelt wird. Davon sind wir weit entfernt. Datenströme, die das Staatsgebiet der USA passieren, können vom US-Geheimdienst natürlich eingesehen werden. Da ist die nationale Hoheit anderer Staaten eingeschränkt. Das sehe ich als echtes Problem.

Wie groß ist die Gefahr, dass bald Waffensysteme mit künstlicher Intelligenz selbst über Leben und Tod entscheiden?

Die Entwicklungen laufen in die Richtung. Für Militärs ist das attraktiv, weil sie dadurch keine Soldaten in Gefahr bringen, sondern nur eine Drohne oder einen autonomen Panzer. Zudem können Algorithmen im Gefecht viel rascher agieren. Doch: Wenn kein Mensch mehr auf die Entscheidungsprozesse der Künstlichen Intelligenz schaut, können Katastrophen passieren. Beispiel: 1983 gab es in Russland einen Alarm: die Amerikaner greifen mit Atomraketen an. Ein Fehlalarm. Entgegen aller Befehle aber löste ein russischer Offizier nicht den atomaren Gegenschlag aus und bewahrte die Welt vor einem Inferno. Je mehr wir Entscheidungsprozesse an Algorithmen abgeben, desto größer werden solche Risiken.

Wie verändert die Digitalisierung den Arbeitsmarkt?

Roboter können einfach vieles besser, sie werden nicht müde, unterliegen nicht der Arbeitszeitregelung, werden nicht schwanger, müssen nicht Urlaub machen. Man hat immer schon Automatisierung betrieben, die Weberaufstände vor 200 Jahren waren eine Folge dieses Prozesses. Wenn auch bisher alles gut gegangen ist in der Geschichte, gibt es keine Garantie, dass es auch in Zukunft so weitergeht. Es gibt eine große Unsicherheit, wie schnell die Automatisierung voranschreitet. Die Sorge ist die vor einer Disruption – etwa, wenn plötzlich fünf Millionen Menschen arbeitslos werden würden. Andere glauben, dass viele neue Jobs und Wertschöpfungsketten entstehen und dass in der Summe alles vielleicht sogar sehr gut wird. Ich möchte mir nicht anmaßen zu sagen, wer recht hat. Es ist aber wichtig, dass wir uns vorausschauend auf unterschiedliche Entwicklungen vorbereiten.

In der Pflege wird schon seit Jahren daran geforscht, Roboter einzusetzen …

… ein wichtiges Thema. Da ist Japan sehr weit vorgeprescht. Die Menschen dort haben ein noch größeres demografisches Problem als wir, haben aber kulturell auch eine andere Prägung. Japaner wollen anderen nicht zur Last fallen. Wenn das stattdessen ein Roboter tun kann, ist man dort eher froh. Die Japaner haben für Hunderte von Millionen Dollar versucht, Pflegeroboter zu entwickeln, die Menschen umbetten können – eine für menschliche Pfleger sehr belastende Tätigkeit. Nach drei Forschungswellen hat man die Sache eingestellt. Der Grund war, dass die Roboter nicht die Sensibilität hatten, um mit pflegebedürftigen Menschen umzugehen.

Nutzen Sie eigentlich Sprachassistenten?

Ich habe nicht einmal einen Saugroboter.

Warum nicht?

Ein Kollege aus Wien hat mal diese ganze Rhetorik, dass digitale Technologien uns alles abnehmen und wir nur noch genießen müssen, als „betreutes Leben“ bezeichnet. Und ich möchte noch nicht betreut leben.

>„Der unterlegene Mensch“, Riva Verlag, 253 Seiten, 19,99 Euro