Serie

100 große Fragen: Wie weit steuern Algorithmen unser Leben?

Algorithmen werden schon seit Tausenden von Jahren für Berechnungen verwendet. Armin Iske (l.) zeigt einen Abakus, eines der ältesten bekannten Rechenhilfsmittel.  Matthias Rarey hält einen Arduino-Lerncomputer in der Hand, mit dem schon Schüler die Funktion von Algorithmen leicht nachvollziehen können.

Algorithmen werden schon seit Tausenden von Jahren für Berechnungen verwendet. Armin Iske (l.) zeigt einen Abakus, eines der ältesten bekannten Rechenhilfsmittel. Matthias Rarey hält einen Arduino-Lerncomputer in der Hand, mit dem schon Schüler die Funktion von Algorithmen leicht nachvollziehen können.

Foto: Thorsten AhlF

Zwei Forscher der Universität Hamburg erklären, welche Vorteile digitale Helfer haben können – und welche Gefahren drohen.

Hamburg. Wer möchte, kann seinen Alltag komplett digital steuern lassen: von der Smartwatch, die uns weckt, den Puls misst, jeden Schritt zählt und Gesundheitstipps gibt, über den Kühlschrank, der selbstständig die Milch nachbestellt, über Apps für den Verkehr, Hotelbuchungen und Reisen bis hin zum Datingportal, das uns Vorschläge für potenzielle Partner macht. Hinter all diesen Anwendungen stecken Algorithmen: mathematische Rechenanweisungen für Computer.

Wie prägen diese digitalen Helfer unser Leben, was passiert mit den erhobenen Daten, wie weit darf die Einflussnahme von Algorithmen gehen? Darüber sprach das Abendblatt mit dem Mathematiker Armin Iske und dem Informatiker Matthias Rarey. Die beiden Professoren von der Universität Hamburg entwickeln und bewerten Algorithmen seit vielen Jahren.

Abendblatt: Kaum eine Anwendung steht so für die Steuerung durch Algorithmen wie das Navigationsgerät. Kommen Sie noch ohne durchs Leben?

Armin Iske: Ich nutze beim Autofahren überwiegend ein Navigationsgerät, das allerdings mit Vorsicht zu genießen ist: Vor Kurzem wollte ich vom Geomatikum der Universität Hamburg – meinem Dienstsitz in Eimsbüttel – nach Harburg zur Technischen Universität fahren, um dort eine Vorlesung zu halten. Mein Navigationsgerät hat mich völlig in die Irre geleitet, bis in eine Sackgasse vor einer Baustelle am Bahnhof Altona. Dort kenne ich mich überhaupt nicht aus. Ich bin dann zurückgefahren zum Geomatikum und habe den östlichen Weg genommen. In Gegenden, in denen ich mich gut auskenne, nehme ich inzwischen öfter wieder selbst das Heft in die Hand.

Matthias Rarey: Was die Navigation im Verkehr angeht, bin ich überzeugt: Das ist eine Herausforderung, die Algorithmen fast immer besser bewältigen als wir Menschen. Die Navigationssoftware kann so viele Informationen parallel verarbeiten, zu aktuellen Staus und alternativen Routen – das schafft kein Mensch genauso schnell, solange er keinen Beifahrer mit Karte neben sich sitzen hat. Ich nutze sogar beim Radfahren ein Navigationsgerät, weil ich so ganz neue Routen durch die Stadt kennenlerne. Ja, Computerprogramme können sich mal irren – aber wir Menschen irren auch.

Abendblatt: Wird unser Leben künftig noch stärker durch Algorithmen beeinflusst werden?

Iske Ganz sicher. Diese Entwicklung lässt sich nicht mehr stoppen, die Digitalisierung prägt unsere Gesellschaft zunehmend.

Rarey Diverse digitale Anwendungen, die auf maschinellem Lernen beruhen und häufig als künstliche Intelligenz bezeichnet werden, haben zuletzt enorme Fortschritte gemacht, etwa Bild- und Spracherkennung. Es gibt inzwischen technische Möglichkeiten, die vor einigen Jahren noch undenkbar waren. Deshalb entwickeln Wirtschaft und Indus­trie – insbesondere die großen Internetkonzerne – immer weitere neue digitale Anwendungen.

Iske Ob sich diese Anwendungen dann durchsetzen, hängt vor allem davon ab, ob sie von vielen Menschen als bequemer und hilfreicher anerkannt werden als bisherige Praktiken. Außerdem spielt es eine Rolle, inwieweit Menschen ein Grundvertrauen in bestimmte neue digitale Anwendungen entwickeln. Längst nicht alles, was die Industrie entwickelt, kommt gut an. Letztendlich entscheiden die Nutzer mit ihrer kollektiven Nachfrage über den Erfolg der angebotenen Produkte.

Abendblatt: Die Datenbrille Google Glas, ein am Kopf getragener Mini-Computer mit integrierter Kamera, hat sich nicht durchgesetzt. Dagegen werden etwa Spracherkennung und Sprachübersetzer auf dem Smartphone bereits von Millionen Menschen genutzt.

Rarey Google Glasses haben Skepsis hervorgerufen, weil sich Dritte durch Filmaufnahmen zu Recht beobachtet fühlen. Die Möglichkeit, computergenerierte Bilder in die Realität zu projizieren, wird sich aber durchsetzen, beispielsweise in Automobilen. Es gibt tolle Anwendungsszenarien, etwa virtuelle Stadtführungen, die mit einer solchen Technologie möglich wären, oder Smart Glasses für Sehbehinderte, die das Gesehene beschreiben, Schilder vorlesen und auch gleich übersetzen. Persönlich schätze ich aber auch eher die einfachen Dinge wie die HVV-App. Sie wäre perfekt, wenn sie denn auch mal die Verspätungen korrekt anzeigen würde.

Das könnte Sie auch interessieren:


Abendblatt: Viele Apps sind kostenlos. Sollte uns das misstrauisch machen?

Rarey Wir vergessen häufig, dass wir bei der Nutzung solcher Anwendungen mit unseren Daten zahlen. Diese Informationen über uns werden etwa für zielgerichtete Werbung genutzt. Ein Bekannter, der für eine große Internetfirma arbeitet, entgegnete auf meine Kritik: Sei doch froh, dass du genau die Werbung bekommst, die dich interessiert.

Abendblatt: Hat er nicht recht?

Rarey Die großen Internetfirmen generieren ihre Einnahmen hauptsächlich durch Werbung. Je passgenauer sie Werbung schalten können, umso eher sind Werbekunden bereit, Geld dafür zu bezahlen. Dadurch wird letztlich die App, die wir kostenlos nutzen, mindestens mitfinanziert. Soweit ist das in Ordnung. Problematisch finde ich allerdings, dass wir sehr häufig sehr viele Daten preisgeben: Wenn wir uns mit einer Navigations-App von A nach B bewegen und das mit einem Smartphone tun, verraten wir nicht nur unseren Weg, sondern auch Informationen über Start und Ziel – insbesondere dann, wenn wir nicht nur die Straße eingeben, die wir ansteuern, sondern als Zieladresse eine Einrichtung nennen, sei es eine Apotheke, ein Sportverein, eine Kneipe oder Spielhalle. Es lässt sich kaum feststellen und nachvollziehen, zu welchen anderen Zwecken als nur für passgenaue Werbung solche Daten womöglich noch genutzt werden.

Abendblatt: Was könnte denn passieren?

Rarey Vielleicht interessiert sich irgendwann einmal eine Versicherung oder ein zukünftiger Arbeitgeber dafür, welche Orte wir laut unseren Navigationsdaten in unserem Privatleben ansteuern. Ich kenne zwar keinen solchen Fall, denke aber, dass sich solche und andere Szenarien nicht ausschließen lassen.

Abendblatt: Dass Versicherungen uns zunehmend mithilfe von Algorithmen einschätzen könnten, ist schon oft in Medienberichten über künstliche Intelligenz thematisiert worden. Aber passiert so etwas tatsächlich schon?

Rarey Es gibt Autoversicherer, die bieten Tarife an, die etwas günstiger sind, wenn man beim Autofahren einen Tracker mitführt. Dieser erhebt Daten und übermittelt sie an den Versicherer – zum Beispiel, ob wir uns an Geschwindigkeitsgebote halten, eher aggressiv fahren und vieles mehr. Jeder Einzelne muss selbst entscheiden, ob er solche Daten über sich preisgeben will.

Iske Besorgniserregend ist die Intransparenz, wenn man etwa an Schufa-Auskünfte denkt. Man geht zu einer Bank und möchte einen Kredit haben, dabei werden bestimmte Daten erhoben, vielleicht werden noch weitere Daten hinzugefügt, etwa der Eindruck des Bankberaters – und dann werden diese Daten einem Algorithmus überlassen, den wir nicht kennen und der Bankberater auch nicht. Am Ende kommt eine Bewertung zur Kreditwürdigkeit des Kunden heraus, deren Entstehung sich kaum nachvollziehen lässt.

Abendblatt: Längst von Algorithmen dominiert wird etwa das Geschäft an den Börsen, wobei auch hier selbst für Experten kaum nachvollziehbar ist, warum Algorithmen bestimmte Entscheidungen treffen. Entgleiten Algorithmen zunehmend unserer Kontrolle?

Iske Möglicherweise. Daher benötigen wir einen Verbraucherschutz in bestimmten IT-Segmenten. Für Anwendungen, bei denen Verbraucher persönliche Daten preisgeben, die unter Verwendung von Algorithmen zu gravierenden Entscheidungen führen, sollten Zertifikate zur Plausibilitätskontrolle solcher Algorithmen verlangt werden.

Abendblatt: Und wer soll das machen – der Staat?

Iske: Ja.

Rarey: Wir verstehen viele Algorithmen bisher noch recht gut. Es hapert hingegen an dem Verständnis, was Algorithmen aus Daten machen. Erklärbare künstliche Intelligenz ist gerade in der Forschung ein Riesenthema. Wir müssen dazu kommen, maschinelle Lernverfahren zu entwickeln, die ihre Entscheidungen begründen können. Nehmen wir nur den Einsatz von Algorithmen in der medizinischen Diagnostik: Es ist extrem wichtig, dass ein Arzt nachvollziehen kann, warum genau eine Software zu einer Einschätzung oder Empfehlung gekommen ist.

Abendblatt: Wo dürfen wir Algorithmen wenig oder gar keinen Einfluss überlassen?

Iske: In ethischen Angelegenheiten. Beispielsweise im „social scoring“, ein Sozialkredit-System, das schon in anderen Ländern getestet wird. Hierbei wird wünschenswertes Verhalten von Bürgern mit Pluspunkten belohnt, negatives Verhalten wird mit Minuspunkten bestraft. Mithilfe von Kameras und Gesichtserkennung wird etwa erfasst, ob ein Bürger bei Rot über die Ampel läuft. Wird dieser Bürger identifiziert, bekommt er einen Minuspunkt. Spendet er etwa Blut, bekommt er einen Pluspunkt. Auf der Grundlage seines Verhaltens berechnet ein Algorithmus den „sozialen Wert“ des Bürgers. Das Ergebnis könnte etwa darüber entscheiden, ob dieser Mensch einen Kredit bekommt. Einen solchen Einfluss von Algorithmen dürfen wir bei uns auf keinen Fall zulassen.

Rarey: Ich finde die Beeinflussung über soziale Netzwerke besonders beängstigend. Auch wenn es keine genauen Zahlen gibt, was den Brexit betrifft oder die Wahl von Donald Trump, so deutet doch einiges darauf hin, dass gezielt gestreute Meldungen in sozialen Netzwerken viele Menschen beeinflusst haben. Die Algorithmen, die darüber entscheiden, welche Informationen in die Nachrichtenkanäle von Individuen gespielt werden, bedürfen einer sehr genauen Kontrolle, um zu verhindern, dass es zu Missbrauch oder zu Fehlentscheidungen dieser Algorithmen kommt.

Abendblatt: Der Staat soll etwa Facebook vorschreiben, wie der Konzern seine Algorithmen zu schreiben hat?

Rarey: Der Staat wird bei Algorithmen kaum Vorgaben machen können, schon deshalb, weil dies ein enorm hohes Level an Expertenwissen erfordert. Was man aber erwarten und auf einer politischen Ebene formulieren kann, ist, dass Algorithmen sich zumindest weitgehend an bestimmte Grundregeln halten, sich etwa neutral gegenüber Geschlecht, Religion und Herkunft zu verhalten.

Iske: Man wird so etwas nicht national im Alleingang regeln können. Es muss internationale Vereinbarungen und Standards geben, mit denen zentrale Algorithmen bewertet und zugelassen werden.

Abendblatt: In ihrem Buch „Ein Algorithmus hat kein Taktgefühl“ fordert die Informatik-Professorin Katharina Zweig, dass sich viel mehr Menschen als bisher mit Algorithmen beschäftigen sollten, damit eine gesellschaftliche Debatte über Chancen und Risiken möglich ist. Wie sehen Sie das?

Rarey: Bei der Bildung zur Digitalisierung haben wir einen enormen Nachholbedarf. Es muss nicht jeder Bürger die Details eines Programms mit künstlicher Intelligenz verstehen können. Aber die grundsätzliche Vorgehensweise von Programmen ist kein Hexenwerk. Grundlagen der Programmierung und die Risiken, die der Einsatz von Algorithmen bergen kann, sollten wir schon Schülern vermitteln.

Iske: Aber auch für Erwachsene jeden Alters sollte es viel mehr Bildungsangebote zur Digitalisierung geben. Aktuell sind Debatten über die Digitalisierung allerdings stark getrieben von Aspekten der Hardware, weniger von der Software. Die Leistungsfähigkeit von Algorithmen verdient jedoch mindestens genauso viel Aufmerksamkeit wie die Rechenleistung von Computern, die Abdeckung von Mobilfunknetzen und die Internetgeschwindigkeit in bestimmten Regionen.

Abendblatt: Geht es nach der Hamburger SPD, entsteht bald in der Hansestadt ein „Haus der digitalen Welt“, das den Einfluss von Computern und Algorithmen im Alltag veranschaulichen soll. Was halten Sie beide von dieser Idee?

Iske: Das ist sehr guter Vorschlag. Ein solches Ausstellungshaus könnte Berührungsängste gegenüber der Digitalisierung verringern.

Rarey: Auch ich würde ein Haus der Digitalisierung sehr begrüßen. Über das, was viele Menschen an der Digitalisierung fasziniert – zum Beispiel Grafik und virtuelle Welten – ließe sich anschaulich vermitteln, was im Hintergrund passiert: dass Algorithmen in sehr umfassender Weise unser Leben steuern – und wie das unsere Gesellschaft prägt.