Werden wir ferngesteuert?

In den fast 3000 Jahren alten Upanischaden, einer Sammlung philosophischer Schriften des Hinduismus, findet man Hinweise auf ein Spannungsfeld zwischen Intelligenz und Intellekt. Bei ersterem haben wir es mit Rechenkapazität zu tun – jeder Intelligenztest testet etwa, wie schnell wir eine Denkleistung in einer gewissen Zeitspanne durchführen können – und beim zweiten Begriff mit der Urteilsfähigkeit, welche sich unter anderem aus Logik, Erfahrung sowie dem Bewusstsein von Recht und Unrecht zusammensetzt. Der Intellekt beruht in dieser Sicht auf dem feinen Sensorium unserer Wahrnehmung. Der hier auch für uns, in Zeiten künstlicher Intelligenz, in der wir aus großen Datenmengen maschinell lernen, abgeleitete Fokus der Upanischaden liegt auf der Urteilsfähigkeit von uns Menschen und nicht auf der Rechenkapazität.

Der Techautor Jaron Lanier, der unter anderem mit dem Friedenspreis 2014 des Deutschen Buchhandels ausgezeichnet wurde, eruiert in seinen Texten eine Herausforderung darin, dass wir mit diesen überwachungskapitalistischen Geschäftsmodellen möglicherweise eine verwirrte Gesellschaft erschaffen. Eine solche Gesellschaft, in der jedes Mal, wenn Menschen etwas gemeinsam tun wollen, ihre einzige Möglichkeit der Finanzierung darin besteht, dass sie eine Drittpartei – also die Werber – ausspioniert und „nudged“ (engl. „anstupsen“), führt zu einer Manipulation der Realität. In solchen Realitätsmanipulationen öffnen wir dabei seines Erachtens nicht nur unsere Märkte, sondern auch unsere Demokratien für mögliche, gefährliche Akteure, die gesellschaftlichen Spaltungen verursachen, Wahlen ruinieren und mit der Politik Katz und Maus spielen. Als Konsequenz leiden wir unter Desinformation, da die von den Konzernen beim maschinellen Lernen verwendeten Daten verzerrt sein können.

Weil gefühlsnegative Informationen Menschen schneller triggern und sich deshalb im Internet schneller spreizen, wird laut Lanier Überwachungstechnologie darauf ausgelegt, das am stärksten „Verängstige“ in uns noch zu verstärken. Ähnlich wie bei einer Spielsucht sind deshalb mittlerweile viele von uns von diesen Technologien abhängig. Oft wollen wir so eine Sucht aber nicht wahrhaben, weil wir denken, dass wir noch alles unter Kontrolle haben. Doch ist uns vieles, was geschieht, nicht mehr voll bewusst. Unsere Erfahrung mit dieser Art Technologie mag positiv sein, und die Möglichkeit, mit Freunden in Kontakt zu bleiben, verführerisch. Aber das Problem, dessen wir uns oft nicht bewusst sind, ist die Veränderung unseres gesellschaftlichen Verhaltens, die heimlich und sehr subtil geschieht.

Unsere Gesellschaft hatte laut Lanier bereits mit ähnlichen Problemen zu kämpfen, und auch wenn es schwer war, haben wir es geschafft, uns ihnen zu stellen und diese zu überwinden. Man denke an den Zigarettenkonsum, der zurückgegangen ist, obwohl früher jeder immer und überall geraucht hat. Wenn wir uns als Folge dessen bewusstwerden, wie „gefährlich“ Überwachungstechnologien sein können, können laut Lanier hoffentlich einige von uns diese Technologien hinter sich lassen: „Es ist wichtig für die Gesundheit unserer Gesellschaft, sich der Verschlechterung unsere Situation bewusst zu werden“, und so muss es „einen Teil von uns geben, der nicht süchtig nach diesen Technologien ist“, damit wir neue „Gespräche führen können“. Es bleibt zu hoffen, dass aus den Gesprächen ethischere und nachhaltigere Technologien hervorgehen als die der Überwachungskapitalisten. Solche Technologie, die den Menschen ins Zentrum rückt, könnte uns als integralen Bestandteil der Natur behandeln, wobei die von uns Menschen gemeinsam geschaffenen Technologien in unseren Diensten und unter unserer Kontrolle stehen, anstatt uns zu manipulieren und so unsere Fähigkeit zur Vernunft zu deformieren.

Wie gesagt, liegt der Fokus der indischen Philosophie nicht nur auf der Intelligenz, sondern auch auf der Urteilsfähigkeit. Auch Nick Bostrom und Eliezer Yudkowsky grenzen in ihrer „Ethik der künstlichen Intelligenz“ die „Fähigkeit, Schmerz zu empfinden und zu leiden“ von derjenigen Fähigkeit, „welche mit höherer Intelligenz assoziiert werden, wie etwa das Selbstbewusstsein und das Vorhandensein eines vernunftgesteuerten Agenten“ ab. So kann nach Lanier eine algorithmenbasierte KI der Überwachungskapitalisten, die auf großen Datenmengen sowie dem darin fußenden maschinellem Lernen aufbaut, niemals wie ein Mensch empfinden. In weiser Urteilungsfähigkeit fußend, gilt in Europa die „Datenschutz-Grundverordnung“ als eine Maßnahme, mit Missbrauch umzugehen. Diese Verordnung geht aber nicht weit genug, weil sie erst da ansetzt, wo unsere Daten bereits gesammelt wurden. Doch wir sollten auch Transparenz über Nudging-Algorithmen einfordern, um zu sehen, was die Konzerne mit den Daten machen. Und wir sollten mit einer neuen Verordnung auch auf Datenminimierung zielen, denn wenn Konzerne unsere Daten nicht sammeln dürfen, dann könnten wir dem Überwachungskapitalismus ein Ende setzen.