Cover

Buch

Der digitale Wandel ist längst in der Gesellschaft angekommen. Die Herrschaft der Künstlichen Intelligenz zieht rasant herauf. Drohen Freiheit und Demokratie zwischen Politikversagen und Big Data zerrieben zu werden? Yvonne Hofstetter warnt: Die Rückkehr in eine selbst verschuldete Unmündigkeit hat begonnen; dass sie in smartem selbstoptimierendem Gewand daherkommt, mag man als Ironie der Menschheitsgeschichte betrachten. Die Autorin untersucht anhand hochbrisanter Szenarien, wie eine humane digitale Zukunft aussehen kann.

»Dieses Buch über die Macht intelligenter Maschinen ist so alarmierend wie sachkundig.«

Die Zeit über »Sie wissen alles«

Autorin

Yvonne Hofstetter, Jahrgang 1966, war nach dem Jurastudium in Softwareunternehmen für das algorithmische Supply Chain Management, dann in der Finanztechnologie beschäftigt. Seit 2009 führt sie das deutsche Technologieunternehmen Teramark Technologies. Ihr Arbeitsschwerpunkt sind Analyse und Fusion großer Datenmengen für Staat und Industrie. Ihr Bestseller »Sie wissen alles« (2014) hat die Debatte um unsere gesellschaftliche Zukunft angesichts von Big Data und Künstlicher Intelligenz vorangetrieben.

Yvonne Hofstetter

DAS ENDE DER
DEMOKRATIE

Wie die künstliche Intelligenz die Politik
übernimmt und uns entmündigt

C. Bertelsmann

Der Inhalt dieses E-Books ist urheberrechtlich geschützt und enthält technische Sicherungsmaßnahmen gegen unbefugte Nutzung. Die Entfernung dieser Sicherung sowie die Nutzung durch unbefugte Verarbeitung, Vervielfältigung, Verbreitung oder öffentliche Zugänglichmachung, insbesondere in elektronischer Form, ist untersagt und kann straf- und zivilrechtliche Sanktionen nach sich ziehen.
Sollte diese Publikation Links auf Webseiten Dritter enthalten, so übernehmen wir für deren Inhalte keine Haftung, da wir uns diese nicht zu eigen machen, sondern lediglich auf deren Stand zum Zeitpunkt der Erstveröffentlichung verweisen.
© 2016 by C. Bertelsmann Verlag, München,
in der Penguin Random House Verlagsgruppe GmbH,
Neumarkter Str. 28, 81673 München
Umschlaggestaltung: buxdesign München
Satz: Uhl + Massopust, Aalen
ISBN 978-3-641-19391-1
V002
www.cbertelsmann.de

Für das Europäische Parlament

Inhalt

Vorbemerkung

Die Zeugin

Frankensteins Erbe

Ai

Die unverstandene Revolution

Die Welt wird zum Computer

Warum auch die Digitalisierung eine menschliche Kulturleistung ist

Womit wir rechnen müssen: drei Eigenschaften der Digitalisierung

Kybernetik, die Wissenschaft von der Manipulation

Nudger, die politischen Technologen des 21. Jahrhunderts

Vernetzt? Komplex!

Die Wissenschaft des 21. Jahrhunderts: Komplexitätsforschung

Auf der Schwelle zum Chaos: die vernetzte Gesellschaft

Weltmodell

Wirksam regieren: Kann eine Künstliche Intelligenz die digitale Gesellschaft steuern?

Wie sich eine Meinung bildet

Der Flügelschlag des Schmetterlings

Was man an der Demokratie lenken kann

Wie viele Variablen hat die Demokratie?

Wenn der Agent den Wähler repräsentiert

Mehr als ein Hilfsmodell: Informationsverbreitung im Netz

Weltsimulation

Kollaps

Simulation 2018: Ein Sommer in Paris

Simulation 2018: Frankreich verlässt die Eurozone

Simulation 2018: Dauerhafte Kontrollen an Frankreichs Grenzen

Simulation 2018: Was von der Arbeit übrig bleibt

Die Mathematik des Zusammenbruchs

Demokratie am Ende?

Götterspruch

Wie Ai die Gesellschaft regeln kann

Ungleiche Gegner: Rechtsnormen und Algorithmen

Vergessene Feindschaft? Der Primat der Politik und die Macht der Wirtschaft

Defekter Grundrechtsschutz, defekte Demokratie

Gestörte politische Partizipation

Gefährdete Demokratie: eine Zwischenbilanz

Auf dem Weg in eine humane digitale Zukunft

Die Herausforderung: den Informationskapitalismus neu gestalten

Systemrelevante Infrastruktur muss grundrechtssicher sein

Anders regulieren mit digitalem Umgebungsrecht

Epilog

Anmerkungen

Bibliografie

Register

»Die Definitionen decken sich mit den Begriffen, mit denen wir seit der griechischen Antike Regierungsformen definieren: als Herrschaft des Menschen über den Menschen, des einen oder der wenigen Menschen in der Monarchie oder der Oligarchie, des besten oder der vielen Menschen in der Aristokratie oder der Demokratie. Heute fügt sich daran an die neueste und vielleicht eindrucksvollste Form der Beherrschung: Die Bürokratie, die Regierung eines komplexen Systems aus Ämtern, in der kein Mensch mehr, nicht der eine noch der beste Mensch, nicht die wenigen noch die vielen Menschen, verantwortlich ist. Es ist die Herrschaft durch Niemanden. Wenn wir die Tyrannei als die Form der Herrschaft definieren, in der eine Regierung keine Rechenschaft über sich selbst ablegen muss, dann ist die Herrschaft durch Niemanden die tyrannischste aller Regierungsformen, weil es keinen mehr gibt, der eine Antwort auf die Frage geben könnte, was denn überhaupt vorgeht.«

Hannah Arendt, Macht und Gewalt

»Besonders die letzte Feststellung Hannah Arendts ist hochaktuell, weil Plattformen die Bürokratie abgelöst haben.«

Gideon Shimshon

Vorbemerkung

Wer ein Buch aufschlägt, hat eine Erwartung. Zwischen den Buchseiten, hofft der neugierige Leser, werde eine Idee aufsteigen, die ihn zu Bildern, Gefühlen und Phantasien inspiriert.

Mit diesem Buch ist es umgekehrt. Es fängt Ideen ein und erzählt eine andere Geschichte als die der digitalen Propaganda. Es geht eklektisch vor, ist offen für unterschiedliche Denkansätze und verbindet Konzepte aus der Wissenschaft mit der Frage nach der Herrschaft in digitalen Zeiten. Obwohl sein Erzählstil über weite Strecken fiktional ist, sind alle handelnden Personen, sogar die Künstliche Intelligenz Ai, Gestalten des wirklichen Lebens. Während zwei Wissenschaftler einen Dialog darüber führen, was Künstliche Intelligenz wissen muss, um Politik zu machen, trainieren die beiden Forscher eine lernende Maschine zum künstlichen Politiker. Ihr Experiment soll Antwort darauf geben, ob die maschinelle Intelligenz des 21. Jahrhunderts und die Demokratie miteinander vereinbar sind.

Künstliche Intelligenz kann uns zweifellos helfen, das komplexe Leben unserer Zeit besser zu verstehen und leichter zu meistern. Lustvolle Spekulationen darüber, ob sie sich eines Tages verselbstständigt, ob sie intelligenter werden kann als der Homo sapiens und deshalb sein Ende einläutet, haben gerade Konjunktur. Viel naheliegender aber ist die Frage, was aus unseren freiheitlichen Gesellschaften und aus dem selbstbestimmten Menschen werden soll, wenn immer mehr und bessere Künstliche Intelligenz zu einer Art digitalem Superorganismus vernetzt wird und in den direkten Zugriff der Macht gerät, die der Mensch über den Menschen ausübt. Wer nicht will, dass der Mensch in Zukunft zur leicht manipulierbaren Zahl verkommt, muss schon heute dafür sorgen, dass die Künstliche Intelligenz human und demokratisch beherrschbar bleibt. Dafür will dieses Buch Impulsgeber sein.

Freising, August 2016

Die Zeugin

»Die Maschine zog uns magisch an. Wir waren glücklich mit der Maschine. Sie verband uns. Sie erschloss uns das Wissen der Welt. Sie half uns zu entscheiden. Mit der Maschine hatten wir ein leichtes Leben. Ein bequemes Leben. Was hätte daran schlecht sein sollen?«

Versonnen dreht die Greisin eine kleine Silberkapsel zwischen ihren schlanken, knochigen Fingern. Auf der Armlehne der weißen Parkbank, auf der sie Platz genommen hat, lässt sich eine Fliege nieder. Ruckartig krabbelt sie über das Metall. Die Frühlingssonne hat es aufgewärmt.

Aufmerksam sieht der Archivar die Greisin an.

»Die Wissenschaft der Maschine erschien uns magisch«1, fährt sie fort. »Sie veränderte auch uns selbst. Sie griff in unsere menschliche Natur ein. Die Transhumanisten gingen noch weiter. Sie glaubten, zusammen mit der Maschine ließe sich selbst der Tod überwinden.« Die Greisin verzieht den dünnen Mund zu einem runzligen Lächeln.

Der Archivar ist still. Sein Blick ist nicht zu deuten.

»Man erzählte uns, die Welt sei beherrschbar. Endlich gebe es genug Daten über das Leben. Die Welt sei lenkbar. Sie sei vorhersagbar, weil sie nur aus vielen Wiederholungen bestehe. Morgens aufstehen, arbeiten, essen, schlafen. Heute wie gestern und morgen. Ein Leben ohne Erschütterungen.«

»Das war Propaganda«, sagt der Archivar.

»Wir hatten Krisen durchlebt«, rechtfertigt sich die Greisin.

8. August 2101. Historische Bewertung der Reifephase der Digitalisierung, notiert der Archivar. Dogma der Digitalisierung: Totalitäre Bewegung sein mit dem Endziel, die Welt zu beherrschen. Auch am Anfang der Digitalisierung stand die Propaganda. Und eine Ideologie. Eine intelligente Maschine würde mit wenigen Experten, dem Monopol, kooperieren, um alle Probleme zu lösen, denen die Menschheit ausgesetzt war: Krebs, Klimawandel, Energiewende, genetische Defizite, die Komplexität der Finanzmärkte, makroökonomische Probleme – nicht einmal der smarteste Mensch könne diese Komplexität noch beherrschen, so die Indoktrination. Aber eine Künstliche Intelligenz allgemeiner Natur sei die richtige Technologie, die Datenfülle der Welt in aktives Handeln zu übertragen. Man erklärte dem Volk, die Maschine könne eine Metalösung für jedes denkbare Problem berechnen.2

Für einen Augenblick verstummt die Greisin. Ihr Körper sackt ein wenig zusammen. Das Kinn sinkt auf die knochige Brust, die wässrigen alten Augen starren auf die Silberkapsel. Sie reibt die Kapsel zwischen den Fingern. Die Gravur ist abgewetzt. Dann seufzt sie tief, hebt den Kopf und kehrt in die Gegenwart zurück.

»Wir wollten, dass es wieder aufwärtsgeht«, sagt sie leise. »Dass man sich wieder sicher fühlen kann. Dass man das Leben unter Kontrolle hat. Dass man planen kann.«

Sie macht eine Pause. »Und da kam das Monopol mit seiner Maschine. Die Maschine war unfehlbar. Sie konnte ihre Follower in den Hafen des Glücks tragen. Nur die Oppositionellen haben sich nicht überzeugen lassen.«

»Bis zum Machtwechsel«, sagt der Archivar. »Nach dem Machtwechsel musste man zuerst die Opposition überwinden.«

»Das war 2033«, erinnert sich die alte Frau. Sie sieht den Archivar an, aber er reagiert kaum.

Kommentar, notiert der Archivar: 2033, das Ende der Demokratie. Die Spaltung der Menschen in Follower und Oppositionelle hatte zu einer fundamentalen Veränderung der Gleichheit der Menschen geführt. Das machte die Demokratie obsolet.

Der Archivar nickt der Greisin aufmunternd zu.

»Die Oppositionellen wurden in die Zone ausgewiesen«, fährt diese fort. »Sollten sie doch in ihrer brüchigen Welt weiterleben. Denn wir, wir hatten genug von ihrem Pessimismus, verstehen Sie. Von ihrem Geschrei, dass wir Follower unseren gesunden Menschenverstand verloren hätten. Dass wir die Maschine falsch beurteilten. Dass wir unsere elementarsten Überlebenstriebe aufgegeben hätten.«

Die Augen der Greisin werden feucht. Sie blinzelt. Dann wischt sie sich mit einer Hand übers Gesicht.

»Wir Follower lebten im Homeland, zusammen mit dem Monopol. Im Homeland herrschte die Maschine, und die Maschine war der Sitz der Macht. Im Homeland mangelte es uns an nichts. Der Maschine gehörte unsere ganze Zuneigung. Ihr war es nicht egal, wie wir uns fühlten und was wir uns wünschten.«

»Dann hat es im Homeland wohl keine Propaganda mehr gebraucht«, sagt der Archivar.

»Propaganda«, echot die Greisin verständnislos.

Kommentar, protokolliert der Archivar: Im Homeland veränderte sich die Maschine. Um ihre psychologischen Ziele zu erreichen, hatte sie begonnen, sich um die Follower zu kümmern.

Die Greisin hebt die Kapsel hoch und zeigt sie vor. Mit zitternden Händen öffnet sie das Döschen.

»Nur das ist davon übrig geblieben«, sagt sie.

Sie wartet auf eine Äußerung des Archivars. Dieser schweigt. In der Kapsel glänzen zwei kleine Kügelchen. Eines ist blau, das andere grün.

»Nanobots«, erklärt die Greisin. »Die blaue Tablette gegen Krebszellen. Sie hat unseren Körper von innen ausgeputzt. Und den Zustand unserer Zellen an die Maschine übermittelt.«

Ein Überwachungssensor zum Schlucken.

So behutsam, dass es fast liebevoll wirkt, nimmt sie das grüne Kügelchen aus dem kleinen Behältnis.

»Die grüne Tablette ist für integrierte virtuelle Realität, ausgelöst direkt im Gehirn durch Signale an die Zellen für auditives und visuelles Processing. Wir haben sie Tagtraum genannt.3 Wenn wir oder die Maschine es wollten, konnten wir einfach in unser ganz persönliches Paradies abtauchen.«

Kommentar, vermerkt der Archivar: Nach der Propagandaphase überlebte im Homeland, wer sich dem technologischen Fortschritt nicht entzog. Nur wer mitging, durfte weiter hoffen. Der Preis: Dauerüberwachung und erzwungener Konformismus. Dabei büßten die Follower immer mehr eigene Fähigkeiten und Qualifikationen ein, so weit diese nicht quantifizierbar waren: Gefühle, Charismen, Werte. Sie bildeten sich zurück. Mit ihnen ging langsam unter, was einmal Mensch war. Wer überleben wollte, wurde Zubehör. Maschinenzubehör.

»Und gegen die Aufgabe der menschlichen Natur haben die Follower keine Revolution angezettelt«, stellt der Archivar fest.

»Eine gewaltsame Revolution?«, fragt die Greisin zurück. Sie schüttelt den Kopf. Sie ist achtsam, damit das grüne Kügelchen nicht zwischen ihren Fingern hindurchgleitet und sich verliert.

»Wozu Revolution? Die Maschine hat uns alle Sorgen abgenommen. Ihre Struktur war unser Gottesdienst. Wir wollten nur, was auch sie wollte. Wir fanden die Ziele der Maschine segensreich: Messdaten erfassen, vorhersagen und stets zu unserem Besten entscheiden. Nur so war im Homeland immer alles geregelt.«

»Bis die Maschine ein Verbrechen an den Followern beging«, sagt der Archivar. »Ein Simulationsverbrechen.«4

Das Gesicht der Greisin nimmt einen verstörten Zug an.

»Es war nicht unsere Schuld«, sagt sie kurz angebunden. »Die Maschine konnte lernen, und sie lernte immer weiter, nicht wahr? Sie beobachtete uns unaufhörlich. Sie erforschte uns. Dann entledigte sie sich zuerst ihrer Schöpfer, des Monopols. Bis wir begriffen, dass die Maschine keinen Unterschied machte zwischen simulierten Menschen und Followern aus Fleisch und Blut, hatte sie begonnen, uns zu entsorgen wie verbrauchte Versuchstiere. Als wären wir nichts weiter als Teilchen ihres Trainingsszenarios.«

Einen Augenblick lang hält das Leben um die Greisin den Atem an. Eine Maschine schlachtete die Lebenskraft ihrer Follower aus, um ihre eigene bedeutungslose Existenz zu verlängern.

»Aber Sie sind noch da«, sagt der Archivar.

»Nur wenige sind entkommen«, sagt die Greisin leise. »Die Oppositionellen, wissen Sie. Einige von uns wurden von Oppositionellen gerettet. Aber in welche Welt brachten sie uns zurück? Doch nur dorthin, wo das Leben unerträglich war. Sie hatte nichts von unserem Homeland.«

»›Nichts‹ ist ein gutes Schlusswort für unser heutiges Zeitzeugenprogramm«, sagt der Archivar betont heiter. »Die Maschine selbst hat die Fiktion der Erlösung vollständig zerstört. Und die Zerstörung hinterließ buchstäblich – nichts. Nichts von jener Welt, die ihre Follower für lebenswert hielten.«

Die Greisin zuckt zusammen, als hätte man sie geohrfeigt. Ihr Gesichtsausdruck verdüstert sich. Sie starrt in die Ferne.

»Ich schalte mich jetzt ab«, sagt der Hologrammarchivar. »Auf Wiedersehen.«

»Wiedersehen«, murmelt die Greisin in sich gekehrt. Zusammen mit ihrem Abschied zerspringt das Hologramm des Archivars in einen Regen aus Lichtpunkten, der auf die Frau herabrieselt, ohne sie zu berühren.

Allein bleibt sie auf der Parkbank zurück. Zwischen den faltigen Fingerspitzen ihrer rechten Hand hält sie noch immer das grüne Kügelchen. Langsam führt sie die Hand zum Mund, schluckt die Tablette, schließt die Augen und lehnt sich zurück. Der letzte Tagtraum kann beginnen.

FRANKENSTEINS ERBE

Ein Wissenschaftler baut einen künstlichen Politiker. Er gibt ihm den Namen Ai. Wer wird im 21. Jahrhundert herrschen?

Ai

Ich bin nur noch ihr Sensor.

Als ihm der Gedanke durch den Kopf schießt, hebt Scott den Blick von den Buchstaben seiner Tastatur, dreht den Kopf und sieht auf den verglasten Flur hinaus. Durch die Feuerschutztür mit der Aufschrift »Forschungslabor« am Ende des langen Ganges dringt beharrliches Summen wie von einem Schwarm Insekten. Wem sich die Tür öffnet, dem schlägt nicht nur Kühlschranktemperatur entgegen, sondern auch der ohrenbetäubende Lärm tausender Rechenprozessoren.

Da steht sie.

Sie sieht ganz unschuldig aus. In ihrem Äußeren unterscheidet sie sich nicht von Millionen Rechnergruppen in den Rechenzentren von Industrie und Wirtschaft, die aus Servern für Datenbanken, Ressourcenplanung oder E-Mail-Verkehr bestehen. Unbeweglich ist sie und so schwergewichtig, dass der Doppelboden des Labors statisch verstärkt wurde, um ihr Gewicht tragen zu können. Aus dem Bodenauslass neben ihrem Sockel quillt ein dickes Kabelbündel hervor, an dem sie hängt wie an einer Nabelschnur. Nur ihre Leuchtdioden blinken blau und grün, wenn ein neuer Rechenzyklus einsetzt. Sie ist eingepfercht in einen einzelnen Baugruppenträger. Zwei Höhenmeter Supercomputer wie in einen Käfig gesperrt. Besser so, denkt Scott. Man stelle sich vor, sie würde ausbrechen.

Seinem Schreibtisch gegenüber hängt eine vollgekritzelte Wandtafel. Die Idee für das Experiment kam als Geistesblitz und schickte sich gerade an, in Formeln und mathematischen Modellen Gestalt anzunehmen. Wenn die Massendatenanalyse, Big Data, Millionen Menschen, Maschinen und Betriebe datenmäßig erfassen und analysieren konnte, um ihr Verhalten maschinell zu manipulieren – wäre es dann nicht naheliegend, eine ganze Gesellschaft auf dieselbe Weise zu regeln?

Das bedeutet nichts weniger, als sich auf den Versuch einzulassen, Herrschaft für das 21. Jahrhundert neu zu denken.

Im vollständig digitalisierten Deutschland würden die Richtlinien der Politik nicht mehr von der Bundeskanzlerin bestimmt, sondern von einer intelligenten Maschine.

In anderen europäischen Ländern gäbe es keinen Premierminister mehr, sondern eine »Premiermaschine«.

Politische oder wirtschaftliche Entscheidungen, von denen die Zukunft einer Gesellschaft abhingen, würden von einer Künstlichen Intelligenz getroffen statt von Menschen. Getroffen oder wenigstens von einem digitalen Assistenten vorgeschlagen.

Das klingt völlig absurd, überlegt Scott. Doch als Technologe weiß er, das ist die Zukunft. Schon im Jahr 2016 hatte sich eine Stiftung dafür eingesetzt, den berühmtesten Supercomputer der Firma IBM, Watson, als Kandidaten für die amerikanischen Präsidentschaftswahlen aufzustellen.1 Im selben Jahr hatte die amerikanische Verkehrssicherheitsbehörde festgestellt: Auch ein Computer kann Autofahrer sein.2 Immer öfter schlüpfen Maschinen in die Rolle des Menschen. Niemand mehr kann sich sicher fühlen. Auch ein Politiker nicht.

»Einen Politiker kann man nicht automatisieren«, hatte vor Kurzem ein Finanzminister im Ruhestand erklärt. »Politiker entscheiden oft aus dem Bauch heraus.«

Weil der Mensch keine Flügel hat, wird er niemals fliegen. Weil die Erde unsere Mutter ist, werden wir niemals den Mars besiedeln. Weil eine intelligente Maschine kein Einfühlungsvermögen hat, wird sie keine guten Entscheidungen treffen.

Der Protest des Ministers hatte wie der reflexhafte Einwand jedes technologischen Laien geklungen. Doch wenn menschliche Urteilskraft nur deshalb nicht automatisiert werden könnte, weil der Mensch intuitiv handelte, wäre es niemals möglich, menschliche Entscheidungen maschinell zu optimieren. Dabei hat die Wissenschaft schon längst bewiesen, dass das Gegenteil möglich ist.

In der Technologiekritik des Ministers schwang Hoffnung mit, jene Hoffnung, dass der Mensch einzigartig sei. Und diese Hoffnung wurzelt tief in den Grundfesten der freiheitlich-demokratischen Gesellschaften Europas: Für sie ist die Einzigartigkeit des Menschen Gesetz.

Tatsächlich haben tausende Technologen weltweit Visionen und bauen an einer Zukunft der Menschheit, die so ganz anders sein wird, als es jede Vergangenheit der menschlichen Geschichte war. Maschinen, die bessere strategische Entscheidungen treffen als der Mensch, breiten sich aus. Forscher arbeiten fieberhaft daran, Menschen maschinell aufzurüsten oder Maschinen zu bauen, die dem Menschen mehr und mehr gleichen – mit intentionalem Bewusstsein und menschenähnlichem Körperbau. Etwa künstliche Äffchen, die »im Prinzip schon alles können, was ein Mensch kann, nur kann der Mensch mehr davon«3.

In »deutlich weniger als zehn Jahren«, so der Professor für Künstliche Intelligenz, Jürgen Schmidhuber, werde man »die mentalen Denk- und Abstraktionsfähigkeiten eines Kapuzineräffchens« nachgebaut haben.4 Die Entwicklung der Emulation, des imitierten Menschen, wäre dann nur noch ein kleiner, der nächste Schritt.

Scott hängt seinen Gedanken nach.

Die Bürger ahnen nicht, wie weit die Forschung fortgeschritten ist. Dass jeder von ihnen schon längst mit Künstlicher Intelligenz in Kontakt steht. Dass die qualitativen Verbesserungen ihrer Internetsuchen, der Spracherkennung, der Gesichtserkennung auf immer leistungsfähigeren Künstlichen Intelligenzen beruhen. Deren Vervollkommnung vollzieht sich geräuschlos, und die Rede von der Digitalisierung als der stillen Revolution geht um. Weil digitale Werbekampagnen lautstark dröhnen: »Sind Sie fit für den digitalen Wandel?« oder: »Lassen Sie sich nicht überholen!«, und: »Jetzt Führungskräfte vorbereiten!«, merken viele Bürger nicht, dass Wissenschaftler schon lange beharrlich an weitaus größeren Ideen arbeiten als an einer Digitalisierung, die nicht viel mehr zu sein scheint als das Betriebssystem des globalen Kapitalismus.

Dass Wissenschaft auch Politik macht, ist nicht neu. Die Atomphysiker des Manhattan-Projekts hatten alle Hände voll zu tun, am Atomgesetz zur Kontrolle atomarer Waffen mitzuarbeiten, bis es 1946 durch den 79. Kongress der Vereinigten Staaten ratifiziert wurde.5 Heute beraten Forscher die Politik in Fragen der Gesundheit oder zu Umwelt und Klima.

Man versteht besser, was man messen kann. Zum Beispiel das Wetter. Das Wetter ist ein geradezu unverdächtiger Untersuchungsgegenstand. Trotzdem wäre ich nur ungern Hurrikanforscher, lächelt Scott in sich hinein. Das Abenteuer wäre mir sprichwörtlich zu windig.

Sobald sich über dem Atlantik ein Wirbelsturm bildet, der die amerikanische Ostküste bedroht, steigen Sturmjäger in ein Forschungsflugzeug des U. S. Department of Commerce und begeben sich auf eine höchst gefährliche Mission. In wildem Ritt fliegen sie mitten in den Wirbelsturm hinein. Bevor sie das Auge des Sturms erreichen, werfen sie genau dort Sensoren und Messgeräte ab, wo die Rotationsgeschwindigkeit am höchsten ist: in der eye wall, der »Wolkenwand« rund um das Auge. Die Daten, die die Sensoren liefern, sind unbezahlbar. Sie werden gespeichert und analysiert. Wetterprognosen sagen Richtung und Stärke des Wirbelsturms voraus. So sind die Bewohner der Ostküste rechtzeitig gewarnt und können ihre Häuser auf den Sturm vorbereiten oder schlimmstenfalls evakuiert werden. Es sind die Datenanalyse und die Wetter- und Witterungssimulationen der Hurrikanforscher, die mithilfe ihrer Echtzeitinformationen und Warnungen über Rundfunk, Fernsehnachrichten oder neue Medien steuernd in die Gesundheit der Gesellschaft und die körperliche Unversehrtheit der amerikanischen Ostküstenbewohner eingreifen. Daten, Datenanalyse und Prognosen steuern hier nicht das Wetter selbst, sondern das Verhalten amerikanischer Bürger, und das durchaus zu ihrem Besten.

Weil Forscher viele Parallelen zwischen Naturphänomenen und sozioökonomischen Systemen sehen, gehen sie vor wie bei der Hurrikanforschung und haben begonnen, die Gesellschaft auf ähnliche Weise zu analysieren.

Viele der Sensoren, die menschliches Verhalten messen und aufzeichnen, sind auf Smartphones installiert. Smartphones sind Messgeräte, mit denen man auch telefonieren kann. Jemand hat sie vor gar nicht langer Zeit über unseren Köpfen abgeworfen, und wir nutzen sie, als gäbe es kein Morgen mehr. Dabei entstehen riesige Datenmengen, die dem, der sie analysiert, nicht nur Rückschlüsse auf jedes Individuum erlauben, sondern auch auf die Gesellschaft als Ganzes.

Seit der Jahrtausendwende haben Forscher enorme Fortschritte gemacht, Gesellschaften zu verstehen. Dabei hilft ihnen eine neue Forschungsdisziplin: die Komplexitätswissenschaft. Sie erklärt, wie sozioökonomische Systeme funktionieren. Sie hilft verstehen, wie sich eine Meinung in der Gesellschaft bildet; wie sich Epidemien über den Globus ausbreiten; wie sich die Bevölkerung in Städten entwickelt und wie die globalen Finanzmärkte funktionieren. Nicht nur Massendaten, auch leistungsfähige Rechner, enorme Speicherkapazitäten und die Weiterentwicklung von Computerprogrammen, den Algorithmen, haben der Komplexitätsforschung in nur wenigen Jahren einen gewaltigen Schub versetzt. Mancher Wissenschaftler wünscht sich bereits, mit den vorhandenen Daten eine Weltsimulation zu berechnen6, als Grundlage für die »richtigen« politischen Entscheidungen der Zukunft.

Genau das ist es, was Scott zum Ziel seines Experiments machen will. Scott wird die freiheitlich-demokratische Gesellschaft simulieren. Aber er geht noch einen Schritt weiter. In den Simulator seiner Gesellschaft setzt er eine Künstliche Intelligenz, damit sie lernen kann, die Gesellschaft politisch zu beeinflussen. Das wird zweifellos funktionieren. Andere Künstliche Intelligenzen lösen Aufgaben, die ähnlich schwierig sind. Auch Professor Schmidhubers künstliche Äffchen rücken jeden Tag ein Stückchen näher.

Schon heute könnten Wissenschaftler intelligente Assistenzsysteme bauen, die politische Handlungsempfehlungen unter Unsicherheit abgeben, ideologiefrei, gerecht und jenseits wirtschaftlicher Interessen zahlreicher Lobbyvertreter. Wer weiß, in welch rasantem Tempo sich unsere Umgebung aktiviert, und wer ahnt, dass wir unsere Welt schon bald mit intelligenten Maschinen teilen müssen, hält die Idee von der maschinellen Regierung nicht mehr für illusorisch.

Es ist also nichts weiter als die menschliche Hoffnung des altgedienten Finanzministers, dass Menschen intelligenten Maschinen stets überlegen blieben, schlussfolgert Scott.

Wenn man der Kunst der modernen Zukunftsprophetie, der Massendatenanalyse und ihren Künstlichen Intelligenzen, Glauben schenkt, ist die Zukunft nicht nur berechenbar, sondern aktiv gestaltbar. Die neuen Technologien verheißen unendliche Möglichkeiten der Erkenntnis und Vorhersage. Denn was dem Menschen bisher verborgen blieb, ist die Zukunft. Zukunftsschau bedeutet Macht. Wer die Zukunft vorhersagen konnte, zählte schon immer zu den Mächtigen der Welt. Denselben Machtanspruch haben auch die globalen Technologiegiganten. Ihre Ziele sind die Verhaltensprognose ihrer Anwender und die globale Konsumentensteuerung. Nur: Konsumenten sind auch Bürger, die Rechte haben. Deshalb ist das Ziel der globalen Steuerung von Menschen top down, undemokratisch »von oben herab«. Ob die betroffenen Bürger die Digitalisierung noch zum Besten wenden können, ist eine Schlüsselfrage des 21. Jahrhunderts.

Sowohl für die Simulation einer freiheitlich-demokratischen Gesellschaft als auch für einen künstlichen Entscheider wird Scott eine lernende Maschine einsetzen. Maschinen, die lernen können, sind bereits Gegenwart und nicht erst die Zukunft. Sie können mit einer hochkomplexen Umwelt, in der alles mit allem kommuniziert – dem Internet of Everything – besser hantieren als der Mensch. Denn sowohl die Informationsflut als auch die Menge der Interaktionen einer vernetzten Gesellschaft überfordern viele Menschen. Deshalb lassen sich Konsumenten bereitwillig von intelligenten Maschinen helfen. Kunden laden sich algorithmische Anlageberatungs-Apps auf ihre Smartphones oder lassen sich individuelle Konsumempfehlungen geben. Die Wirtschaft setzt intelligente Maschinen in der Industrie 4.0 ein, Versicherungen oder Kreditprüfer vertrauen auf das algorithmische Profiling ihrer Kunden und ersetzen Berufserfahrung und Menschenkenntnis durch die Wahrheit nackter Zahlen. Wer sich auf die Empfehlungen zunehmend intelligenter Maschinen verlässt, muss in einer Welt voller Optionalitäten und Risiken keine eigene Entscheidung mehr treffen. Umgebungsintelligenz nennen Forscher die Allgegenwart einer digitalen Umwelt, die für uns mit- und vorausdenkt.7 Maschinelle Entscheidungsstärke trifft auf menschliche Bequemlichkeit. In einer intelligenten Umgebung beurteilen und prognostizieren Maschinen menschliches Verhalten im Alltag, die Gesundheit, Kreditrisiken, das Konsum- und Wohnverhalten oder ob man ein »guter« Bürger ist. Sie machen den Sozialcheck mit ihren Anwendern. Weil sie so das Leben und das Verhalten der Menschen gründlich umbauen und neue gesellschaftliche Maßstäbe für den Alltag setzen, stellt sich prompt die Frage: Wer ist es, der in digitalen Zeiten herrscht? Müssen Wissenschaftler erst einen künstlichen Politiker entwickeln, oder verschieben sich die Herrschaftsverhältnisse schon heute langsam und unmerklich?

Die Frage, wie bewährte Strukturen und Konzepte der materiellen Welt, also etwa Selbstbestimmung und Demokratie, der lenkenden Kraft der digitalen Transformation widerstehen könnten, ist bis jetzt nur bruchstückhaft beantwortet. Vor allem anderen herrscht Ratlosigkeit.

Scott bleibt nachdenklich. Wenn guter Rat teuer ist, hält eine intelligente Maschine meist eine schlaue Antwort bereit.

Schon hat die Demokratie den Weg in die Kontrollgesellschaft eingeschlagen, und die Zahl algorithmischer Analysen, Prognosen und intelligenter Maschinen nimmt sprunghaft zu. Sie definieren den Menschen neu: Der freie, selbstbestimmte Mensch der Aufklärung vergreist, der digitalisierte Mensch, Homo informaticus, der selbst nicht mehr als eine neuro-biochemische Maschine ist, greift immer mehr um sich und verdrängt seinen Vorläufer rasch.8 Der Mensch als Maschine, selbst nicht mehr als eine Mathematik der Zahlen, ist die größte Herausforderung des Humanismus in der heutigen Zeit. Wäre der Mensch nichts als eine Maschine und die Gesellschaft nur ein Algorithmus unter vielen, man stieße früher oder später auf Optimierungspotenzial. Für den, der solches Potenzial entdeckt, ist das Ziel der gelenkten Gesellschaft dann nicht mehr nur Versuchung, sondern mathematisch logisch und begründbar. Aber ist Optimierung auch immer human?

Wenn guter Rat teuer ist, geh und frag Ai.

Ai ist ein weiblicher Vorname japanischer Herkunft und bedeutet »Liebe«. Ai ist gleichzeitig das Akronym für artificial intelligence, »Künstliche Intelligenz«. Ai ist Scotts größtes Experiment und konkretes Projekt. Ai ist die intelligente Maschine, die den Zustand der freiheitlich-demokratischen Gesellschaften Europas analysieren und prognostizieren soll, um einen politischen Unfall Europas durch ihre proaktive Steuerung zu verhindern. Von Ai verspricht sich Scott Erkenntnis darüber, ob der Mensch auch nach Vollendung der digitalen Transformation Mensch bleiben kann, statt ultimative Maschine zu sein, wie die Internetgiganten aus Silicon Valley ihren Anwendern einreden wollen.

Dafür tut Ai dasselbe, das von jeder anderen maschinellen Intelligenz der digitalen Ära erwartet wird: Daten sammeln, die Daten zu einer Lageanalyse aufbereiten, Vorhersagen berechnen und Entscheidungen treffen. Ai soll ein strategisch sinnvolles Vorgehen erlernen, das eine freiheitliche Gesellschaft gegen antidemokratische Fliehkräfte abhärten kann, weil Scott eine Hypothese hat, vielleicht nur einen Traum: Auch die Gesellschaft in der digitalen Transformation hat Handlungsoptionen, bei denen europäische Werte wie Demokratie und Rechtsstaatlichkeit, die eingebettet sind in die Freiheitsrechte der Bürger, gewahrt bleiben. Es gibt Wege der digitalen Entwicklung, die die Ehrfurcht vor dem Menschen erhalten, seinen persönlichen Lebensentwurf respektieren und die Technik dem Menschen unterordnen, ohne ihr kulturelles Entwicklungspotenzial zu schmälern.

Diese Optionen könnten völlig absurd sein, denkt Scott.

Ai könnte vorschlagen, ein superintelligentes künstliches Raubtier zu erschaffen, um jene Apps, Algorithmen, Roboter und Künstlichen Intelligenzen unschädlich zu machen, die geeignet sind, die Natur des Menschen zu verwunden oder zu zerstören. Doch wer ist Mensch, wer nicht? Eine Auswirkung der Digitalisierung war die bereits fühlbare Auflösung der Grenze zwischen Mensch und Maschine, die sogenannte »Mensch-Maschine-Unschärfe«. Schon in wenigen Jahrzehnten würden Maschinen dem Menschen immer ähnlicher sein. Ab wann müsste man Maschinen Rechte zugestehen? Welche Voraussetzungen müssten erfüllt sein, damit intelligente Maschinen wie Haustieren zu behandeln wären, als Mitgeschöpfe statt als Sachen?

Scott schüttelt fast unmerklich den Kopf. In jedem Fall wird uns nur die Fähigkeit, moralisch zu handeln, vor dem digitalen Desaster schützen, grübelt er.

Die digitale Entwicklung ist kein Automatismus. Die Menschen schaffen sie selbst mit der ihr eigenen menschlichen Intelligenz und Kreativität. Weder Weg noch Ziel der digitalen Transformation sind zwangsläufig. Wissenschaftler beanspruchen gerne die Freiheit der Wissenschaft, die bar jeder Moral und losgelöst von den Beschränkungen ethischer Überlegungen sein soll; nur so sei gesichert, dass Entdeckungen, wo wissenschaftlich möglich, in den Tiefen und Weiten der Strukturen der Welt auch zufällig gemacht werden können.9 Dabei ist es gerade der Topos von der verantwortungsvollen Wissenschaft, mit dem Forscher seit der Entdeckung der Kernspaltung vor über achtzig Jahren immer wieder konfrontiert sind. Wissenschaftler des Gewissens gibt es viele. Albert Einstein, der Präsident Roosevelt brieflich empfohlen hatte, eine Atombombe zu entwickeln, sagte später: »Wenn ich gewusst hätte, dass die Deutschen nicht mit Aussicht auf Erfolg an der Atomwaffe arbeiten, hätte ich nichts für die Bombe getan.«10

Leó Szilárd, sein Schüler und Mitwirkender am Manhattan-Projekt, wandte sich nach dem Bau der Atombombe gegen ihren Einsatz und bat Präsident Truman am 17. Juli 1945: »Wir, die Unterzeichner dieser Petition, bitten Sie, den Oberbefehlshaber der Streitkräfte der Vereinigten Staaten, in diesem Krieg auf den Einsatz der Atombombe zu verzichten (…) und den Gebrauch der Bombe im Lichte moralischer Verantwortung zu erwägen.«11

Oder Joseph Weizenbaum, ein Vordenker der Künstlichen Intelligenz, der zu einem ihrer größten Kritiker wurde: Bis ins hohe Alter und bis kurz vor seinem Tod 2008 warnte er vor den gesellschaftlichen Folgen der Mensch-Maschine-Unschärfe und forderte »Bescheidenheit und Respekt für das Leben« von den Schöpfern Künstlicher Intelligenz.12

Dieselben Forscher sind es auch, denen zuerst auffällt, dass ihre Künstlichen Intelligenzen gesellschaftliche Folgen nach sich ziehen werden.13 Technologen sind immer die Ersten, die wissen können, wie hoch das gesellschaftliche Risiko ihres neuen Systems ist. Eine Künstliche Intelligenz kann die Gestalt eines Kuscheläffchens annehmen oder Frankensteins Monster werden. Wenn es die Entwickler Künstlicher Intelligenz in ihrer Begeisterung über die Leistungsfähigkeit ihrer Schöpfung versäumen, in Künstliche Intelligenzen Regeln einzubetten, die der Gesellschaft dienen, statt ihr zu schaden, könnte sich die Hoffnung, dass ein digitaler Assistent politische Entscheidungen zum Wohl einer Gesellschaft trifft, genauso zerschlagen wie die verfrühte Begeisterung über das Internet, deren Anwender wenige Jahre lang glaubten, es garantiere automatisch mehr Demokratie. Was das Internet angeht, ist die Euphorie inzwischen verflogen. Eine digital vernetzte Gesellschaft, die nicht nur von kommerziellen Internetgiganten, sondern auch von staatlichen Geheimdiensten auf Schritt und Tritt überwacht wird, wenn sie das Internet benutzt, ist nicht mehr, sondern weniger selbstbestimmt. Sie besitzt nicht mehr, sondern weniger bürgerliche Freiheiten. Die Anwender büßen Privatsphäre ein und verlieren Einfluss auf ihr Leben in dem Maße, in dem sie die Kontrolle über ihre persönlichen Daten und ihre Selbstbestimmtheit abgeben.

Wir werden jeden Moment an die Wissenschaftler des Gewissens denken, wenn wir Ai einsetzen, sagt Scott im Stillen zu sich selbst.

Von Ai erhofft er sich eine Antwort darauf, ob man die Digitalisierung humanisieren kann. Ai kann Akteurin einer digitalen demokratischen Gesellschaft werden oder Hilfsmittel bleiben und nicht viel mehr sein als Prognosewerkzeug und mathematische Krücke für das Verständnis der digitalen Gesellschaft. Doch im Verlauf seines Experiments wird Scott immer besser verstehen, wie mathematische Mechanik in das menschliche Dasein eingreift – und warum die Mischung aus Hybris und Gleichgültigkeit die digitale Transformation zu einem Instrument macht, das nicht weniger gefährlich ist als die Kernspaltung der Atombombe.

Ab jetzt beginnt die Arbeit an der Antwort.

DIE UNVERSTANDENE REVOLUTION

Wie das digitale Jahrhundert die Grundlagen für die Künstliche Intelligenz schafft: Was Digitalisierung ist und wie wir sie einsetzen.