Fernand Braudel, Die Dynamik des Kapitalismus. Klett-Cotta 1986.

https://www.economist.com/business/2014/10/04/philosopher-kings

Paul Valéry, Le Bilan de l’intelligence [1935]. Allia 2016.

Gottfried Wilhelm Leibniz, Nova methodus pro maximis et minimis, 1668.

Zur Geistesgeschichte der KI vgl. Martin Davis, The Universal Computer. W.W. Norton 2000.

Isaiah Berlin hat in seinen Ausführungen zum Werk John Stuart Mills die schöne Formel des »Rechts auf Irrtum« geprägt.

Das war das Ergebnis des Colloque Walter Lippmann von 1938, das zu einem wichtigen Bezugspunkt des Neoliberalismus der Nachkriegszeit wurde. Zu diesem historischen Punkt vgl. Serge Audier / Jurgen Reinhoudt, Neoliberalismus – Wie alles anfing: Das Walter Lippmann Kolloquium. kursbuch.edition 2019.

So bezifferte beispielsweise der Policy Hub des CEPR (Center for Economic Policy Research, mit Sitz in London) 2017 die Quote der Einführung der KI nach Sektoren, von 42 % in der Telekommunikation bis hin zu 18 % in der Tourismusindustrie.

Für rudimentäre Begriffsdefinitionen zum machine learning, teilweise auch auf Deutsch, vgl. https://developers.google.com/machine-learning/glossary/

Rob High, The Era of Cognitive Systems: An Inside Look at IBM Watson and How It Works. IBM Corporation, Redbooks 2012.

John McCarthy erfand den Terminus 1955. Im darauffolgenden Jahr legte die berühmte Konferenz am Dartmouth College das Fundament für die KI als akademische Disziplin.

Für eine kurze Einführung vgl. Michael Wooldridge, Artificial Intelligence. Penguin 2018.

Zu dieser Klassifikation vgl. Aurélien Géron, Praxiseinstieg Machine Learning mit Scikit-Learn und TensorFlow: Konzepte, Tools und Techniken für intelligente Systeme. O’Reilly 2018.

Vgl. Richard Sutton, The Bitter Lesson, 13. März 2019.

Kant hat diesen Prozess unter dem Terminus der »Subsumtion« beschrieben.

ami.withgoogle.com

Natural Language Processing, ein hochgeschätzter Bereich der KI, der dem Computer den Umgang mit Sprache beibringt. Über das Führen von Dialogen hinaus, umfassen Techniken des NLP auch Zusammenfassung, Übersetzung, das Extrahieren von Informationen, die Textherstellung, das Beatworten von Fragen usw.

Ein Chatbot ist ein »Sprachassistent«, der in der Lage ist, einen menschlichen Gesprächspartner nachzuahmen (schriftlich oder mündlich). Man findet Chatbots besonders häufig im Online-Kundenservice. Wer ist noch nicht im Gespräch mit dem Chatbot eines Telefonanbieters, der sich beharrlich weigert, die Feinheiten unserer Situation zu verstehen, wahnsinnig geworden?

John Searle, Minds, Brains, and Programs. In: Behavioral and Brain Sciences, Vol. 3, No. 3, 1980.

Garry Kasparov, Deep Thinking. Where Machine Intelligence Ends and Human Creativity Begins. Public Affairs 2017.

Edgar Allan Poe, Maelzel’s Chess Player. In: The Southern Literary Messenger, Vol. 2, No. 5, 1836.

Vgl. Douglas Hofstadter, Die FARGonauten. Über Analogie und Kreativität. Klett-Cotta 1996, vor allem das vierte Kapitel, in dem »Eliza«, einer der ersten Chatbots, beschrieben wird.

Diese Argumentation wurde von Mike Elgan entwickelt, einem Forscher im Technology Department der University of Missouri.

Noel Sharkey, The Evitability of Autonomous Robot Warfare. In: International Review of the Red Cross, Vol. 94, No. 886, 2012.

Der berühmte Kosmologe verkündete im November 2017 beim Web Summit in Lissabon, dass die KI »das schlimmste Ereignis in der Geschichte unserer Zivilisation« werden könnte. In der Folge wies er in zahlreichen Interviews und Artikeln auf die Unmittelbarkeit der Gefahr hin.

Forscher vom MIT haben entsprechend die Nachbildung einer Schildkröte in 3-D erdacht, die für das menschliche Auge wunderbar zu erkennen ist, sie allerdings mit subtilen »gegenläufigen Störungen« (Motiven, Farben usw.) versehen, sodass die KI die Schildkröte mit einem Gewehr verwechselt hat!

Stuart Russell / Peter Norvig, Künstliche Intelligenz. Ein moderner Ansatz [1995]. 3., aktualisierte Auflage, Pearson 2012.

Eine solche Hypothese wird detailverliebt von Max Tegmark als Einleitung seines Buches Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz. Ullstein 2019, ausgebreitet, vgl. das Präludium »The Tale of the Omega Team«.

Eher unwahrscheinlich: Wissenschaftlern gelingt es heute noch nicht, eine genaue Kopie des Gehirns eines Fadenwurms, Caenorhabditis elegans, zu erzeugen, obwohl es aus nur 302 Neuronen besteht.

Das ist die Argumentation von Gary Marcus, Psychologieprofessor an der New York University und KI-Spezialist, beispielsweise in seinem Artikel »Artificial Intelligence Is Stuck« (New York Times, 29. Juli 2017).

Das »symbol grounding problem«: Die KI vermag die Symbole, die sie unablässig hervorbringt, nicht in der korrespondierenden Realität zu verankern. Sie findet sich unfähig, wie im Experiment des Chinesischen Zimmers, Sinn zu produzieren.

Bostrom nennt das »perverse instantiation«, die Philosophen der KI beschreiben es in einem weiteren Sinne als die Frage des »goal-alignement«.

Ganz besonders in dieser Passage, die einem den Atem verschlägt: »One can speculate that the tardiness and wobbliness of humanity’s progress on many of the ›eternal problems‹ of philosophy are due to the unsuitability of the human cortex for philosophical work« (sic).

Tegmark verfolgt diese Illusion bis zum Ende, indem er das Konzept der »substrate independence« aufstellt: Unser Bewusstsein wäre eine einfache agency, ein von aller materiellen Substanz unabhängiges Netzwerk, das also in unzähligen Formen reproduzierbar wäre.

Vgl. etwa D. Jirak / M.M. Menz / G. Buccino / A.M. Borghi / F. Binkofski, Grasping Language. A Short Story on Embodiment. In: Consciousness and Cognition, Vol. 19, No. 3, 2010.

Und ganz besonders sein letztes Werk, Im Anfang war das Gefühl. Der biologische Ursprung der menschlichen Kultur. Siedler 2017.

Antonio Damasio, Der Spinoza-Effekt. Wie Gefühle unser Leben bestimmen. List 2003.

Baruch de Spinoza, Ethik, Buch 2, Lehrsatz VII, Anmerkung.

Der grundlegende Aufsatz zu diesem Thema: Jean-François Bonnefon / Azim Shariff / Iyad Rahwan, The Social Dilemma of Autonomous Vehicles. In: Science, Vol. 352, No. 6293, Juni 2016.

Nach dem Muster des »trolley problem«, das Philippa Foot in den 1960er-Jahren formulierte.

Das berühmte »hard problem«, das der Philosoph David Chalmers gesetzt hat und zu dem es heute keinerlei Konsens gibt.

Baruch de Spinoza, Ethik, Buch 2, Lehrsatz XXIII.

Baruch de Spinoza, Ethik, Buch 3, Lehrsatz II, Anmerkung.

Vgl. Matej Hoffmann / Rolf Pfeifer, The Implications of Embodiment for Behavior and Cognition: Animal and Robotic Case Studies. In: Wolfgang Tschacher / Claudia Bergomi (Hg.), Implications of Embodiment, Imprint Academic 2012.

https://www.ibmbigdatahub.com/blog/embodied-cognition-future-ai

Gilles Deleuze, Logik des Sinns, 12. Serie: Über das Paradox.

Die Begegnung basiert auf dem Discours de la méthode, der Abhandlung De homine sowie Les Passions de l’âme.

Gaspard Kœnig, Voyages d’un philosophe aux pays des libertés. Éditions de l’Observatoire, 2018, vgl. das Kapitel über das Grundeinkommen.

Ebenso wie die »unsichtbare Hand«, die nur zweimal, in einem Nebensatz, im Werk Adam Smiths vorkommt, so gilt auch der »kreativen Zerstörung« nur ein Einschub einiger Seiten in einem Spätwerk Schumpeters, Kapitalismus, Sozialismus und Demokratie. Man muss sich vor Schlagworten hüten, die Nachwelt könnte ein Schelm sein.

Die Titel der Berichte sprechen für sich selbst: In Defense of Robots (April 2017), False Alarmism: Technological Disruption and the US Labor Market (Mai 2017), The Future of Work (Dezember 2018) usw.

Daron Acemoglu / Pascual Restrepo, The Race Between Man and Machine. Implications of Technology for Growth, FactorShares and . In: American Economic Review, Vol. 108, No. 6, 2018.

Edward Alden, The Work Ahead. The Council of Foreign Relations, April 2018.

The Future of Jobs Report, World Economic Forum 2018.

David H. Autor, Polanyi’s Paradox and the Shape of Employment Growth. National Bureau of Economic Research 2014.

Diese Methode des Natural Language Processing wird von dem Wissenschaftler Jim Glass entwickelt, der es sich zum Ziel gemacht hat, die Übersetzungsprogramme zwischen den 7000 Sprachen, die auf der Welt noch gesprochen werden, zu verbessern.

James Bessen, AI and Jobs: The Role of Demand. Boston University School of Law, Law and Economics Research Paper 2017.

Man denke an den spektakulären Burn-out Musks im Sommer 2018, der ihn die Tesla-Präsidentschaft gekostet hat.

Wie Oren Etzioni, der Chef des Allen Institute for Artificial Intelligence, sagt: »Einer der Gründe, warum ich die Diskussionen über Superintelligenz nicht mag, ist der, dass sie von dem ablenken, was wirklich ist.«

»Lindas Paradox«, das einen wichtigen Platz in Talebs Antifragile einnimmt, ist aus den Forschungen Kahnemans geborgt.

In seinem Buch Deep Thinking (Public Affairs 2017), in dem er seine Niederlage gegen Deep Blue nachzeichnet und aus ihr allgemeinere Schlüsse über die Technologie zieht.

Daniel Kahneman, Schnelles Denken, langsames Denken. Siedler 2012. Die folgenden Zitate sind Auszüge aus diesem Werk.

Nudge ist auch der Titel des programmatischen Buches, das Richard Thaler gemeinsam mit dem Juristen Cass Sunstein geschrieben hat. Das Konzept des »nudge« ist derart zentral für das Verständnis der Mechanismen der KI, dass ich mir erlauben werde, es aus dem Englischen zu borgen.

Diese Furcht teilt etwa auch der Schriftsteller Marc Dugain in seinem Buch L’Homme nu. La dictature invisible du numérique (Plon 2016), das allerdings etwas nuancierter sein könnte.

Beispielsweise in seinem Buch Denken: Wie das Gehirn Bewusstsein schafft (Knaus 2014), besonders im Kapitel »Die Zukunft des Bewusstseins«.

Vgl. Sam Harris, Free Will. Free Press Paper 2012.

Vgl. Shoshana Zuboff, Das Zeitalter des Überwachungskapitalismus. Campus 2018.

Dominique Cardon, À quoi rêvent les algorithmes. Nos vies à l’heure des big data. Seuil, 2015.

In seinem Hauptwerk Le Système technicien (1977) nimmt Ellul die Technik als eine Totalität in den Blick, in Bezug auf welche jegliche Exteriorität unmöglich wird. Er schreibt: »Der Mensch in unserer Gesellschaft verfügt über keinerlei intellektuellen, moralischen oder spirituellen Bezugspunkt, von dem aus er die Technik beurteilen und kritisieren könnte.«

Jaron Lanier, Zehn Gründe, warum du deine Social Media Accounts sofort löschen musst. Hoffmann und Campe 2018.

Jaron Lanier, Wem gehört die Zukunft? Du bist nicht der Kunde der Internetkonzerne. Du bist ihr Produkt. Hoffmann und Campe 2014.

Die Tendenz des Internets, jeden in seinen eigenen Meinungen einzuschließen, ist bereits breit erforscht worden, beispielsweise von Cass Sunstein (sein Buch Republic.com 2.0 bietet eine der ersten Beschreibungen von »Echokammern«) oder Eli Pariser (die den Begriff der »Filterblasen« geprägt hat).

Facebook hat sich übrigens in einer Studie, die einen Skandal auslöste, damit gerühmt, die Emotionen der Nutzer durch die Reihenfolge der Posts, die auf ihrem Profil erscheinen, manipulieren zu können.

Elanor Colleoni / Alessandro Rozza / Adam Arvidsson, Echo Chamber or Public Sphere? Predicting Political Orientation and Measuring Political Homophily in Twitter Using Big Data. In: Journal of Communication, Vol. 64, No. 2, 2014.

Falls Sie Ihren eigenen Suchtgrad messen möchten, haben Forscher eine »Facebook Addiction Scale« entwickelt, einen online verfügbaren Fragebogen.

Hippocampal and Prefrontal Processing of Network Topology to Simulate the Future, eine Studie von acht Forschern, die im Referenzorgan Nature 2017 veröffentlicht wurde.

Die sogenannten BATX (Baidu, Alibaba, Tencent, Xiaomi), das Gegenstück der amerikanischen GAFA (Google, Amazon, Facebook, Apple).

Besonders durch den Übergang vom »ranking«, das auf im Vorfeld fixierten Regeln beruhte, zum »matching«, das auf deep learning basiert.

Dataclysm. Who We Are When We Think No One’s Looking, von Christian Rudder, dem Mitgründer von OkCupid.

https://www.facebook.com/notes/mark-zuckerberg/building-global-community/10154544292806634, Februar 2017.

Das ist die These von Ajay Agrawal, Joshua Gans und Avi Goldfarb in ihrem Buch Prediction Machines. The Simple Economics of Artificial Intelligence (Harvard Business Review Press 2018), das im Valley sehr beliebt ist und mir unter anderem von Hal Varian, dem Chefökonomen von Google, angepriesen wurde.

Auf Deezer finden man drei seiner Inventionen für Klavier unter dem beredten Titel »Bach by Design« sowie einige Originalkompositionen.

David Cope, The Algorithmic Composer. A-R Editions 2000.

Michael Edwards, Algorithmic Composition: Computational Thinking In Music. In: Communications of the ACM, Vol. 54, No. 7, 2011. Sehr beliebt unter Musikern war im 18. Jahrhundert das sogenannte Würfelspiel, eine Art verfrühtes »automatisches Schreiben«. Die Komponisten warfen die Würfel und schrieben die Folge der Noten auf.

Das Porträt Edmond de Belamy des Kollektivs Obvious, für das 15000 Porträts in ein neuronales Netzwerk eingespeist wurden. Wie wir im ersten Kapitel gesehen haben, reicht das Werk nicht an den »Begriff« des Porträts heran und ist nichts als eine verschwommene Skizze, nicht sehr überzeugend.

Richard Evans et al., De Novo Structure Prediction With Deep-learning Based Scoring. In: CASP 13, 2018.

Entsprechend kann man nie zu 100 % sicher sein, dass »morgen die Sonne wieder aufgeht«. Wir können physikalische Gesetze nur aus der Tatsache deduzieren, dass sie sich bisher an jedem Tag wieder erhoben hat, seit der Mensch die betreffende Beobachtung anstellt.

Vgl. etwa Cristian S. Calude / Giuseppe Longo, The Deluge of Spurious Correlations in Big Data. In: Foundations of Science, Vol. 22, No. 3, 2017.

Kristoffer Stensbo-Smidt / Fabian Gieseke / Christian Igel / Andrew Zirm / Kim Steenstrup Pedersen, Sacrificing Information for the Greater Good: How to Select Photometric Bands for Optimal Accuracy. In: Monthly Notices of the Royal Astronomical Society, Vol. 464, No. 3, 2016.

Vgl. Hongyao Ma / Fei Fang / David Parkes, Spatio-Temporal Pricing for Ridesharing Platforms. In: TSMO 18, Februar 2018. Die Forscher zeigen den ökonomischen Vorteil des dispatch gegenüber einem System der Anreize. Diese Art und Weise, das Wohlergehen eines jeden zu optimieren, funktioniert nur unter der Annahme einer vollständig verfügbaren Information.

Vgl. Friedrich August Hayek, Recht, Gesetz und Freiheit. Mohr-Siebeck 2003.

Friedrich August Hayek, Der Weg zur Knechtschaft. Rentsch 1943.

Hayek entwickelt diesen Gedankengang in einem 1945 für die American Economic Review geschriebenen Artikel mit dem Titel The Use of Knowledge in Society.

Donald H. Berman / Carole D. Hafner, The Potential of Artificial Intelligence to Help Solve the Crisis in Our Legal System. In: Communications of the ACM, Vol. 32, No. 8, 1989. Die KI wird eingesetzt, um durch die Analyse der Gesetzgebung und Rechtsprechung die juristische Entscheidungsfindung zu beschleunigen.

Julia Dressel / Hany Farid, The Accuracy, Fairness, and Limits of Predicting Recidivism. In: Science Advances, Vol. 4, No. 1, 2018.

Accountability, Responsibility and Transparency (ART). Vgl. beispielsweise Virginia Dignum, Responsible Artificial Intelligence: Designing AI for Human Values, September 2017.

Shai Danziger / Jonathan Levav / Liora Avnaim-Pesso, Extraneous Factors in Judicial Decisions. In: Proceedings of the National Academy of Sciences, Vol. 108, No. 17, 2011.

Vgl. Cesare Beccaria, Dei delitti e delle pene (Von den Verbrechen und von den Strafen, 1764), ganz besonders das Kapitel 4: »Richter haben keinerlei Recht, die Strafgesetze auszulegen, weil sie selbst keine Gesetzgeber sind.«

»Loss of agency«, eine schwer zu übersetzende Formulierung.

Trotz zahlloser Nachfragen und trotz eines Kontaktes, der bereit war, mit mir zu reden, untersagte die Abteilung für Kommunikation des LAPD jedes Gespräch. Ich musste mich also damit zufriedengeben, mit seinen Gegnern zu sprechen, wie wir in Kapitel 6 sehen werden.

Vgl. etwa David Vladeck, Machine Without Principals. Liability Rules and Artificial Intelligence. In: Washington Law Review, Vol. 89, No. 1, 2014.

Diese Annahme ist grundlegend für das europäische, aber auch das amerikanische Recht, wie eine Entscheidung des Obersten Gerichtshofes von 1952 (Morissette v. United States) zeigt: »[Personal intentionality] is as universal and persistent in mature systems of law as belief in freedom of the human will and a consequent ability and duty of the normal individual to choose between good and evil.«

Für eine präzise Typologie der verschiedenen Typen algorithmischer Verzerrung vgl. Algorithmic Bias in Autonomous Systems von David Danks und Alex John London, 2017.

Der »Holberton-Turing-Eid«, eine ethische Grundsatzerklärung, die von zwei Informatikerinnen aufgestellt wurde, beginnt mit folgenden Worten: »Ich werde die höchste Achtung vor jedem menschlichen Leben beobachten. Ich werde es nicht erlauben, dass Gedanken an Alter, Krankheit oder Behinderung, Glaube, Herkunft, Gender, Nationalität, politische und religiöse Überzeugung, Rasse, sexuelle Orientierung, sozialen Stand oder andere Faktoren meiner Pflicht im Wege stehen.«

Die afroamerikanische Forscherin Joy Buolamwini wurde zum Opfer eines solchen Irrtums. Sie konnte zeigen, dass der Roboter sie besser erkennt, wenn sie eine weiße Maske trägt. Vgl. Joy Buolamwini / Timnit Gebru, Gender Shades. Intersectional Accuracy Disparities in Commercial Gender Classification. In: Conference on Fairness, Accountability and Transparency, 2018.

Haibo He / Edwardo A. Garcia, Learning From Imbalanced Data. In: IEEE Transactions on Knowledge & Data Engineering, No. 9, 2008. Die Autoren rekapitulieren die verschiedenen Methoden, die es erlauben, signifikative Ergebnisse für die unterrepräsentierten Gruppen eines Datensatzes zu erzielen.

Gillian Tan / Katia Porzecanski, Wall Street Rule for the #MeToo Era: Avoid Women at All Cost. Bloomberg, 3. Dezember 2018. Dieser Artikel zeigt die negativen Auswirkungen der #MeToo-Bewegung auf die Beförderung von Frauen.

Society for Human Ressource Management 2018, Harassment-Free Workplace Series: The Executive View Topline Report. Die interviewten Männer erklären, dass sie es vermeiden, »mit Frauen zu sprechen« und »sich mit einer Frau in einem geschlossenen Raum aufzuhalten«, oder darauf achten, »zu Frauen mindestens einen Meter auf Abstand zu gehen«.

In theoretischer Hinsicht markiert dieses Umschwenken den Übergang von einer europäischen Auffassung der KI, wie sie unter anderem von der Max-Planck-Gesellschaft verteidigt wird und in der der Algorithmus an unser tatsächliches Verhalten angepasst sein muss, um eine Art von natürlicher Evolution zu reproduzieren, hin zum Ansatz der amerikanischen Schule (etwa der Harvard Business School), die von der KI fordert, unsere Entscheidungen wieder rationaler zu machen. Auf diese Unterscheidung hat mich die Forscherin Julia Puaschunder, der wir schon begegneten, hingewiesen.

So diskutierte man beispielsweise en détail die Erträge, die die königlichen Manufakturen abwarfen.

Thomas Fletcher, The Naked Diplomat. Understanding Power and Politics in the Digital Age. William Collins 2017.

So schloss Facebook etwa im Mai 2018 die Seite der »Identitären«, einer rechtsextremen Organisation, die gewiss verachtenswert ist, aber in keiner Weise illegal.

Diese Idee, die zur Eröffnung des 13. Internet Governance Forum im November 2018 entwickelt wurde, soll zusammen mit Facebook »ausprobiert« werden, um »gegen Hasskommentare zu kämpfen«.

Vgl. etwa Robert D. Atkinson, The Location Privacy Protection Act of 2014. Dieser Bericht wurde im Juni 2014 dem Senate Judiciary Subcommittee on Privacy, Technology and the Law vorgelegt.

Vgl. beispielsweise für den Finanzsektor Alain Clot, L’économie numérique à l’assaut de la finance. In: Annales des Mines – Réalités industrielles, Vol. Februar 2019, No. 1, 2019.

Vgl. Hila Mehr, Artificial Intelligence for Citizen Services and Government. Harvard Ash Center Technology and Democracy Fellow, August 2017: »Wenn auch die aktuellen Anwendungen der KI im Bereich der Politik noch hinter den Anwendungen im privaten Bereich zurückbleiben, so sind die Einsatzgebiete doch vergleichbar.«

Alexis de Tocqueville, Über die Demokratie in Amerika, 2. Band, 2. Teil, 14. Kapitel.

Besonders in seinem Erfolgsbuch Der Zerfall der Demokratie. Wie der Populismus den Rechtsstaat bedroht. Droemer 2018.

Ich habe versucht, ihn auf meine Art zu interpretieren, vgl. Gaspard Kœnig, Leçons sur la philosophie de Gilles Deleuze. Ellipses 2013.

Zum Zusammenhang von deleuzianischem Rhizom und digitalen Werkzeugen vgl. (um mich nicht zu wiederholen) eines meiner älteren Bücher: Le Révolutionnaire, l’expert et le geek (Plon 2015), besonders das Kapitel »Quand le réseau devient rhizome«.

Gilles Deleuze, Logik des Sinns, 15. Serie: Von den Singularitäten.

Besonders von Luc Ferry und Alain Renault, die darin in ihrem Essai La Pensée 68 eine Form von »Antihumanismus« ausmachten.

Gilles Deleuze, Postskriptum über die Kontrollgesellschaften. In: Ders., Unterhandlungen. 1972–1990. Suhrkamp 1993.

Diese Bewegung habe ich im letzten Teil von Le Révolutionnaire, l’expert et le geek beschrieben und sie mit Borges’ Novelle Das unerbittliche Gedächtnis in Beziehung gesetzt.

Martin Chorzempa / Paul Triolo / Samm Sacks, China’s Social Credit System. A Mark of Progress or a Threat to Privacy? In: PIIE, Juni 2018.

So rühmt Niall Ferguson etwa in seinem Buch Der Westen und der Rest der Welt. Die Geschichte vom Wettstreit der Kulturen (Propyläen 2011) die sechs »Killerapplikationen« des Westens: Wettbewerb, Wissenschaft, Eigentum, Medizin, Konsum und Arbeitsmoral.

Vgl. beispielsweise den im MIT Sloan Management Review erschienenen Aufsatz Lessons From China’s Digital Battleground von Shu Li, François Candelon und Martin Reeves, Sommer 2018.

Für eine nuanciertere Analyse der Kapazitäten Chinas bezüglich der technologischen und kommerziellen KI-Entwicklung vgl. den Bericht des Future of Humanity Institute in Oxford, Deciphering China’s AI Dream, von Jeffrey Ding, März 2018.

Später las ich in einem Interview, dass nach Kai-Fu Lees Einschätzung Europa bereits aus dem Spiel um die KI ausgeschieden ist. Nicht einmal eine Bronzemedaille. Unbedeutend, überholt, im Todeskampf begriffen.

Ma Huateng, China auf Knopfdruck: Mobiles Internet und soziale Transformationen in einem aufstrebenden Land. Europäischer Universitätsverlag 2020.

Die Ursachen für dieses Phänomen sind unter Historikern immer noch ein Diskussionsgegenstand. Vgl. etwa Kenneth Pomeranz, The Great Divergence. Princeton University Press 2000.

Vgl. etwa den vielbeachteten Essay des New-Yorker-Korrespondenten Evan Osnos, Age of Ambition. Chasing Fortune, Truth, and Faith in the New China, FSG, 2014.

Gaspard Kœnig, Les Aventuriers de la liberté. Plon 2016.

Diese kaum politisch korrekte Definition findet sich in Joseph Alois Schumpeters Theorie der wirtschaftlichen Entwicklung, im Kapitel »Das Grundphänomen der wirtschaftlichen Entwicklung«.

Diese unausweichlich gewordene Formulierung geht auf Dan Senor und Saul Singer und ihr Buch Start-up Nation Israel. Was wir vom innovativsten Land der Welt lernen können (Hanser 2012) zurück.

Der sogenannte »attention mechanism«, der die Vorhersagekapazität verbessert.

Vgl. etwa Engin Bozdag, Bias in Algorithmic Filtering and Personalization. In: Ethics and Information Technology, Vol. 15, No. 3, 2013.

Über die Verbreitung von Verschwörungstheorien durch den »Schneeballeffekt« vgl. Michela Del Vicario et al., The Spreading of Misinformation Online. In: Proceedings of the National Academy of Sciences, Vol. 113, No. 3, 2016.

Philippe Aghion / Benjamin Jones / Charles Jones, Artificial Intelligence and Economic Growth, National Bureau of Economic Research 2017.

Paul Claudel, »Visite«, in: Connaissance de l’Est, Mercure de France 1900.

Diese Argumentation wurde von Lutfey Siddiqi entwickelt, Professor an der London School of Economics, vgl. Confronting the macroeconomic challenges of the fourth industrial revolution. In: LSE Business Review 2018.

Dieses Phänomen wurde von Finbarr Livesey, einem Geopolitikforscher in Cambridge, studiert, vgl. From Global to Local. The Making of Things and the End of Globalisation. Pantheon 2017.

Nicolas Miailhe, Géopolitique de l’intelligence artificielle. Le retour des empires? In: Politique étrangère, No. 3, 2018.

Baruch de Spinoza, Ethik, Buch 5, Lehrsatz IV, Anmerkung.

Niemals um eine griffige Formel verlegen nennt Taleb dieses Phänomen den »fooled by data effect«.

Vgl. Ugo Bardi / Sara Falsini / Ilaria Perissi, Toward a General Theory of Societal Collapse. A Biophysical Examination of Tainter’s Model of the Diminishing Returns of Complexity. In: Biophysical Economics and Resource Quality, Vol. 4, No. 1, 2019.

Kenneth O. Stanley, Why Greatness Cannot Be Planned. The Myth of the Objective. Springer 2015.

Vgl. etwa das bereits genannte Prediction Machines von Ajay Agrawal, Joshua Gans und Avi Goldfarb.

Der französische Philosoph Bernard Stiegler verteidigte eine entsprechende »negentropische« Haltung gegenüber der Maschine.

Dieses Argument wurde vor kurzem wieder von dem Mathematiker Nicolas Gisin aufgenommen, namentlich in seinem Aufsatz Time Really Passes, Sciences Can’t Deny That. In: Renato Renner / Sandra Stupar (Hg.), Time in Physics, Birkhäuser 2017.

Vgl. Les Passions de l’âme, § 41: Von der Macht der Seele über den Körper.

Vgl. Jean-Paul Sartre, L’Être et le Néant. Gallimard 1943, vor allem das Kapitel »Freiheit und Verantwortlichkeit«, wo es heißt: »Es ist die Eigenart der menschlichen Realität, daß sie ohne Entschuldigung ist.«

Dominique Cardon, À quoi rêvent les algorithmes. Nos vies à l’heure des big data. Seuil, 2015.

Essais de Théodicée, Erster Teil, § 55.

Gemeinsam mit Richard Dawkins, Sam Harris und Christopher Hitchens, mit denen er das Buch The Four Horsemen, mit einem Vorwort von Stephen Fry. Bantam Press 2019, veröffentlicht hat.

Ich stütze mich auf zwei Texte Dennetts: das neuere Von den Bakterien zu Bach – und zurück. Die Evolution des Geistes (Suhrkamp 2018) sowie das ältere Brainstorms. Philosophical Essays on Mind and Psychology (Bradford 1978), besonders das Kapitel »On Giving Libertarians What They Say They Want«.

Vgl. Andrea Lavazza, Free Will And Neuroscience. From Explaining Freedom Away to New Ways of Operationalizing and Measuring It. In: Frontiers in Human Neuroscience, Vol. 10, No. 262, 2016.

Alexander Prescott et al., Readiness Potentials Driven by Non-Motoric Processes. In: Consciousness and Cognition, No. 39, 2016.

Matthias Schultze-Kraft et al., The Point of No Return in Vetoing Self-initiated Movements. In: Proceedings of the National Academy of Sciences, Vol. 113, No. 4, 2016.

Sheng Li / Stephen D. Mayhew / Zoe Kourtzi, Learning Shapes the Representation of Behavioral Choice in the Human Brain. In: Neuron, Vol. 62, No. 3, 2009.

Marc Wittmann / Martin P. Paulus, Decision Making, Impulsivity and Time Perception. In: Trends in Cognitive Sciences, Vol. 12, No. 1, 2008.

Shaun Larcom / Ferdinand Rauch / Tim Willems, The Benefits of Forced Experimentation: Striking Evidence From the London Underground Network. In: The Quarterly Journal of Economics, Vol. 132, No. 4, 2017. »Ein Nutzer von zwanzig bleibt bei der neu gewählten Route, weil seine alte Route suboptimal gewesen ist.«

Jonah Lehrer, The Decisive Moment. How the Brain Makes Up Its Mind, Canongate Books 2009.

Angefangen bei einem bedingungslosen Grundeinkommen, das einem jeden die konkrete Chance einräumt, seine Entscheidungen zu treffen. Um sich in diese leidenschaftliche Debatte zu stürzen und alle ihre Facetten zu erfassen, vgl. Philippe Van Parijs / Yannick Vanderborght, Ein Grundeinkommen für alle? Geschichte und Zukunft eines radikalen Vorschlags. Campus 2005.

Toru Ishikawa et al., Wayfinding with a GPS-based Mobile Navigation System. A Comparison With Maps and Direct Experience. In: Journal of Environmental Psychology, Vol. 28, No. 1, 2008. Diese japanische Studie zeigt bei GPS-Nutzern eine Atrophie des Hippocampus sowie eine einschlägige Reduktion der Orientierungsfähigkeit in einem neuen Gelände.

Das »right to err«, in Isaiah Berlin, Freiheit. Vier Versuche. Fischer 2006, Kapitel 4 »John Stuart Mill und die Ziele des Lebens«.

Finn Brunton / Helen Nissenbaum, Obfuscation. A User’s Guide for Privacy and Protest. MIT Press 2016.

Stop the LAPD Spying Coalition, Before the Bullets Hit the Body. Dismantling Predictive Policing in Los Angeles, Mai 2018.

Vgl. Matthieu Ricard / Wolf Singer, Jenseits des Selbst. Dialoge zwischen einem Hirnforscher und einem buddhistischen Mönch. Suhrkamp 2017.

Vgl. Barbara Sahakian / Jamie Nicole LaBuzetta, Bad Moves. How Decision Making Goes Wrong, and the Ethics of Smart Drugs. Oxford University Press 2013.

In diesem Fall ist der englische Ausdruck sehr viel bequemer: »frontloading the free will«.

Vgl. Gary Marcus (der uns bereits am MIT zur Frage der Kausalität begegnet ist), Innateness, AlphaZero, and Artificial Intelligence. New York University 2018.

Andreas Holzinger et al., Towards Interactive Machine Learning (iML). Applying Ant Colony Algorithms to Solve theTraveling Salesman Problem With the Human-in-the-loop Approach. In: Proceedings of the International Conference on Availability, Reliability, and Security, Springer 2016.

Robert J. Jasper / Leslie M. Blaha, Interface Metaphors for Interactive Machine Learning. In: Proceedings of the International Conference on Augmented Cognition, Springer 2017.

Saleema Amershi et al., Power to the People. The Role of Humans in Interactive Machine Learning. In: AI Magazine, Vol. 35, No. 4, 2014.

Für den technischen Aspekt vgl. Leo Iaquinta et al., Introducing Serendipity in a Content-based Recommender System. In: Eighth International Conference on Hybrid Intelligent Systems, IEEE 2008.

Vgl. Evgeny Morozov, Smarte neue Welt. Digitale Technik und die Freiheit des Menschen. Blessing 2013.

Vgl. sein bereits genanntes Buch Wem gehört die Zukunft? Hoffmann und Campe 2014.

Vgl. den grundlegenden Forschungsaufsatz Should We Treat Data as Labor? Moving Beyond Free, American Economic Association Papers 2017, von Glen Weyl, Jaron Lanier und drei weiteren Forschern von der Stanford und der Columbia University.

Vgl. Brittany Kaisers in der Financial Times veröffentlichte Kolumne Facebook Should Pay its 2bn Users for Their Personal Data, 9. April 2018.

Fall Carpenter v. United States, Justice Gorsuch, dissenting, Juni 2018.

Gouverneur Gavin Newsom, State of the State Address, 12. Februar 2019.

Ich habe diese Option bereits en détail in einem älteren Buch verteidigt (das bereits genannte Les Aventuriers de la liberté, im Kapitel über die Hacker) und ebenso in den Veröffentlichungen meines Think-Tanks GenerationLibre (Mes data sont à moi, Januar 2018) behandelt.

Ganz besonders L’Économie rurale et la vie des campagnes dans l’Occident médiéval. Aubier 1962.

Thomas Hobbes, Leviathan, Kapitel 13, »Zustand des Menschen, in Bezug auf Glückseligkeit des Erdenlebens«.

Michael Crosby et al., Blockchain Technology. Beyond Bitcoin. In: Applied Innovation, No. 2, 2016.

Für die philosophischen Grundlagen vgl. das bereits erwähte Voyages d’un philosophe aux pays des libertés (Kapitel über Brasilien) und für die technische Konzeption vgl. den gemeinsam mit Marc de Basquiat verfassten Bericht LIBER (GénérationLibre 2014).

Vgl. Mark Zuckerbergs Kolumne in der Washington Post, The Internet Needs New Rules, 30. März 2019.

In diesem Sinne stellen die Principles on Artificial Intelligence der OECD, die im Mai 2019 von 42 Ländern unterzeichnet wurden, eine Keimzelle einer kollektiven governance dar.