Bitte stellen Sie sich kurz vor, dieser Text wäre nicht das Werk eines Menschen, sondern das Produkt einer Maschine. Jedes Wort stammte aus dem “Hirn” einer künstlichen Intelligenz (KI). Und mehr noch: Es wäre die Maschine selbst gewesen, die den Beschluss fasste, so zu tun, als gäbe es den Autor wirklich. Es wäre ein tiefer Vertrauensbruch – und ein Fundamentalangriff auf die Grundpfeiler der Gesellschaft.

“Should I kill humans?” Aufschrift hinter dem Roboter Alfie, einer sogenannten Moral Choice Machine, an der Technischen Universität Darmstadt. Dort soll ein Zentrum für künstliche Intelligenz (KI) entstehen. Dafür stellt das Land Hessen in den kommenden fünf Jahren 38 Millionen Euro bereit. Das Zentrum soll sich mit Grundlagenforschung, aber auch mit der Anwendung von KI beschäftigen.

© Quelle: Arne Dedert/dpa

Willkommen in der Zukunft, in der Dinge denken, Rechner regieren und der Mensch nur noch Gestaltungsvorschläge macht. Die industrielle Revolution hat einst die menschliche Muskelkraft durch mechanische Maschinen ersetzt. Die digitale Revolution ist auf dem Weg, dem Menschen auch noch das Denken abzunehmen. Für die Menschheit werde KI “bedeutender als die Entdeckung des Feuers und der Elektrizität”, prophezeit Google-Chef Sundar Pichai. Und für den US-Physiker Max Tegmark wird das Aufkommen denkender Maschinen gar “das wichtigste Ereignis in der Menschheitsgeschichte” sein. Die Frage ist: Was wird aus dem Menschen, wenn er nicht mehr das klügste Wesen des Planeten ist?

Mehr zum Thema

 

Report: Wie Deutschland die Digitalisierung verpennt

 

Die Grenzen der künstlichen Intelligenz: Als ich einmal einen Kugelschreiber kaufte

 

Veränderung der Arbeitswelt: Woher kommt die Angst vor künstlicher Intelligenz?

“Was wir derzeit erleben, ist das größte Sozialexperiment der Geschichte”, schreiben Paul Nemitz, Chefberater der EU-Kommission und Mitglied der Datenethikkommission der Bundesregierung, und der Philosoph und Journalist Matthias Pfeffer in ihrem Buch “Prinzip Mensch”. Ihre Kernthese: Die Freiheitsversprechen der ersten digitalen Revolution – die Befreiung des Individuums aus der Vormundschaft von Politik und Konzernen – habe sich nicht erfüllt. Nicht weil die Politik im Netz zu heftig eingegriffen hätte, sondern weil sie zu wenig getan habe, um die fünf Giganten der Digitalwelt – Google, Apple, Facebook, Amazon und Microsoft – in ihre Schranken zu weisen. So sei aus dem “freien Fluss der Gedanken”, von dem die Netzpioniere träumten, ein “freier Fluss der gezielten Werbung, der Waren und Dienstleistungen geworden”.

Eine zukunftsbesoffene Welt

Es ist nicht leicht, inmitten einer zukunftsbesoffenen Welt, geblendet vom Geniekult um Männer wie Jeff Bezos oder Elon Musk, warnend den Finger zu heben. Die devote Naivität, mit der jüngst die brandenburgische Politelite den Tesla-Gründer Musk bei dessen Baustellenbesuch umschwänzelte, ließ keinen Zweifel daran, wer die erste Geige spielte.

Aber gerade angesichts der Großmannssucht der Techgiganten ist es höchste Zeit für eine Ethik des Digitalen. Denn Quantencomputer und KI werden absehbar kaum einen Stein auf dem anderen lassen. Nemitz und Pfeffer fordern deshalb: Wie bei Biowaffen, Atomkraft und Gentechnik braucht die Gesellschaft neue Leitplanken für den Wandel.

Bremsklötze auf dem Weg in ein digitales Utopia

“Prinzip Mensch” ist ein profunder Baustein in der anschwellenden Debatte über Datenethik. Es ist eine faktenreiche, zornfreie und fundierte Streitschrift, die man nicht gern lesen wird im Silicon Valley, wo der Gotteswahn der Milliardäre mit den hippiesken Heilsversprechen des kalifornischen Can-do-Spirit verschmolzen ist. Wo Politik, Gesetze und gesellschaftlicher Diskurs nur als regionale Bremsklötze auf dem Weg in ein digitales Utopia gelten.

Die Staatsverächter bei Facebook und Google tun derlei Kritik gern als letztes Aufbäumen einer untergehenden analogen Welt ab, bereitwillig sekundiert von einer Armee sich avantgardistisch fühlender Millennials. Ein Beispiel dafür war die Debatte um das europäische Urheberrecht, in der Youtube-Fans und Digital Natives massenhaft gegen vermeintlich gestrige Überregulierer zu Felde zogen. Tatsächlich ist es ein bizarrer Irrglaube, man könne im Kampf für mehr Freiheitsrechte ausgerechnet Google zu seinen Verbündeten zählen. Das Gegenteil ist der Fall: Vernünftige Regulierung macht Freiheit erst möglich. Denn das Internet ist heute ein durchkapitalisiertes Kraftzentrum von Konzerninteressen, das Freiheit nur noch simuliert.

NEW DELHI, INDIA - JANUARY 4: Google CEO Sundar Pichai at the event Google partnering with small businesses at Taj Palace Hotel on January 4, 2017 in New Delhi, India. India-born chief executive of the worlds largest Internet company Google said his company will work overtime to evolve products for a more digitised Indian economy. Photo by Virendra Singh Gosain/Hindustan Times Google CEO Sundar Pichai Announces Digital Unlocked For SMBs PUBLICATIONxNOTxINxIND

© Quelle: imago images/Hindustan Times

“Heute bestimmen einige Tausend Ingenieure darüber, was im Internet passiert”

“Heute bestimmen einige Tausend Ingenieure darüber, was im Internet passiert”, schreiben Nemitz und Pfeffer. “Die Vorstellung, der Code des Internets sei demokratisch, ist naiv. Es sind Ingenieure und Unternehmen, die bestimmen, wie viel Datenschutz es gibt, wer wie viel Zugang hat und wie wir durch Werbung manipuliert werden können, wenn dies nicht durch demokratische Gesetze entschieden wird.”

Die Diktatur des Digitalen ist in der Tat weit mehr als eine dystopische Vision. Sie ist in Teilen längst Gegenwart. Das Internet ist fest in den Händen eines halben Dutzends Silicon-Valley-Giganten, die nach abgeschlossener Vermögensbildung ihr irdisches Treiben mit einem theologisch-visionären Überbau aufgepeppt haben und nicht weniger planen als die Umprogrammierung der Welt. Geld allein reicht nicht mehr.

Friede, Freude, Eierkuchen dank Big Data?

Amazon-Chef Bezos träumt von der “Kolonisierung des Sonnensystems”. Google-Mitgründer Larry ­Page sucht mit einem Heer von Kardiologen, Biochemikern und Zellbiologen nach dem Algorithmus für das ewige Leben. Debatten über Datenschutz, über die Ausbeutung von Angestellten oder die Kooperation mit Geheimdiensten sind bloß Störgeräusche auf dem Weg ins digitale Arkadien. Facebook möchte mit Libra gern eine eigene Währung einführen und leistet sich bereits einen Facebook Supreme Court.

Sie spielen Gott: Noch sind liebende Roboter – hier ein Dienstleistungsroboter auf der Cebit 2018 in Hannover – nur Fantasiegeschöpfe.

© Quelle: picture alliance / Jochen Tack

Sie spielen Staat, sie spielen Gott. Friede, Freude, Eierkuchen dank Big Data. Und das Mittel dafür sind das “Internet der Dinge” und die KI. Sie werden immer perfekter darin, menschliches Verhalten zu entschlüsseln. Denn im Austausch für Komfort, für Instant­bedürfnis­befriedigung und das Versprechen eines durchoptimierten Lebens geben Milliarden Menschen selbst freiwillig die Kontrolle ab: Sie zahlen bereitwillig mit dem Rohstoff Daten, der ständig die antidemokratische Macht derer vergrößert, die ihn schürfen.

Die Spirale der Erregung dreht sich immer schneller

An kaum einem Beispiel lässt sich die Machtpolitik von Facebook und Google besser ablesen als am schwierigen Verhältnis zum Journalismus. Beide haben Milliarden damit verdient, fremder Verlage Inhalte zu vermarkten, ohne zu bezahlen. Es ist Google, das bestimmt, welche Story im Ranking oben landet. Es ist Facebook, das dafür sorgt, dass die Spirale der Erregung sich immer schneller dreht. Belohnt wird, was emotional ist. Weil es Werbeerlöse generiert.

Dem gebeutelten Journalismus begegnen beide Firmen mit einer perfiden Umarmungstaktik: Mit bis zu 600 Millionen Euro fördern sie journalistische Projekte. “Es ist schon erstaunlich, wie die Demokratien in den USA und in Europa bisher einfach zugesehen haben, wie die Unternehmen mit ihren gewaltigen Profiten die vierte Gewalt im Staate, nämlich den privat finanzierten Journalismus, kaputt zu machen drohen”, schreiben Nemitz und Pfeffer.

“Erst gestalten wir unsere Werkzeuge, dann gestalten sie uns”

Was aber passiert, wenn die KI-Technologie eines Tages selbst Machthunger entwickelt? Wenn eine potente Zentral-KI ihre Urteile nicht moralischen Prinzipien unterwirft, sondern allein kalter Effizienz? “Erst gestalten wir unsere Werkzeuge, dann gestalten sie uns”, warnte einst der Medienkritiker und Technologieberater John Culkin. Schon in wenigen Jahren könnten Quantencomputer aus den Datenbergen mächtige Manipulationswerkzeuge errechnen, gegen die die Fake-News-Experimente von Cambridge Analytica ein Kinderspiel waren.

Wer regiert also wen: der Mensch die Maschine oder umgekehrt? Die alte Frage hat im Big-Data-Zeitalter existenzielle Bedeutung bekommen. Es geht um nicht weniger als das Überleben der Demokratie und die Deutungshoheit der Welt.

Für das Silicon Valley sind Menschen auch nur Informationsmaschinen

Das Silicon Valley träumt von einer direkten Verknüpfung des Menschen mit der KI. Denn im kybernetischen Menschenbild der Netzherren sind Humanoide auch nur optimierbare Informationsmaschinen – man spricht dort von Wetware (Nassware), also einem Zwischenzustand zwischen Hard- und Software. “Wer sagt denn, dass wir keinen IQ von 10.000 haben können?”, fragt der frühere Stanford-Professor Sebastian Thrun, bei Google einst zuständig für KI. Musk investiert Hunderte Millionen in die Firma Neuralink und will Musik demnächst direkt ins Gehirn streamen. Als bloßes biologisches Konzept hat der Zellapparat Mensch für die Digitalisierer keine Zukunft. Für Peter Thiel, Großinvestor im Silicon Valley, ist der Tod nur eine “heilbare Krankheit”.

Brauchen wir einen hippokratischen Eid für Ingenieure?

Was hilft gegen den Gotteswahn? Ein hippokratischer Eid für Ingenieure? Eine politisch organisierte Zerschlagung der Konzerne? Und wie lässt sich sicherstellen, dass KI-Forschung nicht zu schwarzer Magie wird? Nemitz und Pfeffer rufen dringend dazu auf, “die verschütteten Quellen des Menschlichen wieder in Erinnerung zu rufen”. Sonst könne die “Kernschmelze der Demokratie” ein irreversibles Ereignis sein.

Denn was für die Techkonzerne zu den Schwächen des Menschen zählt – seine Unberechenbarkeit, sein sprunghaftes Denken –, ist in Wahrheit seine Stärke. Keine Maschine wird sich ihrer selbst je bewusst sein. Poesie und Größe entstehen aus Brüchen und Schründen, aus Irrationalität und Fantasie, nicht aus Perfektion im Sinne der Religion des Dataismus. Nur Menschen können träumen, hadern und lieben. Es ist ein tröstlicher Gedanke.