Künstliche Intelligenz :
Frank Schätzing warnt vor "Bewertungsterror"

Frank Schätzing hat für seinen Bestseller "Die Tyrannei des Schmetterlings" ausgiebig im Silicon Valley zum Thema Künstliche Intelligenz recherchiert. Seine Bilanz im W&V-Interview: ernüchternd.

Text: Rolf Schröter

Frank Schätzing im W&V-Gespräch
Frank Schätzing im W&V-Gespräch

Wir werden über völlig neue Sozialsysteme nachdenken müssen. Sagt Frank Schätzing im Interview mit W&V. Wochenlang hat der Schriftsteller im Silicon Valley für sein neues Buch "Die Tyrannei des Schmetterlings" zum Thema Künstliche Intelligenz recherchiert - und auch Menschen wie den Star-Investor Peter Thiel getroffen, der allen Ernstes nach Unsterblichkeit strebt.

Im Gespräch mit W&V skizziert Schätzing die möglichen Folgen der Anwendung von künstlicher Intelligenz. Fangen wir mit unserem Kernthema an: Der Kreativität.

Herr Schätzing, ist Kreativität göttlich?

Wäre sie es, wäre Gott für eine Unzahl schlechter Kampagnen mitverantwortlich. Also nein. Kreativität hat ihrerseits Götter hervorgebracht, archaische Welt- und Selbsterklärungsmodelle. Die Aufklärung zeigt uns, dass Gott nur innerhalb von Glaubensgebäuden existenzfähig ist.

Aber Sie schreiben über die künstliche Intelligenz in ihrem Buch, sie sei ein "strafender, unbarmherziger Gott". Gegenfrage: Kann eine künstliche Intelligenz barmherzig sein?

Maschinen haben keine Vorstellung ihrer eigenen Existenz, also auch nicht von Gut und Böse. Noch nicht. Eine KI kann Züge von Barmherzigkeit oder Niedertracht entwickeln, sobald sie Selbstbewusstsein erlangt. Dann wäre sie allerdings keine Maschine mehr, sondern ein denkendes, fühlendes Wesen, und wie jedes höhere Wesen würde sie Charaktereigenschaften ausprägen. Ich schätze, die Gefühlswelt einer selbstbewussten KI würde uns ziemlich fremd sein.

Schon in Ihrem Bestseller "Der Schwarm" haben Sie sich intensiv mit dem Thema der künstlichen Intelligenz befasst. Glauben Sie, dass Maschinen tatsächlich intelligent werden?

Sind sie schon. Viele alltägliche KIs – so wie Navis, medizinische Assistenzsysteme und Spracherkennungsprogramme – sind in eng gestecktem Rahmen intelligent, manche auch schon auf größeren Skalen. Intelligenz ist, wie wir sehen, nicht ausschließlich an biologische Wesen gekoppelt, nicht mal zwingend an Leben oder Bewusstsein. Am besten kann man sie vielleicht als die Fähigkeit umschreiben, sich mittels Kognition auf neue Situationen einzustellen und durch Denken sinnvolle Aussagen zu treffen. Rätselhafter wird es beim Bewusstsein.

Bis heute können wir nicht sagen, was das ist und wie man es erwirbt. KI-Forschung hat also durchaus etwas Prometheisches. Wir wissen nicht so ganz genau, was wir da erschaffen.

Sie haben im Silicon Valley auch den Starinvestor und Milliardär Peter Thiel getroffen. Thiel strebt tatsächlich nach Unsterblichkeit. Was meinen Sie: Kann die Menschheit das schaffen?

Will sie das überhaupt? Biologisch scheint Lebensverlänge­rung machbar. Da geht es nicht um Zauberei, sondern um die Beherrschung zellulärer Prozesse. Als Nächstes muss man rausfinden, wie viel unserer Hardware zuzumuten ist. Nach allem, was ich höre, sind die Chancen, 150 oder 200 Jahre rauszuschinden, gar nicht schlecht. Wäre ja nett. Man würde noch mal eine andere Kanzlerin als Angela Merkel erleben, vielleicht sogar die Eröffnung des Berliner Flughafens.

Aber Unsterblichkeit? Selbst wenn es gelänge – was hieße das für eine Spezies, deren Dynamik von alters her darin besteht, dass neue Menschen geboren werden und alte sterben? Es würde verdammt eng auf dem Planeten. Ebenso möglich, dass sich nur eine Elite Unsterblichkeit leisten kann, die sich dann zu einer zweiten Übermenschheit entwickeln würde, gewissermaßen zu olympischen Halbgöttern. Das Thema wirft radikale ethische Fragen auf.

Nicht nur die ethischen Fragen. Auch die individuellen Auswirkungen wären immens. Sie schreiben: "Einsam sind die Unsterblichen, einsam und voller Angst."

Der Gedanke stammt von Yuval Noah Harari, ich habe ihn aufgegriffen. Warum gehen wir Risiken ein? Weil wir wissen, dass sowieso irgendwann Schluss ist. Psychologisch sind wir darauf vorbereitet, also lassen wir’s krachen. Nicht weil wir das Ende beschleunigen wollen, sondern aus einer Akzeptanzhaltung heraus.

Wären wir nun unsterblich, hieße das allerdings nicht, auch unverwundbar zu sein! Also würden wir unsere Unsterblichkeit panisch hüten, um sie nicht etwas so Schnödem wie einem Verkehrsunfall zu opfern. Wir gingen immer weniger Risiken ein. Wir würden das Haus nicht mehr verlassen.

Wir sind ja schon heute fast so weit. Die ständige Angst vor Terrorismus ist doch nichts anderes als Thanatophobie, die Angst vor dem Tod.

Absolut. Wissenschaftler verweisen in diesem Zusammenhang gern auf die so genannte Hai-Psychose. 100.000 Menschen am Strand. Alle baden. Da taucht ein Hai auf und beißt einen ins Bein. Prompt gehen die anderen 99.999 nicht mehr ins Wasser. Wegen eines einzigen Hais! Aus der ­kollektiven Paralyse resultiert auch der Wahn, sich gegen alles und jedes versichern zu wollen. Resultieren Fremdenhass, Islamophobie und Zukunftsangst. Wir hängen dem Irrglauben an, uns durch Vermeidungsstrategien schützen zu können.

Das Leben wird messbar gemacht. Das führt uns zu einer Frage, die Sie selbst im Buch stellen. "Was macht wohl den Wert eines Menschen aus, wenn er zu nichts mehr taugt, weil immer eine Maschine da ist, die alles besser kann?" Haben Sie eine Antwort darauf?

Im Moment sind künstliche Intelligenzen vor allem Helfer. Die ultrakluge allgemeine KI lässt noch auf sich warten. Spezielle KIs hingegen gibt es zuhauf. Ihr Smartphone ist pickepackevoll damit. KI diagnostiziert Hautkrebs besser als jeder Arzt, prognostiziert Börsenentwicklungen besser als jeder Broker, hilft uns hier, hilft uns da.

Wenn es aber so weit kommt, dass KIs durchweg die Jobs der Menschen machen, kehrt sich die Situation um. Dann assistiert der Mensch der KI, bis sie ihn nicht mehr braucht. Was machen dann die Milliarden Menschen, für die es nichts mehr zu tun gibt? Wir müssen über völlig neue Sozialsysteme ­nachdenken.

Zum Beispiel das bedingungslose Grundeinkommen.

Das wäre ein Anfang. Aber es löst das psychologische Kernproblem nicht. Worüber definieren wir uns? Alle reden vom Sinn des Lebens. Unentwegt. Und dann reduzieren wir ihn auf den Faktor Produktivität. Unser Selbstbild basiert hauptsächlich auf der Annahme, wir seien so viel wert, wie wir "leisten".

War das schon alles? Hat unser Dasein nicht mehr zu bieten? Ist nicht auch eine Gesellschaft vorstellbar, in der die Verlagerung herkömmlicher Arbeit auf Maschinen als humanistische Errungenschaft gilt, weil man so Zeit für Wichtigeres gewinnt, zum Beispiel für Zwischenmenschlichkeit?

Eine solche Utopie setzt eine weitgehende Vernetzung voraus. Das Thema Datenschutz wird dabei oft ausgeblendet. Was meinen Sie: Sollen Menschen über ihre eigenen Daten bestimmen dürfen?

Mitbestimmen, wo immer es vertretbar ist. Wir sollten wissen, was mit unseren Daten geschieht. De facto wissen wir das schon seit Jahren nicht mehr. Ach was, eigentlich wussten wir es nie! Alle Obrigkeitssysteme gründen ihre Macht auf das Horten und Zurückhalten von Daten, und das ist nicht mal prinzipiell schlecht.

Eine Ordnungsmacht, die ein friedvolles Miteinander gewährleistet, wird als Datenhüter stillschweigend akzeptiert. Der Punkt ist, früher blieben unsere Daten innerhalb hermetischer Systeme. Das hat sich komplett geändert. Wir werden öffentliches Gemeingut. Wer das nicht will, muss sich aktiv um Datenschutz bemühen.

Als George Orwell in seinem Buch "1984" über Big Brother schrieb, hätte er sich bestimmt nicht vorstellen können, dass Menschen ihre Daten freiwillig preisgeben. Ist das nicht eine ironische Wendung?

Ich liebe 1984, aber ich glaube, Orwell hat sich in einem wesentlichen Punkt geirrt. Er ist davon ausgegangen, dass es eine totalitäre Obrigkeit geben wird, die uns alle unterjocht. Tatsächlich ist es viel schlimmer. Wir entwickeln uns zu einer Gesellschaft, deren Mitglieder einander ständig bewerten. Und jeder macht bei diesem selbst verordneten Bewertungsterror fröhlich pfeifend mit.

Mark Zuckerberg hat nur das System geschaffen. Wir halten es am Leben und nähren es. Nicht die Entwickler bringen die Verdummungsmaschine täglich auf Hochtouren, es sind die User, die durch das permanente Bewerten und Bewertetwerden ihre persönliche Unzufriedenheit ins Unermessliche steigern. Wir erschaffen eine Diktatur der Norm, des Ideals. Aber das Ideal ist nicht erreichbar. Es wird immer das schönere Urlaubsfoto geben. Das coolere Selfie. Das süßere Katzenvideo.

Social Media produziert Frust und Verlierer, Hass und Arschlöcher. Nicht genug dessen, engen wir auch noch unser Gesundheitsfenster immer mehr ein. Apps gängeln uns: Dies nicht essen, das nicht trinken, deine Werte sind nicht optimal, jede kleine Abweichung wird als abseits der Norm gescholten. Aber zwingt uns jemand dazu? Nein, wir selbst laden begeistert diese Apps runter. Wir sind unser eigener Big Brother geworden.

Sie schreiben, das Silicon Valley sei "eine Besinnungsstätte für Besinnungslose. Lauter Junkies im Taumel ihrer Ideen, und die Droge heißt Machbarkeit." Ist das Silicon Valley zynisch?

Das wäre grob verallgemeinert und zudem falsch. Es gibt kein Label für das Silicon Valley. Es ist eine Community talentierter Menschen, die mithilfe atemberaubender Technologien völlig unterschiedliche Ziele ansteuern. Dieser ganze Output fiele der Beliebigkeit anheim, hätte man sich dort nicht auf ein Mantra verständigt, das alle Bemühungen zur guten Tat bündelt, nämlich Menschheitsprobleme zu lösen. Kraft Disruption: der Opferung überkommener Systeme auf dem Altar völliger Erneuerung.

Die meisten im Valley – so wie ich es erlebt habe – sind beseelt von humanistischen Ideen, sie sehen sich als Avengers. Und natürlich sind sie überzeugt, dass ihr Tun der Menschheit nützt. Sie attackieren Ungerechtigkeit, Armut, Krebs und Alzheimer, den ganzen globalen Katalog. Insofern passiert dort erst mal viel Gutes, und die Ideen werden umgesetzt!

Bei uns wird eher gezaudert. Hier bemäkeln sie die Anything-goes-Mentalität der Kalifornier, und richtig ist, es fehlt dort an Besinnungspausen. Richtig ist, dass manche im Valley wie Peter Thiel recht eigenartige Vorstellungen von der Weltrettung pflegen. Es gibt Zyniker – Zuckerberg ist einer der größten – und etliche, die einfach nur mit irgendeiner bescheuerten App reich werden wollen. Alles richtig. Fest steht aber auch, dass Deutschland auf dem Weg in eine Nothing-goes-Gesellschaft ist.

Wir haben Angst vor Disruption. Wir leisten uns zu viele ­Bedenkenträger, es fehlt an Venturecapital und Risikobereitschaft. Wir müssen mehr wagen, und im Valley müssen sie ein Stück zurück in die Realität.

Sind sie zu naiv dort?

Sie sehen die Menschheit als großes Kind, das es an die Hand zu nehmen und in eine bessere Zukunft zu führen gilt. Dass das Kind an Frieden, Wohlstand und Gerechtigkeit mitunter gar kein Interesse hat, will nicht so recht in ihren Kopf. Terror, Kriminalität und Umweltverschmutzung sind erfolgreiche Geschäftsmodelle. Zudem ist ihr Bild von der Dritten Welt oft idealisiert und roman­tisch verbrämt. Der edle Arme. Das ist schon naiv.

Der mächtige Geländewagen Mercedes G-Klasse AMG taucht in Ihrem Buch häufiger auf. Ist das noch schriftstellerische Detailfreude oder schon Product-Placement – vielleicht im Hinblick auf eine Verfilmung?

Darüber habe ich noch gar nicht nachgedacht. Aber guter Hinweis, danke (lacht). Wir finden Product-Placement hier ein bisschen anrüchig. Da mühen sich die Öffentlich-Rechtlichen dann krampfhaft, alles auszublenden, was nach Marke aussieht. Wenn der Kommissar im Tatort was googelt, steht da nicht Google auf dem Bildschirm, sondern Webfuchs oder irgend so ein Schwachsinn, das ist lächerlich.

Marken sind Teil unserer Lebenswelt. Gerade habe ich Die Ermordung des Commendatore von Haruki Murakami gelesen. Da fährt einer einen Jaguar, der Held fährt einen Honda Civic, ein anderer einen Su­baru Forrester. Allein der Forrester wird gefühlt 200 Mal erwähnt. Und Murakami ist nun wirklich der Letzte, den ich im Verdacht hätte, sich von einem Autohersteller bezahlen zu lassen. Lebenswirklichkeit muss man zeigen dürfen. Wo Marken allerdings mit dem Brecheisen reingestemmt werden, sodass alle "Sponsoring" auf der Stirn stehen haben, ist meine Grenze überschritten.

Sie schreiben, im Silicon Valley habe man "den unumstößlichen Glauben, Milliarden Blinde in eine erleuchtete Zukunft zu führen". Wie finden Sie eigentlich die Kultur und Arbeitswelt des Silicon Valley?

Mein Eindruck war zunächst einmal, dass es da stinklangweilig ist.

Langweilig?

Ja. Sie arbeiten sich echt den Arsch ab. Wer aber etwa in Palo Alto eine strahlende Hightech-Hochburg erwartet, wird enttäuscht. Das ist eine spießige, prüde Kleinstadt. Alle legen sich früh ihr Einfamilienhäuschen zu, gründen eine Familie, fahren ein Vernunftauto, natürlich Elektro, essen vegan und liegen um zehn im Bett. Kein Glamour, keine Partys. – Doch, geheime Sexpartys. Erzählten sie mir hinter vorgehaltener Hand. Irgendwo müssen sie’s ja lassen.

Und solche Leute schmieden unsere Zukunft.

Na ja, man darf nicht vergessen: Das sind keine Schauspieler oder Science-Fiction-Autoren. Das sind Informatiker, also Technologen. Und als solche gut! Auch gut ist, was Unternehmen ihren Mitarbeitern kostenlos bieten. Auf dem Google-Campus ist alles gratis, Friseur, Fitnessstudio, Restaurants, psychologische Betreuung. Davon können wir uns hier eine Scheibe abschneiden.

Im Gegenzug wird erwartet, dass du mit Haut und Haaren für das Unternehmen da bist. Wohnraum gibt’s im Valley kaum noch. Viele, die dort arbeiten, wohnen im Umfeld von San Francisco. Die Konzerne stellen kostenlose Shuttlebusse zur Verfügung. Aber in den Bussen unterhält man sich nicht. Da wird nicht entspannt. Da wird weitergearbeitet.

Ist das unmenschlich?

Der Begriff ist mir zu hart, er relativiert wahre Unmenschlichkeit. Aber es verändert die Arbeitswelt. Das Selbst­verständnis dessen, was Arbeit und was Privatleben ist. Beide Bereiche durchdringen sich.

Finden Sie das gut oder schlecht?

Ambivalent. Ich kenne viele Menschen in Berufen mit einem hohen Maß an Eigenverantwortung. Die wären unglücklich, wenn man ihnen verbieten würde, in ihrer privaten Zeit zu arbeiten. Nicht, weil sie Arbeit an sich so sehr schätzen. Sondern weil sie das, was sie tun, als Teil ihrer Berufung sehen. Sie brennen dafür. Das ist zunächst mal positiv.

Viele junge Menschen bei Google erzählten mir begeistert davon, dass sie dort etwas bewegen können. Und klar ist: Man erreicht keinen technologischen Durchbruch, wenn man um Punkt fünf den Griffel fallen lässt. Zynisch wird es, wo Menschen sich ihr Leben nicht mehr leisten können, ohne 24 Stunden um die Uhr zu arbeiten. Etwa, weil das Lohnniveau extrem niedrig ist.

Disruption kann auch grausam sein.

Das ist sie immer. Für irgendjemanden. Für die Saurier zum Beispiel war Disruption richtig scheiße (lacht).

"Man muss googley sein, um bei Google eingestellt zu werden", schreiben Sie im Abbinder Ihres Buches. Mal ehrlich: Das ist Bullshit, oder?

Eine leitende Mitarbeiterin von Google hat uns über den Campus geführt. Ich fragte sie, was man mitbringen müsse, um bei Google angestellt zu werden. Sie sagte: Die wollen wissen, ob du googley bist. Ich habe das zuerst für einen Witz gehalten. Aber sie sagte, es sei kein Witz.

Google versteht darunter eine bestimmte Einstellung. Dass man eben nicht nur im Nine-to-five-Modus denkt. Dass man sich mehr für die Probleme der Welt, für Arme und Schwache interessiert als für eine coole neue Datenbrille. Die entsteht sowieso. Google geht es darum, ob du empathisch bist, ­helfen möchtest, ein gewisses Maß an Selbstlosigkeit an den Tag legst.

Herr Schätzing, sind Sie googley?

Ich hoffe. Aber nicht im sektiererischen Sinne. Dann wird es nämlich spooky. Man wird zum nützlichen Idioten eines Systems, das sich ausschließlich als gut verkauft. Denn natürlich hat Google eine Kehrseite. Der Öffentlichkeit zeigt man eine Welt endloser Persönlichkeitsentfaltung, mit flachen Hierarchien, smarten Chefs und bunten Fahrrädern, auf denen alle frohgemut über den Campus radeln. Menschen arbeiten in Liegestühlen im Freien. Büros sind mit Sitzsäcken und Palmen oder wie Holzhütten eingerichtet.

Was man nicht zeigt, weder bei Google noch bei Facebook, sind die legebatterieartigen Arbeitshallen, in denen sie auf engstem Raum vor ihren Bildschirmen hocken. Das erinnert eher an Massentierhaltung.

Oder Manchesterkapitalismus.

Na ja, vor Kinderarbeit schrecken sie noch zurück. Da wir gerade von Kapitalismus reden: Die Vorstellung einer Zukunft, in der künstliche Intelligenz alles besser kann, also auch produzieren, bedingt, dass irgendjemand alle diese schönen Produkte und Dienstleistungen kaufen und konsumieren muss.

Aber wenn der größte Teil der Menschheit keine Jobs mehr hat, besteht die Gefahr grassierender Verarmung. Da hatte Marx wohl recht: Die Durchmaschinisierung des Kapitalismus hätte wahrscheinlich sein Ende zur Folge.

Apropos Durchmaschinisierung: Haben Sie Alexa zu ­Hause?

Nein. Nicht, weil ich prinzipiell dagegen bin. Ich hab einfach Spaß daran, meinen Kram selbst zu regeln. Und solange Sprachsysteme "Onion rings" mit "Zwiebel ruft an" übersetzen, kann ich drauf verzichten (lacht). Aber es ist schon irre, wie radikal sich die Spracherkennung verbessert. In wenigen Jahren werden Computer den Turing-Test ­bestehen.

Es gibt ja auch schon Werbekampagnen, die von künst­licher Intelligenz geschaffen werden. Wurde Kreativität bislang überbewertet?

Kreativität kann man gar nicht hoch genug einschätzen. Der Witz ist, ohne Kreativität geht nichts, dennoch gibt sie uns Rätsel auf. Wie entstehen in einem leeren Schädel große Kampagnen – und leider auch viele beschissene? Das ist kaum erforscht. Ich verstehe Kreativität als die Fähigkeit, Vorhandenes zu Neuem zu kombinieren, und vielleicht muss man sich dieses Vorhandene wie einen Dunst vorstellen, gebildet aus allem je Erlebten.

Wir nehmen den Dunst nicht wahr, ähnlich wie wir beim Blick in den blauen Himmel nicht die Feuchtigkeit darin wahrnehmen, bis sich plötzlich Wolken bilden. Ähnlich könnten in unserem Kopf wie aus dem Nichts Ideen kondensieren, aber was genau diesen Prozess triggert – keine Ahnung. Insofern ist es spannend zu sehen, ob Maschinen echter Kreativität fähig sind. Computer entwickeln Kampagnen, malen Bilder …

… und auch im Musikbereich schafft der Computer bereits aus Tönen, Frequenzen, Abständen von erfolgreichen ­Musikstücken neue Kompositionen.

Ja, und irgendwie erinnert das an Mimikry. Ich meine, das ist schon in gewisser Weise kreativ. Es hat diese Musik­stücke zuvor nicht gegeben, und manche klingen super. Und um unsere eigene Kreativität ein wenig zu relativieren: Wann hätte je ein Mensch eine Idee gehabt, die so radikal neu gewesen wäre, dass sie auf nichts basierte, was nicht zuvor ein anderer entdeckt, gedacht, gesagt und geschaffen hat. Im Valley gibt es dazu keine klare Meinung.

Die einen sagen: Computer sind ohne Wenn und Aber kreativ. Andere, wie Jaron Lanier, halten KIs für Diebe, die unsere Krea­tivität stehlen und als ihre eigene ausgeben. Ich befinde mich irgendwo dazwischen. Unter reduktionistischen ­Gesichtspunkten sind Maschinen eindeutig kreativ, aber wenn wir unter Kreativität verstehen, einer Empfindung – Freude, Verzweiflung, Zorn – Ausdruck zu verleihen, auf Missstände hinzuweisen, uns der Schönheit zu nähern, sind sie es nicht.

Eine Maschine ohne Bewusstsein kennt keine Schönheit. Sie ist kreativ ohne den Willen dazu. Sie hat uns viel zu zeigen, aber nichts zu sagen. Sie ist – wie Mireille Mathieu (lacht). Sie singt glühende Liebeslieder auf Deutsch, versteht aber kein Wort davon. Was sich ändern dürfte, sollten KIs ihrer selbst bewusst werden.

Dieses Entscheidende, was dem Computer fehlt, kann man auf ein Wort destillieren: Liebe.

Und Leid. Die Eckpfeiler allen künstlerischen Schaffens. Aber vor allem fehlt ihm der Wille. Seine Algorithmen können komplexe Ziele ansteuern. Aber sein Wille dazu ist nicht größer als der eines Hammers, einen Nagel in die Wand zu schlagen.

Wenn Sie dieses Gespräch weiterlesen möchten (und vielleicht auch noch Gespräche mit Daimler-Vorstand Britta Seeger über Unternehmenskultur, dem Meister der Typographie Erik Spiekermann über die Grenzen der Schrift oder dem Semiotiker Hermann Sottong über das Ende der Werbung, wie wir sie kennen, dann klicken Sie ganz einfach hier


Autor:

Rolf Schröter
Rolf Schröter

Als Leiter des Marketing-Ressorts der W&V und neugieriger Kurpfälzer interessiert sich Rolf Schröter prinzipiell für alles Mögliche. Ganz besonders mag er, was mit Design und Auto zu tun hat.