Bestseller-Autor:
Frank Schätzing: "Wir brauchen neue Sozialsysteme"

Er ist nicht einfach nur ein Bestsellerautor. Frank Schätzing ist aus Leidenschaft Experte für künstliche Intelligenz. Für sein Buch "Die Tyrannei des Schmetterlings" hat er im Silicon Valley recherchiert – und entwirft im Gespräch verblüffende Sichtweisen auf Maschinen und Menschen. Hier gibt es das Interview aus der W&V-Jubiläumsausgabe noch einmal in voller Länge!

Text: W&V Redaktion

Frank Schätzing.
Frank Schätzing.

Ausgerechnet Gospelgesang weht herein, als Frank Schätzing erklärt, warum er nicht an Gott glaubt. "Swing low, sweet chariot" singt ein Straßenmusiker auf der Kölner Domplatte. Es ist ein heißer Tag, als die W&V-Redakteure Jochen Kalka und Rolf Schröter mit dem Autor des Bestsellers Die Tyrannei des Schmetterlings im lichtdurchfluteten Besprechungsraum seines Verlags Kiepenheuer & Witsch zusammensitzen.

Tatsächlich geht es um existenzielle Fragen. Wir werden uns ein komplett neues soziales Modell überlegen müssen, prophezeit Schätzing, nicht sensationslüstern, sondern nüchtern und logisch erklärend. Wer glaubt, dass Schätzing, der einst auch als Chef einer Werbeagentur sein Geld verdiente, einfach nur Science-Fiction betreibt, liegt falsch. Dieser Mann hat eine echte Leidenschaft für Fragen aus den Grenzgebieten zwischen Technologie und Physik.

Mit Begeisterung erklärt er uns quantenmechanische Aufgabenstellungen. Frank Schätzing ist einfach unser perfekter Rei-sebegleiter für einen gedanklichen Ausflug in die von künstlicher Intelligenz gestaltete Zukunft.

Los geht’s!

Herr Schätzing, ist Kreativität göttlich?

Wäre sie es, wäre Gott für eine Unzahl schlechter Kampagnen mitverantwortlich. Also nein. Kreativität hat ihrerseits Götter hervorgebracht, archaische Welt- und Selbsterklärungsmodelle. Die Aufklärung zeigt uns, dass Gott nur innerhalb von Glaubensgebäuden existenzfähig ist.

Aber Sie schreiben über die künstliche Intelligenz in ihrem Buch, sie sei ein "strafender, unbarmherziger Gott". Gegenfrage: Kann eine künstliche Intelligenz barmherzig sein?

Maschinen haben keine Vorstellung ihrer eigenen Existenz, also auch nicht von Gut und Böse. Noch nicht. Eine KI kann Züge von Barmherzigkeit oder Niedertracht entwickeln, sobald sie Selbstbewusstsein erlangt. Dann wäre sie allerdings keine Maschine mehr, sondern ein denkendes, fühlendes Wesen, und wie jedes höhere Wesen würde sie Charaktereigenschaften ausprägen. Ich schätze, die Gefühlswelt einer selbstbewussten KI würde uns ziemlich fremd sein.

Schon in Ihrem Bestseller "Der Schwarm" haben Sie sich intensiv mit dem Thema der künstlichen Intelligenz befasst. Glauben Sie, dass Maschinen tatsächlich intelligent werden?

Sind sie schon. Viele alltägliche KIs – so wie Navis, medizinische Assistenzsysteme und Spracherkennungsprogramme – sind in eng gestecktem Rahmen intelligent, manche auch schon auf größeren Skalen. Intelligenz ist, wie wir sehen, nicht ausschließlich an biologische Wesen gekoppelt, nicht mal zwingend an Leben oder Bewusstsein. Am besten kann man sie vielleicht als die Fähigkeit umschreiben, sich mittels Kognition auf neue Situationen einzustellen und durch Denken sinnvolle Aussagen zu treffen. Rätselhafter wird es beim Bewusstsein. Bis heute können wir nicht sagen, was das ist und wie man es erwirbt. KI-Forschung hat also durch-aus etwas Prometheisches. Wir wissen nicht so ganz genau, was wir da erschaffen.

Sie haben im Silicon Valley auch den Starinvestor und Milliardär Peter Thiel getroffen. Thiel strebt tatsächlich nach Unsterblichkeit. Was meinen Sie: Kann die Menschheit das schaffen?

Will sie das überhaupt? Biologisch scheint Lebensverlängerung machbar. Da geht es nicht um Zauberei, sondern um die Beherrschung zellulärer Prozesse. Als Nächstes muss man rausfinden, wie viel unserer Hardware zuzumuten ist. Nach allem, was ich höre, sind die Chancen, 150 oder 200 Jahre rauszuschinden, gar nicht schlecht. Wäre ja nett. Man würde noch mal eine andere Kanzlerin als Angela Merkel erleben, vielleicht sogar die Eröffnung des Berliner Flughafens. Aber Unsterblichkeit? Selbst wenn es gelänge – was hieße das für eine Spezies, deren Dynamik von alters her darin besteht, dass neue Menschen geboren werden und alte sterben? Es würde verdammt eng auf dem Planeten. Ebenso möglich, dass sich nur eine Elite Unsterblichkeit leisten kann, die sich dann zu einer zweiten Übermenschheit entwickeln würde, gewissermaßen zu olympischen Halbgöttern. Das Thema wirft radikale ethische Fragen auf.

Nicht nur die ethischen Fragen. Auch die individuellen Auswirkungen wären immens. Sie schreiben: "Einsam sind die Unsterblichen, einsam und voller Angst."

Der Gedanke stammt von Yuval Noah Harari, ich habe ihn aufgegriffen. Warum gehen wir Risiken ein? Weil wir wissen, dass sowieso irgendwann Schluss ist. Psychologisch sind wir darauf vorbereitet, also lassen wir’s krachen. Nicht weil wir das Ende beschleunigen wollen, sondern aus einer Akzeptanzhaltung heraus. Wären wir nun unsterblich, hieße das allerdings nicht, auch unverwundbar zu sein! Also würden wir unsere Unsterblichkeit panisch hüten, um sie nicht etwas so Schnödem wie einem Verkehrsunfall zu opfern. Wir gingen immer weniger Risiken ein. Wir würden das Haus nicht mehr verlassen.

Wir sind ja schon heute fast so weit. Die ständige Angst vor Terrorismus ist doch nichts anderes als Thanatophobie, die Angst vor dem Tod.

Absolut. Wissenschaftler verweisen in diesem Zusammenhang gern auf die sogenannte Hai-Psychose. 100 000 Menschen am Strand. Alle baden. Da taucht ein Hai auf und beißt einen ins Bein. Prompt gehen die anderen 99 999 nicht mehr ins Wasser. Wegen eines einzigen Hais! Aus der kollektiven Paralyse resultiert auch der Wahn, sich gegen alles und jedes versichern zu wollen. Resultieren Fremdenhass, Islamophobie und Zukunftsangst. Wir hängen dem Irrglauben an, uns durch Vermeidungsstrategien schützen zu können.

Das Leben wird messbar gemacht. Das führt uns zu einer Frage, die Sie selbst im Buch stellen. "Was macht wohl den Wert eines Menschen aus, wenn er zu nichts mehr taugt, weil immer eine Maschine da ist, die alles besser kann?" Haben Sie eine Antwort darauf?

Im Moment sind künstliche Intelligenzen vor allem Helfer. Die ultrakluge allgemeine KI lässt noch auf sich warten. Spezielle KIs hingegen gibt es zuhauf. Ihr Smartphone ist pickepackevoll damit. KI diagnostiziert Hautkrebs besser als jeder Arzt, prognostiziert Börsenentwicklungen besser als jeder Broker, hilft uns hier, hilft uns da. Wenn es aber so weit kommt, dass KIs durchweg die Jobs der Menschen machen, kehrt sich die Situation um. Dann assistiert der Mensch der KI, bis sie ihn nicht mehr braucht. Was ma-chen dann die Milliarden Menschen, für die es nichts mehr zu tun gibt? Wir müssen über völlig neue Sozialsysteme ­nachdenken.

Zum Beispiel das bedingungslose Grundeinkommen.

Das wäre ein Anfang. Aber es löst das psychologische Kernproblem nicht. Worüber definieren wir uns? Alle reden vom Sinn des Lebens. Unentwegt. Und dann reduzieren wir ihn auf den Faktor Produktivität. Unser Selbstbild basiert hauptsächlich auf der Annahme, wir seien so viel wert, wie wir "leisten". War das schon alles? Hat unser Dasein nicht mehr zu bieten? Ist nicht auch eine Gesellschaft vorstellbar, in der die Verlagerung herkömmlicher Arbeit auf Maschinen als humanistische Errungenschaft gilt, weil man so Zeit für Wichtigeres gewinnt, zum Beispiel für Zwischenmenschlichkeit?

Eine solche Utopie setzt eine weitgehende Vernetzung voraus. Das Thema Datenschutz wird dabei oft ausgeblendet. Was meinen Sie: Sollen Menschen über ihre eigenen Daten bestimmen dürfen?

Mitbestimmen, wo immer es vertretbar ist. Wir sollten wissen, was mit unseren Daten geschieht. De facto wissen wir das schon seit Jahren nicht mehr. Ach was, eigentlich wussten wir es nie! Alle Obrigkeitssysteme gründen ihre Macht auf das Horten und Zurückhalten von Daten, und das ist nicht mal prinzipiell schlecht. Eine Ordnungsmacht, die ein friedvolles Miteinander gewärleistet, wird als Datenhüter stillschweigend akzeptiert. Der Punkt ist, früher blieben unsere Daten innerhalb hermetischer Systeme. Das hat sich komplett geändert. Wir werden öffentliches Gemeingut. Wer das nicht will, muss sich aktiv um Datenschutz bemühen.

Als George Orwell in seinem Buch "1984" über Big Brother schrieb, hätte er sich bestimmt nicht vorstellen können, dass Menschen ihre Daten freiwillig preisgeben. Ist das nicht eine ironische Wendung?

Ich liebe 1984, aber ich glaube, Orwell hat sich in einem wesentlichen Punkt geirrt. Er ist davon ausgegangen, dass es eine totalitäre Obrigkeit geben wird, die uns alle unterjocht. Tatsächlich ist es viel schlimmer. Wir entwickeln uns zu einer Gesellschaft, deren Mitglieder einander ständig bewerten. Und jeder macht bei diesem selbst verordneten Bewertungsterror fröhlich pfeifend mit. Mark Zuckerberg hat nur das System geschaffen. Wir halten es am Leben und nähren es. Nicht die Entwickler bringen die Verdummungsmaschine täglich auf Hochtouren, es sind die User, die durch das permanente Bewerten und Bewertetwerden ihre persönliche Unzufriedenheit ins Unermessliche steigern. Wir erschaffen eine Diktatur der Norm, des Ideals. Aber das Ideal ist nicht erreichbar. Es wird immer das schönere Urlaubsfoto geben. Das coolere Selfie. Das süßere Katzenvideo. Social Media produziert Frust und Verlierer, Hass und Arschlöcher. Nicht genug dessen, engen wir auch noch unser Gesundheitsfenster immer mehr ein. Apps gängeln uns: Dies nicht essen, das nicht trinken, deine Werte sind nicht optimal, jede kleine Abweichung wird als abseits der Norm gescholten. Aber zwingt uns jemand dazu? Nein, wir selbst laden begeistert diese Apps runter. Wir sind unser eigener Big Brother geworden.

Sie schreiben, das Silicon Valley sei "eine Besinnungsstätte für Besinnungslose. Lauter Junkies im Taumel ihrer Ideen, und die Droge heißt Machbarkeit." Ist das Silicon Valley zynisch?

Das wäre grob verallgemeinert und zudem falsch. Es gibt kein Label für das Silicon Valley. Es ist eine Community talentierter Menschen, die mithilfe atemberaubender Technologien völlig unterschiedliche Ziele ansteuern. Dieser ganze Output fiele der Beliebigkeit anheim, hätte man sich dort nicht auf ein Mantra verständigt, das alle Bemühungen zur guten Tat bündelt, nämlich Menschheitsprobleme zu lösen. Kraft Disruption: der Opferung überkommener Systeme auf dem Altar völliger Erneuerung. Die meisten im Valley – so wie ich es erlebt habe – sind beseelt von humanistischen Ideen, sie sehen sich als Avengers. Und natürlich sind sie überzeugt, dass ihr Tun der Menschheit nützt. Sie attackieren Ungerechtigkeit, Armut, Krebs und Alzheimer, den ganzen globalen Katalog. Insofern passiert dort erst mal viel Gutes, und die Ideen werden umgesetzt! Bei uns wird eher gezaudert. Hier bemäkeln sie die Anything-goes-Mentalität der Kalifornier, und richtig ist, es fehlt dort an Besinnungspausen. Richtig ist, dass manche im Valley wie Peter Thiel recht eigenartige Vorstellungen von der Weltrettung pflegen. Es gibt Zyniker – Zuckerberg ist einer der größten – und etliche, die einfach nur mit irgendeiner bescheuerten App reich werden wollen. Alles richtig. Fest steht aber auch, dass Deutschland auf dem Weg in eine Nothing-goes-Gesellschaft ist. Wir haben Angst vor Disruption. Wir leisten uns zu viele ­Bedenkenträger, es fehlt an Venturecapital und Risikobereitschaft. Wir müssen mehr wagen, und im Valley müssen sie ein Stück zurück in die Realität.

Sind sie zu naiv dort?

Sie sehen die Menschheit als großes Kind, das es an die Hand zu nehmen und in eine bessere Zukunft zu führen gilt. Dass das Kind an Frieden, Wohlstand und Gerechtigkeit mitunter gar kein Interesse hat, will nicht so recht in ihren Kopf. Terror, Kriminalität und Umweltverschmutzung sind erfolgreiche Geschäftsmodelle. Zudem ist ihr Bild von der Dritten Welt oft idealisiert und romantisch verbrämt. Der edle Arme. Das ist schon naiv.

Der mächtige Geländewagen Mercedes G-Klasse AMG taucht in Ihrem Buch häufiger auf. Ist das noch schriftstellerische De-tailfreude oder schon Product-Placement – vielleicht im Hinblick auf eine Verfilmung?

Darüber habe ich noch gar nicht nachgedacht. Aber guter Hinweis, danke (lacht). Wir finden Product-Placement hier ein bisschen anrüchig. Da mühen sich die Öffentlich-Rechtlichen dann krampfhaft, alles auszublenden, was nach Marke aussieht. Wenn der Kommissar im Tatort was googelt, steht da nicht Google auf dem Bildschirm, sondern Webfuchs oder irgend so ein Schwachsinn, das ist lächerlich. Marken sind Teil unserer Lebenswelt. Gerade habe ich Die Ermordung des Commendatore von Haruki Murakami gelesen. Da fährt einer einen Jaguar, der Held fährt einen Honda Civic, ein anderer einen Subaru Forrester. Allein der Forres-ter wird gefühlt 200 Mal erwähnt. Und Murakami ist nun wirklich der Letzte, den ich im Verdacht hätte, sich von einem Autohersteller bezahlen zu lassen. Lebenswirklichkeit muss man zeigen dürfen. Wo Marken allerdings mit dem Brecheisen reingestemmt werden, sodass alle "Sponsoring" auf der Stirn stehen haben, ist meine Grenze überschritten.

Sie schreiben, im Silicon Valley habe man "den unumstößlichen Glauben, Milliarden Blinde in eine erleuchtete Zukunft zu führen". Wie finden Sie eigentlich die Kultur und Arbeitswelt des Silicon Valley?

Mein Eindruck war zunächst einmal, dass es da stinklangweilig ist.

Langweilig?

Ja. Sie arbeiten sich echt den Arsch ab. Wer aber etwa in Palo Alto eine strahlende Hightech-Hochburg erwartet, wird enttäuscht. Das ist eine spießige, prüde Kleinstadt. Alle legen sich früh ihr Einfamilienhäuschen zu, gründen eine Familie, fahren ein Vernunftauto, natürlich Elektro, essen vegan und liegen um zehn im Bett. Kein Glamour, keine Partys. – Doch, geheime Sexpartys. Erzählten sie mir hinter vorgehaltener Hand. Irgendwo müssen sie’s ja lassen.

Und solche Leute schmieden unsere Zukunft.

Na ja, man darf nicht vergessen: Das sind keine Schauspieler oder Science-Fiction-Autoren. Das sind Informatiker, also Technologen. Und als solche gut! Auch gut ist, was Unternehmen ihren Mitarbeitern kostenlos bieten. Auf dem Google-Campus ist alles gratis, Friseur, Fitnessstudio, Restaurants, psychologische Betreuung. Davon können wir uns hier eine Scheibe abschneiden. Im Gegenzug wird erwartet, dass du mit Haut und Haaren für das Unternehmen da bist. Wohnraum gibt’s im Valley kaum noch. Viele, die dort arbeiten, wohnen im Umfeld von San Francisco. Die Konzerne stellen kostenlose Shuttlebusse zur Verfügung. Aber in den Bussen unterhält man sich nicht. Da wird nicht entspannt. Da wird weitergearbeitet.

Ist das unmenschlich?

Der Begriff ist mir zu hart, er relativiert wahre Unmenschlichkeit. Aber es verändert die Arbeitswelt. Das Selbstverständnis dessen, was Arbeit und was Privatleben ist. Beide Bereiche durchdringen sich.

Finden Sie das gut oder schlecht?

Ambivalent. Ich kenne viele Menschen in Berufen mit einem hohen Maß an Eigenverantwortung. Die wären unglücklich, wenn man ihnen verbieten würde, in ihrer privaten Zeit zu arbeiten. Nicht, weil sie Arbeit an sich so sehr schätzen. Sondern weil sie das, was sie tun, als Teil ihrer Berufung sehen. Sie brennen dafür. Das ist zunächst mal positiv. Viele junge Menschen bei Google erzählten mir begeistert davon, dass sie dort etwas bewegen können. Und klar ist: Man erreicht keinen technologischen Durchbruch, wenn man um Punkt fünf den Griffel fallen lässt. Zynisch wird es, wo Menschen sich ihr Leben nicht mehr leisten können, ohne 24 Stunden um die Uhr zu arbeiten. Etwa, weil das Lohnniveau extrem niedrig ist.

Disruption kann auch grausam sein.

Das ist sie immer. Für irgendjemanden. Für die Saurier zum Beispiel war Disruption richtig scheiße (lacht).

"Man muss googley sein, um bei Google eingestellt zu werden", schreiben Sie im Abbinder Ihres Buches. Mal ehrlich: Das ist Bullshit, oder?

Eine leitende Mitarbeiterin von Google hat uns über den Campus geführt. Ich fragte sie, was man mitbringen müsse, um bei Google angestellt zu werden. Sie sagte: Die wollen wissen, ob du googley bist. Ich habe das zuerst für einen Witz gehalten. Aber sie sagte, es sei kein Witz. Google versteht darunter eine bestimmte Einstellung. Dass man eben nicht nur im Nine-to-five-Modus denkt. Dass man sich mehr für die Probleme der Welt, für Arme und Schwache interessiert als für eine coole neue Datenbrille. Die entsteht sowieso. Google geht es darum, ob du empathisch bist, helfen möchtest, ein gewisses Maß an Selbstlosigkeit an den Tag legst.

Herr Schätzing, sind Sie googley?

Ich hoffe. Aber nicht im sektiererischen Sinne. Dann wird es nämlich spooky. Man wird zum nützlichen Idioten eines Systems, das sich ausschließlich als gut verkauft. Denn natürlich hat Google eine Kehrseite. Der Öffentlichkeit zeigt man eine Welt endloser Persönlichkeitsentfaltung, mit flachen Hierarchien, smarten Chefs und bunten Fahrrädern, auf denen alle frohgemut über den Campus radeln. Menschen arbeiten in Liegestühlen im Freien. Büros sind mit Sitzsäcken und Palmen oder wie Holzhütten einge-richtet. Was man nicht zeigt, weder bei Google noch bei Facebook, sind die legebatterieartigen Arbeitshallen, in denen sie auf engstem Raum vor ihren Bildschirmen hocken. Das erinnert eher an Massentierhaltung.

Oder Manchesterkapitalismus.

Na ja, vor Kinderarbeit schrecken sie noch zurück. Da wir gerade von Kapitalismus reden: Die Vorstellung einer Zukunft, in der künstliche Intelligenz alles besser kann, also auch produzieren, bedingt, dass irgendjemand alle diese schönen Produkte und Dienstleistungen kaufen und konsumieren muss. Aber wenn der größte Teil der Menschheit keine Jobs mehr hat, besteht die Gefahr grassierender Verarmung. Da hatte Marx wohl recht: Die Durchmaschinisierung des Kapitalismus hätte wahrscheinlich sein Ende zur Folge.

Apropos Durchmaschinisierung: Haben Sie Alexa zu Hause?

Nein. Nicht, weil ich prinzipiell dagegen bin. Ich hab einfach Spaß daran, meinen Kram selbst zu regeln. Und solange Sprachsysteme „Onion rings“ mit „Zwiebel ruft an“ übersetzen, kann ich drauf verzichten (lacht). Aber es ist schon irre, wie radikal sich die Spracherkennung verbessert. In wenigen Jahren werden Computer den Turing-Test ­bestehen.

Es gibt ja auch schon Werbekampagnen, die von künstlicher Intelligenz geschaffen werden. Wurde Kreativität bislang überbewertet?

Kreativität kann man gar nicht hoch genug einschätzen. Der Witz ist, ohne Kreativität geht nichts, dennoch gibt sie uns Rätsel auf. Wie entstehen in einem leeren Schädel große Kampagnen – und leider auch viele beschissene? Das ist kaum erforscht. Ich verstehe Kreativität als die Fähigkeit, Vorhandenes zu Neuem zu kombinieren, und vielleicht muss man sich dieses Vorhandene wie einen Dunst vorstellen, gebildet aus allem je Erlebten. Wir nehmen den Dunst nicht wahr, ähnlich wie wir beim Blick in den blau-en Himmel nicht die Feuchtigkeit darin wahrnehmen, bis sich plötzlich Wolken bilden. Ähnlich könnten in unserem Kopf wie aus dem Nichts Ideen kondensieren, aber was genau diesen Prozess triggert – keine Ahnung. Insofern ist es spannend zu sehen, ob Maschinen echter Kreativität fähig sind. Computer entwickeln Kampagnen, malen Bilder …

… und auch im Musikbereich schafft der Computer bereits aus Tönen, Frequenzen, Abständen von erfolgreichen Musikstücken neue Kompositionen.

Ja, und irgendwie erinnert das an Mimikry. Ich meine, das ist schon in gewisser Weise kreativ. Es hat diese Musikstücke zuvor nicht gegeben, und manche klingen super. Und um unsere eigene Kreativität ein wenig zu relativieren: Wann hätte je ein Mensch eine Idee gehabt, die so radikal neu gewesen wäre, dass sie auf nichts basierte, was nicht zuvor ein anderer entdeckt, gedacht, gesagt und geschaffen hat. Im Valley gibt es dazu keine klare Meinung. Die einen sagen: Computer sind ohne Wenn und Aber kreativ. Andere, wie Jaron Lanier, halten KIs für Diebe, die unsere Kreativität stehlen und als ihre eigene ausgeben. Ich befinde mich irgendwo dazwischen. Unter reduktionistischen Gesichtspunkten sind Maschinen eindeutig kreativ, aber wenn wir unter Kreativität verstehen, einer Empfindung – Freude, Verzweiflung, Zorn – Ausdruck zu verleihen, auf Missstände hinzuweisen, uns der Schönheit zu nähern, sind sie es nicht. Eine Maschine ohne Bewusstsein kennt keine Schönheit. Sie ist kreativ ohne den Wil-len dazu. Sie hat uns viel zu zeigen, aber nichts zu sagen. Sie ist – wie Mireille Mathieu (lacht). Sie singt glühende Liebeslieder auf Deutsch, versteht aber kein Wort davon. Was sich ändern dürfte, sollten KIs ihrer selbst bewusst werden.

Dieses Entscheidende, was dem Computer fehlt, kann man auf ein Wort destillieren: Liebe.

Und Leid. Die Eckpfeiler allen künstlerischen Schaffens. Aber vor allem fehlt ihm der Wille. Seine Algorithmen können komplexe Ziele ansteuern. Aber sein Wille dazu ist nicht größer als der eines Hammers, einen Nagel in die Wand zu schlagen.

Aber Sie glauben, dass Maschinen einen Willen entwickeln können.

Ich glaube, dass Maschinen ein Bewusstsein entwickeln können. Damit hätten sie automatisch einen Willen. Das würde eine komplett neue Situation schaffen.

Warum?

Algorithmen sind ein bisschen wie Gene. Festgeschriebene Verhaltensanweisungen. Hier wie dort kann man etliches codieren und manches nicht. Unsere Werte zum Beispiel sind nicht in unseren Genen niedergelegt, sie gründen auf Vereinbarungen, getroffen in unterschiedlichen Kulturkreisen, und auch Gefühle lassen sich nicht programmieren. Weder in Genen noch in Algorithmen. Was ethisch ist, wie wir empfinden, muss der Computer also eigenständig lernen. Durch Beobachtung. KI-Forscher nennen diesen Prozess "Deep Learning". Irgendwann versteht er es, aber ohne jede Leidenschaft. Mit der Erlangung von Bewusst-sein hat er Zugang zu Gefühlen wie Glück, Güte, Zorn und Gier. Dann bekommen Sie es mit einem Wesen zu tun. Einem Wesen mit einem eigenen Willen und eigenen Wünschen. Kann gut, kann schlecht sein.

Bleiben wir eine Stufe vor der Ethik: Eine Maschine kann nur dann superintelligent sein, wenn sie mit unbegrenzten Mengen von Daten gefüttert wird. Also nur bei völliger Datentransparenz. Das Silicon Valley vermittelt den Eindruck, Transparenz führe zur Lösung von Problemen. Ist Transparenz wirklich das, was wir brauchen? Oder nur ein vorgeschobener Grund, um wertvolle Daten kostenlos schürfen zu dürfen?

Der Transparenzwahn des Valleys bezieht sich darauf, wie man sich dort die ideale menschliche Gesellschaft vorstellt. Transparenz für Computer bedeutet etwas anderes. Je mehr Daten einer Maschine zur Verfügung stehen, desto mehr lernt sie. Erkennt Muster, Regelmäßigkeiten, Abweichungen. Was sie befähigt, Krebszellen aufzuspüren oder Bürgerkriege vorauszusagen. Der allergrößte Teil aller Daten ist Big Data, bloßes Rauschen, das so lange nichts über uns aussagt, wie es nicht analysiert und struktu-riert ist. Die Frage lautet derzeit, was die Entwickler der KIs mit den Daten wollen: Wollen sie uns Gutes tun, uns abzocken, uns überwachen?

Der Begriff Transparenz darf also nicht nur die Forderung enthalten, dass Daten verfügbar sind, sondern dass auch jederzeit klar ist, was mit diesen Daten geschieht.

Stichwort pilotiertes Fahren: Das selbstfahrende Auto ist eine nette Hülle. Aber das eigentliche Kapital steckt im Bordcomputer. Wenn ich dem sage: Bring mich von A nach B, aber unterwegs will ich gut essen, macht mir die smarte Bord-KI Vorschläge. Was mir gefällt, entnimmt sie meinem Social-Media-Profil. Aber weiß ich, wessen Interessen sie wahrnimmt, wenn sie mir ein bestimmtes Restaurant empfiehlt? – Ich denke mal: Nein. Wir sind also manipulierbar.

Stimmt. Das funktioniert auch deshalb, weil wir Menschen faul sind. Wir wollen nur bequeme Antworten und Lösungen haben und uns nicht mit der Frage beschäftigen, wie diese Lösungen zustande kommen.

Antworten gibt die Maschine immer. Damit sind die meisten zufrieden. Und fragen nicht weiter nach. Aber die wirklich wahren Antworten liefert immer noch das echte Leben. Ich war auf Recherchereise für Die Tyrannei des Schmetterlings unter anderem in der Sierra Nevada. In einem Wildwest-Kaff namens Downieville. 250 Seelen. Da stand ich mit Cowboys und Goldgräbern im Saloon, mitten in einem Klischee, wie es auch Google liefern würde. Typischen Trump-Wählern halt, sollte man meinen. Und dann kommt einer dieser Typen in seinem karierten Hemd, mit Stetson und weißem Knebelbart, entschuldigt sich beim dritten Whisky dafür, dass seine Nation Trump zum Präsidenten gewählt hat, und die anderen rufen: "Ja, das blöde, rassistische Arschloch! Tut uns so leid, was müsst ihr von uns denken!" So was erzählt dir Google nicht. Das musst du erleben.

Das Interview führten Jochen Kalka und Rolf Schröter. Es erschien in der W&V Jubiläumsausgabe 27-2018.

FRANK SCHÄTZING

Die Biografie des 1957 geborenen Kölners beweist einen vielseitigen, begabten Menschen. Schätzing gründete nicht nur die Werbeagentur Intevi, in der er als Kreativgeschäftsführer bis 2006 arbeitete. Er modelte auch für die Unterwäschemarke Mey, er macht Musik, und nicht zuletzt ist er ein erfolgreicher Schriftsteller. Im Frühjahr 2004 veröffentlichte er den Roman „Der Schwarm“, der seit seinem Erscheinen eine Gesamtauflage von 4,5 Millionen Exemplaren erreicht hat und weltweit in 27 Sprachen übersetzt wurde. Im Frühjahr 2018 erschien Frank Schätzings neuer Thriller „Die Tyrannei des Schmetterlings“. Frank Schätzing lebt und arbeitet in Köln.


Autor:

W&V Redaktion
W&V Redaktion

Nicht alle W&V-Artikel erscheinen unter dem Namen eines einzelnen Autors. Es gibt unterschiedliche Gründe, warum Artikel mit „W&V-Redaktion“ gekennzeichnet sind. Zum Beispiel, wenn mehrere Autoren daran mitgearbeitet haben oder wenn es sich um einen rein nachrichtlichen Text ohne zusätzliche Informationen handelt. Wie auch immer: Die redaktionellen Standards von W&V gelten für jeden einzelnen Artikel.


Alle Specials