Nr. 20 M E D I E N K O R R E S P O N D E N Z 5. Oktober 2018 3 Lutz Hachmeister Wie künstlich ist die künstliche Intelligenz? 5 Vincent C. Müller In 30 Schritten zum Mond? Zukünftiger Fortschritt in der KI 16 Rüdiger Suchsland Von „Golem" zu „Her": Künstliche Intelligenz und Robotik in der Filmgeschichte 26 Raju Pookottil How Species Direct Their Evolution 34 Elisabeth André Lässt sich Empathie simulieren? Ansätze zur Erkennung und Generierung empathischer Reaktionen anhand von Computermodellen 58 Autorenbiografien 59 Bibliografie S o n d e r h e f t M E D I E N E V O L U T I O N Müller, Vincent C. (2018), 'In 30 Schritten zum Mond? Zukünftiger Fortschritt in der KI', Medienkorrespondenz, 20 (05.10.2018), 5-15. http://www.sophia.de http://orcid.org/0000-0002-4144-4957 2 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M AZ U M B E I S P I E LS O N D E R H E F T IM P R E S S U M Medienevolution VI Zum sechsten Mal hat das Institut für Medienund Kommunikationspolitik (IfM) 2017 die Cologne Futures (CF) zu Fragen der Medien und Technikevolution veranstaltet. Dabei ging es im Oktober des vo rigen Jahres um das Thema Menschen, Roboter und Künstliche Intelligenz – eine nahtlose Evolution? Die MK doku mentiert in diesem Sonder heft die auf dieser Tagung gehaltenen Referate von Vincent C. Müller, Rüdiger Suchsland und Raju Pookottil. Zudem enthält dieses Heft den Nachdruck des Aufsatzes „Lässt sich Empathie simulieren?" von Elisabeth André, der als Basis diente für ihr mündliches Referat bei den CF 17. Ergänzt sind die Texte um eine Einleitung von IfM-Direktor Lutz Hachmeister, dem Organisator der Medienevolutionstagung. Die „Cologne Futures 2017" wurden vom IfM organisiert in Koopera tion mit der Deutschen Telekom, der Stadt Köln, dem Westdeutschen Rundfunk (WDR) und der Kölner Kunsthoch schule für Medien (KHM). Die Veranstaltung und diese Dokumenta tion schliessen an die ersten fünf Colloquien zur Medienevolution an (vgl. die Dokumentationen in FK 20/13, FK 34/14, MK 26/15, MK 20/16 und MK 20/17). Die sechsten „Cologne Futures" fanden am 6. Oktober 2017 in der Aula der Kunsthoch schule für Medien statt. Die Veranstalter danken besonders Reza Moussavian und Henrik Schmitz (Deutsche Telekom), Roland Berger (Stadt Köln), Frank Döhmann (KHM) und Matthias Kremin (WDR) für deren Unterstützung. Die „Cologne Futures" (bis 2015: „Cologne Conference Futures") werden im Rahmen des Filmfesti vals Cologne veranstaltet. Das siebte CF-Colloquium zur Medienevolution fand am 2. Oktober 2018 statt, das Thema lautete diesmal: Gedanken lesen? „Brain Reading" und soziale Kontrolle als technologische und politische Felder. Dabei gab es Vorträge von Gert Scobel, Stephan Schleim, Michael Pauen, Wolfgang Hagen und Melissa Little field. Veranstaltungsort war wieder die Kölner Kunsthoch schule für Medien. 5.10.18/MK Nr. 20 • 5. Oktober 2018 • 66. Jahrgang Medienkorrespondenz • hervorgegangen aus der Funkkorrespondenz (FK), 1953-2014 Anschrift von Verlag und Redaktion: Medienkorrespondenz dreipunktdrei mediengesellschaft mbH Heinrich-Brüning-Str. 9, 53113 Bonn Telefon: 0228/26000-0 E-Mail: redaktion@medienkorrespondenz.de Amtsgericht Bonn HRB 18 302 Redaktion: Dieter Anschlag (Chefredakteur), Volker Nünning Geschäftsführer: Ludwig Ring-Eifel Abonnement: Leserservice Medienkorrespondenz Heinrich-Brüning-Str. 9, 53113 Bonn Telefon: 0228/26000-251 E-Mail: leserservice@medienkorrespondenz.de Bezugsbedingungen: Einzelbezieher 32,55 Euro (monatlich, zzgl. Porto) Schüler/Studierende 14,30 Euro (monatlich, zzgl. Porto) Kündigung: 3 Monate vor Abo-Ablauf Konto: dreipunktdrei mediengesellschaft mbH, Pax-Bank e.G. IBAN: DE50370601930027955010; BIC: GENODED1 PAX 5 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A • Der folgende Text ist das Transkript von Vincent C. Müllers Vortrag, gehalten am 6. Oktober bei den „Cologne Futures 2017". Mit diesem Vortrag werde ich die Diskussion fortführen, die bereits in der Ein-führung zu dieser Veranstaltung angeklungen ist. Wohin geht die Reise ungefähr? Da passiert etwas Spannendes, das ist klar. Wie geht es weiter und kann man das vorhersehen? Ich werde mich auf einen Punkt konzentrieren, nämlich dass es im Wesentlichen der zusätzlichen Rechnergeschwindigkeit geschuldet ist, dass die KI, die Künstliche Intelligenz, sich jetzt anders darstellt als noch vor einigen Jahren. Sie haben vorhin in der Einführung gehört, dass auch im Jahr 2000 die Leute sehr optimistisch waren. Ich glaube übrigens nicht, dass Rodney Brooks damals schon so optimistisch war, das würde mich wundern (Brooks 1990, 1991). Es ist jedenfalls klar, dass sich da irgend was tut. Noch vor zehn Jahren war es so, dass die Künstliche Intelligenz einen ziemlich schlechten Ruf hatte. Viele Leute, die an KI geforscht haben, haben das gar nicht so genannt, die nannten das dann Datenanalyse, Sprachverstehen, kognitive Systeme oder ähnlich, um das ein bisschen zu kaschieren. Und jetzt hat sich daran etwas geändert und alle machen KI. Ich glaube, dass das exponentielle Wachstum ein wesentlicher Faktor ist. Ich komme noch dazu, was das ist. Und ich werde mich damit befassen, was für Annahmen hinter der Auffassung stecken, dass vielleicht die gegenwärtige Entwicklung fortgeschrieben werden kann in Richtung einer KI, die wirklich ein hohes Niveau erreichen und ungefähr das menschliche Intelligenzniveau schaffen kann. I. Also, eine Analyse – was passiert gegenwärtig? – und ein paar Annahmen, die dahinterstecken. Dazu beginne ich mit einem kleinen Bild: Hier sieht man einen amerikanischen Physik-Professor, der mit Dominos spielt. Ich werde gleich erklären, warum das wichtig ist. Mit diesem Minidomino – vielleicht fünf Millimeter hoch –, mit dem er da angefangen hat, kann er das Empire State Building über den Haufen werfen. Die Energie wird dadurch aufgewendet, dass er diese Dinger hinstellt; natürlich passieren hier keine Wunder. Was daran interessant ist, finde ich, ist, dass es überhaupt funktioniert und dass es uns wundert. Also, wenn man diesen Menschen am Anfang sieht und diesen kleinen Dominostein, denkt man: „Da passiert gar nichts." Wir sind nicht ohne weiteres in der Lage, uns solche exponentiellen Geschehnisse klarzumachen, auch wenn der Professor gleich am Anfang gesagt hat: „Jeder Dominostein kann einen Dominostein umwerfen, der anderthalbmal so gross ist." Trotzdem scheint uns diese Vorstellung Schwierigkeiten zu bereiten. Vincent C. Müller In 30 Schritten zum Mond? Zukünftiger Fortschritt in der KI 6 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A Das exponentielle Wachstum ist also überraschend. Das erklärt auch meinen Titel „In 30 Schritten zum Mond?". Auch das ist wahrscheinlich keine gute Technik für die Raumfahrt, aber was ich damit meine, ist Folgendes: Stellen Sie sich vor, Sie machen einen normalen Schritt und der nächste Schritt ist doppelt so gross wie der vorherige Schritt und so weiter; sie machen eine Schrittfolge, bei der jeder Schritt doppelt so gross ist wie der vorherige Schritt. Wenn Sie 30 Schritte machen, nur 30 Schritte, dann sind sie bereits am Mond. Wenn Sie wollen, können Sie das nachrechnen. Ich habe nachgerechnet. Es stimmt tatsächlich. Ich habe das irgendwo gelesen und dachte, man soll den Sachen nicht trauen. Es stimmt aber wirklich. Ungefähr 385.000 Kilometer – je nachdem, wo der Mond sich gerade befindet – kann man also in 30 Schritten schaffen. Das heisst also, mit 29 Schritten hat man die Hälfte der Strecke hinter sich. Der erste Schritt ist nur ein ganz normaler Schritt. Der dreissigste Schritt ist aber die Hälfte der Entfernung von hier zum Mond. Es ist ein Riesenschritt und der nächste Schritt ist doppelt so weit in den Weltraum hinaus. Das sind Wachstumsvorgänge, die uns nicht ohne weiteres zugänglich sind. Auch wenn jeder, der ein bisschen Mathematik versteht, das gut verstehen kann. Die Frage ist: Wie weit kommt man damit? Es gibt Leute, die glauben in der KI, dass das die Methode ist, mit der man zum Mond kommt. Es gibt auch schon seit langem Kritiker, die sagen, so gehe es nicht. Zu solchen Kritikern zählen zum Beispiel der Logiker Yehoshua Bar-Hillel und Hubert L. Dreyfus. Sie nennen das den Fehlschluss des ersten Schrittes – first step fallacy (Dreyfus 2012). Diese Kritiker sagen, das ist nun ein Zitat von Dreyfus: Wenn man glaubt, dass man damit zur KI kommt, ist das so, als wenn der erste Affe, der auf einen Baum geklettert ist, sagen würde, er hätte einen Fortschritt auf dem Weg zum Mond gemacht. Man hat zwar einen Fortschritt gemacht, aber man kommt so nicht zum Mond. Man kann nicht einfach so weitermachen, wie man bisher weitergemacht hat. Die Frage ist also ganz oft: Sind die Schritte, die wir bis jetzt gemacht haben, sind das solche Schritte, mit denen man einfach weitermachen kann und dann zum Mond kommt, oder muss man etwas völlig Anderes machen? Man kann auf den Baum klettern und das ist eigent lich keine schlechte Methode, aber eben nur bis zu einem gewissen Punkt. Das ist also die Frage. Mir scheint, das ist eine gute alte philosophische Frage, nämlich die Frage, die Sokrates immer schon seinen Mitbürgern gestellt und sich damit unbeliebt gemacht hat, nämlich: Was sind die Annahmen? Unter welcher Annahme stimmt das, was sie da behaupten, dass es dahin gehen würde? Das Schicksal von Sokrates ist ja bekannt, oder? Was ist mit ihm passiert? Sie haben ihn umgebracht. Das ist eine riskante Technik, wenn man sich gegen etwas stellt. Dreyfus, der vor kurzem eines natürlichen Todes gestorben ist, hat sich damit bei den KI-Leuten vor langer Zeit sehr unbeliebt gemacht und gesagt (Dreyfus 1972): „Das wird nichts." II. Nick Bostrom und ich haben herauszufinden versucht, was die gegen wärtige Auffassung ist (Müller/Bostrom 2016). Wie wird es weitergehen? Wir haben uns, um den üblichen Vorurteilen aus dem Weg zu gehen, den Begriff High Level Machine Intelligence (HLMI) ausgedacht. Das ist also absichtlich einfach etwas Neues. Das haben wir definiert: High Level Machine Intelligence bedeutet, dass eine Maschine mehr oder weniger alle menschlichen Arbeitstätigkeiten ausüben kann. Vielleicht sind da ein paar Tätigkeiten, die eine Maschine, weil sie eine Maschine ist, nicht ausführen kann, aber im Prinzip ist es so operationell definiert. 7 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A Und dann haben wir eine einige hundert Experten verschiedener Professionen gefragt, wann sie glauben, dass die Wahrscheinlichkeit, dass dieses Ereignis eintritt, 10 Prozent ist, wann sie bei 50 Prozent liegt und wann bei 90 Prozent. Wir haben also nicht gefragt: „Wann tritt das ein?" Sondern: „Wann glauben Sie, dass die Wahrscheinlichkeit diesen Punkt erreicht?" (Siehe die Grafik in Müller/ Bostrom 2016: 562). Wie man sieht, ist die Wahrscheinlichkeit hier unten erst einmal, dass das im nächsten Jahr bei 90 Prozent ist, fast null. Denn niemand glaubt das. Die Wahrscheinlichkeit, dass es bei 90 Prozent ist – die rechte der drei Kurven –, geht relativ langsam voraus und erreicht in den nächsten 200 Jahren ungefähr 1. Die 10-Prozent-Wahrscheinlichkeit und insbesondere die 50-Prozent-Wahrscheinlichkeit gehen in den ersten Jahren relativ zügig voran und kommen 1 schon in 100 Jahren recht nahe. Das kann man vielleicht ein bisschen besser sehen, wenn man sich die Zahlen anschaut. Wir haben auf einer KI-Konferenz zur Philosophie der Künstlichen Intelligenz (www.pt-ai.org) verschiedene Leute befragt, auch die 100 meistzitierten Forscher. Der Median dieser Vorhersage ist ungefähr das Jahr 2040. Der Schnitt ist irgend wo zwischen 2014 und 2050 für den 50-Prozent-Punkt. Das heisst also, diese Leute von der AGI (Artificial General Intelligence) – das ist eine Vereinigung, die der Ansicht ist, dass die Künstliche Intelligenz bereits weit fortgeschritten ist –, diese Leute, die wir gefragt haben, glauben, dass das der Punkt ist, an dem die Wahrscheinlichkeit über 50 Prozent steigt. Wie Sie schon gehört haben, ist solchen Vorhersagen aber nicht zu sehr zu trauen. Im Gegensatz zu dem, was Sie gehört haben, ist unsere Erfahrung die, dass solche Vorhersagen meistens so ungefähr 25 bis 30 Jahre in der Zukunft liegen. Das ist so der Sweet Spot für solche Sachen. Was in zehn Jahren passieren wird, weiss man schon relativ gut. Das sind gegenwärtig Technologien, die ungefähr 15 Jahre weiter vorausschreibbar sind. Dann fängt es ungefähr an, dass man sagen könnte: Wenn alles gelöst wäre, dann wird es anders gehen. Also in 25 bis 30 Jahren ist es relativ sicher, dass wir diesen Punkt erreichen. Also, man weiss eigentlich wirklich nicht, was da passieren wird. Es wird so vorausgesehen. Deshalb gibt es ziemlich viele Parallelen – wenn man andere Vorhersagen anschaut. 8 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A III. Was passiert mit diesen Daten und warum ist Geschwindigkeit so wichtig? Ein relativ leichtes Beispiel sind Spiele – etwa „Tic Tac Toe" („Drei gewinnt"). Man versucht, drei Kreuze oder drei Kreise in eine Reihe zu bringen. Das haben Sie wahrscheinlich in der Schule unter der Bank gespielt. Warum spielen Sie das jetzt nicht mehr? Ich glaube nicht, dass irgendjemand von ihnen noch „Tic Tac Toe" spielt. Man stellt relativ bald fest, dass – wenn nicht ein Spieler grobe Fehler macht – keiner gewinnt. „Tic Tac Toe" ist relativ leicht vorhersehbar und deswegen lösbar. Die möglichen Positionen bei „Tic Tac Toe" sind 39. Das sind nicht alle. Einige in der ganzen Menge sind illegal. „Tic Tac Toe" hat ungefähr 5500 mögliche Spielsituationen – mit einem gewöhnlichen Computer total leicht zu berechnen. Also ist dieses Spiel formell gelöst. Man kann von jeder Position aus wissen, was der beste Zug ist, und wenn da keiner einen groben Fehler macht, gewinnt, wie gesagt, auch keiner. Bei Schach sieht die Sache schon etwas anders aus. Man hat ein grösseres Feld und auch mehr Figuren, die kompliziertere Züge machen und eben nicht nur einen Zug pro Figur. Es wird geschätzt, dass die möglichen Züge im Schach ungefähr 1047 sind (Shannon 1950). Das ist eine gewaltige Zahl. Und auch wenn Computer, wie Sie sicherlich wissen, inzwischen deutlich besser Schach spielen als Menschen, ist Schach nicht in dem Sinne gelöst. Das heisst, man kann nicht einfach weiterrechnen, welches der beste Zug ist, und den ganzen Rest des Spiels durchrechnen. Das ist nicht möglich, weil man dafür sehr viel mehr Rechenschritte bräuchte, als man selbst in Hunderten oder Tausenden von Jahren machen könnte. Also braucht man andere Techniken, die es ermöglichen, diesen Entscheidungsbaum zu verkleinern. Und diese Techniken sind inzwischen ganz gut entwickelt. Man kann auch die Anfangszüge vorher berechnen. Jeder von Ihnen wird das kennen, wenn Sie mal mit einem guten Schachspieler gespielt haben. Die spielen am Anfang eigentlich, ohne darüber überhaupt nachzudenken. Dann fangen diese professionellen Spieler irgendwann an, wahrscheinlich an einem Punkt, an dem sie etwas Unkonventionelles gemacht haben. Der Profi denkt, das muss ein Fehler sein. Jetzt werde ich ihn besiegen. Das kann man in eine Datenbank packen. Bei Go ist es ähnlich. Das Spielfeld ist grösser, die Zahl der Positionen ist noch einmal massiv grösser. Schach ist bekanntlich 1996 auf Weltmeisterniveau angekommen. Bei Go ist das im Jahr 2016 der Fall gewesen – mit Machine Learning. Poker ist inzwischen auch mehr oder weniger auf diesem Niveau. Videospiele sind ein interessanter Bereich. Auch da wird versucht, Spieler zu kreieren, die besser sind als menschliche Spieler. Die Frage ist: Geht es jetzt einfach so weiter? Ein wichtiger Punkt dabei ist, dass beispielsweise Schach ein digitales Spiel ist. Ein Bauer kann nur auf A2 oder auf A3 stehen. Er kann nicht irgendwo in der Mitte ungefähr stehen. Ausserdem spielt nichts eine Rolle, was ausserhalb dieses Acht-mal-Acht-Feldes ist. Der Rand des Spielfelds ist das Ende der Welt. Und das gilt für die Spiele, die wir im gewöhnlichen Leben spielen, überhaupt nicht. Schach ist also massiv einfacher als alles, was sie in ihrem gewöhnlichen Leben tun. Also, wie wird es weitergehen? Es gibt da verschiedene Auffassungen. Toby Walsh, der sagt es, wie ich finde, ein bisschen einfach: „Ein schnell denkender Hund ist und bleibt ein Hund." Ich bin mir da nicht so sicher. Wenn ich mir vorstelle, ich hätte einen Hund, der massiv schneller denken würde als ich, dann würde ich mich ein bisschen 9 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A unsicher fühlen, ob ich den noch unter Kontrolle hätte. Wenn Sie sich vorstellen, Sie könnten massiv schneller denken als die anderen, wenn sich die anderen sozusagen in Slowmotion verhalten, dann wären sie den anderen in der Regel deutlich voraus. Hier ist noch einmal eine Illustration zu der Rechenkapazität. Das ist eine Variante von „Moore's Law" – und zwar „Moore's Law" im Verhältnis zum Preis. Wie viel Rechenkapazität kriegt man für einen Dollar? Die Beschleunigung hier pro Dollar seit dem Jahr 2000 liegt ungefähr beim Faktor 1000. Rechner sind jetzt also ungefähr um einen Faktor 1000 schneller, als sie es vor 17 Jahren waren. Stellen Sie sich das mal mit irgendwas anderem vor, beispielsweise mit der Geschwindigkeit von Autos. Das ist ein unglaublicher Fortschritt, der in keiner anderen Technologie erreicht wird, und das geht ungefähr alle 18 Monate so weiter. Das heisst also, Ende des Jahres 2018 sind wir schon zweitausendmal schneller, als wir es im Jahr 2000 waren. Es ist dasselbe wie beim Mond. Die Entwicklung wird sich weiter beschleunigen. Wie weit das gehen wird? Genau weiss das natürlich niemand. Wir wissen, dass es nicht ständig weitergehen kann. Es muss irgendwann aufhören, langsamer werden. Mein Kollege Anders Sandberg hat sich ein bisschen damit beschäftigt. Er glaubt, dass von heute aus gesehen die Beschleunigung noch ungefähr um einen Faktor von 100.000 zunehmen wird (Garfinkel 2017). Damit zusammenhängend gibt es einen anderen Faktor, mit dem ich mich in letzter Zeit öfter beschäftige, das ist nämlich der Datenzuwachs. Es ist nicht nur so, dass man die Daten schneller berechnen kann, sondern auch so, dass man massiv mehr Daten zur Verfügung hat und verschiedene Arten von Daten, die man gemeinsam verarbeiten kann. Das erleichtert einem die Lösung von enorm vielen Prozessen gewaltig. Das ist bereits eine Entwicklung, die gegenwärtig im Gange ist. Eine Fussnote noch dazu. Alles, worüber ich hier jetzt spreche, ist nicht Singularität. Mit Singularität bezeichnet man die Idee, dass man eine Superintelligenz hat, die von selbst schneller wird. Hier ist ein ganz schönes Zitat von Irving Good 10 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A (Good 1965): „...an ultraintelligent machine could design even better machines. [...] It is curious that this point is made so seldom outside of science fiction." Das ist nicht unbedingt eine neue Idee. Und das war im Grunde genommen Science-Fiction, als er das gesagt hat. Die Idee ist: Wenn wir schlau genug sind, eine KI zu schaffen, dann – per Definition – müsste auch eine KI schlau genug sein, eine KI zu schaffen, die ein bisschen schlauer ist als wir. Und die nächste KI kann eine neue schaffen und so weiter. Das ist nicht der Punkt meiner heutigen Diskussion. Ich beschäftige mich damit nur bis zu dem Punkt, wo die KI erreicht wird, nicht damit, was danach passiert. Ich werde jetzt anfangen, mich mit den Annahmen zu beschäftigen. IV. Hier ist eine Abbildung aus einem Buch von Ray Kurzweil (Kurzweil 2005). Die Punkte stehen für die Rechengeschwindigkeiten der schnellsten Rechner, die er zum damaligen Zeitpunkt finden konnte. Es ist eine logarithmische Tafel, das heisst also, auf der Vertikalen sind Zehnerpotenzen. Hier hat er die Geschwindigkeit aufgetragen, in der er glaubt, dass ein Insektengehirn, ein Mausgehirn, ein menschliches Gehirn und alle menschlichen Gehirne rechnen würden. Dann kann er ganz einfach sagen: 'Daraus ergibt sich eine Kurve. Die ist hier und dann ist diese gestrichelte Kurve, die geht weiter. Irgendwann schneidet sie diese Linien und man weiss also ungefähr, wann das eine schneller wird als das andere.' Es ist eine ziemlich komische Annahme, wie viele Leute dann auch gesagt haben. Woher weiss man zum Beispiel, dass zwei Menschen doppelt so schlau sind wie einer. Meistens ist das Umgekehrte der Fall. Und woher weiss man, dass reine Rechengeschwindigkeit und Intelligenz dasselbe wären. Also, das ist, glaube ich, diskreditiert. Der Punkt scheint mir, dass diese Annahmen Kurzweils sicherlich problematisch sind, aber das exponentielle Wachstum ist ein entscheidender Faktor. Die meisten Leute schütten das Kind mit dem Bade aus. Sie sagen: 'Kurzweil hat das missverstanden, also ist diese ganze Vorhersage Blödsinn.' Das glaube ich nicht. Die Vorhersage ist deswegen nicht Blödsinn, weil das exponentielle Wachstum, das er auf dieser Kurve verzeichnet, tatsächlich stattfindet und dies tatsächlich enorme Auswirkungen hat. Die Frage ist: Welche Auswirkungen hat das? 11 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A Eine Annahme, die hier gemacht wird, ist, dass Intelligenz in einem mathematischen Sinne 'geordnet' ist. Das heisst: Wenn A intelligenter ist als B und B intelligenter ist als C, dann ist A intelligenter als C. Das stimmt zum Beispiel im Fussball nicht. Wenn also eine Fussballmannschaft A die Fussballmannschaft B besiegt, und B besiegt C, dann heisst das nicht, dass A auch C besiegen würde. Und bei Intelligenz bin ich mir auch nicht so sicher, ob das wirklich eine gute Idee ist, sie so zu sehen. Vielleicht ist das halb geordnet. Gibt es da vielleicht mehr als eine Dimension? Beim Begriff Intelligenz scheint mir da noch einiges Potenzial vorhanden zu sein. Vielleicht sollte man ihn überhaupt nicht verwenden. Es gibt durchaus Leute, die denken, dass es ein Irrtum war, ihn zu verwenden. Man sollte nicht von Intelligenz sprechen und etwas anderes machen. Es gibt den schönen Fluch der Künstlichen Intelligenz. Der Fluch ist, dass Intelligenz als das definiert ist, was Maschinen nicht können. Also die Kl läuft der Intelligenz immer hinterher. Sobald die Maschinen irgendwas können, sagen die Leute: Das war ja keine Intelligenz. Lange Zeit wurde gesagt, Schachspielen sei ein Zeichen eines intelligenten Menschen. Sobald die Computer das konnten, haben alle Leute gesagt: 'Ja, Schach! Das ist nichts Besonderes.' Und dann geht es bei allen Sachen so weiter. Demnächst wird es wahrscheinlich heissen: Autofahren? Nichts Besonderes. Meine eigene Auffassung zu dieser Frage ist, dass Intelligenz vielleicht zwei Dimensionen hat. Nämlich eine Dimension des Erfolges in der Horizontalen und Flexibilität in der vertikalen Variante (Gomila/Müller 2012; Müller 2012). Und die klassischen künstlichen Systeme sind sehr, sehr gut in einigen bestimmten Sachen, aber sehr, sehr unflexibel. Sie können nichts anderes. Ein Schachcomputer kann nur Schachspielen, der kann sonst gar nichts. Und in der Regel ist ein natürliches System in der Lage, dies und jenes zu machen. Es ist also besser in der vertikalen Ebene, aber hier ist noch jede Menge Freiraum vorhanden für schlaue Systeme, die beides ganz gut können. Zweite Annahme bei dieser Idee, dass die Geschwindigkeit entscheidend ist, ist, dass man eigentlich Kognitionswissenschaft nicht braucht, also das man eigentlich nicht wissen muss, wie natürliche Systeme diese Probleme eigentlich lösen. Das ist wiederum eine Annahme, die in der klassischen KI gemacht wurde. Künstliche Intelligenz geht folgendermassen vonstatten: Man macht Kognitionswissenschaft und man findet heraus, wie intelligente Wesen – insbesondere Menschen – das machen. Wenn man das herausgefunden hat, kann man dieses Modell in eine andere Hardware übertragen und dann dort laufen lassen. Gleichzeitig kann man auf diese Weise prüfen, ob die Theorie in der Kognitionswissenschaft stimmt oder nicht. Inzwischen ist das weitgehend voneinander gelöst. Die meisten KI-Leute beschäftigen sich relativ wenig mit Kognitionswissenschaft (Müller 2016). Ich finde das in verschiedener Hinsicht riskant. Ein Risiko sieht man, wenn man einen Spitzenfussballer – nehmen wir Marco Reus – mit einem Spitzenschachspieler – wie etwa Gary Kasparow – vergleicht. Welcher von den beiden ist intelligenter? Welcher von ihnen löst eine schwierigere Aufgabe? Traditionell würde man sicher den Schachspieler nennen. Kasparow ist vielleicht einer der erfolgreichen Schachspieler aller Zeiten. Und leider hauptsächlich deswegen bekannt, weil er gegen eine Maschine verloren hat. Das verfolgt ihn noch immer. Ich habe ihn getroffen. Und es scheint eine Sache zu sein, die ihn tatsächlich umtreibt. Kasparow, so hat man geglaubt, löst eine sehr viel schwierigere Aufgabe. Es hat sich aber herausgestellt, dass das, was Marco Reus macht, in Wirklichkeit viel schwieriger ist als das, was Kasparow macht. Wir stellen uns Fussballspieler nicht als besonders intelligent vor, doch das ist vielleicht ein Irr12 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A tum. Was die in real time machen, mit der körperlichen Komplexität, durch die Zusammenarbeit mit anderen Leuten, ist viel, viel komplexer als Schachspielen. Und davon sind wir in der KI weit entfernt. Ich weiss nicht, ob sie schon mal RoboCup-Fussball gesehen haben? Das ist jedenfalls zum Totlachen und von normalem Fussball meilenweit entfernt. Wobei man natürlich sehr vorsichtig sein muss, denn zum Totlachen war manches andere vor einigen Jahren auch noch, was jetzt überhaupt nicht mehr zum Totlachen ist. Wie kommt man da weiter? Kommt man mit Speed in dieser Richtung weiter? V. Eine weitere Annahme, die entscheidend ist, über die ich jetzt aber nicht besonders reden will, weil sie theoretisch kompliziert ist, lautet: Kognition ist Berechnung. Früher ging man in der klassischen KI davon aus, dass eigentlich das, was ich mache, um kognitive Fähigkeiten zu haben, also zum Beispiel das Glas zu finden und da einen Saft eingiessen zu können oder herauszufinden, dass alle Leute mich komisch angucken, dass irgendetwas nicht stimmt mit meinem Vortrag, dass das alles Berechnungsprozesse sind und dementsprechend Berechnungsprozesse in meinem Hirn in Berechnungsprozesse in einem Computer übertragen werden können oder zumindest – das ist der zweite Punkt – dass Berechnungsprozesse dafür hinreichend wären, selbst wenn das im natürlichen System nicht der Fall ist. Das scheint mir falsch zu sein. Berechnung an sich ist wahrscheinlich noch nicht ausreichend. Man braucht vermutlich Interaktion mit der physischen Welt. Und wie das funktionieren kann, ist ziemlich kompliziert. Eine andere Annahme ist, dass die gegenwärtigen Techniken ausreichend sind. Das hört man ziemlich oft. Also jedes Mal, wenn wir eine Technik haben, gehen wir gleich davon aus, dass diese Technik wunderbar ist und weitergehend alle unsere Probleme löst. Das war in der klassischen KI schon so. Dann gab es eine relativ kurze Zeit lang Rodney Brooks' neue KI: Wir machen das alles ganz anders – ohne Repräsentation. Grosser Enthusiasmus! Jetzt werden alle Probleme gelöst. Das ging dann bis zu einem Staubsaugerroboter – der diese einfachen Aufgaben löst, aber ganz viele andere Sachen eben nicht. Im Moment ist maschinelles Lernen en vogue, womit ganz viele Probleme wunderbar gelöst werden können, auch weil die Rechner schneller sind. Sicherlich auch eine hochproblematische Technik, weil das Grundprinzip lautet: Lernen ist, wenn der Output stimmt. Man weiss aber nie so richtig, warum der Output eigent lich stimmt. Insbesondere wenn man das Gerät hat selbst lernen lassen. Und deswegen weiss man auch nicht so richtig, was der Output das nächste Mal sein wird, wenn die Situation ein klein wenig anders ist. Es kann ganz gut sein, dass wir auch da auf die Nase fallen werden. Wenn wir sagen, Speed reicht aus, dann ist das aber eine Annahme, bei der wir davon ausgehen, dass die gegenwärtigen Techniken funktionieren werden. Es gibt aber auch eine ganze Menge Leute, die glauben, wir bräuchten etwas ganz Neues. Ganz grosse Schwierigkeiten gibt es bei der Integration. Wie bringen wir diese ganzen Sachen zusammen, die wir haben? Also zum Beispiel Sensory Integration – ganz viele verschiedene Sensoren. Wie macht man das? Wie bringt man das zusammen mit Memory-Aktionen? Das ist alles sehr problematisch. Und wie kann man diese ganzen Techniken so kombinieren, dass sie skalierbar sind, wenn man grössere Systeme damit macht, dass sie auch wirklich funktionieren? Das ist nicht bei allen Systemen so. Man kann Flugzeuge bauen, die zehn Meter lange Tragflächen haben, aber nicht einen Kilometer lange. Es geht irgendwann nicht mehr. Es ist nicht bei jeder Technik so, dass man sie ohne weiteres in eine grössere Form bringen kann. 13 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A Ein schöner Reality-Check in dieser Frage scheint mir autonomes Fahren zu sein. Da gibt es verschiedene Level, von denen üblicherweise gesprochenen wird. Level 5 ist autonomes Fahren in dem Sinne, dass ein Fahrer vollständig ersetzt werden kann. Man braucht keinen Fahrer mehr. Und dazu hören Sie ganz verschiedene Sachen. Hier habe ich ein schönes Zitat vom Entwicklungsleiter einer deutschen Autofirma, die mich vor einigen Monaten eingeladen hatte: „Level 5, daran arbeiten wir nicht." Das war sein Kommentar dazu. Er glaubt, die Leute, die sagen, dass sie Level 5 machen werden, wie zum Beispiel Elon Musk, also Tesla, die werden auf die Nase fallen. Im Grunde genommen war seine Theorie: 'Wir warten, dass sie ordentlich auf die Nase fallen. Je mehr Leute sich in ihren TeslaAutos umbringen, desto mehr Leute werden dann unsere Autos kaufen.' Das war so ungefähr die Marketingstrategie – riskant, aber es ist immerhin eine Strategie. Ingenieurswissenschaftler bauen normalerweise Systeme, wo sie wirklich mehr oder weniger garantieren können, dass das System so funktioniert, wie es behauptet wird. Wird es mit den gegenwärtigen Techniken funktionieren? Oder nicht? Meine gegenwärtige Annahme ist: Vielleicht ja, aber so richtig genau weiss man es noch nicht. Last but not least: Technological Readiness Level (TRL). Das ist eine Skala von der NASA. Das ist eine kleine Erinnerung, dass, wenn man eine Technologie erzeugt, es immer noch ein ganz schön weiter Weg ist. Beispielsweise von dem Bereich drei oder vier – wo man sagt, das ist eine Technologie, die im Prinzip funktioniert. Wir haben da mal was im Labor. Das geht schon ganz gut. Bis zu acht oder neun – man hat ein vollständiges System, das in der Umwelt wirklich funktioniert. Es gibt Techniken, die kommen nie auf die höheren Level. Kernfusion zum Beispiel hat solche Probleme. Im Prinzip geht das, das wissen wir. Aus verschiedenen Gründen aber, die vielleicht auch mit Geld und anderen Sachen zusammenhängen, haben sie es bisher nicht geschafft, wirklich Systeme zu machen, die auch tatsächlich Strom produzieren und nicht nur Strom verbrauchen. VI. Also zusammenfassend, die Annahmen, die ich hier sehe, sind im Wesentlichen die folgenden fünf: 1) Die Intelligenz ist eindimensional und messbar. Das scheint mir etwas pro- blematisch zu sein. 2) Kognitionswissenschaft wird nicht benötigt, um diese Erfolge zu erzielen. Das scheint mir noch problematischer zu sein. Es kann sein, würde mich aber wundern. 3) Berechnung ist hinreichend. Mir scheint, das ist klarerweise nicht der Fall. Man muss sich also leider in die dreckigen Gebiete der Robotik und der Sen- sorik begeben. 14 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A 4) Die gegenwärtigen Techniken sind ausreichend (skalierbar) und, um das Einstein-Zitat abzuwandeln: Wir brauchen Transpiration, keine Inspiration. Wir können im Prinzip weiterarbeiten, wo wir gegenwärtig sind. Wenn ich sage, Speed und Data machen diese Arbeit, meine ich natürlich nicht damit, dass die Leute in der Forschung sitzen und warten, dass Intel die neuen Pro- zessoren herausbringt. Das erfordert eine ganze Menge Arbeit, um das zu tun. Und schliesslich und endlich: 5) Technological Readiness Level, erscheinen sie als machbar? Auch das weiss man im Moment nicht. Mir scheint, da gibt es einiges zu tun. Ist das die richtige Analyse? Sind das die richtigen Annahmen? Da gibt es vielleicht eine ganze Menge anderer Probleme ethischer Natur oder andere. Das sind Dinge, die mich beschäftigen. Ich bin jetzt gerade dabei, ein Handbuch herauszugeben: „Philosophy of AI", bei der Oxford University Press. Ich organisiere demnächst zur Thematik eine Konferenz in Leeds (vgl.: www.pt-ai.org/2017/). Was ich hier und heute versucht habe, war, einen Überblick zu geben. Und was passiert in Deutschland? Ich weiss es auch nicht. Es ist ziemlich still in Deutschland in dieser Frage. Εs gibt eine Menge sehr guter Forschung in der KI – nicht, dass wir das jetzt durcheinanderbringen – und es gibt auch Forschung der Kognitionswissenschaft. Doch auch diese Sachen, die da mal einen Schritt zurückgehen und sich fragen: Wohin geht das? Was sind das für Annahmen? Ist es überhaupt gesellschaftlich erwünscht, was wir da machen? Ist es problematisch? Dazu tut sich, scheint mir, relativ wenig. Ich habe da ein oder zwei Leute gesehen, die da etwas machen. In Düsseldorf gibt es jemanden, in Berlin. Aber insgesamt ist es relativ still. 5.10.18/MK Zusammenfassung • Die Entwicklungen in der Künstlichen Intelligenz (KI) sind spannend. Aber wohin geht die Reise? Ich stelle eine Analyse vor, der zufolge exponentielles Wachstum von Rechengeschwindigkeit und Daten die entscheidenden Faktoren im bisherigen Fortschritt waren. Im Folgenden erläutere ich, unter welchen Annahmen dieses Wachstum auch weiterhin Fortschritt ermöglichen wird: 1) Intelligenz ist eindimensional und messbar, 2) Kognitionswissenschaft wird für KI nicht benötigt, 3) Berechnung (computation) ist hinreichend für Kognition, 4) Gegenwärtige Techniken und Architektur sind ausreichend skalierbar, 5) Technological Readiness Levels (TRL) erweisen sich als machbar. Diese Annahmen werden sich als dubios erweisen. Literatur Brooks, Rodney A. (1990): Elephants don't play chess, in: „Robotics and Autonomous Systems", Nr. 6, S. 3-15 Brooks, Rodney A. (1991): Intelligence without representation, in: „Artificial Intelligence", Nr. 47, S. 139-159 Dreyfus, Hubert L. (2012): A history of first step fallacies, in: „Minds and Machines", Nr. 22 (2/Special issue „Philosophy of AI", ed. Vincent C. Müller), S. 87-99 Dreyfus, Hubert L. (1972): What computers still can't do: A critique of artificial reason (2 edn., Cambridge, Mass.: MIT Press) 15 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A Garfinkel Ben/Brundage, Miles/Filan, Daniel/ Flynn, Carrick/Luketina, Jelena/ Page, Michael/Sandberg, Anders/Snyder-Beattie, Andrew/Tegmark, Max (2017): On the Impossibility of Supersized Machines, in: „arXiv preprint arXiv":1703.10987, (2017/3/31) Gomila, Antoni/Müller, Vincent C. (2012): Challenges for artificial cognitive systems, in: „Journal of Cognitive Science", Nr. 13 (4), S. 453-469 Good, Irvin J. (1965): Speculations concerning the first ultraintelligent machine, in: Alt, Franz L/Ruminoff, Morris (eds.): „Advances in Computers" (6; New York/ London: Academic Press), S. 31-88 Kurzweil, Ray (2005): The singularity is near: When humans transcend bio logy (London: Viking) Müller, Vincent C. (2012): Autonomous cognitive systems in real-world environments: Less control, more flexibility and better interaction, in: „Cognitive Computation", Nr. 4 (3), S. 212-215 Müller, Vincent C. (2016): New developments in the philosophy of AI, in: Vincent C. Müller (ed.): Fundamental Issues of Artificial Intelligence (Synthese Library; Berlin: Springer), S. 1-6 Müller, Vincent C./Bostrom, Nick (2016): Future progress in Artificial Intelligence: A survey of expert opinion, in: Müller, Vincent C. (ed.): Fundamental issues of Artificial Intelligence (Synthese Library; Berlin: Springer), S. 553-570 Shannon, Claude E. (1950): Programming a computer for playing chess, in: „Philosophical Magazine", Nr. 41 (314), S. 265-275 Herbert von Halem Verlag • edition medienpraxis 10 2013, 340 S., 6 Abb., Broschur, 190 x 120 mm EUR(D) 24,00 / EUR(A) 24,55 / sFr. 40,50 / ISBN 978-3-86962-081-7 „Viel trockener und sperriger kann ein Buchtitel nicht mehr ausfallen. [...] Was aber die beiden Herausgeber Lutz Hachmeister und Dieter Anschlag hier bieten, ist FünfSterne-Analyse vom Feinsten. [...] Und da praktisch alles, was in Deutschland relevant ist, bald auch in Österreich von Bedeutung ist, sollte dieses Werk vor allem bei Politikern und Medienmachern auf dem Nachtkästchen liegen." „Statement", Medienmagazin des Österreichischen Journalisten-Clubs (Ausgabe Juli/August 2015) Herausgegeben von Lutz Hachmeister und Dieter Anschlag Rundfunkpolitik und Netzpolitik Strukturwandel der Medienpolitik in Deutschland A N Z E I G E 58 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A Autorenbiografien Vincent C. Müller Vincent C. Müller ist Professor für Philosophie am Anatolia College/ATC und Academic Fellow an der University of Leeds. Er forscht zur Zukunft von Computertechnologien. Er ist Präsident der European Society for Cognitive Systems und Vorsitzender von euRobotics für den Bereich „ethical, legal and socio-economic issues". Müller hat in Marburg, Hamburg London und Oxford Philosophie, Kognitionswissenschaften, Linguistik und Geschichte studiert. Rüdiger Suchsland Rüdiger Suchsland, Jg. 1968, ist Filmkritiker, Autor und Regisseur. Er schreibt unter anderem für die „Frankfurter Allgemeine Zeitung", die „Frankfurter Rundschau", die „Berliner Zeitung", die „Jüdische Allgemeine", den „Filmdienst" und das Online-Magazin „Telepolis". Von 1998 bis 2004 arbeitete er für das Filmfest München, das Filmfestival Mannheim-Heidelberg und für das Festival des deutschen Films. Im Jahr 2014 erschien sein Film „Von Caligari zu Hitler" über das Kino der Weimarer Republik. Er ist zudem Autor und Regisseur des Dokumentarfilms „Hitlers Hollywood. Das deutsche Kino im Zeitalter der Propaganda 1933-1945" (Kinokoproduktion Arte/ZDF). Raju Pookottil Raju Pookottil ist Autor und Geschäftsmann. Er hält einen MBA in Engineering, lebt und arbeitet in London. Sein Buch „BEEM: Biological Emergence Based Evolutionary Mechanism How Species Direct Their Own Evolution" (2013) nähert sich auf provozierende Weise den biologischen Evolutionsprozessen. In dem Buch zieht Raju Pookottil die Dominanz von Darwins Prinzip der natürlichen Selektion in Zweifel und argumentiert, dass Spezies durchaus ihre evolutionäre Entwicklung selbständig steuern und optimieren können, etwa indem sie gezielt Modifikationen der DNA dort vornehmen, wo es für ihren Fortbestand nötig ist. Elisabeth André Prof. Elisabeth André ist Informatikerin und lehrt an der Universität Augsburg. Sie leitet dort den Lehrstuhl Human Centered Multimedia und arbeitet auf den Gebieten Intelligent User Interfaces, Virtual Agents und Social Computing. Elisabeth André erhielt im Sommer 2007 ein Alcatel-Lucent Fellowship für ihre Arbeiten im Bereich der Kommunikationsforschung. Im Jahr 2010 wurde sie zum Mitglied der Leopoldina, der Academy of Europe und von AcademiaNet. 2013 erhielt sie für ihre Arbeiten im Bereich der Künstlichen Intelligenz die Ernennung zum ECCAI Fellow (European Coordinating Committee for Artificial Intelligence). 59 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A Bibliografie: Bücher und Aufsätze zum Themenbereich Medienund Technikevolution Arthur, W. Brian: The Nature of Technology: What It Is and How It Evolves (2009) Barbrook, Richard: Die Klasse des Neuen (2009) Barrow, John D.: Impossibility: The Limits of Science and the Science of Limits (1998) Basalla, George: The Evolution of Technology (1988) Bickenbach, Matthias: Medienevolution – Begriff oder Metapher? Überlegungen zur Form der Mediengeschichte, in: Fabio Crivellari u.a. (Hrsg.): Die Medien der Geschichte. Historizität und Medialität in interdisziplinärer Perspektive (2004) Blackmore, Susan: Evolution and Memes: The human brain as a selective imitation device, in: „Cybernetics and Systems", Vol. 32, Nr. 1 (2001) Blackmore, Susan: The Meme Machine (1999) Bostrom, Nick: Superintelligenz: Szenarien einer kommenden Revolution (2014) Breidbach, Olaf: Neue Wissensordnungen: Wie aus Informationen und Nachrichten kulturelles Wissen entsteht (2008) Brockman, John (Hrsg.): Was sollen wir von Künstlicher Intelligenz halten? (2017) Carr, Nicolas: The Glass Cage: Where Automation Is Taking Us (2014) Czitrom, Daniel J.: Media and the American Mind. From Morse to McLuhan (1982) Daugherty, Paul R./Wilson, H. James: Human + Machine. Künstliche Intelligenz und die Zukunft der Arbeit (2018) Drew, Jesse: A social history of contemporary democratic media (2013) Dawkins, Richard: Das egoistische Gen (2008) Derman, Emanuel: Models.Behaving.Badly (2011) Drew, Jesse: A social history of contemporary democratic media (2013) Dreyfus, Hubert L.: What computers still can't do: A critique of artificial reason (1972, 2nd edition) Dyson, George B.: Darwin Among the Machines. The Evolution of Global Intelligence (1997) Dyson, George B.: Turings Kathedrale: Die Ursprünge des digitalen Zeitalters (2014) Edgerton, David: The Shock of the Old: Technology and Global History since 1900 (2006) Fassler, Manfred: Cyber-Moderne. Medienevolution, globale Netzwerke und die Künste der Kommunikation (1999) Gabler, Neal: Life the Movie. How Entertainment Conquered Reality (1998) Gardner, Dan: Future Babble: Why Expert Predictions Fail and Why We Believe Them Anyway (2011) Giesecke, Michael: Von den Mythen der Buchkultur zu den Visionen der Informationsgesellschaft. Trendforschung zur kulturellen Medienökologie (2002) 60 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A Gomila, Antoni/Müller, Vincent C.: Challenges for artificial cognitive systems, in: „Journal of Cognitive Science", Nr. 13 (4), S. 453-469 (2012) Grace, Katja/Salvatier John u.a.: When Will AI Exceed Human Performance? (2017, PDF) Greenfield, Susan: Mind Change. How Digital Technologies Are Leaving Their Mark On Our Brains (2015) Harari, Yuval: Homo Deus (2017) Harris, Shane: @War. The Rise of the Military-Internet Complex (2014) Hörl, Erich (Hg.): Die technologische Bedingung. Beiträge zur Beschreibung der technischen Welt (2011) Innis, Harold A.: The Bias of Communication (1951) Kahneman, Daniel: Thinking, Fast and Slow (2011) Kelly, Kevin: What Technology Wants (2010) Kittler, Friedrich A.: Gramophone, Film, Typewriter (1999) Kurzweil, Ray: The Age of Intelligent Machines (1990) Kurzweil, Ray: The Age of Spiritual Machines (1999) Kurzweil, Ray: The Singularity Is Near: When Humans Transcend Biology (2005) Kurzweil, Ray: Menschheit 2.0 (2013) Lanier, Jaron: Wem gehört die Zukunft? Du bist nicht der Kunde der Internetkonzerne. Du bist ihr Produkt (2014) Luhmann, Niklas: Ideenevolution. Beiträge zur Wissenssoziologie (2008) Mainzer, Klaus: Die Berechnung der Welt. Von der Weltformel zu Big Data (2014) McChesney, Robert W.: Communication Revolution. Critical Junctures and the Future of Media (2007) Morozov, Evgeny: To Save Everything, Click Here: The Folly of Technological Solutionism (2013) Morozov, Evgeny: Smarte neue Welt. Digitale Technik und die Freiheit des Menschen (2013) Morozov, Evgeny: The Meme Hustler: Tim O'Reilly's crazy talk, in: „The Baffler", Nr. 22 (2013) Müller, Vincent C. (Ed.): Risks of Artificial Intelligence (2015) Müller, Vincent C. (Ed.): Fundamental Issues of Artificial Intelligence (2016) Neuman, W. Russell (Ed.): Media, Technology and Society. Theories of Media Evolution (2010) Papsdorf, Christian: Internet und Gesellschaft. Wie das Netz unsere Kommunikation verändert (2013) Park, David W./Pooley, Jefferson (Ed.): The History of Media and Communication Research (2008) 61 M E D I E N K O R R E S P O N D E N Z 2 0 / 2 0 1 8 T H E M A Passig, Kathrin/Lobo, Sascha: Internet: Segen oder Fluch (2012) Passig, Kathrin: Standardsituationen der Technologiekritik (2013) Peters, John Durham: Speaking into the Air. A History of the Idea of Communication (1999) Popper, Karl: Of Clouds and Clocks (1965) Maia, Rousiley: Recognition and the Media (2014) Reichert, Ramón (Hg.): Big Data. Analysen zum digitalen Wandel von Wissen, Macht und Ökonomie (2014) Rifkin, Jeremy: Die Null-Grenzkosten-Gesellschaft. Das Internet der Dinge, kollaboratives Gemeingut und der Rückzug des Kapitalismus (2014) Schirrmacher, Frank (Hrsg.): Technologischer Totalitarismus. Eine Debatte (2015) Shanahan, Murray: The Technological Singularity (2015) Sieber, Samuel: Macht und Medien. Zur Diskursanalyse des Politischen (2014) Shifman, Limor: Meme. Kunst, Kultur und Politik im digitalen Zeitalter (2014) Steinhart, Eric: Teilhard de Chardin and Transhumanism, in: „Journal of Evolution and Technology", Vol. 20, Nr. 1. (2008) Silver, Nate: The Signal and the Noise: Why So Many Predictions Fail – But Some Don't (2012) Simondon, Gilbert: Die Existenzweise technischer Objekte (2012) Stöber, Rudolf: Neue Medien: Geschichte. Von Gutenberg bis Apple und Google. Medieninnovation und Evolution (2013) Süssenguth, Florian (Hg.): Die Gesellschaft der Daten. Über die digitale Transformation der sozialen Ordnung (2015) Tegmark, Max: Leben 3.0: Mensch sein im Zeitalter Künstlicher Intelligenz (2018) Tomasello, Michael: Origins of Human Communication (2008) Taleb, Nassim Nicholas: The Black Swan: The Impact of the Highly Improbable (2007) Tetlock, Philip: Expert Political Judgment: How Good Is It? How Can We Know? (2005) Weber, Heike: Das Versprechen mobiler Freiheit. Zur Kulturund Technikgeschichte von Kofferradio, Walkman und Handy (2008) Welzer, Harald: Die smarte Diktatur. Der Angriff auf unsere Freiheit (2016)