Wissenschaft ohne Wahrheit und Erkenntnis Das Problem epistemischer Verantwortung am Beispiel empirieferner Computersimulationen Eckhart Arnold erschienen in: Florian Steger / Rafaela Hillerbrand (Hrsg.): Praxisfelder angewandter Ethik. Ethische Orientierung in Medizin, Politik, Technik und Wirtschaft, mentis Verlag, Münster 2013, S. 309-326. Zusammenfassung Title: Science without truth and knowledge. The problem of epistemic responsibility as examplified with the case of empirically intractable computer simulations Abstract: Epistemic Responsibility means that scientists are responsible for their research being suitable to contribute to our understanding of the world, or at least some part of the world. As will be shown with the example of computer simulations in social sciences, this is unfortunately far from being understood as a matter of course. Rather, there exist whole research traditions in which the bulk of the contributions is quite free from any tangible purpose of enhancing our knowledge about anything. This essay is concerned with the causes of this phenomenon and pleads for taking epistemic responsibility as a scientific virtue serious. Science should be organized in such a way that it is possible and likely that scientists will assume epistemic responsibility for their research tasks. Zusammenfassung: Unter "Epistemischer Verantwortung" wird in diesem Artikel verstanden, dass Wissenschaftlerinnen1 dafür verantwortlich sind, dass ihre Forschung geeignet ist zur Erkenntnis der Welt oder eines Ausschnittes der Welt beizutragen. Wie am Beispiel sozialwissenschaftlicher Computersimulationen dargelegt wird, ist dies keineswegs so selbstverständlich, wie man meinen möchte. Vielmehr gibt es ganze Forschungstraditionen, innerhalb derer ein Grossteil der Beiträge frei von irgendeinem greifbaren Erkenntniszweck ist. Der Aufsatz fragt nach den Ursachen des Phänomens und plädiert dafür, die epistemische Verantwortung als wissenschaftlichen Wert ernst zu nehmen und Wissenschaft so zu organisieren, dass es der einzelnen Wissenschaftlerin möglich ist, die epistemische Verantwortung für ihre Forschungsaufgaben zu übernehmen. 1 Einleitung 1Von Professor Florian Steger noch einmal auf die Wichtigkeit des Problems der sprachlichen Geschlechtergerechtigkeit aufmerksam gemacht, verwende ich in diesem Artikel ausschliesslich die weibliche Form. Die wahrscheinlich beste Lösung dieses Problems wäre es nämlich, wenn alle Männer ausschliesslich die weibliche Form verwenden würden und alle Frauen nur und allein die männliche. Auf diese Weise lassen sich komplizierte Umschreibungen ebenso vermeiden wie artifiziell wirkende Spracherweiterungen (wie z.B. das Signal-"I"). Zugleich trägt bei dieser Lösung die gerade im Vorteil befindliche Gruppe ganz von selbst zur Herstellung ausgeglichener Verhältnisse bei. Und obendrein ist es auch ein Zeichen schöner Ritterlichkeit, es so zu halten. 1 Als Max Weber im Jahre 1919 in einem berühmt gewordenen Vortrag vor einer Studentenversammlung über den „inneren Berufe zur Wissenschaft"2 sprach, klärte er seine Zuhörerinnen auch über ein „Sinnproblem" der „Wissenschaft als Beruf" auf, das unter den Bedingungen der arbeitsteilig verfahrenden und rasch fortschreitenden modernen Wissenschaft entsteht. Dieses Sinnproblem bestand für Max Weber darin, dass die Einzelne nur als Spezialistin noch wissenschaftlich Belangvolles leisten könne. Will sie nicht hoffnungslose Dilettantin bleiben, so muss sie sich damit zufrieden geben, auf einem Spezialgebiet innerhalb seines Fachgebietes ein Detailproblem voranzutreiben – mit niemals sicherer Aussicht auf Erfolg und immer in dem Bewusstsein, dass sowohl die gefundene Lösung als auch das untersuchte Problem bald durch den Gang der Wissenschaft überholt sind und mitsamt der Wissenschaftlerin, die sie erforscht hat, in Vergessenheit geraten. Um einen Sinn in ihrem Tun finden zu können, müssen die Wissenschaftlerinnen also bereit sein, sich auf diese Bedingungen einzulassen und „rein der Sache" dienend eine Arbeit zu leisten, von der sie wissen, dass sie „in 10, 20, 50 Jahren veraltet ist."3 Denn nur unter dieser Bedingung ist fortschreitende wissenschaftliche Welterkenntnis möglich. Was Max Weber dabei aber stillschweigend und völlig selbstverständlich voraussetzte, war, dass die Wissenschaft der Erkenntnis dient, und dass sie dabei auf der Suche nach Wahrheit, und zwar nach wohlgeprüfter und wissenschaftlich begründeter Wahrheit ist. Unter dieser Bedingung ist es dann trotz dieser Einschränkung möglich, dass – wie Weber es sah – Wissenschaft Leidenschaft ist. „Denn nichts ist für den Menschen als Menschen etwas wert, was er nicht mit Leidenschaft tun kann."4 Glückliche Zeiten, in denen solches Pathos noch möglich war! In der heutigen Wissenschaft kann man nämlich zuweilen auf ein „Sinnproblem" ganz anderer Art treffen, das darin besteht, dass es wissenschaftliche Vorhaben gibt, die gar nicht mehr auf irgendeinen Erkenntniszweck bezogen sind, oder die zwar vorgeblich darauf bezogen sind, aber von vorn herein nicht geeignet sind ihn zu erfüllen. Derartige Phänomene werfen das Problem der epistemischen Verantwortung auf. Unter „epistemischer Verantwortung" ist in diesem Zusammenhang die Verantwortung dafür zu verstehen, dass das eigene Forschungsvorhaben – und sei es auch nur der Teillösung eines irgendeines Detailproblems gewidmet – einen Beitrag zu einem wissenschaftlichen Erkenntniszweck leistet. Wie in diesem Essay am Beispiel empirieferner Computersimulationen in den Sozialwissenschaften dargelegt werden soll, gelingt es dem Wissenschaftsbetrieb offenbar nicht immer zuverlässig, die Erfüllung epistemischer Verantwortung sicher zu stellen. Insbesondere ist es unter der Bedingung der „ »Trennung des Arbeiters von den Produktionsmitteln« "5 gerade den niederen Chargen des Wissenschaftsbetriebs, die sich ihre Forschungsaufgaben häufig nicht einmal selbst aussuchen können, sondern sie zugewiesen bekommen, oft gar nicht möglich, die epistemische Verantwortung für ihre Forschungstätigkeit in vollem Umfang zu übernehmen. Im Folgenden soll erläutert werden, was es mit der „epistemischen Verantwortung" auf sich hat, und wie es dazu kommt, dass sie vernachlässigt wird. Dazu wird zunächst der Begriff der epistemischen Verantwortung definiert und wissenschaftstheoretisch motiviert werden. Es wird die These vertreten, dass epistemische Verantwortung sich nicht schon im geregelten wissenschaftlichen Betrieb von allein ergibt, sondern als Wert 2 Weber, Wissenschaft als Beruf, S. 588. 3 Weber, Wissenschaft als Beruf, S. 592. 4 Weber, Wissenschaft als Beruf, S. 589. 5 Weber, Wissenschaft als Beruf, S. 584. 2 der wissenschaftlichen Tätigkeit zu Grunde liegen muss. Um zu zeigen, dass diesem Prinzip nicht immer Genüge geleistet wird, sollen einige Beispiele aus dem Bereich der Computersimulationen sozialen Verhaltens herangezogen werden, also aus einem Bereich, in dem die Wissenschaftlerinnen sich nicht wenig auf die Anlehnung an naturwissenschaftliche Methoden und damit eine vermeintlich besonders strenge Wissenschaftlichkeit zu Gute halten. Ich zeige im Folgenden, dass ein nicht unbeträchtlicher Teil der Computersimulationsforschung in den Sozialwissenschaften das Prinzip der epistemischen Verantwortlichkeit verletzt, indem er, ohne dass es die beteiligten Wissenschaftlerinnen besonders zu kümmern scheint, weder direkt noch indirekt in nachprüfbaren Erkenntnissen über den Untersuchungsgegenstand resultiert. Schliesslich wird gefragt werden, welche strukturellen und inhaltlichen Bedingungen die Übernahme epistemischer Verantwortung fördern oder behindern können. Und es werden einige Überlegungen dazu angestellt, wie epistemische Verantwortung ermöglicht bzw. begünstigt werden kann. Eine zentrale Forderung besteht darin, die individuelle Zuschreibung bzw. Zuschreibbarkeit von Forschungsleistungen sicherzustellen. Zugegebenermassen steht diese Forderung in einem Spannungsverhältnis zu den Bedingungen arbeitsteiliger Wissenschaft. 2 Der Begriff der epistemischen Verantwortung Unter „epistemischer Verantwortung" im wissenschaftlichen Kontext verstehe ich die Verantwortung einer Wissenschaftlerin dafür, dass die eigene Forschungsaufgabe einem wissenschaftlichen Erkenntniszweck dient. Als wissenschaftlicher Erkenntniszweck gilt dabei alles, was zur Erkenntnis eines als relevant angesehenen empirischen Untersuchungsgegenstandes dergestalt beiträgt, dass man die Richtigkeit oder Falschheit der gewonnen Erkenntnisse überprüfen kann. Ausserhalb der Betrachtung bleiben hierbei nicht-empirische Wissenschaften wie die Mathematik oder die Jurisprudenz, auf welche die gegebene Definition auch nicht anwendbar wäre. Um Missverständnisse zu vermeiden, sei darauf hingewiesen, dass der Begriff der "epistemic responsibility" in der Erkenntnistheorie in einem etwas anderen Sinn verstanden wird, nämlich als die Geneigtheit eines Subjekts etwas zu glauben, sofern es nur das glauben möchte, was wahr ist.6 Mir geht es hier aber nicht um Fragen der Erkenntnistheorie und damit der theoretischen Philosophie, sondern um eine Frage der praktischen Wissenschaftsethik. In diesem Zusammenhang ist es weniger von Bedeutung nach welchen Kriterien eine Überzeugung als gerechtfertigt und damit als "Wissen" betrachtet werden kann, als vielmehr von welchen Normen die Wissenschaft geleitet sein muss, damit die Wissenschaftlerinnen wohlbegründetes und relevantes Wissen hervorbringen. Das Problem der Relevanz soll an dieser Stelle allerdings nicht weiter vertieft werden. Fragen der Relevanz beinhalten immer auch Wertfragen, die noch einmal Schwierigkeiten ganz eigener Art aufwerfen. Eine gutwillige Anwendung der Definition epistemischer Verantwortung setzt voraus, dass man ihre Zielsetzung nicht durch freie Auslegung des Relevanzkriteriums aushebelt. Unter den Bedingungen arbeitsteiliger Wissenschaft stellt sich das zusätzliche Problem, dass die Tätigkeit einer einzelnen Wissenschaftlerin isoliert betrachtet noch überhaupt keine Erkenntnisse über irgend einen Untersuchungsgegenstand zu Tage fördern muss. Beispielsweise kann es vorkommen, dass die Überlegungen einer Theoretikerin erst im 6 Vgl. Greco und Turri, Virtue Epistemology. 3 Zusammenhang mit entsprechenden Experimenten, die andere sich ausdenken und durchführen müssen, zur Erkenntnis eines empirischen Gegenstandes beitragen. Erst recht gilt dies, wo Wissenschaftlerinnen sich rein heuristischer Methoden bedienen. Allerdings wird man auch in diesem Fall billigerweise fordern dürfen, dass dergleichen irgendwann einmal zur Formulierung einer Theorie oder eines Modells dient, dass dann empirisch prüfbar ist. Nun können zwischen der Formulierung einer Theorie und ihrer empirischen Überprüfung oft Jahre liegen, ja, es mag bei der Ausarbeitung einer Theorie noch gar nicht absehbar sein, wie sie empirisch geprüft werden kann. Aus diesem Grund ist es notwendig, das oben gegebene Kriterium zu verfeinern: Die Durchführung eines wissenschaftlichen Vorhabens ist dann epistemisch verantwortlich, wenn es geeignet ist, unter Voraussetzungen deren (künftige) Gegebenheit denkbar ist, zum Erkenntniszweck der Wissenschaft beizutragen. Die Formulierung ist bewusst vage gehalten, denn die Erfüllung des Kriteriums, dass die künftige Gegebenheit der weiteren, zum erfolgreichen Abschluss des Teilprojekts hinzukommenden Voraussetzungen für einen nachweisbaren Erkenntnisgewinn denkbar sein muss, lässt sich nur von Fall zu Fall bestimmen und bleibt auch dann noch in hohem Masse Einschätzungssache. Es gibt aber eine Reihe von Indizien, die im Einzelfall die Vermutung begründen können, dass eine bestimmte Methode auch in Zukunft zu keinerlei empirisch überprüfbarer Erkenntnis irgendeiner Art führen wird. Dazu gehören etwa ein lang anhaltendes Scheitern bei dem Versuch dies zu tun oder die Verwendung nicht messbarer Parameter wie z.B. die bei vielen ökonomischen Modellen vorausgesetzten kardinalen Nutzenwerte. Manchmal kommt es auch vor, dass in Folge der anhaltenden Erfolglosigkeit eines Forschungsansatzes der Erkenntnisanspruch schrittweise aufgegeben wird, die Forschung aber nichts desto trotz ungestört weiter läuft.7 Es gibt einen extremen Standpunkt, der sich auf eine relativistische Auslegung des Wissenschaftstheoretikers Paul Feyerabend8 stützt, und unter dem Schlagwort anything goes schlechthin jede wissenschaftliche Methode zulassen will. Denn, wie Feyerabend (vermutlich in ironischer Absicht) argumentiert, selbst aus dem abstrusesten Aberglauben können sich im Laufe der Geschichte bedeutende wissenschaftliche Theorien entwickeln.9 Dennoch, ungeachtet seltener historischer Glücksfälle ist es sicherlich ein schlechtes Forschungsprogramm, ohne eine halbwegs realistische Zielvorstellung irgendwelche Methoden auf gut Glück durchzuspielen. Epistemische Verantwortung fordert, dass die Wissenschaftlerinnen sich dafür verantwortlich fühlen, dass die eigene Forschung zum Erkenntniszweck der Wissenschaft beiträgt, und das dies nicht dem Glück und dem Zufall überlassen wird. 3 Beispiel mangelnder epistemischer Verantwortung im Bereich „Soziale Simulationen" Computersimulationen werden erfolgreich in der Wissenschaft eingesetzt, seit es Computer gibt. Dabei sind Computer im Grunde nichts weiter als besonders komplizierte Rechenmaschinen und Computersimulationen damit auch nichts anderes als besonders komplizierte Rechnungen.10 Daraus ergibt sich, dass man all das 7 Vgl. Green und Shapiro, Pathologies of Rational Choice Theory. 8 Feyerabend, Wider den Methodenzwang. 9 Vgl. Feyerabend, Wider den Methodenzwang, S. 385ff. 10 Zur Geschichte von Computersimulationen vgl. Grammelsberger, Computer Experimente. Zum Begriff und epistemischen Status von Simulationen u.a. Humphreys, Extending Ourselves, 4 Simulieren kann, was man auch berechnen kann, und dass Simulationen dort eine Grenze haben, wo sich nichts sinnvoll berechnen lässt. Sind Berechnungen aber möglich, dann können Simulationen unser Wissen über Naturvorgänge erheblich bereichern. So ist es z.B. möglich Naturvorgänge zu simulieren, die experimentell nicht zu oder nur schwer zugänglich sind. Ein Beispiel ist die Simulation chemischer Reaktionen im Bereich der Biochemie.11 Nicht zuletzt die Tatsache, dass Simulationen (in bestimmten Fällen) als Ersatz oder Alternative von Experimenten eingesetzt werden können, motiviert dazu Simulationen auch in den Sozialwissenschaften einzusetzen, denn in den Sozialwissenschaften sind Experimente manchmal nur schwierig durchzuführen und gleichzeitig oft wenig aussagekräftig, weil die Experimentalsituation sich von der Realweltsituation zu deutlich unterscheidet, als dass man zuverlässige Schlussfolgerungen ziehen könnte. Einer der Pioniere der sozialwissenschaftlichen Simulationen motiviert den Ansatz folgendermassen: Die experimentelle Literatur ist wenig hilfreich, weil sie praktisch vollständig auf der Analyse der Entscheidungen von Spielern beruht, die erstmals mit dem Spiel [dem sog. „Gefangenendilemma-Spiel", E.A.] in seiner formalen Fassung konfrontiert werden. Obwohl die Versuchspersonen möglicherweise über viel Erfahrung mit alltäglichen Vorkommnissen des Gefangenendilemmas verfügen, können ihre Fähigkeiten begrenzt sein, diese Erfahrungen in einem formalen Rahmen zu nutzen. [...] Um mehr über das iterierte Gefangenendilemma zu erfahren, ist ein neuer Ansatz erforderlich.12 Nun stimmt es zwar, dass es möglich ist, in einer Computersimulation Situationen durchzuspielen, die man niemals in einem sozialen Experiment nachstellen könnte. Aber erstens sind Computersimulationen sozialen Verhaltens deshalb nicht weniger artifiziell und zweitens besteht gerade dann, wenn man die simulierte Situation nicht in einem Experiment nachstellen kann, auch keine Möglichkeit mehr unmittelbar zu überprüfen, ob die Simulation das soziale Verhalten, das sie simuliert, tatsächlich richtig simuliert. Wie untauglich Axelrods Simulationsansatz der „Evolution der Kooperation" dazu ist, uns tiefere Erkenntnisse über seinen Gegenstand, die Evolution der Kooperation, zu liefern, demonstriert er unfreiwillig selbst mit seinem Paradebeispiel, dem „Leben und Leben-lassen System" zwischen verfeindeten Soldaten an der festgefahrenen Westfront im ersten Weltkrieg.13 Rein äusserlich scheint dieses Beispiel den Befund der Simulation, dass wechselseitige Kooperation nach dem Muster „Wie Du mir so ich Dir" evolutionär stabil ist14, auf dramatische Weise zu bestätigen. Wagt man jedoch einmal den Blick hinter die Kulissen, und blättert die historische Studie auf, die Axelrods Darstellung Winsberg, Science in the Age of Computer Simulations. 11 Vgl. Senn und Thiel, QM/MM Methods for Biomolecular Systems. 12 Axelrod, The Evolution of Cooperation, S. 26/27. 13 Axelrod, The Evolution of Cooperation, S. 67-79. 14 Axelrod, The Evolution of Cooperation, S. 50ff. – Axelrod spricht wörtlich nicht von "evolutionärer" sondern von "kollektiver" Stabilität. Aber sein Begriff der "kollektiven Stabilität" ist nur ein Sonderfall einer ganzen Klasse von evolutionären Stabilitätsbegriffen. Insofern ist es hier verständlicher von evolutionärer Stabilität zu reden, da es auch bei Axelrods Begriff der "kollektiven Stabilität" um die Stabilität bestimmter Verhaltensweisen im evolutionären Prozess geht. 5 zugrunde liegt, so stellt man fest, dass darin die vollständige Erklärung des ungewöhnlichen Vorgangs stillschweigender Kooperation zwischen Feinden bereits gegeben ist, und dass das einzige, was Axelrod leistet, darin besteht, sie noch einmal in vergleichsweise undifferenzierter Form in der Terminologie seiner Simulationsstudien zu wiederholen.15 Ein Erkenntnisgewinn irgendeiner Art ist damit nicht verbunden. Man kann auch nicht behaupten – ein oft unterstellter Vorzug abstrakter Modelle in den Sozialwissenschaften –, dass es Axelrod gelungen wäre, eine verallgemeinerungsfähige Erklärung für den historischen Sachverhalt zu geben, denn tatsächlich kommen in Axelrods Simulationsmodell viele wesentliche Faktoren gar nicht oder nur in den Parameterwerten versteckt vor. Und man wird eine hoffnungslos inadäquate Erklärung wohl kaum ihrer vermeintlichen Verallgemeinerbarkeit wegen rühmen wollen. Inwiefern berührt dies die epistemische Verantwortung? Insofern als hier offenbar ein Forschungsansatz gewählt wurde, der nicht geeignet ist, überprüfbare Erkenntnisse über empirische Gegenstände zu liefern, die über das Niveau dessen, was schon mit konventionellen und bekannten Methoden erreicht werden kann, hinaus gehen. In der Tat bleibt dieser Ansatz bei diesem Beispiel sogar weit dahinter zurück. Allerdings ist an dieser Stelle Vorsicht geboten. Denn erstens sind neue wissenschaftliche Methoden in ihren frühen Stadien naturgemäss unvollkommen und vielleicht nur anfangs noch weniger leistungsfähig als bestehende Methoden. Die Wissenschaft ist ein Wagnisunternehmen und oft ist erst, wenn man schon viel in eine Methode investiert hat, ein Erfolg oder Misserfolg überhaupt abzusehen. Und zweitens ist die Wissenschaft ein arbeitsteiliges Unternehmen, d.h. die Chance auf einen empirischen Erklärungserfolg, die ja den Massstab der epistemischen Verantwortung bildet, stellt sich bei einem zunächst nur spielerisch-theoretisch entwickelten Ansatz möglicherweise erst dann ein, wenn dieser Ansatz von der empirischen Forschung aufgegriffen wird. Das bedeutet jedoch nicht, dass das Prinzip epistemischer Verantwortung bei neuen wissenschaftlichen Ansätzen nicht schon wirksam werden sollte. (Würde man es ganz fallen lassen, wäre man wieder bei einer anything goes Epistemologie, die offensichtlich absurd ist.) Das Prinzip der epistemischen Verantwortung wirkt sich unter Berücksichtigung dieser Bedingungen für neue wissenschaftliche Ansätze lediglich anders aus, und kann für diesen Fall leicht in drei zentralen Forderungen konkretisiert werden: 1. Man muss sich der noch bestehenden Unvollkommenheiten des Ansatzes bewusst sein, und sie nicht kaschieren wollen. 2. Der Ansatz ist in der Richtung voranzutreiben, dass diese Unvollkommenheiten beseitigt werden und es ist stets die Frage zu stellen, ob die Chance besteht, dass sie beseitigt werden können. 3. Es ist dafür Sorge zu tragen, dass der Ansatz in der arbeitsteiligen Wissenschaft für die „Abnehmer" (in diesem Fall die empirische Laborund Feldforschung16) nützlich und fruchtbar werden kann. In der von Axelrod begründeten Forschungstradition geschah jedoch leider nichts dergleichen. Vielmehr setzte der Forschungsansatz Axelrods mitsamt seinen Defekten Standards für die nachfolgende Forschung. Noch heute dient der Verweis auf dieses „Vorbild" zur Legitimation ähnlich gelagerter Forschungsvorhaben.17 Empirische Erklärungserfolge blieben mit dem Simulationsansatz der Theorie der Evolution der Kooperation vollständig aus, ja es wurde – ein deutlicher Hinweis auf das mangelnde epistemische Verantwortungsgefühl der zugehörigen Fachgemeinschaft – nur äusserst 15 Vgl. Arnold, Explaining Altruism, S. 174-183. 16 Beispiele für Feldund Laborforschung aus diesem Bereich in: Poteete, Janssen und Ostrom: Working Together. Collective Action, the Commons, and Multiple Methods in Practice. 17 Vgl. Rendell et al., Why Copy Others?, S. 208f. 6 selten überhaupt versucht, diesen Ansatz empirisch auf die Probe zu stellen. Insgesamt war der Theorie der Evolution der Kooperation daher zwar ein durchschlagender sozialer Erfolg innerhalb der Fachwelt beschieden, der aber leider nicht durch einen durch empirische Überprüfung ausgewiesenen Erkenntnisgewinn gedeckt war. Deutlich wird dies an den Forschungsberichten zur „Evolution der Kooperation". So führt Hoffmann in seinem Forschungsbericht Twenty Years on: The Evolution of Cooperation Revisited18 als einzige empirische Studie eine Arbeit von Milinski (1987) über kooperatives Verhalten bei Schwarmfischen auf. Auch von anderen Autoren wird diese Studie – einer der ganz seltenen Versuche, irgendein Simulationsmodell der Evolution der Kooperation empirisch zu überprüfen, überhaupt – als vermeintlicher Beleg für die empirische Fruchtbarkeit dieses Ansatzes angeführt.19 In Wirklichkeit hatte die an diese Studie anschliessende wissenschaftliche Diskussion, die weder in dem eben zitierten Forschungsbericht noch in dem erwähnten Lehrbuch berücksichtigt wird, längst ergeben, dass das Simulationsmodell Axelrods zur Erklärung der fraglichen Verhaltensmuster bei Schwarmfischen inadäquat ist.20 Auf sehr viel breiterer empirischer Basis kommt Lee Allen Dugatkin (1997) in einer Meta-Studie über die empirische Forschung zu Kooperation und Altruismus im Tierreich zu dem Ergebnis, dass die Simulationsmodelle der Evolution der Kooperation nicht empirisch anwendbar sind. Von den ca. zwei Dutzend Simulationsund Modellstudien, die er zu Beginn seines Buches auflistet, taugt keine einzige dazu irgend eines der empirischen Beispiele kooperativen Verhaltens adäquat zu beschreiben. Und das obwohl der Simulationsansatz der Evolution der Kooperation zu der Zeit schon seit über 15 Jahren auf dem Markt war. In den meisten Fällen scheitert die Anwendung derartiger Simulationsmodelle an dem Problem, dass die Eingabe-Parameter der Modelle empirisch nicht bestimmbar sind. Das verdeutlicht einmal mehr, wie wenig Gedanken die Modellierer hier an die empirische Anwendung und Überprüfung ihrer Modelle verschwendet haben. Wenn Peter Hammerstein schliesslich das folgende Resümee zieht, so ist ihm nur zuzustimmen: Why is there such a discrepancy between theory and facts? A look at the best known examples of reciprocity shows that simple models of repeated games do not properly reflect the natural circumstances under which evolution takes place. Most repeated animal interactions do not even correspond to repeated games. [...] Most certainly, if we invested the same amount of energy in the resolution of all problems raised in this discourse, as we do in publishing of toy models with limited applicability, we would be further along in our understanding of cooperation.21 Dasselbe Fazit könnte man auch für die sozialwissenschaftliche Forschung zur „Evolution der Kooperation" ziehen. Der Versuch den Ansatz nun noch dadurch zu retten, dass man ihm einen – wie auch immer zu verstehenden – „theoretischen" Erkenntniswert zubilligt, scheitert an der durchschlagenden Kritik, die Axelrod von Seiten der mathematischen Spieltheorie erfahren hat.22 Eine Haltung weitgehender epistemischer Verantwortungslosigkeit ist nicht nur für die 18 Hoffmann, Twenty Years on. 19 Vgl. Osborne, An Introduction to Game Theory, S. 445/446. 20 Vgl. Dugatkin, Cooperation among Animals. 21 Hammerstein, Why Is Reciprocity So Rare in Social Animals?, S. 83, 92. 22 Vgl. Binmore, Game Theory and the Social Contract I+II. 7 speziellere Forschungstradition der Evolution der Kooperation charakteristisch gewesen. Sie findet sich in bemerkenswert grosser Verbreitung im Bereich der sozialen Simulationen überhaupt und zeigt sich beispielsweise an der geradezu verständnislosen Reaktion eines Simulationsforschers auf die naheliegende Frage eines Wissenschaftsjournalisten nach der empirischen Überprüfung der Simulationsmodelle: Keines der Modelle wurde bisher in psychologischen Experimenten bestätigt. Sollte einem das wirklich völlig egal sein? Rainer Hegselmann macht diese Frage fast ein wenig verlegen. 'Wissen Sie: In meinem Hinterkopf ist die Idee, dass eine bestimmte Sorte von Laborexperimenten uns gar nicht weiterhilft.23 Was an dieser Reaktion verblüfft ist, dass man doch eigentlich meinen sollte, dass ein Wissenschaftler ein natürliches Interesse daran haben müsste, zu erfahren, ob die eigenen Theorien oder Modelle denn nun wahr oder falsch sind. Der Fall wäre nicht weiter der Rede wert, wenn es ein Einzelfall wäre. Aber es gibt Indizien dafür, dass diese Einstellung im Bereich agentenbasierter Simulationen geradezu endemisch ist. So gelangen Heath, Hill und Ciarello (2009) in einer Meta-Studie über die Simulationsforschung im Zeitraum 1998-2008 zur der Feststellung, dass 2/3 aller untersuchten Simulationsstudien nicht hinreichend empirisch validiert sind, 1/3 sogar überhaupt nicht! Ein ernüchterndes Resultat, das von den Autoren der Studie auch mit angemessener Deutlichkeit bewertet wird: However, 65% of the surveyed articles were not completely validated. This is a practice that is not acceptable in other sciences and should no longer be acceptable in ABM [agent-based modelling, E.A.] practice and in publications associated with ABM.24 Immerhin zeigt sich auch, dass die Quote empirisch validierter Studien im Laufe des Untersuchungszeitraums angestiegen ist, was auf möglicherweise vorhandene Selbstheilungskräfte der Fachgemeinschaft hoffen lässt.25 Auch wenn die Autoren dieser Studie es nicht so formulieren, so entspricht ihre Kritik an der Praxis der Veröffentlichung unvalidierter Simulationsstudien der Einforderung dessen, was hier mit epistemischer Verantwortung bezeichnet wird. Zusammenfassend kann festgehalten werden: Das Beispiel führt vor Augen, dass mangelnde epistemische Verantwortung nicht nur als Einzelfall sondern als verbreitetes Phänomen innerhalb von ganzen Fachgemeinschaften vorkommen kann. Weiterhin zeigt es, dass mangelnde epistemische Verantwortung tatsächlich ein Problem ist. Zumindest im Bereich der Forschungstradition der „Evolution der Kooperation" hat sie zu einer Flut von weitgehend nutzlosen Computersimulationsstudien geführt, die auch dann nicht aufhörte als längst absehbar war, dass diese Simulationen nicht dazu geeignet waren zur wissenschaftlichen (d.h. empirisch überprüfbaren) Erkenntnis des Forschungsgegenstandes beizutragen. Beides spricht stark dafür „epistemische Verantwortung" als Wert zu etablieren. 23 Grötker, Reine Meinungsmache, S. 2. 24 Heath, Hill und Ciarello, A Survey of Agent-Based Modeling Practices. 25 Vgl. auch Poteete, Janssen und Ostrom: Working Together. Collective Action, the Commons, and Multiple Methods in Practice, S. 194ff., wo Möglichkeiten zur Verknüpfung agentenbasierter Modelle mit empirischer Forschung diskutiert werden. Bisher ist dergleichen, auch auf Grund mangelnden Problembewusstseins vieler Modellierer, leider eher noch die Ausnahme. 8 4 Bedingungen, unter denen epistemische Verantwortung gedeiht oder verkümmert Worauf ist es zurückzuführen, dass der Wert der epistemischen Verantwortung innerhalb der Wissenschaft (oder wenigstens einiger Wissenschaftszweige) unzureichend verankert ist, und wie kann dem abgeholfen werden? Zunächst einmal wäre es naiv anzunehmen, dass sich die epistemische Verantwortung im Rahmen der üblichen Qualitätssicherungsmechanismen der Wissenschaft von selbst ergibt. Die eben zitierte Meta-Studie hat sich fast ausschliesslich auf Artikel aus begutachteten Journalen gestützt, so dass es offensichtlich nicht stimmt, dass bestimmte Begutachtungsverfahren wie z.B. blind review -Verfahren26 automatisch garantieren, dass wissenschaftliche Publikationen einen Erkenntniswert haben. Ausserdem ist jede Begutachtung nur so gut, wie die angelegten Wertmassstäbe. Gehört die „epistemische Verantwortung" nicht zu den von einer Forschergemeinschaft als selbstverständlich geteilten Werten, dann wird sie sich auch nicht wie von selbst im wissenschaftlichen Begutachtungsverfahren einstellen. Grundsätzlich kann man vermuten, dass das Begutachtungsverfahren, da es sich tendenziell an den herrschenden Überzeugungen der Forschergemeinschaft ausrichtet,27 zwar sehr gut dazu geeignet ist, die Einhaltung wissenschaftlicher Standards und Sekundärtugenden zu fördern,28 dass es aber nicht gleichermassen erfolgreich dabei ist Paradigmenversagen abzufangen.29 Sofern dies stimmt, müsste man auch erwarten, dass dieses Verfahren für Wissenschaften mit herrschenden Paradigmen sehr viel besser geeignet ist, als für kontroverse Wissenschaften, die durch die 26 Vgl. zu den Vorzügen und Nachteilen unterschiedlicher Begutachtungsverfahren die jüngste Debatte dazu in nature: http://www.nature.com/nature/peerreview/debate/ doi:10.1038/nature04993 27 Vgl. dazu Stehbens, Basic philosophy and concepts underlying scientific peer review. Vgl. auch Campanario, Rejecting and resisting Nobel class discoveries. In dieselbe Kerbe schlägt auch der Autor des Editorials "Copying with peer rejection" der nature-Ausgabe vom 16. Oktober 2003, der zurückgewiesenen Autoren schlicht Hartnäckigkeit empfiehlt. Die Filterwirkung von Paradigmen und herrschenden Meinungen wird in der wissenschaftshistorischen und besonders der wissenssoziologischen Literatur immer wieder hervorgehoben: Vgl. Kuhn, Die Struktur wissenschaftlicher Revolutionen, S. 104ff. Vgl. Collins, Changing Order. Replication and Induction in Scientific Practice, S. 79ff., der sehr anschaulich vom "envelope of acceptable opinion" spricht. Kritisch zu Collins' Fallstudien allerdings: Franklin, No Easy Answers. Science and the Pursuit of Knowledge. Die Rolle sozialer Durchsetzungsmacht in der Wissenschaft stark übertreibend Latour und Woolgar, Laboratory Life. The Construction of Scientific Facts. Mit der wissenssoziologischen Diskussion nicht zu verwechseln ist die rein politisch motivierte Kritik an den wissenschaftlichen Begutachtungsverfahren, für die als Beispiel ein Vertreter des in dieser Hinsicht notorischen Cato Institute angeführt sei: Michaels, Peer Review And 'Pal Review' In Climate Science. Grundsätzlich zum Problem politisch motivierter Wissenschaftskritik: Oreskes und Conway, Merchants of Doubt. How a Handful of Scientists Obscured the Truth on Issues from Tobacco Soke to Global Warming. 28 Zumindest solange es sich nicht um bewussten Betrug handelt, der auch für die Gutachter oft nur schwer zu erkennen ist. 29 Ein interessantes Indiz dafür ist, dass inzwischen auch Kreationisten begonnen haben, ihre eigenen peer-reviewed journals heraus zu geben, wie z.B. das Answers Research Journal. http://www.answersingenesis.org/arj/about . Bisher gelingt die Imitation des Peer-Review Verfahrens den Kreationisten allerdings nur unvollkommen. Trotzdem führt das Beispiel vor Augen, dass man Wissenschaft im Sinne der Suche nach Wahrheit und Erkenntnis nicht mit der Kulisse von Wissenschaft, zu der Fachjournale, Fachtagungen, gelehrte Professoren und dicke Bücher gehören, verwechseln darf. Im günstigen Falle, aber eben nicht immer, trägt letzteres zu ersterem bei. 9 Dauerkonkurrenz rivalisierender Paradigmen gekennzeichnet sind. Tatsächlich hat es auch in den typischerweise durch Paradigmenvielfalt gekennzeichneten Geisteswissenschaften nach wie vor eine relativ geringere Bedeutung als in den Naturwissenschaften. Ohnehin darf der Erfolg innerhalb der institutionalisierten Verfahrensweisen der Wissenschaft nicht mit dem Erkenntniswert der Forschung gleichgesetzt werden. Erkenntniswert hat wissenschaftliche Forschung dann, wenn es gelingt, auf relevante Fragestellungen, die die Erfahrungswelt betreffen, nachweisbar richtige Antworten zu geben (d.h. solche Antworten, die ernsthaften Falsifizierungsversuchen stand halten). Das zentrale Problem der institutionellen Organisation von Wissenschaft kann man grob so beschreiben, dass es darin besteht, Regeln und Verfahrensweisen zu finden durch die für die Wissenschaftler und Wissenschaftlerinnen Anreize geschaffen werden, die sie dazu bewegen, den sachlichen Zweck der Wissenschaft (Erkenntnis) zu verfolgen und nach Kräften zu fördern. Hinsichtlich der epistemischen Verantwortung stellt sich die Frage unter welchen (institutionellen) Bedingungen epistemische Verantwortung gedeiht, und unter welchen Bedingungen sie verkümmert. Zu dieser Frage seien im Folgenden einige Überlegungen angestellt. Nachteilig wirkt sich auf die epistemische Verantwortung sicherlich die Universitätshierarchie und das damit einhergehende Hierarchiebewusstsein der Akteure aus, die gerade in Deutschland traditionell recht ausgeprägt ist und ihren intensivsten Grad im Verhältnis der Doktorandin zur Betreuerin erreicht. Eine Doktorandin ist der Betreuerin in der Regel über mehrere Jahre auf Gedeih und Verderb ausgeliefert. Häufig besteht eine Doppelabhängigkeit als Doktorandin und angestellter Mitarbeiterin. Von Seiten der Betreuerin wird das Verhältnis oft so ausgelegt, dass die Doktorandin Teil des eigenen Teams ist, was zu der Erwartung führt, sie müsste den eigenen Forschungsansatz, schlimmstenfalls sogar die wissenschaftlichen Meinungen der Betreuerin teilen. Sehr häufig bekommen Doktorandinnen ihr Thema, für das sie mehrere Jahre Lebenszeit opfern müssen, zugeteilt – bei nicht vorhandener oder nur geringer Wahlmöglichkeit. Das kann – ein keinesfalls seltener Fall – dazu führen, dass Doktorandinnen ein Forschungsvorhaben durchführen müssen, das sie selbst nicht überzeugt, und welches die Betreuerin nur einmal ausprobiert sehen wollte. Ohne einen gewissen Zynismus ist eine derartige Situation oft nur schwer zu ertragen. Es versteht sich von selbst, dass solche Bedingungen der Herausbildung intellektueller Gewissenhaftigkeit nicht zuträglich sind. Schon Max Weber hat die Situation, in der sich die Abhängigen in der Universitätshierarchie befinden, recht treffend charakterisiert: Der Arbeiter, der Assistent also, ist angewiesen auf die Arbeitsmittel, die vom Staat bereit gestellt werden; er ist infolgedessen vom Institutsdirektor ebenso abhängig wie ein Angestellter in einer Fabrik: – denn der Institutsdirektor stellt sich ganz gutgläubig vor, dass dies sein Institut sei, und schaltet darin –, und er steht häufig ähnlich prekär wie jede »proletaroide« Existenz...30 Es ist bemerkenswert, dass ein heutiger Beobachter beinahe hundert Jahre nach Max Weber zu einem ganz ähnlichen Befund gelangt: Die entscheidenden Fragen zu den strukturellen Bedingungen wissenschaftlicher 30 Weber, Wissenschaft als Beruf, S. 584. 10 Originalität und Produktivität werden erst gar nicht gestellt: Wie kann die hohe Unsicherheit und Abhängigkeit von jungen Wissenschaftlern an deutschen Universitäten einer originellen Forschung förderlich sein? Und: Wie kann in universitären Strukturen, in denen eine kleine Minderheit auf Lebensstellen über eine grosse Mehrheit auf Zeitstellen herrscht, dem Ideal einer wissenschaftlichen Kommunikation nachgelebt werden, in der Wahrheitsfragen so wenig wie möglich von Machtfragen kontaminiert sind?31 Wenn das hier beschrieben Phänomen tatsächlich einen neuralgischen Punkt trifft, dann müsste sich das im Vergleich zur Situation in anderen Ländern zeigen, in denen andere Verfahren gelten und das Hierarchiebewusstsein weniger ausgeprägt ist. Die im Auftrag des Bundesministeriums für Bildung Forschung erstellen Berichte der Hochschulinformationssystem GmbH deuten darauf hin, dass dies zumindest nach der subjektiven Einschätzung von Nachwuchswissenschaftlerinnen der Fall ist. Sowohl die USA als auch Grossbritannien schneiden im Vergleich zu Deutschland erheblich besser ab, wenn es um die Betreuung von Nachwuchswissenschaftlerinnen, die Offenheit für neuartige Forschungsansätze und den gleichberechtigten Umgang mit Wissenschaftlerinnen auf höheren Hierarchieebenen geht.32 Nun kann man sich zwar vorstellen, dass ein hoher Publikationsdruck (gegen den Nachwuchswissenschaftlerinnen in hierarchischen Systemen möglicherweise stärker abgeschirmt sind) eine nicht minder disziplinierende Wirkung ausübt, die sich – je nachdem wie stark dieser Gesichtspunkt innerhalb der Fachgemeinschaft berücksichtigt wird – ebenfalls nachteilig auf die epistemische Verantwortung auswirken könnte. Aber auch dann ist es ein anderes, ob man sich gegenüber einer anonymen Forschergemeinschaft bewähren muss oder in ein persönliches Machtund Autoritätsverhältnis gestellt ist, in dem die Versuchung stets gegeben ist, sich mehr durch Wohlverhalten und Botmässigkeit als durch Leistung zu qualifizieren. Gegen diese Kritik an der Universitätshierarchie sind aber auch Einwände möglich: Erstens einmal können viele wissenschaftliche Forschungsaufgaben nur arbeitsteilig durchgeführt werden. Das erfordert eine entsprechende Organisation, Aufgabenverteilung und wahrscheinlich auch Hierarchien. Und zweitens könnte man einwenden, dass die Tatsache, dass die Einzelne mangels Wahlmöglichkeiten nicht mehr die volle wissenschaftliche Verantwortung für ihre Forschung übernehmen kann, nicht bedeutet, dass sie verschwindet, sondern nur, dass die epistemische Verantwortung in dem Masse, wie Entscheidungen über das Forschungsvorhaben von der höheren Hierarchieebene getroffen werden, auch an die höhere Hierarchieebene delegiert wird. Aber auch wenn zuzugestehen ist, dass viele Bereiche der modernen Wissenschaften ohne Arbeitsteilung nicht denkbar sind, so bleibt dennoch das Problem bestehen, dass die einzelnen Wissenschaftlerinnen die Ergebnisse, die sie erarbeiten am Ende unter ihrem Namen veröffentlichen. Der Entstehungskontext lässt sich in den entsprechenden wissenschaftlichen Arbeiten aber nicht mehr unmittelbar nachvollziehen, und 31 Hirschi, Exportweltmeister beim akademischen Überschuss. – Wie Caspar Hirschi ebenfalls feststellt, hat die Exzellenzinitiative dieses Problem eher noch verschärft, was den Eindruck verstärkt, dass die Exzellenzinitiative die strukturellen Schwächen des deutschen Wissenschaftssystems jedenfalls nicht beseitigt. 32 Vgl. Jaksztat, Schindler, Briedis, Die internationale Ausrichtung des wissenschaftlichen Nachwuchses, S. 56ff. – Dem Bericht zu Folge schneiden die USA und Grossbritannien im Vergleich zu Deutschland in der Bewertung der Nachwuchswissenschaftlerinnen bei allen Fragen besser ab und bei manchen, wie den oben genannten, auch deutlich besser. Frankreich schneidet dagegen überwiegend schlechter ab. 11 dementsprechend auch nicht wie frei die Autorin war, bestimmte forschungsstrategische Entscheidungen zu treffen. Die Autorin ist daher wohl oder übel gezwungen, die so erzielten Ergebnisse zu vertreten. Das Problem dürfte wiederum umso gravierender sein, je „kontroverser" und weniger objektiv der Wissenschaftszweig ist, um den es geht. Es kommt durchaus vor, dass Wissenschaftlerinnen aus diesem Grund im persönlichen Gespräch ihre eigenen Veröffentlichungen dementieren und darauf hinweisen, dass sie es eigentlich ja ganz anders sehen – wiederum etwas, was nur mit einer gewissen professionellen Abgebrühtheit zu ertragen ist. Und noch aus einem anderen Grund funktioniert die Delegation von epistemischer Verantwortung nicht, oder zumindest nicht ohne Weiteres: Die Vorgesetzten können die Einzelheiten der Durchführung einer Forschungsaufgabe schon wegen des damit verbundenen Aufwandes nicht immer in aller Gänze überschauen und kontrollieren. Sie sind darauf angewiesen, dass ihre Mitarbeiterinnen eigenverantwortlich ordentliche Arbeit leisten. Daher kann man das Problem der Nicht-Verantwortbarkeit forschungsstrategischer Entscheidungen durch die abhängig arbeitenden Wissenschaftlerinnen auch nicht dadurch lösen, dass man Ergebnisse nominell dem Vorgesetzten in der Hierarchie zuschreibt. Die individuelle Zuschreibung wissenschaftlicher Leistungen ist für die Qualität wissenschaftlicher Arbeit vermutlich unerlässlich. Daher dürfte der Wissenschaft am besten gedient sein, wenn auch arbeitsteilige Forschungsprozesse so organisiert werden, dass die Möglichkeit zur Übernahme epistemischer Verantwortung durch die Einzelnen gegeben ist. Dies beinhaltet, dass Teilleistungen individuell zugeschrieben werden können, aber auch, dass den in der Hierarchie untergeordneten Forscherinnen möglichst grosse forschungsstrategische Entscheidungsfreiheiten verbleiben. 5 Zusammenfassung Epistemische Verantwortung bedeutet, dass Wissenschaftlerinnen dafür verantwortlich sind, dass ihre Forschung geeignet ist, zu einem wissenschaftlichen Erkenntniszweck (er mag selbst wie weltfremd auch immer sein), beizutragen. Sie bürdet der einzelnen Wissenschaftlerin auch unter Bedingungen der arbeitsteiligen Wissenschaft eine Mitverantwortung für den Sinn des Gesamtprojekts auf. Wie das Beispiel der sozialen Simulationen zeigt, ist epistemische Verantwortung in der Wissenschaftspraxis keineswegs eine Selbstverständlichkeit. Dieser Forschungszweig leidet bisher unter einer Flut von Simulationsstudien, deren Beitrag zur Erkenntnis des untersuchten Forschungsgegenstandes zumindest dubios bleibt. Es gibt immerhin Anzeichen, dass sich die Situation langsam bessert, und der relative Anteil von Simulationsstudien zunimmt, die ihre Erkenntnisqualität durch eine entsprechende Validierung ausweisen können. Insgesamt unterstreicht das Beispiel, dass epistemische Verantwortung innerhalb der Forschergemeinschaften als Wert begriffen und bewusst vertreten werden muss, damit sie in der Wissenschaftspraxis wirksam werden kann. Zu den Faktoren, die zur Erosion epistemischer Verantwortung führen können, gehören unter anderem die (unvermeidliche) Arbeitsteilung in der Wissenschaft und die besonders in Deutschland sehr ausgeprägte (aber schon eher vermeidbare) hierarchische Organisation wissenschaftlicher Institutionen und Forschungsprojekte. Literatur 12 Arnold, E.: Explaining Altruism. A Simulation-Based Approach and its Limits, Heusenstamm 2008. Axelrod, R.: The Evolution of Cooperation, New York. 1984. Binmore, K.: 1994. Game Theory and the Social Contract I. Playing Fair, Cambridge, Massachusetts / London, England: 2000 (1994). Binmore, K.: Game Theory and the Social Contract II. Just Playing, Cambridge, Massachusetts / London, England 1998. Campanario, J.: Rejecting and resisting Nobel class discoveries: accounts by Nobel Laureates. In: Scientometrics, Vol. 81, 2, 2009, S. 549-565. DOI: 10.1007/s11192-008-2141-5 http://www.mendeley.com/research/rejecting-and-resisting-nobel-class-discoveriesaccounts-by-nobel-laureates/ Collins, H.: Changing Order. Replication and Induction in Scientific Practice, Chicago 1992. Dugatkin, L. A.: Cooperation among Animals, Oxford 1997. Döscher, H.-J.: Seilschaften. Die verdrängte Vergangenheit des Auswärtigen Amtes, Berlin 2005. Feyerabend, P.:Wider den Methodenzwang, Berlin 1975/1983. Grammelsberger, G.: Computerexperimente. Zum Wandel der Wissenschaft im Zeitalter des Computers, Bielefeld 2010. Franklin, A.: No Easy Answers. Science and the Pursuit of Knowledge, Pittsburgh 2005. Greco, J.; Turri, J., Virtue Epistemology, in: Stanford Encyclopedia of Philosophy, Spring 2011 Edition (ed. N. Zalta). http://plato.stanford.edu/archives/spr2011/entries/epistemology-virtue/ Green, D. P.; Shapiro, I.: Pathologies of Rational Choice Theory. A Critique of Applications in Political Science, New Haven and London: 1994. Grötker, R.:. Reine Meinungsmache. 2005. http://www.heise.de/tr/artikel/Reine-Meinungsmache-277359.html Hammerstein, P.:. 2003. Why Is Reciprocity So Rare in Social Animals? A Protestant Appeal. In: Genetic and Cultural Evolution,2003, S. 83–94. Heath, B.; Hill, R.; Ciarello, F.: A Survey of Agent-Based Modeling Practices (January 1998 to July 2008). In: Journal of Artifical Societies and Social Simulation (JASSS) 12(4) 9, 2009. http://jasss.soc.surrey.ac.uk/12/4/9.html Hirschi, C.: Exportweltmeister beim akademischen Überschuss, in: Frankfurter Allgemeine Zeitung, 9. März 2011. http://www.faz.net/artikel/C31373/wissenschaftspolitik-exportweltmeister-beimakademischen-ueberschuss-30330004.html Hoffmann, R.: Twenty Years on. The Evolution of Cooperation Revisited. In: Journal of Artificial Societies and Social Simulation Volume 3, No. 2, 2000. http://jasss.soc.surrey.ac.uk/3/2/forum/1.html Humphreys, P.: Extending Ourselves. Computational Science, Empiricism and the Scientific Method, Oxford 2004. http://www.oldenbourg-link.com/doi/pdfplus/10.1524/vfzg.2011.0010 Jaksztat, S.; Schindler, N.; Briedis, K., Die internationale Ausrichtung des wissenschaftlichen Nachwuchses, Bericht der Hochschul-Informations-System GmbH im Auftrag des Bundesministeriums für Bildung und Forschung, Oktober 2010. http://www.his.de/pdf/pub_fh/fh-201110.pdf Kuhn, T.: Die Struktur wissenschaftlicher Revolutionen, Frankfurt 1976. 13 LatourB.; Woolgar S.: Laboratory Life. The Construction of Scientific Facts, Princeton 1986. Michaels, P.: Peer Review And 'Pal Review' In Climate Science. http://blogs.forbes.com/patrickmichaels/2011/06/16/peer-review-and-pal-review-inclimate-science/ Milinski, M.: TIT FOR TAT in sticklebacks and the evolution of cooperation. In: nature 325, January, 1987, S. 433–435. Oreskes, N.; Conway, E.: Merchants of Doubt. How a Handful of Scientists Obscured the Truth on Issues from Tobacco Soke to Global Warming, London 2010. Osborne, M. J.: An Introduction to Game Theory, Oxford 2004. Poteete, A.; Janssen, M.; Ostrom, E.: Working Together. Collective Action, the Commons, and Multiple Methods in Practice, Princeton 2010. Rendell, L.; Boyd, R.;, Cownden, D.; Enquist, M.; Eriksson, K.; Feldman, M. W.; Fogarty, L.; Ghirlanda, S.; Lillicrap, T.; Laland, K. N.: Why Copy Others? Insights from the Social Learning Strategies Tournament. In: Science 328, 2010, S. 208–213. http://www.sciencemag.org/cgi/content/abstract/328/5975/208 Senn, H.; Thiel, W.: QM/MM Methods for Biomolecular Systems, in: Angewandte Chemie, International Edition 48, 2009, S. 1198-1229. Stehbens, W.E.: Basic philosophy and concepts underlying scientific peer review. In: Medical Hypotheses, 52, 1, 1999, S. 31-36. Weber, M.: 1919/1988. Wissenschaft als Beruf. In: Gesammelte Aufsätze zur Wissenschaftslehre, hg. von J. Winckelmann. Tübingen 1919/1988, S. 582–613. Winsberg, E.: Science in the Age of Computer Simulations, Chicago 2010. nicht namentliche Quellen: Copying with peer rejection, Editorial, nature 425, 16. Oktober 2003. DOI:10.1038/425645a http://www.nature.com/nature/journal/v425/n6959/full/425645a.html