Zukunft Denken – Podcast

• 122 — Komplexitätsillusion oder Heuristik, ein Gespräch mit Gerd Gigerenzer

  Auch heute freue ich mich wieder darüber, einen äußerst kompetenten und prominenten Gast vorstellen zu dürfen: Prof. Gerd Gigerenzer. Das Thema ist eines, das uns seit einiger Zeit begleitet, und auch noch weiter begleiten wird, denn es gehört zu den wesentlichsten Fragen der heutigen Zeit. Werden wir von der stetig steigenden Komplexität in unserer Gesellschaft, Wirtschaft und Wissenschaft überrollt, oder gelingt es, Mechanismen zu entwickeln, trotzdem kluge und resiliente Entscheidungen zu treffen? Entscheidungen, die uns auch helfen, mit komplexen Risiken umzugehen? Gerd Gigerenzer war unter anderem langjähriger Direktor am Max-Planck-Institut für Bildungsforschung, ist Direktor des Harding Center for Risk Literacy an der Universität Potsdam, Partner von Simply Rational - The Institute for Decisions und Vizepräsident des European Research Council (ERC). Er ist ehemaliger Professor für Psychologie an der Universität von Chicago und John M. Olin Distinguished Visiting Professor, School of Law an der Universität von Virginia. Darüber hinaus ist er Mitglied der Berlin-Brandenburgischen Akademie der Wissenschaften, der Deutschen Akademie der Wissenschaften und der British Academy sowie Ehrenmitglied der American Academy of Arts and Sciences und der American Philosophical Society. Er hat unzählige Preise gewonnen sowie zahlreiche Bücher geschrieben, die nicht nur inhaltlich höchst relevant sondern zudem auch noch sehr zugänglich für eine breite Leserschicht sind.  Zu seinen Forschungsschwerpunkten zählen: Entscheidungen unter Unsicherheit und Zeitbeschränkung Risikokompetenz und Risikokommunikation Entscheidungsstrategien von Managern, Richtern und Ärzten Und genau über diese Themen werden wir uns in der Episode unterhalten. Wie geht man in Situationen großer Unsicherheit mit Daten und Informationen um? »Je größer die Unsicherheit ist, desto mehr Informationen muss man ignorieren.« Was ist eine Heuristik, und welche Heuristiken wenden wir erfolgreich in welchen Situationen an? »In Situationen von Unsicherheit, verlassen sich Menschen nicht auf die ganze Vergangenheit, sondern auf die jüngste Vergangenheit — das nennt man recency Heuristik.« Warum führen mehr Daten nicht immer zu besseren Entscheidungen? »Ein Datenpunkt, gut gewählt, erlaubt [in vielen Fällen] bessere Vorhersagen als Big Data« Was ist Intuition und unter welchen Umständen ist intuitives sinnvoller als vermeintlich rationales Entscheiden? »Intuition ist keine Willkür. Intuition ist gefühltes Wissen, das auf jahrelanger Erfahrung beruht.« Was ist von den neuen Theorien der Rationalität, z. B. dem System 1 und 2 von Kahnemann zu halten? »The abject failure of models in the global financial crisis has not dented their popularity among regulators.«, Mervyn King Was ist defensives Entscheiden, und warum ist es eines der größten Probleme unserer modernen Welt? »Der Arzt ist nicht in einer Situation, dem Patienten das Beste zu empfehlen. Viele Ärzte fürchten, dass die Patienten klagen, insbesondere, wenn etwas unterlassen wurde. Die Patienten klagen nicht, wenn unnötige Operationen vorgenommen wurden.« Weniger kann oft mehr sein: »Viele Menschen denken — auch in der Wissenschaft — mehr ist immer besser.« Dabei gilt in den meisten Fällen, gerade auch dort, wo wir häufig versuchen, komplexe Modelle anzuwenden: »Je größer die Unsicherheit ist, umso einfacher muss man die Regulierung [oder das Modell] machen.« Eine Erkenntnis, die im Grunde jedem klar ist, der sich mit der Steuerung komplexer Systeme auseinandersetzt. Warum handeln wir stetig dagegen? »Wir brauchen eine Welt, die den Mut hat zur Vereinfachung.« Und dann gibt es noch den Aspekt der Rückkopplung von (schlechten) Modellen auf die Welt, die sie vermeintlich beschreiben oder vorhersagen, und wir kommen leicht in einen Teufelskreis der zirkulären und selbstverstärkenden Fehler. Wie lassen sich diese vermeiden? Was wird die Folge sein, wenn diese Formen der Modellierung und Verhaltenssteuerung auf eine immer totalitärere und total überwachte Gesellschaft trifft? Entwickeln wir uns aber in der Realität mit künstlicher Intelligenz, Large Language Models und IT-getriebener Automatisierung, aber nicht gerade ins Gegenteil? Eine Welt, deren Entscheidungen von immer komplexeren Systemen intransparent getroffen werden, wo niemand mehr nachvollziehen oder bewerten und in Wahrheit verantworten kann, ob diese Entscheidungen sinnvoll sind? Denken wir beispielsweise an Modelle, die Rückfallwahrscheinlichkeiten von Straftätern bewerten. »Viele Menschen lächeln über altmodische Wahrsager. Doch sobald die Hellseher mit Computern arbeiten, nehmen wir ihre Vorhersagen ernst und sind bereit, für sie zu zahlen.« Zu welcher Welt bewegen wir uns hin? Zu einer, in der wir radikale Unsicherheit akzeptieren und entsprechen handeln, oder einer, wo wir uns immer mehr der Illusion von Kontrolle, Vorhersagbarkeit und Steuerbarkeit verlieren? »In einer Welt, in der Technik (vermeintlich) smart wird, brauchen wir vor allem eines, nämlich Menschen, die auch smart werden. Also Menschen, die mitdenken, die sich nicht zurücklehnen und konsumieren; die sich nicht auf das reduzieren lassen, was man ihnen empfiehlt.« Und zum Ende macht Prof. Gigerenzer noch den wichtigsten Aufruf der heutigen Zeit: Mitdenken! Denn es gilt: »The world is inherently uncertain and to pretend otherwise is to create risk, not to minimise it.«, Mervyn King Referenzen Andere Episoden Episode 121: Künstliche Unintelligenz Episode 118: Science and Decision Making under Uncertainty, A Conversation with Prof. John Ioannidis Episode 112: Nullius in Verba — oder: Der Müll der Wissenschaft Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco Wehr Episode 107: How to Organise Complex Societies? A Conversation with Johan Norberg Episode 106: Wissenschaft als Ersatzreligion? Ein Gespräch mit  Manfred Glauninger Episode 99: Entkopplung, Kopplung, Rückkopplung Episode 92: Wissen und Expertise Teil 2 Episode 80: Wissen, Expertise und Prognose, eine Reflexion Episode 79: Escape from Model Land, a Conversation with Dr. Erica Thompson Prof. Gerd Gigerenzer Prof. Gigerenzer amd MPIB-Berlin Fachliche Referenzen Gerd Gigerenzer, Bauchentscheidungen: Die Intelligenz des Unbewussten und die Macht der Intuition, Goldmann (2008) Gerd Gigerenzer, Das Einmaleins der Skepsis: Über den richtigen Umgang mit Zahlen und Risiken, Piper (2015) Gerd Gigerenzer, Risiko: Wie man die richtigen Entscheidungen trifft, Pantheon (2020) Gerd Gigerenzer, Klick: Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen, Bertelsmann (2021) Gerd Gigerenzer, Smart Management: Mit einfachen Heuristiken gute Entscheidungen treffen, Campus (2025)  Daniel Kahnemann, Schnelles Denken, langsames Denken, Siedler Verlag (2012) Gerd Gigerenzer, The rationally wars: a personal reflection, BPP (2024) Konstantinos Katsikopoulos, Gerd Gigerenzer et al, Transparent modeling of influenza incidence: Big data or a single data point from psychological theory?, International Journal of Forecasting (2022) Mervyn King, John Kay, Radical Uncertainty, Bridge Street Press (2021) Rory Sutherland, Alchemy, WH Allen (2021) Peter Kruse, next practice. Erfolgreiches Management von Instabilität. Veränderung durch Vernetzung, Gabal (2020) John P. Ioannidis, Forecasting for COVID-19 has failed, International Journal of Forecasting (2022)

  --------  

  1:04:20
• 121 — Künstliche Unintelligenz

  In dieser Folge steht das Thema »Künstliche Unitelligenz« im Mittelpunkt – ein Begriff, der aus einem Artikel aus dem Spectator stammt: Britain has become a pioneer in Artificial Unintelligence. Was genau verbirgt sich hinter dieser Idee? »Artificial Unintelligence is the means by which people of perfectly adequate natural intelligence are transformed by policies, procedures and protocols into animate but inflexible cogs. They speak and behave, but do not think or decide.« Wie werden aus Menschen mit natürlicher Intelligenz bloß unflexible Rädchen? Wir reflektieren die zunehmende Strukturierung und Standardisierung in Organisationen, um mit wachsender gesellschaftlicher Komplexität umgehen zu können. Ein Ausgangspunkt der Episode ist die Frage, warum wir in immer mehr Organisationen eine strukturelle und individuelle Inkompetenz erleben? Ein Zitat aus dem genannten Artikel fasst es treffend zusammen:  »‘I didn’t find anything in common in these cases,’ I said, ‘except the stupidity of your staff. I expected him to get angry, but he maintained a Buddha-like calm. ‘Oh, I know,’ he replied, ‘but that is the standard expected now.’« Wie konnte es so weit kommen? Liegt es an der Industrialisierung, die laut Dan Davies in The Unaccountability Machine besagt:  »A very important consequence of industrialisation is that it breaks the connection between the worker and the product.« Oder hat es damit zu tun, wie wir mit Überwältungung durch Information umgehen. »When people are overwhelmed by information, they always react in the same way – by building systems.« Sind Menschen, die individuell denken, in solchen Systemen eher hinderlich als hilfreich? Doch was passiert, wenn komplexe Probleme auftreten, die Flexibilität und Kreativität erfordern? Sind unsere Organisationen überhaupt noch in der Lage, mit unerwarteten Situationen umzugehen, oder arbeiten sie nur noch »maschinenhaft« nach Vorgaben – und das mit einem Maschinenverständnis des 19. Jahrhunderts? Ist die Stagnation, die wir seit Jahrzehnten spüren, ein Symptom dieses Systemversagens? Und wie hängt das mit der sogenannten »Unaccountability Machine« zusammen, die Davies beschreibt und die man im Deutschen vielleicht als »Verantwortungslosigkeits-Maschine« bezeichnen könnte? Kann es sogar sein, dass manche Strukturen bewusst als »self-organising control fraud« gestaltet sind? Ein weiteres damit verbundenes Thema ist: Wie beeinflussen moderne Prognose-Tools wie Recommender Systems unser Verhalten? Dienen sie wirklich dazu, bessere Entscheidungen zu ermöglichen, oder machen sie uns hauptsächlich vorhersagbarer? »Menschen, die dies und jedes gekauft/gesehen haben, haben auch dies gekauft/gesehen« – ist das noch Prognose oder schon Formung des Geschmacks? Und was ist mit wissenschaftlichen Modellen komplexer Systeme, die oft relativ beliebige Ergebnisse liefern? Formen sie nicht auch die Meinung von Wissenschaftlern, Politikern und der Gesellschaft – etwa durch die überall beobachtbare schlichte Medienberichterstattung?  Bleibt außerdem der Mensch wirklich »in the loop«, wie oft behauptet wird, oder ist er längst ein »artificial unintelligent man in the loop«, der Empfehlungen des Systems kaum hinterfragen kann? Die Episode wirft auch einen kritischen Blick auf naive Ideologien wie das »Scientific World Management« von Alfred Korzybski, der schrieb:  „it will give a scientific foundation to Political Economy and transform so-called ‘scientific shop management’ into genuine ‘scientific world management.’“  War dieser Wunsch nach dem Ersten Weltkrieg verständlich, aber letztlich völlig missgeleitet? Und warum erleben wir heute eine Wiederkehr des naiven Szientismus, der glaubt, »die Wissenschaft« liefere objektive Antworten? Wie hängen solche Ideen mit Phänomenen wie »Science Diplomacy« zusammen? Die zentrale Frage der Episode lautet: Wie erreicht man, dass Menschen in Verantwortung korrekt im Sinne des definierten Zwecks der Organisation entscheiden? Doch was ist überhaupt der Zweck eines Systems? Stafford Beer sagt:  »The purpose of a system is what it does.« Stimmt der definierte Zweck – etwa Gesundheit im Gesundheitssystem – noch mit der Realität überein? Warum entscheiden Ärzte oft defensiv im eigenen Interesse statt im Interesse der Patienten? Und wie überträgt sich dieses Verhalten auf andere Organisationen – von Ministerien bis hin zur Wissenschaft? Davies beschreibt das ab Beispiel des akademischen Publikationswesens so:  „A not-wholly-unfair analysis of academic publishing would be that it is an industry in which academics compete against one another for the privilege of providing free labour for a profitmaking company, which then sells the results back to them at monopoly prices.“  Und weiter:  „The truly valuable output of the academic publishing industry is not journals, but citations.“  Was ist aus der Idee geworden, dass die Generierung von neuem und relevantem Wissen die Aufgabe von Wissenschaft, Förderung und Publikationswesen ist? Zum Abschluss stelle ich die Frage: Wie können Systeme so gestaltet werden, dass Verantwortung wieder übernommen wird? Wie balanciert man die Zuordnung von Konsequenzen mit der Möglichkeit, ehrlich zu scheitern – ohne Innovation zu ersticken? Und was sind »Luxury Beliefs« – jene modischen Ideen elitärer Kreise, die sie selbst nicht tragen müssen, während sie für andere zur existenziellen Bedrohung werden?  Die Episode endet so mit einem Aufruf zur Diskussion: Wie lösen wir diesen Spagat zwischen Verantwortung und Risiko in einer immer komplexeren Welt? Referenzen Andere Episoden Episode 119: Spy vs Spy: Über künstlicher Intelligenz und anderen Agenten Episode 118: Science and Decision Making under Uncertainty, A Conversation with Prof. John Ioannidis Episode 117: Der humpelnde Staat, ein Gespräch mit Prof. Christoph Kletzer Episode 116: Science and Politics, A Conversation with Prof. Jessica Weinkle Episode 106: Wissenschaft als Ersatzreligion? Ein Gespräch mit  Manfred Glauninger Episode 103: Schwarze Schwäne in Extremistan; die Welt des Nassim Taleb, ein Gespräch mit Ralph Zlabinger Episode 93: Covid. Die unerklärliche Stille nach dem Sturm. Ein Gespräch mit Jan David Zimmermann Episode 91: Die Heidi-Klum-Universität, ein Gespräch mit Prof. Ehrmann und Prof. Sommer Episode 84: (Epistemische) Krisen? Ein Gespräch mit Jan David Zimmermann Fachliche Referenzen Britain has become a pioneer in Artificial Unintelligence | The Spectator (2025) Davies, Dan. The Unaccountability Machine: Why Big Systems Make Terrible Decisions - and How The World Lost its Mind, Profile Books (2024) Alfred Korzybski, Manhood of Humanity (1921) Jessica Weinkle, What is Science Diplomacy (2025) Nassim Taleb, Skin in the Game, Penguin (2018) Rob Henderson, 'Luxury beliefs' are latest status symbol for rich Americans, New York Post (2019) Lorraine Daston, Rules, Princeton Univ. Press (2023)  

  --------  

  23:48
• 120 — All In: Energie, Wohlstand und die Zukunft der Welt: Ein Gespräch mit Prof. Franz Josef Radermacher

  Willkommen zu einer neuen Folge meines Podcasts! In dieser Episode begrüße ich den renommierten Experten Franz Josef Radermacher vor einem besonderen Gast an der Wand: Albert Einstein. Was hat Einstein mit Energie zu tun? Warum ist Energie die Grundlage menschlichen Wohlstands? Und wie gestalten wir eine nachhaltige Zukunft in einer global vernetzten Welt? Dieses Gespräch nimmt uns mit auf eine Reise durch die Geschichte der Energienutzung, die Herausforderungen der Energiewende und die geopolitischen Dimensionen, die oft übersehen werden. Prof. Radermacher ist Vorstand des Forschungsinstituts für anwendungsorientierte Wissensverarbeitung, stellv. Vorstandsvorsitzender von Global Energy Solutions e. V. (Ulm), emerit. Professor für Informatik, Universität Ulm, 2000 – 2018 Mitglied des Wissenschaftlichen Beirats beim Bundesministerium für Verkehr und digitale Infrastruktur (BMVI); er ist Ehrenpräsident des Ökosozialen Forum Europa, Wien, Mitglied des UN-Council of Engineers for the Energy Transition (CEET) sowie Mitglied des Club of Rome, Winterthur. Was hat Einstein mit diesem Gespräch zu tun? Wir beginnen mit der Frage, welche Rolle Energie in unserer Gesellschaft spielt sowie der Tatsache, dass vielen Menschen, vermutlich den meisten, nicht klar ist, was unsere Gesellschaft antreibt? So waren 2023 mehr als 81 Prozent des gesamten weltweiten Energieverbrauchs durch fossile Quellen gedeckt, und die Menge an fossilen Energieträgern wächst ständig. Wie hat Energie die Menschheit geprägt? Welche Energiequellen hatten wir früher und welchen Einfluss hatte die Veränderung der Energieträger auf unsere Gesellschaft und unseren Lebensstandard? Warum dominieren fossile Brennstoffe heute noch? Kann Energie Armut bekämpfen? Ist es Energie, die Wohlstand schafft? Warum sind zwei oft übersehene Parameter von so großer Bedeutung: Energiedichte und Platzbedarf?  Kernkraftwerke benötigen wenig Fläche im Vergleich zu Windrädern oder Photovoltaik:  »Da ist ja ein Faktor 100 dazwischen.« […] »Weil auch Fläche ein extrem knappes Gut ist, ist es problematisch, wenn man eine Energie mit ziemlich niedriger Dichte hat.« Gleichzeitig sind Energie und Emissionen, besonders Treibhausgase, globale Phänomene, die lokal nicht zu lösen sind. »Von 2004 bis 2023 haben die globalen Investitionen in Wind und Solar rund 4 Billionen Dollar ausgemacht, und trotzdem sind die fossilen Energieträger dreimal schneller gewachsen.“ Zudem: „In den großen Industrienationen […] eine Reduktion der CO2-Emissionen, aber gleichzeitig einen Zuwachs in Indien und China, der diese Reduktionen um das Faktor 5 überschattet.«, Robert Bryce Überrascht uns China? China hat mittlerweile die EU auch in den Pro-Kopf-Emissionen überholt. Was passiert, wenn Schwellenländer folgen? »An China kann man erkennen, was passiert, wenn ein armes Land versucht, Wohlstand aufzubauen. Und das geht bis heute nur mit fossilen Energieträgern.« Sind schnelle Lösungen gefährlich? Großinfrastruktur, Energiesysteme sind immer eine Frage von Jahrzehnten. Wenn wir versuchen, Dinge hier über das Knie zu brechen, ist die Wahrscheinlichkeit, dass Sie große und extrem teure Fehler machen, enorm. Außerdem stellt sich die Frage, welche Relevanz Europa überhaupt noch hat? Welche Maßnahmen gegen den Klimawandel könnten erfolgreich sein? Was wurde etwa in Baku beschlossen? Funktionieren Transferzahlungen? Warum scheitert eine Renewables Only Strategie zwangsläufig? »Die Idee, Renewables Only, ist ja eine von Deutschland immer wieder propagierte Idee.[… Es] ist nur eine Methode, [Entwicklungsländer] arm zu halten« Aber was ist die Alternative? Was ist Carbon Capture? Was ist die Rolle von Kernkraft? Welche Mischung verschiedener Verfahren ist sinnvoll? Zuletzt diskutieren wir über Strom vs. Moleküle und den All-Electric-Irrtum. Damit verbunden ist der Irrglaube, Wasserstoff könnte das Renable-Desaster lösen.  Welche geopolitischen Herausforderungen sind mit diesen Themen verknüpft? Ist Prof. Radermacher optimistisch — für Europa, die Welt? Was könnte man jungen Menschen empfehlen? Referenzen Andere Episoden Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco Wehr Episode 107: How to Organise Complex Societies? A Conversation with Johan Norberg Episode 95: Geopolitik und Militär, ein Gespräch mit Brigadier Prof. Walter Feichtinger Episode 94: Systemisches Denken und gesellschaftliche Verwundbarkeit, ein Gespräch mit Herbert Saurugg Episode 86: Climate Uncertainty and Risk, a conversation with Dr. Judith Curry Episode 81: Energie und Ressourcen, ein Gespräch mit Dr. Lars Schernikau Episode 73: Ökorealismus, ein Gespräch mit Björn Peters Episode 70: Future of Farming, a conversation with Padraic Flood Episode 62: Wirtschaft und Umwelt, ein Gespräch mit Prof. Hans-Werner Sinn Prof. Radermacher Forschungsinstitut für anwendungsorientierte Wissensverarbeitung/n Global Energy Solutions Prof. Radermacher im Vorstand der Global Energy Solutions All In: Energie und Wohlstand für eine wachsende Welt, Murmann (2024) Fachliche Referenzen Vaclav Smil, How the World Really Works, Penguin (2022) Vaclav Smil, Net Zero 2050, Fraser Institute (2024) Robert Bryce, The Energy Transition Isn't (2023) Robert Bryce, Numbers Don’t Lie (2024)

  --------  

  54:59
• 119 — Spy vs Spy: Über künstlicher Intelligenz und anderen Agenten

  In dieser Folge tauchen wir tief in die Welt der Künstlichen Intelligenz (KI) ein und betrachten sie aus einer systemischen Perspektive. Inspiriert vom klassischen Cartoon Spy vs. Spy geht es um die Frage, wie KI-Systeme miteinander interagieren — sowohl im Sinne von Kooperation als auch Konkurrenz — und welche Herausforderungen dies für uns Menschen mit sich bringt. Ich beleuchte die evolutionäre Natur technischen Fortschritts, die Risiken von Komplexität und Kontrollverlust sowie die möglichen Folgen einer Zukunft, in der KI von einem passiven Werkzeug zu einem aktiven Akteur wird. Begleiten Sie mich auf einer Reise durch emergente Phänomene und Fulgurationen, systemische Abhängigkeiten und die Frage, wie wir die Kontrolle über immer komplexere Systeme behalten können. Denn es stellen sich zahlreiche Fragen: Wie könnte sich die Interaktion zwischen KI-Systemen in der Zukunft entwickeln – eher kooperativ oder kompetitiv? Welche Rolle spielt der Mensch noch, wenn KI-Systeme immer schneller Entscheidungen treffen und autonome Akteure werden? Welche Erfahrungen haben Sie mit technischen Systemen gemacht, die durch Komplexität oder Automatisierung an Kontrolle verloren haben? Was bedeutet es für unsere Gesellschaft, wenn wir durch Automatisierung Know-how und Kontrolle an externe Akteure abgeben? Wie können wir den Übergang von KI als Spielzeug zu einem systemisch notwendigen Element gestalten, ohne in eine Abhängigkeit zu geraten? Glauben Sie, dass KI jemals eine eigene Motivation oder Intentionalität entwickeln könnte – und wenn ja, wie sollten wir darauf reagieren? Welche Strategien könnten helfen, die Kontrolle über komplexe, nicht-deterministische Systeme wie KI-Agenten zu behalten? Wie sehen Sie die geopolitischen Herausforderungen der KI-Entwicklung, insbesondere in Bezug auf Energie und Innovation? Welche positiven Szenarien können Sie sich für eine Zukunft mit KI und autonomen Agenten vorstellen? Wie bereiten Sie sich persönlich oder in Ihrem Umfeld auf die kommenden Entwicklungen in der KI vor? Ich freue mich Ihre Gedanken und Ansichten zu hören! Schreiben Sie mir und lassen Sie uns gemeinsam über die Zukunft nachdenken. Bis zum nächsten Mal beim gemeinsamen Nachdenken über die Zukunft! Referenzen Andere Episoden Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco Wehr Episode 107: How to Organise Complex Societies? A Conversation with Johan Norberg Episode 104: Aus Quantität wird Qualität Episode 103: Schwarze Schwäne in Extremistan; die Welt des Nassim Taleb, ein Gespräch mit Ralph Zlabinger Episode 99: Entkopplung, Kopplung, Rückkopplung Episode 94: Systemisches Denken und gesellschaftliche Verwundbarkeit, ein Gespräch mit Herbert Saurugg Episode 90: Unintended Consequences (Unerwartete Folgen) Episode 69: Complexity in Software Episode 40: Software Nachhaltigkeit, ein Gespräch mit Philipp Reisinger Episode 31: Software in der modernen Gesellschaft – Gespräch mit Tom Konrad Fachliche Referenzen Spy vs. Spy, The Complete Casebook  Rupert Riedl, Strukturen der Komplexität: Eine Morphologie des Erkennens und Erklärens, Springer (2000) Doug Meil, The U.K. Post Office Scandal: Software Malpractice At Scale – Communications of the ACM (2024) Casey Rosenthal, Chaos Engineering, O'Reilly (2017)

  --------  

  27:56
• 118 — Science and Decision Making under Uncertainty, A Conversation with Prof. John Ioannidis

  In this episode, I had the privilege of speaking with John Ioannidis, a renowned scientist and meta-researcher whose groundbreaking work has shaped our understanding of scientific reliability and its societal implications. We dive into his influential 2005 paper, Why Most Published Research Findings Are False, explore the evolution of scientific challenges over the past two decades, and reflect on how science intersects with policy and public trust—especially in times of crisis like COVID-19. John had and has major impacts in our understanding of medical research, research quality in general, public health and how to handle critical situations under limited knowledge. His work was and is highly influential and extraordinarily important for our understanding where medical science, but really, science in general is standing, how we dealt with the Covid crisis, and how we could get our act together again. He is professor of medicine at Stanford, expert in epidemiology, population health and biomedical data science. We begin with John taking us back to 2005, when he published his paper in PLOS Medicine. He explains how it emerged from decades of empirical evidence on biases and false positives in research, considering factors like study size, statistical power, and competition that can distort findings, and why building on shaky foundations wastes time and resources. “It was one effort to try to put together some possibilities, of calculating what are the chances that once we think we have come up with a scientific discovery with some statistical inference suggesting that we have a statistically significant result, how likely is that not to be so?” I propose a distinction between “honest” and “dishonest” scientific failures, and John refines this. What does failure really mean, and how can they be categorised? The discussion turns to the rise of fraud, with John revealing a startling shift: while fraud once required artistry, today’s “paper mills” churn out fake studies at scale. We touch on cases like Jan-Hendrik Schön, who published prolifically in top journals before being exposed, and how modern hyper-productivity, such as a paper every five days, raises red flags yet often goes unchecked. “Perhaps an estimate for what is going on now is that it accounts for about 10%, not just 1%, because we have new ways of massive… outright fraud.” This leads to a broader question about science’s efficiency. When we observe scientific output—papers, funding—grows exponentially but does breakthroughs lag? John is cautiously optimistic, acknowledging progress, but agrees efficiency isn’t what it could be. We reference Max Perutz’s recipe for success: “No politics, no committees, no reports, no referees, no interviews; just gifted, highly motivated people, picked by a few men of good judgement.” Could this be replicated in today's world or are we stuck in red tape? “It is true that the progress is not proportional to the massive increase in some of the other numbers.” We then pivot to nutrition, a field John describes as “messy.” How is it possible that with millions of papers, results are mosty based on shaky correlations rather than solid causal evidence? What are the reasons for this situation and what consequences does it have, e.g. in people trusting scientific results? “Most of these recommendations are built on thin air. They have no solid science behind them.” The pandemic looms large next. In 2020 Nassim Taleb and John Ioannidis had a dispute about the measures to be taken. What happened in March 2020 and onwards? Did we as society show paranoid overreactions, fuelled by clueless editorials and media hype? “I gave interviews where I said, that’s fine. We don’t know what we’re facing with. It is okay to start with some very aggressive measures, but what we need is reliable evidence to be obtained as quickly as possible.” Was the medicine, metaphorically speaking, worse than the disease? How can society balance worst-case scenarios without paralysis. “We managed to kill far more by doing what we did.” Who is framing the public narrative of complex questions like climate change or a pandemic? Is it really science driven, based on the best knowledge we have? In recent years influential scientific magazines publish articles by staff writers that have a high impact on the public perception, but are not necessarily well grounded: “They know everything before we know anything.” The conversation grows personal as John shares the toll of the COVID era—death threats to him and his family—and mourns the loss of civil debate. He’d rather hear from critics than echo chambers, but the partisan “war” mindset drowned out reason. Can science recover its humility and openness? “I think very little of that happened. There was no willingness to see opponents as anything but enemies in a war.” Inspired by Gerd Gigerenzer, who will be a guest in this show very soon, we close on the pitfalls of hyper-complex models in science and policy. How can we handle decision making under radical uncertainty? Which type of models help, which can lead us astray? “I’m worried that complexity sometimes could be an alibi for confusion.” This conversation left me both inspired and unsettled. John’s clarity on science’s flaws, paired with his hope for reform, offers a roadmap, but the stakes are high. From nutrition to pandemics, shaky science shapes our lives, and rebuilding trust demands we embrace uncertainty, not dogma. His call for dialogue over destruction is a plea we should not ignore. Other Episodes Episode 116: Science and Politics, A Conversation with Prof. Jessica Weinkle Episode 112: Nullius in Verba — oder: Der Müll der Wissenschaft Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco Wehr Episode 107: How to Organise Complex Societies? A Conversation with Johan Norberg Episode 106: Wissenschaft als Ersatzreligion? Ein Gespräch mit  Manfred Glauninger Episode 103: Schwarze Schwäne in Extremistan; die Welt des Nassim Taleb, ein Gespräch mit Ralph Zlabinger Episode 94: Systemisches Denken und gesellschaftliche Verwundbarkeit, ein Gespräch mit Herbert Saurugg Episode 92: Wissen und Expertise Teil 2 Episode 90: Unintended Consequences (Unerwartete Folgen) Episode 86: Climate Uncertainty and Risk, a conversation with Dr. Judith Curry Episode 67: Wissenschaft, Hype und Realität — ein Gespräch mit Stephan Schleim References Prof. John Ioannidis at Stanford University  John P. A. Ioannidis, Why Most Published Research Findings Are False, PLOS Medicine (2005) John Ioannidis, A fiasco in the making? As the coronavirus pandemic takes hold, weare making decisions without reliable data (2020) John Ioannidis, The scientists who publish a paper every five days, Nature Comment (2018) Hanae Armitage, 5 Questions: John Ioannidis calls for more rigorous nutrition research (2018) John Ioannidis, How the Pandemic Is Changing Scientific Norms, Tablet Magazine (2021) John Ioannidis et al, Uncertainty and Inconsistency of COVID-19 Non-Pharmaceutical1Intervention Effects with Multiple Competitive Statistical Models (2025) John Ioannidis et al, Forecasting for COVID-19 has failed (2022) Gerd Gigerenzer, Transparent modeling of influenza incidence: Big data or asingle data point from psychological theory? (2022) Sabine Kleinert, Richard Horton, How should medical science change? Lancet Comment (2014) Max Perutz quotation taken from Geoffrey West, Scale, Weidenfeld & Nicolson (2017) John Ioannidis: Das Gewissen der Wissenschaft, Ö1 Dimensionen (2024)  

  --------  

  57:39

Weitere Wissenschaft Podcasts

Trending Wissenschaft Podcasts

Über Zukunft Denken – Podcast

Zukunft Denken – Podcast: Zugehörige Podcasts