Follow the White Rabbit - Der IT-Security Podcast

Es hat einen Namen: Roboter-Mobbing. Roboter-Mobbing. Und es passiert gerade in Unternehmen, die glauben, ihr KI-Projekt laufe gut. Mitarbeitende, die um ihren Job oder ihre Macht fürchten, sabotieren das neue System – still, gezielt und ohne dass es jemand merkt. In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Dr. Katharina von Knop. Die promovierte Philosophin und Politikwissenschaftlerin ist Gründerin von „Digital Trust Analytics”. Gemeinsam sprechen sie über die eigentliche Ursache des KI-Scheiterns in Unternehmen. Die Technik ist es fast nie.
Katharinas Ansatz beginnt nicht mit der Software, sondern mit einer Diagnose: Wo sitzen die Machtstrukturen? Wo die Ängste? Und wer hat am meisten zu verlieren? Auf dieser Grundlage überträgt sie die Maslow'sche Bedürfnispyramide auf KI-Projekte: vom ersten schlanken Use Case mit echtem Nutzen über transparente Regulatorik und eigene Qualitätssicherung bis hin zu Selbstwirksamkeit und echtem Zugehörigkeitsgefühl. Ihr klarster Ratschlag lautet: Qualitätssicherung niemals auslagern. Denn wer nicht selbst versteht, ob ein Fehler eine Halluzination, ein Data Drift oder ein gezielter Angriff ist, wird dem System nie wirklich vertrauen – und das spüren auch die Teams.
Dann wird es überraschend: Warum verlieren Pathologen messbar an Kompetenz, wenn KI zu viel übernimmt – und das bereits nach drei Wochen? Warum vertrauen Ältere der KI oft mehr als Jüngere? Und was hat ein Versicherungsunternehmen, das seine Prozesse komplett automatisiert hat, dabei übersehen? Am Ende gibt Katharina vier konkrete Tipps für alle, die KI nicht nur einkaufen, sondern wirklich verankern wollen. Diese Folge ist kein Technik-Talk. Sie ist Psychologie, Machtanalyse und Praxishandbuch in einem.
Takeaways
KI-Projekte scheitern an den Menschen, nicht an der Technologie. Bevor der erste Use Case startet, ist eine ehrliche Diagnose notwendig: Welche Machtstrukturen stehen dem Projekt im Weg? Der erste Schritt ist daher ein Gespräch und kein Deployment.
Vertrauen folgt einer Bedürfnispyramide. Zunächst muss echter Nutzen entstehen, dann folgt Sicherheit durch verständlich erklärte Regulatorik und schließlich Kontrolle durch eigene Teams. Wer Vertrauen verordnet, bekommt Roboter-Mobbing.
Qualitätssicherung gehört ins eigene Haus. Wer sie auslagert, gibt Kontrolle und Vertrauen ab. Nur wer selbst unterscheiden kann, ob ein Fehler Halluzination, Data Drift oder Angriff ist, schafft echte Berechenbarkeit und klare Verantwortlichkeit.
Den Menschen ändern wir nicht – die Systeme schon. Eine gute KI ist ein Coworker auf Augenhöhe, der kognitiv herausfordert. Kein Sternchen-Smiley-Affenarsenal, sondern Reziprozität. Aktive Interaktion verhindert Kompetenzverlust, der sonst schon nach drei Wochen messbar einsetzt.
Klein starten, transparent kommunizieren – und das dauerhaft. Schlanker Use Case statt Over-Engineering. MVP statt Perfektion. Und Kommunikation nicht als Kick-off-Folie, sondern als Dauerprozess betrachten. Das ist keine Empfehlung für Soft Skills, sondern die Voraussetzung dafür, dass KI überhaupt funktioniert.

Jetzt abonnieren – das KI-Special geht weiter!
Diese Folge ist Pflicht für alle, die KI nicht nur einführen, sondern im Unternehmen nachhaltig verankern wollen. Abonniere „Follow the White Rabbit”, hinterlasse eine Bewertung und schicke die Folge an Führungskräfte und Teams, die gerade mitten in einem KI-Projekt stecken oder kurz davor sind, eines zu starten.
Links
Dr. Katharina von Knop – Philosophin, Politikwissenschaftlerin, Gründerin Digital Trust Analytics | Digital Trust Analytics
EU AI Act – Volltext (Verordnung EU 2024/1689)
BSI: Trustworthy AI – Leitlinien für vertrauenswürdige KI

Die Strategie wurde kommuniziert, das Tool wurde eingeführt und das Pilotprojekt läuft. Von außen sieht alles modern aus. Aber wie ist es in den Teams? Stille Erschöpfung. Heimlich genutzte Tools. Und irgendwo eine Kundendatei, die längst in einem nicht genehmigten KI-System gelandet ist. In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Rebecca Hundschell, Gründerin des „Female AI Club” und Expertin für KI-Governance, über das, was wirklich passiert, wenn KI in ein Unternehmen einzieht – jenseits der Hochglanzstrategie.
Rebecca kennt beide Seiten: die Begeisterung und die Überforderung. Sie erklärt, warum Schatten-KI das neue Schatten-IT ist und dass es sich dabei nicht um ein Disziplin-, sondern um ein Führungsproblem handelt. Ein Praxisbeispiel aus der Folge spricht für sich: Jemand bildete seine gesamte Kundenarbeit über ein privates KI-Tool ab, sparte rund 100 Beratertage und schuf dabei einen handfesten DSGVO-Verstoß. Wer Schatten-KI ignoriert, hat nicht weniger Risiko. Er hat nur weniger Sichtbarkeit. Dazu kommt die Kostenfalle: KI bleibt nicht billig. Ein Konzern hatte sein KI-Jahresbudget bereits im April aufgebraucht, weil im Vorfeld niemand gefragt hatte, an welcher Stelle der Wertschöpfungskette KI tatsächlich einen Mehrwert bietet.
Und dann ist da noch der blinde Fleck, über den kaum jemand spricht: KI-Systeme sind statistische Modelle, keine Wahrheitsmaschinen. Sie halluzinieren. Sie reproduzieren Vorurteile – nur eben skalierbar. Bewerbungstools sortieren Frauen, ältere Menschen und Menschen mit Migrationshintergrund millionenfach aus. Junior-Jobs verschwinden, bevor die nächste Generation die nötige Seniorität aufbauen kann, die KI später einordnen soll. Diese Folge ist kein KI-Hype. Sie ist der Realitätscheck, den viele Unternehmen gerade bitter nötig haben.
Takeaways
Schatten-KI ist bereits Realität und kein Disziplinproblem. Mitarbeitende greifen zum nützlichsten Tool, nicht zum erlaubten. Wer das ignoriert, hat nicht weniger Risiko, sondern nur weniger Überblick. Governance beginnt mit Sichtbarkeit.
Eine gute KI-Policy braucht keine 15 Seiten. Drei bis vier Seiten reichen aus, wenn drei Dinge geklärt sind: Welche Daten in welches Tool dürfen, welche Tools freigegeben sind und an wen man sich bei Fragen wendet. Verbotssprache erzeugt nur kreative Umgehungen.
KI von oben durchdrücken funktioniert nicht. Change Management schlägt Top-down. Man sollte die Begeisterten zu Multiplikatoren machen, niedrigschwellige Formate wie eine KI-Sprechstunde anbieten und mitdenken: Mit dem AI Act wird KI-Weiterbildung zur Pflicht.
KI bleibt nicht billig. Die Preismodelle werden von Pauschale auf nutzungsbasiert umgestellt. Wer nicht klärt, wo KI entlang der Wertschöpfungskette wirklich Mehrwert schafft, verbrennt Budget – und das nicht nur einmalig, sondern jeden Monat.
Der Gender-Gap in der KI ist kein Randthema, sondern ein Systemrisiko. Zu wenige Frauen entwickeln KI. Zu viele Bewerbungstools sortieren sie aus. Wer an den Tischen fehlt, an denen KI entwickelt wird, ist auch in den Ergebnissen nicht vertreten.

Jetzt abonnieren – und den nächsten Realitätscheck nicht verpassen
Diese Folge ist für all jene, die glauben, beim Thema KI schon „durch” zu sein. Abonniere „Follow the White Rabbit” auf deiner Lieblingsplattform, hinterlasse eine Bewertung und schicke die Folge an Führungskräfte, Kolleg:innen und alle, die KI gerade von oben nach unten einführen – bevor das nächste Datenschutzproblem auftaucht.

Links
Rebecca Hundschell – Gründerin Female AI Club, Expertin für KI-Governance | LinkedIn | The Female AI Club | ELEVAITION Consulting
EU AI Act – Volltext (Verordnung EU 2024/1689)
BSI: Künstliche Intelligenz und IT-Sicherheit
Bitkom: KI in deutschen Unternehmen – Studienlage
The Female AI Club

Mit zwölf Jahren sah Marie eine Dokumentation über intelligente Prothesen und wusste sofort: „Das ist es!” Jahre später, mitten im Maschinenbaustudium, kommt die ernüchternde Erkenntnis: Die Roboter sind ihr zu dumm. Also wechselt sie die Richtung. In dieser Folge von „Follow the White Rabbit” nimmt Dr. Marie Ossenkopf, KI-Forscherin und Mitgründerin der NGO Omega AGI, Lisa Fröhlich mit zur vielleicht größten Frage unserer Zeit: Was unterscheidet heutige KI von echter, allgemeiner Intelligenz – und was fehlt noch?
Marie erklärt, warum Maschinen die kreativsten Lösungen finden, wenn man ihnen ein Ziel, aber keinen Weg vorgibt. Ein berühmtes Beispiel aus ihrer Forschung ist ein Roboterhund beim Roboterfußball, der nicht laufen, sondern rutschen lernte – stabiler und schneller, als es je ein Mensch vorgegeben hätte. Sie zeigt, warum heutige Chatbots zwangsläufig einen Charakter entwickeln und warum Reinforcement Learning die großen Sprachmodelle erst wirklich gesprächsfähig gemacht hat. Schließlich erläutert sie, was einer planenden, selbstlernenden KI bis heute fehlt: ein echtes Weltmodell, Selbstwahrnehmung und neue Rechenarchitekturen.
Dann wird es philosophisch. Können Maschinen fühlen? Maries Antwort: Technisch ist das denkbar, aber wollen wir das überhaupt? Und sind wir als Gesellschaft darauf vorbereitet? Diese Folge geht tiefer als der aktuelle Hype um LLMs. Sie ist ein Gegengift gegen unreflektierte KI-Begeisterung und eine Einladung, die Frage zu stellen, die wir zu selten stellen: Was wollen wir von KI, bevor wir sie bauen?
Takeaways

Echte Intelligenz entsteht durch Ausprobieren. Reinforcement Learning bedeutet Lernen durch Versuch, Irrtum und Belohnung. Wenn man einem System nur das Ziel vorgibt, aber nicht den Weg, dann entstehen Lösungen, die kein Mensch je programmiert hätte.
Reinforcement Learning hat die LLMs erst chatfähig gemacht. Lange war es ein Nischenthema, da Ausprobieren nur in sicheren Räumen funktioniert. Erst die Kombination aus Sprachmodell und menschlichem Feedback machte echte Konversation möglich.
Der Charakter einer KI ist kein Fehler. Jedes hinreichend komplexe System entwickelt Eigenheiten, die durch zufällige Initialisierung und menschliches Feedback geprägt sind. Deshalb lohnt es sich, bewusst das Modell zu wählen, das zu einem passt.
Bis zur AGI fehlt die Hypothesen-Maschine. Heutige Systeme existieren nur im Moment des Prompts. Echte AGI bräuchte ein eigenes Weltmodell, Selbstwahrnehmung und die Fähigkeit zum expliziten Planen – sowie neue Rechenarchitekturen, die aktuelle GPUs nicht liefern können.
Erst denken, dann bauen. Fühlende Maschinen sind langfristig denkbar, doch die Menschheit ist noch nicht bereit dafür. Die wichtigste Frage kommt zuerst: Was wollen wir von KI überhaupt?

Jetzt abonnieren und das KI-Special nicht verpassen!
Diese Folge ist ein Ausflug in die ganz großen Fragen und ein Gegengift zum Hype. Teile sie mit allen, die KI nicht nur nutzen, sondern verstehen wollen. Abonniere Follow the White Rabbit und sag' uns: Wann rechnest du mit der ersten echten AGI?

Links:
Dr. Marie Ossenkopf, KI-Forscherin, Mitgründerin Omega AGI
Lisa Fröhlich, Host, Unternehmenssprecherin Link11

Omega AGI – gemeinnützige NGO für KI-Forschung
DeepMind: AlphaZero & Reinforcement Learning
EU AI Act – Regulatorischer Rahmen für KI

Laut einer Umfrage aus dem Jahr 2025 meldeten 97 Prozent der international agierenden Unternehmen gravierende Störungen durch Lieferkettenangriffe. Fast alle. Und trotzdem schützen die meisten Unternehmen vor allem sich selbst und übersehen dabei, dass Angreifer längst den Umweg über den IT-Dienstleister, den Softwareanbieter oder den Zulieferer drei Ebenen tiefer in der Kette kennen. In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Dr. Fino Scholl, dem Geschäftsführer der deutschen Tochtergesellschaft eines Schweizer GRC-Softwareanbieters, über Lieferkettenangriffe, Third-Party-Risiken und was Unternehmen heute konkret tun können, bevor das Kind in den Brunnen gefallen ist.
Fino kennt das Thema von beiden Seiten. Als Ingenieur in der Automobilbranche erlebte er hautnah, was passiert, wenn ein Unternehmen in einen Skandal verwickelt wird und plötzlich Governance-Strukturen aufbauen muss, die vorher niemand für nötig hielt. Heute vertreibt er GRC-Tools, die genau das systematisch umsetzen. Sie schaffen Transparenz, identifizieren kritische Dienstleister und bewerten Risiken, bevor ein Angriff über eine vertrauensvolle Geschäftsbeziehung möglich wird. Sein Befund zur aktuellen Lage ist ernüchternd: Viele Unternehmen wissen noch nicht einmal, ob NIS 2 auf sie zutrifft. Und diejenigen, die es wissen, haben oft keinen vollständigen Überblick darüber, von welchen Dritten sie abhängig sind.
Die gute Nachricht ist: Man muss nicht alle 100 Lieferanten gleichzeitig durchleuchten. Ein risikobasiertes Vorgehen ist der Schlüssel. Wer seine Kronjuwelen kennt, also die kritischsten Assets und Geschäftsprozesse, kann ableiten, welche Dienstleister prioritär zu prüfen sind. Vertragsklauseln, regelmäßige Audits, Multi-Faktor-Authentifizierung für externe Zugänge, automatisiertes Monitoring und Notfallpläne für den Ausfall eines kritischen Partners sind zwar viel, aber machbar. Und KI kann dabei helfen, den Aufwand zu reduzieren – von der automatisierten Suche nach negativen Medien bis zur Erkennung von Anomalien im Netzwerk. Wer heute anfängt, hat morgen einen Vorsprung.
Takeaways:
97 Prozent der Unternehmen sind betroffen, aber kaum jemand schaut hin. Lieferkettenangriffe sind kein Randphänomen. Die Liste prominenter Fälle wird immer länger: SolarWinds, Südwestfalen-IT, der CrowdStrike-Vorfall. Der Angriff auf dein Unternehmen beginnt möglicherweise beim Buchhaltungsdienstleister.
Viele Unternehmen wissen nicht, wem sie eigentlich vertrauen. Wer seine kritischen Dienstleister nicht kennt, kann sie nicht schützen. Der erste Schritt ist immer derselbe: Transparenz schaffen – wie beim Asset-Management, nur für externe Partner.
NIS 2 bezieht sich auch auf die Lieferkette. Wer als reguliertes Unternehmen einen Dienstleister einsetzt, ist dafür verantwortlich, dass auch dieser die Anforderungen erfüllt. Dies muss vertraglich festgehalten und regelmäßig überprüft werden.
Vertrauen ist kein Sicherheitskonzept. Altbewährte Dienstleister, mit denen seit Jahren zusammengearbeitet wird, müssen genauso geprüft werden wie neue. Genau diese Vertrauensbasis wird von Angreifern gezielt ausgenutzt.
KI kann auf beiden Seiten helfen, doch die Verteidiger nutzen sie noch zu wenig. Mögliche Anwendungen sind automatisierte Schwachstellenscans, Adverse-Media-Monitoring und KI-gestützte Fragebögen für Lieferantenaudits. Die Tools sind vorhanden. Der Wille, sie einzusetzen, muss jedoch noch wachsen.

Jetzt abonnieren – und keine Folge mehr verpassen
Wenn diese Folge dich dazu gebracht hat, mal nachzudenken, wer eigentlich alles Zugang zu deinen Systemen hat – gut. Abonniere Follow the White Rabbit auf deiner Lieblingsplattform, hinterlasse eine Bewertung und schick diese Folge an alle, die im Einkauf, in der IT oder im Risikomanagement arbeiten. Die brauchen sie.
Links:
Dr. Fino Scholl – Geschäftsführer, Swiss GRC (Deutschland & Österreich)
Lisa Fröhlich – Host, Unternehmenssprecherin Link11

BlueVoyant: State of Supply Chain Defense 2025
BSI zu NIS 2 – Anforderungen und Geltungsbereich
ENISA: Supply Chain Attacks Report
DORA – Digital Operational Resilience Act
Lesetipp: This Is Not a Drill – Kris Lovejoy & Dave Mahon

Es werden Millionen für Firewalls, Audits und Schulungen ausgegeben – und trotzdem klickt irgendwann jemand auf den Phishing-Link. Warum? Weil das Problem nicht im Server-Rack, sondern in den Köpfen der Menschen steckt. In dieser Folge von „Follow the White Rabbit” geht Lisa Fröhlich gemeinsam mit Dr. Marc Wilczek, Cybersecurity-Forscher und Research Fellow an der Goethe-Universität Frankfurt, sowie Ralph Noll, Leiter des Cyber Incident Response Teams bei Deloitte, dorthin, wo es wirklich wehtut: in die Psychologie hinter schlechten Sicherheitsentscheidungen. Das Erschreckende daran? Die Betroffenen sind keine unerfahrenen Nutzer, sondern erfahrene Führungskräfte, die täglich mit IT-Sicherheit zu tun haben.
Marc hat in seiner Doktorarbeit wissenschaftlich belegt, was viele im Bauch ahnen. Fach- und Führungskräfte überschätzen systematisch ihre Abwehrfähigkeiten und unterschätzen gleichzeitig die Wahrscheinlichkeit, dass ihnen etwas passiert. Beides zusammen ergibt eine gefährliche Komfortzone. Audits, Krisenpläne und Schulungen schaffen ein trügerisches Sicherheitsgefühl, solange sie nicht in ein größeres Programm eingebettet sind. Ralph kennt die Folgen aus erster Hand: Er kommt dann ins Spiel, wenn die Systeme bereits verschlüsselt sind. Und fast immer führt die Spur zurück zum Faktor Mensch, zu einem Klick, der in einer Sekunde der Panik getätigt wurde, weil das Gehirn auf Autopilot lief.
Die gute Nachricht steckt in den Forschungsergebnissen: Simulationen wirken. Wer den Ernstfall übt, geht demütiger und wachsamer durch den Alltag. Und wer eine Unternehmenskultur aufbaut, in der Fehler gemeldet und nicht versteckt werden, kann Schäden schneller begrenzen. KI macht das alles komplizierter – als Werkzeug der Angreifer, aber auch als mögliche Unterstützung für Verteidiger. Eines aber bleibt: Der gesunde Menschenverstand ist und bleibt die wichtigste Sicherheitslinie. Diese Folge erklärt, warum das so ist und was du konkret tun kannst.
Takeaways:
Wissen schützt nicht vor Fehlern. Zwischen dem Wissen, dass es Phishing gibt, und dem Nicht-Klicken liegt eine kognitive Lücke. Die Forschung belegt: Selbst Sicherheitsverantwortliche sind davor nicht gefeit.
Schulungen können trügen. Wer eine Security-Schulung absolviert hat, fühlt sich sicherer – und ist dadurch manchmal anfälliger. Schulungen benötigen einen größeren Rahmen, sonst verpuffen sie.
Hierarchische Kulturen sind bevorzugte Angriffsziele. CEO-Fraud funktioniert besonders gut dort, wo niemand den Chef hinterfragt. Eine offene Fehlerkultur ist keine Soft-Skill-Übung, sondern eine Sicherheitsstrategie.
Simulationen öffnen die Augen, Checkboxen hingegen nicht. Der wirksamste Schutz ist die kontrollierte Konfrontation mit dem Ernstfall. Wer Regulatorik nur abhakt, wähnt sich in einer Sicherheit, die nicht existiert.
KI verstärkt sowohl Angriff als auch Verteidigung. Deepfakes, KI-generierte Phishing-Mails und manipulierte Lerndatensätze machen die Bedrohungslage komplexer. Aber auch die Abwehr kann mit KI besser werden, wenn der Mensch weiterhin eingebunden ist.

Jetzt abonnieren – und keine Folge mehr verpassen
Wenn diese Folge dich zum Nachdenken gebracht hat, dann erzähl es weiter. Abonniere Follow the White Rabbit auf deiner Lieblingsplattform, hinterlasse eine Bewertung und empfiehl den Podcast deinem Team, deiner Führungsebene oder allen, die glauben, mit einem Audit gut aufgestellt zu sein.

Links:
Dr. Marc Wilczek – Cybersecurity-Experte, Research Fellow am Lehrstuhl für Wirtschaftsinformatik, Goethe-Universität Frankfurt
Ralph Noll – Leiter Cyber Incident Response, Deloitte
Lisa Fröhlich – Host, Unternehmenssprecherin Link11

BSI: Social Engineering und CEO-Fraud
Bitkom Cybersecurity-Studie 2024
DORA – Digital Operational Resilience Act
FBI Internet Crime Report 2024
Lesetipp: Daniel Kahneman: Schnelles Denken, langsames Denken