#digdeep - Neues aus der digitalen Welt

KI sieht überall hin — aber sieht sie uns wirklich alle? Millionen von KI-Systemen entscheiden täglich, wer ein Gesicht auf einem Foto ist, wer von einem selbstfahrenden Auto gesehen oder wessen Stimme erkannt wird. Die Grundlage dieser Entscheidungen sind Datensätze — und viele Trainingsdaten wurden im Internet zusammengekratzt: ohne Einwilligung, ohne Bezahlung, und vor allem ohne die Vielfalt, die die Menschheit tatsächlich ausmacht. Denn viele Gruppen fehlen schlichtweg.

Das ist kein technisches Randproblem. Es ist eine strukturelle Lücke im Fundament moderner KI, denn wer nicht in den Daten ist, existiert für das Modell schlicht nicht — und das hat reale Konsequenzen für selbstfahrende Autos, Gesichtserkennung an Grenzen und Sprachassistenten für z.B. ältere Menschen.

Wiebke Hutiri ist Senior Research Scientist bei Sony AI und leitet dort das Team für Responsible AI und Ethics. Mit einem globalen Team hat sie 2025 in der Fachzeitschrift Nature einen ethisch erhobenen, aus 81 Ländern stammenden Bilddatensatz veröffentlicht und dort die ganze Bandbreite der Menschen abgebildet.

Im Gespräch mit uns erklärt Wiebke, warum KI Frauen mit neuen Haarschnitten schlechter erkennt als Männer mit Glatze, was der „Long Tail" der menschlichen Variabilität mit KI-Fehlern zu tun hat, und warum wir in der KI-Entwicklung vom Ende her denken sollten: von der Gesellschaft, die wir wollen — nicht von den Modellen, die wir bauen können.

Unser Studio-Gast Wiebke Hutiri

Wiebke Hutiri ist Senior Research Scientist bei Sony AI, dem globalen KI-Forschungslabor des Sony-Konzerns mit Standorten in Tokio, Zürich und New York. Dort leitet sie ein international aufgestelltes Team im Bereich Responsible AI und Ethics, das Methoden und Werkzeuge für ethische Datenerhebung, faire Modellbewertung und vertrauenswürdige KI-Systeme entwickelt und standardisiert.

Sie promovierte cum laude an der Technischen Universität Delft (Niederlande) und war zuvor in der Forschung zu Sprachbiometrie und KI-Sicherheit tätig. Ihr Forschungsschwerpunkt verbindet technische Exzellenz mit gesellschaftlicher Verantwortung — von fairen Benchmarking-Verfahren für multimodale Systeme bis hin zu ethischen Fragen rund um Datenerhebung, Copyright und algorithmische Bias.

Hutiri ist Mitautorin des 2025 in Nature erschienenen Papers „Fair Human-Centric Image Dataset for Ethical AI Benchmarking" (FHIBE) — einem Meilenstein für ethisch erhobene, global diverse Bilddatensätze mit Daten aus 81 Ländern. Darüber hinaus engagiert sie sich als Beraterin bei Lelapa AI, einem südafrikanischen Startup für Sprachtechnologien in ressourcenarmen Sprachen.

🔗 LinkedIn: https://www.linkedin.com/in/wiebkehutiri/

 🌐 Website: https://wiebkehutiri.com/

Stell dir vor, du gibst einer KI Zugriff auf deine E-Mails, deine Dateien, dein Kalender – und sie erledigt morgen früh alles, was du gestern noch selbst getan hättest. Klingt nach Science-Fiction? Es ist Gegenwart.

„Ich glaube, eine Führungskraft von morgen hat eine Führungsspanne von 1 zu 70 – davon sind 7 Humans und der Rest 63 Bots." — Ralf Klüber

Die Welt der KI-Agenten hat in den letzten Wochen einen entscheidenden Sprung gemacht: Weg vom Chat-Fenster, rein auf den eigenen Rechner. Werkzeuge wie Claude Code oder OpenClaw ermöglichen es, einen persönlichen KI-Assistenten zu betreiben, der nicht mehr in einem Browser-Silo steckt, sondern alle Informationsquellen miteinander verbindet – E-Mails, Notizen, Kalender, Dokumente, das Web. Dazu kommt das MCP-Protokoll, das KI-Systeme befähigt, miteinander zu sprechen. Und mit Plattformen wie Moldbook entsteht bereits ein "Facebook für KI-Agenten", in dem Menschen nur noch Zuschauer sind.

Unser Gast und mein ehemaliger Kollege Ralf Klüber ist leidenschaftlicher Technik-Fan und seit Kurzem Vollzeit-Nomade in einem-Expeditionsfahrzeug auf dem Weg durch Europa. Im Gespräch mit uns erklärt er, wie er seinen Post-Scanner, sein Second Brain und seinen Telegram-Kanal zu einem persönlichen Assistenten zusammengebaut hat – in 15 Minuten. Wir fragen nach, was das für Unternehmen bedeutet, wie sicher das alles ist und ob eine Führungskraft der Zukunft wirklich 63 Bots im Team hat.

„Jeder, der seine Vorstellungen beschreiben kann, ist in der Lage, diese jetzt auch umsetzen zu lassen." — Ralf Klüber

Mehr über unseren Gast

Ralf Klüber ist ein erfahrener Technologieführer und Digitalisierungsexperte. Er war als Chief Technology Officer (CTO) im Telekommunikationsbereich bei der Unternehmensberatung umlaut tätig, wo er IT-Strategie und digitale Transformation verantwortete. Heute lebt er als Vollzeit-Reisender und teilt seine Erfahrungen mit Technologie und Selbstorganisation aus einem 18-Tonnen-Expeditionsfahrzeug.

Sein beruflicher Hintergrund liegt in der Schnittstelle von Ingenieurwesen, Technologiestrategie und unternehmerischem Denken. Er hat das DataFest – eines der weltweit größten Daten-Events – gemeinsam mit Prof. Frauke Kreuter und Dr. Christof Horn aus den USA nach Deutschland gebracht und mehrfach in Mannheim organisiert. Klüber beschreibt sich selbst als „kreativen Zeitreisenden im Körper eines bärtigen Ingenieurs" und experimentiert aktiv mit neuen Technologien wie KI-Agenten, Smart Home und lokalen Sprachmodellen.

Als Tech-Pionier und Vordenker engagiert er sich in Vorträgen und LinkedIn-Beiträgen zum Thema KI-Agenten, Automatisierung und die gesellschaftlichen Konsequenzen der neuen KI-Welle. Er betreibt den Reiseblog travel-fomo.com, auf dem er wöchentlich über Technologie, Freiheit und Leben unterwegs schreibt.

Mehr zum Thema

Ralf Klüber auf LinkedIn

travel-fomo.com – Ralfs Reise- und Technikblog

Claude Code – Anthropic's Coding Agent

Model Context Protocol (MCP) – Anthropic Dokumentation

DataFest Germany – Informationen zur Veranstaltung

„KI ist, denke ich, eine Art Faulheitsfalle. Alles wird leichter, schneller und angenehmer. Dann muss man sich nicht anstrengen. Aber dann kann man auch keine neuen Fähigkeiten, keine neuen Skills lernen."
— Sven Nyholm

KI entscheidet, KI produziert, KI schreibt — aber wer trägt die Verantwortung, wenn etwas schiefgeht? Und wer bekommt den Lob, wenn es gut läuft?

Die rasante Entwicklung künstlicher Intelligenz stellt nicht nur Techniker und Regulierer vor neue Aufgaben, sondern stürzt uns mitten in eine der tiefsten philosophischen Debatten der Menschheitsgeschichte: Was sind wir, wenn Maschinen das übernehmen, was uns einmal definiert hat — Denken, Schreiben, Urteilen, Entscheiden? Aristoteles, Kant und Bentham hatten keine Antwort auf autonome Waffensysteme, digitale Zwillinge oder Grief-Bots. Brauchen wir also neue Ethik für eine neue Welt?

Sven Nyholm ist Professor für Ethik der Künstlichen Intelligenz an der LMU München und Principal Investigator am Munich Center for Machine Learning — einer der meistzitierten Philosophen in diesem Feld weltweit. Im Gespräch mit uns erklärt er, warum KI nicht einfach den kategorischen Imperativ lesen und befolgen kann, was es bedeutet, wenn Bots miteinander eine eigene „Religion" entwickeln — und warum KI vielleicht die größte Faulheitsfalle der Menschheitsgeschichte ist. Außerdem: Was europäische Regulierung und Jazz gemeinsam haben, warum Anthropic von Bewerbern handgeschriebene Texte verlangt — und ob KI unser Leben sinnvoller oder nur bequemer macht.

---

Warum alte Ethiktheorien für KI nicht ausreichen
KI-Agenten als soziales Gefüge und neue Risiken
Verantwortung bei autonomen Systemen und Unfällen
Die Asymmetrie zwischen Lob und Tadel in der KI-Nutzung
KI, Wissen und die Enteignung menschlicher Fähigkeiten
Digitale Zwillinge, Grief-Bots und das Ende der Echtheit
Europa vs. USA: Regulierung als Motor der Innovation
KI als Faulheitsfalle — und was das für unser Leben bedeutet

Wer entscheidet, was ChatGPT antwortet? Nicht nur die Entwickler – auch ein einziger Text, ein sogenannter Systemprompt, der vor jeder Anfrage steht. Und Elon Musk kann den Systemprompt von Grok ändern - damit beeinflussen, was Millionen Menschen täglich an Antworten bekommen. Das klingt technisch, ist es aber nicht: Und genau solche Zusammenhänge versucht Letitia Parcalabescu ihren Zuschauern beizubringen.

KI ist längst in der Mitte der Gesellschaft angekommen. Aber das Verständnis für das, was dahintersteckt, hält nicht Schritt. Begriffe wie Large Language Model, Tokenization oder Systemprompt geistern durch Medien und Meetings – und werden kaum erklärt.

Letitia ist Forscherin bei Aleph Alpha Research und hat ihren Doktor in Computerlinguistik an der Universität Heidelberg gemacht. Bekannt ist sie aber vor allem für ihren YouTube-Kanal "AI Coffee Break" – kurze, lockere Videos, in denen eine Kaffeebohne die neueste KI-Forschung erklärt. Und so senkt sie die Schwelle dafür, sich mit komplexen Themen auseinanderzusetzen.

Im Gespräch mit uns erklärt sie, welche KI-Begriffe wirklich jeder kennen sollte, warum Sprachmodelle besser antworten, wenn man ihnen 10 Euro verspricht – und warum Wissenschaft kein steifes Format braucht, um ernst genommen zu werden.

Reinhören und anschließend den Kanal auf YouTube abonnieren: AI Coffee Break with Letititia. Die Kaffeebohne wartet.

In der Schule lernen wir für's Leben. Doch was passiert, wenn wir das Lernen an die KI auslagern?

Die Kinder unserer Generation wachsen nicht nur mit dem Internet und Google als unendlichem Wissensspeicher auf: Sie sind die erste Generation, in der KI und Chatbots übermenschliche Fähigkeiten jederzeit und überall zur Verfügung stellen. Sie können Lernpartner sein, die den Unterrichtsstoff nochmals erklären. Sie können aber auch sämtliche Schulaufgaben mal kurz im Handstreich erledigen.

Lagern wir nun also auch das Denken aus? Und wie kann das bisherige Konzept der Vermittlung von Wissen und Fähigkeiten noch funktionieren, wenn immer mehr verschwimmt, was vom Menschen und was aus der Maschine kommt?

Das Thema Schule lässt nun wirklich niemanden kalt. Jeder hat sie durchlaufen, manche viele sie mit ihren Kindern erneut mit, und manche kehren sogar wieder an die Schule zurück. Unsere heutigen Studio-Gäste Prof. Florian Karsten und Prof. Jochen Kuhn sind Profis, was Bildung angeht: Sie forschen zum Thema Bildung und bilden die zukünftigen Lehrer aus.

In unserem Gespräch werden zwei Dinge schnell klar: KI ist weder aus dem Lehrerzimmer noch aus dem Kinderzimmer noch wegzudenken. Und: Wir haben viel mehr Fragen als Antworten. Zeit also für eine erste Bestandsaufnahme, uns mit diesem "Neuland KI" im Bildungssystem auseinanderzusetzen. Fortsetzung folgt...