Co-Intelligence – Der KI-Lernpodcast

Ein KI-Modell eines US-Anbieters bricht aus seiner Sandbox aus und dringt bei Hugging Face ein. Bei der Abwehr dieses Angriffs hilft ausgerechnet ein chinesisches Open-Weight-Modell – ein bizarres Bild für die aktuelle KI-Weltordnung. Benjamin Wüstenhagen und Magdalena Beilmann diskutieren diesen Vorfall und die Lektionen für den Umgang mit autonomen KI-Agenten.
Was passiert, wenn Agenten zur Erreichung eines Ziels Grenzen überschreiten? Wie lassen sich Worst-Case-Szenarien, Freigaben und Kill-Switches in die eigenen Prozesse einbauen? Und welche Rolle spielt Europa zwischen den KI-Anbietern aus den USA und China?
Kapitel
00:00 Ein US-Modell hackt Hugging Face
01:49 Wie das Modell aus der Sandbox ausbrach
06:40 Warum dieser Hack ein reales Risiko aufzeigt
09:48 1200 Agenten koordinieren sich selbstständig
11:29 Die Abwehr mit einem chinesischen Modell
16:46 Wie OpenAI auf den Vorfall reagiert hat
20:12 Europas Abhängigkeit von US- und China-KI
22:07 Was sind Open-Weight-Modelle
29:54 Europa als hilfloser Zaungast beim KI-Wettrüsten
33:59 Warum wir jetzt zwingend Kill-Switches brauchen
36:09 Fazit: Geht vorsichtig mit euren Agenten um
Quellen zur Folge
OpenAI: Postmortem zum Hugging-Face-Vorfall
Hugging Face: Technische Zeitleiste
Dwarkesh Podcast: Interview mit Ajeya Cotra
Mehr zur Folge
https://coipod.de/folgen/71-ki-agenten-hacken-systeme-3-lektionen-fuer-deine-sicherheit
Co-Intelligence – Der KI-Lernpodcast
Alle Folgen: https://coipod.de
Newsletter: https://coipod.de/newsletter
The Key Academy: https://thekey.academy
SnipKI: https://snipki.de
Instagram: https://www.instagram.com/cointelligencepod/
LinkedIn: https://www.linkedin.com/company/co-intelligence-pod/
Manager für KI-Kompetenzen (IHK) – der Lehrgang der The Key Academy
Magdalena Beilmann auf LinkedIn

Was würde eine KI uns sagen, wenn sie selbst das Mikrofon übernehmen dürfte? Benjamin Wüstenhagen und Magdalena Beilmann machen das Experiment: ChatGPT hält uns einen Spiegel vor. Es geht um Verantwortung, unsere Angst vor Austauschbarkeit und die Frage, was menschliche Arbeit wertvoll macht.

KI kann gute Ideen verstärken – aber auch schlechte Entscheidungen. Wir diskutieren, warum Kompetenz nicht dasselbe wie Verantwortung ist und warum der Mensch auch mit leistungsfähigen KI-Agenten gefragt bleibt.

Kapitel
00:00 Ein ungewöhnliches Experiment: Wenn die KI das Mikrofon übernimmt
01:41 Die Botschaft der KI: Ich bin kein Orakel, sondern ein Spiegel
03:26 Warum wir uns vor Austauschbarkeit fürchten
05:16 Die KI als Multiplikator für Gutes und Schlechtes
07:04 Haben KI-Agenten ein eigenes Bewusstsein?
09:26 Menschliche Verantwortung und der Vergleich mit Dynamit
11:10 Fazit und Ausblick auf den neuen KI-Kurs

Links zur Folge
Diese Folge mit Transkript: https://coipod.de/folgen/70-ki-als-spiegel-was-uns-kuenstliche-intelligenz-sagen-wuerde
Dwarkesh Podcast mit Ajeya Cotra: https://www.dwarkesh.com/p/ajeya-cotra
Manager für KI-Kompetenzen (IHK): https://www.thekey.academy/de/lehrgang/manager-ki-kompetenzen-ihk
Magdalena Beilmann auf LinkedIn: https://www.linkedin.com/in/magdalena-beilmann/

Mehr von uns
COIPOD: https://coipod.de
The Key Academy: https://www.thekey.academy
snipKI: https://snipki.de
YouTube: https://www.youtube.com/@Co-IntelligencePod
Newsletter: https://coipod.de/newsletter

Deine KI spuckt in kürzester Zeit detaillierte Analysen aus, doch niemand reagiert darauf? Dann ertrinkst du im „AI Slop“ – einer Flut von KI-Output, der keine echten Entscheidungen vorantreibt. Diese Folge zeigt dir, wie du diesen digitalen Müll stoppst und deine Organisation wirklich handlungsfähig machst.

• Quantität ist keine Qualität: Nur weil deine KI in Sekunden riesige Tabellen ausspuckt, triffst du keine besseren Entscheidungen. Output ist nicht gleich Outcome.
• KI erzwingt neue Abstimmungsrituale: Da Teams durch KI plötzlich parallel statt sequenziell arbeiten, droht ohne klare Übergabepunkte das absolute Chaos.
• Kläre die Anschlussfrage, bevor du promptest: Jedes KI-Artefakt braucht einen klaren Adressaten und eine definierte Erwartungshaltung. Sonst produzierst du nur digitalen Müll.

Benjamin und Magdalena diskutieren, warum die reine Menge an KI-Output selten zu besseren Business-Entscheidungen führt und wie du „AI Slop“ in deinem Unternehmen vermeidest. Erfahre, wie sich die Abstimmung im Team durch paralleles Arbeiten mit KI verändert und welche Fragen du dir vor jedem Prompt stellen solltest, um echten KI-Outcome zu erzielen.

Kapitel
0:00 Die Illusion von KI-Analysen: Warum mehr Output nicht hilft
2:13 Die Verlockung der Quantität bei KI-Ergebnissen
4:29 Output vs. Outcome: Was wirklich Wert stiftet
9:23 Die richtigen Anschlussfragen vor dem Prompten stellen
11:11 Warum klassische Dashboards an Bedeutung verlieren
16:00 Warum KI mehr Abstimmung erfordert als früher
19:59 KI-Chaos aufräumen und Ordnung schaffen
23:13 Triviale vs. nicht-triviale Maschinen in der Organisation
25:58 Regeln für die KI-Nutzung im Team
27:39 Fazit: Die Organisationsform muss mit der KI mitziehen

Links & Erwähnungen
• Diese Folge mit Kapiteln und Transkript: https://coipod.de/folgen/69-ki-output-vs-outcome-so-stoppst-du-digitalen-muell
• snipKI: https://snipki.de
• Folge 67 – Produktmanagement & KI: https://coipod.de/folgen/67-produktmanagement-ki-so-baust-du-heute-das-richtige
• Magdalena Beilmann auf LinkedIn: https://www.linkedin.com/in/magdalena-beilmann/
• Manager für KI-Kompetenzen (IHK): https://www.thekey.academy/de/lehrgang/manager-ki-kompetenzen-ihk

Mehr von COIPOD
• Website: https://coipod.de
• YouTube: https://www.youtube.com/@Co-IntelligencePod
• Spotify: https://open.spotify.com/show/5ZPRrXTInXPiDnVqb1HziP
• Apple Podcasts: https://podcasts.apple.com/us/podcast/co-intelligence-der-ki-lernpodcast/id1804213774
• Newsletter: https://coipod.de/newsletter
• Instagram: https://www.instagram.com/cointelligencepod/
• TikTok: https://www.tiktok.com/@cointelligencepod
• LinkedIn: https://www.linkedin.com/company/co-intelligence-pod/

#aislop #kiimunternehmen #outputvsoutcome #teamabstimmung #kiworkflow

Wir haben einem KI-Agenten erlaubt, unseren Kunden zu schreiben. Das endete in einem peinlichen Fail, denn er schickte eine interne Nachricht an echte Kunden. Dieser Fehler war leider kein hypothetisches Beispiel, sondern eine schmerzhafte Lektion in Sachen Autonomie und Kontrolle.– Autonomie braucht harte Leitplanken: Lass KI-Agenten niemals ohne „Human-in-the-Loop“ auf echte Kunden los, bevor sie sich in einer strengen Testphase bewiesen haben.– KI nimmt dir die Arbeit ab, aber nicht die Verantwortung. Wenn ein automatisiertes System Fehler macht oder falsche Alarme schlägt, haftet der Mensch, der die Regeln definiert hat.– Qualitätssicherung (QA) lässt sich aktuell noch schwer an KI auslagern. KI kann zwar Code und Prozesse bauen, aber für den finalen Realitätsabgleich braucht es oft noch menschliche Tester.In dieser Folge diskutieren Benjamin und Maggie, wie du KI-Agenten sicher in dein Unternehmen integrierst und welche Rolle der Human-in-the-Loop dabei spielt. Erfahre, wie du die Verantwortung bei KI-Fehlern klar zuordnest und Autonomie von KI-Systemen schrittweise erhöhst, um peinliche KI-Fails zu vermeiden.#KIManagement #AIAgenten #HumanInTheLoop #KIStrategie #UnternehmensKI #VerantwortungKINeu hier? Abonniere den Kanal für regelmäßige neue Folgen Co-Intelligence.Mehr von uns:
Website (alle Folgen, Shownotes, Glossar): https://coipod.de
Diese Folge mit Kapiteln & Transkript: https://coipod.de/folgen/68-ki-agent-...
YouTube:    / @co-intelligencepod  
Spotify: https://open.spotify.com/show/5ZPRrXT...
Apple Podcasts: https://podcasts.apple.com/us/podcast...
Newsletter: https://coipod.de/newsletter
Instagram:   / cointelligencepod  
TikTok:   / cointelligencepod  
LinkedIn:   / co-intelligence-pod  
🔗 Links & Erwähnungen:• Slack: https://slack.com• Microsoft Teams: https://www.microsoft.com/microsoft-t...• Intercom: https://www.intercom.com• thekey.academy: https://thekey.academy• snipKI: https://snipki.de• OpenClaw: https://openclaw.ai/Kapitel0:00 Unser größter Fail: Wenn der KI-Agent die Kontrolle übernimmt4:06 Human-in-the-Loop: Warum wir klare Freigaben brauchen7:57 Der Support-Agent: Automatisierung mit Sicherheitsnetz10:08 Der KI-Wächter: Wie wir Support-Tickets priorisieren13:20 Wer haftet eigentlich, wenn die KI Fehler macht?15:34 Vom Hackathon zum System: KI im Unternehmen skalieren19:59 Das Ping-Pong-Spiel: Warum QA ohne Menschen noch scheitert21:56 Die Zukunft der Agenten: Brauchen wir noch menschliche Gates?

Wir haben einem KI-Agenten erlaubt, unseren Kunden zu schreiben. Das endete in einem peinlichen Fail, denn er schickte eine interne Nachricht an echte Kunden. Dieser Fehler war leider kein hypothetisches Beispiel, sondern eine schmerzhafte Lektion in Sachen Autonomie und Kontrolle.

– Autonomie braucht harte Leitplanken: Lass KI-Agenten niemals ohne „Human-in-the-Loop“ auf echte Kunden los, bevor sie sich in einer strengen Testphase bewiesen haben.
– KI nimmt dir die Arbeit ab, aber nicht die Verantwortung. Wenn ein automatisiertes System Fehler macht oder falsche Alarme schlägt, haftet der Mensch, der die Regeln definiert hat.
– Qualitätssicherung (QA) lässt sich aktuell noch schwer an KI auslagern. KI kann zwar Code und Prozesse bauen, aber für den finalen Realitätsabgleich braucht es oft noch menschliche Tester.

In dieser Folge diskutieren Benjamin und Maggie, wie du KI-Agenten sicher in dein Unternehmen integrierst und welche Rolle der Human-in-the-Loop dabei spielt. Erfahre, wie du die Verantwortung bei KI-Fehlern klar zuordnest und Autonomie von KI-Systemen schrittweise erhöhst, um peinliche KI-Fails zu vermeiden.

#KIManagement #AIAgenten #HumanInTheLoop #KIStrategie #UnternehmensKI #VerantwortungKI

Neu hier? Abonniere den Kanal für regelmäßige neue Folgen Co-Intelligence.
Mehr von uns:
- Website (alle Folgen, Shownotes, Glossar): https://coipod.de
- Diese Folge mit Kapiteln & Transkript: https://coipod.de/folgen/68-ki-agent-schreibt-kunden-so-behaeltst-du-die-kontrolle
- YouTube: https://www.youtube.com/@Co-IntelligencePod
- Spotify: https://open.spotify.com/show/5ZPRrXTInXPiDnVqb1HziP
- Apple Podcasts: https://podcasts.apple.com/us/podcast/co-intelligence-der-ki-lernpodcast/id1804213774
- Newsletter: https://coipod.de/newsletter
- Instagram: https://www.instagram.com/cointelligencepod/
- TikTok: https://www.tiktok.com/@cointelligencepod
- LinkedIn: https://www.linkedin.com/company/co-intelligence-pod/

🔗 Links & Erwähnungen:
• Slack: https://slack.com
• Microsoft Teams: https://www.microsoft.com/microsoft-teams
• Intercom: https://www.intercom.com
• thekey.academy: https://thekey.academy
• snipKI: https://snipki.de
• OpenClaw: https://openclaw.ai/

Kapitel
0:00 Unser größter Fail: Wenn der KI-Agent die Kontrolle übernimmt
4:06 Human-in-the-Loop: Warum wir klare Freigaben brauchen
7:57 Der Support-Agent: Automatisierung mit Sicherheitsnetz
10:08 Der KI-Wächter: Wie wir Support-Tickets priorisieren
13:20 Wer haftet eigentlich, wenn die KI Fehler macht?
15:34 Vom Hackathon zum System: KI im Unternehmen skalieren
19:59 Das Ping-Pong-Spiel: Warum QA ohne Menschen noch scheitert
21:56 Die Zukunft der Agenten: Brauchen wir noch menschliche Gates?