Reboot Society - KI, Diversität und die neue Weltordnung

Nach den jüngsten Sicherheitsvorfällen fordern ausgerechnet führende Köpfe der Tech-Branche, die Entwicklung besonders leistungsfähiger KI zu verlangsamen. Doch was soll eigentlich gebremst werden und wer kontrolliert, ob sich Unternehmen und Staaten daran halten?
Wir schauen auf den Drei-Stufen-Plan von Anthropic-CEO Dario Amodei: unabhängige Prüfer innerhalb der KI-Unternehmen, gemeinsame Sicherheitsstandards in demokratischen Staaten und internationale Vereinbarungen mit China. Außerdem fragen wir, ob die neuen Warnungen echte Verantwortungsübernahme sind oder ob große KI-Unternehmen versuchen, Regeln zu ihrem eigenen Vorteil mitzugestalten.
Zwischen Sicherheitsrisiken, geopolitischem Wettbewerb und wirtschaftlichen Interessen wird deutlich: Ein KI-Slowdown ist keine einfache Pause-Taste. Entscheidend ist, ob Kontrolle, Transparenz und internationale Zusammenarbeit mit dem Entwicklungstempo Schritt halten können.
Quellen zur Folge
Dario Amodei: „We Must Pace the Frontier“

OpenAI: Bericht zum Sicherheitsvorfall bei Hugging Face

OpenAI: Framework zur Veröffentlichung von Fehlverhalten

Reuters: Warnungen von Jacob Coxon und Evan Hubinger

Reuters: Anthropic zwischen Slowdown und Wettbewerbsdruck

Stanford AI Index 2026: Öffentliche Wahrnehmung von KI

Europäische Kommission: Regulierung durch den AI Act

📲 Media-Kanäle:
🔗 Sarah’s Instagram: @sarah_rojewski
🔗 Inken’s Instagram: @askinkenai

Jahrelang lieferten sich OpenAI, Anthropic und Google ein Wettrennen um immer leistungsfähigere KI. Doch plötzlich warnen ausgerechnet Menschen aus diesen Unternehmen vor den möglichen Folgen.
Auslöser der aktuellen Debatte sind unter anderem ein folgenreicher Sicherheitsvorfall bei Hugging Face und der öffentliche Rücktritt des ehemaligen OpenAI- und Anthropic-Forschers Jacob Coxon. Was zeigen diese Ereignisse wirklich? Können KI-Agenten bereits eigenständig Grenzen überschreiten und zusammenarbeiten? Und wo beginnt die spekulative Erzählung von AGI, Superintelligenz und einer KI, die sich selbst verbessert?
Wir sortieren Fakten und Zukunftsszenarien, sprechen über Silicon Valleys Echo Chambers und fragen: Sind die neuen Warnungen ein glaubwürdiger Alarm oder auch ein strategisches Instrument im Wettbewerb um Geld, Macht und Regulierung?
In Teil zwei untersuchen wir, wie ein KI-Slowdown konkret aussehen könnte und warum dabei kein Weg an China vorbeiführt.
Generative AI: Erstellt Texte, Bilder, Code und andere Inhalte.

Agentic AI: Plant Arbeitsschritte, nutzt Werkzeuge und führt Aufgaben aus.

AGI: Hypothetische KI mit breit gefächerten Fähigkeiten auf menschlichem Niveau.

ASI: Hypothetische Intelligenz, die Menschen in fast allen relevanten Bereichen übertrifft.

Recursive Self-Improvement: KI unterstützt die Entwicklung leistungsfähigerer KI-Systeme.
Quellen:

OpenAI: Der Hugging-Face-Vorfall und der weitere Weg

OpenAI: Framework und sechs weitere Fälle von Fehlverhalten

Reuters: Warnungen von Jacob Coxon und Evan Hubinger

WIRED: Interview mit Jacob Coxon nach seinem Rücktritt

Reuters: Weitere Stimmen zur aktuellen KI-Risikodebatte

Dario Amodei: „We Must Pace the Frontier“

OpenAI: Ursprüngliche Gründungsankündigung von 2015

📲 Media-Kanäle:
🔗 Sarah’s Instagram: @sarah_rojewski
🔗 Inken’s Instagram: @askinkenai

Dieselbe KI, dieselbe Frage,  aber auf Englisch antwortet sie vorsichtiger, auf Arabisch wärmer. Genau das hat Anthropic an Claude nachgewiesen:  Sarah und Inken ordnen die Studie ein, ergänzen sie um Gegenbefunde aus anderen Forschungsarbeiten und fragen: echter kultureller Fingerabdruck oder einfach schlechtere Sprachverarbeitung, die wie Persönlichkeit aussieht? Und was das bedeutet, wenn Millionen Menschen täglich in Dutzenden Sprachen mit demselben System reden.
🔗 Links:
Anthropic (2026): How Claude's values vary by model and language – anthropic.com/research/claude-values-models-languages

Anthropic (2025): Values in the Wild

Cultural Value Differences of LLMs: Prompt, Language, and Model Size – arxiv.org/abs/2407.16891

Made-in-China, Thinking in America: U.S. Values Persist in Chinese LLMs – arxiv.org/abs/2512.13723

The Ghost in the Grammar: Methodological Anthropomorphism in AI Safety Evaluations – arxiv.org/abs/2603.13255

Mehr zur Forschung von Meltem Aksoy https://www.researchgate.net/profile/Meltem-Aksoy-2

Mehr zur Forschung von Aliah Zewail: https://scholar.google.de/citations?user=ARLsaksAAAAJ&hl=de

📲 Media-Kanäle:
🔗 Sarah’s Instagram: @sarah_rojewski
🔗 Inken’s Instagram: @askinkenai

Waymo kommt nach München!! What?! 
In dieser Folge sprechen wir über den technologischen Sprung vom assistierten zum autonomen Fahren, über den Unterschied zwischen Level 4 und Level 5 und darüber, warum Teleoperation aus der Ferne im Hintergrund eine viel größere Rolle spielt, als viele denken. Wir schauen uns an, wo die deutsche und europäische Regulierung im internationalen Vergleich steht, wie Uber, Tesla und Baidu um den Markt kämpfen und was es für unsere Städte bedeutet, wenn Robotaxis Teil des Alltags werden. Und wir reden über den Punkt, den in der Debatte gern niemand anspricht, nämlich die Datenspuren und die Überwachungsinfrastruktur, die mit jedem dieser Fahrzeuge durch die Straßen rollt. Hört rein!
🔗 Links:
Adac Artikel zu den Automatisierungsstufen: https://www.adac.de/rund-ums-fahrzeug/ausstattung-technik-zubehoer/autonomes-fahren/grundlagen/autonomes-fahren-5-stufen/ 

📲 Media-Kanäle:
🔗 Sarah’s Instagram: @sarah_rojewski 🔗
Inken’s Instagram: @askinkenai

Wir sind zurück aus der Sommerpause und bringen die neusten KI News mit und sprechen über Themen, die uns in den letzten Wochen bewegt haben. Diesmal geht es um aktuelle Sicherheitsvorfälle rund um KI Modelle, neue Entwicklungen beim EU AI Act und die Frage, wie Fortschritt und Sicherheit zusammen gedacht werden können. Außerdem werfen wir einen Blick auf die Rolle von Open Source in der KI Entwicklung und darauf, was all das kulturell und ethisch für uns bedeutet.
🔎 Begriff im Fokus:
OpenSource: (wörtlich „offene Quelle“) wird Software bezeichnet, deren Quellcode (der Bauplan eines Programms) öffentlich zugänglich ist und von Dritten eingesehen, genutzt, verändert sowie verbreitet werden darf.
OpenWeight: Open-Weight-Modell ist ein künstliches Intelligenzmodell, bei dem die fertig trainierten Modellgewichte (die Parameter oder Zahlenwerte des Wissens) öffentlich zum Download bereitstehen, damit jeder sie auf eigener Hardware ausführen kann. Der Quellcode ist aber nicht offen.
🔗 Literatur & Studien:
Paper zu Shieldstral von Mistral: https://arxiv.org/abs/2607.25857
Link zum Buch “the Alignment Problem von Brian Christian: https://www.hugendubel.de/de/taschenbuch/brian_christian-the_alignment_problem-40398595-produkt-details.html?utm_source=google&utm_medium=cpc&utm_campaign=20795765403&adCode=320R20I20U31M&utm_term=&gad_source=1&gad_campaignid=20795766201&gbraid=0AAAAADi36RBldPwW8V6QI9TVozADobvwn&gclid=CjwKCAjwqc_UBhBKEiwAWbl25sxnnFzW9wMjEFa5J97Q_n1LNV4ThwIAp032yeBgArIMVhoK1l0HkBoCm2YQAvD_BwE 
🔗 Links:
Undere Podcast-Folge zum EU AI Act und den Regeln zur Kennzeichnungspflicht: https://open.spotify.com/episode/6xjIujQTdjM0owQ3uzLQYH 
Artikel zur Übernahme von Huggingface von Nvidia (mit Umsatzinfos):https://www.heise.de/news/Bericht-Nvidia-uebernimmt-Hugging-Face-fuer-12-9-Milliarden-Dollar-11431261.html 
Second Brain Guide von Inken: https://vely.ai/second-brain-guide 
Und haltet nach Sarahs Kurs ausschau, sobald der online ist, werden wir berichten! :)
📲 Media-Kanäle:
🔗 Sarah’s Instagram: @sarah_rojewski 🔗
Inken’s Instagram: @askinkenai