Reboot Society - KI, Diversität und die neue Weltordnung

In den letzten Wochen haben gleich drei große Firmen persönliche KI-Agenten gestartet. Muse von Meta, Dots von OpenAI und Grok Bot von xAI sollen nicht nur antworten, sondern selbst Aufgaben erledigen. Dazu kommt OpenClaw als Open-Source-Alternative, die ihr selbst betreiben könnt. Gleichzeitig fällt auf, dass Muse und Dots ein ziemlich niedliches Gesicht bekommen haben und Meta mit Muse Charm sogar ein Gerät zeigt, das an ein Tamagotchi erinnert.
Wir sortieren, was die vier Agenten können, was sie kosten, wo sie verfügbar sind und worin sie sich unterscheiden. Wir klären, was Muse von Meta AI unterscheidet, und schauen darauf, warum Tech-Konzerne ihre Agenten gerade jetzt so süß aussehen lassen. Dazu kommen Forschung zum Kindchenschema, Studien zu Vertrauen in niedliche Roboter und die Kritik von Jugendschutzgruppen und Fachleuten.
Unser Fazit lautet, dass Vertrauen an Zugriffsrechten, Transparenz und Sicherheit hängen sollte und nicht an großen Augen. Prüft also, welchen Zugriff ihr einem Agenten gebt, auch wenn er noch so freundlich aussieht.
🔎 Begriff im Fokus:
KI-Agent: Ein Chatbot antwortet auf Fragen. Ein Agent bekommt ein Ziel und arbeitet es selbst ab, zum Beispiel einen Flug buchen, eine Mail schreiben oder etwas einkaufen. Dafür hat er einen eigenen Computer in der Cloud und Zugriff auf eure Apps.
Kindchenschema: Große Augen, ein runder Kopf und runde Wangen. Diese Merkmale wirken niedlich und wecken bei uns Fürsorge. Konrad Lorenz hat das in den 1940er Jahren beschrieben.
Tamagotchi-Effekt: Menschen bauen eine emotionale Bindung zu digitalen Wesen auf, wenn sie das Gefühl haben, sich um sie kümmern zu müssen.
Media Equation: Menschen behandeln Computer und Medien ganz automatisch wie echte Gegenüber. Das haben Byron Reeves und Clifford Nass in den 1990er Jahren gezeigt.

🔗 Literatur & Studien:
Uni Mannheim: Der wahrscheinlich süßeste Forschungsgegenstand der Welt (Kindchenschema)

Glocker et al. (2009): Baby schema in infant faces induces cuteness perception and motivation for caretaking in adults https://pmc.ncbi.nlm.nih.gov/articles/PMC3260535/ 

Reeves und Nass: The Media Equation (Überblick bei Wikipedia)

Pratt Institute (Studienarbeit): AI but Make it Cute, How Cute Design Fosters Trust between Human Robot Relationships

Spektrum: Tamagotchis, psychologisch völlig ungefährlich

IBM: How to stop AI from seeming conscious (zu Mustafa Suleymans Warnung)

🔗 Links:
TechCrunch: OpenAI launches Dots, its bubbly agentic avatar

Al Jazeera: OpenAI launches Dots, personal AI assistant

AI Weekly: Muse ships an 18+ AI agent behind a kids-toy mascot

Creative Bloq: Meta’s new AI avatar is making me feel infantilise

Rückzug der Grok Companions im Juli 2026

Gizmodo: Metas neue Datenschutzrichtlinie öffnet KI-Chats für gezielte Werbung

Digital Applied: Meta Muse, Features und Datenschutz-Leitfaden

Agent Sonic: So stoppst du das Training von Muse mit deinen Daten

Folgen
Unsere Folge 6 mit Vivianas Tipps zu KI-Agenten und Sicherheit https://open.spotify.com/episode/29M9WPkhr5thNlSHk2idAa?si=34ef07cd86c747c3

Kenza Ait Si Abbou “Hoffnung ist keine Strategie” - https://open.spotify.com/episode/18PXaorPODpGXWXupn1gg4 

📲 Media-Kanäle:🔗 Sarah’s Instagram: @sarah_rojewski🔗 Inken’s Instagram: @askinkenai

Nach unserer Doppelfolge „KI Stop“ über Weltuntergangs-Stimmung und Doomsday-Schlagzeilen wird es heute ganz praktisch. Unsere Gästin Viviana arbeitet als Cybersecurity Software Engineer bei Google in München. Mit ihr klären wir: Wie werden KI-Agenten gehackt, und wie können sie selbst hacken?
Viviana erzählt, wie sie eher zufällig in der Cybersecurity gelandet ist und warum der Job so kreativ ist. Sie erklärt an einem Beispiel aus dem Alltag, was eine Prompt Injection ist. Wir sprechen darüber, wie ihr Team Angriffe automatisch gegen Googles KI-Produkte laufen lässt und warum die Sicherheitsteams dafür in München und Zürich sitzen. Außerdem geht es darum, warum die Cybersecurity mehr Frauen braucht.
Pünktlich zum Start des Cybersecurity Awareness Month lautet unser Fazit: Lasst euch keine Angst machen. Bleibt wachsam und prüft, welche Zugriffe euer KI-Agent hat.
📌 Begriff im Fokus:
Prompt Injection: Jemand schmuggelt einen versteckten Befehl in Inhalte, die eine KI liest, zum Beispiel in eine E-Mail, eine Webseite oder ein Profil. Der Befehl kann etwa in weißer Schrift auf weißem Hintergrund stehen. Die KI hält ihn für eine Anweisung von euch und führt ihn aus.
CIA-Prinzip: Die drei Grundziele der Cybersecurity.
Confidentiality (Vertraulichkeit): Unbefugte können eure Daten nicht lesen.

Integrity (Integrität): Niemand kann eure Daten unbemerkt verändern.

Availability (Verfügbarkeit): Ein Dienst funktioniert, wenn ihr ihn braucht.

Red Team / Offensive Security: Interne Hackerinnen und Hacker greifen die eigenen Produkte an. So finden sie Sicherheitslücken, bevor echte Angreifer sie finden.
🛡️ Vivianas Tipps: So schützt ihr euch bei KI-Agenten
Auf die Quelle schauen: Wer hat das Tool gebaut? Was will der Hersteller damit? Welche Sicherheitsstandards hält er ein, und gibt es dort ein Security-Team?

Zugriffe gering halten: Welche Rechte braucht der Agent wirklich? Jeder zusätzliche Zugriff ist eine zusätzliche Angriffsfläche. Wenn ein Angriff klappt, richtet er damit auch mehr Schaden an.

Einmal durch die Einstellungen gehen: Prüft, was der Agent mit euren Daten machen darf, zum Beispiel mit E-Mails, dem Kalender oder geteilten Dateien.

Wachsam bleiben, aber ohne Panik: Informiert euch und bleibt kritisch. Lasst euch von Schreckens-Schlagzeilen keine Angst machen.

📚 Literatur & Studien:
OWASP Top 10 für LLM-Anwendungen, Punkt „Prompt Injection“: https://genai.owasp.org/llmrisk/llm01-prompt-injection/

European Cybersecurity Month: https://cybersecuritymonth.eu

🔗 Links:
Vivianas Profil: Viviana Sutedjo | LinkedIn 

📲 Media-Kanäle:
👉 Sarah's Instagram: @sarah_rojewski
👉 Inken's Instagram: @askinkenai

Nach den jüngsten Sicherheitsvorfällen fordern ausgerechnet führende Köpfe der Tech-Branche, die Entwicklung besonders leistungsfähiger KI zu verlangsamen. Doch was soll eigentlich gebremst werden und wer kontrolliert, ob sich Unternehmen und Staaten daran halten?
Wir schauen auf den Drei-Stufen-Plan von Anthropic-CEO Dario Amodei: unabhängige Prüfer innerhalb der KI-Unternehmen, gemeinsame Sicherheitsstandards in demokratischen Staaten und internationale Vereinbarungen mit China. Außerdem fragen wir, ob die neuen Warnungen echte Verantwortungsübernahme sind oder ob große KI-Unternehmen versuchen, Regeln zu ihrem eigenen Vorteil mitzugestalten.
Zwischen Sicherheitsrisiken, geopolitischem Wettbewerb und wirtschaftlichen Interessen wird deutlich: Ein KI-Slowdown ist keine einfache Pause-Taste. Entscheidend ist, ob Kontrolle, Transparenz und internationale Zusammenarbeit mit dem Entwicklungstempo Schritt halten können.
Quellen zur Folge
Dario Amodei: „We Must Pace the Frontier“

OpenAI: Bericht zum Sicherheitsvorfall bei Hugging Face

OpenAI: Framework zur Veröffentlichung von Fehlverhalten

Reuters: Warnungen von Jacob Coxon und Evan Hubinger

Reuters: Anthropic zwischen Slowdown und Wettbewerbsdruck

Stanford AI Index 2026: Öffentliche Wahrnehmung von KI

Europäische Kommission: Regulierung durch den AI Act

📲 Media-Kanäle:
🔗 Sarah’s Instagram: @sarah_rojewski
🔗 Inken’s Instagram: @askinkenai

Jahrelang lieferten sich OpenAI, Anthropic und Google ein Wettrennen um immer leistungsfähigere KI. Doch plötzlich warnen ausgerechnet Menschen aus diesen Unternehmen vor den möglichen Folgen.
Auslöser der aktuellen Debatte sind unter anderem ein folgenreicher Sicherheitsvorfall bei Hugging Face und der öffentliche Rücktritt des ehemaligen OpenAI- und Anthropic-Forschers Jacob Coxon. Was zeigen diese Ereignisse wirklich? Können KI-Agenten bereits eigenständig Grenzen überschreiten und zusammenarbeiten? Und wo beginnt die spekulative Erzählung von AGI, Superintelligenz und einer KI, die sich selbst verbessert?
Wir sortieren Fakten und Zukunftsszenarien, sprechen über Silicon Valleys Echo Chambers und fragen: Sind die neuen Warnungen ein glaubwürdiger Alarm oder auch ein strategisches Instrument im Wettbewerb um Geld, Macht und Regulierung?
In Teil zwei untersuchen wir, wie ein KI-Slowdown konkret aussehen könnte und warum dabei kein Weg an China vorbeiführt.
Generative AI: Erstellt Texte, Bilder, Code und andere Inhalte.

Agentic AI: Plant Arbeitsschritte, nutzt Werkzeuge und führt Aufgaben aus.

AGI: Hypothetische KI mit breit gefächerten Fähigkeiten auf menschlichem Niveau.

ASI: Hypothetische Intelligenz, die Menschen in fast allen relevanten Bereichen übertrifft.

Recursive Self-Improvement: KI unterstützt die Entwicklung leistungsfähigerer KI-Systeme.
Quellen:

OpenAI: Der Hugging-Face-Vorfall und der weitere Weg

OpenAI: Framework und sechs weitere Fälle von Fehlverhalten

Reuters: Warnungen von Jacob Coxon und Evan Hubinger

WIRED: Interview mit Jacob Coxon nach seinem Rücktritt

Reuters: Weitere Stimmen zur aktuellen KI-Risikodebatte

Dario Amodei: „We Must Pace the Frontier“

OpenAI: Ursprüngliche Gründungsankündigung von 2015

📲 Media-Kanäle:
🔗 Sarah’s Instagram: @sarah_rojewski
🔗 Inken’s Instagram: @askinkenai

Dieselbe KI, dieselbe Frage,  aber auf Englisch antwortet sie vorsichtiger, auf Arabisch wärmer. Genau das hat Anthropic an Claude nachgewiesen:  Sarah und Inken ordnen die Studie ein, ergänzen sie um Gegenbefunde aus anderen Forschungsarbeiten und fragen: echter kultureller Fingerabdruck oder einfach schlechtere Sprachverarbeitung, die wie Persönlichkeit aussieht? Und was das bedeutet, wenn Millionen Menschen täglich in Dutzenden Sprachen mit demselben System reden.
🔗 Links:
Anthropic (2026): How Claude's values vary by model and language – anthropic.com/research/claude-values-models-languages

Anthropic (2025): Values in the Wild

Cultural Value Differences of LLMs: Prompt, Language, and Model Size – arxiv.org/abs/2407.16891

Made-in-China, Thinking in America: U.S. Values Persist in Chinese LLMs – arxiv.org/abs/2512.13723

The Ghost in the Grammar: Methodological Anthropomorphism in AI Safety Evaluations – arxiv.org/abs/2603.13255

Mehr zur Forschung von Meltem Aksoy https://www.researchgate.net/profile/Meltem-Aksoy-2

Mehr zur Forschung von Aliah Zewail: https://scholar.google.de/citations?user=ARLsaksAAAAJ&hl=de

📲 Media-Kanäle:
🔗 Sarah’s Instagram: @sarah_rojewski
🔗 Inken’s Instagram: @askinkenai