#23 KI & Sicherheit: Black Box KI – Können wir noch kontrollieren, was wir erschaffen?
In der heutigen Folge sprechen wir darüber, was es mit der “Black Box” KI auf sich hat, warum wir nicht erklären können, wie KI zu Entscheidungen kommt und dass die Präzision von KI Modellen sinkt, wenn wir versuchen die Entscheidungen nachzuvollziehen. Adam Zewe (2024) Enabling AI to explain its predictions in plain language, MIT News, 2024 Enabling AI to explain its predictions in plain language | MIT News | Massachusetts Institute of TechnologyMatthew Kosinski What is black box artificial intelligence (AI)? ( 2024) What Is Black Box AI and How Does It Work? | IBMEU Artificial Intelligence Act (2024): Regulation (EU) 2024/1689 – Anforderungen an Hochrisiko-KI-Systeme Europäisches Parlament, EPRS Briefing https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32024R1689Mihaela van der Schaar et al. (Hrsg.): Explainable AI in Healthcare: Unboxing Machine Learning for Biomedicine Springer Nature, 2022 (Diskutiert die Rolle von XAI für Vertrauen und Anwendung im Gesundheitswesen)📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai
--------
30:28
--------
30:28
# 22 KI & Sicherheit: Ständer Begleiter oder ständiger Bewachter? Zwischen Datenschutz und Personalisierung
In der heutigen Folge sprechen wir darüber, wie heute schon die Kombination von Datenpunkten Profile von uns erstellen, um uns nicht nur Produkte zu empfehlen, sondern auch Preisanpassungen vorzunehmen oder sogar BewerberInnen auszuschließen. Wie sähe eine Welt aus, in der der Kühlschrank dich besser kennt als dein PartnerIn und was ist uns der Luxus von Personalisierung und Unterstützung wirklich wert?Rethinking Privavy in AI era: https://hai-production.s3.amazonaws.com/files/2024-02/White-Paper-Rethinking-Privacy-AI-Era.pdfCecilia Panigutti et al. (2023): The Role of Explainable AI in the Context of the AI Act ACM Conference on Fairness, Accountability, and Transparency (FAccT ’23) https://doi.org/10.1145/3593013.3594069Jonas Schuett (2023): Risk Management in the Artificial Intelligence Act European Journal of Risk Regulation https://doi.org/10.1017/err.2023.1Celso Cancela-Outeda (2024): The EU’s AI Act: A Framework for Collaborative Governance Internet of Things, Volume 27 https://doi.org/10.1016/j.iot.2024.101291BVDW “Verantwortungsvolle KI für die Digitale Wirtschaft” 241129_LF_Ethik_KI_ES.pdfVideo Podcast Sindead Bowell: Why smartphones will become obsolete..and what comes next📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai
--------
36:15
--------
36:15
#21 Sicherheit & KI Serie : Meine Daten, meine KI, mein Datenschutz - Warum das KI Zeitalter mehr Verantwortung fordert als nur den EU AI Act
In der heutigen Folge geht es um das Grundlagenwissen rund um den EU AI Act? Was dürfen wir heute und was nicht? Was bedeutet eigentlich Hochrisiko KI und wie sieht das Spannungsfeld zwischen Regulierung und Innovation aus? Quellenverzeichnis: 1. Big Data Insider “Datenschutz in Europa. Zwischen Regulierung und Risiko (2025) https://www.bigdata-insider.de/datenschutz-in-europa-zwischen-regulierung-und-risiko-a-48da1150dab95436eac0d756c83a8978/ 2. Stanford University “Rethinking Privacy in AI Era” (2024) https://hai-production.s3.amazonaws.com/files/2024-02/White-Paper-Rethinking-Privacy-AI-Era.pdf3. Lernende Systeme Studie “Datenschutz für KI nutzen.Datenschutz für KI wahren” (2024) https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG3_WP_KI_Datenschutz_Datenschatz.pdf 4. European Parialement Studie “The impact of the General Data Protection Regulation (GDPR) on artificial intelligence” (2020) EPRS_STU(2020)641530_EN.pdf 5. Bundesminsiterium für Technologie, Forschung und Raumfahrt. Informationen Datentreuhandmodelle (2024) Vernetzungskonferenz Datentreuhandmodelle 2024 - BMBF Digitale Zukunft 6. Prof. Norbert Pohlmann: „KI und IT-Sicherheit – Mehr Sicherheit, mehr Gefährdungen“ (Vortrag/Studie 2021)7.Ben Shneiderman (2020): „Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy“ arXiv.org https://arxiv.org/abs/2002.040878. Jonas Schuett (2023): „Risk Management in the Artificial Intelligence Act“ European Journal of Risk Regulation https://doi.org/10.1017/err.2023.19. Cecilia Panigutti et al. (2023): „The role of explainable AI in the context of the AI Act“ ACM Conference on Fairness, Accountability, and Transparency (FAccT ’23) https://doi.org/10.1145/3593013.359406910. Celso Cancela-Outeda (2024): „The EU’s AI Act: A framework for collaborative governance“ Internet of Things, Volume 27 https://doi.org/10.1016/j.iot.2024.10129111. Europäisches Parlament, EPRS (2024): „Artificial Intelligence Act – EU legislation in progress“https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32024R1689📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai
--------
36:27
--------
36:27
#20 KI & Bildung: KI-Kompetenz als Bildungsziel - Zwischen Reflexion, Regulation und Realität
In dieser Folge sprechen wir darüber, was es heißt, Künstliche Intelligenz nicht nur zu nutzen, sondern zu verstehen und sie mitzugestalten.Denn KI-Kompetenz wird zur neuen Schlüsselressource: nicht nur für technisches Know-how, sondern für demokratische Teilhabe im digitalen Zeitalter.Wir fragen: Wie sieht KI-Kompetenz im Klassenzimmer konkret aus? Und welche Rolle spielen Lehrkräfte, Schulen und Politik, wenn es darum geht, Orientierung, Sicherheit und kritisches Denken zu fördern?🔗 Literatur & Studien:Schleiss, Johannes & Mah, Dana-Kristin (2023): Zukunftsszenarien und Handlungsfelder für KI in der Bildung.Knaus, Thomas (2023): Künstliche Intelligenz und Bildung – Chancen und Herausforderungen.Berendt, Judith (2021): KI im Klassenzimmer?U.S. Office of Educational Technology (2024): Artificial Intelligence (AI) in K12 Schools – National Roadmap.Artificial Intelligence (AI) in K12 Schools - Office of Educational Technology (EdTech) Leineweber, Christian et al. (2023): Materialität – Digitalisierung – Bildung (Klinkhardt Verlag).📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai
--------
20:06
--------
20:06
# 19 KI & Bildung: Intelligente Systeme im Klassenzimmer: Didaktische Potenziale und pädagogische Spannungsfelder
Stell dir vor, du hast im Unterricht immer eine:n Tutor:in an deiner Seite. Geduldig, schnell, objektiv… und immer verfügbar.Künstliche Intelligenz verspricht genau das: Systeme, die Lernverläufe analysieren, Aufgaben personalisieren und Feedback geben, ohne Pause und ohne Bewertung.Doch was passiert, wenn aus Assistenz Steuerung wird? Wenn Systeme nicht nur helfen, sondern auch festlegen, was wie gelernt wird? In dieser Folge fragen wir: Wie verändert KI die pädagogische Beziehung und was bedeutet das für Lehrkräfte, Lernende und das Bildungsideal?🔗 Literatur & Studien:Harry, Alexandra (2023): Role of AI in Education.Zhai, Xiaojie et al. (2021): A Review of Artificial Intelligence (AI) in Education from 2010 to 2020.Schleiss, Johannes & Mah, Dana-Kristin (2023): Zukunftsszenarien und Handlungsfelder für KI in der Bildung.SWK – Ständige Wissenschaftliche Kommission (2024): Large Language Models und ihre Potenziale im Bildungssystem. Impulspapier. Large Language Models und ihre Potenziale im Bildungssystem. Impulspapier der SWK. Januar 2024Survey: Parents’ Views on AI Writing Tools in Education (2023). Survey results highlight parents' thoughts on AI writing, like ChatGPT, in educationBildungsportal NRW: lernen-digital.nrw📲 Media-Kanäle:🔗 Sarah’s Instagram: @sarah_rojewski🔗 Inken’s Instagram: @askinkenai
Über Reboot Society - KI, Diversität & die neue Weltordnung
Reboot Society – Der Podcast über KI, Diversität & die neue Weltordnung
In dieser ersten Staffel beschäftigen sich Inken & Sarah nicht nur mit neuesten technischen Entwicklungen, sondern um das, was KI wirklich mit uns als Gesellschaft macht. Wie beeinflusst KI unsere Arbeit, unsere Familien, unsere Identität? Welche Ängste, Hoffnungen und Chancen sind mit ihr verbunden?
Unser Ziel: KI entmystifizieren, verständlich machen und eine echte Diskussion anregen – abseits von Sci-Fi-Klischees und Buzzword-Bingo.
Für wen?
Für alle, die sich fragen, wie KI unsere Welt verändert – egal ob Einsteiger oder Expert:innen.
Eure Fragen & Gedanken
Gestaltet den Podcast mit! Schreibt uns eure Themenvorschläge und diskutiert mit uns auf Social Media.
Reboot Society – wir rebooten unsere Sicht auf die Zukunft!
Inken: https://www.instagram.com/askinkenai/
Sarah: https://www.instagram.com/sarah_rojewski/
Österreich