Unsere digitale Welt beruht auf Vertrauen. Wir vertrauen darauf, dass unsere Banküberweisungen korrekt verbucht werden, dass medizinische Geräte präzise messen und dass die Software in Kraftwerken oder Krankenhäusern vor Angriffen sicher ist. Lange Zeit war klar: Dieses Vertrauen baut auf Systemen, die wir testen, zertifizieren und kontrollieren können.
Doch aktuell entsteht eine neue Generation von agentischen Systemen, die nicht mehr nur regelbasiert arbeitet, sondern Inhalte erzeugt, Entscheidungen eigenständig trifft und sich an neue Situationen anpasst. Sie liest und schreibt Daten, führt Prozesse autonom aus und interagiert mit unserer realen Umgebung. Dadurch eröffnen sich enorme Möglichkeiten, aber auch eine neue Art von Risiko. Denn je eigenständiger solche Systeme handeln, desto unvorhersehbarer können ihre Fehler sein.
In dieser Folge von Chatbots und KI sprechen Thomas Bahn und Prof. Dr. Dirk Nowotka darüber, wie KI die Bedeutung von Sicherheit und Zuverlässigkeit im IT-Kontext verändert, welche Branchen besonders auf diese Veränderungen reagieren müssen und welche Gefahren von der Manipulation von KI für Unternehmen ausgehen.
Hier finden Sie die Shownotes der Folge: https://www.assono.de/blog/