KI als Sparringspartner zur Entwicklung einer proaktiven Sicherheitskultur

Ideation-Workshop mit Sicherheitsexperten

Proaktive Sicherheitsarbeit zeichnet sich dadurch aus, kleine Abweichungen früh zu bemerken, bevor sie sich zu größeren Ereignissen auswachsen, gemeinsam über die Bereiche hinweg zu lernen, Informationen zu teilen und tiefer liegende Muster einer Logik des Misslingens zu erkennen - ohne individuelle Schuldzuweisung.

Genau hier lohnt sich ein Blick auf künstliche Intelligenz – nicht als Kontrollinstrument, sondern als Unterstützung, diese besondere Qualität des Organisierens kollektiver Achtsamkeit Schritt für Schritt zu entwickeln.

Zu dieser Frage haben wir mit einer internationalen Gruppe von Sicherheitsexperten einen Ideation-Workshop durchgeführt.

Schritt 1: Nutzungsszenarien von KI erleben

Dabei wurden in einem ersten Schritt die Nutzungsszenarien von KI erfahrbar gemacht:

• Wie kann Künstliche Intelligenz sinnvoll eingesetzt werden, um das „kollektive Sensemaking" zu verbessern? Hier wurden Fragen des bereichsübergreifenden Wissensmanagements, des Teilens bewährter Praktiken und des Erkennens von Mustern in Ereignissen diskutiert.

• Wie kann Künstliche Intelligenz Führungskräfte und Sicherheitsexperten in ihrer tagtäglichen Arbeit unterstützen? Mithilfe erster Avatare wurden mögliche KI-Anwendungen erprobt: kontinuierliches Coaching, Unterstützung bei Mitarbeitergesprächen und -meetings, Moderation kurzfristiger Risikoabwägungen vor Ort sowie Unterstützung bei der Entwicklung proaktiver Sicherheitspraktiken.

Welche Risiken entstehen bei der Nutzung von künstlicher Intelligenz

Darüber hinaus ging es auch um mögliche Risiken und die Voraussetzungen für das Gelingen der wertschöpfenden Arbeit mit Künstlicher Intelligenz.

Diskutiert wurden zum Beispiel folgende Risiken:

• Übervertrauen bei Risikoentscheidungen: bei der Arbeit mit KI entsteht Gefahr für bekannte Dynamiken im Team. Gerade bei Risikoentscheidungen gibt es eine Tendenz, die Empfehlungen von KI-Agenten unreflektiert zu übernehmen und die eigene Urteilsfähigkeit vor Ort zu vernachlässigen. Psychologische Sicherheit wird in diesem Zusammenhang noch wichtiger. Mitarbeitende müssen den Mut haben, der KI zu widersprechen und sie zu hinterfragen, ohne sie vollständig abzulehnen.
  

• Umgang mit Sinnüberschüssen: Künstliche Intelligenz kann in kurzer Zeit weit mehr Muster, Erklärungen und Deutungsangebote liefern, als ein Team sinnvoll verarbeiten kann. Ohne bewusste Auswahl und Priorisierung droht eine neue Form von Unübersichtlichkeit und Unsicherheit.
  

• Erosion von Erfahrungswissen: Wenn Routineaufgaben zunehmend an KI-Agenten abgegeben werden, kann das Gespür für frühe Signale im Hier und Jetzt verkümmern. Gemeint sind zum Beispiel ein intuitives Bauchgefühl für Störungen (bei Piloten nennt man diese Störgefühle "Leemers") oder die notwendige "Geistesgegenwärtigkeit" im Hier und Jetzt. Beide Fähigkeiten setzen ein tiefes Erfahrungswissen voraus und sind wichtige Voraussetzungen für kollektive Achtsamkeit. Die Herausforderung erinnert an bekannte Fragen wie zum Beispiel die Routinefalle oder das Automatisierungsparadox.
  

• Zusätzlicher Zeitaufwand für die Prüfung von KI-Ergebnissen und Entstehen neuer Engpässe: Weil wir uns nicht blind auf KI-Ergebnisse verlassen können entstehen neue Prüfnotwendigkeiten. Wie beim Automatisierungsparadox auch entsteht hier zum einen das Problem, dass Mitarbeitende die Tätigkeiten bzw. die Wissensproduktion selbst nicht mehr ausführen müssen und so keine Möglichkeit haben, tiefes Erfahrungswissen aufzubauen. Auf der anderen Seite müssen sie in der Lage sein, die Ergebnisse der Agenten zu überprüfen und es im Falle von Störungen "besser" wissen.
  

• Entscheidungs- und Verantwortungsdiffusion: Je stärker Entscheidungen KI-gestützt zustande kommen, desto wichtiger wird die Klarheit darüber, wie Wissen entsteht und wie Entscheidungen zustande kommen (das sogenannte Sensemaking). Zum einen suggerieren die KI-Agenten, dass sie vermeintlich bessere oder richtige Lösungen hervorbringen. Sie nähren also unseren Wunsch nach Rationalität und gesichertem Wissen. Tatsächlich sind die Outputs von KI aber höchst variabel. Das liegt zum einen an dem generativen Charakter der Wissensproduktion und hängt natürlich auch von den Trainingsdaten und ihrer jeweiligen Programmierung ab. In der Zusammenarbeit mit KI-Agenten wird es folglich darauf ankommen, Wissensbildungs- und Entscheidungsprozesse sehr bewusst zu gestalten.

Abschließendes Fazit:

KI ersetzt das kollektive Sensemaking nicht, kann es aber sinnvoll bereichern. Neben dem Bereitstellen und Zusammenbringen von Wissensbeständen liegt das Potential auch darin, das erkundende Fragen zu fördern sowie Führungskräfte und Sicherheitsexperten in Ihrer Aufgabe dialogisch als Sparringpartner zu unterstützen und coachen. Der Workshop hat gezeigt, dass der Nutzen einer solchen Unterstützung mit den Rahmenbedingungen, in die Arbeit mit KI eingebettet wird. Die Diskussion im Workshop zeigte auch, dass es bei der Gestaltung der Rahmenbedingungen auf ein komplexitätsangemessenes Steuerungs- und Führungsverständnis sowie auf die gemeinsame Reflexion, wie Wissensbildungs- und Entscheidungskommunikation in Organisationen funktionieren und wie sie in der Zusammenarbeit mit künstlicher Intelligenz gestaltet werden müssen.