KI-generiertes Bild by Firefly [ID: 75489] mit Johannes Bader, Christian Wilke und Dr. Hans-Joachim Popp
Brit Malmgrön // Berlin, 04. März 2024
Das Thema Künstliche Intelligenz beschäftigt die Welt. KI hält immer weiter Einzug in unsere Technologien, in Alltag und Gesellschaft. Kaum ein Tag vergeht ohne eine neue Nachricht im Kontext KI. ChatGPT ist dabei nur die prominenteste von vielen Anwendungen, die derzeit entstehen und sich in fast allen Lebensbereichen durchsetzen. Fest steht damit, KI geht uns alle an. Welche Relevanz hat das Thema KI für uns allgemein und für unseren Kunden?
Als Inhouseberatung ist es eine unserer wichtigsten Aufgaben, dem Projektpartner:innen zu helfen, zwischen Marketingaussagen und validen Funktionen zu unterscheiden.
Christian Wilke, Manager bei der BwConsulting
Christian:
KI-Funktionen finden sich in immer mehr Softwareanwendungen. Damit ist die Relevanz für das IT-Umfeld praktisch automatisch gesetzt. KI-Services müssen entwickelt, bereitgestellt und betrieben werden. Dafür sind neue Kompetenzen erforderlich, beispielsweise der Umgang mit Eigenschaften und Qualität von Datensätzen und der Trainingsalgorithmen für künstliche neurale Netzwerke. Die derzeitigen (Waffen-)Systeme in der Bundeswehr haben bereits einen hohen Anteil von Software-basierten Funktionen. Der Anteil wird noch zunehmen und gleichzeitig wird in diesen Softwarepaketen KI eine immer größere Rolle spielen. Darüber hinaus beschäftigen sich auch fast alle weiteren Inhousegesellschaften der Bundeswehr mit dem Thema KI in ihren Prozessen.
Die Versprechungen sind extrem hoch, sicher auch oft von Geschäftsinteressen getrieben. Teilweise sind Prognosen über den Einfluss von KI aber auch regelrecht dystopisch. Wie kann die Bundeswehr da den Überblick behalten und welchen Mehrwert können wir als Inhouseberatung dabei leisten?
Christian:
Ein ganz wichtiger Punkt! Als Inhouseberatung ist es eine unserer wichtigsten Aufgaben, dem Projektpartner:innen zu helfen, zwischen Marketingaussagen und validen Funktionen zu unterscheiden. Das ist insbesondere im Zusammenhang mit der immer wieder aufflammenden Diskussion um ‚autonome‘ Systeme wichtig. Hier läuft die Bundeswehr Gefahr, wertvolles Tempo zu verlieren, weil viele ethische Fragen die Diskussion bestimmen.
Das heißt konkret?
Christian:
Die Transformation der Streitkräfte in diesem Bereich betrifft praktisch alle technischen, organisatorischen und arbeitspsychologischen Aspekte gleichzeitig. Durch die notwendigerweise agilen Entwicklungsmethoden wirkt sich dies auch auf die Beschaffungsverfahren, die Art der Projektabwicklung und nicht zuletzt auf den eigentlichen Kernprozess der Bundeswehr aus. Dies erfordert eine strategische Beratung weit über die reine Technik hinaus. Und da kommen wir ins Spiel. So beraten wir die Projektpartner:innen im Kontext Software Defined Defense und erarbeiten dabei ein vollkommen neues Entwicklungsparadigma mit all seinen Konsequenzen. Und KI spielt dabei natürlich ebenfalls eine wichtige Rolle. Der Bundeswehr-interne Dienstleister BWI übernimmt hier große Teile der technischen Realisierung, wir unterstützen die Kommunikation in die Entscheidungsebenen.
Im Beratungskontext beschäftigen wir uns somit seit längerer Zeit mit dem Thema KI. In diesem Jahr hat die Geschäftsführung der BwConsulting KI nun auch als internes Schwerpunktthema gesetzt. Was heißt das konkret für die Mitarbeitenden und die Projektpartner:innen in Ministerium und Bundeswehr?
Johannes Bader, Senior Manager & Leiter Internes Projekt KI@BwConsulting
KI geht uns alle an - und alle können und sollen sich einbringen.
Johannes:
Unser Anspruch ist es, unser Wissen kontinuierlich auszubauen und unsere Bewertungsfähigkeit weiter zu stärken. Das bedeutet, dass wir über das bei uns schon vorhandene Expertenwissen hinaus das gesamte Team mit diesem Querschnittsthema vertraut machen werden. Hierzu haben wir ein internes Projekt KI@BwConsulting aufgesetzt. Es wird die zentrale Plattform für die Aktivitäten rund um KI in der BwConsulting sein.
Und welche Zielsetzungen verfolgt ihr damit?
Johannes:
Zum einen wollen wir für uns alle Handlungssicherheit im Umgang mit KI erreichen. Das umfasst beispielsweise rechtliche Schranken, aber auch die Sicherheit von dienstlichen und persönlichen Daten. Gerade im Kontext der Bundeswehr spielt Datensicherheit eine entscheidende Rolle. Wir wollen zudem eine Bewertungskompetenz im Kontext KI für uns und für die Bundeswehr erlangen, damit wir KI-Lösungen bewerten und Handlungsoptionen gestalten können. Hierfür ist die Weiterentwicklung unserer fachlichen und methodischen Kompetenzen elementar. Natürlich möchten wir auch KI-Lösungen für unsere eigenen Prozesse schaffen. Schließlich geht KI uns alle an - und alle können und sollen sich einbringen.
Wie weit seid ihr mit dem internen KI-Projekt?
Johannes:
Ein Erstvorschlag zum Handlungsrahmen ist auf dem Weg, einige gute Ideen sind schon genannt und erste Initiativen wurden gestartet. Das interne Projekt wird uns durch das laufende Jahr begleiten. Da es sich um ein Innovationsthema handelt, wollen wir bewusst Räume schaffen, um eigene Ideen zu kreieren, zu entwickeln und umzusetzen, ganz im Sinne unseres Beratungsansatzes ‚Analyse - Konzeption – Umsetzung‘. Wichtig ist, dass es ein Gemeinschaftsakt ist und sich alle auf das Thema KI einlassen. Wir müssen es also auch im Sinne des Veränderungsmanagements begleiten. Insgesamt bietet KI viele Möglichkeiten, man muss sich aber damit beschäftigten und daran wachsen, um diese zu erkennen und auch nutzen zu können.
Seht ihr denn auch im Bereich der generativen KI Einsatzmöglichkeiten
bei den Projektpartner:innen oder vielleicht sogar bei uns selbst?
Christian:
Natürlich! Naheliegend wäre der Einsatz eines Sprachmodells zur Analyse von Dokumenten, zum Beispiel die Dokumentenlandschaft der Bundeswehr oder zur Unterstützung bei der Erstellung von komplexen Texten. Solche Systeme werden in der Bundeswehr derzeit testweise aufgebaut. Für die Nutzung ist es aber erforderlich, die Mitarbeitenden bei uns und vor allem die Partnerseite im Umgang mit solchen Systemen zu befähigen. Denn wenn es an einer Aussage absolut keinen Zweifel gibt, dann ist es diese: KI wird entscheidend für die Durchsetzungsfähigkeit der Streitkräfte auf dem Gefechtsfeld werden.
Allerdings gibt es bei der Implementierung und Nutzung von KI in Unternehmen mit sensiblen Daten einige Herausforderungen zu beachten.
In den heutigen, sehr hybriden Szenarien, bei denen unsere Gegner latent und in kleinen Schritten gegen uns vorgehen, ist der Schutz unserer Daten überbordend wichtig geworden.
Dr. Hans-Joachim Popp, Principal & Leiter Themenfeld Digitalisierung bei der BwConsulting
Welche Risiken seht ihr beim Einsatz der jetzt so stark diskutierten generativen KI?
Hans-Joachim:
Nun, das Offensichtlichste ist natürlich das Risiko des ungewollten Abflusses von Information. Die Bedeutung von Information im Militär war immer überragend groß. Aber mit der Digitalisierung ist sie jetzt vollends zum entscheidenden Element für die Durchsetzungsfähigkeit geworden. Und zwar auf allem Gebieten gleichzeitig: sei der Schutz gegen Unterwanderung der Streitkräfte oder der Diebstahl von geistigem Eigentum, der Grundlage unserer Wirtschaftskraft. In den heutigen, sehr hybriden Szenarien, bei denen unsere Gegner latent und in kleinen Schritten gegen uns vorgehen, ist der Schutz unserer Daten überbordend wichtig geworden. Die derzeit marktführenden Anbieter von KI nehmen darauf noch keine Rücksicht.
Der zweite wichtige Punkt ist die Zuverlässigkeit von Ergebnissen. Wir Menschen neigen nun einmal dazu, einem in geschliffener Sprache ausgegebenen KI-Ergebnis vorauseilend Glaubwürdigkeit zuzuschreiben. Vor allem nach längerer Nutzung wird es schwer sein, die erforderliche Skepsis aufrecht zu erhalten. Noch kann man ‚kreative‘ Ergebnisse der Systeme – wir nennen sie auch ‚Halluzinationen‘ – recht gut erkennen und nachweisen. In naher Zukunft wird dies aber immer schwieriger sein. Und dann gibt es natürlich die Gefahr der kritiklosen Verwendung. Die Nachvollziehbarkeit von Schlussfolgerungen wird eine große Rolle spielen.
Aber die für die Streitkräfte wichtigsten Innovationen bewegen sich in einem ganz anderen Feld, nämlich der Mustererkennung. Kein Waffensystem wird künftig mehr ohne solche KI-Systeme auskommen. Deshalb ist der Know-how-Aufbau hier besonders wichtig.