Habt acht! KI
In aktuellen Konflikten kommt Künstliche Intelligenz (KI) zum Einsatz. Sie unterstützt die Aufklärung und Überwachung mit KI-gesteuerten Drohnen sowie die Auswertung von Bild- und Videodaten. Zudem wird KI bei der Zielerkennung, Zielverfolgung, Cyberabwehr, Logistik und Entscheidungsfindung verwendet. Autonome Fahrzeuge, Roboter und moderne Waffensysteme sind ohne KI-Algorithmen kaum mehr denkbar.
Die Einführung und Nutzung von KI-Lösungen im Bundesheer und im Bundesministerium für Landesverteidigung (BMLV) soll entscheidend zur Aufgabenerfüllung beitragen. Für die erfolgreiche Integration neuer Technologien in eine Organisation ist jedoch eine solide Grundlage erforderlich.
Schlagwort KI
„Und in Zukunft macht das dann die KI für mich!“ Vermutlich haben viele Österreicher schon einen ähnlichen Satz in einer Unterhaltung gehört. KI ist überall. KI kann alles. KI ist in aller Munde, denn „KI steuert jetzt sogar die elektrische Zahnbürste“.
Gerade erst hatten die Menschen begonnen zu verstehen, dass persönliche Daten im Internet oft unsicher sind und jede Aktivität im Netz neue Daten erzeugt. Immer wieder zeigten Vorfälle, dass das Internet nichts vergisst. Es ermöglicht die schnelle, globale und automatische Datensammlung wie nirgendwo sonst. Genau diese Daten machten es erst möglich, die Grundlage für die Weiterentwicklung der Künstlichen Intelligenz (KI) zu schaffen, international bekannt als artificial intelligence (AI).
Entwicklung
Schon vor 2022, als ChatGPT (Chatbot Generative Pre-trained Transformer) erstmals öffentlich verfügbar wurde, gab es Entwicklungen in der Künstlichen Intelligenz, die immer wieder Erstaunen ausgelöst haben. Zu Beginn dieser Zeit musste sich der Schachweltmeister Garry Kasparov im Jahr 1997 erstmals dem IBM-Schach-KI-System „Deep Blue“ geschlagen geben. Davor war der Mensch in diesem „Spiel der Könige“ immer als der Bessere ausgestiegen.
Zwanzig Jahre später, im Jahr 2017, besiegte eine Maschine den Menschen auch im komplexeren Brettspiel Go, das noch mehr mögliche Spielentscheidungen erfordert. Dabei sind gegnerische Steine und Steingruppen zu schlagen, indem man sie rundum einschließt. Am Ende gewinnt der Spieler, der den größeren Teil des Brettes kontrolliert.
Seit 2014 ermöglichten Fortschritte in der Computerentwicklung und KI, die Bildverarbeitung stark zu verbessern. Objekte wie Tiere oder Fahrzeuge konnten immer genauer automatisch erkannt werden. Dadurch können Dienste wie Google oder Facebook heute „nebenbei“ Gesichter auf Fotos erkennen und Personen dazu benennen.
Auch wurden gut funktionierende Methoden zum Lesen von Texten auf Fotos möglich. Eine Aufgabe, die davor nur durch Menschen mit großem Zeitaufwand zuverlässig erledigt werden konnte. Dasselbe gilt für das Übersetzen von gesprochener Sprache direkt in Text. Kurzum gab es viele Bereiche, in denen sich zeigte, dass KI ein mächtiges neues Werkzeug sein würde.
Modellvarianten
Die Verfahren von KI sowie des maschinellen Lernens (ML) bestehen nicht nur aus den „large language models“ (LLM), wie die Kerntechnologie hinter ChatGPT genannt wird, sondern vereinigen Methoden, die in der mathematischen Statistik ihren Anfang genommen haben. Das Erstellen solcher KI- oder ML-Modelle unterscheidet sich wesentlich von der Aufgabe des allgemeinen Programmierens von Software.
Im allgemeinen Programmieren wird gemeinsam mit Daten und definierten Regeln ein Algorithmus erstellt, der zu den gewünschten Ergebnissen führt. Beim Training eines KI-Modells werden Daten benutzt, um gemeinsam mit erwünschten Ergebnissen von dem Modell die geeigneten Regeln lernen zu lassen, um die Produktion der Ergebnisse danach selbstständig und allgemeiner durchführen zu können (siehe Grafik Modellvarianten Seite 67).
KI braucht damit üblicherweise einen großen Satz an gut verstandenen Daten, die ein entsprechendes Lernen von richtigen Entscheidungen und Ergebnissen ermöglichen. Diese Daten werden damit Teil der Modellerstellung. Daher steht am Anfang der Einführung von KI-Methoden die anspruchsvolle Aufgabe, einen guten Datenbestand und eine gute Administration sicherzustellen.
Diese schwierige Gesamtaufgabe wird im so genannten „Machine learning operations“-Zyklus (MLOps) zusammengefasst. Er beschreibt den notwendigen Prozess, um ein solches Modell in mehreren Korrekturen zum gewünschten Verhalten zu trainieren und danach zu betreiben. Und die Umsetzung dieser Arbeiten bedarf einer Werkbank, mit notwendigen Werkzeugen, die in das IKT-System des Bundesheeres integriert werden müssen. Diese Werkbank ist eine Suite von Entwicklungswerkzeugen zur Daten- und Modellverwaltung (Versionierung, Parametrisierung, Testung, Performanzmessung), die herkömmlichen Softwareentwicklungswerkzeugen ähnelt und diese auch verwendet, jedoch weiter gefasst ist.
Rechenleistung
Der autonome Betrieb von KI-Lösungen unterscheidet sich deutlich von der einfachen Installation einer herkömmlichen Software. Grundsätzlich ist aufgrund der hohen Rechenleistung eine entsprechend leistungsstarke IT-Infrastruktur erforderlich. Wegen der Verknüpfung von Trainingsdaten und verwendeten Modellen ist es notwendig, die Ergebnisse der KI-Anwendungen automatisiert zu überwachen, weil im Laufe der Zeit die Anfragen oder Eingaben nicht mehr zu den Trainingsdaten passen können, wodurch entsprechende Korrekturen erforderlich werden.
Datenquellen
Damit sich KI zu ihrem heutigen Stand entwickeln konnte, waren enorme Datenmengen und eine hohe Rechenleistung erforderlich. Um genug Daten zu sammeln, gibt es keinen besseren Ort als das Internet – und dort hat man sich reichlich bedient. Dazu gehören unter anderem die vollständigen Inhalte der Wikipedia, alle online verfügbaren Ressourcen von Bibliotheken und Galerien mit künstlerischem Material sowie alles, was auf Plattformen und Portalen sozialer Medien zugänglich ist.
Künstler und Schriftsteller waren von der uneingeschränkten Verwendung und Nachahmung ihrer kreativen Werke nicht begeistert. Aufkommende Fragen, wem denn eigentlich die ganze Information gehört, die irgendwie in diesen KI-Systemen aufgenommen oder gelernt wurde, sind bis heute nur teilweise geklärt, zumindest aber wurden erste Regeln dazu geschaffen.
Gegenwart
Seitdem ChatGPT im Jahr 2022 der Welt erstmals erlaubt hat, sich mit einem Computersystem ähnlich wie mit einem Menschen zu unterhalten, sind weitere und bessere Versionen erschienen. Diese können die vielen einzelnen Dinge wie das Verstehen von Bildern, Daten in Tabellen und auch Texte miteinander verbinden und sie für die Beantwortung von Fragen verwenden.
So genannte generative KI-Systeme erfinden nicht nur Texte, sondern auch Bilder oder Lieder in den jeweils gewünschten Farben oder Stilrichtungen und erzeugen damit geschickte Nachahmungen von all den Dingen, mit denen sie angelernt wurden. Die Ergebnisse sind glaubwürdig, aber oft so, wie man sie von jemandem erwarten könnte, der nur gelernt hat, über eine Sache zu reden. Dann wird „halluziniert“, was man eben so sagt, ohne die Bedeutung wirklich verstanden zu haben. Die KI-Halluzination ist ein überzeugend formuliertes Resultat, das nicht durch Trainingsdaten gerechtfertigt zu sein scheint und objektiv falsch ist. Dies ist eines der noch vorhandenen Probleme solcher generativen KI-Systeme.
OpenAI war als Entwickler von ChatGPT nicht der einzige große Konzern, der solche Spitzenleistungen erbrachte. Große Konzerne wie Google und Microsoft oder neu auf den Markt drängende Firmen waren dabei, vergleichbare Werkzeuge zu entwickeln und so rasch wie möglich der Öffentlichkeit vorzustellen.
KI in ihren heutigen Formen ist ein Werkzeug, das mit seinen Fähigkeiten einem Menschen täuschend ähnlich wirken kann. Wie bei allen Werkzeugen hängt es vom Einsatz ab, ob sie Nutzen bringen oder Schaden anrichten. Die Entwicklungen zeigen die enorme Vielseitigkeit der KI, was weitreichende Fragen zur Sicherheit, gesellschaftlichen Entwicklung und möglichen Bedrohungen aufwirft.
Missbrauch
Neue Technik bringt nicht nur hilfreiche Anwendungen, sondern auch Missbrauch mit sich. Bei KI zeigt sich das in Fälschungen (Fakes), im Ausspähen und dem Generieren von Scheinwissen.
Fakes
Es wurden bereits mehrere Fälle öffentlich bekannt, in denen KI-generierte Stimmen oder Videos (Deepfakes) für Betrug genutzt wurden. Damit wurden bereits Menschen in entscheidenden Managementpositionen KI-imitiert und damit eine gefälschte Firmenentscheidung simuliert. Ebenso wurden Personen bedroht, ausgenutzt oder zu Handlungen wie Geldüberweisungen verleitet, die sonst nicht möglich gewesen wären. Im Jahr 2024 machte beispielsweise eine Schlagzeile die Runde: Finanzmitarbeiter zahlt 25 Millionen Dollar nach Videoanruf mit Deepfake-„Finanzvorstand“.
Gefälschte Informationen (Fake News) werden auch für Medienportale produziert und gezielt platziert. Fake News sind ein wesentliches Beispiel für die Meinungsbeeinflussung und zeigen die Macht der verbreiteten Fehlinformation. Als Gegenmaßnahmen der Verteidigung sind Kapazitäten nötig, die den so genannten Informationsraum überwachen und mit automatischen Maßnahmen auf solche Informationsfälschung aufmerksam machen oder sie blockieren.
Ausspähen
Im Gegensatz zur Verbreitung von Falschinformationen geht es beim Ausspähen darum, automatisiert und KI-unterstützt unerlaubt Informationen zu finden. Ohne ausreichende Vorsicht können mithilfe von KI auch geschützte Daten aufgedeckt werden wie medizinische Informationen oder der Aufenthaltsort von Personen. Oft handelt es sich um Aufgaben, die nur durch die Leistung der Technologie möglich sind, denn etwa Tausende Telefonate abzuhören oder Internetnachrichten zu analysieren, wäre von Menschenhand allein nicht zu bewältigen.
Scheinwissen
Im Bildungssystem hält die Künstliche Intelligenz ebenfalls Einzug. Lehrer müssen sich damit auseinandersetzen, dass Schüler ihre Aufgaben mithilfe von KI lösen. Junge Menschen benötigen ein Basiswissen, um Fakten von Fake unterscheiden zu können.
Bildung ist die Basis einer Gesellschaft, um gut auf die Zukunft vorbereitet zu sein. Die Benutzer der KI haben als Gesellschaft bis heute noch nicht ausreichend gelernt, vorsichtig mit den Ergebnissen der KI umzugehen. Die reine Vielzahl an Antworten und Halluzinationen, die sich damit auf eine Frage finden lassen, können die Bedeutung einer gemeinsam erkannten Wahrheit untergraben und Verwirrung oder Scheinwissen erzeugen. Das kritische Hinterfragen von scheinbaren Fakten ist besonders wichtig, um die neuen Möglichkeiten im Unterricht sinnvoll zu verwenden.
KI-Richtlinien
So wie die Europäische Union auf internationaler Ebene Regeln für den Umgang mit persönlichen Daten in sozialen Netzwerken erstellte, ist das auch für den Bereich der Künstlichen Intelligenz notwendig. Gesetzliche Richtlinien werden bereits mit dem EU Artificial Intelligence Act vorgegeben und im laufenden Jahr 2025 wirksam. Ab dann müssen z. B. künstlich erzeugte oder bearbeitete Inhalte, wie Bilder, Audios oder Videos, gekennzeichnet werden. Wie alle derartigen Entwicklungen im Technologiebereich unterliegt auch die Künstliche Intelligenz und deren Anwendung einem Entwicklungszyklus, der wie bei allen größeren Technologien zu erkennen ist. Dabei sind zumeist ähnliche Phasen zu beobachten.
Hoffnung KI
Neue Entwicklungen schüren große Erwartungen. Es gibt zu einem gewissen Zeitpunkt einen großen Durchbruch, der anschaulich macht, welche neuen Möglichkeiten sich durch die Technologie ergeben. Dann folgt eine Phase großer Begeisterung, in der einige Verfechter dieser Technologie lauthals die Vorzüge anpreisen – meist mit der Ankündigung, dass alle gegenwärtigen Probleme gelöst werden. Ab diesem Punkt beginnt eine so genannte „Hype-Phase“, in der man sich gegenseitig darin überbietet, immer größere Dinge zu versprechen. Dabei werden immer größere Erwartungen geschürt, so dass schließlich alle diese neue Technologie in irgendeiner Weise zum Einsatz bringen wollen.
Nicht selten, ohne noch genau verstanden zu haben, welche Einsatzbereiche möglich sind und welche Konsequenzen eine Anwendung mit sich bringt. Bedenken über die raschen Veränderungen haben anfangs dazu geführt, dass z. B. in Italien die Verwendung von Diensten wie ChatGPT kurzzeitig verboten wurde. Im Augenblick befindet sich die Gesellschaft in jener Phase, in der überall der Einsatz von KI erprobt werden soll, um den Umgang mit dem neuen Werkzeug zu lernen.
KI im Bundesheer
Das Bundesheer will in diesen Bereichen vorpreschen und hat dabei bestimmte Rahmenbedingungen und auch Ausnahmen. Der AI Act der Europäischen Union trat mit Anfang August 2024 in Kraft. Es wurden eine Reihe von Verpflichtungen für Anbieter und Betreiber von KI-Systemen und KI-Modellen vorgegeben wie die bereits erwähnte Kennzeichnungspflicht für KI-generierte Inhalte. Mitgliedstaaten, Unternehmen und andere Organisationen sind angehalten, diese Vorgaben in einem definierten Zeitraum umzusetzen.
KI-Systeme, die für militärische, verteidigungsbezogene oder nationale Sicherheitszwecke entwickelt, in Verkehr gebracht oder verwendet werden, fallen nicht unter die Verordnung. Die KI-Strategie der österreichischen Bundesregierung „Artificial Intelligence Mission Austria 2030“ (AIM AT 2030) enthält keine militärspezifischen Vorgaben, legt aber die Modernisierung der öffentlichen Verwaltung insgesamt als ein Ziel fest.
Die derzeitigen Planungsdokumente des Ressorts, insbesondere die Strategie Künstliche Intelligenz (KI-Strategie), die Datenstrategie, die IKT-Strategie, die IKT-Sicherheitsstrategie sowie die Digitalisierungsstrategie, bilden die Ausgangsbasis für die Einführung und Nutzung von KI-Technologien im BMLV. Nachdem die Künstliche Intelligenz bereits nachhaltig und erfolgreich in vielen allgemeinen Bereichen Einzug gehalten hat, (z. B. Bilderkennung, Tumorerkennung, Sprachübersetzung, Transkription usw.) wird sie sich auch langfristig im Militär dauerhaft halten. Die Weiterentwicklung von Computersystemen macht Anwendungen immer kleiner und leistungsfähiger. Was heute noch in großen Rechenzentren stehen muss, ist morgen leistungsfähiger und kleiner in einer mobilen Kommandostelle untergebracht und übermorgen in einem mobilen Gerät eines Soldaten im Einsatz.
Sinnvolle KI-Verwendung
Wer KI-Technologien erfolgreich einsetzen möchte, sollte Antworten auf grundlegende Fragen haben:
- Wo ist es sinnvoll, KI-Technologie einzusetzen?
Eine Organisation muss über die Fähigkeit zur Identifikation und Beurteilung von KI/ML-Algorithmen für die Unterstützung der militärischen Kernprozesse sowie der Prozesse des täglichen Dienstbetriebes verfügen.
- Welche Ressourcen werden benötigt?
Für den erfolgreichen Einsatz von KI-Technologie sind qualifizierte Mitarbeiter, eine kontinuierliche Aus- und Weiterbildung von Experten in den Fachbereichen sowie der Einsatz spezieller Hardware für die Modellerstellung, Inferenz und das Retraining von Modellen erforderlich.
- Wie wird KI-Technologie zur Verfügung gestellt?
Eine Organisation muss KI- und ML-Systeme so bereitstellen, dass sie spezifische Sicherheits- und Transparenzanforderungen erfüllen.
- Wie können bereits vorhandene Modelle und Algorithmen in der Organisation genutzt werden?
Eine Organisation muss in der Lage sein, vortrainierte Modelle – ob Open Source oder kommerziell – mit eigenen Trainingsdaten anzupassen. Beim Kauf von Systemen oder Plattformen mit KI-Anteilen muss klar mit den Herstellern geklärt werden, ob und wie ein Retraining der Algorithmen mit eigenen Daten möglich ist.
- Wie nutze ich KI-Systeme sicher?
Nutzer müssen aufgeklärt sein, wie sie offene und klassifizierte Informationen in internen und externen KI-Systemen verwenden. Ferner muss sich jeder Nutzer über die Qualität der bereitgestellten Informationen bewusst sein.
Fazit
Die Nutzer befinden sich derzeit in einer Phase, in der die Erwartungen an die neue Technologie KI hoch sind. Die bisherige Entwicklung und die bekannten Möglichkeiten von Künstlicher Intelligenz sind im Alltag der Zukunft nicht mehr wegzudenken.
Die Bevölkerung und das Bundesheer müssen ebenfalls auf den Einsatz von KI vorbereitet sein, der gegen die Interessen der Gesellschaft, des Staates und der Wertegemeinschaft gerichtet ist. Daraus folgt:
- allen Ressortangehörigen ist in der Aus-, Fort- und Weiterbildung ein funktions- und ebenenadäquater Wissensstand in Bezug auf KI und die Nutzung dieser Technologie zu vermitteln;
- die entwickelte „KI-Werkbank“ (machine learning operations – MLOps-Plattform) ist in den Regelbetrieb überzuführen;
- weitere Bedarfe und Anwendungsfälle für den Einsatz von KI-Technologie sind zu identifizieren und die Weiterentwicklung der „KI-Werkbank“ ist auf diese Bedarfe hin auszurichten;
- Richtlinien oder Vorgaben für die Beschaffung von KI-Systemen sind insbesondere im Hinblick auf den Betrieb der Infrastruktur bzw. die Nutzung von eigenen Daten zu erstellen oder anzupassen;
- die Qualifikation des verfügbaren Fachpersonals ist im Hinblick auf die Entwicklung, den Betrieb und die Nutzung von KI-Algorithmen voranzutreiben;
- das Bundesheer muss auf Cyberangriffe unter Nutzung von KI-Technologie sowie den Einsatz von autonomen Systemen durch Aggressoren vorbereitet sein.
Das Bundesheer stellt sich bereits jetzt, wie auch in anderen Bereichen der Gesellschaft, die von der technologischen Entwicklung betroffen sind, auf die veränderten Umstände ein. Herausfordernd dabei ist die rasende Geschwindigkeit in der Entwicklung. Es ist jedoch klar: Die KI wird in Zukunft im Bundesheer und im BMLV entscheidend zur Aufgabenerfüllung beitragen.
Dipl.-Ing. Dr. Gerald Richter; System-Architekt in der IKT-Technik im IKT & Cybersicherheitszentrum
Dieser Artikel erschien im TRUPPENDIENST 1/2025 (402).
