KI-Forum Folge 2: Grundlegende Fragen für Soldaten und Bedienstete
Viele Sekretärinnen fielen in den letzten Jahrzehnten der Büroautomatisierung zum Opfer. Manager ersetzten fleißige Mitarbeiter unter anderem zwecks Gewinnoptimierung durch Textbearbeitungsprogramme und Kaffeeautomaten. Im Buch-, Magazin- und Zeitungsdruck verloren zahlreiche Schriftsetzer, die noch den Bleisatz erlernt hatten, durch leistungsfähige Layoutprogramme ihre Arbeitsplätze.
Droht etwas Ähnliches „dank“ KI nun auch österreichischen Soldaten? Knabbern bald (oder gar schon jetzt) Roboterhunde an den Sesseln von Soldatenarbeitsplätzen oder drängen vielleicht schon bald „Terminatoren“ ins Militär, die weder Schlaf noch Urlaub brauchen, keine Rente auf Staatskosten beanspruchen und bereit sind, kostenlos Überstunden im In- und Ausland zu leisten? Andererseits werden und wurden im russischen Angriffskrieg verwundete ukrainische Soldaten durch hochbewegliche KI-gestützte Systeme gerettet. Mittels KI ist es durchaus möglich, die Erfolgsaussichten für einen Militäreinsatz in einem – ebenfalls mit KI-Hilfe aufgeklärten Gebiet – zu erhöhen und dafür auch zugehörige Befehle auszuarbeiten. Die Beispiele ließen sich beliebig fortsetzen …
In dieser Folge des KI-Forums TRUPPENDIENST geht es um grundlegende Fragen für viele Soldaten, Soldatinnen und andere Militärangehörige. Die Antworten geben Oberleutnant Segur-Cabanac und Oberleutnant Zandl.
Inwieweit und wobei können oder sollen KI-gestützte Systeme Soldaten ersetzen?
Segur-Cabanac: KI-gestützte Systeme können Soldaten vor allem in den Bereichen Aufklärung, Bildauswertung und Textauswertung unterstützen. Die Verarbeitung von Informationen kann durch KI-gestützte Systeme wesentlich schneller erfolgen. Der hundertprozentige Ersatz von Soldaten durch automatisierte Systeme ist jedoch zu hinterfragen. Inwieweit kann einem System vertraut werden, wenn es in weiterer Folge um den Einsatz von Soldaten geht? Inwieweit kann einem System die volle Verantwortung für das Leben von Soldatinnen und Soldaten übertragen werden?
Zandl: KI-gestützte Systeme sollten den Soldaten nur dort ersetzen, wo daraus ein klarer militärischer Vorteil oder ein Sicherheitsgewinn entsteht. Beispiele dazu sind eine Drohne, die bei Verlust der Datenverbindung ein zuvor vom Menschen freigegebenes Ziel selbstständig anfliegt, der autonome Abtransport von Verwundeten aus Gefahrenbereichen oder das Räumen von Minen.
Gibt es künftig oder schon jetzt den (dienstlich zugewiesenen) „Kamerad KI“? Müssen österreichische Soldaten oder andere Heeresangehörige bangen, aus Einsparungs- oder anderen Gründen durch KI-gestützte Systeme ersetzt zu werden? Wo sind dafür jetzt bzw. künftig die Grenzen?
Segur-Cabanac: KI-Tools wie Chatbots und versbesserte Suchfunktionen sind bereits in den Dienstbetrieb des Bundesheeres integriert. Eine Entlassung aufgrund „ersetzt durch KI“ sehe ich aus jetziger Sicht als unwahrscheinlich an. Im Bundesheer wird häufig mit eingeschränkten oder geheimen Informationen gearbeitet, die auch nicht durch lokal verarbeitende KI gesichtet werden sollte.
Zandl: Innerhalb der Strukturen des Bundesheeres existiert derzeit ein KI-Service zur Verarbeitung unklassifizierter Daten. Teil dieses Services sind ein Chatbot mit Dokumentenabfrage, ein Code-Assistent und ein Übersetzer. Grenzen sind derzeit die Verarbeitung klassifizierter Inhalte sowie Datenqualität und IT-Infrastruktur. Einen dienstlich zugewiesenen „Kamerad KI“ im Sinne eines Personalersatzes gibt es nicht – und bangen muss auch niemand: Das Bundesheer hat keinen Personalüberschuss abzubauen, sondern Bedarf zu decken. KI wird dort eingesetzt, wo sie Arbeit abnimmt, die ohnehin liegen bleibt, nicht um Dienstposten einzusparen.
Wer trägt die Verantwortung für eventuelle Fehler des „Kameraden KI“, z. B. beim irrtümlichen Beschuss eines Zivilfahrzeuges? Die Programmierer in Indien, Südkorea oder sonst wo? Oder die österreichischen Kaderangehörigen, die das KI-unterstützte Waffensystem angewendet haben?
Segur-Cabanac: Die Verantwortung trägt immer der Mensch, KI ist kein Rechtssubjekt und kann nicht haften. Eine KI darf bei Entscheidungen nie den Menschen aus dem Loop nehmen. Die bekannte Kommandantenverantwortung wird und soll es weiterhin geben. Die Frage zur Freigabe eines vorgeschlagenen Vorgehens muss durch einen Menschen beantwortet werden und dieser ist in weiterer Folge für die Durchführung verantwortlich.
Zandl: Verantwortung trägt immer ein Mensch. KI ist kein Rechtssubjekt und kann nicht haften. Es gibt daher keine Verantwortungslücke, sondern eine Verantwortungskette – an deren Ende der Kaderangehörige steht. Die Entscheidung über den Waffeneinsatz muss beim Menschen liegen. Ein eigener völkerrechtlicher Vertrag zu autonomen Waffensystemen besteht bisher nicht. Die internationalen Bemühungen darum laufen, und Österreich nimmt dabei eine Vorreiterrolle ein. Heute bindend sind aber das humanitäre Völkerrecht, dessen Pflichten sich an Menschen und Staaten richten, sowie die Pflicht, neue Waffen vor ihrer Einführung einer Rechtsprüfung zu unterziehen. Agiert der Bediener korrekt und unterläuft dem System dennoch ein Fehler, liegt die Verantwortung in der Regel bei jener Stelle, die das System beschafft und zur Nutzung freigegeben hat. Nach außen steht gegenüber dem Geschädigten der Staat ein, der Rückgriff auf Zulassungsstelle oder Hersteller bleibt davon unberührt. Verantwortung ist nicht delegierbar, auch nicht an eine Maschine; sie wird nur verteilt.
Auf einen Blick
KI kann Aufklärung, Auswertung und gefährliche Aufgaben übernehmen. Ihr Einsatz hat jedoch technische, rechtliche und ethische Grenzen. Besonders beim Waffeneinsatz bleibt menschliche Kontrolle unverzichtbar.
Beteiligen Sie sich am KI-Forum TRUPPENDIENST und nehmen Sie mit uns, unter dem Betreff „KI-Forum“, Kontakt auf: truppendienst@bmlv.gv.at