Unmanned Systems at the Bundeswehr – Second order observations
Unbemenschte Systeme bei der Bundeswehr – Beobachtungen zweiter Ordnung
Christian Heck (2023), „Unbemenschte Systeme bei der Bundeswehr – Beobachtungen zweiter Ordnung“, in FIfF-Kommunikation 2/2023 “Mensch – Gesellschaft – Umwelt … und Informatik”, Hrsg. Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF) e.V. (Bremen: 2023).
Download: as PDF (in german language)
Published in:
FifF Kommunikation 2/2023
Mensch – Gesellschaft – Umwelt … und Informatik
The critical computer magazine FIfF-Kommunikation is a journal and newsletter of the Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF) e.V. It is published quarterly with changing topics in the field of computer science and society. The articles are intended to stimulate discussion among computer science experts and to inform the interested public.
»Unmanned Systems at the Bundeswehr – Second order observations« critically summarizes a hearing held in May 2023 as part of the Defence Day series of the magazine Behörden-Spiegel. The article illustrates how the Bundeswehr has for some time been working towards a “transparent battlefield” – the title of a corresponding Bundeswehr study – in which real operations increasingly serve as an experimental field for algorithm-based battle support. The “transparent” battlefield expands the classic triad, on land, at sea and in the air, into space and cyberspace, which is currently leading to the implementation of entirely new technologies in the German military apparatus. Entirely new technologies that also bring new social and cultural consequences within them. In this regard, the paper focuses on the increasing importance of Artificial Intelligence and Machine Learning in military applications and how these changes can be made accessible to civil society, or explained in an understandable way, in order to maintain a capacity for action and criticism in our civilian society. The ability to adequately assess and verify current ambitions of the Bundeswehr in this area, so that if one of these highly complex technical cognitive systems is to be used for military operations, care is taken not to exceed a manageable level of complexity. In other words, ensuring that the final decision when it comes to life and death is made by the human being. For this is not only enshrined in law, but must also be in the interest of all involved. In combat operations, as well as in the the civilian sphere.
»Unbemenschte Systeme bei der Bundeswehr – Beobachtungen zweiter Ordnung« fasst ein Hearing vom Mai 2023 kritisch zusammen, welches im Rahmen der Defence Day Reihe der Zeitschrift Behörden-Spiegel stattfand. Der Beitrag illustriert, wie die Bundeswehr seit geraumer Zeit auf ein “gläserndes Gefechtsfeld” – so der Titel einer entsprechenden Studie der Bundeswehr – hinarbeitet, in dem reale Operationen immer häufiger als Experimentierfeld für algorithmische Kampfunterstützung dienen. Dieses Gefechtsfeld erweitert das klassische Dreigespann, zu Land, zu Wasser und in der Luft, in den Welt- und in den Cyberraum, was derzeit zur Implementierung gänzlich neuer Technologien in den Militärapparat führt. Gänzlich neue Technologien die auch neue gesellschaftliche- und kulturelle Konsequenzen mit sich bringen. Diesbezüglich legt der Beitrag einen Fokus auf die zunehmende Bedeutung von Künstlicher Intelligenz und Machine Learning in militärischen Anwendungen und wie diese der Zivilgesellschaft zugänglich gemacht, bzw. verständlich erklärt werden können, um eine Handlungs- und Kritikfähigkeit der zivilen Gesellschaft aufrecht zu erhalten. Diese Fähigkeiten sind grundlegend, um derzeitige Anstrebungen der Bundeswehr in diesem Bereich adäquat einzuschätzen und verifizieren zu können, sodass wenn eines dieser hochkomplexen technischen kognitiven Systeme für militärische Operationen eingesetzt werden soll, dass auch dafür Sorge getragen wird, eine zu bewältigende Komplexität nicht zu überschreiten. Sprich, die Gewährleistung, dass die letzte Entscheidung, wenn es um Leben und Tod geht, beim Menschen liegt. Denn das ist nicht nur gesetzlich so verankert, sondern muss auch im Interesse aller Beteiligten liegen. In Kampfhandlungen, sowie auch im Zivilen.
Download full article: as PDF (in german language)