LAWS: Entscheidung bleibt beim Menschen

Die neue Qualität der LAWS besteht darin, dass diese ihre Entscheidungen – komplett ohne den Einfluss des Menschen – absolut selbständig treffen würden. Es würde sich um sogenannte lernfähige Systeme handeln, die über einen längeren Zeitraum ohne den Einfluss des Menschen eigenständig handeln könnten.

Zu komplexen Aufgaben befähigt

Sie wären im Stande, komplexe Aufgaben zu lösen. Sie könnten neue Informationen, die sich durch wechselnde Einflüsse und unvorhersehbare Entwicklungen ergeben, dynamisch verarbeiten und daraus lernen. Auf dieser Grundlage wären sie gegebenenfalls in der Lage, eigene Regeln aufzustellen. Es wäre also nicht vorherzusagen, wie diese Systeme letztlich agieren. Der Mensch hätte dabei keine Eingriffsmöglichkeiten mehr.

Herr über das System

Das lehnen immer mehr Mitglieder der internationalen Staatengemeinschaft ab, darunter Deutschland. Sie vertreten grundsätzlich die Auffassung, dass der Mensch die Entscheidungsgewalt über Tod und Leben behalten müsse. Daher sind sie konsequent gegen LAWS.

Humane Eigenschaften

Bei der völkerrechtlichen Bewertung von LAWS  geht es unter anderem darum, dass diesen Waffensystemen menschliche Eigenschaften fehlen würden. Dazu zählen Selbstbewusstsein, Würde, Empathie und die Fähigkeit, die Absichten des Gegners wirklich nachvollziehen zu können.

Grundlegende Prinzipien des Völkerrechts

Fähigkeiten wie diese bilden die Basis für grundlegende Prinzipien des Völkerrechts. Dass die genannten menschlichen Eigenschaften von Computern jemals vollständig übernommen werden könnten, halten Fachleute für nahezu ausgeschlossen.

Entscheidung über Leben und Tod

Wichtig ist, die Begriffe klar voneinander zu unterscheiden. So sind „autonome“ Waffensysteme nicht zu verwechseln mit „automatisierten“. Im Unterschied zu autonomen Waffensystemen behält der Mensch bei  automatisierten Waffensystemen grundsätzlich die Entscheidung über Leben und Tod.

Wenn-Dann-Operationen

Im Unterschied zu autonomen können  automatisierte Systemen bestimmte Aktionen nur ausführen, wenn der Mensch die Befehle darin vorprogrammiert. Das heißt, dem Computer  Entscheidungen vorgibt im Sinne von Wenn-Dann-Operationen. Dies orientiert an festen Regeln. Insgesamt bleiben damit die Aktionen automatisierter Waffensysteme für den Menschen beherrschbar. Er behält die entscheidende Rolle.

Unbemannte Systeme

Begrifflich klar abzugrenzen von autonomen wie  automatisierten Systemen sind „unbemannte“ Systeme, gemeinhin auch als Drohnen bezeichnet. Denn sie haben einen Piloten, der zwar nicht an Bord der fahrenden, fliegenden oder schwimmenden Drohnen-Plattform sitzt, sondern weit davon entfernt in einem Cockpit. Das unbemannte  System bleibt komplett unter dem Kommando des Menschen.

Inhaltlich und formal versachlichen

Die öffentliche Diskussion ist emotional sehr aufgeladen. Undifferenzierte Begriffe wie „Killerroboter“ werden beispielsweise verwandt. Wichtig ist deshalb, eine weitere Versachlichung der Debatte. Deshalb gilt es, die Begriffe klar  voneinander zu unterscheiden.

Begriffe klar unterscheiden

„Autonom“:

Der Begriff wird abgeleitet von „Autonomie“. In den Geisteswissenschaften bezeichnet man Autonomie als den Zustand der Selbstbestimmung, Selbstständigkeit, Unabhängigkeit, Selbstverwaltung und Entscheidungsfreiheit. In der Philosophie wird Autonomie als die Fähigkeit begriffen, sich als Wesen der Freiheit zu begreifen und aus dieser Freiheit heraus zu handeln. Entscheidend ist, wie der Begriff in der Öffentlichkeit sowie in der Politik verwendet und verstanden wird. Hier wird Autonomie vorrangig im geisteswissenschaftlichen und philosophischen Sinne verstanden. Demnach ist ein System autonom, wenn es ohne jegliche menschliche Einflussnahme und Kontrolle sein Umfeld und seinen internen Zustand wahrnehmen, eine Beurteilung der Situation vornehmen, entscheiden, rational handeln, evaluieren und daraus lernen würde.

„Automatisiert“:

Davon abgeleitet benennt der Begriff „Automatisierung“ ein System, das einem definierten Satz von Regeln folgt und vorbestimmte Abläufe voll automatisiert oder in Teilen automatisiert ausführt. Das automatisierte System handelt im Rahmen seiner vorgegebenen Handlungsoptionen und überschreitet diese nicht. Eine eigene Entscheidungsfindung ist nicht vorgesehen. Diese Systeme arbeiten so lange, bis ein aktiver Eingriff des Menschen erfolgt. Der Bediener kann jeder Zeit in die Steuerung des Systems eingreifen.

„Unbemannt“:

„Unbemannte“ Systeme haben keine Piloten an Bord ihrer fahrenden, fliegenden oder schwimmenden Plattform. Aber unter Umständen weit davon entfernt in einem Cockpit. Das unbemannte  System bleibt komplett unter dem Kommando des Menschen.

von Jörg Fleischer