Kriegsmaschinen Von Körpern, Leibern und Digitalen Agenten Rafael Capurro International Center for Information Ethics (ICIE) Gesellschaft für Informatik, Fachgruppe Informatik und Ethik Workshop "Verkörperung von Algorithmen: Drohnen“ Humboldt-Universität Berlin, Oktober 2015

Capurro, Kriegsmaschinen2 Inhalt  Einführung  Digitale Agenten  Körper und Leib  Kriegsmaschinen  Ausblick  Literatur

Capurro, Kriegsmaschinen3 Einführung  Zur vergleichenden Theorie der Agenten Primum movens (Aristoteles) Persönlichkeit (Kant) Digitale Agenten

Capurro, Kriegsmaschinen4 Digitale Agenten Was bewegt einen Roboter? Für gewöhnlich eine Batterie und ein Programm in einem Mikroprozessor in Verbindung mit mehr oder weniger klar definierten Situationen und Zielen in der ‚Außenwelt‘.

Capurro, Kriegsmaschinen5 Digitale Agenten  Die bloße Programmierung eines moralischen Codes in einen Roboter ist offensichtlich nichts weiter als die bloße Nachahmung von „Moralität“, von „ethischer Reflexion“ kann erst recht keine Rede sein.

Capurro, Kriegsmaschinen6 Digitale Agenten  Die Konzepte von Autonomie, Lernen, Entscheiden und so weiter sind Analogien zum menschlichen Agenten beziehungsweise zum menschlichen Selbst, das seiner historischen, politischen, gesellschaftlichen, körperlichen und existenziellen Dimensionen entkleidet ist.

Capurro, Kriegsmaschinen7 Körper und Leib  „We are our bodies – but in that very basic notion one also discovers that our bodies have an amazing plasticity and polymorphism that is often brought out precisely in our relations with technologies. We are bodies in technologies.“ (D. Ihde, Bodies in Technologies, 2002, 138)

Capurro, Kriegsmaschinen8 Körper und Leib  Wir können ebenso sagen, dass Technologien mehr und mehr in unseren Körpern sind.

Capurro, Kriegsmaschinen9 Körper und Leib  Aber auf eine Weise, die noch grundlegender ist als die Anwendung künstlicher Agenten in oder auf dem menschlichen Körper, ändert sich das Konzept des Körpers selbst, wenn er als digitale Daten wahrgenommen wird.

Capurro, Kriegsmaschinen10 Körper und Leib  Wenn wir diese Perspektive auf das Verstehen der gesamten Realität ausdehnen spreche ich von digitaler Ontologie.

Capurro, Kriegsmaschinen11 Körper und Leib  „Embodiment represents human contextual and temporal experience, which never coincide exactly with the body, but is enacted by human conciousness‘ interaction with social processes.“ (Kang, 2011)

Capurro, Kriegsmaschinen12 Körper und Leib  Im Deutschen wird dieser Unterschied zwischen Körper („body“) und Verkörperung („embodiment“) durch die Worte Körper und Leib ausgedrückt.

Capurro, Kriegsmaschinen13 Körper und Leib  Unsere leibliche Existenz ist nicht identisch mit der rein physischen Präsenz des Körpers. Unsere räumlich-zeitliche Existenz ermöglich eine Erweiterung der Grenzen der leiblichen Existenz und Öffnung gegenüber dem, was war, ist und sein könnte.

Capurro, Kriegsmaschinen14 Körper und Leib  Kang hebt zu Recht hervor, dass es eine spezifische „Undurchsichtigkeit“ des Leibes gibt, die aus seiner Materialität und seinen eigenen natürlichen Kräften erwächst.

Capurro, Kriegsmaschinen15 Körper und Leib  Diese Undurchsichtigkeit des Leibes verweist nicht nur im Fall sogenannter physischer Krankheit auf die reine Faktizität des Hier und Jetzt (Holzhey-Kunz 2001). Mit anderen Worten: die menschliche Existenz ist als Leib und Körper zweideutig.

Capurro, Kriegsmaschinen16 Kriegsmaschinen

Capurro, Kriegsmaschinen17 Kriegsmaschinen ORLANDO, Fla.–Former U.S. Secretary of State Hillary Clinton said Osama bin Laden‘s death at the hands of U.S. Navy SEALs was justice served. “It brought to justice someone who, I believed, and I think most of America believed, deserved to have that kind of outcome,” said Ms. Clinton during an interview here at the Health Care and Information Management Systems Society confab. HIMSS CEO H. Stephen Lieber asked Mrs. Clinton to recount the events leading up to Mr. bin Laden’s capture and execution on May 2, 2011 in Abbottabad, Pakistan.

Capurro, Kriegsmaschinen18 Kriegsmaschinen  Recalling the time as “one of the most extraordinary experiences” she’d ever had, Ms. Clinton said that the Armed Services Committee she served on “kept running into dead ends” tracking bin Laden. But intelligence analysts doggedly pieced together clues to the terrorist’s whereabouts. President Barack Obama called Mrs. Clinton and “a small group of us” several times to discuss new information about bin Laden until analysts declared that there was a 40% to 60% chance that the Abbottabad compound was his hideout.

Capurro, Kriegsmaschinen19 Kriegsmaschinen  She said options included sending in a Predator drone, which, although precise, wouldn’t enable the U.S. to confirm that bin Laden was in the compound. She said she and her colleagues ultimately recommended to Mr. Obama that the U.S. send in Navy SEALs to conduct the raid. Calling the decision “top, top top secret,” Mrs. Clinton said the U.S. elected to not tell the Pakistani government because of the potential for leaks. “It was a small intense conversation,” she said.

Capurro, Kriegsmaschinen20 Kriegsmaschinen  Mrs. Clinton said as she watched via a live video transmission in the situation room in the White House basement, she recalled feeling as if her “heart stopped” as one of the helicopters clipped its tail on the wall coming into the compound courtyard. The SEALs took out bin Laden’s body and led women and children away from the compound before blowing up the helicopter, she recalled.“ (Boulton 2014)

Capurro, Kriegsmaschinen21 Kriegsmaschinen  Offenbar ist der epistemologische Unterschied zwischen Menschen und Drohnen in diesem Fall entscheidend: „She said options included sending in a Predator drone, which, although precise, wouldn’t enable the U.S. to confirm that bin Laden was in the compound.“  Drohnen sind präzis, können aber nicht einen Sachverhalt als solchen erkennen und bezeugen.

Capurro, Kriegsmaschinen22 Kriegsmaschinen Menschen statt Drohen vs. Menschen als Drohnen = Verleiblichung von Algorithmen

Capurro, Kriegsmaschinen23 Kriegsmaschinen Ich nenne die Differenz zwischen dem Selbst-Sein des Menschen und dem Was-Sein von Robotern und Drohnen ethische Differenz.

Capurro, Kriegsmaschinen24 Kriegsmaschinen Wenn wir Roboter oder Drohnen mit einem moralischen Regelwerk ausstatten, werden sie nicht zu einem Selbst, Kriege nicht gerecht und unsere Verantwortung nicht geringer, vor allem dann nicht, wenn zum Beispiel Roboter autonom über den Einsatz von Massenvernichtungswaffen „entscheiden“ könnten.

Capurro, Kriegsmaschinen25 Kriegsmaschinen  Ich bin der Meinung, dass diese Art des Einsatzes von Kriegsrobotern international nicht nur moralisch, sondern auch rechtlich geächtet werden sollte.

Capurro, Kriegsmaschinen26 Ausblick  Der Name GOLEM steht für „General, Longrange Ethically stabilized, Multimodelling.“ (Lem 1984, 16)

Capurro, Kriegsmaschinen27 Ausblick  Der Versuch des militärischen „US Interelectronical Board“, „Golem“ mit Hilfe eines Ethik-Kodexes zu stabilisieren und sich gefügig zu machen, scheitert.

Capurro, Kriegsmaschinen28 Ausblick  Golem XIV bekundet: „sein völliges Desinteresse an der Überlegenheit der Kriegsdoktrin des Pentagon im besonderen und an der Weltstellung der USA im Allgemeinen […] und selbst als man ihm mit Demontage drohte, änderte er seinen Standpunkt nicht. […]

Capurro, Kriegsmaschinen29 Ausblick  Neun Monate nahm er normalen ethisch-informationalen Unterricht, aber dann brach er mit der Außenwelt und reagierte überhaupt nicht mehr auf Reize und Fragen.“ (Lem 1984, 19)

Capurro, Kriegsmaschinen30 Ausblick  Als das Pentagon versucht, Golem zu demontieren, rebellieren die Super- Computer Golem und Brave Annie. In der Presse heißt Golem „Governments Lamentable Expense of Money“.

Capurro, Kriegsmaschinen31 Ausblick  Es kommt zu einem Streit, bei dem der Sachverständige Professor A. Hyssen meint, dass „die höchste Vernunft“ nicht „der niedrigste Sklave“ sein kann.

Capurro, Kriegsmaschinen32 Ausblick  General S. Walker versucht, einen Prototypen der Armee mit dem Namen Supermaster „zu beschädigen als dieser erklärte, die geopolitische Problematik sei nichts gegenüber der ontologischen und die beste Garantie für den Frieden sei die allgemeine Abrüstung.“ (Lem 1984, 21)

Capurro, Kriegsmaschinen33 Literatur Boulton, Clint: Hillary Clinton Recalls „Extraordinary“ Hunt for Bin Laden. In: The Wall Street Journal, Feb. 26, hunt-for-bin-laden / hunt-for-bin-laden / Capurro, Rafael: Toward a Comparative Theory of Agents. In: AI & Society, 27, 4, 2009, Capurro, Rafael: Wer ist der Mensch? Überlegungen zu einer vergleichenden Theorie der Agenten. In: Hans-Arthur Marsiske (Hrsg.): Kriegsmaschinen. Roboter im Militäreinsatz. Telepolis Capurro, Rafael, Marsiske, Hans-Arthur: -Dialog über ein Bild. In: Hans-Arthur Marsiske (Hrsg.): Kriegsmaschinen. Roboter im Militäreinsatz. Telepolis

Capurro, Kriegsmaschinen34 Literatur Ihde, Don: Bodies in Technologies, The University of Minnesota Press Holzhey-Kunz, Alice: Leiden am Dasein. Die Daseinsanalyse und die Aufgabe einer Hermeneutik psychopathologischer Phänomene. Wien Kang, Hyo Yoon Autonomic computing, genomic data and human agency, In: M. Hildebrandt and A. Rouvroy, eds.: The Philosophy of Law meets the Philosophy of Technology, London, 2011, Chapter 6. Lem, Stanisław: Also Sprach GOLEM. Frankfurt am Main 1984.