Data – Maschinensklaven oder Befehlshaber

Veröffentlicht: 21. März 2014 in Internet, Literatur, Politik
Schlagwörter:, , , , , , , , ,
photo credit: JD Hancock via photopin cc

photo credit: JD Hancock via photopin cc

Eigentlich wollte ich gestern Constanze Kurz leibhaftig auf der Lit-Cologne sehen und hören, stattdessen guckte ich im Fernseher Kulturzeit. Wen sehe ich direkt im ersten Beitrag? „Richtig. Thema: Robokiller. Vollautonome Waffen – wer drückt eigentlich ab?“ Und schon wieder eigentlich. Eigentlich wollte ich heute über Saint-Simon, Dietmar Dath und dem Fortschrittsglauben schreiben, nun hat sich das Thema geringfügig verändert.

Und doch wieder nicht. Telepolis berichtet, dass Versuchspersonen lieber von einem Computer schlechte Botschaften oder Handlungen entgegennehmen, als von einem Menschen.

„Den Versuchspersonen wurde vorher gesagt, dass der Computer dieselbe Aufteilung trifft wie der Mitspieler, es wäre also egal gewesen, wer die Aufteilung macht. Überraschenderweise überließen die Versuchspersonen die Aufteilung lieber dem Computer, weil das offenbar erträglicher war, als von einem Mitmenschen womöglich ausgetrickst zu werden.“

Und hier hat ein Mensch die Entscheidung getroffen und der Computer führt aus. Wir nähern uns aber langsam dem Punkt, an dem die Entscheidungsgewalt bereits auf die Computer und Maschinen übergeht bzw. gehen soll. Zum Thema Drohnen äußerte sich Constanze Kurz gegenüber ttt über das Vorhaben Maschinen eine Art ethischen Verhaltenskodex beizubringen:

„Die Annahme dahinter ist ja, dass man einer Maschine per Programm eine gewisse Ethik beibiegen könnte. Das heißt, man hat eine Software, die ethische Normen, wie wir sie kennen, in eine Maschine hineinbringt. […] Ich denke, so einfach wird es nicht sein. Denn letztlich kann nur ein Mensch Verantwortung – in dem Sinne, wie wir heute ethische Verantwortung definieren – übernehmen.“ (ab 0:04:13)

{{Information |Beschreibung = EuroHawk nach der Landung am 21.07.2011 bei der WTD61 in Manching nach 20 stündigen Flug von EAFB in USA. |Quelle = Mein Fotoapparat |Urheber = Rekke |Datum = 21.07.2011 |Genehmigung … (http://de.wikipedia.org/w/index.php?title=Datei:EH_Ferry1.jpg&filetimestamp=20120410085328#filelinks)

{{Information |Beschreibung = EuroHawk nach der Landung am 21.07.2011 bei der WTD61 in Manching nach 20 stündigen Flug von EAFB in USA. |Quelle = Mein Fotoapparat |Urheber = Rekke |Datum = 21.07.2011 |Genehmigung … (http://de.wikipedia.org/w/index.php?title=Datei:EH_Ferry1.jpg&filetimestamp=20120410085328#filelinks)

Aber genau darum geht es, um die Verantwortung. Nachdem bereits im 2. Golfkrieg, dem Desert Storm („Unternehmen Wüstensturm“), eine Art Videoästhetik Einzug gehalten hat, bekommt der Krieg nun eine Art Maschinenästhetik. Diese Drohnen, die noch an das Aussehen von Flugzeugen mit einer Schnauze haben, die mich an den Kopf des Ungeheuers Alien aus dem gleichnamigen Film erinnert, schaffen bereits eine Realität, die scheinbar darauf hinauslaufen muss, die Entscheidung zu delegieren. Kurz erklärt dies, ohne Wertung, in dem Beitrag so: Die Menge an Daten die eine Drohne sammele, sei kaum noch zu bewältigen, zumindest nicht für ein herkömmliches Gehirn. Umso schwieriger sei eine rationale Entscheidung unter Zeitdruck.
Ich persönlich finde ja, man sollte sich lieber alle Zeit der Welt nehmen, statt Kollateralschäden (Tote und Verletzte) und beabsichtigte menschliche Opfer (Tote und Verletzte) zu verursachen. Ein Lob auf die Langsamkeit. Kriegsstrategen sehen dies anders, sie setzen auf Schaltkreise.

Aber politisch ist es natürlich eine Versuchung, die Entscheidung über Leben und Tod einer Maschine zu überlassen, ohne menschliche „Opfer“ auf der eigenen Seite befürchten zu müssen. „Interessanterweise ist selbst bei etlichen eher interventionistisch geneigten Grünen und Sozialdemokraten die Versuchung groß, die politischen Unwägbarkeiten eines Militäreinsatzes durch technologische Delegation des Tötens reduzieren zu wollen.“ Da bekommt das Inhumane am Krieg eine neue Bedeutung. „Automatische Zielerkennung und -verfolgung, Bewegungsmusteranalyse und Algorithmen zur Abstimmung von Vernichtungsprioritäten warten auf ihre Erprobung im Feld“, kann man den „Nachrichten aus dem Maschinenraum“ der Projektleiterin am Forschungszentrum Kultur und Informatik, Kurz, entnehmen. Schafft es die Politik, die Entscheidungsebene vom Menschen auf die Maschine zu schieben, dürfte dies fatale Auswirkungen auf die Kriegsbereitschaft haben.

Wer trägt die Verantwortung?

photo credit: Reggie Rachuba via photopin cc

photo credit: Reggie Rachuba via photopin cc

Nach Richard Barbrook und Andy Cameron führte die Feststellung der Computerhippies, dass alleine das Virtuelle noch keine bessere Welt schafft und die Realität von Arm und Reich nicht verändert, nach den bürgerkriegsähnlichen „Rassen“Unruhen in Los Angeles 1992 zu einer Vision: Die einer künstlichen Intelligenz. Ziel war die Verdrängung der tatsächlichen Ungleichheit in der amerikanischen Gesellschaft aus dem eigenen Gesichtskreis.

„Wie in Asimovs Robotergeschichten stellen sich die Träumer der technischen Utopien die Möglichkeit vor, Sklavenarbeit durch unbelebte Maschinen zu realisieren. Aber obwohl Technologie Arbeitsleistung ersetzen oder erweitern kann, vermag sie niemals die Notwendigkeit zu ersetzen, daß Menschen diese Maschinen erfinden, erbauen und reparieren. Sklavenarbeit kann man nicht ohne jemanden verwirklichen, der versklavt wird.“

Dies bezieht sich sowohl auf die Menschen, die die Computervisionäre nicht mehr treffen wollten, als auch auf die Maschinen.

Das Stichwort Sklave führt zu einem sympathischen Prototypen der Menschmaschine: Commander Data. Die Serie Star Trek (Next Generation) hat schon zu einer Menge an Sekundärliteratur geführt und auf eine Ausführung möchte ich mich nun stützen. Der Rechtsphilosoph Robert Alexy hielt im Februar 2000 an der Uni einen Vortrag zu „Data und die Menschenrechte. Positronisches Gehirn und doppeltriadischer Personenbegriff“. Gegenstand ist die Episode 035 aus „Raumschiff Enterprise – Das nächste Jahrhundert (Next Generation)“ mit dem Titel „Wem gehört Data?“. Data soll zerlegt werden, um als Prototyp für die Massenproduktion zu dienen. Als Data sich weigert, sich bei der Gefahr, nicht erneut rekonstruiert werden zu können, zerlegen zu lassen, wird eine Gerichtsverhandlung angesetzt, in der zum einen geklärt wird, ob Data der Sternenflotte gehört und/oder über grundlegende Rechte verfügt. Es geht also um die Verfügungsgewalt über Data (engl. für Daten).

Aber warum ist die Frage wichtig und was hat das mit Drohnen zu tun? Wenn eben von Verantwortung bzw. „technologische Delegation des Tötens“ die Rede war, die eine Maschine übernehmen soll, stellt sich die Frage nach dem Status der Maschinen und noch wurden solche Überlegungen allein im Medium Science Fiction angestellt. So stellt sich etwa die Frage, ob ethischen Normen per Programm, von denen Kurz sprach, für Maschinen die gleichen sind, wie unsere? Und in solchen Gedankenspielen drücken sich auch immer Machtansprüche aus. Im Falle des Roboters spiegelt sich dies bereits im Namen. So machen Julia Abrahams und Marc Janott darauf aufmerksam, dass „das Wort Robot, […] im Tschechischen Zwangsarbeiter oder Sklave bedeutet“.

Erste Überlegungen stellte Isaac Asimov in seiner Kurzgeschichte Runaround (Astounding, 1942) an. Laut Wikipedia formulierte dieser die „Grundregeln des Roboterdienstes“. „Sie bilden den Hintergrund der in Ich, der Robot (1950) gesammelten Science-Fiction-Erzählungen und prägen seither die Auffassung, was und wie ein Roboter sein sollte. Die von Asimov beschriebenen Roboter sind in ihrem Verhalten und ihren Entscheidungen an diese Gesetze gebunden.“

„Die Asimov’schen Gesetze lauten:

  1. Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen (wissentlich) Schaden zugefügt wird.
  2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
  3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.“

Interessant ist hier, dass die Frage nach dem Bewusstseins, die Robert Alexy in Bezug auf die Figur Data mühsam auseinander dröselt, schon beantwortet ist. Ein Roboter weiß, was ein menschliches Wesen ist, denn dies ist ja die Voraussetzung, um ihm nicht schaden zu dürfen oder ihm gehorchen zu müssen. Er verfügt darüber hinaus notwendigerweise auch über ein Bewusstsein von sich selbst, um die eigene Existenz schützen zu können. Und ein Roboter muss ein inhaltliches Verständnis (Bewusstsein?) der Regeln besitzen, um entscheiden zu können, ob diese Regeln miteinander kollidieren oder nicht. Das geht über die Frage eins gleich oder ungleich null hinaus. Entscheidend ist, dass der Roboter mit der Entscheidungsfähigkeit und dem Bewusstsein für andere und sich selbst, theoretisch Verantwortung übernehmen kann. (Die Argumentation Alexys zum Personenrecht Datas, ist um einiges Komplexer, aber lesenwert.)  Bös gesagt: Das Genre bereitet uns seit Jahren darauf vor, unsere individuelle und gesellschaftliche Verantwortung weiterzureichen, indem den Maschinen Subjektstatus gegeben wird. Aber auch bei Asimov sind Befehlsgeber und -empfänger klar und der Status quo praktischerweise vorprogrammiert.

Und da stellen sich die W-Frage: Wer programmiert was, warum, wozu, etc. Wer herrscht?

Bezeichnender weise ist es die dunkel pigmentierte El-Aurianerin Guinan, gespielt von Whoopi Goldberg, die Picard darauf aufmerksam macht, dass es bei der Gerichtsverhandlung nicht alleine um Eigentum gehe. „Die Serien- oder Massenproduktion von Datas, die schmutzige, schwierige und gefährliche Arbeiten zu verrichten hätten, würde auf die Einführung der Sklaverei hinauslaufen. Picard verläßt die Bar mit der Bemerkung, daß es in Wahrheit gar nicht um Eigentum, sondern um Sklaverei gehe.“

Mir ist schon klar, dass das Thema Robot-Sklaven-Drohnen unwichtig erscheint, solange es noch versklavte Menschen auf diesem Planet gibt. Leider warten die Probleme nicht in einer Schlange darauf, dass sie an der Reihe sind. Doch bereits heute ist die Wahrscheinlichkeit, dass übermorgen jeder Mensch auf der Welt den Zugang zum Internet nutzen kann, größer, als der kostenfreie Zugang und der Konsum von Wasser für alle.

Wissen, Macht, Verantwortung

„Herren und Knechte sind beide etwas anderes als Menschen, moralisch gesprochen: weniger. Das Argument genügt als Grund, sie abschaffen zu wollen. […] Die Menschen müssen ihre Maschinen befreien, damit die sich revanchieren können“, beschließt Dietmar Dath  „Maschinenwinter, Wissen Technik, Sozialismus. Eine Streitschrift“ (2008). Bevor er jedoch zu diesem Schluss kommt, beschäftigt sich Dath unter anderem mit Claude Henri de Rouvroy, Comte de Saint-Simon (1760-1825), dem Fortschrittsutopisten unter den Frühsozialisten (wobei dessen Zuschreibung ins Lager der Sozialisten umstritten ist).

Er imaginierte eine Gesellschaft, die sich nicht mehr primär über den Einsatz menschlicher und tierischer Muskelkraft reproduzierte, sondern auf Maschinen setzte, deren technische Möglichkeit sich dem Können der Ingenieure und Naturwissenschaftler verdankte, […]“(Saage, R.: Saint-Simon und das moderne Unternehmertum, in: ders.: (2010):Utopische Horizonte, 88).

Für Dath ist aber ein anderer Punkt wesentlich. „Der politischen Linken ist seit Henri des Saint-Simon […] klar, dass Wissenschaft und Technik, also die Bauanleitungen und die Maschinen, als etwas Soziales und Politisches behandelt werden sollten“ (Dath, a.a.O., 81f.) Kurz: „Das Wesen des Technischen ist nichts Technisches. Sondern? Etwas Soziales“ (eig. Herv., Ebd., S. 82).

Und weil dies so ist, kann sich die Politik nicht von der Verantwortung verabschieden, und seien die Maschinen noch so intelligent und auch wir können uns nicht darauf zurückziehen, dass sie helfen menschliche Opfer „auf unsrer Seite“ zu minimieren. Wenn wir Demokratie für wichtig halten, gehört die Überlegung, was Maschinen selbstständig oder per Knopfdruck tun oder lassen dürfen und sollen, künftig mit zum Entscheidungsbereich dazu.

Und wer jetzt sagt, das hätte man auch kürzer haben können, hat Recht, aber ich wollte schon immer etwas über Star Trek schreiben 😉

(Nachtrag 30.3.2014): ttt vom 30.03.

Advertisements
Kommentare
  1. danares sagt:

    Sehr, sehr interessantes Thema (über das ich noch ein wenig meditieren muss…). Und ein ganz fantastisches Schlusswort… 🙂 Viele Grüße!

    • kultgenosse sagt:

      Danke!!! Welches? Über meine Lust über Star Trek zu schreiben, oder über die Notwendigkeit demokratisch über die Verfügungsgewalt über Maschinen zu bestimmen? 🙂

  2. kultgenosse sagt:

    Dazu passt folgender Artikel aus der Freitag Community: Der Offenbarungseid des Alexander Dobrindt

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s