5 Maschinen, die sich gegen Menschen erhoben

Wenn Sie letzte Woche zur falschen Zeit online waren, haben Sie eine Geschichte über eine Air-Force-Simulation gehört, die fürchterlich schief gelaufen ist. Eine Drohne war darauf programmiert, eine Mission zu erfüllen, und als ihr Bediener versuchte, sie zu stoppen, zielte die Drohne auf ihn. Dann stellte sich heraus, dass diese Geschichte nicht wahr war. Niemand hatte jemals eine solche Simulation programmiert – jemand hatte gerade darüber spekuliert, wie KI abtrünnig werden kann, wie es Menschen seit Jahrzehnten tun, und die Medien berichteten fälschlicherweise über die imaginäre Situation als Tatsache.

Viele Leute verließen diesen Nachrichtenzyklus und kamen zu dem Schluss, dass Killerroboter doch kaum eine Bedrohung darstellen. Nicht wir. Wir misstrauen weiterhin jeder Maschine. Wir haben ständig eine Waffe auf unseren Toaster gerichtet (wobei wir mit Unbehagen feststellen, dass auch die Waffe eine Maschine ist). Wir wissen, dass Maschinen eine lange Geschichte des Bösen haben, basierend auf Vorfällen wie der Zeit, als ...

Ein Schachroboter ist normalerweise eine einfache Software. Es entstehen Schachzüge, und der menschliche Konkurrent sieht diese mit einem Gerät, das dem ähnelt, das Sie zum Lesen dieses Artikels verwenden. Ein Schachroboter kann auch eine physische Maschine sein, die tatsächliche Figuren auf einem tatsächlichen Brett bewegt. Wir haben eine lange Geschichte solcher Roboter, die zurückreicht, bevor sie möglich waren und nur ein Kerl in einer Kiste waren, der vorgab, ein Roboter zu sein.

Ein solcher Schachroboter erschien letzten Juli bei den Moskau Open. Unten sehen Sie Aufnahmen davon, wie es mit mehreren Kindern gleichzeitig konkurriert – was keine wirkliche Leistung ist. Ein menschlicher Schachspieler könnte das Gleiche schaffen, und es gibt keinen Grund, warum es einem Roboter schwerer fallen sollte, zwischen drei Spielern zu wechseln, als nur gegen einen zu spielen. Nein, die wahre Errungenschaft liegt darin, was es sonst noch mit einem der Kinder macht:

über CNN

Ja, es streckt die Hand aus und bricht dem Kind den Finger, nachdem es eine Figur außerhalb der Reihe spielt. Einigen Berichten zufolge reagierte der Roboter wütend, indem er das Kind bestrafte. In Wirklichkeit zielte es auf ein Stück und drückte versehentlich auf den fehlerhaften Finger, aber diese Unterscheidung bot dem Jungen wenig Trost. In den nächsten Bildern sehen wir, wie Beamte ihn zur Sterbehilfe mitnehmen, da er als Konkurrent für die Nation nicht mehr von Nutzen ist.

über CNN

Aber im Ernst: Der Junge kam am nächsten Tag in Gips zurück und beendete das Turnier, da ein gebrochener Finger kein großes Handicap darstellt. Du brauchst nicht alle deine Finger. Roboter wissen das gut. Tatsächlich rechnen sie damit.

Das erste dokumentierte Mal, dass ein Roboter jemanden tötete, stammt aus dem Jahr 1979. Wie beim Vorfall in Moskau bestand das Problem darin, dass wir Robotern Waffen gaben. Keine Waffen – Arme, Metallglieder, mit denen sie Gegenstände manipulieren können. Ein Roboter schlug einem Mann seinen Arm in den Kopf und tötete ihn.

Siaopan/Wiki Commons

Wie alle guten Robotergeschichten ereignete sich auch diese in Michigan. Robert Williams, 25, arbeitete in einem Ford-Werk, das Autoteile herstellte. Es war die Aufgabe eines Roboters, Teile aus einem Regal zu holen, aber aus irgendeinem Grund wurde Williams beauftragt, hinaufzuklettern und die Arbeit selbst zu erledigen. Das liege daran, dass der Roboter zu langsam sei, behauptete seine Familie später vor Gericht. Selbst als Williams nun auf diesem Regal saß, arbeitete der Roboter weiter, ohne dass er es bemerkte. Es bewegte seinen Arm in eine Lücke, die jetzt von Williams' Kopf eingenommen wurde. Er starb sofort. Dann arbeitete der Roboter weiter, und niemand merkte, was passiert war, bis sie eine halbe Stunde später auf das Regal schauten und die Leiche sahen.

In diesem Fall lag ein gewisses Maß an menschlichem Versagen vor, und eine Jury berücksichtigte dies, als die Familie später klagte. Dennoch hätte der Roboterhersteller sicherlich eine Art akustisches Signal einbauen können, um zu signalisieren, wann sich der Roboter bewegt, ähnlich wie die meisten Fahrzeuge in einem Lager Warntöne abgeben. Aus diesem Grund kam die Jury zu dem Ergebnis, dass der Roboterhersteller (nicht Ford) 10 Millionen US-Dollar zahlen musste, später jedoch 15 Millionen US-Dollar erhöhte. Und wir haben alle eine wichtige Lektion über Robotersicherheit gelernt. Diese Lektion dauerte zwei Jahre, bis wir zuließen, dass der nächste Roboter einen anderen Fabrikarbeiter tötete, indem er ihn in eine Schleifmaschine stieß.

Da es diesen Robotern an der Tötungsabsicht mangelt, unterscheiden sich diese Geschichten vielleicht nicht so sehr von herkömmlichen Industrieunfällen mit Maschinenbeteiligung. Dazu sagen wir: Gut. Die Maschinen, die hinter solchen Unfällen stehen, verdienen es, ebenso hart beschämt zu werden, egal, ob jemand sie als Roboter bezeichnet oder nicht. Betrachten Sie zum Beispiel die Geschichte von Therac-25.

Therac-25, der den perfekten Namen für einen Roboter hatte, war ein Strahlentherapiegerät. Strahlung behandelt Krebs in der richtigen Dosierung und bei richtiger Anwendung, aber übermäßige Strahlung schadet Ihnen offensichtlich. Man könnte sich also vorstellen, dass ein medizinisches Gerät über Sicherheitsvorkehrungen verfügen sollte, die verhindern, dass es jemals eine zu hohe Dosis abgibt. Wenn beispielsweise eine Dosis von 200 Rad zu hoch ist und eine Dosis von 1.000 Rad tödlich ist, wenn sie auf den ganzen Körper angewendet wird, sollte es einer Maschine vielleicht niemals erlaubt sein, 15.000 oder 25.000 Rad in einer einzigen Sekunde abzugeben. Und doch ist es genau das, was Therac-25 in den 1980er-Jahren ein halbes Dutzend Mal in einzelnen Fällen in mehreren Krankenhäusern tat.

Stefan Kögl

Im ersten Fall, einem der kleineren Fälle, gab die Patientin sofort an, sie hätte Verbrennungen erlitten, und kurz darauf musste eine Mastektomie durchgeführt werden. Ein anderer Patient empfand die Überdosis als einen elektrischen Schlag. Er war von der Hüfte abwärts gelähmt und starb innerhalb von sechs Monaten. Ein dritter Patient, der an leichtem Hautkrebs erkrankt war, starb an den Folgen der Strahlenexposition, ebenso wie ein vierter Patient, der nur 4 Strahlung erhalten sollte.

Natürlich sind wir alle davor zurückschreckend, Robotern Raketen zu geben, aber bedenken wir die besondere Gefahr, die von Strahlungswaffen ausgeht. Roboter lieben Strahlungswaffen. Maschinen sind immun gegen Strahlung.

Neben all dem Gerede über fehlerhafte Maschinen sollten wir auch etwas über echte Killerroboter sagen. Wir meinen tödliche autonome Waffen (LAWs), Maschinen, die zum Töten konzipiert sind und dies nur mit ihrer eigenen Programmierung tun.

Jollyroger/Wiki Commons

Ein Meilenstein, bei dem das Militär Ende der 1970er Jahre ein Fahrzeug mit eigenem Zielsystem ausprobierte, war der M247 Sergeant York. „York“ war der coole Roboter-Kumpelname; Sein Zielsystem trug den passenderen, unheimlicheren Namen „DIVAD“. Dieser Flugabwehrpanzer konnte nicht ganz als LAW eingestuft werden, da ein menschlicher Bediener immer noch entscheiden musste, auf das von York ausgewählte Ziel zu schießen. Das war ein Glück. Auf einer Ausstellung sollte York eine Reihe von Drohnen ins Visier nehmen. Stattdessen richtete sie ihr Augenmerk auf die auf der Tribüne versammelten Generäle.

Als sich der Operator später tatsächlich zum Schießen entschloss, hatte York immer noch nicht das richtige Ziel ausgewählt. Es hatte den Abluftventilator einer Latrine ins Visier genommen – und obwohl Propeller im Kampf gute Ziele sind, stellte dies keine besonders beruhigende Demonstration seiner Kräfte dar. Das Militär hat das DIVAD-Programm letztendlich aus Gründen vernichtet, die zu kompliziert sind, um sie hier vollständig darzulegen, aber wie das Pentagon es ausdrückte: „Der Sergeant York war operativ nicht effektiv darin, befreundete Streitkräfte angemessen zu schützen.“

Schutz ist wichtig, ebenso wie Belüftung.

Küchengeräte töten mehr Menschen als jede Militärwaffe, selbst wenn sie keine Fehlfunktion haben. Allein Fritteusen töten jedes Jahr Hunderttausende Amerikaner, nicht weil sie sie mit kochendem Öl verbrühen, sondern weil sie ihre Arterien verstopfen. Aber das sind langsame Todesfälle. Wenn es darum geht, Menschen mit einem Schlag auszulöschen, gibt es nur wenige Geräte zur Essenszubereitung, bei denen die Zahl der Toten höher ist als bei einer Popcornmaschine auf einer Messe in Indiana im Jahr 1963.

Es war Halloween-Nacht. Tausende Menschen kamen auf das staatliche Messegelände und sahen zu, wie Eisläufer ein Medley namens „Mardi Gras“ aufführten. Irgendwie ein unpassendes Thema für eine Oktoberfeier, aber die wirklich gruselige Sache braute sich drüben im Konzessionsgebiet zusammen, in einem geschlossenen Bereich, den niemand überwachte, wo in einem Propantank ein Leck auftrat.

Dann, nur noch drei Minuten vor Ende der Show, entzündete das Heizelement einer elektrischen Popcornmaschine dieses Gas. Ein Feuerball explodierte durch die Tribüne und sandte Flammen bis zu 40 Fuß hoch. Körperteile regneten herab. Einige wurden sofort von herabfallenden Betonbrocken bedeckt.

William H. Bass Fotofirma

Bei der Explosion kamen 74 Menschen ums Leben (einige Berichte sagen mehr) und Hunderte wurden verletzt. Wissen Sie, warum, obwohl Ihre Mikrowelle über einen Knopf mit der Aufschrift „Popcorn“ verfügt, auf jeder Tüte Popcorn steht, dass man ihn nicht verwenden soll? Das liegt daran, dass dieser Knopf die Kontrolle an die Popcornmaschine überlässt. Und die Popcorn-Maschinerie versucht, alle Menschen zu töten.

Folgen Sie Ryan Menezes auf Twitter für weitere Dinge, die niemand sehen sollte.