IEET > Deutsch > Contributors > Sven Gábor Jánszky
Trendanalyse: Brauchen wir ein Strafrecht für Maschinen?
Sven Gábor Jánszky   Sep 7, 2015   Rulebreaker  

Wir leben in einem verrückten Jahr! Es ist das Jahr, indem die scheinbar spinnerten Visionen der Internet-Protagonisten von vor zehn Jahren Wirklichkeit werden. Wo auch immer ich in diesen Tagen zum Vortrag eingeladen werde, immer geht es um den Trend des Jahres: Augmented Reality!

Natürlich zeigen Trendforscher, wie wir sie sind, auf diese Fragen jene technologische Trends, durch die heute schon sichtbar wird, welchen Veränderungen unsere Lebenswelten in den nächsten fünf bis zehn Jahren unterworfen sein werden:

Wir berichten dann, wie die Gewinner des AutoVision Innovation Awards des 9. 2b AHEAD Zukunftskongresses, die niederländische Augmented Reality Schmiede “Layer” schon heute per Smartphone-App die reale Welt mit virtuellen Informationen verschmelzen lässt ... Wir zeigen, wie die Schweden von TAT mit ihrem “Recognizer” die Gesichtserkennung aufs Smartphone bringen ... Wir schauen gemeinsam die Designstudien von Nokia an, die das Handy der Zukunft wahlweise in die Fensterscheibe oder die Sonnenbrille wandern lassen ... Wir spielen die inzwischen omnipräsenten TED-Mitschnitte des MIT-Studenten Pranav Minstry vor, der mit seiner komischen Apparatur aus Kamera, Projektor, Spiegel und Handy schon heute die Funktionalität des Handys der Zukunft simuliert und wahlweise virtuelle Ökoampeln auf Küchenrollen, nichtvorhandene Uhren auf das Handgelenk oder Updates in die Zeitung der Zukunft projiziert.

Dies sind nette technologische Spielereien, die in jedem Vortrag und Agenturpräsentation für erstaunte Blicke beim Publikum sorgen. Die Whitepapers der Agenturen haben wieder Konjunktur! Und zweifellos: Dies alles wird kommen und Sie sind gut beraten, sich heute schon Gedanken über Ihre Strategie dabei zu machen.

Doch ich möchte Ihren Blick über die technologischen Spielereien hinaus lenken. Ich möchte Sie ermuntern, jene strategischen Veränderungen in Ihren Geschäftsmodellen vorauszudenken, die mit den neuen Augmented Realities nahezu automatisch über uns hereinbrechen werden.

Um die wahren Auswirkungen der Augmented Realities zu verstehen, schauen Sie bitte nicht nur auf die aktuellen Cases von Lego, Layar und Pranav Minstry.

Bitte schauen Sie sich an, woran der Leadership-Award-Gewinner des 2b AHEAD ThinkTanks von 2009, Dale Herigstad, gerade mit französischen und amerikanischen Medienhäusern arbeitet: Banal gesagt ist es die Abschaffung der Fernbedienung, euphorischer betrachtet eine völlig neue Schnittstelle zwischen Mensch und Maschine. Es geht um die Gedankensteuerung! Wir werden in nicht allzu langer Zeit in der Lage sein, die Geräte, die uns umgeben ohne jegliche Tastatur, Maus, Remote Control sondern schlicht und einfach mit unseren Gedanken zu steuern. Wer jenes Headset in Aktion sehen möchte, für das Dale Herigstad von uns schon vor 18 Monaten unseren Leadership Award bekommen hat, der sollte sich den TED-Talk von Tan Le ansehen.

Bitte schauen Sie sich zudem an, was der 2b AHEAD Beirat Prof. Dr. Bodo Urban, Direktor des Rostocker Fraunhofer Instituts IGD, dem ThinkTank schon im Jahr 2007 präsentiert hat: Eine Sensorik die menschliche Emotionen versteht und die Radios und TV-Geräten der Zukunft befähigt ihren Nutzern ein auf deren emotionalen Zustand abgestimmtes Angebot zu machen.

Und schauen Sie sich bitte dringend an, welche Auswirkung die Verbindung der heutigen Online-Targeting-Technologien (von Behavioral bis Geo) mit künftigen internetfähigen Supermarktregalen, ICE-Sitzen, Handtaschen, Autos, Küchentischen usw. hat. Es führt dazu, dass sich die künstliche Konstruktion unserer angeblich gemeinsamen Realität auflöst. Denn wenn wir ehrlich sind, sind unsere Realitäten und Gedankenwelten schon heute völlig verschieden, auch wenn wir gerade im gleichen Raum sind.

Die Entwicklung der Augmented Realities wird dahin führen, dass diese unterschiedlichen Gedankenwelten mehr und mehr visualisiert werden…sie sind nicht mehr unsichtbar in Ihrem Kopf sondern sichtbar für andere. Wohin dies unsere Gesellschaft führt, wenn wir Menschen in jedem Augenblick vor Augen haben, dass wir eigentlich doch in ganz anderen (Gedanken)Welten
leben, macht derzeit am plastischsten der Londoner Architekt Keichii Matsuda deutlich. Schauen Sie sich seine Augmented Reality Experimente bitte anund versuchen Sie sich bitte vorzustellen, was geschieht, wenn für mich die Tapete des Raumes, in dem wir uns gemeinsam befinden, anders aussieht als für Sie?

Welche Auswirkungen auf Ihre Geschäftsmodelle wird dies haben? Ich habe schon in meinen letzten Trendanalysen schon einiges über die kommende Profigesellschaft, die spätere Ampelgesellschaft und den Wandel Ihrer Geschäftsmodelle für die Zeiten der Nach-Massen-Wirtschaft geschrieben. Ich will dies heute deshalb nur kurz anreißen, bevor ich die neue und für mich entscheidende Frage mit Ihnen teilen möchte:

Wie lange werden wir Menschen die Verantwortung für immer intelligentere Maschinen übernehmen, deren Verhaltensweisen wir immer weniger kontrollieren können? Oder anders gesagt: Ab wann brauchen wir das Strafrecht für Maschinen?

Die Profigesellschaft

Für die Lebenswelten den Menschen steigt damit die Komplexität ins Unbeherrschbare. Wir werden von Informationsfluten umgeben sein, die kein Mensch verwalten kann und will. Wesentlichen Geschäftsmodelle der Zukunft werden Aggregatoren und intelligente Filter, die die Überfülle der Informationen nach individuellen Vorlieben und situativen Bedürfnissen vorfiltern. Augmented Reality Applikationen werden zum Filtern und zum Ein- und Ausschalten von Informationen genutzt.

Die symmetrische Informationsverteilung in den Lebenswelten des Jahres 2020 wird jedermann in die Lage versetzen, zu jeder Zeit auf alle Informationen zugreifen zu können. Denn diese werden durch intelligente Assistenten situationsgerecht in den Alltag eingespielt: Jeder Amateursportler trainiert mit Profimethoden, jeder Kunde hat das Wissen des Fachberaters und jeder Fernsehzuschauer bekommt sein individuelles Programm.

Was kommt nach der Massenwirtschaft?

Auf den ersten Blick ist es nur eine technologische Entwicklung…auf den zweiten Blick erleben wir einen Prozess, der zum Gamechanger für die meisten Branchen werden wird. Er beginnt mit der einfachen Feststellung der heutigen Chiphersteller, dass die Zukunftsvision ihrer Branche darin besteht, künftig an jeden Chip eine Antenne anzubauen. Doch was bedeutet es für unsere Lebenswelten, wenn künftig jeder Gegenstand eine IP-Adresse hat und einzeln ansteuerbar ist? Jede Cola-Dose, jeder Wohnzimmerfernseher, jeder Badspiegel, jeder ICE-Sitz, jedes Autoradio, jede Schulbank und bei Bedarf auch jedes T-Shirt! Alle denkbaren Gegenstände, die einen Chip in sich haben, werden zu Internetgeräten!

Und was ist die Folge? Ein unüberschaubares Chaos von Abermillionen angebotener Informationen, das durch den normalen Menschen nicht zu übersehen und zu verwalten ist. Wir steuern unausweichlich in einen Zustand, in dem jeder Mensch an jedem Ort und zu jedem Zeitpunkt mit einer Überfülle von Informationen konfrontiert ist, die die menschliche Verarbeitungskapazität bei weitem überschreitet.

Wie werden wir das Problem lösen? Wir suchen uns Filter! Das ist nichts Neues, denn solche Filter kennen wir Menschen schon seit Ewigkeiten. Heute nennen wir sie Experten. Es sind Makler, Berater, Zeitungsredaktionen, Lehrer, Reiseführer…die alle ihr Geld damit verdienen, für uns Informationen zu sammeln, zu bewerten, zusammenzustellen und uns in bestimmten Situationen zu verkaufen.

Doch mit der Zeit werden die Menschen feststellen, dass technologische Filter, den menschlichen Filtern in weiten Feldern überlegen sind. Denken Sie jetzt bitte nicht an irgendwelche Blechroboter, die hinter Ihnen her laufen. Wir sollten uns nicht unglaubhaften Science Fiction-Geschichten hingeben und der scheinbar tröstlichen Vorstellung, dass diese sowieso nie Realität werden. Realistischer ist die Vorstellung, dass Sie Ihr Handy zücken, wenn Sie Beratungsbedarf haben, mit zwei, drei Klicks ein Assistentenprogramm starten und von diesem eine auf Ihre Individualität und auf die individuelle Situation passende Antwort erhalten.

Die Ampelgesellschaft

Die Strategie und das Geschäftsmodell ist dabei immer das gleiche: Der Nutzer wird in einer seiner alltäglichen Tätigkeiten durch die Technologie beobachtet. Aus seinen Entscheidungen, den Entscheidungen seiner Twinsumer (Menschen die ähnlich ticken), Geo- und Timetargeting-Informationen wird automatisiert ein Profil seiner Bedürfnisse und Lebensweisen gebildet. Auf Grundlage dieses Profils lässt sich der Nutzer, wann immer er es wünscht, die verfügbaren Informationen entsprechend seiner augenblicklichen Interessenslage und seinem messbaren emotionalen Zustand filtern und in seinen Alltag einspielen.

Dieses Einspielen der virtuellen Informationen geschieht natürlich nicht durch unendliche Zahlenkolonnen. Es geschieht durch Ampeln. Es werden einfach nutzbare Symbole sein, mit denen die virtuellen Informationen für uns aufbereitet sind. Der Energieassistent im Badspiegel ist genauso eine Ampel, wie der Einkaufsassistent vor dem Supermarktregal. Die Ökoampel in der Barcoo-App für das iPhone zeigt heute schon den Weg dafür. Die spannende Frage aus Markensicht ist dann: Wenn Sie im Supermarkt vor dem Waschmittel-Regal stehen und bislang automatisch zur Marke XY greifen, weil deren Werbung bei Ihnen wirkt. Plötzlich zeigt Ihr Einkaufsassistent aber „GELB“. Und beim No-Name-Produkt daneben “GRÜN”! Wie lange dauert es, bis Sie erstmals ihrem Einkaufsassistenten mehr vertrauen als der Marketingkampagne von XY? Wann greifen Sie erstmals zum grünen Ampelpunkt?

Dies würde bedeuten: Der Verkäufer wird ersetzt durch einen individuellen Beratungsassistenten? Ja, natürlich! Der Steuerberater – ersetzt durch einen individuellen Beratungsassistenten? Warum nicht! Die Zeitung, das Fernsehen, das Radio zusammengestellt durch einen individuellen Beratungsassistenten? Aber klar! Was machen heutige Experten dann? Wir sprechen bereits von einer “Devaluation des Expertentums”.

Echtzeit ist nicht schnell genug! Ihre Aufgabe: Schneller als Echtzeit!

Strategisch bedeutet diese Entwicklung für Unternehmen einen neuerlichen Paradigmenwechsel: Kaum haben Sie sich an den Gedanken gewöhnt, dass mit dem Web2.0 und seinen Facebooks, Twitters & Co. einen Echtzeitkommunikation mit dem Kunden sowie innerhalb der Unternehmen zum Standard wird … steht Ihnen ein neuerliches Umdenken bevor. Denn Echtzeit ist nicht mehr schnell genug!

Wer den Trend schon heute ernst nimmt, muss seine Businessstrategien auf ein neues Paradigma umstellen. Ihre Aufgabe ist es, schneller als Echtzeit zu sein. Wenn der Kunde mit Ihnen Kontakt aufnimmt, dann werden Sie künftig bereits wissen, was er von Ihnen will. Das gilt sowohl für die klassische Kundenkommunikation via Call Center. Hier prognostizieren die Vordenker, dass sie künftig bei 80% der Anrufe, die Gründe bereits voraussagen können und der Callcenter-Agent entsprechend reagieren kann.

Dies ist keine besondere Leistung von Callcentern. Auch Sie werden wissen was Ihr Kunde will, bevor er anfängt zu reden! Und Ihr Kunde wird dies erwarten. Ansonsten gelten Sie als unprofessionell!

Ein Strafrecht für Maschinen?

Doch denken wir einen Schritt weiter! Vielleicht halten Sie diese Vision der intelligenten Assistenzsysteme für nützlich für Ihre Kunden, vielleicht orientieren Sie sich eher auf jene Zielgruppen im Gegentrend, die diese Technisierung unserer Welt anfangs noch nicht mitspielen werden. Egal!

Denn wirklich spannend wird es bei der Frage, wer eigentlich die Verantwortung für diese intelligenten Maschinen hat. Wir sind geneigt zu antworten: Der Besitzer! Natürlich!

Doch Vorsicht! Bereits in naher Zukunft werden die Trucks auf unseren Straßen mit sensorgesteuerten Brems- und Spursystemen ausgestattet sein. Wenn alles gut geht ist das eine tolle Sache: Sie bleiben in der Spur und sollte der Fahrer ein Stauende übersehen, dann bremst der Truck automatisch bis zum Stillstand herunter. Etwas später werden die Trucks auch noch die Körperfunktionen und Emotionen des Fahrers überwachen, falls jemand einzuschlafen droht.

Doch was geschieht, wenn der Fahrer gestützt durch seinen Assistenten eine Entscheidung trifft, die einen Schaden hervorruft? Plötzlich wird dies zu einer Frage von Recht und Gesetz. Wer ist verantwortlich, wenn intelligente Assistenten in einem Mensch-Maschine-System wirken? Ist es der Mensch oder sein Assistent? Natürlich sind wir versucht zu antworten: “Verantwortlich ist immer der Mensch, denn nur er kann fühlen und ist ein Rechts- und Moralsubjekt.” Doch hat der Truck-Fahrer wirklich die Kontrolle über die Entscheidung, die zum Schaden führt? Oder hat der Assistent die Notbremsung gemacht, ohne dass der Fahrer es wollte und dadurch wurde der Beifahrer durch die Windschutzscheibe geschleudert?

Um diese Frage zu beantworten, müssen wir uns bewusst machen, was dieser Truck mit Fahrer und intelligentem Assistenten eigentlich ist: Ein menschlicher Körper in der Maschine. Science Fiction-Autoren nennen diese Art von Zukunftswesen “Biobots”, also Roboter, die um ein intaktes menschliches Hirn herum gebaut sind?(vgl. z_punkt GmbH The Foresight Company (Hrsg.): Robots are a girl’s best friend.In: Gefahr für Europa? Das Magazin Nr. 1, Essen Berlin Karlsruhe 2005, Seite 60ff)

Dies klingt sehr fern, und ist doch sehr real: Der Fahrer als Hirn in einer Maschine, aber Sensoren steuern Geschwindigkeit, Abstand zum Vordermann sowie plötzliche Lenk- und Ausweichmanöver.

Und dies gilt natürlich nicht nur für Trucks. Heutige Oberklasse-Fahrzeuge sind dieser Vision sogar noch näher als Trucks, wenn sie eigenständig einparken, Straßenschilder scannen, die Geschwindigkeit entsprechend anpassen und so weiter. Sie sind heute schon Biobots! Subjekte, die in unserer Welt agieren und ihre Entscheidung in einer Mischung aus menschlichem Hirn und Intelligenz der Maschinen treffen. Doch wer ist bei einem Unfall verantwortlich?

Wenn Sie mögen, können Sie das Szenario auch noch weiter in die Zukunft verlagern. In dieser Woche hat Spiegel-online über eine Forschungsarbeit der Darpa, der Technologieabteilung der US-Army berichtet. Hier werden Hirnschrittmacher in Soldatenhelme eingebaut, die mit Ultraschallwellen zielgenau bestimmte Bereiche des Hirns stimulieren, um Aufmerksamkeit zu pushen, Stress abzubauen oder Schmerz zu lindern. Man muss kein großer Prophet sein um zu prognostizieren, dass solche technologischen Hilfsmittel auch im zivilen Bereich ihre Zielgruppen finden werden…als moderne Energydrinks der Zukunft. Und dabei reden wir noch nicht einmal über Brain-Chips und Technologie, die durchaus denkbar auch im menschlichen Körper Aufgaben übernehmen kann.

Dies führt zum vielleicht komplexesten Problem der technisierten und vernetzten Lebenswelten des Jahres 2020 - dem Problem der Verantwortung. Sind Maschinen verklagbar? Haben intelligente Assistenten Rechte? Können wir lernfähige Maschinen für begangene Fehler verantwortlich machen?

Um diese Frage zu beantworten, müssen wir uns zuerst gewiss werden, dass Maschinen immer mehr Verantwortung in der Gesellschaft übernehmen, weil sie Entscheidungen selbstständig treffen. “Die Vorstellung, dass ein durch Programmierer vorprogrammiertes Programm der Maschine vollständig sagt, was sie tun soll, stammt noch aus den siebziger Jahren. Heute werden statt einer definierten Anweisungsfolge oft neuronale Netze genutzt. Anweisungen sind nicht als Befehl gespeichert, sondern als synaptische Gewichte. Heute bringen sich Maschinen immer öfter selbst Dinge bei. Sie werden trainiert, nicht programmiert.” (Vgl. Matthias, A.: Automaten als Träger von Rechten, Berlin 2008) Wenn dabei Fehler entstehen, dann müssen wir entscheiden, wer dafür verantwortlich ist.

Es gibt nicht viele Menschen, die sich aktuell mit diesen Fragen auseinander setzen. Gleichwohl werden sie mit dem aktuellen Augmented Reality Trends dringlicher denn je. Für den Philosophen Andreas Matthias entsteht hier ein Gerechtigkeitsdilemma.

Denn gerecht ist es, jenem die Verantwortung für einen Vorgang zuzusprechen, der die Kontrolle über diesen Vorgang hat. Der Truckfahrer hat die Kontrolle nicht, wenn sein Sensorsystem lenkt. Wer dann? Der Hersteller des Systems? Doch wohl auch nicht! Wäre es also nicht ungerecht, entweder den Fahrer oder den Hersteller zur Verantwortung zu ziehen?

Wer an dieser Stelle Ja sagt, der hat eine Verantwortungslücke entdeckt, die nach unserem juristischen Verständnis auf der Stelle geschlossen werden muss. Wenn nicht der Hersteller der Maschine und nicht der Fahrer die Verantwortung tragen, dann muss es die Maschine selbst tun. Einen verantwortungslosen Raum kann es nicht geben! Doch wie bestraft man eine Maschine für Fehler?

Andreas Matthias, der derzeit Philosophie an der Lingnan Universität in Hong Kong lehrt, hat ein solches Strafrecht für autonom agierende Maschinen des Jahres 2020 bereits skizziert. Die Strafe für Fehlverhalten heißt: Umprogrammierung.

Er leitet seinen Vorschlag aus unserem tradierten Strafrecht ab. Dessen übergeordnete Ziele sind einerseits die Besserung des Täters und anderseits die Prävention. “Um das bei Maschinen zu erreichen, muss man einfach ihren Code verbessern. Sie werden dann auf die Bestrafung sogar viel effizienter reagieren als Menschen. Niemand kann garantieren, dass ein verurteilter Straftäter nach fünf Jahren Gefängnis ein besserer Mensch ist. Aber eine umprogrammierte Maschine macht einen erkannten Fehler nicht noch einmal. Wir müssen Maschinen nicht einsperren - wir müssen nur ihre Software updaten.”

Das klingt banal, ist aber ein erheblicher Eingriff in den Rechtekanon von Maschinen, wenn man sie als autonome Verantwortungsträger betrachtet. Denn: Wenn Maschinen Pflichten haben, haben Sie dann auch Rechte? Etwa das Recht auf Wartung und Update. Nichts wäre ja ungerechter, als sie nicht zu warten und dann für Fehlfunktionen verantwortlich zu machen! Diese Gedanken erscheinen uns heute, wenn auch intellektuell herausfordernd, gleichwohl unreal.

Doch in einer Welt des Jahres 2020, in der sich bereits die Masse der Menschen mit intelligenten Assistenten umgibt, werden wir eine ernsthafte politische Diskussion erleben, die unsere Gesellschaft, quer durch Familien, Generationen und Parteien, spaltet.

Die Frage des Jahres 2020 wird sein: Wie lange wollen wir Menschen noch die Verantwortung für immer intelligentere Maschinen übernehmen, deren Verhaltensweisen wir immer weniger kontrollieren können?

Seien Sie vorbereitet!

Sven Gábor Jánszky is Co-Founder and CEO of the Germany based trend research institute “2b AHEAD ThinkTank” as well as Co-Founder and President of the European “RULEBREAKER Society”.



COMMENTS No comments

YOUR COMMENT Login or Register to post a comment.

Next entry: We May Look Crazy to Them, But They Look Like Zombies to Us: Transhumanism as a Political Challenge

Previous entry: The Girl and the Forest