2016: Kleine Geschichten verborgener Technik.

Abstract

Dies ist das Vortragsmanuskript. Das gesprochene Wort kann abweichen.

Publication
Vortrag auf der »in.visible systems«, Jahreskonferenz des Forums Informatikerinnen und Informatiker für gesellschaftliche Verantwortung»
Date

Begrüßung

Hallo.

Ich werde gleich umfänglich über die Technikgeschichte des Okkulten referieren. Danach lese ich zwei Kapitel aus meiner Dissertation über unsichtbare Mechanismen der Öffentlichkeit, gefolgt von einer Eloge auf den technischen Äther. Dann haben wir Zeit für eine Diskussion.1

Kontrolle durch Transparenz

Vor knapp zehn Jahren veranstaltete der Fachbereich »Informatik und Gesellschaft« der Gesellschaft für Informatik eine Tagung zum Thema »Transparenz«.2 Die Veranstaltungswebsite ist allerdings selbst ziemlich transparent geworden, der geneigte Internaut findet sie glücklicherweise über die Wayback-Machine des Internet-Archivs von archive.org wieder. Die Informatik-und-Gesellschaft-Community war damals sehr besorgt über die Einführung von ELENA, dem elektronischen Einkommensnachweis, und anderen staatlichen und behördlichen Datensammelprogrammen. Einige der zentralen Forderungen klingen recht hilflos, beispielsweise heißt es in der Pressemitteilung der GI vom 31. Mai 2007:

»Die Bürger müssen die Hoheit über ihre Daten dauerhaft zurückerhalten. Um dies zu erreichen, müssen Gesetze und Verwaltungsverfahren entsprechend umgestaltet werden.«

screenshot des Mementos der Tagungswebsite Transparenz durch Kontrolle der GI 2007

»Zurückerhalten«! Die Hoheit über die eigenen Daten sei also schon längst verloren, so die Einschätzung der damaligen Teilnehmerinnen und Teilnehmer der Tagung »Kontrolle durch Transparenz – Transparenz durch Kontrolle«. Hier im Publikum sehe ich ein paar Teilnehmer, die, ihrem Gesichtsausdruck nach zu urteilen, tatsächlich die Forderung noch immer nicht erfüllt sehen. 2007 hatte die GI allerdings auch nicht die Geheimdienste auf dem Schirm, das FIfF ist in dieser Hinsicht, also wenn es den industriell-militärischen Komplex betrifft, schon immer etwas sensibler gewesen; und so freut es mich, dass wir mit dieser Konferenz ein wenig Licht ins Dunkel geheim operierender Akteure bringen werden.

Der naive Wanderer am Weltenrand

Der Verdacht, dass hinter der Schönen Neuen Welt irgendetwas Düsteres oder zumindest Geheimnisvolles stecken muss, ergab sich natürlich schon wesentlich früher, es ist eine Grundbedingung des vernunftbegabten neugierigen Menschen, sich zu fragen, was denn das alles hier soll, das Leben, das Universum und der ganze Rest. Die Mythen der Menschheit sind voller Bilder über Geheimtechniken geheim agierender Gottheiten oder anderer allmächtiger Wesen.

Zunächst verschlangen die bis dahin unmündigen Bewohner des Langeweileparadieses die Frucht des Erkenntnisvermögens, danach entbarg der prometheische Mensch die okkulte Technik des Feuermachens, schließlich veräußerten die Geisteswesen ihre verborgenen Gedanken mit Hilfe von Rede, Bild, Schrift und Zahl in der Hoffnung, dass ihr Gegenüber durch diese Medien in der Lage waren, sich in andere hineinzuversetzen.

Die Exegese heilig genannter Schriften und Bilder, das Betreiben von Zahlenmystik oder das laut gesprochene »aum« (ॐ), sie alle sollen helfen, »Daß ich erkenne, was die Welt // Im Innersten zusammenhält«.

Der Naive Wanderer am Weltenrand, berühmter Holzschnitt von Camille Flammarion

Der Wanderer am Weltenrand, so berichtet Camille Flammarion 1888, war ein naiver Mensch des Mittelalters, der eine Stelle entdeckte, wo Himmel und Erde sich zwar berührten, aber nicht gut verschweißt waren. So war er in der Lage, einen Blick hinter den Horizont zu werfen.

Der bekannte Holzstich zu der Geschichte dient bis heute als Illustration der kopernikanischen Wende und anderer Zäsuren der Wissenschaftsgeschichte. Das Motiv ist uns durch moderne dystopische Literatur ebenfalls bekannt: Die Protagonistin stolpert durch Zufall hinter die Bühne der Welt und wird auf die dort verborgenen Mechanismen aufmerksam, die nicht unbedingt zum Vorteil aller Menschen ihre Geschicke bestimmen.

Die technische Sprache von Flammarion, die »Schweißnaht« zwischen Himmel und Erde oder »couvercle«, Luke, Wartungsklappe, Verschlussdeckel, verrät ihn als Kind des 19. Jahrhunderts, auch wenn schon seit der Antike technische Metaphern für kosmoligische Vorgänge verwendet wurden. Das Wort Himmelsgewölbe ist ja auch ein technischer Ausdruck.

Flammarion illustriert mit diesem Holzstich eine (populär-)wissenschaftliche Abhandlung über die Wetterbeobachtung. Zwei Absätze unterhalb des »Naiven Wanderers« schreibt er über die faszinierende Tatsache, dass wir tagsüber unsere Atmosphäre dank unserer Sonne und dank anderer physikalischen Wunder als blauen Himmel wahrnehmen. Die eigentlich transparenten Schichten, die in der Nacht den Blick auf die Sterne freigeben, werden opak, wir blicken in den Himmel und sehen doch unsere Erde.

Und sie bewegt sich doch

Nachts sehen wir ja nicht nur die Sterne, sondern auch Merkur, Venus, Mars, Jupiter, Saturn und natürlich den Mond. Momentan sind wir ein paar Tage vor Neumond, der Mond sieht heute so ziemlich genau so aus wie in der ersten Abbildung von Galilei (wenn wir ihn rotieren, natürlich, denn die Zeichnung stellt einen zunehmenden Mond dar. Wäre auch zu schön gewesen…).

Galileos Zeichnungen vom Mond sind die ersten unseres Trabanten

Im ersten Band der editions-Reihe des Suhrkamp-Verlags lässt Bertolt Brecht den berühmten Galileo Galilei seine Erfindung anpreisen:

»Mit tiefer Freude und aller schuldigen Demut kann ich Ihnen heute ein vollkommen neues Instrument vorführen und überreichen, mein Fernrohr oder Teleskop, angefertigt in Ihrem weltberühmten Großen Arsenal nach den höchsten wissenschaftlichen und christlichen Grundsätzen, Frucht siebenzehnjähriger geduldiger Forschung Ihres ergebenen Dieners.«

Galileo tritt von dem Fernrohr zurück und lässt die Venture Capitalists und CEOs von Venedig durchschauen. Leise flüstert er seinem Freund Sagredo zu:

»Ich kann dir nicht versprechen, daß ich den Karneval hier durchstehen werde. Die meinen hier, sie kriegen einen einträglichen Schnickschnack, aber es ist viel mehr. Ich habe das Rohr gestern nacht auf den Mond gerichtet. […] Er leuchtet nicht von selbst.«

Sie werden von den Ratsherren unterbrochen, die das Fernrohr auf weltliche Dinge, speisende und badende Frauen, gelenkt haben und sich höchst erfreut über die Erfindung zeigten.

Galileo wird die Freude trüben, denn obwohl er die holländische Erfindung nach christlichen Grundsätzen verbessert haben will, so stellt er doch kirchliche Dogmen fundamental in Frage. Der Mond war keine perfekte, leuchtende Kugel, sondern pockennarbig mit Tälern und Bergen. Was der Mond der Erde, ist die Erde dem Mond.

Die Verurteilung des Galilei fiel in das Pontifikat von Papst Urban VIII., Jesuit und doctor iurisprudentiae, der zwar ein Freund der Wissenschaft und der Kunst war, sich jedoch nicht gegen die mächtige Inquisition stellen konnte. Im Theaterstück von Brecht versucht er, die Wissenschaft, namentlich Sternenkarte und Rechentafel zu verteidigen, der Inquisitor jedoch erwiderte:

»Daß es die Rechentafel ist und nicht der Geist der Auflehnung und des Zweifels, das sagen diese Leute. Aber es ist nicht die Rechentafel. Sondern eine entsetzliche Unruhe ist in die Welt gekommen. Es ist die Unruhe ihres eigenen Gehirns, die diese auf die unbewegliche Erde übertragen. Sie schreien: die Zahlen zwingen uns! Aber woher kommen ihre Zahlen? Jedermann weiß, daß sie vom Zweifel kommen.«

In dieser Logik sei das Teleskop also ein Produkt des Zweifels und so verwundert es nicht, dass man alles in Frage stellt, was man damit sieht. Der Zweifel selbst sei quasi eingebrannt in die Hardware. Jeder, der durch das Fernrohr blickt, sieht nicht mit menschlichem Auge allein, sondern mit dem Auge des Zweifels. Das ist eine frühe Formulierung, was wir später mit dem Schlagwort »Informationelles Vertrauen« beschreiben werden.

Ja, wir gelangen durch ein Instrument an Daten, doch um diese Daten zu überprüfen, müssen wir wieder das Instrument nutzen. Ob wir dem Instrument vertrauen oder nicht ist eine fundamental epistemologische Frage. Auch dazu werden wir hier Vorträge hören.

»Knowledge brings fear«, so lautet das Motto der Marsianischen Universität in der Trickfilmserie »Futurama«. Auch im Theaterstück wird die bedingungslose Publizität aller Erkenntnis als etwas Schreckliches dargestellt: Die hart arbeitenden, armen und nicht selten hungernden Leute ziehen ihren Lebenswillen aus Gott, der über sie wacht und spätestens nach dem (frühen) Tod auch liebevoll umsorgt. Wenn sie nun erfahren, dass der feste Grund sich drehe, sie unendlich klein in der Unendlichkeit des Universums seien und Gott auch noch mies in Mathe und Physik, also fehlbar war, hätten sie nichts mehr, was sie noch hält. (Unser Innenminister wird ein paar Jahre später etwas sehr Ähnliches über die Wahrheit und der damit einhergehenden Beunruhigung der Bevölkerung sagen.)

Die Ente von Jacques de Vaucanson

Ganz von der Hand zu weisen ist das Argument ja nicht. Neue Erkenntnisse, besonders auf technischem Gebiet, werfen stets neue Zweifel an vorherrschenden Welt- und Menschenbildern auf. Gerade technische Artefakte zeigen – wie der Himmel auf die Erde – auf den Hersteller solcher Artefakte. Acker- und Bergbau führte zum Bild des Menschen als aus Erde geformtes Wesen bzw. als ein tönendes Erz, der Descarte’sche Homunculus blickt von der Zirbeldrüse durch geschliffene Linsen auf die Welt und inzwischen ist den Informatikerinnen und Informatikern ja klar, dass das menschliche Gehirn wahrlich ein paar security software updates nötig hätte.

Die drei Automater von Vaucanson

Auf der Abbildung hinter mir sehen wir drei Automaten, die mit lebensimitierenden Funktionen aufwarten konnten: Links der Flötenspieler, rechts der Trommler. Doch kaum ein anderer Automat beschäftigte die europäische Öffentlichkeit im Zeitalter der Aufklärung so nachhaltig wie die mechanische Ente (hier in der Mitte) des französischen Erfinders Jacques de Vaucanson. Nachdem der Sohn eines Handschuhmachers der französischen Akademie der Wissenschaften 1738 seinen mechanischen Flötenspieler vorgestellt hatte, der ein dutzend einfachste Lieder spielen konnte, wenn die entsprechende Walze eingelegt war, präsentierte er schließlich die berühmte Ente.

Die Ente konnte mit den Flügeln schlagen, Kopf wie Bürzel bewegen und imitierte aufs sorgfältigste auch weitere Funktionen ihres tierischen Pendants, wie der Erfinder selbst in einem Brief an einen gewissen Monsieur l’Abbé D.F. schrieb, sie reckte ihren Hals, um einem Korn habhaft zu werden, sie schluckte und verdaute es. Der Vorgang der Verdauung ist im Brief sehr ausführlich beschrieben mit der jeweiligen Entsprechung in der Feinmechanik. Am Ende schied die Ente tatsächlich etwas aus, das als Verdauungsprodukt durchgehen konnte – Wissenschaft zum Greifen nahe. Die Metamorphose von Korn zu Kot in einem mechanischen Wesen beschäftigte die intellektuelle Elite noch Jahre später. Goethe war regelrecht enttäuscht, als er die Automaten um 1805 bei Gottfried Christoph Beireis sah: »Die Ente, unbefiedert, stand als Gerippe da, fraß den Haber noch ganz munter, verdaute jedoch nicht mehr«.3

Dass Goethe nur ein Gerippe vorfand, war übrigens nicht allein dem Alter geschuldet: Vaucanson selbst wollte Bewegungs- und eben Verdauungsvorgänge so transparent wie möglich gestalten. Das Wunderwerk der Technik sollte für sich sprechen, »toute la mécanique du Canard artificiel sera vûë à découvert«. Im gleichen Brief dachte er über eine eventuelle Ummantelung nach, die sensible Personen vor dem Anblick schützen sollte. Er lehnte dies jedoch strikt ab, ging es ihm doch um die Darlegung und nicht um eine Schau: »mon dessein étant plûtôt de démontrer, que de montrer simplement une machine«.4

Am Ende siegte der Ruhm: Jacques de Vaucanson schickte seine Automaten auf eine Tournée, nicht auf Vorlesungsreise. Die Ente war die Schau, ein Großteil der Mechanik war ohnehin im Sockel versteckt, eine perforierte Folie bedeckte nun das lebensgroße mechanische Tier.

Das Buch zum Film, pardon, zu den Automaten wurde vom königlichen Zensor freigegeben, sogar mit lobenden Worten, die uns daran erinnern, dass Zensur zu früheren Zeiten nicht negativ besetzt war. Heute würden wir vielleicht »kuratiert« sagen, wenn wir den Auswahlprozess populärwissenschaftlicher Werke beschreiben wollen. Der Zensor betont ausdrücklich, dass mit dem vorliegenden Buch von Vaucanson über seine Automaten die Neugier der Öffentlichkeit an technischen Erfindungen befriedigt wird und es daher wert ist, publiziert zu werden. Prädikat: Besonders wertvoll.

Der Jacquardwebstuhl

Der Erfinder selbst wandte sich später der Automatisierung von Webstühlen zu. Ich muss zugeben, dass ich am Anfang meines Informatik-Studiums nicht so recht wußte, warum mir der Professor da vorn etwas über Webstühle erzählte. Rückblickend wüsste ich allerdings nicht, wie man das Forschungsprogramm »Informatik und Gesellschaft« ohne Joseph Marie Jacquards Webstuhlprogrammierlochkarten aufziehen könnte.

Ein Webstuhl, nicht von Jacquard, aber nach seinem Prinzip gebaut

Die nie gebaute Analytical Engine von Charles Babbage nahm sich die automatisierten Webstühle mit ihrem Musterspeicher, der Lochkarte, zum Vorbild; Babbages Texte und Ideen zu Industriemaschinen wurden von Karl Marx aufgegriffen; kurz, die Industrielle Revolution und die Herausbildung einer Arbeitergesellschaft als Ausgangspunkt für Informatik und Gesellschaft zu nehmen, ist vielversprechend, gerade, wenn man sich aktuelle Diskurse zu »Industrie 4.0« ansieht.

Die (vielleicht doch eher herbeigeredete) Vierte Industrielle Revolution, ausgelöst durch die Vernetzung der allgegenwärtigen informationstechnischen Systeme fokussiert die Information. Die Informatiker als neue Pythagoräer rufen mit Leibniz entzückt, nein verzückt: »Alles ist Binär-Zahl«. Webmuster im wüllenen Tuch? Information! Hunger und Armut? Ein Verteilungsproblem, das optimierbar ist, also auch: Information! Zugang zu sauberem Trinkwasser? Wissen, also auch: Information!

Mit der größenwahnsinnigen Annahme, alle Probleme der Menschheit seien berechenbar und somit lösbar, geht die nicht minder irrsinnige Annahme einher, alle Probleme der Menschheit würden nun auch berechnet und gelöst werden. Wenn die Spinning Jenny die Produktivität vervielfacht, so dass nun ein einzelner Spinner einen Weber versorgen konnte, heißt das im Umkehrschluss, dass sieben Spinner ihren Job verloren. Wenn Industriemaschinen immer einfacher zu bedienen sind, heißt das auch, dass der Kinderarbeit nun weniger im Weg steht und dass die einzelnen Arbeiter austauschbar geworden sind.

Ganze Regionen der Erde verwandeln sich in die hässliche Kehrseite der schönen neuen Digitalwelt. Wenn auf IT-Fachmessen wie der Hannover-Messe von »Industrie 4.0« gesprochen wird, so sollte man dies nicht als Modewort auf einem Buzzword-Bingo-Feld abtun, sondern als Warnung begreifen: Die »Industrie 1.0« war vielleicht nicht allein, aber sicher nicht zuletzt für die entstehende Armut eines großen Teils der Arbeiterschaft und der Landbevölkerung verantwortlich. Bequemerweise zeigt sich der »Pauperismus 4.0« jedoch nicht hierzulande, sondern weit ab der social media sphere.5

Leider konnten wir in diesen Jahr keinen Workshop der Arbeitsgruppe »Faire Computer« anbieten, an dieser Stelle muss daher der Hinweis auf die Webseite faire-computer.de ausreichen, die sich diesem Themenkomplex annimmt. Ein Leitmotiv dabei: Fehlende Transparenz und mangelnde Kontrolle bei Vertriebswegen, Entsorgung und Arbeitsbedingungen.

Die giftige Seite der Technik

0°37’32.9”N 109°40’10.1”E

Na, vielleicht sollte ich das dann doch jetzt einschieben, auch wenn ich mich bei Chronos entschuldigen muss. Was ihr hier seht ist ein See aus Giften. Der Journalist Tim Maughan schrieb vor einem Jahr in BBC-Future über den Schrecklichsten Platz auf Erden, ich selbst schrieb in einem Artikel damals darüber:

[Tim Maughan] besichtigte zusammen mit der Gestalter-Gruppe »Unknown Fields Division« die größte industrielle Siedlung in der Inneren Mongolei, Baotou (Buɣutu). Die weltweit größten Vorräte an Metallen der Seltenen Erden finden sich genau dort — also genau die Elemente, die der moderne Mensch so dringend für seine elektronischen Gadgets wie Tablets, Smartphones und dergleichen benötigt.6

Der Giftsee bei Baotou

Im Titel habe ich einmal die GPS-Koordinaten angegeben, um darauf hinzuweisen, dass dieser Aspekt zwar im gegenwärtigen Diskurs verborgen ist, sich jedoch nicht den Satellitenkameras entzieht. In meiner Diplomarbeit von 2009 beschäftigte ich mich erstmals mit den Milleniumszielen der Vereinten Nationen, die selbst gesetzte Frist ist inzwischen abgelaufen.

Selbst die optimistischsten Technik-Liebhaber müssen sich eingestehen, dass die gesamten Protagonisten der so genannten »Industrie 4.0« keines der Ziele angegangen sind – zumindest nicht in den ärmsten Regionen der Welt. Im Gegenteil, die Möglichkeit zur Selbsthilfe wurde und wird systematisch untergraben. Fruchtbares Ackerland, das seltene Erden trägt und in der Folge durch gigantische Giftgewässer landwirtschaftlich unbrauchbar wurde, kann schlicht und ergreifend nicht mehr dem ersten, vierten, fünften oder siebten Milleniumsziel dienen. Allenfalls bei dem niemals abgeschlossenen Projekt der Aufklärung kann Technik ein wenig helfen […]7

Panoptikum reloaded

Ganz konträr zur Erwartungshaltung beim Thema »Aufklärung« gehe ich hier nicht auf Kant, Kaffeehäuser oder Kontroversen der Öffentlichkeit ein, sondern auf Jeremy Bentham. In seinem Entwurf eines Kontrollhauses, Panopticon genannt, zeigt sich sein aufklärerisches Spiel mit dem Spannungsfeld geheim/öffentlich, opak/transparent, security/safety.

Obwohl das am Anfang eigentlich nicht ganz ernst gemeint war, werde ich doch drei, vier Worte aus meiner Dissertation zitieren (und hoffen, dass das nicht gegen die Promotionsordnung verstößt, immerhin ist die Dissertation noch nicht verteidigt):

In seinen Briefwechseln behandelt der Aufklärer Bentham einen zentralen Punkt der politischen Philosophie: quis custodiet ipsos custodes? Es greift zu kurz, das Panoptikum nur auf den Entwurf eines Gefängnisses zu reduzieren. Doch selbst wenn wir bei diesem einen Gebäudekomplex bleiben, so greift es auch hier zu kurz, nur die Kontrolle der Gefangenen zu betrachten. Nicht nur zu Benthams Zeiten waren die Gefangenen leider allzu oft der Willkür der Wärter oder Gefängnisbetreiber ausgesetzt. Wenn Bentham also fragt, wer denn die Wächter bewacht, so spielt er damit nicht auf ihre Unfähigkeit oder Unlust an, sondern auf den Machtmissbrauch:

(Zitat Bentham): »Die Kontrolle der Macht durch die Untergebenen wird gehörig sein und um nichts weniger straff die Kandare, an welche die Kriminalität genommen wird. Den Unschuldigen wird das ein Schild sein, den Schuldigen eine Geißel.«

Das Panoptikum, Skizze von Bentham selbst

Die Ausführungen über die Kontrollen der Kontrolleure nehmen einen weit größeren Platz ein als die über die Gefangenenüberwachung. Er spielt in Gedanken Gefängnisinspektionen durch, einmal in klassischen Haftanstalten und einmal in seinem Panoptikum. Im ersteren Fall könne ein Inspekteur unmöglich die Situation aller Gefangenen erfassen, das erlaubten weder Zeit noch Sicherheit, also könne nur eine Stichprobe genauer untersucht werden. Diese Momentaufnahmen liefern kein repräsentatives Bild, selbst unangekündigte Kontrollen helfen da nicht weiter:

(Zitat Bentham): »So wie dieser Plan [des Gefängnisses] die Unannehmlichkeiten für die Aufsichtsbeamten senkt, so erhöht er kaum weniger auch die Effizienz ihrer Arbeit. Mag der Besuch des Aufsichtsbeamten auch vollkommen ohne vorherige Ankündigung erfolgen, mag er auch noch so flink vorgehen, in allen anderen Fällen wird doch immer genug Zeit bleiben, die wahre Lage der Dinge zu verschleiern. Nur eine nach der anderen dieser neunhundert Zellen kann er besuchen, während in der Zwischenzeit andere, die sich womöglich in einem üblen Zustand befinden, rasch zurechtgemacht werden; und auch die Häftlinge können eingeschüchtert und genau instruiert werden, wie sie ihm zu begegnen haben.«

In einer weiteren Iteration der Wächter der Wächter der Wächter usw. sollen die Türen der Einrichtung dann (Zitat Bentham): »der Gesamtheit der Schaulustigen, diesem großen offenen Gremium des Gerichtshofs der Welt« offen stehen.

Die Öffentlichkeit als Kontrollinstanz gegen Machtmissbrauch, fließendes Trinkwasser und sanitäre Einrichtungen für Gefangene, keine körperliche oder seelische Gewalt nirgends – Bentham liest sich nicht als der Vordenker des Orwell’schen »Großen Bruders«. Jeremy Benthams Panoptikum war ein Projekt der Aufklärung, das wird besonders deutlich, wenn er sein Prinzip auf Krankenhäuser und Schulen anwendet. Es wurde jedoch fälschlicherweise als architektonisch-technisches Projekt verstanden, wie Christian Welzbacher im Nachwort (zur seiner deutschen Übersetzung) zurecht bemerkt, und eben nicht als politisch-philosophisch-soziales Aufklärungsprojekt.

Die Verletzung des Geheimnisses als Schild oder als Geißel, dieses Motiv werden wir auf der Tagung sicher ebenfalls in mehreren Vorträgen behandeln. Amnesty nutzt die Brief-Öffentlichkeit als Schild, Edward Snowden floh in die publizistische Öffentlichkeit und verbarg Staatsgeheimnisse mit Hilfe von öffentlichen Kryptoschlüsseln.

Als ich Glenn Greenwalds Buch »no place to hide« in der Hand hielt, verstand ich den Titel als Verletzung der informationellen Selbstbestimmung, als Angriff auf die Privatheit. Doch nach der Lektüre wußte ich, dass es eine Drohung war, die Greenwald gegen die Geheimdienste aller Länder richtete, ganz im Duktus des letzten Satzes von Neo im Film »Matrix«.

Der Öffentlichkeit als großes Gremium der Gerechtigkeit im Politischen entspricht der Fachöffentlichkeit als kleines Gremium der Tatsachenprüfung, beides sind jedoch Kontrollinstanzen.

Schachspieler, Schach-»Spieler«

Vaucanson setzte die Transparenz in seinem technischen System zu didaktischen Zwecken ein, beschriebene Prinzipien sollten nicht nur gelesen, sondern nachvollzogen werden können. Offenheit bei technischen Systemen dient jedoch nicht zuletzt der Kontrolle des vermeintlichen Wissens über die Funktionsweise. Der französische Magier Jean Eugène Robert-Houdin sollte knapp einhundert Jahre später die Vaucanson’sche Ente reparieren und fand dabei heraus, dass der Kot in einem versteckten Beutel hinter dem Magen deponiert wurde. Die Ente war getürkt.

Der Schachtürke von Kempelen

Der Ausdruck »getürkt« geht, mit dem in der Etymologie notorischen »vielleicht«, auf den so genannten Schachtürken Wolfgang von Kempelens zurück. Der österreichisch-ungarische Hofbeamte stellte 1769 der europäischen Öffentlichkeit einen mechanischen Schachspieler vor, der in türkischer Tracht gekleidet an einem Schachmöbel seine Gegner besiegte. Kempelen löste dabei die mechanischen Probleme des Schachspiels, also die Bewegung einer Hand zum Führen der Figur oder das dreifache Kopfnicken, das Schach ansagen sollte – aber eben nicht die kognitive Dimension. Um einen Menschen beim Schachspiel zu besiegen musste damals noch ein Mensch mit von der Partie sein.

Wolfgang von Kempelen öffnete Interessierten gern die Türen des Schranks, zeigte die Zahnräder, Seilzüge, Rollen, Gelenkstangen und dergleichen mehr, die Figur jedoch konnte nur Schach spielen, wenn die Türen geschlossen waren. Vielen Zeitgenossen, die etwas intensiver nachdachten, war wahrscheinlich klar, dass sich ein Mensch im Möbel befand und die Zügel hielt, doch sie konnten es nicht nachprüfen. Denn dafür hätten sie die Schranktüren öffnen müssen, woran sie aber durch Kempelen mit zahlreichen Ausreden gehindert wurden.

Übrigens können wir auch bei zeitgenössischen Schachrobotern nicht sagen, ob sie wirklich »Schach spielen«. Hat Deep Blue wirklich ein Verständnis für Schach? Der Neuseeländer Nigel Richards gewann letztes Jahr einen französischen Scrabble-Wettbewerb, ohne Französisch sprechen zu können. Dank seines Photographischen Gedächtnisses »lernte er einfach alle Wörter mit zwei bis zehn Buchstaben auswendig, die das offizielle französische Scrabble-Wörterbuch kennt« (http://www.faz.net/aktuell/gesellschaft/menschen/franzoesischer-scrabble-meister-kann-kein-franzoesisch-13715114.html). Für seine Danksagung benötigte er einen Dolmetscher. Kann er nun die französische Version von »Scrabble spielen«?

Transparenz sorgt nicht automatisch für Verständnis. Abgesehen davon, dass Technikerinnen und Techniker das Wort Transparenz in einem Sinn konträr der Alltagsbedeutung verweden, was auch wieder einen Hinweis auf Verständnisprobleme gibt, lieferte der Informatik-Pionier Joseph Weizenbaum die eindrucksvollste Demonstration.

Weizenbaum wollte mit wenigen hundert Zeilen Code die Parodie einer Unterhaltung programmieren und so auf die Unzulänglichkeiten der Technik in Bezug auf Verstand und Vernunft hinweisen. Die Maschine, der Computer, die Software versteht ja nichts, auch ist ja niemand, der von seiner Vernunft Gebrauch machen kann. Er nannte das Programm ELIZA…

…und in diesem Kreis muss ich ja nicht weiter ausführen, welches Entsetzen Weizenbaum befiel, als er die Reaktion der Leute sah, die mit dem Computerprogramm interagierten. (Eigentlich war dies nur die experimentelle Bestätigung des Tests von Alan Turing, der Systeme mit so genannter »Künstlicher Intelligenz« an ihrer Akzeptanz durch die Nutzerinnen und Nutzer maß.)

Wenn Menschen also schon Bildschirmausgaben einem intelligenten Wesen zuschrieben, obwohl sie doch den Quelltext gesehen haben, wie sollten diese Menschen reagieren, wenn es keinen Quelltext mehr in diesem strengen Sinne gibt?

Ausrechnen statt Entscheiden

Mit Hilfe von biometrischen Systemen lässt sich sehr gut zeigen, dass die von Frieder Nake ausgerufene »Algorithmische Revolution« wohl doch eher eine heuristische ist. Korrelationen ersetzen Kausalitäten. Bereits Alan Turing kritisierte die Entwicklung der elektronischen Computer, die immer mehr Operationen in ihrem Inneren durchführten, ohne dass vorher die zugrunde liegenden Probleme von Menschen »by thought« gelöst wurden.

Joseph Weizenbaum greift in dem Dokumentarfilm »Plug & Pray« von Jens Schanze diesen Gedanken auf: Früher musste ein berechenbares Problem verstanden werden, zutiefst und prinzipiell verstanden werden, bevor man es in der Computer eingeben konnte. Heute (also vor zehn Jahren) scheine es sich gerade umgekehrt zu verhalten: Wenn man ein Problem nicht verstanden hat, gibt man es in den Computer ein, in der Hoffnung, der Computer löse es und in der Hoffnung, man versteht die ausgegebene Lösung.

Da ich gerade in Elternzeit bin, kann ich mit eigenen Augen beobachten, wie einjährige Kinder ihre Umwelt begreifen und Sprache entwickeln. Das Photo eines Dackels, die Bleistiftzeichnung eines Bernardiners, die Pixelgrafik eines Schäferhundes und nicht zuletzt der echte Pudel der Nachbarin – alles ist »wau wau«. Wohlgemerkt auch bei Photos, Zeichnungen und Begegnungen, die das Kind zum ersten Mal sieht. Ob da eine Platonische Hunde-Idee im Kopf sitzt oder die ganze Wittgenstein’sche Hundefamilie, ich vermag es nicht zu sagen und wage zu behaupten, dass es niemand sagen kann. Das hindert Google und andere aber nicht daran, ihre neural networks Bildunterschrift ausgeben zu lassen. (Das 2014 vorgestellte System von Google ist seit zwei Monaten Open Source, Interessierte können sich unter TensorFlow auf GitHub die Software ansehen und weiterentwickeln.)

Biometrie. Keine Sicherheitstechnik, aber das hat ja auch niemand ernsthaft behauptet.

Es funktioniert ja in 93 Prozent aller Fälle. Es sei denn, man erwischt die sieben Prozent, mit denen es 100 Prozent der Fälle nicht klappt, dann ergeben sich die zum Teil amüsanten, zum Teil tödlichen Fehler. Hier auf der Folie sehen wir eine Abbildung aus einer Studie der Carnegie Mellon University mit dem Titel »Accessorize to a Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition«. Dort wird beschrieben, wie man handelsübliche Gesichtserkennungssysteme überwindet, indem man übetriebene Merkmale auf Brillengestelle druckt. So verbirgt man nicht nur seine eigene Identität, man kann sogar die Identitäten wechseln. (Valentin Groebners »Schein der Person« blickte mich bei der Vorbereitung ganz böse an, weil ich den Begriff »Identität« tippte, wo es eigentlich um eine Fremd-Zuschreibung geht. Aber auch darüber werden wir im Laufe der Tagung sicher sprechen.)

Schon das Wort »Gesichtserkennungssystem« führt in die Irre, das System »erkennt« ja nichts, es rechnet aus. Was bei Leibniz eher böse Satire war, scheint nun einzutreten: Wir müssen uns beispielsweise in moralischen Konfliktsituationen nicht mehr für die eine oder andere Handlung entscheiden, wir rechnen einfach aus, was die richtige Handlung ist. Nein, noch besser: Wir lassen ausrechnen, was die richtige Entscheidung ist.

Komplexitätsreduktion

Es ist verführerisch, in diesem Rahmen über die verborgene Technik als etwas schlechtes zu sprechen, die geheimen Welten großer Konzerne und Staatsorgane als demokratiefeindlich anzuprangern, zumal alle hier versammelten ein gesundes Maß an Technikkritik mitbringen.

Im Gegensatz zur FIfF-Jahres-Konferenz 2014, die angesichts des offenkundigen Grundrechtsbruchs durch Geheimdienste ein Ausrufezeichen setzen wollte, möchten wir diesmal große Fragezeichen hinter Themen setzen, die unsere heutige von Technik durchdrungene Welt uns auf dem gebürsteten Alutablett serviert.

Die Motive, Technik zu verbergen – oder zu offenbaren – können ganz unterschiedlicher Natur sein. Eine Leitfrage der Konferenz ist daher auch »Wieviel Transparenz ist nötig und wieviel Tranparenz ist (ohne Funktionseinbußen) möglich?«.

Eine diskursanalytische Herangehensweise könnte darin bestehen, nicht nur die Technik, sondern auch die Akteure in entsprechenden Machtpositionen sowie die zugrunde liegenden Normen zu betrachten. Manche Akteure verstecken und verschleiern technische Funktionsweisen ihrer Systeme bewußt, etwa im Bereich »security by obscurity«. Andere legen sie offen, wie das Beispiel Open Source oder Benthams Panopticon zeigt, also »safety by publicity«. Wieder andere sind durch rechtliche Anforderungen (entstanden aufgrund historischer Kämpfe) zu einem gewisses Maß an Transparenz verpflichtet, der Staat etwa.

Und nicht zuletzt dient das Verbergen komplexer Vorgänge auch der besseren Bedienung informationstechnischer Systeme durch Nutzerinnen und Nutzer. Hier auf der Folie sehen wir ein Standbild aus dem Pixar-Kurzfilm »Lifted« von 2006, der kleine Außerirdische Stu muss seine Abschlussprüfung in »Alien Abduction« bestehen, woran er jedoch scheitert, weil er die aus tausenden identischen Schaltern bestehende Konsole nicht bedienen kann. Man beachte auch das aufgeschlagene Handbuch, dass nur aus endlosen Reihen von Hebelpositionsabbildungen besteht.

Im Ankündigungstext habe ich den Kodak-Werbespruch von George Eastman aus dem Jahre 1888, »You Press the Button, We Do the Rest«, als Vorlage genutzt, um auf die firmenverschuldete technische Unmündigkeit hinzuweisen. Man könnte das auch in Gegenteil wenden: Nun kann endlich jeder Photographieren, aus Lust und Laune. Auch dem doppelten Boden in den von IBM gestalteten Serverräumen haftet ein Kubrick’sches Unbehagen an: Unter der leuchtend-weißen Fassade ist eine Unterwelt voller Kabel, Käfer und co.

Wer kleine Kinder oder andere erratisch handelnde Wesen in der Nähe von Kabeln beobachtet, findet das Verbergen von kritischer Infrastruktur vor unbefugtem Zugriff vielleicht ganz gut – natürlich vorausgesetzt, dass es noch Wartungsklappen gibt, die sich von uns Technikerinnen und Techniker gut öffnen lassen und nicht verklebt und verlötet sind.

Stu vor einer Konsole. Wenn Ihnen das bekannt vorkommen sollte, nützt Ihnen nicht einmal ein Planetenwechsel, um dem zu entkommen.

Flammarion 2.0, 3.0, 4.0

In diesem Sinne freut es mich, dass wir nun gemeinsam durch die von den Organisatoren dieser Konferenz aufgezeigte offene Schweißnaht blicken, an der die idealisierte Welt der Technik nicht ganz mit dem harten Boden der Realität verbunden ist.

Vielen Dank für Eure Aufmerksamkeit.


  1. https://www.youtube.com/watch?v=ghbj6iNPfCU#t=1m25s [return]
  2. Bereits 2007 beschäftigte sich die FIfF-Jahreskonferenz mit dem Thema »Kontrolle durch Transparenz – Transparenz durch Kontrolle«, das Internet-Archiv hat glücklicherweise noch den Ankündigungstext: »In bislang unbekanntem Ausmaß werden Nutzerinnen und Nutzer der weltweiten Datennetze für Dritte transparent. Sie hinterlassen Datenspuren, um die komfortablen Web-Services der Anbieter von Dienstleistungen und Waren, von öffentlichen Stellen und Behörden wahrnehmen und sich unbeschwert im Internet bewegen zu können. Egal, ob dies in der ursprünglichen Absicht der Sammler von Daten liegt oder nicht, es lässt sich sehr viel herausbekommen über die Netznutzer. Privatheit und das Recht auf informationelle Selbstbestimmung spielen so gut wie keine Rolle mehr. Dritte gewinnen Kontrolle durch die informatische Transparenz der Transaktionen.« https://web.archive.org/web/20070811061034/http://www.gi-ev.de/gliederungen/fachbereiche/informatik-und-gesellschaft-iug/tagung-transparenz// [return]
  3. »[D]ie Vaucansonsischen Automaten fanden wir durchaus paralysiert. In einem alten Gartenhause saß der Flötenspieler in sehr unscheinbaren Kleidern; aber er flötete nicht mehr, und [Gottfried Christoph] Beireis zeigte die ursprüngliche Walze vor, deren erste einfache Stückchen ihm nicht genügt hatten. Dagegen ließ er eine zweite Walze sehen, die er von jahrelang im Hause unterhaltenen Orgelkünstlern unternehmen lassen, welche aber, da jene zu früh geschieden, nicht vollendet noch an die Stelle gesetzt werden können, weshalb denn der Flötenspieler gleich anfangs verstummte. Die Ente, unbefiedert, stand als Gerippe da, fraß den Haber noch ganz munter, verdaute jedoch nicht mehr: an allem dem ward er aber keineswegs irre, sondern sprach von diesen veralteten halbzerstörten Dingen mit solchem Behagen und so wichtigem Ausdruck, als wenn seit jener Zeit die höhere Mechanik nichts frisches Bedeutenderes hervorgebracht hätte.« Johann Wolfgang von Goethe: Autobiographische Schriften II, 1805, S.477. https://books.google.de/books?id=uNW5pruwuKEC&pg=PA477&lpg=PA477 [return]
  4. »Pour faire connoîcre que les mouvemens de ces aîles ne ressemblent point à ceux qu’on voit dans les grands chefs-d’œuvres du Coq de l’Horloge de Lyon & de Strasbourg, toute la mécanique du Canard artificiel sera vûë à découvert, mon dessein étant plûtôt de démontrer, que de montrer simplement une machine. Peut être que quelques Dames, ou des gens qui n’aiment que l’exiérieur des animaux, auroient mieux aimé le voir tout couvert; mais outre que cela m’a été demandé, je suis bien aise qu’on ne prenne pas le change, & qu’on voye tout l’ouvrage intérieur.« Jacques de Vaucanson, Le mécanisme du fluteur automate: presenté a Messieurs de l’Académie royale francaise, 1738. [return]
  5. Stefan Ullrich: Pauperismus 4.0. Industriell hergestellte Armut. Beitrag im Blog Faire Computer, http://blog.faire-computer.de/pauperismus-4-0/. [return]
  6. ebenda. [return]
  7. ebenda. [return]