Ein Computer ist unglaublich dumm, aber so schnell im Berechnen, dass wir es nicht sofort merken. Unsere (Stefan Ullrich, Romy Hilbig, Reinhard Messerschmidt, Florian Butollo, Diana Serbanescu) Automatisierungsdemystifizierungsdiskursmaschine (kurz: ADDM) ist eine interaktive Installation, die die »Black Box Computer« (Joseph Weizenbaum) öffnen möchte. Die ADDM soll abstrakte Begriffe rund um die Automatisierung begreifbar machen, um einen Diskurs über Sinn und Zweck von Automatisierungstechnologien zu unterstützen.

ADDM – Automatisierungsdemystifizierungsdiskursmaschine

Stefan Ullrich, Romy Hilbig, Reinhard Messerschmidt, Florian Butollo, Diana Serbanescu

Ein einfaches, aber geniales Bauteil an der Dampfmaschine läutete das Zeitalter der Automatisierung ein: Der Governor, der Fliehkraftregler, der ohne menschliche Interaktion den Dampfstrom kontrollierte. Mit steigendem Druck drehte sich der Regler immer schneller, durch die Fliehkraft hoben sich die beiden Seitenarme, die wiederum den Druck kontrollierten. Überstieg der Druck eine bestimmte Schwelle, regelte die Fliehkraft die Dampfzufuhr herunter, der Druck baute sich ab und die so kontrollierte Maschine arbeitete zuverlässig und sicher.

Die Stärke der Automatisierung, also dem Einsatz von dynamischen Maschinen, liegt ja gerade darin, dass sie den Menschen aus den Betriebsabläufen wenn nicht ganz gestrichen, so doch marginalisiert hat – das macht ihre Arbeitsweise allerdings auch schwerer verständlich. Nicht nur, dass grundlegende Prinzipien, wie in diesem Fall mechanische, verstanden werden müssen, die Bauteile der dynamischen Systeme arbeiten im Verborgenen, sind also in einer Black Box eingeschlossen. Die Auswirkungen des Einsatzes von Automatisierungstechnologien reichen von Arbeitserleichterung der Einzelnen¹ bis Arbeitslosigkeit ganzer Bevölkerungsgruppen im globalen Maßstab.

Auf Knopfdruck erledigt die dynamische Maschine eine zuvor definierte Aufgabe, unermüdlich transformiert sie Energie, Information und Kräfte. Der außenstehenden Betrachterin offenbart sich nur das Ergebnis, ein mystischer Vorgang, der nur Erstaunen hervorrufen kann. Dies gilt erst Recht im Umgang mit dem dynamischen System der Informationsgesellschaft, dem vernetzten Universalcomputer. Dieses dynamische soziotechnische System besitzt nicht nur miniaturisierte Hardware, sondern auch unsichtbar arbeitende Software, die mit Hilfe von zuvor von einem Expertinnengremium ausgehandelten Protokollen aufgetragene Probleme im Rahmen ihrer beschränkten Möglichkeiten lösen soll.

Ein Computer ist unglaublich dumm, aber so schnell im Berechnen, dass wir es nicht sofort merken. Unsere Automatisierungsdemystifizierungsdiskursmaschine (kurz: ADDM) ist eine interaktive Installation, die diese oben angesprochene Black Box öffnen möchte. Die ADDM soll abstrakte Begriffe rund um die Automatisierung begreifbar machen, um einen Diskurs über Sinn und Zweck von Automatisierungstechnologien zu unterstützen.

Die ADDM spannt dabei den Bogen von der Arbeitsteilung bis hin zu der gegenwärtigen Frage, ob eine dynamische Maschine auch geistige Tätigkeiten ausführen kann, die bislang nur Menschen anvertraut wurden, beispielsweise »Lernen«.

Die Mensch-Maschine

Vielleicht kennen Sie das Theaterstück »R.U.R. – *Rossumovi Univerzální Roboti*« von Karel Čapek (1920), das uns ja das Wort »Roboter« geschenkt hat; am Anfang dieses Theaterstücks echauffiert sich die Protagonistin Helena über die Arbeitsbedingungen der Roboter und zieht als Beispiel ein Individuum heran, das sich nun gerade als Mensch herausstellt.

Die Maschine ist ein unermüdlicher Taktgeber, und der arbeitende Mensch unterwirft sich diesem Takt. Der Mensch wird immer kompatibler zur Maschine, er wird geradezu zum Bauteil der dynamischen soziotechnischen Systeme.

Die ADDM möchte diese Beobachtung mit einem Ernsten Spiel (Serious Game, Abt 1970) dekonstruieren. Die Teilnehmerinnen werden adressiert wie ein Computer oder Roboter. Anstatt »Gehe bis zur roten Wand« ist auf der Anweisungskarte etwa »Wende dich nach Süden. Gehe bis zu dem Hindernis, das du nicht überwinden kannst. Wird das Licht mit einer Wellenlänge von 625–740 Nanometern reflektiert, bist du am Ziel« zu lesen. Schon in diesem simplen Beispiel werden fundamentale Unterschiede deutlich, gleichzeitig simulieren die Teilnehmerinnen automatisierte Vorgänge im Stil eines Chinese Rooms (Searle 1980).

Diese Unterschiede werden von großen Konzernen der Informationsgesellschaft ausgenutzt. So sind Menschen beispielsweise sehr gut darin, Bilder zu erkennen und einzuordnen, Maschinen nicht. Es ist daher nicht verwunderlich (aber leider noch zu wenig bekannt), dass es Menschen sind, die bei der automatisierten Klassifikation von Bildern und Videos helfen. Was in Hochglanzbroschüren »Fully Automated Content Moderation« genannt wird, ist nicht etwa, dass kein Mensch mehr am Prozess beteiligt ist, es bedeutet lediglich, dass der Mensch eben die »Digitale Drecksarbeit« (Moritz Riesewieck, 2018) der Maschinen verrichtet.

Science Translator

Eingangs wurde erwähnt, dass für einen sinnvollen Diskurs über neue Technologien ein grundlegendes Verständnis ihrer Funktionsweise nötig ist. Damit nun nicht nur Expertinnen sich am Diskurs beteiligen können, sondern eine möglichst breite Front von Betroffenen, Entwicklerinnen und Entscheidungsträgerinnen, weist die ADDM auch »Science Translator«-Module auf, also Werkzeuge der Wissensvermittlung.

Neben den bereits erwähnten Mini-Spielen konnten die Teilnehmerinnen auch Tic-Tac-Toe gegen eine Maschine spielen. Das besondere hierbei war, dass diese Maschine aus Streichholzschachteln bestand. Anfang der 1960er Jahre entwickelte Donald Michie ein analoges Machine-Learning-System namens MENACE (Machine Educable Noughts And Crosses Engine), das Tic-Tac-Toe spielen konnte. Es bestand aus 304 Streichholzschachteln, die mit bis zu neun farbigen Perlen gefüllt waren, die den neun Feldern des Spielfelds entsprachen. Am Anfang sind alle Perlen im Spiel, wenn die Streichholzschachteln geschüttelt und eine Perle gezogen wurde, die Spielzüge von MENACE waren also zufällig. Wenn die Streichholzschachtelmaschine verlor, wurden die Perlen der schlechten Züge entfernt, wenn sie gewann, wurden drei Perlen der entsprechenden Farbe hinzugefügt. Im Laufe der Zeit »lernt« MENACE, Tic-Tac-Toe zu spielen. Dieses »Lernen« ist auch das Grundprinzip hinter softwarebasierten Machine Learning, das somit spielerisch vermittelt wurde. In der Diskussion zeigte sich auch, dass man besser von »Konditionierung« oder »Dressur« sprechen sollte, als von »Lernen«.

Nachhaltigkeit und Digitalisierung

Die »2030 Agenda for Sustainable Development« der Vereinten Nationen ist ein Aktionsplan für alle Menschen auf diesem Planeten. Ganz konkret wurden 17 Nachhaltigkeitsziele formuliert, die Frieden und Freiheit der Menschen stärken sollen. In diesen Zielen werden bestimmte Schlüsselwörter erwähnt, die auch für die ADDM zentral sind, beispielsweise »Inklusivität«, »Sicherheit«, »Resilienz«, aber auch »Verantwortung«, »Haftung« und »Privatheit«.

Ein Nachhaltigkeits-und-Digitalisierungs-Workshop hier am Weizenbaum-Institut für die vernetzte Gesellschaft Berlin offenbarte die Hot Spots, also die zu diskutierenden Begriffe. Die ADDM nimmt aber auch gern weitere Begriffe von der interessierten Öffentlichkeit entgegen.