Dies ist eine PrePrint-Version. Die tatsächliche Druckfassung kann abweichen.
Der Redaktionsschluss dieser Ausgabe des Informatikspektrums war Ende September. Zur gleichen Zeit endete die Frist zur Kommentierung der »Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz«. Dieser Text geht davon aus, dass die Bundesregierung auf dem IT-Gipfel die »Strategie der Bundesregierung Künstliche Intelligenz« vorstellen wird, die hoffentlich möglichst viele Eingaben der Zivilgesellschaft berücksichtigt. Er ist daher so geschrieben, als würden die Autoren den endgültigen Text kennen, was nicht der Fall ist. Wir beziehen uns auf eine Fassung, die hoffentlich (wie schon im Eckpunkte-Papier) den sozialverträglichen Einsatz von informationstechnischen Systemen fordert, die wir nicht zuletzt aufgrund ihrer heuristischen Eigenschaften »Künstliche Intelligenz«-Systeme (KI-Systeme) nennen.
Wir schreiben den 8. Dezember 2018. In den zwei Monaten Oktober und November dieses Jahres mussten die Mitarbeiterinnen und Mitarbeiter von BMWi, BMBF und BMAS die von ihnen angeforderten Eingaben der Zivilgesellschaft verarbeiten, darüber diskutieren, Kinderbetreuung für die Herbstferien organisieren und schließlich einen Vorschlag erarbeiten, der Ihnen nun am 3. und 4. Dezember auf dem Digital-Gipfel präsentiert wurde. Der Tenor fast aller gefragten Expertinnen und Experten ist, dass es einerseits sehr zu begrüßen sei, dass die Bundesregierung das Modethema »Künstliche Intelligenz« aufgreife; dass es aber auch sehr irritierend sei, dass die Bundesregierung nicht sage, was sie denn darunter verstehe. Die Datenethikkommission hat am 9. Oktober 2018 eine sehr gute Arbeitsdefinition für Künstliche Intelligenz geliefert:
Wir verstehen „Künstliche Intelligenz“ in diesem Zusammenhang als Sammelbegriff für diejenigen Technologien und ihre Anwendungen, die durch digitale Methoden auf der Grundlage potenziell sehr großer und heterogener Datensätze in einem komplexen und die menschliche Intelligenz gleichsam nachahmenden maschinellen Verarbeitungsprozess ein Ergebnis ermitteln, das ggf. automatisiert zur Anwendung gebracht wird. Die wichtigsten Grundlagen für KI als Teilgebiet der Informatik sind die subsymbolische Mustererkennung, das maschinelle Lernen, die computergerechte Wissensrepräsentation und die Wissensverarbeitung, welche Methoden der heuristischen Suche, der Inferenz und der Handlungsplanung umfasst.1
Dies wurde in diesem Ihnen nun vorliegenden Strategiepapier aufgegriffen. Es ist deutlich, dass es nicht die berühmt-berüchtigte »Singularität« oder eine »starke KI« adressiert, die den Menschen umfassend simulieren, ergänzen oder gar ersetzen soll, sondern das von Menschen entworfene und eingesetzte informationstechnisches System, das Menschen helfen soll, mündig in der Informationsgesellschaft handeln zu können. KI-Systeme ermöglichen den sinnvollen Umgang mit großen Datenmengen, sie können auch mit fehlerhaften oder sich widersprechenden Daten umgehen und liefern dennoch ein Ergebnis, das von Vielen als akzeptabel angesehen wird. Selbst bei so komplexen Handlungen wie moralischen Entscheidungen werden heuristische Systeme bereits heutzutage eingesetzt. Es ist den Autorinnen und Autoren des Strategiepapiers jedoch klar, dass es nicht das IT-System ist, das Entscheidungen trifft, sondern der Mensch in diesem soziotechnischen System namens »Künstliche Intelligenz« (KI). Manchmal ist die Entscheidung vorgelagert, etwa wenn die Gestalterinnen und Gestalter Annahmen über die Gesellschaft in den Systemen »hart verdrahten«, manchmal besteht die Entscheidung darin, ein System in hoheitlichen Bereichen einzusetzen (oder eben nicht).
Es ist ein sehr klares Signal an die weltweite KI-Forschung, dass der wesentlichste Punkt des Entwurfs auch in der nun vorgestellten Fassung an oberster Stelle steht: Auf der Grundlage europäischer Werte wie der Unantastbarkeit der Menschenwürde, der Achtung der Privatsphäre und des Gleichheitsgrundsatzes möchte die Bundesregierung die Potentiale der neuen Technologie heben. Diese grundlegende Orientierung wird auch, mit dem deutschen Grundgesetz im Hinterkopf, für alle weiteren Überlegungen berücksichtigt.
Damit ist auch klar, auf welcher Seite die Bundesregierung im Konfliktfall steht, wenn beispielsweise die Prävention von Diskriminierung zu einer ineffizienten Nutzung und im Ende zu weniger leistungsfähigen KI-Systemen führt: Auf der Seite der Bürgerinnen und Bürger, deren Wohl und Rechte über wirtschaftlichen Vorteil gestellt werden. Es ist erfreulich zu lesen, dass die im Entwurf noch nicht ganz so klare Aussage über den KI-Standort Nummer 1 in der Welt nun deutlich klarer ist. Die Bundesrepublik wird nicht bei dem gegenwärtig zu beobachteten Wettrüsten zwischen den KI-Supermächten mitmachen und das nicht etwa, weil der Versuch allein finanziell und datenschutztechnisch zwecklos sei – das ist er, aber das ist nicht die Motivation –, sondern weil die Überprüfung und Nachvollziehbarkeit von KI-Systemen unmittelbar mit Fragen der Demokratie, Selbstbestimmung und letztendlich auch der Freiheit verbunden werden.
Sowohl Entwicklerinnen und Entwickler als auch Nutzerinnen und Nutzer von KI-Technologie sollen für die ethischen und rechtlichen Grenzen der Nutzung künstlicher Intelligenz sensibilisiert werden, das ist ein klares Signal an die Bildungspolitik, das Grundverständnis von informationstechnischen Systemen im Allgemeinen und von KI-Systemen im Speziellen zu fördern, um so die Grundlage für informierte Entscheidungen zu legen.
Damit kommen wir zu dem im Strategiepapier erwähnten Dialog mit der interessierten Öffentlichkeit. Diese hier vorgeschlagenen Dialoge sind unerlässlich für das Verständnis von KI. Das Feld der künstlichen Intelligenz ist thematisch breit aufgefächert und reicht bis in die 50er Jahre des vergangenen Jahrhunderts zurück. Bislang gelingt es nur wenigen Fachexpertinnen und -experten, dieses weite Feld angemessen aufzufächern, darunter etwa der Mathematikerin Cathy O’Neil (»Weapons of Math Destruction«) und dem Harvard-Professor James Mickens (Keynote auf dem »27. USENIX Security Symposium«). Hier ist die Wissenschaftskommunikation gefordert.
Damit sich die Forschung diesen gesellschaftlich dringenden Fragen widmen kann, muss sie von kontraproduktiven Zwängen entbunden werden. Der Zwang zur Vermittlung und Aufbereitung von Forschungsergebnissen ist angebracht, eine Öffnung in die Richtung Open and Inclusive Science ist überfällig. Allerdings könnte man ein paar Stellen des Strategiepapiers mit einem anderen Zungenschlag hören, wonach der Transfer von der Wissenschaft vorrangig in wirtschaftliche Wertschöpfung münden solle. Dies ist unseres Erachtens höchstens komplementär damit gemeint, es ist klar, dass die Bundesregierung die mündigen Bürgerinnen und Bürger in das Zentrum ihrer Überlegungen rückt, und nicht etwa die manipulierten Konsumentinnen und Konsumenten.
Bezüglich des Ausbaus von KI-Lehrstühlen in der Bundesrepublik würden wir es sehr begrüßen, wenn der interdisziplinäre Charakter von künstlicher Intelligenz berücksichtigt wird. Es sollte einfacher möglich sein, auch in einem Studium abseits der Informatik Schwerpunkte auf KI legen zu können, also beispielsweise den Bachelor-Absolventinnen und -Absolventen der Physik, Mathematik, Journalistik oder Soziologie den Master-Abschluss in KI zu ermöglichen.
Abschließend möchten wir noch auf die stillschweigenden Voraussetzungen zu sprechen kommen, die der ganzen KI-Strategie zu Grunde liegen. Zum einen wird der Ausbau der technischen Infrastruktur zur Echtzeit-Datenübertragung außerhalb dieses KI-Strategie-Papiers marktwirtschaftlich diskutiert, und nicht etwa bildungspolitisch oder demokratietheoretisch, wie es die gemeinwohlorientierte Lesart der KI-Strategie nahe legt. Es ist erfreulich, dass wir den Breitbandausbau nun auch in bürgerlicher Hinsicht diskutieren. Es sollte, zum Anderen, bei der auch an anderer Stelle geforderten Datenverfügbarmachung einer Daten sammelnden Firma klar sein, dass es sich um Open Access den Bürgerinnen und Bürgern gegenüber handelt, und nur in zweiter Linie einer Zugänglichmachung von Daten einer Wettbewerberin oder Wettbewerber gegenüber.
Drittens und Letztens: Der Schutz der Privatsphäre, die Kontrolle von Algorithmen, die Überprüfung deren Richtigkeit und die Nachvollziehbarkeit von Ergebnissen sind im Zusammenhang mit KI komplizierte Themenfelder. Neben der Förderung von KI auf diesen Gebieten sollten auch Alternativen gefördert und erforscht werden, welche KI-Systeme ergänzen oder sogar ersetzen können. In unserer Lesart dieser KI-Strategie und ihrer dort angesprochenen Handlungsfelder, ist die bewusste Entscheidung, keine KI zu nutzen, eine zielführende Möglichkeit. Alternativen zu KI und Ergänzungen, die mit alternativen, neuen wie bewährten, Technologien die Schwächen von KI ausgleichen, sollten ebenso gefördert werden wie KI selbst.
Kurzum, es freut uns, dass ein Grundverständnis der Funktionsweise von informationstechnischen Systemen gefordert wird, da dies eine langjährige Forderung der Gesellschaft für Informatik ist. Es freut uns auch, dass eine Bundesregierung die sozialverträgliche und menschenrechtskonforme Gestaltung von informationstechnischen Systemen im Bereich der künstlichen Intelligenz in das Zentrum ihrer KI-Strategie rückt. Das Weizenbaum-Institut für die vernetzte Gesellschaft Berlin (@jwi_berlin) steht zum kritischen Dialog zur Verfügung.