Künstliche Intelligenz und andere digitale Technologien versprechen den Zwangsvollzug von Gesetzen. Warum wir uns das nicht wünschen sollten.
Im eher durchschnittlichen Science-Fiction-Streifen Demolition Man wird der von Sylvester Stallone dargestellte Polizist aus dem Kälteschlaf und damit aus der Vergangenheit geholt. Weil sein antiquiertes Fluchen gegen die inzwischen geltenden Sprechnormen verstößt, erhält er wiederholt Strafzettel, die von kleinen überall hängenden Wandautomaten ausgestellt werden. Im Film ist dies mäßig komisch, es ist aber heute keine Science-Fiction mehr. Computer können nicht nur automatisch strafen, sie können Straf- und Übeltaten gleich von vornherein unmöglich machen. Denken wir nur an den Chatbot, der nicht über nationalsozialistische Themen sprechen darf oder an den in Wien zum Verleih angebotenen E-Scooter, der in einer Fußgängerzone nicht schneller als ein paar km/h fährt. Es ist hochwahrscheinlich, dass wir davon in Zukunft noch viel mehr sehen werden. Im Folgenden will ich darlegen, warum dies keine wünschenswerte Entwicklung ist.
Es gehört zu den modernen Binsenweisheiten, dass Digitaltechnologie alle Bereiche des Lebens erobert. Dies gilt für die Arbeit ebenso wie für die Verwaltung, aber vor allem auch dafür, wie wir unsere Freizeit verbringen. Diese Entwicklung gründet nicht nur in einer zunehmenden Verwendung digitaler Werkzeuge, sondern liegt auch daran, dass die Dinge zunehmend digital gesteuert werden. Nach einer ersten Welle an Digitalisierung und einer weiteren ihrer Anbindung ans Internet, stehen wir nun an der Schwelle zur Ausstattung von Alltags- und Arbeitsdingen mit „Intelligenz“. Die Palette von digital gesteuerten, drahtlos mit dem Internet verbundenen und mit künstlicher Intelligenz ausgestatteten Objekten reicht vom eigenen Auto oder Roller über die Heizungs- und Stereoanlage sogar bis zum Kühlschrank. Was also liegt näher als diese Dinge auch dafür zu verwenden, Gesetze oder andere Normen volldigital zu implementieren und diejenigen, die digitale Werkzeuge verwenden, davon auszuschließen, Normen zu übertreten? Dies kann geschehen, indem digitale Systeme den Zugang verwehren, die Nutzung einschränken bzw. selbsttätig beurteilen, welche Funktionen für wen in welcher Situation oder zu welcher Zeit ausführbar sind. So kann sich der Mediaplayer weigern, einen urheberrechtlich geschützten Song abzuspielen und das Auto könnte in Zukunft entscheiden, nicht gegen die Einbahn zu fahren.
Das Befolgen von Gesetzen durch Technik zu erzwingen, ist nicht neu. Technikphilosophen diskutieren klassische Fälle wie Schlüssel, die sich nur bei versperrter Türe abziehen lassen, oder die unbeliebten Bodenschwellen, die Autofahrer zum langsamen Fahren zwingen sollen. Diese Beispiele wurden in der Vergangenheit oft verwendet, um zu zeigen, dass Technik nicht neutral ist. Sie begegnet uns durchaus selektiv. Schon die Türklinke ist oft an Rechtshändern und Erwachsenen orientiert.
Die Versuchung, digitale Möglichkeiten zur vorausschauenden Gesetzesdurchsetzung einzusetzen, ist groß. Viele wünschen sich einen möglichst vollautomatischen Gesetzesvollzug. Die Forderungen nach der automatischen Löschung gesetzeswidriger Inhalte in sozialen Netzwerken gehören ebenso dazu, wie der Ruf nach automatischer Geschwindigkeitsreduktion für Fahrzeuge. Allerdings gibt es gute Gründe, warum wir uns das nicht wünschen sollten.
Zunächst stellt der vorauseilende Vollzug von Normen eine grundlegende Abkehr von der Praxis des Rechts dar. Das Recht straft den Übeltäter, verunmöglicht aber nicht die Tat. Der zwingende Vollzug der Norm stellt ein Abrücken vom Prinzip der Strafe nach Begehung einer Tat dar. Rechtsphilosophen sprechen (selten) vom Recht, das Recht zu verletzen – allerdings natürlich um den Preis der daraus entstehenden Konsequenzen. Dieses Recht verteidigt die grundsätzliche Freiheit des Menschen, sich in seinen Handlungen auch anders zu entscheiden.
Neben dem Gedanken der Freiheit geht es auch darum anzuerkennen, dass das Recht nicht alle Situationen abdecken kann. Es gibt immer Ausnahmen, die es plausibel, ja manchmal sogar geboten erscheinen lassen, gegen eine Norm zu verstoßen. Welcher Polizist würde einen Mann, der seine in den Wehen liegende Frau ins Krankenhaus bringt, etwa bestrafen, wenn er die höchstzulässige Geschwindigkeit auf dem Weg zum Krankenhaus überschreitet?
Innerhalb des Rechts gibt es den entschuldigenden Notstand. Aus ethischer Sicht führen solche Fälle zu Überlegungen, was wirklich wichtig ist. Diese Abwägungen sind heute Menschen überlassen. Im Beispiel ist dies der Polizist, der entscheiden muss, ob er einen Strafzettel ausstellt oder sich aufs Motorrad schwingt und die werdenden Eltern ins Krankenhaus begleitet. Dies können digitale Systeme nicht leisten. Die Abwägung menschlicher Interessen und Ziele gegen andere menschliche Interessen und Ziele oder Normen ist nicht nur komplex, sondern vor allem massiv abhängig von Situationen, Intentionen und vom Gesamtkontext. Es geht hier nicht darum, ob es eines Tages eine KI geben könnte, die derartige Fragen wird befriedigend beurteilen können – sondern darum, ob wir heute und morgen diese Abwägung außer Dienst stellen wollen, weil die Normverletzung vorab unmöglich gemacht wird.
Computer können Situationen nur anhand formaler Kriterien beurteilen. Sie entscheiden auf der Grundlage der Sensordaten. Diese Sensoren sind typischerweise auf die Funktion der Geräte ausgerichtet. Die Intention der Person, die ein digitales Gerät bedient, bleibt für das System zwingend rätselhaft. Ob ein Bild etwa der Intention eines Künstlers entspringt oder ob es formal so aussieht, als wäre es pornografisch, weil eine nackte Person dargestellt ist, können Maschinen nicht erkennen. Natürlich gibt es auch absurde menschliche Fehlentscheidungen. Wir scheinen aber zunehmend zu vergessen, wie wichtig Intentionen für unsere ethischen und auch juristischen Urteile sind. Es macht einen Unterschied, warum wir etwas tun bzw. etwas tun wollten. Intentionen bestimmen, wie wir eine Handlung aus ethischer Perspektive einschätzen.
Technik – wie auch der Mensch – ist immer fehlerbehaftet. Freilich lassen sich einfache Regeln, wie etwa die Beschränkung der Geschwindigkeit, relativ leicht und verlässlich implementieren. Aber schon die Abgrenzung auf Gebiete von Fußgängerzonen mittels GPS ist diffiziler als man auf den ersten Blick meinen mag. Es ist leicht zu sehen, dass es eine Vielzahl von Fehlerquellen gibt, die entweder zu falsch bremsenden oder zu nicht beschränkten Fahrten mit E-Scootern führen können. Wir mögen dies beim E-Scooter vielleicht auch nicht so schlimm finden. Aber schon bei Autos werden viele – und zwar nicht nur deutsche Automobilhersteller – Bedenken haben, die Maximalgeschwindigkeit automatisch und kontextunabhängig zu reduzieren. Menschliche Fehler können oft korrigiert werden, etwa durch Hinweise von anderen. Technologie neigt zur Gleichförmigkeit und Skalierung. Ein schlechter Polizist mag wenige falsch strafen, ein schlechter Algorithmus kann Tausende treffen.
Die Verwendung digitaler Technologie zur automatischen Normimplementierung führt zwingend zu Machtverschiebungen, oft vom Staat zum Privaten. Gewöhnlich ist es nämlich nicht der Staat, der die Implementierung der Technologie zum Zwangsvollzug übernimmt. Er lagert diese Leistung an private Unternehmen aus, denen damit auch die Details der Implementierung überlassen werden.
Vor allem aber ist nicht jede digitale Regelung demokratisch legitimiert. Wir sind umgeben von Systemen, deren Verhalten den Einfällen und Zielen ihrer Designer und den Eigentümern der sie herstellenden Unternehmen überlassen ist. Dies gilt auch für die Beschränkungen, die Systeme in ihrer Nutzung durchsetzen. Ein einfaches Beispiel sind heute etwa Chatbots oder Suchmaschinen, die teilweise bestehende Normen implementieren. Zum Beispiel versuchen sie, die Nutzung von Chatbots für Nazipropaganda zu verhindern. Sie realisieren diese Einschränkungen aber so, wie es Hersteller entscheiden. Sie normieren die Systeme eben nicht nur im Hinblick auf demokratisch beschlossene Gesetze. Vielmehr optimieren sie Systeme, damit sich deren Dienste gut verkaufen. In einer Art vorauseilendem Gehorsam kann dies zu überschießenden Ausschlüssen führen, wie etwa der Benachteiligung von Minderheiten oder der Beschränkung des Zugangs zu Wissen. Derartige praktische Normsetzung und ‑durchsetzung erfolgt großteils unhinterfragt nach den Interessen der Hersteller. Sie führt zur Ent- nicht zur Ermächtigung der User:innnen. Der digitale Zwangsvollzug der Norm geht über die Welt von Demolition Man hinaus. Sie führt in eine, in der alle den Gesetzen folgen, weil sie müssen, nicht weil sie wollen.
Erich Prem ist Philosoph und Informatiker in Wien. Er ist Obmann des Vereins zur Förderung des digitalen Humanismus und Geschäftsführer von eutema.
