Es ist immer der Mensch

Seit Menschengedenken wird Technologie als Machtmittel eingesetzt. Schon die ersten Waffen wurden verwendet, um Artgenossen dem eigenen Willen zu unterwerfen; die prähistorischen Clanführer der Nomaden gewannen Autorität und Kontrolle durch Stärke, Skrupellosigkeit und Geschicklichkeit im Umgang mit einfachen Waffen.

Der bedeutende Machttheoretiker Heinrich Popitz (1925–2002) beschreibt vier grundlegende Machttechniken. Neben der Aktionsmacht nackter Gewalt sind die anderen drei: Macht durch Drohen und Belohnen (Popitz nennt sie instrumentelle Macht) sowie Macht durch Autoritätsbedürfnis. Etwa ab dem dritten Jahrtausend v. Chr. kommt auch Macht durch Kontrolle der Infrastruktur hinzu, die Popitz datensetzende Macht nennt.

Wir leben in einem Zeitalter raschen technischen Fortschritts und sehen seit zehn Jahren eine beeindruckende Zunahme der Funktionalität von sogenannter Künstlicher Intelligenz (KI), die wie die Quantenphysik zu den am meisten diskutierten Technologien unserer Zeit gehört. Insbesondere in den Bereichen Mustererkennung, Bildverarbeitung und sprachlicher Zeichenkettenerzeugung sehen wir große Fortschritte in der KI.

Mustererkennung ermöglicht beispielsweise den Einsatz von KI für die mechanisierte Landwirtschaft oder in der Infrastrukturplanung. Die Innovation in der maschinellen Bildverarbeitung erlaubt eine perfekte Gesichtserkennung, Verbesserungen bei der Auswertung von Ergebnissen der medizinischen Bildgebungsverfahren oder der öffentlichen Verkehrsüberwachung.

Die Zeichenkettenverfahren von DeepL oder GPT-3, ein sogenanntes Large Language Model, das im Chatbot ChatGPT der Firma OpenAI verbaut wurde, liefern gute approximative Übersetzungen einerseits sowie andererseits die sequentielle Erzeugung sprachlicher Zeichenketten, die den Erwartungen der Nutzer in eingeschränkten Situationen recht gut entsprechen.

Können solche Technologien als Machtinstrumente gebraucht werden? Welche Bedeutung haben sie dafür? Zunächst ist festzuhalten, dass KI-Verfahren Rechenvorschriften sind, die durch Menschen generiert und gesteuert werden. Das Neuartige an den oben genannten Zeichenkettenverfahren ist es, dass sie mit Hilfe von durch Mathematiker entwickelten Optimierungsverfahren aus riesigen Datenmengen generiert werden und über viele Milliarden von Rechenparametern verfügen.

Die Algorithmen, die so entstehen, sind anders als traditionelle explizite Algorithmen implizit: Es handelt sich um riesige Gleichungen, in die man Eingabevariablen einsetzt und dann eine durch die Rechenvorschrift festgelegte Ausgabe bekommt. Die Maschine rechnet lediglich das aus, was die Gleichung vorgibt – sie hat kein Bewusstsein, keinen Willen und kein eigenes Denken, und das wird auch niemals entstehen, wie Barry Smith und ich in unserem Buch „Why machines will never rule the world“ gezeigt haben. Daher gibt es keine Gefahr, dass uns Maschinen einst beherrschen werden.

Vielmehr kann KI als Machtinstrument genutzt werden, indem Menschen sie gezielt dafür einsetzen – wie andere Technologien auch. Macht durch nackte Gewaltanwendung wird durch KI nur im Kriegsfall verstärkt, aber nicht in der Ausübung von Binnenmacht: Der KI-Polizist steht uns nicht bevor. Macht durch Autoritätsbedürfnis fällt auch nicht in den Bereich der KI, da Maschinen kein seelisches Bedürfnis nach Autorität erfüllen können.

Konzentrieren wir uns hier daher auf die Aspekte der instrumentellen Macht und der datensetzenden Macht. Instrumentelle Macht entsteht durch die Belohnung von erwünschtem Verhalten und die Bestrafung unerwünschten Verhaltens. Ein wichtiges Beispiel dafür ist das chinesische Sozialkreditsystem. Dies ist ein recht weit entwickeltes Machtsystem, bei dem KI immerhin eine wichtige untergeordnete Rolle spielt.

Das System beruht auf der Überwachung des Verhaltens der Individuen. KI wird in erster Linie dazu verwendet, Individuen mit Hilfe der Gesichtserkennung zu identifizieren. Nimmt man in China beispielsweise an einer unerwünschten Demonstration teil und wird dabei abgelichtet, können die Gesichter auf den Kamerabildern mit Hilfe der KI identifiziert werden. Dann können Regelautomaten verwendet werden, um den Individuen automatisch entsprechende Strafen zu erteilen.

Die KI ist hier aber nur ein kleiner Teil der Lösung, die wesentlichen Voraussetzung liefert die Digitalisierung und die Verwendung der digitalen Daten durch Menschen, die diese selbst verarbeiten oder durch deterministische Regelsysteme verarbeiten lassen, die nicht dem Bereich KI, sondern der Digitalisierung zuzuordnen sind.

Die eingesetzte KI kann aber weder das Handeln von Individuen auf Filmen interpretieren noch deren sprachliche Äußerungen verstehen. Dazu werden dauerhaft Menschen benötigt, da KI kein Verständnis der Welt entwickeln kann. KI kann allenfalls Äußerungen filtern, doch funktionieren diese Filter ziemlich schlecht. Verwendet man elaborierte, umschreibende Sprache, versagen sie vollkommen.

Wie sieht es mit der datensetzenden Macht, der Gewalt über die Infrastruktur, aus? Wie die nach dem Eigentümerwechsel von Twitter veröffentlichten Daten zeigen, wird die wichtigste Komponente der modernen digitalen Infrastruktur, das Internet, radikal als Machtmittel eingesetzt, indem die Kommunikation anhand der Inhalte gesteuert wird. Erwünschte Inhalte werden gezielt verbreitet, unerwünschte unterdrückt oder deren Erzeuger von der Infrastruktur ausgeschlossen.

Diese Nutzung der digitalen Infrastruktur als Machtmittel zur Steuerung der öffentlichen Meinung ist dadurch sehr weit fortgeschritten. Nicht nur die Kommunikation über soziale Medien wird gesteuert, sondern auch das Auffinden von Inhalten oder deren Bereitstellung über beliebte Medien wie große Zeitungen, Fernsehsender, Radiostationen oder digitale Lexika wie Wikipedia oder die Encyclopaedia Britannica.

Allerdings spielt KI hier auch nur eine untergeordnete Rolle, weil KI-Algorithmen zwar sehr gut in der kontextgerechten Produktion von Zeichenketten geworden sind, diese aber nicht interpretieren können. Daher sind die Möglichkeiten der automatischen Interpretation der sprachlichen Äußerungen von Nutzern im Internet auf Schlagwortsuchen oder das Auffinden syntaktischer Konstellationen beschränkt. Die Daten müssen massiv mit weiteren Nutzerdaten kombiniert werden, und Menschen sind erforderlich, um die datensetzende Macht zu steuern und anzuwenden.

Diese Macht hängt ähnlich wie instrumentelle Macht vor allem von der Digitalisierung ab, KI ist auch hier nur ein eingeschränktes Hilfsmittel. Doch werden heute beide Machtformen im digitalen Modus auf hochwirksame Weise ausgeübt. Dies wird mit der fortschreitenden Digitalisierung weiter zunehmen.

Kennen Sie schon unseren Telegram- und WhatsApp-Kanal?