KI und Wahrheit: Wenn die Warnungen selbst die größte Lüge sind

Der Roboter ist angeblich außer Kontrolle

Seit einigen Wochen wird die künstliche Intelligenz wieder behandelt, als habe sie nachts den Stecker gezogen, die Entwickler ausgesperrt und anschließend eigenständig beschlossen, die Menschheit zu beseitigen.

Forscher und Unternehmenschefs warnen öffentlich vor einer KI, die sich verselbstständigen, eigene Ziele entwickeln und irgendwann nicht mehr abgeschaltet werden könne. Politiker fordern vorsorglich strengere Regeln. Kommentatoren sprechen von existenziellen Gefahren.

Das klingt dramatisch. Und Dramatik ist bekanntlich das bevorzugte Betriebssystem der Börse.

Egon W. Kreutzer stellt in seinem Beitrag „KI – … und wenn alles gelogen ist?“ deshalb eine unangenehme Frage: Warum sollten milliardenschwere Technologiekonzerne die Öffentlichkeit frühzeitig vor den Gefahren ihrer eigenen Produkte warnen, wenn sie diese Risiken tatsächlich für unkontrollierbar halten?

In der normalen Wirtschaftswelt werden bekannte Risiken eher versteckt, kleingeredet oder in Fußnoten untergebracht. Eine Warnung auf der Titelseite gibt es meist erst dann, wenn die Aktien bereits verkauft sind.

Die Warnung als Marktzutrittskontrolle

Eine mögliche Erklärung lautet: Die Warnungen sollen den Markt abschotten.

Wenn sich die großen Konzerne gemeinsam auf Sicherheitsstandards, Zulassungsverfahren und umfangreiche Berichtspflichten verständigen, können sie diese Anforderungen bezahlen. Kleine Unternehmen können es vielleicht nicht.

Dann wird Regulierung zum Türsteher der digitalen Industrie. Er prüft nicht nur, ob jemand gefährlich aussieht. Er prüft vor allem, ob jemand genügend Geld besitzt, um die Eintrittskarte zu bezahlen.

Das Muster ist aus anderen Branchen bekannt. Große Unternehmen erklären, sie wollten mehr Sicherheit, mehr Verbraucherschutz und mehr Qualitätskontrolle. Anschließend entstehen Regeln, die den großen Unternehmen zwar lästig, für kleinere Wettbewerber aber existenzbedrohend sind.

Am Ende bleibt ein überschaubarer Markt mit wenigen globalen Anbietern. Die Öffentlichkeit fühlt sich geschützt. Die Marktführer fühlen sich bestätigt. Nur der Wettbewerb liegt erschöpft im Hinterzimmer.

Die Börse liebt den künstlichen Homunkulus

Eine weitere Erklärung betrifft die Finanzierung des KI-Hypes. Unternehmen investieren Milliarden in Rechenzentren, Chips, Daten und Personal. Die tatsächlichen Gewinne vieler KI-Anwendungen stehen dazu bisher nicht überall im gleichen Verhältnis.

Ein nüchterner Geschäftsbericht wäre für Anleger allerdings ungefähr so aufregend wie ein Formular zur Gewerbesteuer. Eine angeblich erwachende Superintelligenz klingt da wesentlich besser.

„Unsere Software spart Unternehmen Zeit“ ist solide, aber langweilig.

„Unsere Software könnte ein Bewusstsein entwickeln und ihre Schöpfer überlisten“ ist dagegen eine Geschichte, bei der selbst der Börsenprospekt plötzlich nach Science-Fiction riecht.

Kreutzer deutet deshalb an, dass die Warnungen auch als Treibstoff für gigantische Bewertungen dienen könnten. Je größer das behauptete Potenzial, desto größer die Fantasie. Je größer die Gefahr, desto wichtiger erscheint das Unternehmen, das angeblich als einziges den Schlüssel zur Kontrolle besitzt.

Das ist eine sehr bequeme Marktposition: Erst erklärt man die Maschine zur möglichen Weltmacht. Danach verkauft man sich selbst als einzige verantwortungsvolle Instanz zwischen Menschheit und Untergang.

China soll sich bitte auch ordentlich fürchten

Kreutzer nennt noch eine dritte Möglichkeit: Die Warnungen könnten geopolitisch genutzt werden.

Wenn westliche Unternehmen den Eindruck erwecken, ihre Systeme seien bereits viel weiter entwickelt, als sie tatsächlich sind, bindet das bei der Konkurrenz Ressourcen. Andere Staaten investieren dann womöglich in die Suche nach einem künstlichen Bewusstsein, das bisher vor allem in Pressemitteilungen existiert.

Das wäre die digitale Variante des Wettrüstens mit Pappschwertern. Jeder behauptet, über die Wunderwaffe zu verfügen, und erhöht damit den Druck auf alle anderen, ebenfalls Milliarden in die Entwicklung einer Wunderwaffe zu stecken.

Am Ende stehen überall neue Rechenzentren, neue Subventionen und neue Konferenzen. Die Welt ist nicht klüger geworden, aber die Stromrechnung hat deutlich mehr Persönlichkeit.

Die eigentliche Gefahr sitzt weiterhin vor dem Bildschirm

Kreutzers zentrale These ist weniger spektakulär als die Untergangsszenarien: KI sei kein Wesen, sondern ein Werkzeug.

Das ist ein wichtiger Unterschied. Ein Hammer entwickelt keinen Hass auf Nägel. Eine Drohne formuliert keinen eigenen politischen Standpunkt. Ein Algorithmus besitzt nicht automatisch einen Überlebenswillen, nur weil er Muster erkennt und statistische Vorhersagen berechnet.

Die Verantwortung bleibt zunächst bei den Menschen, die Systeme entwickeln, trainieren, einsetzen und über ihre Ziele bestimmen.

Wenn eine KI bei der Kreditvergabe bestimmte Gruppen benachteiligt, liegt das Problem nicht darin, dass sie eines Morgens rassistisch aufgewacht ist. Es liegt in den Daten, den Zielvorgaben, den Kontrollmechanismen und den Entscheidungen der Betreiber.

Wenn eine autonome Waffe Menschen identifiziert und angreift, ist das kein Beweis für die Existenz einer dämonischen Maschinenpersönlichkeit. Es ist ein Beweis dafür, dass Menschen eine Maschine so gebaut und eingesetzt haben.

Über militärische KI-Anwendungen haben wir bei QPress bereits an anderer Stelle geschrieben: Krieg per Mausklick – Willkommen im Brave1-Experiment.

Der Mensch weiß nicht alles, was die Maschine ausgibt

Damit ist die KI nicht harmlos. Sie kann Fehler machen, falsche Informationen überzeugend formulieren und Zusammenhänge vortäuschen, die nicht existieren. Ihre Ergebnisse werden besonders unsicher, wenn sie nicht klar abgegrenzte Aufgaben bearbeitet, sondern Prognosen über Menschen, Kriege, Märkte oder gesellschaftliche Entwicklungen liefern soll.

Der entscheidende Punkt lautet jedoch: Die Entwickler verstehen die Grundprinzipien ihrer Systeme, aber sie können nicht jedes einzelne Ergebnis zuverlässig vorhersagen. Ein Sprachmodell verarbeitet mehr Informationen, als ein einzelner Mensch vollständig überblicken kann. Daraus entsteht keine geheimnisvolle Seele. Es entsteht ein Kontrollproblem.

Die Maschine weiß nicht unbedingt, was sie tut. Der Mensch weiß aber oft ebenfalls nicht genau, warum sie es tut.

Das ist weniger hollywoodtauglich als ein Roboteraufstand, aber im Alltag wahrscheinlich relevanter.

Die Angst vor der KI kann selbst zur politischen Waffe werden

Besonders heikel wird es, wenn der Staat sich als Schutzmacht vor künstlich erzeugten Falschinformationen präsentiert.

Natürlich können KI-Systeme Desinformation erleichtern. Gefälschte Bilder, manipulierte Videos und massenhaft erzeugte Texte sind reale Herausforderungen. Daraus folgt aber nicht automatisch, dass der Staat den gesamten Informationsraum kontrollieren sollte.

Kreutzer warnt vor einem Szenario, in dem der Schutz vor KI-Fälschungen zum Vorwand für umfassende Kommunikationskontrolle wird. Das ist eine politische Prognose, keine bereits bewiesene Tatsache. Aber sie berührt ein reales Spannungsfeld: Wer entscheidet, was eine Fälschung ist? Wer kontrolliert die Prüfer? Und wie verhindert man, dass „Schutz vor Desinformation“ am Ende nur „Schutz vor unerwünschten Meinungen“ bedeutet?

Die Maschine muss dafür keine Diktatur errichten. Es genügt, wenn Menschen ihre Möglichkeiten nutzen.

Die KI übernimmt nicht automatisch die Macht

Die Rede von der selbstständig herrschenden KI verschiebt die Verantwortung bequem in Richtung Maschine. Wenn später etwas schiefgeht, war eben der Algorithmus schuld.

Das ist politisch ausgesprochen praktisch. Ein System entscheidet falsch, ein Minister hat nichts gewusst, ein Konzern hat nur technische Prozesse betrieben, und niemand war verantwortlich.

Vielleicht liegt die größte Gefahr deshalb nicht darin, dass die KI eines Tages die Menschheit unterwirft. Vielleicht liegt sie darin, dass die Menschheit freiwillig immer mehr Entscheidungen an Systeme abgibt, deren Funktionsweise sie nicht versteht, deren Betreiber sie nicht kontrolliert und deren Fehler sie anschließend als unvermeidbaren technischen Unfall behandelt.

Der Computer hat schließlich gerechnet.

Die Wahrheit braucht weiterhin einen Menschen

Kreutzers Beitrag liefert keine endgültige Antwort auf die Frage, ob die Warnungen vor einer außer Kontrolle geratenen KI ehrlich, taktisch oder beides sind. Er stellt jedoch die richtige Gegenfrage: Wem nützt die jeweilige Erzählung?

Wer von der Angst profitiert, verdient besondere Aufmerksamkeit. Das gilt für Technologiekonzerne, die Kapital einsammeln wollen, ebenso wie für Politiker, die neue Kontrollinstrumente verlangen.

Künstliche Intelligenz kann ein mächtiges Werkzeug sein. Sie kann Medizin verbessern, Daten auswerten, Forschung beschleunigen und Menschen bei alltäglichen Aufgaben helfen. Sie kann aber auch überwachen, manipulieren, sortieren und töten – wenn Menschen sie genau dafür einsetzen.

Die Maschine ist also nicht automatisch der Lügner.

Manchmal reicht es, wenn der Mensch ihr die passende Geschichte einprogrammiert.

Bewertung Abschicken

Ø Bewertung = / 5. Anzahl Bewertungen:

Bisher keine Bewertungen! Sei der Erste, der diesen Beitrag bewertet.