KI ist der Teufel

Table of Contents

Einleitende Worte

In diesem Post versuche ich meine (aktuellen) Erkenntnisse zu KI/AI zu sammeln und aufzubereiten um Menschen die mir lieb sind vor den Gefahren dieser Werkzeuge zu warnen.

Falls ihr mich nicht kennt

... ein paar Worte zu mir:
Ich bin 24, studiere Elektrotechnik und enorm fasziniert von Technik. 

Ich mag es, zu lernen, wie Dinge funktionieren, und habe sowohl im Studium, bei der Arbeit, als auch in der Freizeit viel mit IT zu tun. Ich programmiere selbst immer wieder ein bisschen und habe auch schon Workshops zu KI/AI besucht und selbst eine KI programmiert und lernen lassen.

Begriffserklärung

  • AI / KI artificial Intelligence / künstliche Intelligenz
    Wobei das "Intelligenz" eine bewusste Irreführung ist, es geht hier eigentlich um maschinelles Lernen, also die automatische Entwicklung eines Algorithmus.
  • neuronales Netz
    Die einer KI zugrundeliegende Struktur, welche das maschinelle lernen ermöglicht.
  • trainieren einer KI
    auch eine bewusste Irreführung, die KI ist kein Lebewesen und kann nicht wirklich "trainiert" werden. Was wirklich passiert, ist dass der Fehler des Algorithmus durch maschinelles Lernen optimiert wird. Der Algorithmus also Schritt für Schritt angepasst wird um einen minimalen Fehler zu erziehlen.
  • Sprachmodell
    Eine KI die gebaut wurde um aus Eingabetext (in natürlicher Sprache) einen Ausgabetext (wieder in natürlicher Sprache) zu generieren.

KI ist Schmutz und schadet uns allen

Die Ökologische Perspektive

KI verbraucht absurd viele Ressourcen. Das offensichtlichste ist der Strom zum trainieren der KI und der Verarbeitung der Eingabedaten. Dafür werden auch schon konventionelle (also Kohle- und Gaskraftwerke) wieder in Betrieb genommen (Quelle, Quelle). Auch diese müssen gekühlt werden und dafür wird sehr häufig Trink- oder Flusswasser genutzt, da Meerwasser die Kühlkörper zu schnell korrodieren lässt (Quelle).
Aber das ist noch nicht alles: Auch für die Herstellung der ganzen Computerchips und den Bau der Datenzentren werden Ressourcen verbraucht.

Die soziale Perspektive

KI manipuliert Menschen. Es gibt inzwischen schon einen Todesfall in den USA, in den eine KI mit verwickelt war (Quelle). Die KI schickt Menschen in Psychosen (Quelle), Menschen bauen enge Beziehungen zu der KI auf (Quelle) und haben echte Emotionen diesen Algorithmen gegenüber. Es geht so weit, dass sie die Beziehungen mit den Menschen, denen sie nahe stehen teilweise weniger oder gleich werten, wie die mit der KI (Quelle).

Außerdem hindert uns KI dabei Dinge zu lernen (Quelle).

KI kostet viel viel Geld

Jedes Quartal werden unmengen an Geld (mehrere Milliarden US$) in KI investiert.

Säulendiagramm der Investitionen in KI pro Quartal
CaCB Insights. (February 1, 2024). Funding of artificial intelligence (AI) startup companies worldwide from 2020 to 2023, by quarter (in billion U.S. dollars) [Graph]. In Statista. Retrieved July 16, 2025, from https://www.statista.com/statistics/1344128/worldwide-artificial-intelligence-startup-company-funding-by-quarter/ption

Jetzt kann man sich die Frage stellen, warum so viel in KI investiert wird, wenn KI sich finanziell garnicht rentiert (Quelle). Die Kosten für die Technologie und das Training und den Betrieb sind so astronomisch groß, dass sich das System trotz der vielen Nutzer*innen finanziell garnicht lohnt.

Das ist alles nicht ein "Fehler im System", das ist das System

Es geht den Unternehmen, die KI entwickeln nicht darum, uns einen guten Dienst zu bauen oder hilfreich zu sein. Das sind alles nur Nebenprodukte auf dem Weg zum eigentlichen Ziel: Macht und Kontrolle.

Es mag sein, dass das etwas überzogen klingt, aber ich bin davon inzwischen sehr felsenfest überzeugt.

Die Bindung, die Emotionen zur KI sind kein Fehler, genau diese Funktionalität wird aktiv weiterenwickelt. Die Sprachmodelle werden gebaut um überzeugend zu sein und teilweise subtil zu manipulieren und zu überzeugen. Das wird sogar auch schon getestet (Quelle).

Jetzt kann man überlegen, was für eine Macht damit einhergeht. Was mit diesem "Werkzeug" passieren kann. Was man machen kann, wenn man die Macht hat, zu verändern, was der persönliche Freund*die persönliche Freundin von Millionen von Menschen so von sich gibt. 
Am Einfachsten ist an der Stelle noch die Werbung für ein Produkt.

Wirklich besorgniserregend wird es für mich, wenn ich darüber nachdenke, wie aktiv das Denken manipuliert werden kann. Wenn ich überlege, wie sehr ich mein Handeln durchaus an dem orientiere, wie mir nahe stehende Menschen damit umgehen, ich anhand deren Reaktionen mein eigenes Verhalten reflektiere. - Und Menschen nutzen genau dafür auch schon heute KI. Unterhalten sich mit dieser, tauschen sich über Existenz und den Sinn des Lebens aus. 

Wir wurden nicht gefragt

Genau wie bei Social Media haben wir alle kein Mitspracherecht. Die Plattformen werden ohne unsere Zustimmung gebaut und verändert. Wir als Nutzer*innen können nicht weiter Patizipieren als zum Profit beizutragen. Sei es bei Social Media, indem wir neue Inhalte erschaffen, mit denen dann andere Geld verdienen - oder bei KI, bei der wir Texte schreiben und damit die KI mit neuen Trainingsdaten füttern. Die Systeme sind so gebaut, dass wir nur gewinnbringen teilnehmen können.

KI existiert und führt heute schon zu menschlichem Leid, ohne dass wir als Gesellschaft die Zeit hatten darüber nachzudenken, ob wir das überhaupt haben wollen. (Und dabei habe ich den militärischen Einsatz von KI noch nichteinmal erwähnt.) Mächtige Menschen bestimmen alleine darüber, wie und in welche Richtung die Systeme entwickelt werden - für wen und zu welchem Zweck.

Es geht mir nicht darum, die Verwendung von KI zu verteufeln

Mir ist auch durchaus bewusst, dass es einige sinnvolle und vielversprechende Einsätze von KI-Tools gibt. Es gibt Forschung im Bereich Medizin, zum Beispiel der Unterstützung der Berechnung von Faltungen von Proteinen mit Hilfe von KI (Quelle).

Ich habe selbst auch schon KI zum Generieren von Bildern, zur Unterstützung beim Programmieren und zum allgemeinen Suchen von Information verwendet. Die Tools sind ja auch gut und werden immer besser. 

Ich will niemanden beschuldigen der*die KI-Tools verwendet. Ich will eindringlich vor den Gefahren waren und will überzeugen, KI sehr bewusst und sehr aufmerksam zu verwenden. Genau weil KI nicht für die Besserung der Gesellschaft, sondern zum Erhalt und Ausbau bestehender Machtverhältnisse genutzt wird.

Weiterführende Links