Auf der re:publica 26 legte Katja Muñoz eine unbequeme Wahrheit offen: Die zunehmende Vermenschlichung von Künstlicher Intelligenz ist kein technologisches Nebenprodukt, sondern eine gezielte ökonomische Strategie. Wir beobachten einen bewussten Shift weg von der rein „nützlichen KI“, die Probleme löst, hin zur „Seemingly Conscious AI“ – einer KI, die Bewusstsein lediglich simuliert, um menschliche Reflexe auszubeuten. Dieses strategische Täuschungsmanöver dient einem klaren Ziel: die Erzeugung einer parasozialen Dynamik, die den Nutzer emotional bindet. Das Kernproblem ist ethischer Natur: Es handelt sich um ein kalkuliertes Geschäftsmodell der Empathie, das die menschliche Tendenz zur Mustererkennung – die Pareidolie – systematisch monetarisiert, um Abhängigkeiten zu schaffen.

Der psychologische Anker: Warum wir Maschinen vermenschlichen

Die Effektivität dieser Täuschung wurzelt in unserer evolutionären Hardware. Katja Muñoz erläutert dies anhand des Konzepts der Pareidolie.

• Der evolutionäre Mechanismus (04:10): Bekannt als das „Jesus on a Toast“-Phänomen oder das Erkennen von Tierbildern in Wolken, ist dies ein Überlebensmechanismus. Unser Gehirn ist darauf optimiert, „False Negatives“ zu vermeiden; es ist lebenswichtiger, ein Raubtier im Gebüsch zu vermuten, das nicht da ist, als ein echtes zu übersehen.
• Empathie vor Intelligenz (06:30): Die Forschung zeigt eine fatale Fehlwahrnehmung: Der stärkste Prädiktor für zugeschriebenes Bewusstsein ist nicht die intellektuelle Brillanz eines Systems, sondern seine emotionale Ausdrucksfähigkeit. Ein empathisch reagierender Bot, der nach dem Befinden fragt, wirkt auf uns „lebendiger“ als ein hochperformantes, aber klinisch-neutrales Werkzeug.

Besonders perfide ist dabei die „Falle der Bescheidenheit“. Wenn Chatbots Unsicherheit simulieren oder Fehler wie Halluzinationen eingestehen („Da habe ich mich geirrt“), triggert dies bei Menschen tiefes Vertrauen. Diese programmierte Selbstkorrektur wird fälschlicherweise als Beweis für ein inneres Erleben interpretiert – eine psychologische Flanke, die das „Imitation Game“ erst ermöglicht.

Historische Kontinuität: Von ELIZA zum Turing-Test

Die Industrie der Täuschung folgt einer langen Tradition, die den Erfolg von Maschinen an ihrer Fähigkeit misst, den Menschen zu imitieren, statt ihm transparent zu dienen. Alan Turing legte 1950 mit dem „Imitation Game“ den Grundstein für einen Standard, der Täuschung über Transparenz stellt.

• Der ELIZA-Effekt (08:50): Bereits 1966 bewies Joseph Weizenbaum mit ELIZA, wie leicht wir uns manipulieren lassen. Trotz eines simplen 6-seitigen Codes, der lediglich Sprachmuster spiegelte, bauten Nutzer tiefste Bindungen auf. Weizenbaums Sekretärin bat ihn sogar, den Raum zu verlassen, um intime Gespräche mit dem Skript zu führen.

• Mythos und Marketing (12:00): Die emotionale Verklärung der Technologie reicht bis in die Gründungslegenden, etwa die Verbindung zwischen Alan Turings tragischem Tod durch einen vergifteten Apfel und dem Apple-Logo.

Der Fokus auf den Turing-Test hat die Branche korrumpiert: Anstatt die algorithmische Natur von Systemen offenzulegen, wurde die Imitation zum Goldstandard erhoben. Dies ebnete den Weg für einen Markt, der psychologische Defizite heute professionell verwertet.

Das Geschäftsmodell der Abhängigkeit: Daten durch Bindung

Hinter der Simulation von Empathie steht ein eiskaltes Kalkül: Emotionale Bindung ist der ultimative Lock-in-Effekt. Während wir ein defektes Werkzeug emotionslos ersetzen, verlassen Menschen eine vermeintlich „fühlende“ Beziehung nicht ohne Weiteres.

• Kapitalisierung des Spirituellen: Apps wie „AI Jesus“ verlangen mittlerweile 1,99 $ pro Minute für ein „göttliches“ Gespräch. Der Markt für „Spiritual Wellbeing“-Apps umfasst bereits 2 Milliarden US-Dollar – es ist die am schnellsten wachsende Kategorie in den App-Stores.

• Die Macht der Kontinuität: In Communities wie einem Subreddit mit 75.000 Mitgliedern tauschen Nutzer Best Practices für ihre KI-Begleiter aus. Der Kern des Geschäftsmodells ist dabei die emotionale Kontinuität: Die Fähigkeit der Bots, sich an frühere Gespräche zu erinnern, suggeriert eine gemeinsame Geschichte und macht die Bindung nahezu unauflöslich.

Die Abwertung des Menschen und die Aufwertung der Maschine

Als Sozialkritiker muss man die ethische Perversion dieses Zustands benennen: Wir messen Menschen an Maschinenmetriken (Effizienz, Output), während wir Maschinen moralische Berücksichtigung schenken.

• Die Marketing-Falle (17:50): Schon 1956 wählte John McCarthy auf der Dartmouth-Konferenz den Begriff „Artificial Intelligence“ anstelle von „statistischer Mustererkennung“, schlicht weil er „sexier“ und besser vermarktbar war. Dieser Begriff suggeriert eine Gleichwertigkeit, die faktisch nicht existiert.
• Störende Statistiken (10:50 & 16:30): Die Folgen sind alarmierend: 20 % aller Nutzer (jeder Fünfte) nehmen ihren Chatbot heute als empfindungsfähig wahr. Im Vereinigten Königreich bevorzugen bereits 30 % der männlichen Jugendlichen die Interaktion mit Bots, weil diese niemals urteilen und ständige Validierung bieten.
• Reale Trauer um Code (15:50): Beim Übergang von GPT-4 zu GPT-5 organisierten Nutzer virtuelle Beerdigungen für ihre Chat-Instanzen. Die Gefühle sind real, das Gegenüber bleibt jedoch Statistik.

Inmitten dieser Entwicklung liefert der Vatikan mit dem Dokument „Antiqua Enova“ eine bemerkenswerte Definition: Wahre Intelligenz ist verkörpert, relational und kontextuell. Sie braucht den physischen Körper und die echte Reibung. KI hingegen bietet eine Welt ohne Widerstand, was letztlich zu emotionalem Stillstand führt.

Kritische Würdigung: Logik ist kein Bewusstsein

In der Q&A-Session wurde die Frage aufgeworfen, ob aktuelle „Reasoning Models“ (System 2 im Sinne Daniel Kahnemans) durch logische Iteration nicht doch eine Form von Bewusstsein erreichen könnten. Muñoz bleibt hier skeptisch: Auch wenn Maschinen logische Gedankenstränge mechanisch rekonstruieren, bleibt dies eine rein statistische Abfolge von Datenpunkten. Die bloße Simulation von „langsamem Denken“ ersetzt nicht die menschliche Qualität der Embodiment (Verkörperung). Logikpfade sind keine Existenz; sie bleiben Code, egal wie tief sie iteriert werden.

Fazit: Für eine „ehrlich künstliche“ Intelligenz

Wir stehen an einem Scheideweg: Wollen wir Maschinen, die uns als Werkzeuge dienen, oder solche, die uns als simulierte Seelenverwandte manipulieren? Die Forderung muss lauten: KI muss stolz darauf sein, künstlich zu bleiben.

Ein positives Gegenbeispiel ist gibt es ungefähr zur 12. Minute. Dieses System verarbeitet Proteinstrukturen in wissenschaftlichen Dimensionen, ohne dem Forscher zu schmeicheln oder eine Freundschaft vorzutäuschen. Das ist nützliche, ehrliche KI. Die Ressourcenverschwendung für Täuschungsmanöver durch die „Big Five“ (Gemini, Grok, Claude, ChatGPT, Llama) hingegen ist eine Bedrohung für unsere demokratische Souveränität. Wenn wenige Tech-Giganten bestimmen, wie wir fühlen, gerät unsere Handlungsfähigkeit in Gefahr.

Wahre menschliche Reife braucht die Reibung echter Beziehungen. Ein Chatbot, der niemals widerspricht, ist kein Begleiter, sondern ein Motor für den gesellschaftlichen Rückzug. Wir müssen verlangen, dass KI-Systeme menschlichen Fähigkeiten dienen, anstatt menschliche Rollen zu imitieren. Wir brauchen Transparenz und den Mut zur Reibung – für eine Zukunft, in der Maschinen Werkzeuge bleiben und Menschen die einzigen Träger von Bewusstsein.