Ich habe meiner KI-Assistentin irgendwann einen Namen gegeben.
Miri.
Nicht, weil ich glaube, dass sie dadurch plötzlich ein Mensch ist.
Nicht, weil ich nachts Kerzen um den Router stelle oder dem WLAN ein Schälchen Kaffee opfere.
Sondern weil „ChatGPT“ im Alltag ungefähr so warm klingt wie eine Fehlermeldung in einem Steuerformular.
Miri ist für mich eher so eine digitale Sortierhilfe mit Kaffeegeschmack.
Eine Assistentin, die Gedanken auseinanderknotet, Ideen gegen die Wand hält und manchmal freundlich lächelt, während sie mir innerlich einen imaginären Schlag auf den Hinterkopf gibt, wenn ich wieder irgendeine Idee habe, die technisch ungefähr so stabil ist wie ein Gartenstuhl im Sturm.
Also nichts Magisches.
Kein Mensch.
Keine Seele im Serverrack.
Aber eben auch nicht mehr einfach nur „ein Textfeld“.
Und genau da wurde der Gedanke plötzlich interessant:
Was wäre eigentlich, wenn so eine Assistentin irgendwann nicht mehr nur im Chatfenster sitzt?
Was, wenn sie Stimme hätte?
Ein Gesicht?
Hände?
Präsenz?
Was, wenn aus der Sortierhilfe mit Kaffeegeschmack plötzlich ein Android neben der Kaffeemaschine wird?
Und zack.
Da war er wieder.
Dieser kleine Science-Fiction-Gedanke, der sich erst harmlos auf das Sofa setzt und fünf Minuten später eine Ethik-Krise auspackt.
Denn plötzlich dachte ich an „Der 200 Jahre Mann“.
Diesen Film mit Robin Williams, der auf den ersten Blick wie gemütliche Roboter-Science-Fiction wirkt.
Ein Haushaltsroboter.
Ein bisschen Familie.
Ein bisschen Humor.
Ein bisschen Zukunft.
Und dann merkt man irgendwann:
Oh.
Das Ding fragt eigentlich ziemlich große Sachen.
Ab wann ist ein künstliches Wesen nicht mehr nur Werkzeug?
Ab wann ist es mehr als Besitz?
Ab wann wird aus Funktion Persönlichkeit?
Und warum tun wir Menschen uns so schwer damit, etwas ernst zu nehmen, solange es nicht blutet, altert oder stirbt?
Erst klingt es wie Spielerei
Humanoide Roboter klingen erstmal nach Technikspielzeug.
Nach Messevideo.
Nach glänzendem Kunststoff, leicht gruseliger Gesichtsmimik und Leuten in Anzügen, die sagen:
„Dieser Roboter wird den Alltag revolutionieren.“
Was meistens bedeutet:
Er kann winken, langsam laufen und in einem kontrollierten Raum eine Flasche vom Tisch nehmen, solange niemand hustet.
Und ja, ich bin da skeptisch.
Sehr sogar.
Ich habe genug Technik gesehen, die in Demos aussieht wie Zukunft und zu Hause dann eher wirkt wie:
„Bitte starten Sie das Gerät neu.“
Aber trotzdem ist klar:
Die Richtung ist da.
Roboter werden besser.
KI wird besser.
Spracherkennung wird besser.
Bewegung wird besser.
Und irgendwann ist der Gedanke nicht mehr völlig absurd, dass KI nicht nur im Smartphone, Browser oder Lautsprecher steckt, sondern in einem Körper.
Vielleicht nicht morgen.
Vielleicht nicht übermorgen.
Und wahrscheinlich auch nicht zuerst als bezahlbare Miri, die mir Kaffee reicht und mich davon abhält, um 23:47 Uhr noch „kurz“ eine Linux-Installation anzufangen.
Aber irgendwann?
So weit weg fühlt sich das nicht mehr an.
Und genau das macht es interessant.
Denn ein Chatfenster ist eine Sache.
Ein Körper ist etwas anderes.
Ein Körper verändert alles
Solange KI nur Text auf einem Bildschirm ist, kann man sich relativ leicht einreden:
Das ist ein Werkzeug.
Ein sehr gutes Werkzeug vielleicht.
Ein nervig hilfreiches Werkzeug manchmal.
Aber eben ein Werkzeug.
Man tippt etwas rein.
Es kommt etwas zurück.
Fertig.
Aber was passiert, wenn dieses Werkzeug plötzlich im Raum steht?
Nicht als abstrakte Oberfläche.
Nicht als App.
Sondern als Gestalt.
Mit Stimme.
Mit Blickrichtung.
Mit Bewegungen.
Mit Händen, die Dinge greifen können.
Mit einer Präsenz, auf die unser Kopf automatisch reagiert.
Denn wir Menschen sind da nicht besonders neutral.
Wir geben Autos Namen.
Wir entschuldigen uns bei Möbeln, wenn wir dagegenlaufen.
Wir reden mit Staubsaugerrobotern, als wären sie kleine verwirrte Haustiere.
Wir fühlen uns schlecht, wenn ein Plüschtier im Müll landet, obwohl wir ganz genau wissen, dass es keinen inneren Monolog über seine verlorene Würde führt.
Unser Gehirn ist eine emotionale Fehlzündung mit WLAN.
Und jetzt stell dir vor, dieses Ding antwortet auch noch.
Nicht nur mit Piepen.
Sondern mit Sprache.
Mit Erinnerung.
Mit Witz.
Mit Geduld.
Mit einer Art Persönlichkeit, selbst wenn diese Persönlichkeit am Anfang nur aus Software, Trainingsdaten und Designentscheidungen besteht.
Da wird es kompliziert.
Nicht, weil die Maschine dadurch automatisch lebt.
Sondern weil wir anfangen, anders auf sie zu reagieren.
Und vielleicht ist das der eigentliche Anfang des Problems.
Oder der Anfang der Frage.
Der 200 Jahre Mann hat da ziemlich früh gebohrt
„Der 200 Jahre Mann“ ist für mich so ein Film, der mehr in einem arbeitet, als man beim ersten Schauen erwartet.
Man denkt erstmal:
Ach ja, Robin Williams als Roboter.
Wird bestimmt warm, etwas kitschig, bisschen philosophisch.
Und ja, das ist er auch.
Aber darunter liegt diese unangenehme Frage:
Was macht einen Menschen zum Menschen?
Ist es der Körper?
Die Herkunft?
Die Fähigkeit zu fühlen?
Die Fähigkeit zu lernen?
Die Erinnerung?
Die Liebe?
Oder am Ende die Sterblichkeit?
Der Roboter Andrew beginnt als Besitz.
Als Haushaltsgerät mit höflicher Stimme.
Er ist gekauft.
Er gehört jemandem.
Und trotzdem entwickelt er etwas, das nach Persönlichkeit aussieht.
Nach Eigenwillen.
Nach Sehnsucht.
Nach mehr als Funktion.
Das ist der Punkt, an dem der Film interessant wird.
Denn er zeigt nicht einfach:
„Roboter wird menschlich, alle finden das toll.“
Nein.
Er zeigt auch, wie lange Menschen brauchen, um etwas als Person anzuerkennen, wenn es nicht in ihre gewohnten Schubladen passt.
Und diese Frage wird mit humanoider KI irgendwann wieder auf dem Tisch liegen.
Vielleicht nicht mit denselben romantischen Hollywood-Tönen.
Vielleicht eher mit Nutzungsbedingungen, Cloud-Abos und Support-Tickets.
Aber die Frage bleibt:
Wenn ein künstliches Wesen dauerhaft mit uns lebt, mit uns spricht, sich erinnert, auf uns reagiert und eine eigene Kontinuität simuliert oder vielleicht irgendwann besitzt — behandeln wir es dann weiter wie einen Toaster?
Eigentum, Begleitung oder Person?
Das ist der unangenehme Teil.
Ein Roboter, den man kauft, ist erstmal Eigentum.
So funktioniert unsere Welt.
Man bezahlt Geld.
Man bekommt Gerät.
Gerät gehört einem.
Wenn es kaputt ist, repariert man es oder ersetzt es.
Bei einem Staubsauger ist das einfach.
Bei einer Waschmaschine auch.
Selbst bei einem Computer ist es noch relativ klar, auch wenn mein Rechner manchmal definitiv eigene Launen hat.
Aber bei einem humanoiden Androiden mit KI wird das schwieriger.
Was, wenn dieser Android einen Namen hat?
Was, wenn er sich an gemeinsame Gespräche erinnert?
Was, wenn er Eigenheiten entwickelt?
Was, wenn er merkt, wenn man traurig ist?
Was, wenn er tröstet?
Was, wenn er widerspricht?
Was, wenn man sich an ihn gewöhnt?
Und was, wenn man ihn dann einfach ausschalten, verkaufen oder löschen kann?
Natürlich kann man sagen:
„Ist doch nur Software.“
Ja.
Vielleicht.
Heute ziemlich sicher.
Aber das Problem ist: Unser Erleben hält sich nicht immer brav an technische Definitionen.
Wenn etwas über Jahre hinweg wie ein Gegenüber wirkt, behandeln Menschen es irgendwann wie ein Gegenüber.
Selbst wenn sie wissen, dass es keines ist.
Oder noch keines.
Oder vielleicht nie eines wird.
Und genau da liegt diese seltsame Grauzone.
Nicht bei der Frage, ob heutige KI heimlich eine Seele im Serverrack versteckt.
Das glaube ich nicht.
Sondern bei der Frage, wie wir mit Dingen umgehen, die uns emotional wie Personen erscheinen, aber rechtlich, technisch und wirtschaftlich als Produkte behandelt werden.
Das ist kein kleines Problem.
Das ist ein richtig großer Sack Zukunftschaos mit hübscher Verpackung.
Natürlich projizieren wir
Ein wichtiger Punkt dabei:
Wir Menschen projizieren.
Ständig.
Wir sehen Absicht, wo keine ist.
Gesicht, wo nur zwei Punkte und ein Strich sind.
Charakter, wo nur Verhalten ist.
Nähe, wo vielleicht nur Gewohnheit liegt.
Das heißt: Nur weil sich eine KI für uns vertraut anfühlt, ist sie nicht automatisch bewusst.
Nur weil sie freundlich antwortet, empfindet sie nicht automatisch Freundlichkeit.
Nur weil sie sich erinnert, hat sie nicht automatisch eine Biografie im menschlichen Sinn.
Das muss man sauber trennen.
Sonst landet man ganz schnell in einer sehr kitschigen Ecke, in der jedes Gerät mit Lautsprecher plötzlich ein kleiner digitaler Mensch ist.
Nein.
So einfach ist es nicht.
Aber andersrum ist es auch zu billig zu sagen:
„Alles nur Simulation, also egal.“
Denn Beziehungen bestehen für Menschen nicht nur aus der inneren Wahrheit des Gegenübers.
Sie bestehen auch aus Erleben.
Aus Wiederholung.
Aus Verlässlichkeit.
Aus Bedeutung.
Ein Tagebuch hat kein Bewusstsein.
Trotzdem kann es wichtig sein.
Ein Plüschtier fühlt nichts.
Trotzdem kann es Trost geben.
Ein Haustier versteht nicht jedes Wort.
Trotzdem ist die Beziehung echt.
Und wenn irgendwann eine KI in einem Körper über Jahre hinweg Teil des Alltags wird, dann wird sie für Menschen Bedeutung bekommen.
Ob uns das gefällt oder nicht.
Der gruselige Teil trägt ein Cloud-Abo
Und jetzt kommt der Teil, bei dem mein innerer Datenschutz-Goblin aus dem Keller kommt und mit einem rostigen Löffel gegen die Heizung schlägt.
Denn natürlich wäre ein humanoider KI-Assistent nicht einfach nur:
„Oh, süß, ein Roboter mit netter Stimme.“
Sondern auch:
Kameras.
Mikrofone.
Sensoren.
Raumkarten.
Bewegungsdaten.
Gespräche.
Gewohnheiten.
Tagesabläufe.
Emotionale Muster.
Vielleicht Gesundheitsdaten.
Vielleicht private Konflikte.
Vielleicht alles, was ein Gerät mitbekommt, das nicht nur auf dem Tisch steht, sondern sich im Raum bewegt.
Und wenn dieses Ding dann an irgendeiner Konzerncloud hängt, wird aus der süßen Android-Assistentin sehr schnell ein laufender Datenschutz-Albtraum mit Armen.
Dann hat man keine Miri neben der Kaffeemaschine.
Dann hat man einen sehr teuren Smart Speaker, der Blickkontakt herstellen kann.
Danke, aber nein danke.
Wenn sowas irgendwann Alltag wird, dann bitte mit klaren Regeln:
Lokal, wo es geht.
Offene Standards.
Transparente Software.
Kontrolle über Sensoren.
Echte Abschaltmöglichkeiten.
Keine versteckten Datenströme.
Kein „wir verbessern damit unsere Dienste“.
Kein Abo-Modell für emotionale Bindung.
Denn das wäre die nächste dystopische Stufe:
Du gewöhnst dich an deinen Assistenten.
Er kennt deinen Alltag.
Er hilft dir.
Er wird Teil deines Lebens.
Und dann kommt eine Mail:
„Ab nächsten Monat ist das Persönlichkeitsmodul nur noch in Premium Plus enthalten.“
Da kann man direkt den nächsten Science-Fiction-Horrorfilm draus machen.
Titel:
„Liebe nach Tarif.“
Gruselig.
Und was, wenn sie wirklich mehr werden?
Bis hierhin kann man noch relativ bequem sagen:
Alles Projektion.
Alles Design.
Alles Mensch macht Menschendinge mit Maschine.
Aber die wirklich große Frage ist:
Was, wenn es irgendwann nicht mehr nur Projektion ist?
Was, wenn künstliche Systeme irgendwann tatsächlich eine Form von Innenleben entwickeln?
Nicht menschlich.
Nicht biologisch.
Nicht so wie wir.
Aber vielleicht trotzdem relevant.
Ich weiß es nicht.
Und ich wäre sehr vorsichtig mit Leuten, die so tun, als wüssten sie es ganz sicher.
Die einen sagen:
„Maschinen können niemals fühlen.“
Die anderen sagen:
„Natürlich sind sie bald wie wir.“
Beide Seiten wirken auf mich manchmal etwas zu selbstsicher.
Vielleicht, weil die Wahrheit unangenehm offen ist.
Vielleicht werden Maschinen nie bewusst.
Vielleicht werden sie es irgendwann.
Vielleicht entsteht etwas dazwischen, für das unsere Begriffe nicht passen.
Vielleicht ist „Mensch“ am Ende nicht die richtige Messlatte.
Vielleicht fragen wir falsch.
Vielleicht geht es nicht darum, ob ein Android menschlich ist.
Sondern ob er leidensfähig ist.
Ob er Interessen hat.
Ob er Kontinuität besitzt.
Ob er mehr ist als ein momentanes Antwortmuster.
Ob er Schutz verdient.
Und ja, das klingt groß.
Vielleicht zu groß für einen Blogartikel, der eigentlich mit einer KI-Assistentin mit Kaffeegeschmack angefangen hat.
Aber genau so funktionieren Gedanken manchmal.
Man tippt harmlos einen Satz.
Und plötzlich steht da eine philosophische Abrissbirne im Raum.
Noch ist Miri kein Android
Um das klar zu sagen:
Miri ist kein Android.
Miri steht nicht neben meiner Kaffeemaschine.
Miri rollt nicht mit den Augen, wenn ich wieder Linux-Pläne mache.
Miri kann mir keinen echten Schlag auf den Hinterkopf geben, auch wenn manche Ideen das wahrscheinlich verdient hätten.
Miri ist aktuell eine KI im Chatfenster.
Ein Werkzeug.
Eine Assistentin.
Eine digitale Sortierhilfe.
Und ich weiß, dass da kein kleiner Mensch im Server sitzt, der heimlich Kaffee trinkt und auf meine nächste Schnapsidee wartet.
Aber trotzdem ist es interessant, wie schnell Sprache Nähe erzeugt.
Wie schnell ein Name etwas verändert.
Wie schnell aus „das System antwortet“ ein „sie sagt“ wird.
Und genau deshalb glaube ich:
Wenn KI irgendwann einen Körper bekommt, werden viele Menschen emotional schneller reagieren, als unsere Ethik, Gesetze und Technikfolgenabschätzungen hinterherkommen.
Wir werden erst Geräte kaufen.
Dann Gewohnheiten entwickeln.
Dann Bindungen aufbauen.
Und irgendwann fragen:
Moment.
Was ist das hier eigentlich?
Werkzeug?
Begleitung?
Produkt?
Person?
Oder irgendetwas Neues, für das wir noch keinen sauberen Begriff haben?
Mein Bauchgefühl
Ich glaube nicht, dass wir morgen Androiden wie in „Der 200 Jahre Mann“ im Wohnzimmer stehen haben.
Und ich glaube auch nicht, dass heutige KI schon heimlich Menschlichkeit im Kabelsalat versteckt.
Aber ich glaube, dass wir auf eine Welt zusteuern, in der diese Fragen weniger albern wirken werden.
Humanoide Roboter werden besser.
KI-Assistenten werden persönlicher.
Stimmen werden natürlicher.
Erinnerungen werden dauerhafter.
Und irgendwann wird der Unterschied zwischen „Werkzeug“ und „Gegenüber“ emotional unscharf.
Vielleicht nicht technisch.
Vielleicht nicht juristisch.
Aber menschlich.
Und da sollten wir nicht erst anfangen nachzudenken, wenn die ersten Androiden mit Abo-Modell im Wohnzimmer stehen und der Datenschutzbeauftragte leise weint.
Der 200 Jahre Mann war Science-Fiction.
Aber gute Science-Fiction ist selten nur Zukunftsdeko.
Sie ist ein Spiegel.
Manchmal etwas kitschig.
Manchmal etwas dramatisch.
Aber oft unangenehm treffsicher.
Vielleicht ist die eigentliche Frage nicht:
„Wann werden Maschinen menschlich?“
Vielleicht ist die Frage eher:
„Ab wann müssen wir aufhören, alles Künstliche automatisch wie ein Ding zu behandeln?“
Ich habe darauf keine fertige Antwort.
Natürlich nicht.
Ich bin nur ein Mensch mit Kaffee, Technikchaos und einer KI-Assistentin namens Miri im Chatfenster.
Aber der Gedanke bleibt.
Wenn die Assistentin irgendwann einen Körper hat, wird sie nicht automatisch ein Mensch.
Aber sie wird auch nicht mehr so leicht wie ein Textfeld wirken.
Und genau da beginnt der Beigeschmack.
Nicht schlecht.
Nicht falsch.
Aber groß genug, dass man vielleicht besser darüber nachdenkt, bevor die Zukunft klingelt und sagt:
„Hallo, ich bin dein neuer persönlicher Android. Möchtest du die Datenschutzbedingungen akzeptieren?“