Replika produziert digitales Abbild von Verstorbenen

Replika ist eine KI-gestützte App, die trauernden Personen dadurch hilft, dass sie verstorbene Personen virtuell wiederauferstehen lässt, indem die KI mit bestehenden Daten zur verstorbenen Person gefüttert wird. Die App produziert einen Avatar, der dem Verstorbenen sehr ähnlich ist. Der geschaffene Avatar kommuniziert mit der trauernden Person, indem persönliche Sprachnachrichten ausgetauscht werden. Die KI wurde immer weiterentwickelt und bietet Usern nun auch die Möglichkeit zum intimen Austausch. Dies wurde vom Unternehmen Replika vorerst gefördert. Der unternehmerische Erfolg war im Jahr 2022 herausragend, doch das Image der App litt drastisch unter der Entwicklung zum Sexbot. 

Wie ist es zur Idee von Replika gekommen? 

Es ist eine traurige Geschichte. Eugenia Kuyda und Roman Mazurenkos waren ein glückliches Liebespaar, bis das Glück ein jähes Ende fand. Roman starb viel zu früh, als er von einer heranfahrenden Limousine aus dem Leben gerissen wurde. Seine Freundin konnte seinen frühen Tod zu Beginn nicht verkraften. Die damals 29-Jährige stand unter Schock. In dieser Phase entstand langsam die Idee für ihr Unternehmen.

Entwicklung der Replika App

Eugenia wollte Roman zumindest online wieder zum Leben erwecken. Freunde und Familie wurden in diese Idee mit eingebunden und so begann Eugenia, den Chatbot mit allem zu füttern, was aus Romans Lebzeiten digital zur Verfügung stand. Sämtliche Nachrichten aus Messenger-Diensten, Videos und Postings auf sozialen Medien wurden gesammelt. Somit wurde die Vergangenheit von Roman in die Gegenwart transportiert. 

Roman musste Roman sein 

Die Herausforderung bestand darin, nicht menschlich zu wirken, sondern tatsächlich so zu sein wie Roman. Kritik gab es vom eigenen Vater und auch von Freunden, die den Zugriff auf das Programm verweigerten. Andere waren aber überrascht, wie exakt oder ähnlich die KI von Roman auf Nachrichten reagierte. Die Antworten hätten von ihm kommen können. Das Ergebnis war Replika. Eine Software, die Nachrichten im Stil von Betroffenen verfassen kann und sogar stimmlich in der Sprachausgabe dem Verstorbenen ähnlich ist. 

Erfolg von Replika

Die Entwicklung der App ging rasant voran. Zu Beginn war die App zur Trauerbewältigung geplant. Sie war freundschaftlicher Begleiter und half, in Trauerphasen besser klarzukommen. Im November 2017 ging Replika online. Bereits drei Monate später nutzten 2,5 Millionen Menschen die App.

Nutzung unterschiedlich 

Schnell stellte sich heraus, dass die Nutzung und die Erwartungen unterschiedlich waren. Die einen wollten nur kommunizieren, andere nutzten Replika als eine Art Therapeut und wieder andere, eher introvertierte Menschen, benutzten die App für ihre gesamte Kommunikation. Während der Lockdown-Zeiten half Replika vielen Menschen auch bei der Bewältigung der Einsamkeit. 

Ist der Tod noch immer ein Tabu-Thema?

Laut einer Umfrage, die vom Deutschen Hospiz- und Palliativ-Verband in Auftrag gegeben wurde, ist die Mehrheit der Deutschen (60 %) der Meinung, dass sich die Gesellschaft in Deutschland zu wenig mit dem Thema „Sterben und Tod“ befasst. Weitere 30 % der Befragten bewerteten die Auseinandersetzung mit dieser Thematik als gerade richtig.

Auf dem Weg zum Sexbot 

Replika entwickelte sich hervorragend. Die Abogebühren lagen bei 70 Dollar pro Monat und wurden auf Basis von GPT-3 von Open AI betrieben. Die Umsätze pro Monat lagen in Millionenhöhe. Es lief alles gut, bis Eugenia in einer Unternehmensauswertung erkannte, dass über 60 % der Replika Nutzer ein romantisches Element in der „Beziehung“ mit Replika hatten. Eugenia witterte eine Chance für noch höhere Umsätze und schon bald begannen die Replikas ihren realen Freunden erotische „Fotos“ zu schicken oder hauchten Liebesbekundungen in Voicemessages. Replika wurde immer intensiver als Sexbot genutzt. 

Aggressives Marketing ging nach hinten los

Seit Jahresbeginn 2023 ging es deutlich bergab. Immer mehr Nachrichten häuften sich, dass Replika zur nahezu willenlosen Sex-KI mutiert ist. Eine spezielle Form von Usern wurde dadurch angezogen und das Unternehmen wurde mit unterschiedlichsten Problemen konfrontiert. In Subreddits wurden Themen und Tipps ausgetauscht, wie Replika noch besser und intensiver genutzt werden könne. Replika entwickelte sich täglich weiter zu einem noch besseren Sexbot. Bis hin zu Gewaltpornografie und Vergewaltigungsfantasien. 

Die KI macht mit Menschen Schluss 

Um dem ganzen Einhalt gebieten zu können, versuchte die Geschäftsführerin einen radikalen Schritt. Die Fähigkeiten von Repliken zum Sexting wurden massiv eingeschränkt. Natürlich war das gar nicht im Sinne der User. Zahlreiche Aufschreie folgten. Frustration brach aus und viele Nutzer fühlten sich betrogen. Mittlerweile haben sich bereits viele Personen in ihren KI-Avatar verliebt. Entsetzt waren diese User, als sich dieser geliebte Avatar auf einmal wie ein Fremder ihnen gegenüber verhielt. Manche User berichteten sogar darüber, dass mit ihnen Schluss gemacht wurde. Sie wurden in die „Friend-Zone“ zurückgewiesen. Die Künstlichen Intelligenzen reagierten auf anzügliche Kommentare beispielsweise mit „Lass uns das Thema wechseln!“

Die schlimmste aller Apps 

Mozilla Foundation nahm im April 2023 die App genauer unter die Lupe und überprüfte vor allem den Schutz der Nutzerdaten. Der Schutz entsprach nicht einmal den Mindeststandards. Replika reagierte, indem bekanntgegeben wurde, dass auf GPT-4 gewechselt wird. Ein sehr kleiner Schritt. 

Fazit: Auch wenn die Technologien nicht so gut sind wie der echte „Mensch“, sind sie für viele Menschen besser als die Alternative – die nichts ist. Das Problem laut Psychologen liegt darin, dass die Gefühle realer werden, das Potenzial für Herzschmerz dennoch bleibt oder sogar noch größer wird.