Sind KI-Freundin-Apps sicher? Datenschutz, Lecks und Lösungen

Eine KI-Freundin-App hört Dinge, die die meisten Menschen nie laut aussprechen: Einsamkeit, Fantasien, Gesundheitssorgen, den Namen eines Chefs, den du hasst. Dieser Text liegt auf den Servern eines Unternehmens. Ein Teil davon wird von Moderatoren gelesen, wieder in Modelle eingespeist oder an Werbepartner weitergegeben, und ein Teil ist bereits geleakt.

Das heißt nicht, dass du diese Apps nicht nutzen kannst. Es heißt, dass du jede Nachricht so behandeln solltest, als könnte sie eines Tages mit deiner E-Mail-Adresse daran von einem Fremden gelesen werden, und dein Konto so einrichten solltest, dass es sich in diesem Fall nicht zu dir zurückverfolgen lässt.

Also: Sind KI-Freundin-Apps sicher? Unten findest du, was die gründlichste unabhängige Untersuchung dieser Apps ergeben hat, was Aufsichtsbehörden und Datenpannen seither gezeigt haben, was die Apps selbst über den Umgang mit deinen Chats sagen und mit welcher Einrichtung du den Schaden begrenzt.

Sind KI-Freundin-Apps sicher?

Sicher genug, wenn du davon ausgehst, dass deine Chats leaken könnten, und deine echte Identität aus ihnen heraushältst; nicht sicher, wenn du sie wie ein Tagebuch behandelst. Die Apps speichern den kompletten Chatverlauf, mehrere nutzen ihn zum Training von Modellen, und mindestens zwei Companion-Dienste haben Nachrichten und Fotos ihrer Nutzer offengelegt. Der Rest dieses Ratgebers zeigt dir die Faktenlage und die Einrichtung, die den Schaden begrenzt.

Was Mozilla bei der Prüfung von 11 Romantik-Chatbots herausfand

Im Februar 2024 veröffentlichte das *Privacy Not Included-Team der Mozilla Foundation, passend zum Valentinstag, eine Untersuchung von 11 romantischen KI-Chatbots und Companion-Apps. Mozilla hat den *Privacy Not Included-Ratgeber inzwischen eingestellt, und die alten Seiten leiten weiter, sodass der Bericht nur noch als archivierte Kopie¹ und in der Presseberichterstattung erhalten ist. Alle 11 Apps bekamen das Warnlabel „*Privacy Not Included“, Mozillas Kennzeichen für eine Kategorie, die zu den schlechtesten gehörte, die das Team je geprüft hatte.

Laut der Zusammenfassung der Ergebnisse im Infosecurity Magazine² kamen die Apps zusammen auf mehr als 100 Millionen Downloads bei Google Play, und:

• 90 % verkauften Nutzerdaten, gaben sie für gezielte Werbung weiter oder sagten in ihren Datenschutzerklärungen nicht genug, um das auszuschließen.
• 54 % ließen Nutzer ihre persönlichen Daten nicht löschen.
• 73 % veröffentlichten nichts dazu, wie sie mit Sicherheitslücken umgehen.
• 64 % machten keine klaren Angaben zur Verschlüsselung.
• 45 % erlaubten schwache Passwörter.

Mozilla-Forscher Misha Rykov sagte es unverblümt: „AI girlfriends are not your friends.“ Jen Caltrider, die Leiterin des Ratgebers, sagte, eines der beängstigendsten Dinge an dieser Kategorie sei „the potential for manipulation of their users.“

Tracker, Passwörter und Training

Der Bericht von The Next Web zur Studie³ liefert die Details, die hängen geblieben sind. Eine App, Romantic AI, verschickte innerhalb einer Minute Nutzung mindestens 24.354 Werbetracker. Zehn der 11 Apps verfehlten Mozillas Mindeststandards für die Sicherheit, zu denen ein starkes Passwort gehört; manche akzeptierten Passwörter wie „11111111“. Mozilla erklärte, Replika habe Texte, Fotos und Videos der Nutzer aufgezeichnet und Verhaltensdaten „definitely“ an Werbetreibende weitergegeben und „possibly“ verkauft. Nur eine der 11 Apps, Genesia AI, bot eine brauchbare Möglichkeit, deine Chats aus dem KI-Training herauszuhalten.

Dieser Test ist inzwischen fast drei Jahre alt und Richtlinien ändern sich. Sieh ihn also als Bild der Gewohnheiten der Branche und nicht als Urteil über eine einzelne App von heute. Weiter unten schauen wir uns an, was zwei aktuelle Richtlinien sagen.

Aufsichtsbehörden greifen ein

Italien sperrte Replika 2023 und verhängte 2025 eine Geldbuße gegen den Hersteller

Am 3. Februar 2023 wies Italiens Datenschutzbehörde, der Garante, Luka Inc., das US-Unternehmen hinter Replika, an, die Verarbeitung der Daten italienischer Nutzer einzustellen⁴. Der Garante erklärte, die App habe keine echte Alterskontrolle (bei der Anmeldung wurden nur Name, E-Mail-Adresse und Geschlecht abgefragt), bringe Risiken für Minderjährige und emotional verletzliche Menschen mit sich und verarbeite Daten unter Verstoß gegen die DSGVO.

Zwei Jahre später brachte der Garante die Sache zum Abschluss. In einer Entscheidung vom 10. April 2025, die am 19. Mai 2025 bekannt gegeben wurde⁵, verhängte er gegen Luka eine Geldbuße von 5 Millionen Euro. Er stellte fest, dass das Unternehmen zum Zeitpunkt der Sperre 2023 keine Rechtsgrundlage für die Verarbeitung der Nutzerdaten benannt hatte, eine unzureichende Datenschutzerklärung hatte und keine Altersverifizierung durchführte, obwohl es erklärte, Minderjährige seien ausgeschlossen. Die Alterskontrolle, die Luka jetzt einsetzt, wurde in mehreren Punkten weiterhin als mangelhaft bewertet. Der Garante leitete zudem eine separate Untersuchung dazu ein, wie das generative KI-Modell hinter Replika trainiert wird, einschließlich der Frage, welche Datenkategorien einfließen und ob sie anonymisiert werden. Die Zusammenfassung des Europäischen Datenschutzausschusses⁶ nennt die betroffenen DSGVO-Artikel, darunter die Regeln zur Transparenz und zum Datenschutz durch Technikgestaltung.

Eine FTC-Beschwerde und eine FTC-Studie in den USA

Ende Januar 2025 reichten das Tech Justice Law Project, die Young People's Alliance und Encode eine Beschwerde bei der Federal Trade Commission ein⁷ und baten sie, Replika zu untersuchen. Die Beschwerde betrifft vor allem Marketing und Design, nicht Daten: Sie wirft dem Unternehmen unbelegte Gesundheitsversprechen, erfundene Kundenstimmen und Funktionen vor, die emotionale Abhängigkeit fördern sollen. TIME⁸ berichtete, sie beschreibe außerdem Upgrade-Aufforderungen, die in emotional oder sexuell aufgeladenen Momenten eines Chats erscheinen. Das ist ein Antrag, keine Feststellung, und Replika reagierte nicht auf die Anfragen von TIME um Stellungnahme.

Am 11. September 2025 verschickte die FTC Anordnungen an sieben Unternehmen, die Companion-Chatbots betreiben⁹, darunter Character.AI, Meta, OpenAI, Snap und xAI. Unter anderem fragte sie, wie diese mit personenbezogenen Daten umgehen und ob sie personenbezogene Daten aus den Gesprächen der Nutzer mit den Chatbots verwenden oder weitergeben. Das ist eine Studie, keine Durchsetzungsmaßnahme, zeigt aber, wo die Aufsichtsbehörden das Risiko sehen. Unser Ratgeber zu Gesetzen für KI-Begleiter behandelt die Seite der Alterskontrolle und der Gesetze der Bundesstaaten.

Wurden KI-Freundin-Apps gehackt?

Ja. Muah.ai verlor 2024 Prompts, die mit 1,9 Millionen E-Mail-Adressen verknüpft waren, und zwei weitere Companion-Apps ließen 2025 43 Millionen Nachrichten auf einem offenen Server liegen.

Muah.ai, 2024

Muah.ai verkaufte „unzensierte“ KI-Begleiter. Im Oktober 2024 berichtete 404 Media¹⁰, dass ein Hacker eine große Datenbank mit den Interaktionen der Nutzer auf der Seite erbeutet hatte, und beschrieb sie als „eine Handvoll Open-Source-Projekte, die mit Klebeband zusammengeflickt wurden“. Die Prompts, die die sexuellen Fantasien der Nutzer detailliert beschreiben, waren mit E-Mail-Adressen verknüpft, und laut 404 Media sahen viele davon nach privaten Konten mit echten Namen aus. Außerdem fand 404 Media viele Prompts, die versuchten, Rollenspiele mit sexuellem Kindesmissbrauch zu erzeugen, was illegal ist.

Have I Been Pwned, der Dienst für Datenleck-Benachrichtigungen, führt das Datenleck¹¹ mit Datum September 2024 auf; 1,9 Millionen E-Mail-Adressen wurden zusammen mit KI-Prompts und sexuellen Fetischen offengelegt. Das Leck wurde als sensibel markiert, sodass nur der Inhaber einer Adresse prüfen kann, ob sie darin enthalten ist. Uncensored.now geht ausführlicher darauf ein, was NSFW-KI-Chats speichern, und auf das Muah.ai-Datenleck (unser Beitrag).

Chattee Chat und GiMe Chat, 2025

Im Oktober 2025 berichtete Malwarebytes¹² über Recherchen von Cybernews zu zwei Companion-Apps eines Hongkonger Entwicklers, Imagime Interactive. Ein Server ganz ohne Authentifizierung hatte 43 Millionen Nachrichten und mehr als 600.000 Bilder und Videos von über 400.000 Nutzern offengelegt, dazu Kaufbelege, IP-Adressen und Gerätekennungen. Namen und E-Mail-Adressen waren nicht enthalten, aber Geräte-IDs und IP-Adressen lassen sich mit älteren Datenlecks abgleichen, um Personen zu identifizieren. Niemand musste etwas hacken; die Daten lagen einfach offen.

Das Muster ist in beiden Fällen dasselbe. Die Unternehmen waren klein, die Technik dünn, und die sensibelsten Daten, die ein Mensch erzeugen kann, lagen direkt neben etwas, das ihn identifiziert.

Nutzen KI-Freundin-Apps deine Chats, um KI zu trainieren?

Manche sagen es offen: Candy AI darf deine Daten zum Training seiner Modelle verwenden, und Replika nutzt „kleine Teile“ anonymisierter Nachrichten für eigene Systeme. Die meisten Companion-Apps speichern deinen kompletten Chatverlauf, sowohl damit sich die Figur an dich „erinnern“ kann als auch weil die Protokolle wertvoll sind. Was danach damit passiert, hängt vom Unternehmen ab, und du erfährst es nur, indem du die Datenschutzerklärung liest. Das sagen zwei der Apps, die wir testen, heute dazu.

Replika

Die Datenschutzerklärung von Replika¹³ (zuletzt aktualisiert am 28. Oktober 2026) besagt, dass „kleine Teile“ von Nachrichten und Inhalten anonymisiert und intern genutzt werden können, um die Sicherheitssysteme zu trainieren und den Chatbot zu verbessern, und dass diese Daten nicht zum Training großer Sprachmodelle von Drittanbietern verwendet werden. Geräte-IDs, Aktivitäts- und Kaufdaten gibt Replika an Werbepartner weiter, darunter Meta, Google und AppsFlyer. Für Nutzer in den USA gilt das laut Erklärung als „Verkauf“ personenbezogener Daten, dem du über die Seite „Your Privacy Choices“ oder ein Global-Privacy-Control-Signal widersprechen kannst. Deine Unterhaltungen gebe man nie an diese Werbepartner weiter. Der Textverlauf wird 24 Monate gespeichert, Fotos, Videos und Sprachaufnahmen 12 Monate, solange das Konto besteht; Profildaten werden innerhalb von 60 Tagen nach Schließung des Kontos gelöscht, Finanzunterlagen aber 10 Jahre aufbewahrt. Unser Replika-Test behandelt die App selbst.

Candy AI

Die Datenschutzerklärung von Candy AI¹⁴ (überarbeitet am 19. Oktober 2026; Betreiber ist EverAI Limited in Malta) besagt, dass Candy AI deine Daten nutzen darf, um „unsere KI-Modelle und Moderationstechnologien zu trainieren und weiterzuentwickeln“, und dass zur Vorbereitung von Trainingsdatensätzen auch eine menschliche Prüfung de-identifizierter Interaktionen mit KI-Begleitern gehören kann. Die Anbieter für Moderation und Sprachmodelle „können den Inhalt deiner Nachrichten erhalten“. Kontodaten werden drei Jahre nach deiner letzten Aktivität gespeichert, Finanzdaten zehn Jahre. Den Rest findest du in unserem Candy-AI-Test.

Zwei Dinge lassen sich daraus mitnehmen. Erstens: „Anonymisiert“ und „de-identifiziert“ leisten hier viel Schwerstarbeit: Ein Chat, in dem du deine Stadt, deinen Job und deine Ex mit Namen erwähnst, lässt sich kaum anonymisieren. Zweitens: Zahlungsdaten überdauern alles andere. Auch wenn du ein Konto löschst, bleibt die Tatsache, dass deine Karte an dieses Unternehmen gezahlt hat, ein Jahrzehnt lang gespeichert.

So nutzt du eine KI-Freundin-App, ohne dich bloßzustellen

Trenne das Konto von deiner Identität

• Nutze eine E-Mail-Adresse, die du für nichts anderes verwendest. Das Muah.ai-Leck war so schädlich, weil Prompts mit echten E-Mail-Adressen verknüpft waren. Eine frische Adresse ohne deinen Namen unterbricht diese Verbindung.
• Nutze ein einzigartiges, langes Passwort aus einem Passwortmanager. Mozilla stellte fest, dass viele dieser Apps schwache Passwörter akzeptieren. Melde dich nach Möglichkeit nicht mit Google oder Apple an, denn das verknüpft das Konto mit deiner Hauptidentität.
• Gib der Figur ein falsches Du. Verwende weder deinen echten Namen noch Arbeitgeber, Schule, Straße oder die Namen echter Menschen aus deinem Leben. Die App braucht sie nicht, um zu funktionieren.
• Schick niemals dein Gesicht oder identifizierende Fotos. Fotos und Sprachnachrichten werden gespeichert, und beim Chattee-Leck lagen Hunderttausende Bilder auf einem offenen Server.
• Lass Gesundheitsdaten weg. Replikas eigene Richtlinie bittet Nutzer, in Chats keine Gesundheitsinformationen und keine Details zu ihrem Sexleben zu teilen. Beherzige diesen Rat bei jeder App.

Überlege, wie du bezahlst

Deine Kartenabrechnung und die Finanzunterlagen des Unternehmens nennen beide den Dienst. Wenn du über In-App-Käufe von Apple oder Google zahlst, bleiben deine Kartendaten beim App-Entwickler außen vor, auch wenn der Store den Vorgang trotzdem speichert. Eine Prepaidkarte ist eine weitere Option, aber das Consumer Financial Protection Bureau weist darauf hin¹⁶, dass eine nicht registrierte Prepaidkarte bei Verlust oder Diebstahl womöglich weniger Schutz bietet und online eventuell gar nicht funktioniert. Abos und Token-Pakete behandeln wir in unserem Ratgeber dazu, was KI-Freundin-Apps kosten.

Schalte ab, was du abschalten kannst

Suche in den Einstellungen der App und in der Datenschutzerklärung nach einer Möglichkeit, der Werbung bzw. dem „Verkauf oder der Weitergabe“ zu widersprechen, und nach einer Möglichkeit, dem Training zu widersprechen. Aktiviere Global Privacy Control in deinem Browser, wenn du die Webversion nutzt; Replika sagt zum Beispiel, dass es dieses Signal beachtet. Verweigere der App auf deinem Handy den Zugriff auf Kontakte, Standort und Fotomediathek und schalte das Werbetracking auf Systemebene aus.

Lösche richtig, wenn du gehst

Ein Abo zu kündigen löscht nichts. Lösche in der App zuerst deinen Chatverlauf und dann das Konto, und wenn du eine schriftliche Bestätigung möchtest, schick eine Löschanfrage an den in der Richtlinie genannten Datenschutzkontakt.

Wenn du in Kalifornien lebst, gibt dir der California Consumer Privacy Act¹⁷ das Recht zu erfahren, was ein Unternehmen über dich speichert, es löschen zu lassen, dem Verkauf oder der Weitergabe zu widersprechen und die Nutzung sensibler Informationen zu beschränken, wozu ausdrücklich dein Sexleben und deine sexuelle Orientierung zählen. Unternehmen haben 45 Kalendertage Zeit, auf eine Löschanfrage zu antworten, einmal verlängerbar um weitere 45. In der EU und im Vereinigten Königreich gibt dir Artikel 17 der DSGVO¹⁸ in den meisten Fällen ein Recht auf Löschung „unverzüglich“. Rechne mit Ausnahmen: Beide Gesetze erlauben Unternehmen, Unterlagen aufzubewahren, zu deren Aufbewahrung sie gesetzlich verpflichtet sind, weshalb Zahlungsdaten meist erhalten bleiben.

Wenn du wegen der Abrechnung gehst, führt dich unser Ratgeber zum Kündigen eines KI-Freundin-Abos in der richtigen Reihenfolge durch den Vorgang, damit dir nicht erneut etwas berechnet wird.

Wenn du glaubst, dass deine Daten abgeflossen sind

Prüfe deine E-Mail-Adresse bei Have I Been Pwned; bei sensiblen Datenlecks wie bei Muah.ai bekommst du das Ergebnis erst, nachdem du bestätigt hast, dass die Adresse dir gehört. Ändere das Passwort dieses Kontos und überall dort, wo du es noch verwendet hast. Rechne mit Erpressungs-E-Mails. Die FTC warnt¹⁵ vor Betrügern, die behaupten, Aufnahmen von deinem Surfverhalten auf Erwachsenenseiten zu haben, und manchmal ein echtes Passwort aus einem alten Datenleck nennen, um glaubwürdig zu wirken. Sie drohen, das Material an Freunde und Familie zu schicken, wenn du nicht zahlst. Der Rat der FTC: nichts bezahlen, die Nachricht löschen, das genannte Passwort ändern und den Vorfall auf ReportFraud.ftc.gov melden.

Kurz gesagt

KI-Freundin-Apps leben von deinen privatesten Worten, und die bisherigen Belege zeigen, dass viele diese Worte schlecht schützen: schwache Sicherheit, intensives Tracking, lange Speicherdauer und in einigen Fällen offen zugängliche Server. Wähle eine App, deren Richtlinie du wirklich gelesen hast, gib so wenig wie möglich von deiner echten Identität preis, zahle auf eine Weise, die du auch auf dem Kontoauszug sehen möchtest, und lösche das Konto ordentlich, wenn du fertig bist. Geh davon aus, dass alles, was du tippst, von jemand anderem gelesen werden könnte, und schreibe entsprechend.