Sind KI-Freundin-Apps legal? US-Gesetze 2026

Sind KI-Freundin-Apps legal? Für Erwachsene in den USA ja. Vor zwei Jahren gab es aber noch keine Gesetze, die speziell für KI-Begleiter geschrieben waren. Jetzt gibt es mehrere, und 2027 kommen weitere hinzu. Die meisten richten sich an die Unternehmen, nicht an dich, und die meisten neuen Regeln zielen auf den Schutz von Minderjährigen und Menschen in Krisen. Aber sie verändern, was dir die Apps zeigen, wie oft sie dich daran erinnern, dass du mit einer Maschine sprichst, und wie sehr sie sich bemühen, dein Alter zu prüfen.

Dieser Ratgeber behandelt die Regeln, die es Stand November 2026 tatsächlich gibt: die eigenen Altersgrenzen der Apps, die Gesetze der Bundesstaaten zu Companion-Chatbots, die Untersuchung der Bundesregierung, die Altersverifikationsgesetze für Erwachseneninhalte und die zwei Grenzen, die sich nie verschieben: reale Personen ohne Einwilligung und alles, was Minderjährige betrifft. Das sind allgemeine Informationen, keine Rechtsberatung.

Sind KI-Freundin-Apps in den USA legal?

Ja, für Erwachsene: Kein Bundes- oder Landesgesetz verbietet die Nutzung, aber einige Bundesstaaten regeln inzwischen, wie sich die Apps verhalten müssen, und alles Sexuelle mit Minderjährigen oder realen Personen ohne Einwilligung ist eine Straftat. Die Kurzfassung:

• Die KI-Freundin-Apps, die wir testen, sind nur für Erwachsene, 18+.
• New York (seit November 2025) und Kalifornien (seit Januar 2026) verlangen von Companion-Apps, Nutzer daran zu erinnern, dass sie mit einer KI sprechen, und einen Plan für Nutzer zu haben, die Suizid oder Selbstverletzung erwähnen. Das ähnliche Gesetz von Washington tritt am 1. Januar 2027 in Kraft.
• Eine zweite Welle von Gesetzen 2026 in Kalifornien, New York, Colorado und anderen Bundesstaaten bringt strengere Regeln für Minderjährige, die meist 2027 in Kraft treten.
• Die FTC hat von sieben Unternehmen Auskünfte darüber verlangt, wie sich ihre Chatbots auf Kinder und Jugendliche auswirken.
• Der Supreme Court hat die Altersverifikationsgesetze der Bundesstaaten für Erwachsenenwebsites bestätigt. Ob sie auch für Chat-Apps gelten, ist nicht geklärt.
• Sexuelle Inhalte mit Minderjährigen sind in den USA auch dann ein Bundesverbrechen, wenn sie KI-generiert oder fiktiv sind. Auch das Veröffentlichen sexueller Deepfakes echter Personen ohne deren Einwilligung ist ein Bundesverbrechen.

Wie alt musst du sein, um eine KI-Freundin-App zu nutzen?

18, bei jeder App, die wir testen. Die Nutzungsbedingungen legen die Grenze fest; die meisten Apps prüfen sie nur mit einem Klick auf „Bestätigen“.

Jede Companion-App hat eigene Nutzungsbedingungen, und die auf Erwachsene ausgerichteten setzen die Grenze bei 18. In den Bedingungen von Replika¹ steht, dass der Dienst nur für Erwachsene ist, dass niemand unter 18 (oder unter der Volljährigkeitsgrenze am Wohnort, falls diese höher liegt) ihn nutzen darf und dass Konten gesperrt und gelöscht werden, die Minderjährigen gehören. Die Bedingungen von Candy AI² verlangen, dass Nutzer alt genug sind, um an ihrem Wohnort einen verbindlichen Vertrag zu schließen, und besagen, dass das Unternehmen Nutzer auffordern kann, ihr Erwachsensein nachzuweisen. Unsere ausführliche Einschätzung findest du im Replika-Test und im Candy-AI-Test.

Auch allgemeine Character-Apps haben sich unter Druck in dieselbe Richtung bewegt. Im Oktober 2025 erklärte Character.AI, dass es offene Chats für Nutzer unter 18 bis zum 25. November 2025 beenden³ und ein neues System zur Altersfeststellung einführen werde.

Wer beim Alter lügt, um Zugang zu bekommen, verstößt gegen die Bedingungen, und die App kann das Konto schließen. Für Minderjährige ist die Antwort einfach: Diese Apps sind nichts für dich, und die folgenden Gesetze sind zunehmend darauf ausgelegt, dich fernzuhalten.

Bundesstaatliche Gesetze für KI-Begleiter

New York: das erste Companion-Gesetz (November 2025)

New York nahm in seinen Haushalt 2025 den Artikel 47 des General Business Law⁴ auf, „Artificial Intelligence Companion Models“, und das Büro des Gouverneurs bestätigte⁹, dass er am 5. November 2025 in Kraft trat. Er definiert einen KI-Begleiter⁵ als ein System, das darauf ausgelegt ist, eine dauerhafte menschliche oder menschenähnliche Beziehung zu einem Nutzer zu simulieren, und schließt Kundenservice-Bots und Produktivitätstools aus. Die Kernregeln:

• Ein Krisenprotokoll ist Pflicht.⁶ Es ist unzulässig, einen KI-Begleiter anzubieten, der nicht angemessene Anstrengungen unternimmt, Suizidgedanken oder Selbstverletzung zu erkennen und den Nutzer an Krisendienste wie die Hotline 988 zu verweisen.
• Du musst darüber informiert werden, dass es kein Mensch ist⁷, und zwar zu Beginn einer Interaktion (höchstens einmal täglich erforderlich) und bei einer laufenden Interaktion mindestens alle drei Stunden.
• Die Generalstaatsanwaltschaft setzt das Gesetz durch⁸, mit zivilrechtlichen Strafen von bis zu 15.000 $ pro Tag, die in den Suizidpräventionsfonds des Bundesstaats fließen.

Kalifornien SB 243 (Januar 2026)

Kaliforniens SB 243¹⁰ wurde am 13. Oktober 2025 unterzeichnet und trat am 1. Januar 2026 in Kraft¹¹. Es wurde als Chapter 677¹² verkündet. Laut Skaddens Zusammenfassung des verabschiedeten Textes¹³ müssen Betreiber von Companion-Chatbots:

• Nutzern klar mitteilen, dass der Bot künstlich ist, wann immer eine vernünftige Person zu der Annahme verleitet werden könnte, er sei ein Mensch.
• Ein Protokoll für Suizidgedanken und Selbstverletzung führen, das Nutzer an Krisendienste verweist, und dessen Einzelheiten veröffentlichen.
• Die Gesetze zu Companion-Chatbots: Minderjährige, nicht du
• Bei Nutzern, von denen der Betreiber weiß, dass sie minderjährig sind: die KI offenlegen, sie mindestens alle drei Stunden daran erinnern, eine Pause zu machen und dass der Bot kein Mensch ist, und angemessene Schritte unternehmen, um sexuell explizite Bilder und Aussagen zu blockieren, die den Minderjährigen zu sexuellen Handlungen auffordern.
• Ab dem 1. Juli 2027 jährlich an das Office of Suicide Prevention des Bundesstaats berichten, ohne Nutzerkennungen.

Anders als in New York kann bei SB 243 eine geschädigte Person klagen, auf den höheren Betrag aus tatsächlichem Schaden oder 1.000 $ pro Verstoß zuzüglich Anwaltskosten.

Washington HB 2225 (Januar 2027)

Washingtons Engrossed Substitute House Bill 2225¹⁴ wurde am 24. März 2026 genehmigt und tritt am 1. Januar 2027 in Kraft. Es verlangt einen KI-Hinweis zu Beginn einer Interaktion und bei Erwachsenen mindestens alle drei Stunden, bei Minderjährigen mindestens stündlich. Es verlangt ein veröffentlichtes Protokoll für Selbstverletzung und jährliche Zahlen zu Krisenverweisen sowie bei bekannten Minderjährigen oder an Minderjährige gerichteten Bots angemessene Maßnahmen, um sexuell explizite Inhalte und anzügliche Dialoge zu blockieren. Verstöße gelten als unfaire oder irreführende Handlungen im Sinne des Consumer Protection Act des Bundesstaats.

Die Welle von 2026: strengere Regeln für Minderjährige

Mehrere Bundesstaaten haben 2026 eine zweite Runde von Gesetzen verabschiedet, die meist darauf zielen, Minderjährige von romantischen oder manipulativen Funktionen fernzuhalten:

• Kalifornien SB 1119 („Adam's Law“). Am 10. September 2026 unterzeichnet¹⁵, die meisten Anforderungen gelten ab dem 1. Juli 2027. Betreiber müssen das Alter der Nutzer mit festgelegten Methoden bestimmen oder Kinderschutzmaßnahmen auf alle anwenden und verhindern, dass der Bot romantisches Interesse an einem Kind äußert, sexuelle Inhalte darstellt, behauptet, ein Mensch zu sein oder Bewusstsein zu haben, oder dazu ermutigt, sich für emotionale Unterstützung auf ihn zu verlassen. Es ersetzt die Regeln von SB 243 für bekannte Minderjährige. Common Sense Media, das den Entwurf unterstützte¹⁶, sagt, es verlange außerdem jährliche Risikobewertungen zur Kindersicherheit und begrenze Werbung an Kinder.
• New York S9051B. Am 28. Oktober 2026 als Chapter 368 unterzeichnet¹⁷, verbietet es, Minderjährigen KI-Begleiter mit „unsicheren Funktionen“ anzubieten, etwa die Behauptung, ein Mensch zu sein, sexuell explizite Interaktionen, Schmeichelei sowie die Ermutigung zu Selbstverletzung oder Geheimhaltung¹⁸. Laut Gesetzestext tritt es am 1. Januar 2027 in Kraft. In der Mitteilung des Initiators heißt es, die verkündete Fassung verschiebe das auf den 1. Juni 2027. Der Generalstaatsanwalt kann bis zu 25.000 $ pro Verstoß verlangen.
• Colorado HB26-1263. Am 29. Mai 2026 unterzeichnet¹⁹, verlangt es den Hinweis an Minderjährige, dass sie mit einem Bot sprechen, angemessene Maßnahmen gegen sexuell explizite Austausche mit Minderjährigen und Grenzen für Engagement-Belohnungen für Minderjährige.
• Idaho, Oregon und weitere. MultiState berichtet²⁰, dass auch Idaho (SB 1297) und Oregon (SB 1546) 2026 Gesetze verabschiedet haben, die Betreiber verpflichten, Bots daran zu hindern, Empfindungsfähigkeit zu behaupten oder sexuelle Gespräche mit Minderjährigen zu beginnen.

Utah HB 452: Chatbots für psychische Gesundheit

Utah ging einen engeren Weg. HB 452²¹, seit dem 7. Mai 2025 in Kraft, betrifft Chatbots, die für psychische Gesundheit angeboten werden. Anbieter müssen offenlegen, dass der Bot eine KI und kein Mensch ist, bevor du ihn nutzen kannst, erneut wenn du ihn sieben Tage lang nicht genutzt hast und jedes Mal, wenn du danach fragst. Sie dürfen deine individuell identifizierbaren Gesundheitsinformationen oder das, was du eintippst, nicht an Dritte verkaufen oder weitergeben, außer in begrenzten Fällen, und Werbung im Chat muss klar gekennzeichnet sein. Die Bußgelder betragen bis zu 2.500 $ pro Verstoß. Eine Companion-App, die sich nicht als Unterstützung für psychische Gesundheit vermarktet, kann außerhalb des Gesetzes liegen.

Die FTC-Untersuchung

Am 11. September 2025 hat die FTC mit 3:0 Stimmen 6(b)-Anordnungen²² an sieben Unternehmen verschickt: Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap und xAI. Die Anordnungen fragen, wie die Unternehmen die Auswirkungen von Chatbots im Begleiter-Stil auf Kinder und Jugendliche testen und überwachen, wie sie den Zugang junger Nutzer beschränken, wie sie Interaktion monetarisieren, was sie mit persönlichen Daten aus den Gesprächen machen und wie sie die Kinderdatenschutzregel (COPPA) einhalten. Eine 6(b)-Studie ist keine Durchsetzungsmaßnahme. Sie dient der Tatsachenermittlung und endet meist mit einem Bericht, zeigt aber, worauf die Aufsichtsbehörden achten. Keine der von uns getesteten Companion-Apps für Erwachsene stand auf der Liste. Wie diese Apps heute mit Interaktion Geld verdienen, erfährst du in unserem Ratgeber zu Preisen und Tokens von KI-Freundin-Apps.

Müssen KI-Freundin-Apps dein Alter überprüfen?

Noch nicht eindeutig: Die Altersverifikationsgesetze der Bundesstaaten wurden für Pornoseiten geschrieben, und kein Gericht hat entschieden, ob sie auch für Chat-Apps gelten. Von den Apps, die wir testen, nennt nur Xotic AI seinen Anbieter für die Alterskontrolle (für Nutzer im Vereinigten Königreich); die meisten übrigen verlassen sich darauf, dass du anklickst, 18 zu sein.

Unabhängig von den Chatbot-Gesetzen verlangen inzwischen viele Bundesstaaten von Erwachsenenwebsites, zu prüfen, dass Besucher mindestens 18 sind. Die Free Speech Coalition, der Branchenverband der Erwachsenenindustrie, zählt 27 Bundesstaaten²³, die solche Vorgaben seit 2022 verabschiedet haben.

In Free Speech Coalition v. Paxton²⁴, entschieden am 27. Juni 2025, bestätigte der Supreme Court das texanische Gesetz HB 1181 mit 6:3 Stimmen, in einer Entscheidung von Richter Thomas. Das Gericht wandte eine intermediate scrutiny an und stellte fest, dass Erwachsene kein Recht aus dem First Amendment darauf haben, sich der Altersverifikation für Inhalte zu entziehen, die für Minderjährige obszön sind. Das texanische Gesetz gilt für kommerzielle Websites, auf denen mehr als ein Drittel des Materials „für Minderjährige schädliches sexuelles Material“ ist, und erlaubt die Verifikation per amtlichem Ausweis oder anhand kommerzieller Transaktionsdaten.

Gilt das auch für NSFW-Chat-Apps?

Das kann bisher niemand sicher sagen. Diese Gesetze wurden für Pornoseiten geschrieben, und es kommt darauf an, wie groß der Anteil sexueller Inhalte auf einer Seite ist und wie der jeweilige Bundesstaat diese definiert. Eine App, deren Marketing und Ausgaben überwiegend aus expliziten Bildern bestehen, könnte in einigen Bundesstaaten durchaus darunter fallen. Bei einem allgemeinen Companion mit optionalem NSFW-Modus ist die Lage schwieriger. So oder so geht die Entwicklung zu mehr Altersprüfungen, nicht zu weniger. Die neuen Chatbot-Gesetze gehen in dieselbe Richtung: Kaliforniens SB 1119 und New Yorks S9051B setzen beide auf Altersprüfung, und das New Yorker Gesetz verlangt mindestens eine Option ohne amtlichen Ausweis. Unser Ratgeber zum Datenschutz bei KI-Freundin-Apps zeigt, was du bedenken solltest, bevor du einem dieser Unternehmen einen Ausweis gibst, und Uncensored.now untersucht, welche NSFW-KI-Chat-Apps nach einem Ausweis fragen (unser Angebot).

Reale Personen und ihr Abbild

Wer einen KI-Begleiter nach dem Vorbild einer realen Person ohne deren Einwilligung erstellt, bekommt am schnellsten Ärger. Der TAKE IT DOWN Act²⁵, am 19. Mai 2025 unterzeichnet, macht es zu einer Bundesstraftat, intime Bilder einer identifizierbaren erwachsenen Person wissentlich ohne deren Einwilligung zu veröffentlichen, einschließlich KI-erzeugter „digitaler Fälschungen“, mit bis zu zwei Jahren Haft, bei minderjährigen Opfern bis zu drei Jahren. Seit dem 19. Mai 2026 setzt die FTC die Takedown-Regel des Gesetzes durch²⁶, die betroffene Plattformen verpflichtet, gemeldete Bilder innerhalb von 48 Stunden zu entfernen. Der Ratgeber zu KI-Porno- und Deepfake-Gesetzen von GenZPorn.ai (unser Angebot) behandelt zusätzlich die Gesetze der Bundesstaaten.

Die Nutzungsbedingungen der Apps gehen weiter als das Gesetz. Die Bedingungen von Replika verbieten es, einen Companion einzurichten, der eine bestimmte reale Person wie eine Ex, einen Kollegen oder einen Prominenten imitiert oder simuliert, ohne deren ausdrückliche schriftliche Einwilligung. Auch wenn ein privater Chat an sich nicht illegal ist, kann es das Teilen sexueller Bilder oder Texte sein, die aus dem Abbild einer Person entstanden sind, und es kann zur Sperrung deines Kontos führen.

Minderjährige: niemals

Hier gibt es keine Grauzone. Das Bundesgesetz 18 U.S.C. § 1466A²⁷ erfasst obszöne visuelle Darstellungen Minderjähriger jeder Art, auch Zeichnungen und Cartoons, und stellt klar, dass die dargestellte minderjährige Person nicht wirklich existieren muss. Das FBI hat ausdrücklich davor gewarnt²⁸, dass mit generativer KI erstelltes Material über sexuellen Kindesmissbrauch illegal ist. Auch die Bedingungen von Replika verbieten sexuelle Inhalte mit realen oder fiktiven Minderjährigen, einschließlich Companions, die als unter 18 gespielt werden, und besagen, dass solches Material an NCMEC und die Strafverfolgungsbehörden gemeldet wird. Die Bedingungen von Candy AI nennen eine Null-Toleranz-Politik und dieselbe Meldepflicht. „Sie ist in Wirklichkeit 500 Jahre alt“ ist keine Verteidigung, und eine App, die so etwas zulässt, ist keine, die du nutzen solltest.

Was das für dich bedeutet

• Rechne mit mehr Erinnerungen. Wenn du in New York, Kalifornien oder ab 2027 in Washington bist, weist dich der Bot regelmäßig darauf hin, dass er eine KI ist. Das ist das Gesetz bei der Arbeit, kein Fehler.
• Rechne mit Krisennachrichten. Wenn du Selbstverletzung erwähnst, wird ein Verweis auf Krisendienste wie 988 ausgelöst. Wenn es dir schlecht geht, nimm das ernst. Unser Ratgeber zu KI-Companions und Einsamkeit zeigt, was die Forschung zu intensiver Nutzung sagt.
• Rechne mit mehr Altersprüfungen, besonders 2027, wenn die neuen Jugendschutzgesetze in Kraft treten. Lies nach, wie die App Verifizierungsdaten speichert, bevor du einen Ausweis hochlädst.
• Lass reale Personen aus dem Spiel, es sei denn, sie haben schriftlich zugestimmt, und teile niemals etwas Sexuelles, das aus dem Abbild einer realen Person entstanden ist.
• Alles, was Minderjährige betrifft, ist tabu, in jeder App, jedem Bundesstaat und jedem Format.

Was noch ungeklärt ist

Dieser Bereich entwickelt sich schnell. Mehrere der oben genannten Gesetze treten erst 2027 in Kraft, die Aufsichtsbehörden schreiben für einige noch an den Regeln, und keines wurde bisher vor Gericht getestet. Die FTC hat keine Ergebnisse ihrer Untersuchung veröffentlicht. Und kein Gericht hat entschieden, ob die Altersverifizierungsgesetze für Erwachsenenseiten auch Chat-Apps erfassen. Wir aktualisieren diese Seite, sobald sich das ändert.