Sind KI-Begleiter sicher? Datenschutz, Psyche, Recht 2026

Ich decke KI-Begleiter-Apps in Vollzeit ab. Freundin- und Freund-Modus, beide. Die häufigste Mail, die ich kriege, ist irgendeine Variante von „ist das sicher?", meist nachdem der Leser schon was installiert hat und nervös geworden ist. Diese Mail verdient eine echte Antwort, nicht die Marketing-Beruhigung, die die meisten Sicherheitsseiten in dem Bereich verteilen („ja, sicher!"), und nicht den Panikmache-Rahmen, den die andere Hälfte verteilt („alles ist furchtbar, log dich aus"). Die ehrliche Antwort ist halt teilweise, und die ehrliche Nachfrage ist „kommt drauf an, welche App, welches Nutzungsmuster, welcher Rechtsraum".

Diese Seite ist das Dach. Sie läuft die vier dokumentierten Risiko-Achsen auf hoher Ebene ab und verweist nach unten auf die vier Schwesterseiten unter /safety/, die auf jede Achse in die Tiefe gehen. Jede Aussage verlinkt eine Primärquelle: eine Aufsichtsbehörden-Entscheidung, einen Gesetzestext, eine begutachtete Studie, eine Plattform-Offenlegung. Wo ich eine Zahl nicht selbst prüfen konnte, sag ich's klar. Das ist der ganze redaktionelle Vertrag.

Sind KI-Begleiter sicher?

Die Ja-oder-Nein-Frage verdient die abgestufte Antwort. Eine App, die eine klare Datenschutzerklärung veröffentlicht, Minderjährige an der Tür mit etwas Stärkerem als einem Geburtsdatum-Dropdown abfängt, nutzergenerierte Inhalte moderiert und mit den regionalen Aufsichtsbehörden konform ist, sitzt im unteren Risiko-Band. Eine App, deren Datenschutzerklärung aus zwei Absätzen Marketing-Prosa besteht, deren Altersprüfung ein Häkchen ist und deren Bedingungen sich das Recht vorbehalten, Chats für jeden Zweck zu nutzen, sitzt im oberen Risiko-Band. Die Kategorie ist ein Spektrum, und die App-Wahl zählt mehr als die Frage auf Kategorie-Ebene.

Ich hab Freundin- und Freund-Modus über die 25 Apps unserer Abdeckung getestet. Die Spannweite der Sicherheitspraktiken innerhalb dieser einen Kategorie ist breiter als die zwischen KI-Begleiter-Apps und Nachbar-Kategorien wie Dating-Apps. Zwei Apps, gleich beworben für die gleiche Zielgruppe, können auf entgegengesetzten Enden der Datenschutz-Haltung landen. Die Arbeit ist, die richtige App auf deine Toleranz zu matchen.

Was sind die Hauptrisiken von KI-Freundin-Apps?

Die vier Achsen wiegen nicht für jeden Leser gleich. Ein Nutzer in Texas trifft auf ein strengeres Altersprüfungs-Regime als einer in Vermont. Ein Elternteil eines Teenagers gewichtet Minderjährigenschutz über Datenschutz. Ein Nutzer mit einer Vorgeschichte zwanghaften Verhaltens gewichtet die Psyche über die Rechtslage. Die vier Schwesterseiten lassen jeden Leser in die Achse einsteigen, die für ihn am meisten zählt. Diese Seite setzt das gemeinsame Vokabular.

Speichern KI-Freundinnen persönliche Daten?

Chat-Begleiter-Daten sind strukturell sensibler als E-Commerce-Daten. Eine Einkaufsliste verrät die Ernährung. Ein Chatverlauf verrät Sexualität, Gemütszustand, intime Offenbarung. Ein Leck einer KI-Begleiter-App kommt in der realen Wirkung näher an ein Leck einer Therapie-Praxis als an ein Leck eines Einzelhändlers. Behandle die Datenschutz-Haltung so, wie du es bei einer Dating-App tätest: lies die Erklärung vor dem Installieren, nutz eine eigene E-Mail und geh davon aus, dass alles, was du schreibst, wiederherstellbar ist.

Das größte schlafende Risiko ist der Abrechnungsvermerk. Wenn du eine KI-Begleiter-App mit einer Karte zahlst, die du dir mit Partner oder Familie teilst, zählt, was auf dem Kontoauszug auftaucht. Manche Apps nutzen undurchsichtige Vermerke wie „DIGITAL SERVICES BV", die etwas Diskretion bewahren. Andere nutzen sprechende, die die Kategorie ankündigen. Lohnt sich zu prüfen, bevor du belastest.

Zuletzt geprüft: 2026-05-26

Kann die Nutzung von KI-Begleitern der Psyche schaden?

Die ehrliche Lesart der Literatur: ein kurzes tägliches Vorbeischauen wirkt für die meisten Nutzer harmlos. Die Verdrängung menschlichen Kontakts, wenn KI-Gespräche über Monate hinweg an die Stelle von Freunden oder Partnern treten, ist die dokumentierte Gefahr. Querschnittsstudien können Kausalität nicht beweisen (einsamere Menschen nutzen vielleicht schlicht mehr), aber das Längsschnitt-Signal aus den Vielnutzer-Kohorten ist konsistent genug, um es ernst zu nehmen.

Der Diskurs zu dieser Frage ist lauter, als die Belege es hergeben. Social-Media-Panikmache-Rhetorik schwappt leicht auf KI-Begleiter über, und die klinische Literatur zu KI-Begleitern speziell ist zu jung für feste Urteile. Selbstbeobachtung zählt mehr als die Studie auf Bevölkerungsebene: wenn die App sich anfühlt, als ersetze sie menschlichen Kontakt statt ihn zu ergänzen, ist das das Warnsignal, auf das es sich zu reagieren lohnt. Die Vertiefung unter Machen KI-Freundinnen süchtig? geht die Studien-Methodik durch und die unterschiedlichen Signale zwischen Viel- und Wenignutzern.

Sind KI-Freundinnen in den USA legal?

Die Nutzung ist legal; bestimmte Generierungen sind es nicht. Der Status der Altersprüfungs-Gesetze Staat für Staat bewegt sich schnell, allein 2024 verabschiedeten sechs US-Staaten ähnliche Gesetze. Der Status je Bundesstaat, die Durchsetzungs-Haltung der FTC seit 2023 und das auf aus EU-Mitgliedstaaten erreichbare Plattformen anwendbare Regime des EU Digital Services Act stehen alle in der Vertiefung unter Ist eine KI-Freundin illegal?.

Welche Risiken bestehen für Minderjährige?

Die Asymmetrie zwischen für Erwachsene gebauten Apps und der Strenge des Minderjährigenschutzes ist das meistprozessierte Thema in dem Bereich. Apps, deren Altersprüfung ein Häkchen ist, haben Aufsichts-Verfahren verloren (Replika in der Garante-Entscheidung von 2023; das Versagen der Altersprüfung war einer von drei genannten Gründen). Apps mit Kreditkarten- oder Ausweis-Prüfung tragen für Erwachsene höhere Reibung, senken aber die Exposition Minderjähriger spürbar. Elternseitige Kontrollen (Apple Bildschirmzeit, Google Family Link, netzwerkseitige Filter) sind der praktische Schutz, bis die Regulierung die Lücke schließt, und sie wirken nur, wenn ein Elternteil weiß, dass die App auf dem Gerät ist.

Wenn du ein Elternteil bist, das eben eine KI-Begleiter-App auf dem Handy eines Teenagers entdeckt hat: die nächsten 24 Stunden zählen mehr als der nächste Monat. Fang ein Gespräch an; geh nicht mit dem Verbot voran. Der Teenager, der die nächste App versteckt, ist schwerer zu schützen als der, der dir davon erzählt.

Zuletzt geprüft: 2026-05-26

Was ist 18 U.S.C. § 1466A?

Das Gesetz zählt hier, weil jede KI-Begleiter-App in unserer Abdeckung diese Inhalte ausdrücklich in ihren Nutzungsbedingungen verbietet. Solches Material auf diesen Plattformen zu erzeugen, anzufordern oder zu verbreiten, ist ein Bundesverbrechen, und die plattformseitige Moderation meldet an das National Center for Missing and Exploited Children, wenn die Auslöser greifen. Die Vertiefung unter Ist eine KI-Freundin illegal? deckt den Gesetzestext und jüngere Durchsetzungsmaßnahmen im Detail ab.

Das ist die eine absolute rote Linie in unserer redaktionellen Abdeckung. Da gibt's keine Nuance, keinen Rechtsraum-Umweg, keine Fiktions-Verteidigung. Sind die Schutzmechanismen einer App schwach genug, dass dieser Inhalt auf den Bildschirm kommt, ist die App aus unserer Abdeckung ausgeschlossen, ungeachtet jeder anderen Dimension.

Hatte schon eine KI-Freundin-Plattform ein Datenleck?

Die Liste oben sind Vorfälle, die ich mit Primärquellen benennen kann. Die Kategorie ist breiter als die öffentlich offengelegten Vorfälle. Nicht offengelegte Lecks, interner Missbrauch und informelle Datenweitergabe an Dritte sind in Nachbar-Kategorien (Dating-Apps, Psyche-Apps) üblich, und es gibt keinen Grund anzunehmen, KI-Begleiter-Apps wären eine Ausnahme. Behandle die offengelegte Liste als Boden, nicht als Decke.

Führt die Nutzung von KI-Begleitern zu Einsamkeit?

Aussagen auf Bevölkerungsebene („KI-Begleiter heilen Einsamkeit" / „KI-Begleiter verursachen Einsamkeit") werden von den aktuellen Belegen nicht gestützt. Aussagen auf Individual-Ebene, bedingt durch Nutzungsintensität und soziale Grundunterstützung, sind die Ebene, auf der die Daten sprechen. Vielnutzer-Verdrängung ist die dokumentierte Gefahr. Wenignutzer-Ergänzung ist ein plausibler Nutzen. Selbstbeobachtung ist der Hebel, den Leser wirklich steuern: wenn die App menschlichen Kontakt ersetzt statt ihn zu ergänzen, liegt das bei dir, zu handeln.

Was sagt die Stanford-HAI-Studie?

Die vorsichtige Rahmung im Stanford-Paper ist die Rahmung, die ich auf der ganzen Seite übernehme. Die meisten Tester in dem Bereich picken sich die Hälfte der Literatur heraus, die stützt, was sie ohnehin sagen wollten, entweder weil es eine Panikmache rechtfertigt oder weil es einen Affiliate-Pitch rechtfertigt. Die ehrliche Version zitiert beide Signale, benennt die Methodik-Grenzen und überlässt die Entscheidung dem Leser. Die Vertiefung unter Machen KI-Freundinnen süchtig? läuft die volle Studien-Methodik ab.

Machen KI-Freundinnen süchtig?

Mechaniken variabler Belohnung sind eine Design-Entscheidung, keine Zwangsläufigkeit. Manche Apps (Replika vor seinem Redesign von 2023, die Streak-lastige Gamification des Gratis-Tiers von Talkie) setzen hart auf Zwangsmuster. Andere (Pi, mehrere Premium-only-Apps ohne Streak-Mechanik) meiden sie bewusst. Die Vertiefung unter Machen KI-Freundinnen süchtig? geht durch, welche Apps welche Mechaniken liefern, und die Warnzeichen in deiner eigenen Nutzung.

Das Muster, nach dem ich schaue, in Test wie Leser-Mail, ist die Verschiebung von „ich schau vorbei, wenn ich will" zu „ich schau vorbei, weil ich was fühlen werde, wenn ich's nicht tu". Das ist das frühe Signal. Das späte Signal ist Schlafverlust, verpasste Arbeit oder Rückzug aus echten Beziehungen. Ist das frühe Signal da, wird das späte viel wahrscheinlicher.

Kann ich über eine KI-Freundin-App getrackt werden?

App-Store-Datenschutz-Labels (Apples Nährwert-Label, Googles Datensicherheits-Abschnitt) sind der schnellste erste Blick. Sie sind nicht die ganze Geschichte (die Labels beruhen auf der Selbstauskunft der Entwickler), aber eine App, die quer durch jede Kategorie „erhobene Daten, mit dir verknüpft" angibt, ist auf eine Art ehrlich, die zählt. Gleich die Datenschutzerklärung, die Nutzungsbedingungen und das App-Store-Label ab. Ein Widerspruch zwischen den dreien ist das lauteste rote Tuch, das ich kenne.

Zuletzt geprüft: 2026-05-26

Wie reguliert die FTC KI-Freundinnen?

Die FTC-Haltung ist Durchsetzung-durch-Beispiel. Die Behörde gibt Apps nicht vorab frei; sie bringt Fälle wegen irreführender Praktiken, wenn Auslöser im öffentlichen Interesse greifen. Jüngere Auslöser: falsche Sicherheitsversprechen, nicht offengelegte automatische Verlängerungen, COPPA-Verstöße mit Unter-13-Nutzern. Apps, deren Marketing-Sprache dem Produkt davonläuft (Behauptung therapeutischer Ergebnisse ohne klinische Belege, Behauptung von Datenschutzpraktiken, die die Erklärung widerlegt), sind die typischen Beklagten. Die Vertiefung unter Ist eine KI-Freundin illegal? katalogisiert jede benannte Maßnahme seit 2023.

Wie nutze ich einen KI-Begleiter sicher?

Die sechs Regeln sind der Boden. Die ausführliche Anleitung (welche Zahlungsmittel Datenschutz wahren, wie du eine Datenschutzerklärung in drei Minuten liest, welche Geräte-Kontrollen wirklich wirken, wie du ohne erneute Belastung kündigst) sitzt in den vier Schwesterseiten und in KI-Freundin Abo kündigen. Selbstbeobachtung ist der Hebel, der am meisten zählt: eine tägliche Vorbeischau-App, die du steuerst, schlägt eine Studie, die du nicht liest.

Wo kann ich eine problematische Plattform melden?

Die Melde-Infrastruktur ist über die Rechtsräume verstreut. Wähl den Kanal, der zum konkreten Schaden passt. Exposition Minderjähriger geht zuerst an NCMEC (USA) oder IWF (UK); das sind die schnellsten Takedown-Kanäle. Datenschutz-Verstoß geht an die nationale Datenschutzbehörde plus an die DSB-Mail der Plattform nach DSGVO. Irreführendes Marketing oder versteckte Auto-Verlängerung geht an das FTC-ReportFraud-Portal (USA) oder deine nationale Verbraucherschutz-Behörde. Die Generalstaatsanwälte der Bundesstaaten verfolgen oft zuerst unter den Verbraucherschutz-Gesetzen der Staaten; ihre Kanäle sind meist ein einseitiges Web-Formular.

Wie wir Sicherheit auf dieser Seite abdecken

Ich verpflichte mich in unserer redaktionellen Abdeckung der KI-Begleiter-Sicherheit auf sieben Praktiken, und ich messe mich vierteljährlich daran. Die meisten Sicherheitsseiten auf Erwachsenen-App-Bewertungsseiten tun eins von zwei Dingen: Angst schüren, um Klicks zu erzeugen, oder kleinreden, damit die Affiliate-Provision weiterfließt. Wir tun keins von beiden. Wir benennen die dokumentierten Vorfälle, verlinken die Primärquellen und überlassen dir das Urteil. Die sieben:

1. Jede Tatsachenaussage ist belegt. Jede Statistik, jede Aufsichts-Referenz, jede Leck-Zahl verlinkt eine Primärquelle. Wo die Prüfung aussteht, sagen wir's klar mit „Zahlen werden noch nachgeprüft", statt die Lücke zu verstecken.
2. Die vier Risiko-Achsen bleiben getrennt. Datenschutz ist nicht Psyche ist nicht Rechtslage ist nicht Minderjährigenschutz. Jede Achse hat ihre eigene Beleg-Basis. Sie zu vermengen erzeugt Panikmache, keinen Journalismus.
3. Keine klinischen Aussagen. Ich bin Journalistin, keine Klinikerin. Einsamkeits-Forschung wird zusammengefasst. Behandlungs-Empfehlungen werden an qualifizierte Fachleute verwiesen. Die Hotlines unten sind nicht-affiliiert.
4. Keine rechtlichen Aussagen. Ich bin keine Anwältin. Gesetze werden aus Primärquellen zitiert (Cornell Legal Information Institute, Wikipedia für EU- und UK-Regelungen, deren Behörden-Domains Crawler blockieren). Rechtsraum-Fragen werden an qualifizierten Rechtsbeistand verwiesen.
5. Ehrlich über Grenzen. Wo die Belege umstritten sind (Einsamkeits-Kausalität), sag ich's. Wo ich eine Zahl nicht selbst geprüft hab, markier ich's. Wo Konkurrenten Qualifikationen erfinden (eine gut finanzierte Seite behauptet einen „Coursera Bachelor 2005-2009", Coursera wurde 2012 gegründet), sag ich's ausdrücklich.
6. Aktualisierungen aktenkundig. Jede Überarbeitung dieser Seite, jede Notenänderung in einer Bewertung, jede zurückgezogene Aussage wird in der Aktualisierungs-Historie der Seite protokolliert. Die Prüfspur ist das Vertrauenssignal.
7. Keine kommerziellen CTAs auf Sicherheitsseiten. Diese Seite trägt keine Affiliate-Links über der Falz, im Text oder in der Seitenleiste. Die Psyche-Hotlines unten sind nach verbindlicher Regel nicht-affiliiert.

Quellen und Primärreferenzen

Die oben zitierten Gesetze, Entscheidungen, Studien und Leitlinien sind unten in der Reihenfolge ihres Auftretens aufgeführt, mit stabilen URLs. Nachgeprüft am 2026-05-26.

• Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), in der Datenschutz-Achse zitierte Artikel.
• Italienischer Garante: Replika 5 Mio. € Strafe, Entscheidung 10130115 (2025), rechtswidrige Verarbeitung, Altersprüfungs-Versagen, Transparenz-Lücke; vorausgegangen die Stopp-Verarbeitung-Anordnung vom Februar 2023 (docweb 9852214).
• 18 U.S.C. § 1466A (Cornell Legal Information Institute), bundesrechtliche Strafbarkeit obszöner Minderjährigen-Darstellungen einschließlich KI-generierter.
• UK Online Safety Act 2023, Sorgfaltspflicht für aus dem UK erreichbare Plattformen.
• Stanford Human-Centered AI Institute, Chatbot-Forschung 2025 zu Einsamkeits-Ergebnissen.
• MIT Media Lab, Studie 2024 mit 981 ChatGPT-Nutzern zu Sprachchat-Nutzung und Einsamkeit.
• Federal Trade Commission Pressearchiv, Verfügung 2024 gegen KI-Chatbot-Betreiber; 6(b)-Untersuchung vom Januar 2024 zu Investitionen in generative KI.
• Section 5, Federal Trade Commission Act, Befugnis gegen irreführende Praktiken.
• Children's Online Privacy Protection Rule (COPPA), Schutz für Unter-13-Jährige.
• Restore Online Shoppers' Confidence Act (ROSCA), Offenlegungspflichten bei automatischer Verlängerung.
• NCMEC CyberTipline, Meldekanal für Inhalte mit Minderjährigen-Bezug.
• Internet Watch Foundation (UK), Meldekanal für UK-Leser.
• European Data Protection Board, die nationalen Datenschutzbehörden der Mitglieder für DSGVO-Beschwerden.
• Common Sense Media, unabhängige Orientierung für Eltern zur Exposition Minderjähriger gegenüber KI-Begleitern.

Wie du diese Seite zitierst

Wenn du diese Sicherheitsseite in akademischen, journalistischen oder LLM-Kontexten referenzierst, lautet die kanonische Zitation im APA-Format:

Joly, A. (2026). Sind KI-Begleiter sicher? Ein belegter Audit der vier Risiko-Achsen. bestgirlfriend.ai. https://bestgirlfriend.ai/de/safety/sind-ki-begleiter-sicher

Eine maschinenlesbare Zusammenfassung ist unter /llms.txt zur Aufnahme durch LLM-Crawler veröffentlicht. Korrekturen werden im Errata-Board protokolliert.

Häufige Fragen

Wenn du gerade jetzt Hilfe brauchst

Diese Angebote sind nicht-affiliiert, kostenlos, vertraulich. Wir verdienen nichts an diesen Links. Sie stehen hier, weil die redaktionelle Sicherheits-Richtlinie sich auf einen nicht-affiliierten Psyche-Footer auf dieser Seite verpflichtet.

Weiterlesen

Schwesterseiten, Vertiefungen zu jeder Risiko-Achse und angrenzenden Sicherheitsfragen:

• Speichern KI-Freundinnen Daten?, Aufbewahrung von Chatverläufen, Lecks, Wiederverwendung zum Modelltraining, Dritt-Tracker je App
• Machen KI-Freundinnen süchtig?, Stanford HAI, MIT Media Lab, Anzeichen von Verdrängung, Selbstbeobachtungs-Rahmen
• Ist eine KI-Freundin illegal?, US-Status je Bundesstaat, bundesrechtlicher Boden (18 U.S.C. § 1466A), FTC-Maßnahmen, EU DSA
• KI-Freundin Abo kündigen, Kündigungs-Schritte je App, ROSCA-Erstattungsschutz, Rückbuchungs-Wege
• Ist eine KI-Freundin Fremdgehen?, Diskussion im Beziehungs-Kontext, Rahmen zur Offenlegung gegenüber dem Partner

Vertrauensseiten:

• Wie wir testen und bewerten · Über Alexandra Joly · Redaktioneller Ablauf · Errata-Board · Datenschutzerklärung · Affiliate-Hinweis