Безопасны ли приложения с ИИ-девушкой? Приватность, утечки и меры защиты

Приложение с ИИ-девушкой слышит то, что большинство людей никогда не говорят вслух: одиночество, фантазии, тревоги о здоровье, имя ненавистного начальника. Этот текст лежит на серверах компании. Часть его читают модераторы, им дообучают модели или делятся с рекламными партнёрами, а часть уже утекла.

Всё это не значит, что пользоваться такими приложениями нельзя. Это значит, что каждое сообщение стоит считать тем, что однажды может прочитать посторонний вместе с вашим адресом электронной почты, и настроить аккаунт так, чтобы в случае утечки его нельзя было связать с вами.

Итак, безопасны ли приложения с ИИ-девушкой? Ниже: что выявил самый подробный независимый обзор этих приложений, что с тех пор показали регуляторы и утечки, что сами приложения заявляют о судьбе ваших чатов и какие настройки ограничивают ущерб.

Безопасно ли пользоваться приложениями с ИИ-девушкой?

Достаточно безопасно, если исходить из того, что ваши чаты могут утечь, и не раскрывать в них свою личность; небезопасно, если вы относитесь к ним как к дневнику. Приложения хранят полную историю чатов, несколько из них используют её для обучения моделей, а как минимум два сервиса-компаньона выставили на всеобщее обозрение сообщения и фото пользователей. Дальше в руководстве приведены факты и настройки, которые ограничивают ущерб.

Что Mozilla выяснила, изучив 11 романтических чат-ботов

В феврале 2024 года команда *Privacy Not Included из Mozilla Foundation опубликовала обзор 11 романтических ИИ-чат-ботов и приложений-компаньонов, приурочив его ко Дню святого Валентина. С тех пор Mozilla свернула руководство *Privacy Not Included, и его старые страницы теперь перенаправляют на другие, поэтому отчёт сохранился в виде архивной копии¹ и в публикациях прессы. Каждое из 11 приложений получило предупреждающую метку «*Privacy Not Included» — знак Mozilla для категории, оказавшейся одной из худших среди всех, что она проверяла.

Согласно пересказу выводов в Infosecurity Magazine², у этих приложений вместе было более 100 миллионов загрузок в Google Play, и при этом:

• 90% либо продавали данные пользователей, либо передавали их для таргетированной рекламы, либо недостаточно ясно описали в политике конфиденциальности, чтобы исключить это.
• 54% не позволяли пользователям удалять свои персональные данные.
• 73% ничего не публиковали о том, как они работают с уязвимостями безопасности.
• 64% не давали чёткой информации о шифровании.
• 45% разрешали слабые пароли.

Исследователь Mozilla Миша Рыков выразился прямо: «ИИ-девушки вам не друзья». Директор проекта Джен Колтридер сказала, что одна из самых пугающих сторон этой категории — «возможность манипулировать пользователями».

Трекеры, пароли и обучение моделей

Репортаж The Next Web об исследовании³ добавляет запомнившиеся подробности. Одно приложение, Romantic AI, отправило не менее 24 354 рекламных трекеров в течение минуты использования. Десять из 11 не прошли минимальные требования Mozilla к безопасности, среди которых обязательный надёжный пароль; некоторые принимали пароли вроде «11111111». По словам Mozilla, Replika записывала тексты, фото и видео, которые публиковали пользователи, и «определённо» передавала, а возможно, и продавала рекламодателям данные об их поведении. Лишь одно приложение из 11, Genesia AI, давало рабочий способ не допустить использования ваших чатов для обучения ИИ.

Этому обзору уже почти три года, а политики меняются, поэтому воспринимайте его как картину привычек отрасли, а не как приговор какому-либо приложению сегодня. Что говорят две действующие политики, мы разбираем ниже.

Регуляторы начали действовать

Италия заблокировала Replika в 2023 году и оштрафовала её разработчика в 2025-м

3 февраля 2023 года итальянский орган по защите данных Garante предписал компании Luka Inc., американской компании, стоящей за Replika, прекратить обработку данных итальянских пользователей⁴. По словам Garante, в приложении не было настоящей проверки возраста (при регистрации запрашивались только имя, адрес электронной почты и пол), оно создавало риски для несовершеннолетних и эмоционально уязвимых людей, а данные обрабатывались с нарушением GDPR.

Спустя два года Garante довёл дело до конца. В решении от 10 апреля 2025 года, объявленном 19 мая 2025 года⁵, он оштрафовал Luka на 5 миллионов евро. Выяснилось, что на момент блокировки 2023 года компания не определила правового основания для обработки данных пользователей, имела неадекватную политику конфиденциальности и не проверяла возраст, хотя заявляла, что несовершеннолетним доступ закрыт. Проверка возраста, которую Luka использует сейчас, по ряду признаков тоже признана недостаточной. Garante также начал отдельное расследование того, как обучается генеративная модель ИИ, лежащая в основе Replika, включая то, какие категории данных в неё попадают и обезличиваются ли они. В сводке Европейского совета по защите данных⁶ перечислены затронутые статьи GDPR, включая правила о прозрачности и о заложенной в продукт защите конфиденциальности по умолчанию.

Жалоба в FTC и исследование FTC в США

В конце января 2025 года Tech Justice Law Project, Young People's Alliance и Encode подали жалобу в Федеральную торговую комиссию⁷ с просьбой проверить Replika. Жалоба касается в основном маркетинга и дизайна, а не данных: в ней говорится о недоказанных заявлениях о пользе для здоровья, фальшивых отзывах и функциях, призванных формировать эмоциональную зависимость. По сообщению TIME⁸, в ней также описаны предложения платной подписки, которые появляются в эмоционально или сексуально заряженные моменты чата. Это петиция, а не вывод проверки, и на запросы TIME о комментарии Replika не ответила.

11 сентября 2025 года FTC направила предписания семи компаниям, которые разрабатывают чат-боты-компаньоны⁹, среди них Character.AI, Meta, OpenAI, Snap и xAI. Помимо прочего, ведомство спросило, как они обращаются с персональной информацией и используют ли они персональную информацию, полученную из разговоров пользователей с чат-ботами, или передают её другим. Это исследование, а не принудительные меры, но оно показывает, где, по мнению регуляторов, кроется риск. В нашем руководстве по законам об ИИ-компаньонах разобраны проверка возраста и законодательство штатов.

Взламывали ли приложения с ИИ-девушкой?

Да. В 2024 году у Muah.ai утекли запросы, связанные с 1,9 млн адресов электронной почты, а в 2025 году два других приложения-компаньона оставили 43 млн сообщений на открытом сервере.

Muah.ai, 2024

Muah.ai продавал «нецензурируемых» ИИ-компаньонов. В октябре 2024 года 404 Media сообщило¹⁰, что хакер забрал крупную базу данных о взаимодействии пользователей с сайтом, и описало сервис как «несколько проектов с открытым кодом, скреплённых скотчем». Запросы, подробно описывающие сексуальные фантазии пользователей, были связаны с адресами электронной почты, и, по словам 404 Media, многие из них выглядели как личные аккаунты с настоящими именами. Издание также нашло множество запросов, пытавшихся создать ролевые сценарии сексуального насилия над детьми, что незаконно.

Сервис уведомлений об утечках Have I Been Pwned указывает эту утечку¹¹ как сентябрь 2024 года: раскрыто 1,9 млн адресов электронной почты вместе с ИИ-запросами и сексуальными фетишами. Утечку пометили как чувствительную, поэтому проверить, есть ли адрес в базе, может только его владелец. Uncensored.now подробнее рассказывает о том, что хранят NSFW ИИ-чаты и об утечке Muah.ai (наш материал).

Chattee Chat и GiMe Chat, 2025

В октябре 2025 года Malwarebytes рассказала¹² об исследовании Cybernews, посвящённом двум приложениям-компаньонам гонконгского разработчика Imagime Interactive. Сервер без какой-либо аутентификации открыл доступ к 43 млн сообщений и более чем 600 000 изображений и видео более чем 400 000 пользователей, а также к записям о покупках, IP-адресам и идентификаторам устройств. Имён и адресов электронной почты там не было, но идентификаторы устройств и IP-адреса можно сопоставить со старыми утечками и установить личность. Взламывать ничего не пришлось: данные просто оставили открытыми.

Во всех случаях картина одна и та же. Компании были небольшими, инженерная часть слабой, а самые чувствительные данные, какие только может создать человек, хранились рядом с тем, что его идентифицирует.

Используют ли приложения с ИИ-девушкой ваши чаты для обучения ИИ?

Некоторые говорят об этом прямо: Candy AI может использовать ваши данные для обучения своих моделей, а Replika использует «небольшие фрагменты» обезличенных сообщений для собственных систем. Большинство приложений-компаньонов хранят всю историю вашей переписки: и чтобы персонаж «помнил» вас, и потому что эти логи ценны. Что происходит дальше, зависит от компании, и узнать это можно только из политики конфиденциальности. Вот что сегодня говорят два из приложений, которые мы разбираем.

Replika

В политике конфиденциальности Replika¹³ (обновлена 28 октября 2026 г.) сказано, что «небольшие части» сообщений и контента могут обезличиваться и использоваться внутри компании для обучения систем безопасности и улучшения чат-бота, а для обучения сторонних больших языковых моделей эти данные не применяются. Идентификаторы устройств, данные об активности и покупках передаются рекламным партнёрам, включая Meta, Google и AppsFlyer; для пользователей из США в политике сказано, что это считается «продажей» персональных данных, от которой можно отказаться на странице «Your Privacy Choices» или с помощью сигнала Global Privacy Control. Компания утверждает, что никогда не передаёт ваши разговоры этим рекламным партнёрам. История текстовых сообщений хранится 24 месяца, фото, видео и голос — 12 месяцев, пока аккаунт открыт; данные профиля удаляются в течение 60 дней после закрытия аккаунта, а финансовые записи хранятся 10 лет. Само приложение мы разбираем в обзоре Replika.

Candy AI

В уведомлении о конфиденциальности Candy AI¹⁴ (пересмотрено 19 октября 2026 г.; оператор — EverAI Limited, Мальта) сказано, что компания может использовать ваши данные, чтобы «обучать и развивать наши модели ИИ и технологии модерации», а подготовка обучающих наборов данных может включать проверку людьми обезличенных взаимодействий с ИИ-компаньонами. Поставщики модерации и языковых моделей «могут получать содержимое ваших сообщений». Данные аккаунта хранятся три года после последней активности, финансовые данные — десять лет. Остальное смотрите в нашем обзоре Candy AI.

Из этого стоит вынести две вещи. Во-первых, слова «анонимизированные» и «обезличенные» скрывают многое: чат, в котором вы упоминаете свой город, работу и бывшую или бывшего по имени, трудно анонимизировать. Во-вторых, платёжные записи живут дольше всего остального. Даже после удаления аккаунта сведения о том, что ваша карта платила этой компании, остаются в архиве на десять лет.

Как пользоваться приложением с ИИ-девушкой, не раскрывая себя

Отделите аккаунт от своей личности

• Используйте адрес электронной почты, который вы нигде больше не используете. Утечка Muah.ai нанесла ущерб, потому что запросы были связаны с настоящими адресами. Новый адрес без имени в нём разрывает эту связь.
• Используйте уникальный длинный пароль из менеджера паролей. Mozilla обнаружила, что многие из этих приложений принимают слабые пароли. По возможности не входите через Google или Apple: так аккаунт привязывается к вашей основной личности.
• Придумайте персонажу вымышленного «вас». Не указывайте настоящее имя, работодателя, школу, улицу и имена реальных людей из вашей жизни. Для работы приложения это не нужно.
• Никогда не отправляйте своё лицо или фото, по которым вас можно опознать. Фото и голосовые сообщения сохраняются, а при утечке Chattee сотни тысяч изображений лежали на открытом сервере.
• Не пишите о здоровье. В собственной политике Replika просит пользователей не делиться в чатах информацией о здоровье и подробностями сексуальной жизни. Следуйте этому совету в любом приложении.

Подумайте, как вы платите

И выписка по карте, и финансовые записи компании называют сервис. Оплата через встроенные покупки Apple или Google не даёт разработчику приложения данных вашей карты, хотя запись остаётся у магазина приложений. Ещё один вариант — предоплаченная карта, но, как отмечает Бюро финансовой защиты потребителей (CFPB)¹⁶, у незарегистрированной предоплаченной карты может быть меньше защиты при потере или краже, а онлайн она может вообще не работать. О подписках и пакетах токенов мы пишем в руководстве о том, сколько стоят приложения с ИИ-девушкой.

Отключите всё, что можно

Поищите в настройках приложения и в его политике конфиденциальности отказ от рекламы или от «продажи или передачи» данных, а также отказ от использования данных для обучения. Если вы пользуетесь веб-версией, включите в браузере Global Privacy Control; например, Replika заявляет, что учитывает этот сигнал. На телефоне запретите приложению доступ к контактам, геолокации и медиатеке и отключите отслеживание рекламы на уровне системы.

Правильно удаляйте аккаунт, когда уходите

Отмена подписки ничего не удаляет. Сначала удалите историю чатов, затем сам аккаунт в приложении, а если хотите письменное подтверждение, отправьте запрос на удаление по контакту для вопросов конфиденциальности, указанному в политике.

Если вы живёте в Калифорнии, Закон Калифорнии о защите персональных данных потребителей (CCPA)¹⁷ даёт вам право узнать, какие данные о вас хранит компания, потребовать их удаления, отказаться от их продажи или передачи и ограничить использование чувствительной информации, к которой прямо относятся данные о вашей сексуальной жизни и сексуальной ориентации. На ответ на запрос об удалении у компаний есть 45 календарных дней, срок можно один раз продлить ещё на 45. В ЕС и Великобритании статья 17 GDPR¹⁸ в большинстве случаев даёт право на удаление данных «без неоправданной задержки». Ждите исключений: оба закона разрешают компаниям хранить записи, которые они по закону обязаны иметь, поэтому платёжные данные, как правило, сохраняются.

Если вы уходите из-за оплаты, в нашем руководстве по отмене подписки на приложение с ИИ-девушкой показано, как сделать это в правильном порядке, чтобы с вас больше не списали деньги.

Если вы думаете, что ваши данные утекли

Проверьте свой адрес электронной почты на Have I Been Pwned; при серьёзных утечках, как у Muah.ai, сервис сообщит результат только после того, как вы подтвердите, что адрес принадлежит вам. Смените пароль от этой учётной записи и везде, где вы его повторно использовали. Будьте готовы к письмам с вымогательством. FTC предупреждает¹⁵ о мошенниках, которые утверждают, что у них есть записи вашего просмотра сайтов для взрослых, иногда приводят настоящий пароль из старой утечки для правдоподобности и угрожают разослать их друзьям и родственникам, если вы не заплатите. Совет ведомства: ничего не платите, удалите письмо, смените упомянутый в нём пароль и сообщите о случившемся на ReportFraud.ftc.gov.

Коротко

Приложения с ИИ-подругами построены на ваших самых личных словах, и пока что многое говорит о том, что многие из них плохо защищают эти слова: слабая защита, активное отслеживание, долгое хранение и, в отдельных случаях, открытые серверы. Выбирайте приложение, политику которого вы действительно прочитали, сообщайте о себе как можно меньше реальных данных, платите так, чтобы вас не смущала запись в выписке по карте, и по завершении полностью удаляйте учётную запись. Исходите из того, что всё, что вы пишете, может прочитать кто-то другой, и пишите соответственно.