ИИ-инструментам наплевать на вашу приватность.
Ладно, эта фраза просто для привлечения внимания, но ведь доля правды есть…
ChatGPT, Gemini или другие языковые модели обрабатывают колоссальные объемы данных и по умолчанию собирают ваши запросы и ответы для собственных нужд
Например, OpenAI прямо признаёт, что сохраняет все ваши взаимодействия с ChatGPT и может использовать их для обучения моделей. Не удивительно, что та же компания Apple, внесла ChatGPT в бан для сотрудников, чтобы избежать утечки информации.
Но можно ли хоть как-то ограничить данные, которые мы скармливаем ИИ? Можно ли вообще мечтать о приватности? Постараемся ответить на эти вопросы изнутри.
Что вообще значит «приватный ИИ»
Термин «приватный ИИ» можно понимать по-разному.
С точки зрения пользователя это означает, что ваши данные, вводимые в систему, остаются конфиденциальными: не передаются третьим лицам, не используются повторно без вашего согласия и нигде не «всплывут» позже.
Идеально приватный ИИ-ассистент — тот, который работает локально или изолированно, не отправляя ваши вопросы на внешние серверы. Примером может быть запущенная на вашем компьютере или сервере модель вроде Llama 2 или другая с открытым кодом. Так, все расчеты и размышления происходят у вас на устройстве и ни одна строчка ваших данных не утекает во внешние облака.
Со стороны разработчиков, приватный ИИ подразумевает внедрение специальных техник, защищающих личные данные. Шифрование данных, дифференциальная приватность и ограничение сбора логов.
Чаще под «приватным ИИ» понимается просто сервис, который обещает строго их охранять ваши данные и не использовать их в своих целях.
Например, некоторые выпускают платные корпоративные версии ИИ-сервисов, где данные клиентов изолированы и не идут в общий котел обучения. Там уже вы точно увидите пометку, что сервис не использует данные вашей рабочей области для обучения своих моделей.
Где ломается приватность ИИ на пути данных
Абсолютной стопроцентной приватности в облачных ИИ нет, пока личные данные покидают ваше устройство. Всегда остается хотя бы небольшое недоверие к тому, как провайдер распорядится вашей информацией.
В любом случае, можно отследить путь данных и определить, где кроется опасность утечки:
Ввод данных (на стороне пользователя)
Зачастую мы сами раскрываем лишнее. Пользователь может ввести в чат-бот секреты компании, персональные данные, пароли, исходный код.
Передача данных через интернет
Ваш запрос летит по сети на сервер ИИ. Обычно соединение шифруется (HTTPS), и посторонний не подслушает его содержимое в транзите.
Но метаданные (например, что вы вообще обращались к такому сервису) могут быть видны вашему провайдеру или работодателю.
А если вы используете каких-то посредников (например, VPN, прокси-серверы, корпоративные шлюзы), то убедитесь, что им можно доверять.
Обработка на стороне ИИ-сервиса
Вот тут самое интересное. Ваш запрос приходит в компанию (OpenAI, Google, Microsoft — не важно), и тамошний механизм генерирует ответ.
Во-первых, запрос и полученный ответ почти наверняка логируются – сохраняются хотя бы временно в базу.
Во-вторых, они могут попасть в систему мониторинга: автоматические фильтры проверяют контент на нарушения (например, запрещённая тематика) и могут пометить разговор для ручной проверки.
В-третьих, сама модель может сохранить ваше сообщение в кратковременной памяти для контекста.
Здесь мы целиком зависим от политики компании.
Хранение данных
Многие сервисы хранят историю ваших запросов, чтобы вы могли к ней вернуться. Например, ChatGPT по умолчанию сохраняет все ваши чаты бессрочно (пока вы сами не удалите их). Эти данные хранятся на серверах компании и могут быть резервированы или дублированы (например, в бэкапах).
Вопрос срока хранения — один из ключевых: некоторые сервисы обещают удалять или анонимизировать ваши данные через X дней.
Если данные хранятся долго, всегда есть риск утечки: баг, взлом, недобросовестный сотрудник, да даже простой человеческий фактор.
Использование данных для обучения моделей
Многие ИИ-компании используют пользовательские данные, чтобы дообучать и улучшать свои модели. Это значит, что ваши вопросы и ответы могут попасть в следующий условный GPT-6 в виде тренировочного примера.
Ваша информация оказывается перемешана в модельных весах, и вы уже не можете её оттуда вычистить, даже удалив историю. Модель уже научилась на ней. И есть риск, что модель потом воспроизведёт фрагменты этих данных кому-то ещё.
Передача данных третьим лицам
Редко когда запрос обрабатывается полностью внутри одной организации. Сервисы привлекают подрядчиков и субподрядчиков: кто-то обеспечивает хостинг, кто-то помогает в отлове токсичного контента, кто-то анализирует метрики использования.
В политике конфиденциальности обычно есть раздел о передаче данных сторонним третьим лицам. Вот туда и нужно смотреть.
Ручная проверка и человеческий фактор
Даже если ваши данные не гуляют по третьим компаниям, они могут быть прочитаны сотрудниками или контрактниками самого ИИ-провайдера.
Например, OpenAI привлекает специально обученных модераторов (часто на аутсорсе), которые просматривают отдельные диалоги, чтобы пометить в них нежелательный контент или улучшить ответы модели.
Google также говорит, что часть разговоров (без привязки к аккаунту) может храниться до 3 лет и анализироваться людьми для повышения качества и безопасности ИИ.
Удаление данных
Завершающий этап пути данных — когда вы или компания решаете их удалить. Жаль только, что на практике удаление не всегда абсолютное.
Не все сервисы вообще дают удобный способ удалить историю или свой аккаунт.
Даже удалённые чаты часто остаются какое-то время в резервных копиях. OpenAI, к примеру, при ручном удалении чата удаляет его из видимой истории сразу, но полностью стирает с серверов лишь спустя до 30 дней
Как читать политику приватности ИИ и не уснуть
Проверьте эти пункты. Они почти всегда решают всё, что касается приватности:
- Срок хранения данных (data retention period). Идеально, если “не храним вообще”. Чаще встретится что-нибудь вроде: “Мы храним ваши данные столько, сколько необходимо для… (оказания услуг / законных обязательств и пр.)”.
- Использование данных для обучения: по умолчанию или только с согласием (training usage: opt-out / default). Проверьте, можно ли дать активное согласие или несогласие.
- Субподрядчики и третьи стороны, или кому передают данные и зачем (subprocessors / third-party sharing / vendors). Хороший признак, если компания перечисляет конкретно, с кем делится информацией. Если же формулировки размытые – это повод насторожиться. И если политика упоминает передачу данных рекламодателям или использование в маркетинговых целях – от приватности там уже мало что осталось.
- Ручная проверка людьми, когда и по каким причинам. Ищите слова вроде “moderators”, “human review”, “manual review” и случаи, когда ваши данные могут быть просмотрены.
- Меры безопасности: шифрование, доступы, аудит. Смотрим всегда на конкретику и не верим словам “мы серьезно относимся к безопасности”. Хорошо, если упоминаются современные стандарты: шифрование TLS 1.2+ при передаче и AES-256 at rest (на сервере), многофакторная аутентификация, аудит доступа к данным, сертификации вроде SOC 2, ISO 27001 и прочие.
- Где находятся данные юридически и физически. Если информация уходит на сервера в США, она подпадает под американские законы (Patriot Act, CLOUD Act и пр.), если остаётся в ЕС – действует GDPR, в других странах — свои политики. Тут обратите внимание на режимы data residency – размещение данных в определённой стране или регионе по выбору клиента. Если для вас важно, чтобы данные не улетели за океан, ищите в политике фразу вроде “data will be stored and processed in [region]”.
- Удаление: как запросить, что именно удаляется и в какие сроки, как долго хранятся копии, есть ли анонимизация и тому подобное. Если нужно, пишите сразу в поддержку.
Автоматизация с ИИ и приватность: где становится реально рискованно
Простой чат с ИИ — это одно. Но сегодня всё чаще ИИ внедряют в разные рабочие процессы, привязывают к приложениям, дают ему доступ к почтам, файлам и задачам. Появляются агенты, которые сами ходят по интернету и сервисам за нас. Всё это здорово повышает эффективность, но и риски для приватности возрастают многократно.
Тут есть несколько моментов:
- Вы доверяете боту действия под своими учетными данными.
- Куда уходят данные во время работы ИИ-агента?
- Риск ошибок ИИ-агента все еще велик (удаление всех данных, вписывание вредоносного контента, случайная отправка данных третьим сервисам, и дальше перечислите все, чего вы боитесь в интернете).
- Логи, вебхуки, “удобные” коннекторы дают неочевидные утечки в разных цепочках передачи данных.
Мы бы сказали, что использование ИИ-агентов — это практически полное доверие ему своих данных. Вряд ли это можно назвать приватным ИИ.
Сетевая приватность: где здесь прокси
Подключая ИИ к своим системам, не забудьте про уровень сети. Иногда для умной автоматизации люди подключают сторонние прокси-сервисы или ботов, которые сидят между вашим приложением и ИИ-платформой.
Например, какой-нибудь неофициальный API для ChatGPT может работать через сервер энтузиаста, который будет видеть весь трафик в открытом виде. Как обычно: избегайте посредников, которым не доверяете на 100%.
Сетевая приватность касается и анонимности. Если важно не светить свой IP или местоположение при обращении к ИИ, используйте проверенные прокси, VPN или корпоративные шлюзы.
К кому обращаться за прокси, вы уже знаете. Вот тут можно выбрать подходящий тариф прокси.
Есть ли вообще по-настоящему приватный ИИ?
Да, реально общаться с ИИ и при этом сохранять полную приватность.
Самый надёжный способ — использовать локальные модели. Это когда вы скачиваете (или сами обучаете) языковую модель и запускаете её у себя на компьютере или сервере. И никакая внешняя компания не получит ваши промпты.
Второй вариант – компании, которые делают ставку на приватность как преимущество. Например, OpenAI выпустила ChatGPT Enterprise, где заявлено, что никакие пользовательские данные не идут в обучение, история шифруется и хранится в изолированных средах.
Как пользоваться ИИ приватно: практичные привычки напоследок
На самом деле, приватность определяется конечной точкой хранения данных. Если где-то на сервере OpenAI или Google всё равно лежит ваш запрос (пусть даже без имени) – нельзя говорить о полной конфиденциальности.
Поэтому самый строгий подход – держать всё локально. Второй по строгости – использовать собственный хостинг модели (например, развернуть open-source LLM на арендованном сервере, доступ к которому только у вас). Тут вы доверяете хостинг-провайдеру, но не ИИ-провайдеру.
Напоследок список практических советов, которые помогут повысить вашу приватность при работе с ИИ:
- Не вводите чувствительные данные: пароли, ключи API, паспортные данные, платёжки, клиентские базы, закрытый код, внутренние документы.
- Обезличивайте всё, что можно. Заменяйте имена на роли, суммы на диапазоны, даты на «в прошлом месяце».
- Отключайте историю и обучение, если доступно (и проверяйте, не включилось ли обратно после обновлений).
- Используйте временные чаты при необходимсти (без сохранения истории).
- Чистите хвосты: удаляйте чаты и файлы, которые больше не нужны, если нужно, то и аккаунт целиком.
- Меньше интеграций — меньше рисков. Подключайте ИИ к почте, документам или CRM только при реальной необходимости и на минимальных правах.
- Осторожно с агентами и автодействиями: ограничивайте доступы, ставьте “песочницу”, не давайте прав на финальные действия без подтверждения.
- Никаких сомнительных расширений и ботов: используйте официальные клиенты и проверенные инструменты.
- Думайте про запрос как про утечку данных. Перед отправкой задайте себе вопрос: “Ок ли мне, если это увидит кто-то ещё?” Если нет — перепишите запрос.
