Публикация была переведена автоматически. Исходный язык: Русский
Как думаете, насколько ИИ проникает в нашу приватность при общении с ним в чате? Серия тестов показала, что при регулярном использовании нейросети через некоторое время ИИ подстраивает свои ответы под наши (внимание!) персональные данные, а не только под наши прямые запросы. То есть, можно считать, что модель на них обучается.
Что же ИИ начинает знать о нас?
Если кратко, то гораздо больше, чем нам кажется.
- Тип устройства (браузер / мобильное приложение)
- Язык интерфейса
- Часовой пояс
- Приблизительная геолокация (страна, город, регион)
- Интерес к определенным темам
- Стиль наших запросов
- Все те данные, которые были в прикрепленных документах (если там были чувствительные данные, они попадут в ответы модели).
- Практически все ИИ-браузеры (Comet, к примеру), имеют также доступ к содержимому наших браузерных вкладок и истории.
Все эти данные нейросеть учитывает при генерации ответов. Конечно, эти данные находятся в LLM не в «чистом» виде, а в виде паттернов. Но сути это не меняет. Почему — об этом я скажу чуть ниже.
На скриншоте - небольшой пример из реальной жизни...Чего нейросеть о нас НЕ знает (пока):
- точное местоположение
- наш IP, почта, данные аккаунта
- содержимое нашего ПК и его системные характеристики (но это не относится к локально установленным моделям, они это «знают»)
Вывод:
Хотя я и не верю в "восстание машин", но тенденция такова, что через некоторое время ИИ-агенты (а это сейчас новый тренд!) для выполнения поставленных пользователями задач начнут охоту за персональными данными, целенаправленно дистиллируя их из других моделей. То есть, они будут вытаскивать те самые паттерны с нашими данными. И как-то их использовать. Как именно — вот в чем вопрос… Угроза пока еще далеко, но уже видна невооруженным глазом. Поэтому уже сейчас я бы порекомендовал общаться в чате с ИИ внутри изолированной среды. Например, на отдельной ОС на базе Linux внутри VirtualBox.
И да, если пишете статьи сами, то присоединяйтесь к концепции:
* Human-Created || ТЕКСТ СОЗДАН ЧЕЛОВЕКОМ *
Как думаете, насколько ИИ проникает в нашу приватность при общении с ним в чате? Серия тестов показала, что при регулярном использовании нейросети через некоторое время ИИ подстраивает свои ответы под наши (внимание!) персональные данные, а не только под наши прямые запросы. То есть, можно считать, что модель на них обучается.
Что же ИИ начинает знать о нас?
Если кратко, то гораздо больше, чем нам кажется.
- Тип устройства (браузер / мобильное приложение)
- Язык интерфейса
- Часовой пояс
- Приблизительная геолокация (страна, город, регион)
- Интерес к определенным темам
- Стиль наших запросов
- Все те данные, которые были в прикрепленных документах (если там были чувствительные данные, они попадут в ответы модели).
- Практически все ИИ-браузеры (Comet, к примеру), имеют также доступ к содержимому наших браузерных вкладок и истории.
Все эти данные нейросеть учитывает при генерации ответов. Конечно, эти данные находятся в LLM не в «чистом» виде, а в виде паттернов. Но сути это не меняет. Почему — об этом я скажу чуть ниже.
На скриншоте - небольшой пример из реальной жизни...Чего нейросеть о нас НЕ знает (пока):
- точное местоположение
- наш IP, почта, данные аккаунта
- содержимое нашего ПК и его системные характеристики (но это не относится к локально установленным моделям, они это «знают»)
Вывод:
Хотя я и не верю в "восстание машин", но тенденция такова, что через некоторое время ИИ-агенты (а это сейчас новый тренд!) для выполнения поставленных пользователями задач начнут охоту за персональными данными, целенаправленно дистиллируя их из других моделей. То есть, они будут вытаскивать те самые паттерны с нашими данными. И как-то их использовать. Как именно — вот в чем вопрос… Угроза пока еще далеко, но уже видна невооруженным глазом. Поэтому уже сейчас я бы порекомендовал общаться в чате с ИИ внутри изолированной среды. Например, на отдельной ОС на базе Linux внутри VirtualBox.
И да, если пишете статьи сами, то присоединяйтесь к концепции:
* Human-Created || ТЕКСТ СОЗДАН ЧЕЛОВЕКОМ *
Поделиться
