Технологические журналисты из 404 Media узнали, что компания OpenAI нанимает сотни подрядчиков для чтения и анализа огромного потока запросов и ответов реальных пользователей ChatGPT.
Сообщается, что «Проект Лили» — это программа, в рамках которой подрядчики оценивают или критикуют ответы ChatGPT с целью улучшения качества и поведения чат-бота.
Тот факт, что иногда запросы могут проверяться людьми, не должен вызывать полного удивления. Компании, занимающиеся искусственным интеллектом, также отслеживают разговоры в целях безопасности. Например, компания Anthropic заявляет, что пресекла попытки неправомерного использования ИИ для исследований в области биологического оружия .
Однако следует проводить существенное различие между проверкой разговоров на предмет безопасности или злоупотреблений и проверкой их с целью обычного улучшения модели.
Компания OpenAI заявляет, что ограниченное число уполномоченных сотрудников и доверенных поставщиков услуг могут получать доступ к чатам по нескольким причинам, включая расследование случаев злоупотребления, оказание поддержки, решение юридических вопросов и совершенствование своих моделей.
Компания OpenAI сообщила изданию 404 Media, что использует « Privacy Модель «фильтрации» позволяет удалять личную информацию до того, как запросы достигнут рецензентов, но при этом признается, что конфиденциальные данные все же могут пройти проверку.
Запросы анонимизированы в том смысле, что рецензенты не видят имя пользователя ChatGPT, который их ввел. Однако рецензенты могут видеть личные данные в переписке, а также «краткое изложение воспоминаний пользователя», которое дает общее представление о том, как этот пользователь ранее использовал чат-бот. В совокупности эта информация все еще может многое рассказать об этом пользователе.
Иногда, общаясь с чат-ботом на основе ИИ, легко забыть, что это не приватный разговор. Это не паническое предупреждение против использования ИИ, а напоминание о необходимости быть внимательным к тому, что вы раскрываете, поскольку это может быть прочитано и проверено.
Как отказаться от обучения чат-бота с искусственным интеллектом
ChatGPT
Компания OpenAI сообщила изданию 404 Media, что сообщения пользователей в чате не будут использоваться для улучшения моделей компании, если они отключат параметр «Улучшать модель для всех» . Этот параметр включен по умолчанию для бесплатной версии. Plus а также в тарифных планах Pro, поэтому пользователям необходимо отключить эту функцию самостоятельно, если они хотят от нее отказаться.
Однако отказ от участия не исключает доступа со стороны пользователей. OpenAI заявляет, что уполномоченный персонал и доверенные поставщики услуг по-прежнему могут получать доступ к контенту, если это необходимо для расследования случаев злоупотребления или инцидентов безопасности, оказания поддержки, устранения неполадок или решения юридических вопросов.
В ChatGPT выберите значок своего профиля, затем перейдите в «Настройки» > «Управление данными» и отключите параметр «Улучшить модель для всех» . На мобильном устройстве откройте боковую панель, выберите значок своего профиля и выполните те же действия.
Замешательство
В Perplexity перейдите в Настройки > Предпочтения > Сохранение данных ИИ и отключите эту настройку.
Компания Perplexity заявляет, что это предотвращает использование данных, собранных после вашего отказа, для обучения моделей ИИ. Это не удаляет данные, собранные ранее, и ваши данные могут по-прежнему обрабатываться для работы и улучшения сервиса или для соблюдения юридических обязательств.
Клод
В приложении Claude выберите свое имя и перейдите в «Настройки» > Privacy . В разделе «Помощь в улучшении наших моделей ИИ» отключите эту настройку.
Компания Anthropic заявляет, что новые чаты и сеансы программирования больше не будут использоваться для обучения модели. Также будет прекращено использование ранее сохраненных разговоров в будущих запусках обучения, хотя данные, уже включенные в обучение, удалить нельзя.
В журнале Anthropic также отмечается одно важное исключение:
Если наши системы классификации безопасности помечают ваши разговоры как содержащие вредоносный контент, они все равно могут быть использованы для улучшения наших внутренних моделей доверия и безопасности, выявления вредоносного контента, обеспечения соблюдения наших правил или продвижения наших исследований в области безопасности.
Если вы используете другие инструменты искусственного интеллекта, проверьте их политику конфиденциальности и настройки, чтобы узнать, могут ли ваши разговоры быть просмотрены или использованы для улучшения модели, и можете ли вы отказаться от этого.
Просматривайте, как будто никто не смотрит.
Malwarebytes Privacy VPN ваше соединение и никогда не регистрирует ваши действия, поэтому следующая статья, которую вы прочитаете, не будет казатьсявам личной.Попробуйте бесплатно →
