Напоминаем тем, кто считает свои чаты с ИИ приватными: человек может увидеть то, что они загружают. В отчете 404 Media на этой неделе описывается, как подрядчики просматривают фотографии пользователей Copilot, запросы на редактирование и изображения, создаваемые Copilot. Часть увиденного вызывает тревогу.
Сторонние компании, нанятые для проведения этих проверок, предоставляют своим сотрудникам оригинальную фотографию и запрос пользователя на редактирование. Им также показывают два потенциальных варианта редактирования с помощью ИИ и просят оценить каждый из них по техническим параметрам. Поскольку это интернет, это выходит далеко за рамки просьб одеть кошку в костюм на Хэллоуин. Многие запросы носят сексуальный характер, а некоторые касаются детей, говорится в отчете. Лица на оригинальных фотографиях не подвергаются цензуре, а это значит, что проверяющие могут видеть, кто изображен на снимках.
В числе запросов на редактирование и результатов, которые приходится оценивать рецензентам, есть просьбы укоротить юбки, увеличить части тела и изобразить людей в сексуальных позах. Во многих случаях редактирование выглядит как несанкционированное. Например, один подрядчик упомянул, что ему показывали несколько наборов фотографий, снятых снизу вверх. Другой сказал, что его попросили оценить изображения с фетишем на ноги у персонажей детских мультфильмов. Пользователи просили Copilot создать изображения Арианы Гранде, страдающей анорексией. Изображения, изображающие жертвоприношение животных, попали на стол одного из рецензентов.
Опрошенные рассказали изданию 404 Media, что подрядчикам платят за оценку качества изображения, но не за выявление неприемлемого контента. Они проверяют такие вещи, как правильность выполнения инструкций, сохранность или искажение частей изображения, а также общий вид изображения. Они не выносят юридических или безопасных суждений о содержании.
Microsoft использует данные клиентов из некоторых учетных записей для улучшения своих продуктов. Но когда 404 Media обратилась к компании с вопросом, она не уточнила, могут ли пользователи исключать загруженные файлы из этих задач по оценке.
В разделе часто задаваемых вопросов Privacy для старой потребительской версии Copilot Microsoft заявляет, что по умолчанию хранит переписку в течение 18 месяцев, хотя пользователи могут удалить ее в любое время. Компания также сообщает, что может использовать данные, «включая изображения или файлы, которые вы загружаете», для обучения ИИ. Пользователи, имеющие на это право, могут отказаться от обучения, но в разделе часто задаваемых вопросов указано, что отказ от некоторых проверок, проводимых людьми, недоступен. Не уточняется, относится ли это к задачам оценки изображений, описанным 404 Media.
Microsoft заявляет, что обновленное потребительское приложение Copilot, доступное с 18 августа, не использует подсказки, ответы или содержимое загруженных файлов для обучения базовых моделей. Однако остается вопрос , заданный Microsoft изданием 404 Media: могут ли пользователи предотвратить проверку изображений людьми , чтобы их загруженные файлы не подвергались проверке человеком?
Предыдущие проблемы с имиджем компании Copilot
Ранее инсайдеры Microsoft предупреждали о склонности Copilot к созданию сомнительных изображений.
В начале 2024 года инженер по машинному обучению Шейн Джонс публично выразил обеспокоенность по поводу возможности обхода защитных механизмов в инструменте преобразования текста в изображение DALL-E 3. Ранее он просил компанию удалить Copilot Designer, использующий этот инструмент, из публичного доступа на три месяца, но, по его словам, Microsoft отказалась. Как он тогда сообщил CNBC , команда по работе с отзывами получала более 1000 сообщений об ошибках в продукте ежедневно и занималась только самыми серьезными из них.
Одновременно с этим Microsoft устранила уязвимость в Copilot Designer, которая позволяла создавать интимные deepfakes с участием Тейлор Свифт без её согласия .
Microsoft — не единственная компания, которая нанимает подрядчиков для анализа чатов с использованием ИИ. OpenAI делает то же самое в рамках своей инициативы Project Lily . Если вы хотите узнать больше о том, как ИИ-помощники используют данные ваших разговоров для самосовершенствования и что вы можете сделать, чтобы это предотвратить, читайте далее. Malwarebytes « Руководство по обучению ИИ на пользовательском контенте».
От сообщения об угрозах до их устранения.
Риски кибербезопасности не должны выходить за рамки заголовка. Загрузите Malwarebytes сегодня, чтобы предотвратить угрозы на своих устройствах.
