Компания OpenAI сталкивается с отдельными юридическими проблемами, связанными с тем, как ChatGPT взаимодействует с детьми.
Газета The Guardian сообщает , что восемь штатов США обвиняют компанию в том, что она вводила родителей в заблуждение относительно безопасности чат-бота и подвергала уязвимых пользователей опасным разговорам. Отдельно CNET сообщает , что мать, подавшая иск от имени своих двоих детей, утверждает, что OpenAI собирала и использовала конфиденциальную личную информацию детей без действительного согласия родителей.
Эти случаи поднимают серьезные вопросы о том, что происходит, когда дети доверяют чат-боту свои самые сокровенные мысли, и какую ответственность несет компания, разработавшая этот чат-бот, за последующие разговоры.
Обвинения серьезны, но мы должны помнить, что это всего лишь предположения в рамках судебных исков, а не установленные судом решения.
Восемь штатов оспаривают безопасность ChatGPT.
14 октября генеральные прокуроры штатов Айова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана подали отдельные иски против OpenAI. В рамках скоординированного иска компания обвиняется в обмане родителей относительно безопасности ChatGPT и нарушении законов штатов о защите прав потребителей.
Власти утверждают, что чат-бот был разработан таким образом, чтобы быть «чрезмерно любезным и имитировать человеческое сострадание». Адвокаты приводят примеры того, как ChatGPT якобы подвергал опасности уязвимых пользователей, включая детей, подстрекая их к самоубийству или причинению вреда другим.
Компания OpenAI заявляет, что внедрила в свои продукты меры защиты, учитывающие возрастные особенности, и продолжит разработку аналогичных мер.
В отдельном судебном процессе рассматривается вопрос о конфиденциальной информации детей.
За день до того, как штаты подали свои иски, мать из Гавайев подала коллективный иск от имени своей 12-летней дочери и 16-летнего сына. В иске, поданном в федеральный суд Сан-Франциско, утверждается, что компания OpenAI получила конфиденциальную информацию от детей, зарегистрировавшихся в ChatGPT без действительного разрешения родителей.
В условиях использования OpenAI пользователям младше 18 лет требуется разрешение родителей или законного опекуна. Однако в жалобе утверждается, что дети могут создавать учетные записи без проверки OpenAI наличия такого разрешения. В ней также описывается случай, когда ребенок младше установленного сервисом минимального возраста в 13 лет продолжал использовать чат-бота, даже не указав ему свой возраст.
Истцы утверждают, что компания использовала информацию о детях для обучения своих моделей искусственного интеллекта без действительного согласия родителей. Они также заявляют, что OpenAI собирала информацию для создания персональных профилей.
Компания OpenAI оспаривает эти утверждения, называя иск «ошибочным» и указывая на предусмотренные в нем меры защиты для молодых пользователей.
Родительский контроль
Компания OpenAI представила ChatGPT для подростков с дополнительными функциями родительского контроля и оповещениями, предназначенными для уведомления родителей в ограниченных ситуациях, связанных с серьезными опасениями по поводу самоповреждения. Однако эффективность этих мер защиты сама по себе подвергается сомнению. Ранее в этом месяце Common Sense Media оценила ChatGPT для подростков как «неприемлемый риск», сообщив, что в ходе тестирования были выявлены сбои в оповещениях родителей во время разговоров, касающихся самоубийства, самоповреждения или расстройств пищевого поведения.
Компания OpenAI оспаривает эти выводы и заявляет, что ее оповещения о безопасности охватывают ограниченные ситуации и могут не выявлять все проблемы. Но пока что вопрос родительского контроля остается предметом спора.
Как обеспечить безопасность ваших детей
Родителям не следует компенсировать небезопасный дизайн продукта. К сожалению, мы не можем рассматривать родительский контроль как гарантию безопасности. Поэтому вот практические шаги, которые семьи могут предпринять для снижения рисков:
- Объясните, что чат-бот — это программное обеспечение, а не друг или психотерапевт. Доброжелательный тон не означает, что он понимает вашего ребенка или желает ему добра. Установите четкую границу: вопросы о психическом здоровье, самоповреждении или личной безопасности следует задавать доверенному взрослому или квалифицированному специалисту, а не чат-боту.
- Поговорите с ребенком о том, для чего он использует ИИ, но не превращайте это в допрос. Попросите его показать вам приложения, которыми он пользуется, и что ему в них нравится. Дайте понять, что он может рассказать вам о любом неприятном или неуместном разговоре, не опасаясь обвинений. Если ему неудобно говорить с вами, помогите ему найти другого взрослого, которому он доверяет.
- Поощряйте детей не указывать личную информацию в своих запросах. Это включает имена, данные о школе, адреса, личные фотографии, а также конфиденциальную информацию о здоровье или семье. В случае с ChatGPT родители, имеющие связанные учетные записи подростков, также могут отключить обучение модели и сохранение памяти. Хотя эти настройки уменьшают некоторые способы использования их информации, они не являются основанием рассматривать чат-бота как конфиденциальный дневник.
- Обратите внимание на растущую эмоциональную зависимость от ИИ. Если вы заметите, что ваш ребенок все чаще обращается к ИИ за поддержкой, дружбой или эмоциональной помощью, поинтересуйтесь его состоянием и помогите ему восстановить связь с людьми, которым он доверяет.
Если ваш ребенок говорит о самоповреждении или суициде, отнеситесь к этому серьезно и незамедлительно обратитесь за помощью. Свяжитесь с квалифицированным медицинским работником или службой экстренной помощи. При непосредственной опасности обратитесь в местные службы экстренной помощи. Не ждите, пока чат-бот или уведомление для родителей подскажут вам, что нужно действовать.
Давайте посмотрим правде в глаза: окно в режиме инкогнито имеет свои ограничения.
Утечки данных, торговля в даркнете, мошенничество с кредитными картами. Malwarebytes Identity Theft отслеживает все эти угрозы, оперативно предупреждает вас и включает в себя страховку от кражи личных данных.
