Чем бы вы пожертвовали ради технологии, способной практически на все? Для многих ответ очевиден: всем, чему они считали возможным доверять.
Всего за несколько лет инструменты искусственного интеллекта (ИИ) предоставили людям неограниченный доступ к упрощенному написанию текстов, быстрой генерации изображений, ускоренному программированию, а также практически мгновенным ответам, советам и информации — преимуществам, которые они ценят и которым отдают предпочтение. Однако те же самые инструменты, которые могут приукрасить анкету на сайте знакомств или преобразить старую фотографию, способны также манипулировать широким онлайн-пространством, и люди начинают это замечать.
Согласно новым исследованиям, Malwarebytes 88% опрошенных заявили, что становится все сложнее отличить подлинный контент в интернете от реального, а 84% отметили, что «убедительные видеодоказательства» больше не воспринимаются как подтверждение. Кроме того, 85% заявили, что стало трудно отличить мошенничество от реальности — это значительный рост по сравнению с 66%, которые говорили то же самое в прошлом году .
Это первые признаки мира, созданного искусственным интеллектом. Наполненный поддельными сайтами, поддельными товарами, поддельными видео, поддельными фотографиями, поддельными голосами и даже поддельными людьми, он угрожает поглотить Интернет.
Последний отчет от Malwarebytes Книга « Лицо: как ИИ меняет доверие, идентичность и мошенничество » раскрывает скрытую цену, которую ИИ платит общественности: чрезмерное мошенничество, разрушающее доверие к реальности и друг к другу.
Ущерб наносится как в крупных, так и в мелких случаях: от родителя из США, который рассказал, что «получил голосовое сообщение, звучавшее в точности как голос моего сына, в котором он говорил, что попал в беду и ему нужны деньги на оплату юридических услуг», до двух совершенно не связанных между собой респондентов, которых обмануло одно и то же сгенерированное ИИ видео с кроликами, прыгающими на батуте, и до человека, обеспокоенного тем, что «мой дедушка показал мне какую-то ерунду, сгенерированную ИИ, а он подумал, что это правда».
Для данного исследования, Malwarebytes В ходе исследования были опрошены 1500 взрослых в возрасте 18 лет и старше из США, Великобритании, Австрии, Германии и Швейцарии об их использовании ИИ, чувствах и опасениях по поводу него. Выборка была равномерно распределена по полу, возрасту, географическим регионам и расовым группам, а также взвешена для обеспечения сбалансированного представления данных.
С полными результатами можно ознакомиться в полном тексте отчета:
Вот некоторые из основных выводов и результатов:
- 88 % респондентов отметили, что становится все сложнее определить, какой контент в Интернете является подлинно человеческим или реальным
- 84 % респондентов заявили, что убедительные видеозаписи больше не воспринимаются ими как доказательство
- 85 % респондентов отметили, что им сложно отличить мошенничество от настоящего предложения (по сравнению с 66 % в прошлом году)
- 50 % сталкивались с той или иной формой мошенничества с использованием ИИ, например, были введены в заблуждение с помощью сгенерированных ИИ фотографий товаров или получали мошеннические сообщения с высокой степенью персонализации
- 19 % респондентов непосредственно сталкивались с той или иной формой ущерба, нанесенного их личности с помощью ИИ, в том числе 10 %, чьи изображения были использованы кем-то без их разрешения для создания контента сексуального характера с помощью ИИ
- 81 % опрошенных опасаются, что кто-то может украсть изображение их семьи, однако лишь 13 % придумали семейный пароль, чтобы защититься от этого
- 67 % опрошенных обеспокоены проблемой клонирования голоса, однако лишь 19 % отключили запись голосовых сообщений, чтобы предотвратить это
- 45 % опрошенных считают, что использование ИИ для решения личных эмоциональных задач (таких как написание свадебных клятв или прощальной речи) вполне допустимо
- 34 % опрошенных считают, что использование ИИ для создания или улучшения анкеты на сайте знакомств — это нормально
- Каждый третий из тех, кто называет себя ежедневным пользователем ИИ, считает допустимым создавать откровенные изображения человека без его согласия
Считать всё это поражением — значит извлечь из ситуации неверный урок. Да, сейчас в интернете действительно нужна помощь, но есть масса надежных мест, где её можно получить.
Пока Malwarebytes В процессе разработки новых инструментов мы хотели бы напомнить как тем, кто обеспокоен развитием ИИ, так и тем, кто полон энтузиазма, о первом правиле интернета: помните о человеке. Голоса, тела, выбор и свобода воли людей принадлежат им и только им.
Что касается поддельных видео, товаров, сайтов и изображений, помните: вам всегда можно найти помощь. Никому не нужно в одиночку пробираться по этому искусственному миру интернета. Будь тосредства обнаружения мошенничества, защита личных данных или просто информированность — у людей есть гораздо больше возможностей, чем они могут себе представить.
