Чем бы вы пожертвовали ради технологии, способной практически на все? Для многих ответ очевиден: всем, чему они считали возможным доверять.
Всего за несколько лет инструменты искусственного интеллекта (ИИ) предоставили людям неограниченный доступ к упрощенному написанию текстов, быстрой генерации изображений, ускоренному программированию, а также практически мгновенным ответам, советам и информации — преимуществам, которые они ценят и которым отдают предпочтение. Однако те же самые инструменты, которые могут приукрасить анкету на сайте знакомств или преобразить старую фотографию, способны также манипулировать широким онлайн-пространством, и люди начинают это замечать.
Согласно новому исследованию компании Malwarebytes, 88 % респондентов отметили, что становится все сложнее определить, какой контент в Интернете является подлинным или реальным, а 84 % заявили, что «убедительные видеозаписи» больше не воспринимаются ими как доказательство. Кроме того, 85 % респондентов отметили, что бывает сложно отличить мошенничество от реальных событий — это значительный рост по сравнению с 66 %, которые высказали такое же мнение в прошлом году.
Это первые признаки мира, созданного искусственным интеллектом. Наполненный поддельными сайтами, поддельными товарами, поддельными видео, поддельными фотографиями, поддельными голосами и даже поддельными людьми, он угрожает поглотить Интернет.
В новом отчете компании Malwarebytes под названием«На первый взгляд: как ИИ меняет представления о доверии, личности и мошенничестве» раскрываются скрытые последствия применения ИИ для общества: рост числа мошеннических схем, подрывающих доверие к реальности и друг к другу.
Ущерб наносится как в крупных, так и в мелких случаях: от родителя из США, который рассказал, что «получил голосовое сообщение, звучавшее в точности как голос моего сына, в котором он говорил, что попал в беду и ему нужны деньги на оплату юридических услуг», до двух совершенно не связанных между собой респондентов, которых обмануло одно и то же сгенерированное ИИ видео с кроликами, прыгающими на батуте, и до человека, обеспокоенного тем, что «мой дедушка показал мне какую-то ерунду, сгенерированную ИИ, а он подумал, что это правда».
В рамках данного исследования Malwarebytes 1 500 взрослых в возрасте от 18 лет и старше в США, Великобритании, Австрии, Германии и Швейцарии, чтобы выяснить их отношение к ИИ, а также их впечатления и опасения в связи с его использованием. Выборка была равномерно распределена по полу, возрасту, географическим регионам и этническим группам, а также была взвешена для обеспечения сбалансированной картины.
С полными результатами можно ознакомиться в полном тексте отчета:
Вот некоторые из основных выводов и результатов:
- 88 % респондентов отметили, что становится все сложнее определить, какой контент в Интернете является подлинно человеческим или реальным
- 84 % респондентов заявили, что убедительные видеозаписи больше не воспринимаются ими как доказательство
- 85 % респондентов отметили, что им сложно отличить мошенничество от настоящего предложения (по сравнению с 66 % в прошлом году)
- 50 % сталкивались с той или иной формой мошенничества с использованием ИИ, например, были введены в заблуждение с помощью сгенерированных ИИ фотографий товаров или получали мошеннические сообщения с высокой степенью персонализации
- 19 % респондентов непосредственно сталкивались с той или иной формой ущерба, нанесенного их личности с помощью ИИ, в том числе 10 %, чьи изображения были использованы кем-то без их разрешения для создания контента сексуального характера с помощью ИИ
- 81 % опрошенных опасаются, что кто-то может украсть изображение их семьи, однако лишь 13 % придумали семейный пароль, чтобы защититься от этого
- 67 % опрошенных обеспокоены проблемой клонирования голоса, однако лишь 19 % отключили запись голосовых сообщений, чтобы предотвратить это
- 45 % опрошенных считают, что использование ИИ для решения личных эмоциональных задач (таких как написание свадебных клятв или прощальной речи) вполне допустимо
- 34 % опрошенных считают, что использование ИИ для создания или улучшения анкеты на сайте знакомств — это нормально
- Каждый третий из тех, кто называет себя ежедневным пользователем ИИ, считает допустимым создавать откровенные изображения человека без его согласия
Считать всё это поражением — значит извлечь из ситуации неверный урок. Да, сейчас в интернете действительно нужна помощь, но есть масса надежных мест, где её можно получить.
Пока Malwarebytes над созданием новых инструментов, мы хотели бы напомнить как тем, кто с опасением относится к искусственному интеллекту, так и его энтузиастам о главном правиле интернета: не забывайте о человеке. Голоса, тела, выбор и право на самостоятельные действия людей принадлежат только им самим.
Что касается поддельных видео, товаров, сайтов и изображений, помните: вам всегда можно найти помощь. Никому не нужно в одиночку пробираться по этому искусственному миру интернета. Будь тосредства обнаружения мошенничества, защита личных данных или просто информированность — у людей есть гораздо больше возможностей, чем они могут себе представить.
