У чат-ботов службы поддержки есть одна задача: предоставить пользователю то, о чем он просит, не привлекая к этому человека. Новый ИИ-помощник Meta отнесся к этой задаче чуть слишком серьезно. В течение последних нескольких месяцев злоумышленники открывали окна чата службы поддержки, сообщали боту, что у них заблокирован доступ к чужим Instagram , и уходили с «ключами» от этих аккаунтов.
В минувшие выходные компания Meta выпустила экстренный патч после того, как Instagram , принадлежащие администрации Обамы (в настоящее время неактивные), косметической сети Sephora и высокопоставленному чиновнику Космических сил США, были взломаны и на короткое время заполнены проиранскими изображениями. Жертвой атаки также стала исследовательница в области безопасности и бывшая сотрудница Meta Джейн Манчун Вонг.
Как сработал этот трюк
Атака была проста. Злоумышленники выяснили, где проживает владелец аккаунта (в интернете можно найти списки городов проживания владельцев аккаунтов, либо они могли просто собрать информацию о целевом пользователе). Затем они воспользовались VPN имитировать географическое положение целевого аккаунта, что позволило избежать срабатывания систем безопасности Instagram.
Затем они запустили стандартную процедуру сброса пароля и открыли чат службы поддержки. Они попросили ИИ-бота, отвечающего за поддержку, изменить адрес электронной почты в учетной записи, и тот выполнил их просьбу, отправив одноразовый код прямо в почтовый ящик злоумышленника.
Судя по всему, для этого чат-бот был подключен к системам управления учетными записями Meta с правом вносить изменения в учетные записи, но при этом ему не было объяснено, как убедиться, что он общается с настоящим владельцем учетной записи. Специалисты по безопасности называют такую ситуацию«заместителем, не знающим, что делать». Этот термин существует с 1980-х годов.
Справедливости ради стоит отметить, что злоумышленники добивались успеха даже в тех случаях, когда срабатывала усиленная система безопасности. По всей видимости, они создавали deepfakes жертв, используя изображения, добытые — как вы уже догадались — изInstagram.
Meta попала в собственную ловушку искусственного интеллекта
Компания Meta сокращает штат и вкладывает средства в развитие искусственного интеллекта; в начале этого года она запустила работающего на базе ИИ помощника службы поддержки, призванного помогать в восстановлении учетных записей и обработке других запросов пользователей.
Недостатком является то, что, судя по всему, ИИ получил возможность выполнять такие действия, как изменение адреса электронной почты и сброс пароля, без применения достаточных мер безопасности, необходимых для предварительной проверки личности пользователя.
Руководитель отдела коммуникаций Meta Энди Стоун сообщил в X проблема устранена и меры по обеспечению безопасности затронутых учетных записей принимаются. Компания не раскрыла, сколько учетных записей оказалось затронуто.
Что действительно сработало
Но зачем вообще кому-то взламывать Instagram ? Мотивом может служить месть, но чаще всего целью является финансовая выгода. Злоумышленники шантажировали компании, которые используют эти аккаунты в маркетинговых целях.
Также было замечено, что злоумышленники, использующие эту методику, нацеливаются на аккаунты «OG» с короткими или особо привлекательными именами пользователей. Если вы зарегистрировались Instagram и выбрали запоминающееся имя пользователя, оно может стоить тысячи долларов на теневых рынках.
Что можно сделать, чтобы защитить себя?
Остается актуальным старый добрый совет: включите многофакторную аутентификацию (MFA). По словам опытного журналиста в области кибербезопасности Брайана Кребса, атака не удалась в отношении учетных записей, на которых была включена MFA, в том числе тех, где использовались SMS-коды.
Это не делает MFA идеальной, но добавляет важный уровень защиты.
Поэтому практический совет не отличается особой привлекательностью:
- Откройте настройки Instagram
- Перейдите в Центр учетных записей Meta
- Включите двухфакторную аутентификацию. Приложение-аутентификатор — лучший вариант, чем SMS, но и то, и другое лучше, чем ничего.
Сделайте это прямо сейчас, ведь это еще может не закончиться. Сайт TheCyberSecGuru сообщает, что в сети циркулирует очередная атака, в которой на этот раз используется Android под названием BlueStacks с модифицированной версией Instagram отправки новых запросов со скрытыми символами, предназначенными для манипулирования ИИ.
Ожидайте новых наладов от «полезных» ботов
Это не будет последней атакой на чат-ботов с искусственным интеллектом. По мере того как все больше компаний будут использовать ИИ для сокращения расходов на обслуживание клиентов, уязвимость их систем будет расти, и они будут допускать множество ошибок, пытаясь найти баланс между безопасностью и функциональностью.
Уязвимость Meta устранена, но концепция «запутавшегося помощника» осталась. И нет ничего более опасного, чем запутавшийся ИИ, обладающий доступом к вашей цифровой жизни.
Мошенникам не нужно взламывать ваш компьютер. Им достаточно, чтобы вы один раз нажали кнопку.
Malwarebytes Identity Theft выявляет подозрительную активность, прежде чем она станет проблемой.
