У чат-ботов службы поддержки клиентов одна задача: предоставить пользователю необходимую информацию, не беспокоя человека. Новый ИИ-помощник службы поддержки от Meta отнёсся к этой задаче слишком серьёзно. В последние несколько месяцев злоумышленники открывали чаты поддержки, сообщая боту, что их доступ заблокирован. Instagram Они забирали с собой не принадлежавшие им счета и уходили с ключами.
В выходные компания Meta выпустила экстренное обновление после Instagram Аккаунты, принадлежащие администрации Обамы (сейчас неактивные), сети магазинов косметики Sephora и высокопоставленному чиновнику Космических сил США, были взломаны и на короткое время испорчены проиранскими изображениями. Пострадала также исследовательница в области безопасности и бывшая сотрудница Meta Джейн Манчун Вонг.
Как сработал этот трюк
Атака была простой. Злоумышленники выяснили, где проживает владелец аккаунта (в интернете есть списки городов проживания владельцев аккаунтов, или они могли просто найти информацию о цели). Затем они использовали... VPN чтобы соответствовать географическому региону целевой учетной записи, что позволяло избежать возникновения проблем. Instagram системы безопасности компании.
Затем они запустили стандартную процедуру сброса пароля и открыли чат службы поддержки. Они попросили ИИ-бота, отвечающего за поддержку, изменить адрес электронной почты в учетной записи, и тот выполнил их просьбу, отправив одноразовый код прямо в почтовый ящик злоумышленника.
Судя по всему, для этого чат-бот был подключен к системам управления учетными записями Meta с правом вносить изменения в учетные записи, но при этом ему не было объяснено, как убедиться, что он общается с настоящим владельцем учетной записи. Специалисты по безопасности называют такую ситуацию«заместителем, не знающим, что делать». Этот термин существует с 1980-х годов.
Справедливости ради, стоит отметить, что злоумышленники добились успеха, даже несмотря на срабатывание усиленной защиты. По всей видимости, они создавали видео. deepfakes Для определения целей они использовали изображения, полученные, как вы уже догадались, из… Instagram .
Meta попала в собственную ловушку искусственного интеллекта
Компания Meta сокращает штат и вкладывает средства в развитие искусственного интеллекта; в начале этого года она запустила работающего на базе ИИ помощника службы поддержки, призванного помогать в восстановлении учетных записей и обработке других запросов пользователей.
Недостатком является то, что, судя по всему, ИИ получил возможность выполнять такие действия, как изменение адреса электронной почты и сброс пароля, без применения достаточных мер безопасности, необходимых для предварительной проверки личности пользователя.
Исполнительный директор по коммуникациям компании Meta Энди Стоун заявил об этом. X Компания заявила, что проблема решена и затронутые учетные записи защищены. Количество затронутых учетных записей не разглашается.
Что действительно сработало
Зачем кому-либо взламывать Instagram И всё же, аккаунт? Месть может быть движущей силой, но чаще всего целью является финансовая выгода. Злоумышленники шантажируют компании, которые используют эти аккаунты для маркетинга.
Также было замечено, что злоумышленники, использующие эту технику, нацелены на «старые» аккаунты с короткими или очень привлекательными именами пользователей. Если вы присоединились Instagram Если человек рано зарегистрировал запоминающийся никнейм, то на подпольных рынках его акции могут стоить тысячи долларов.
Что можно сделать, чтобы защитить себя?
Остается актуальным старый добрый совет: включите многофакторную аутентификацию (MFA). По словам опытного журналиста в области кибербезопасности Брайана Кребса, атака не удалась в отношении учетных записей, на которых была включена MFA, в том числе тех, где использовались SMS-коды.
Это не делает MFA идеальной, но добавляет важный уровень защиты.
Поэтому практический совет не отличается особой привлекательностью:
- Открыть Instagram Настройки
- Перейдите в Центр учетных записей Meta
- Включите двухфакторную аутентификацию. Приложение-аутентификатор — лучший вариант, чем SMS, но и то, и другое лучше, чем ничего.
Сделайте это сейчас, потому что это может ещё не закончиться. TheCyberSecGuru сообщает о новой атаке, на этот раз с использованием... Android эмулятор под названием BlueStacks, работающий на модифицированной версии Instagram отправлять новые подсказки со скрытыми символами, предназначенные для манипулирования ИИ.
Ожидайте новых наладов от «полезных» ботов
Это не будет последней атакой на чат-ботов с искусственным интеллектом. По мере того как все больше компаний будут использовать ИИ для сокращения расходов на обслуживание клиентов, уязвимость их систем будет расти, и они будут допускать множество ошибок, пытаясь найти баланс между безопасностью и функциональностью.
Уязвимость Meta устранена, но концепция «запутавшегося помощника» осталась. И нет ничего более опасного, чем запутавшийся ИИ, обладающий доступом к вашей цифровой жизни.
Мошенникам не нужно взламывать ваш компьютер. Им достаточно, чтобы вы один раз нажали кнопку.
Malwarebytes Identity Theft Protection выявляет подозрительную активность до того, как она станет проблемой.
