Самая мощная на сегодняшний день модель компании Anthropic, Claude Mythos Preview (также известная как Mythos), была охарактеризована как «прорыв» в области производительности ИИ, особенно при решении задач кибербезопасности.
Компания Anthropic пыталась сохранить Mythos в секрете до тех пор, пока несколько недель назад утечка данных не раскрыла существование того, что, по заявлению компании, является её самым мощным на сегодняшний день искусственным интеллектом. Эта модель рассматривается как мощный инструмент защиты и, потенциально, как серьёзное кибероружие наступательного назначения.
По этой причине компания резко ограничивает доступ к технологии и дает понять, что на данный момент не планирует широко выпускать её на рынок. Её заявленная способность самостоятельно выявлять и даже связывать воедино программные уязвимости в больших масштабах лежит в основе как ажиотажа вокруг этой технологии, так и связанной с ней опасности.
Представьте себе инструмент, способный самостоятельно находить новые уязвимости в программном обеспечении, системах и платформах, а затем превращать их в эксплойты, даже если для этого потребуется объединить их с другими уязвимостями.
В неправильных руках это может стать серьезной угрозой для нашей кибербезопасности. Поэтому компания Anthropic ограничила доступ к своей технологии небольшому числу организаций по всему миру, включая крупные технологические компании и избранную группу государственных органов и структур безопасности. По имеющимся данным, АНБ уже использует Mythos Preview, по-видимому, для проведения нагрузочных испытаний и укрепления защищенности критически важных систем, несмотря на то, что Пентагон классифицировал Anthropic как источник риска в цепочке поставок.
Mythos способен выявлять уязвимости в обширных кодовых базах быстрее и надежнее, чем существующие инструменты, а также может находить несколько уязвимостей в одной системе и объединять их в многоэтапные цепочки эксплойтов для полного взлома системы (например, переходя от простого веб-жучка к полному захвату домена). Охотнику за багами потребовались бы месяцы, чтобы найти еще одну уязвимость, не говоря уже о той, которую можно было бы объединить с уже обнаруженной (или обнаруженными). Добиться этого до обнаружения первой уязвимости было бы крайне маловероятно.
На практике это может означать более быстрые атаки, более сложные взломы и меньше времени у компаний на устранение уязвимостей до того, как ими воспользуются злоумышленники.
Сама компания Anthropic подчеркнула, что Mythos способен работать с минимальным контролем в течение длительного времени, а это означает, что он может проводить систематические атаки в масштабах, недостижимых для любой команды людей.
Компания Anthropic указала на эти угрозы безопасности во внутреннем документе:
- ИИ снижает минимальный уровень квалификации, необходимый для проведения атакующих операций. Даже малоопытные злоумышленники могут получить доступ к весьма эффективным инструментам, что приведет к значительному росту числа сложных атак.
- Такие методы, как фаззинг, словарные атаки и другие методы перебора, становятся гораздо эффективнее при ускорении за счет автоматизации. Итерации с использованием искусственного интеллекта позволяют злоумышленнику совершить гораздо больше попыток, прежде чем атака будет обнаружена.
Однако наиболее тревожным выводом стало то, что на текущем этапе развития ИИ стороны, занимающиеся атаками, внедряют новые технологии быстрее, а специалисты по безопасности, как правило, начинают использовать инструменты ИИ позже, чем их противники.
Как известно, искусственный интеллект в сфере кибербезопасности работает в обоих направлениях. Он помогает нам защищаться от новых угроз, но может также использоваться для их создания. Именно поэтому в недобрых руках Mythos может оказаться грозным противником.
Цель остается прежней, но путь к ней прокладывают такие инструменты, как Mythos. С точки зрения злоумышленника в конечной цели нет ничего нового. Новизна заключается в том, что Mythos теперь автоматизирует создание карты, подготовку средства передвижения и большую часть самого процесса.
Мы не просто сообщаем об угрозах - мы их устраняем
Риски кибербезопасности не должны выходить за рамки заголовка. Загрузите Malwarebytes сегодня, чтобы предотвратить угрозы на своих устройствах.
