Правительство США обязало компанию Anthropic прекратить работу своих новейших моделей Claude Fable 5 и Mythos 5 из-за опасений, что они могут быть использованы злоумышленниками.
Агентство Reuters сообщает, что компания Anthropic заявила о намерении «внезапно отключить» свои самые передовые модели искусственного интеллекта для всех пользователей после того, как правительство США обязало её приостановить доступ к этим моделям для иностранных граждан, сославшись на соображения национальной безопасности.
По имеющимся данным, представители компании считают, что взлом системы может превратить Fable 5 и Mythos 5 в инструменты для обнаружения уязвимостей со стороны злоумышленников, поэтому Anthropic заявляет, что отключает эти сервисы по всему миру, а не пытается фильтровать доступ по национальности, поскольку проверить гражданство каждого пользователя практически невозможно.
В заявлении, опубликованном на своем сайте, компания Anthropic сообщает:
«В письме не приводилось конкретных сведений о том, в чём именно заключаются опасения по поводу национальной безопасности. Насколько мы понимаем, правительство полагает, что ему стало известно о способе обхода защиты, или «джейлбрейка», системы Fable 5. Мы ознакомились с демонстрацией применения данной конкретной методики для выявления небольшого числа ранее известных незначительных уязвимостей. Все эти уязвимости кажутся относительно простыми, и мы установили, что другие общедоступные модели также способны их обнаруживать без необходимости обхода защиты».
Mythos 5 — это закрытая полная версия, которая в настоящее время используется исключительно государственными учреждениями и отдельными корпоративными партнерами для усиления защиты своих систем. Fable 5 — это модель класса Mythos, которая, как предполагается, должна быть безопасной для широкого использования.
Мне кажется логичным, что если Fable 5 легко взломать, то на него должны распространяться те же ограничения, что и на Mythos 5. Однако в компании Anthropic утверждают, что в модели предусмотрены встроенные меры безопасности, благодаря которым на запросы по некоторым темам будет отвечать следующая по мощности модель — Claude Opus 4.8.
Отношения между правительством США и компанией Anthropic продемонстрировали признаки смягчения в некоторых кругах американской администрации после обострения напряженности, связанной с вопросами военного применения, слежения и автономного оружия. В марте министр обороны Пит Хегсет назвал эту компанию из Сан-Франциско «угрозой национальной безопасности в цепочке поставок».
Чтобы понять суть спора, необходимо осознать, что Mythos 5 во многих отчетах описывается как особенно эффективный инструмент для выявления уязвимостей в программном обеспечении, в том числе давно существующих ошибок в сложных устаревших системах, таких как системы банковского сектора и других объектов критически важной инфраструктуры. Многие считают, что данная технология имеет двойное назначение: она отлично подходит для укрепления систем защиты, но может привести к катастрофическим последствиям, если попадет в чужие руки.
В последних обновлениях от крупных поставщиков программного обеспечения, таких как Microsoft и Google, мы наблюдаем рост числа устраненных уязвимостей после того, как эти компании начали использовать поиск новых уязвимостей в собственном ПО с помощью искусственного интеллекта. Известно также, что компания Mozilla обнаружила более270 уязвимостей в Firefoxс помощью новой модели Claude Mythos от Anthropic.
Что это означает
В недобросовестных руках эти уязвимости могут нанести значительный ущерб. Похоже, что пройдет некоторое время, прежде чем обычные пользователи и разработчики получат полный доступ к Fable 5 и Mythos 5. Однако существующие модели Anthropic (более старые версии Claude) по-прежнему доступны.
Для домашних пользователей, которые просто общались с Клодом или использовали его для написания простых скриптов, это изменение в основном проявится в виде сообщения «эта конкретная версия недоступна», а не в виде полного отключения ИИ.
Изъятие из широкого оборота высокотехнологичной модели обнаружения уязвимостей лишь в незначительной степени увеличивает объем усилий, необходимых киберпреступникам с ограниченными ресурсами для автоматизации поиска сложных ошибок в программном обеспечении и сервисах, предназначенных для конечных пользователей. На черном рынке доступны и другие модели, которые могут оказаться не менее эффективными. А для большинства киберпреступников гораздо важнее превратить уязвимость в метод, который они смогут использовать в эксплойте.
Мы не просто сообщаем об угрозах - мы их устраняем
Риски кибербезопасности не должны выходить за рамки заголовка. Загрузите Malwarebytes сегодня, чтобы предотвратить угрозы на своих устройствах.
