В пятницу Пентагон США разорвал отношения с Anthropic, компанией, стоящей за Claude AI. Министр обороны Пит Хегсет назвал эту компанию из Сан-Франциско «угрозой национальной безопасности в сфере цепочки поставок».
Обозначение риска в цепочке поставок означает, что ни один подрядчик, поставщик или партнер, ведущий бизнес с вооруженными силами США, не может иметь дело с Anthropic. Однако ранее этот ярлык применялся только к иностранным противникам, таким как Huawei, и его использование в отношении американской компании знаменует собой редкий случай эскалации спора между правительством и промышленностью. Согласно сообщениям, президент Дональд Трамп также приказал всем федеральным агентствам прекратить использование технологий Anthropic.
Что Anthropic не согласился бы изменить
Anthropic назвала это решение «незаконным и политически мотивированным» и заявила, что намерена оспорить его в суде.
В центре спора лежит вопрос о том, насколько, по мнению Anthropic, ее модели должны быть допущены к использованию в военных системах. Anthropic, которая была первой компанией, занимающейся передовыми разработками в области искусственного интеллекта, внедренными в секретные сети военных, хотела ввести два договорных ограничения на свою модель искусственного интеллекта Claude, как указано в ее ответе на заявление Пентагона. Она запретила Пентагону использовать свою технологию для массовой внутренней слежки за американцами и не хотела, чтобы ее технология применялась в полностью автономном оружии.
Пентагон ранее требовал, чтобы все поставщики ИИ согласились с формулировкой «все законные цели» в рамках своих контрактов. Anthropic сообщила ABC, что то, что в конечном итоге предложил Пентагон, оставило правительству возможность нарушить положения компании о запрете на слежку и использование оружия.
Министр обороны Хегсет ответил заявлением об отмене контракта Anthropic с Пентагоном на сумму 200 миллионов долларов, заключенного в июле прошлого года. Он обвинил Anthropic в попытке получить право вето на военные операции и назвал позицию компании принципиально несовместимой с американскими принципами.
Генеральный директор Anthropic Дарио Амодей назвал реакцию правительства ответной и карательной и пообещал оспорить это решение в суде.
Юристы полагают, что компания, занимающаяся искусственным интеллектом, может иметь веские аргументы, ставя под сомнение то, что Хегсет может соответствовать установленным законом требованиям для такого обозначения, которое, как утверждается, предназначено для защиты военных систем от враждебного саботажа, а не для разрешения коммерческого спора по поводу условий контракта.
Дэн У. Болл, старший научный сотрудник Американского фонда инноваций, назвал шаг Пентагона «попыткой корпоративного убийства», argumenting that Google, Amazon, and NVIDIA would have to detach themselves from Anthropic if Hegseth got his way. Amazon основным поставщиком облачных вычислений для Anthropic, но также широко использует дата-центры Google. Обе компании являются инвесторами Anthropic, как и NVIDIA, которая также сотрудничает с этой ИИ-компанией в области разработки графических процессоров. Если решение Пентагона ограничит федеральных подрядчиков в интеграции технологий Anthropic в системы, связанные с обороной, эти партнеры могут быть вынуждены отделить или оградить любую работу, связанную с федеральными органами, в которой участвует эта компания.
OpenAI вступает в игру
В вихре политических изменений в американских вооруженных силах Пентагон также подписал соглашение с создателем ChatGPT, компанией OpenAI, в пятницу вечером, всего через несколько часов после отказа от Anthropic.
Генеральный директор OpenAI Сэм Альтман заявил, что соглашение сохраняет те же принципы, за защиту которых компания Anthropic была занесена в черный список.
По словам Альтмана, разница заключается в механизме обеспечения соблюдения. Вместо жестких договорных запретов OpenAI приняла концепцию «всех законных целей», но добавила к ней архитектурные меры контроля: развертывание только в облаке, проприетарный стек безопасности, который Пентагон согласился не переопределять, и прошедшие проверку инженеры, встроенные в систему. OpenAI заявила, что эти меры защиты дают компании уверенность в том, что Пентагон не сможет пересечь красные линии, которые она разделяет с Anthropic.
По сообщениям, Альтман заявил, что подход Anthropic отличался тем, что опирался на конкретные формулировки контракта, а не на существующие правовые гарантии, добавив, что Anthropic «возможно, хотела получить больше операционного контроля, чем мы».
На следующее утро
Политический спор не привел к немедленным изменениям в работе существующих систем. Согласно сообщениям The Wall Street Journal и Axios, Центральное командование США использовало ИИ Anthropic во время операции Epic Fury, скоординированной операции США и Израиля, направленной против Ирана. Издания сообщили, что система использовалась для оценки разведывательных данных, анализа целей и оперативного моделирования.
Claude продолжал использоваться, поскольку он уже был встроен в определенные секретные военные системы. Как ранее сообщил Axios высокопоставленный представитель министерства обороны:
«Разбираться в этом будет очень сложно, и мы позаботимся о том, чтобы они поплатились за то, что заставили нас пойти на такие меры».
Хегсет объявил о шестимесячном периоде, в течение которого Пентагон удалит искусственный интеллект Anthropic из своих систем.
Потребители голосуют ногами
Этот спор также вызвал реакцию со стороны некоторых сотрудников и пользователей индустрии искусственного интеллекта. Более 875 сотрудников Google и OpenAI подписали открытое письмо в поддержку позиции Anthropic. Согласно этому письму:
«Они пытаются разделить каждую компанию, опасаясь, что другая уступит. Эта стратегия работает только в том случае, если никто из нас не знает, какую позицию занимают другие».
Потребительский бойкот, организованный под названием QuitGPT, проводит кампанию по отказу от использования ChatGPT, а также протест у штаб-квартиры OpenAI на этой неделе. Claude также взлетел на вершину рейтинга Apple App Store в минувшие выходные.
Мы не просто сообщаем об угрозах - мы их устраняем
Риски кибербезопасности не должны выходить за рамки заголовка. Загрузите Malwarebytes сегодня, чтобы предотвратить угрозы на своих устройствах.
