ИИ: угроза, инструмент или и то, и другое?

Отношение общественности к искусственному интеллекту (ИИ) меняется, и мы хотели понять, почему.

Согласно недавнему опросу Pew Research, около половины взрослых считают, что все более широкое применение ИИ в повседневной жизни вызывает у них скорее беспокойство, чем восторг, и за последние несколько лет эта обеспокоенность только усилилась. Больше всего людей беспокоят долгосрочные социальные последствия (сохранение рабочих мест, творчество, межличностные отношения, дезинформация), хотя многие из них и пользуются инструментами ИИ и видят в них определенные практические преимущества, особенно в области анализа данных и выполнения рутинных задач.

Данные более раннего опроса, проведённого в Великобритании, уже свидетельствовали о подобной тенденции. Осведомлённость о широко известных технологиях ИИ, таких как беспилотные автомобили и распознавание лиц, находится на высоком уровне, однако осведомлённость об использовании ИИ при оценке права на социальные пособия, принятии решений о выдаче кредитов или предоставлении услуг по уходу значительно ниже. С 2022 года уровень обеспокоенности по поводу многих из этих сфер применения вырос. Другими словами, люди чувствуют, что ИИ присутствует повсюду, но не всегда понимают, где и как он используется, и это заставляет их проявлять осторожность.

Обычно беспокойство вызывают не столько научно-фантастические сценарии вымирания, сколько социальный и экономический ущерб. Люди больше опасаются потери работы, утраты творческого потенциала, распространения дезинформации и усиления слежки, чем появления роботов-убийц.

Исследования общественного мнения в отношении ИИ неоднократно показывают, что у людей сложились противоречивые взгляды, обусловленные, с одной стороны, восторженными и сенсационными представлениями, а с другой — представлениями об угрозе и антиутопии.

Они видят в этой технологии реальные преимущества, но все больше опасаются того, как её могут использовать компании, правительства и преступники. По сути, люди боятся не самого ИИ, а того, кто его использует и с какой целью.

Кибербезопасность

ИИ в сфере кибербезопасности представляет собой особый случай. На вопрос, в какую область исследований в сфере ИИ они бы вложили неограниченную сумму денег, люди назвали медицину и кибербезопасность.

Все больше людей осознают, что искусственный интеллект сегодня является инструментом, которым пользуются как специалисты по кибербезопасности, так и киберпреступники. Вряд ли кто-то будет чувствовать себя спокойно, если специалисты по кибербезопасности откажутся от использования ИИ, в то время как злоумышленники будут продолжать его внедрять.

Продукты для обеспечения безопасности используют машинное обучение для обработки огромных объемов данных, выявления нестандартного поведения, приоритизации предупреждений и обнаружения угроз быстрее, чем это могли бы сделать аналитики, действуя в одиночку.

В то же время киберпреступники используют искусственный интеллект для создания более убедительных фишинговых писем, клонирования голосов, генерации поддельных изображений и видео, автоматизации сбора информации о жертвах, а также разработки вредоносного ПО, способного обходить традиционные методы обнаружения.

Обе стороны используют инструменты на базе искусственного интеллекта для выявления уязвимостей в программном обеспечении, которые могут быть использованы для мошенничества или взлома систем, поэтому поставщики стремятся устранить эти уязвимости до того, как ими воспользуются киберпреступники.

Хотя исследования постоянно показывают, что кибербезопасность является одной из областей применения ИИ, вызывающих у людей наибольшую озабоченность, при этом они также признают, что ИИ становится всё более необходимым для противостояния современным угрозам. Исследование 2025 года, посвящённое применению ИИ в сфере кибербезопасности, показало, что общественность широко признаёт технические преимущества систем защиты на базе ИИ (скорость, масштабируемость, точность), но при этом по-прежнему обеспокоена вопросами конфиденциальности, предвзятости и сокращения рабочих мест в сфере обеспечения безопасности.

Именно поэтому дискуссии об ИИ в сфере кибербезопасности отличаются от дискуссий во многих других областях. Люди, возможно, испытывают беспокойство по поводу ИИ, но при этом понимают, что угрозы уже не развиваются в темпе, привычном для человека. Злоумышленники уже используют автоматизацию, масштабирование и все чаще — рабочие процессы с использованием ИИ, поэтому специалисты по защите, отказывающиеся адаптироваться, просто будут действовать медленнее и менее эффективно.

Миссия компании Malwarebytes двух частей: снижение рисков, связанных с искусственным интеллектом, и использование ИИ для предотвращения, обнаружения и реагирования на угрозы. Уже почти двадцать лет мы применяем машинное обучение в наших продуктах для обеспечения безопасности, разрабатывая собственные системы обнаружения, которые помогают выявлять вредоносный код и подозрительное поведение в таких масштабах и с такой скоростью, которые были бы недостижимы при ручной работе.

Скоро: Как искусственный интеллект меняет доверие в Интернете

Malwarebytes провела опрос среди 1 500 взрослых жителей США, Великобритании, Австрии, Германии и Швейцарии, посвященный их опыту взаимодействия с искусственным интеллектом. Результаты опроса свидетельствуют о растущей неуверенности в том, чему можно доверять в Интернете, а также о нарастающей обеспокоенности мошенничеством, подделкой личности и обманом с использованием искусственного интеллекта.

Следите за новостями — скоро выйдет полный Malwarebytes о том, как искусственный интеллект меняет представления о доверии, идентичности и мошенничестве.

Безопасное использование ИИ

Если вы используете ИИ в сфере безопасности, строго соблюдайте правила безопасности данных. Не вводите пароли, данные клиентов или конфиденциальные сведения об инцидентах в общедоступные инструменты ИИ. Относитесь к результатам, сгенерированным ИИ, как к недостоверным до тех пор, пока они не будут проверены, особенно если они касаются кода, журналов, индикаторов или решений по политикам безопасности.

ИИ может быть полезен для обобщения информации, выявления закономерностей и создания первых черновых вариантов, однако во всех вопросах, касающихся доступа, сдерживания угроз, принятия юридических решений или общественных коммуникаций, необходимо сохранять участие человека. По возможности отдавайте предпочтение корпоративным или локальным решениям, обеспечивающим ведение журналов, контроль доступа и четкие правила хранения данных.

Также помните, что ИИ может с уверенностью выдавать ложные результаты. В сфере информационной безопасности это означает, что перед тем, как принимать какие-либо меры, каждый результат необходимо сверять с журналами, документацией, исходным кодом или другими первоисточниками.