ИИ в киберпространстве Security: риски ИИ
Искусственный интеллект (ИИ) уже давно совершенствует средства кибербезопасности. Например, инструменты машинного обучения позволили повысить эффективность программ сетевой безопасности, защиты от вредоносного ПО и обнаружения мошенничества, поскольку они находят аномалии гораздо быстрее, чем человек. Однако ИИ также представляет опасность для кибербезопасности. Грубая сила, отказ в обслуживании (DoS) и атаки социальной инженерии - вот лишь некоторые примеры угроз, в которых используется ИИ.
Риски искусственного интеллекта для кибербезопасности будут стремительно расти по мере того, как инструменты ИИ будут становиться все дешевле и доступнее. Например, можно обманом заставить ChatGPT написать вредоносный код или письмо от Элона Маска с просьбой о пожертвованиях,
Кроме того, с помощью ряда инструментов deepfake можно создавать удивительно убедительные поддельные аудиодорожки или видеоклипы с минимальным количеством обучающих данных. Кроме того, растет обеспокоенность по поводу конфиденциальности, поскольку все больше пользователей предпочитают делиться конфиденциальной информацией с искусственным интеллектом.
Прочитайте это подробное руководство, чтобы узнать больше:
- Определение ИИ.
- Риски искусственного интеллекта.
- ИИ в кибербезопасности.
- ИИ и риски для конфиденциальности.
Что такое ИИ: искусственный интеллект
ИИ, или искусственный интеллект, - это разработка компьютерных систем, способных выполнять задачи и принимать решения, которые обычно требуют человеческого интеллекта. Он включает в себя создание алгоритмов и моделей, которые позволяют машинам обучаться на основе данных, распознавать закономерности и адаптироваться к новой информации или ситуации.
Проще говоря, ИИ - это обучение компьютеров думать и учиться, как люди. Он позволяет машинам обрабатывать и анализировать большие объемы данных, выявлять закономерности и аномалии, а также делать прогнозы и принимать решения на основе этой информации. ИИ может применяться в различных областях, таких как распознавание изображений и речи, обработка естественного языка, робототехника, кибербезопасность и т. д.
В целом ИИ призван имитировать человеческий интеллект для решения сложных проблем, автоматизации задач, повышения эффективности и точности в различных областях.
Машинное обучение и глубокое обучение
Машинное обучение (ML) - это широко распространенная подгруппа ИИ. Алгоритмы и методы ML позволяют системам обучаться на основе данных и принимать решения без явного программирования.
Глубокое обучение (ГОО) - это подмножество ИИ, которое использует искусственные вычислительные модели, вдохновленные человеческим мозгом, называемые нейронными сетями, для решения более сложных задач. ChatGPT - это пример ИИ, который использует ML для понимания и ответа на подсказки человека.
Узкий ИИ и искусственный общий интеллект
Все типы ИИ считаются узким ИИ. Сфера их применения ограничена, и они не являются разумными. Примерами такого ИИ являются голосовые помощники, чат-боты, системы распознавания образов, самоуправляемые автомобили и модели технического обслуживания.
Искусственный интеллект общего назначения (ИОНИ) - это гипотетическое понятие, обозначающее самосознательный ИИ, способный сравняться с человеческим интеллектом или даже превзойти его. Некоторые эксперты считают, что до появления AGI осталось несколько лет или даже десятилетий, другие полагают, что это невозможно.
Что такое генеративный ИИ?
Генеративный ИИ относится к подгруппе методов искусственного интеллекта, которые предполагают создание и генерацию нового контента, например изображений, текста, аудио или даже видео. Он предполагает обучение моделей для понимания закономерностей в существующих данных, а затем использование этих знаний для создания нового, оригинального контента, похожего на обучающие данные.
Одним из популярных подходов к генеративному ИИ является использование генеративных состязательных сетей (GAN). GAN состоят из двух нейронных сетей: сети-генератора и сети-дискриминатора. Сеть-генератор создает новый контент, а сеть-дискриминатор оценивает и отличает сгенерированный контент от реального. Обе сети работают в конкурентной манере, причем генератор пытается создать контент, который дискриминатор не сможет отличить от реальных данных.
Генеративный ИИ находит применение в различных областях. Например:
-
Генерация изображений: Генеративный ИИ можно использовать для создания реалистичных изображений, например, фотореалистичных лиц, пейзажей или даже совершенно новых объектов, не существующих в реальном мире.
-
Генерация текста: Генеративные модели можно обучить генерировать связный и контекстуально релевантный текст, который можно использовать для таких задач, как создание чат-ботов, контента или перевод языка.
-
Генерация музыки и аудио: Генеративный ИИ может создавать новые музыкальные композиции или генерировать реалистичные звуки и голоса.
Хотя генеративный ИИ имеет множество положительных применений, существуют также опасения по поводу его возможного неправильного использования, например, для создания фальшивого контента или видеороликов deepfake, которые могут быть использованы для обмана или манипулирования людьми. Этические соображения и ответственное использование генеративного ИИ являются важными факторами для устранения этих рисков.
В сфере кибербезопасности генеративный ИИ может быть как инструментом, так и проблемой. Его можно использовать для создания реалистичных синтетических данных для обучения моделей и улучшения мер безопасности, но он также может представлять опасность при использовании в злонамеренных целях, например для создания убедительных фишинговых писем или атак с использованием социальной инженерии deepfake. Это подчеркивает важность разработки надежных средств защиты и механизмов обнаружения для смягчения потенциальных угроз.
Каковы риски использования искусственного интеллекта в кибербезопасности
Как и любая другая технология, ИИ может использоваться как в благих, так и во вредоносных целях. Субъекты угроз могут использовать некоторые из тех же инструментов ИИ, созданных для помощи человечеству, для совершения мошенничества, афер и других киберпреступлений.
Давайте рассмотрим некоторые риски применения ИИ в кибербезопасности:
1: Оптимизация кибератак
Эксперты говорят, что злоумышленники могут использовать генеративный ИИ и большие языковые модели для масштабирования атак на невиданном уровне скорости и сложности. Они могут использовать генеративный ИИ, чтобы найти новые способы подорвать сложность облачных вычислений и воспользоваться геополитической напряженностью для продвинутых атак. Они также могут оптимизировать свои методы атак на выкупные программы и фишинговые атаки, отшлифовав их с помощью генеративного ИИ.
2: Автоматизированное вредоносное ПО
ИИ, подобный ChatGPT, отлично справляется с точным подсчетом цифр. По словам профессора Колумбийской школы бизнеса Одеда Нетцера, ChatGPT уже умеет "неплохописать код".
Эксперты говорят, что в ближайшем будущем она может помочь разработчикам программного обеспечения, программистам и кодерам или вытеснить их работу.
Хотя программное обеспечение, подобное ChatGPT, имеет определенные средства защиты, не позволяющие пользователям создавать вредоносный код, специалисты могут использовать хитроумные приемы, чтобы обойти их и создать вредоносное ПО. Например, одному исследователю удалось найти лазейку и создать практически необнаруживаемый комплексный исполняемый файл для кражи данных. Этот исполняемый файл по сложности напоминал вредоносное ПО, созданное агентом, спонсируемым государством*.
Это может быть верхушкой айсберга. Будущие инструменты на базе ИИ могут позволить разработчикам с начальными навыками программирования создавать автоматизированное вредоносное ПО, например продвинутых вредоносных ботов. Итак, что же такое вредоносные боты? Вредоносный бот может красть данные, заражать сети и атаковать системы практически без вмешательства человека.
* https://www.foxnews.com/tech/ai-created-malware-sends-shockwaves-cyber security-world
3: Физическая безопасность
По мере того как все больше систем, таких как автономные транспортные средства, производственное и строительное оборудование, а также медицинские системы, используют ИИ, риски, связанные с искусственным интеллектом, для физической безопасности могут возрастать. Например, основанный на ИИ настоящий самоуправляемый автомобиль, в котором произойдет нарушение кибербезопасности, может стать причиной риска для физической безопасности его пассажиров. Аналогичным образом, набор данных для инструментов технического обслуживания на строительной площадке может быть использован злоумышленником для создания опасных условий.
Риски конфиденциальности ИИ
В результате досадной для генерального директора OpenAI Сэма Альтмана ошибки, ChatGPT слил кусочки истории чатов других пользователей. Хотя ошибка была исправлена, существуют и другие возможные риски для конфиденциальности из-за огромного количества данных, которые обрабатывает ИИ. Например, хакер, взломавший систему ИИ, может получить доступ к различным видам конфиденциальной информации.
Система искусственного интеллекта, созданная для маркетинга, рекламы, профилирования или слежки, также может угрожать частной жизни так, как Джордж Оруэлл и представить себе не мог. В некоторых странах технология ИИ-профилирования уже помогает государствам вторгаться в частную жизнь пользователей.
Кража моделей искусственного интеллекта
Существуют определенные риски кражи моделей искусственного интеллекта посредством сетевых атак, методов социальной инженерии и использования уязвимостей субъектами угроз, такими как агенты, спонсируемые государством, внутренние угрозы, такие как корпоративные шпионы, и обычные компьютерные хакеры. Украденными моделями можно манипулировать и модифицировать, чтобы помочь злоумышленникам в различных вредоносных действиях, что усугубляет риски искусственного интеллекта для общества.
Манипулирование данными и отравление данных
Хотя искусственный интеллект - мощный инструмент, он может быть уязвим для манипуляций с данными. В конце концов, ИИ зависит от обучающих данных. Если данные будут изменены или отравлены, то инструмент, работающий на основе ИИ, может привести к неожиданным или даже вредоносным результатам.
Теоретически злоумышленник может отравить обучающий набор данных вредоносными данными, чтобы изменить результаты модели. Злоумышленник также может прибегнуть к более тонкой форме манипуляции, называемой инъекцией смещения. Такие атаки могут быть особенно опасны в таких отраслях, как здравоохранение, автомобилестроение и транспорт.
Самозванство
Чтобы увидеть, как инструменты, работающие на основе искусственного интеллекта, помогают режиссерам обманывать зрителей, не нужно смотреть дальше кинематографа. Например, в документальном фильме Roadrunner голос покойного знаменитого шеф-повара Энтони Бурдейна был создан с помощью искусственного интеллекта и легко обманул зрителей. Точно так же актер-ветеран Харрисон Форд был убедительно постаревшим на несколько десятилетий с помощью искусственного интеллекта в фильме " Индиана Джонс и Циферблат судьбы".
Злоумышленникам не нужен большой голливудский бюджет, чтобы провернуть подобный трюк. Имея нужные кадры, любой человек может сделать глубоко фальшивые кадры с помощью бесплатных приложений. Люди также могут использовать бесплатные инструменты с искусственным интеллектом для создания удивительно реалистичных фальшивых голосов, натренированных на нескольких секундах аудиозаписи.
Поэтому нет ничего удивительного в том, чтотеперьAI используется для виртуальных похищений. Дженнифер ДеСтефано пережила худший родительский кошмар, когда ее дочь позвонила ей, крича и рыдая. Ее голос заменил мужчина, который угрожал накачать ее наркотиками и издеваться над ней, если она не заплатит выкуп в 1 миллион долларов.
В чем загвоздка? Эксперты предполагают, что голос был создан искусственным интеллектом. По мнению правоохранительных органов, помимо схем виртуального похищения, ИИ в будущем может помочь преступникам в других видах мошенничества с выдачей себя за человека, включая аферы с дедушками.
Генеративный ИИ также может создавать тексты голосом идейных лидеров. Киберпреступники могут использовать этот текст для организации различных видов мошенничества, например, мошеннических раздач, инвестиционных возможностей и пожертвований на таких носителях, как электронная почта или социальные медиаплатформы, например, Twitter.
Более сложные атаки
Как уже говорилось, субъекты угроз могут использовать ИИ для создания современных вредоносных программ, выдавать себя за других людей для мошенничества и отравлять обучающие данные ИИ. Они могут использовать ИИ для автоматизации фишинга, вредоносных программ и атак с подстановкой учетных данных. ИИ также может помочь атакам обойти системы безопасности, такие как программы распознавания голоса, в атаках, называемых состязательными.
Репутационный ущерб
Организация, использующая искусственный интеллект, может понести репутационный ущерб, если технология даст сбой или произойдет нарушение кибербезопасности, что приведет к потере данных. Такие организации могут столкнуться со штрафами, гражданскими взысканиями и ухудшением отношений с клиентами.
Как защитить себя от рисков, связанных с искусственным интеллектом
ИИ - мощный инструмент, однако он может нести в себе определенные риски для кибербезопасности. Для безопасного использования этой технологии как отдельные люди, так и организации должны применять комплексный и проактивный подход.
Вот несколько советов, которые помогут вам снизить риски, связанные с искусственным интеллектом:
1: Проведите аудит всех используемых вами систем искусственного интеллекта
Проверьте текущую репутацию любой системы искусственного интеллекта, которую вы используете, чтобы избежать проблем с безопасностью и конфиденциальностью. Организациям следует периодически проводить аудит своих систем, чтобы устранить уязвимости и снизить риски, связанные с искусственным интеллектом. Аудит можно проводить с помощью экспертов по кибербезопасности и искусственному интеллекту, которые могут выполнить тестирование на проникновение, оценку уязвимостей и обзор систем.
2: Ограничьте передачу личной информации с помощью средств автоматизации
Все больше людей передают конфиденциальную информацию искусственному интеллекту, не понимая, что ИИ рискует нарушить неприкосновенность частной жизни. Например, сотрудники известных организаций были замечены в передаче конфиденциальных данных компании в ChatGPT. Даже врач отправил имя и медицинское состояние своего пациента в чат-бот для составления письма, не осознавая риск безопасности ChatGPT.
Такие действия создают риски для безопасности и нарушают нормы конфиденциальности, например HIPAA. Хотя языковые модели ИИ не могут раскрывать информацию, разговоры записываются для контроля качества и доступны командам по обслуживанию системы. Поэтому лучше всего не сообщать ИИ никаких личных данных.
3: Безопасность данных
Как уже говорилось, для получения хороших результатов ИИ опирается на обучающие данные. Если данные будут изменены или отравлены, ИИ может получить неожиданные и опасные результаты. Чтобы защитить ИИ от отравления данных, организации должны инвестировать в передовые технологии шифрования, контроля доступа и резервного копирования. Сети должны быть защищены брандмауэрами, системами обнаружения вторжений и сложными паролями.
4: Оптимизация программного обеспечения
Соблюдайте все лучшие практики обслуживания программного обеспечения, чтобы защитить себя от рисков ИИ. Это включает в себя обновление программного обеспечения и фреймворков для ИИ, операционных систем и приложений с помощью последних патчей и обновлений, чтобы снизить риск эксплуатации и атак вредоносного ПО. Защитите свои системы с помощью антивирусных технологий нового поколения, чтобы остановить современные вредоносные угрозы. Кроме того, инвестируйте в меры безопасности сети и приложений, чтобы укрепить защиту.
5: Состязательное обучение
Обучение с помощью атак - это специфическая для ИИ мера безопасности, которая помогает ИИ реагировать на атаки. Метод машинного обучения повышает устойчивость моделей ИИ, подвергая их воздействию различных сценариев, данных и методов.
6: Обучение персонала
Риски, связанные с ИИ, весьма обширны. Проконсультируйтесь с экспертами по кибербезопасности и ИИ, чтобы обучить своих сотрудников управлению рисками ИИ. Например, они должны научиться проверять факты в электронных письмах, которые могут оказаться фишинговыми атаками, разработанными искусственным интеллектом. Аналогичным образом, они должны избегать открытия непрошеного программного обеспечения, которое может оказаться вредоносным ПО, созданным искусственным интеллектом.
7: Управление уязвимостями
Организации могут инвестировать в управление уязвимостями ИИ, чтобы снизить риск утечки данных. Управление уязвимостями - это комплексный процесс, включающий в себя выявление, анализ и устранение уязвимостей, а также сокращение поверхности атаки, связанной с уникальными характеристиками систем ИИ.
8: Реагирование на инциденты с использованием искусственного интеллекта
Несмотря на самые эффективные меры безопасности, ваша организация может пострадать от атаки кибербезопасности, связанной с искусственным интеллектом, поскольку риски, связанные с ним, растут. Для восстановления после такого события у вас должен быть четко разработанный план реагирования на инциденты, который включает в себя локализацию, расследование и устранение последствий.
Обратная сторона: как искусственный интеллект может принести пользу кибербезопасности
Отрасли различных размеров и секторов используют ИИ для повышения уровня кибербезопасности. Например, все типы организаций по всему миру, от банков до правительств, используют ИИ для проверки подлинности личности. А в сфере финансов и недвижимости ИИ используется для поиска аномалий и снижения риска мошенничества.
Подробнее о том, как искусственный интеллект помогает в обеспечении кибербезопасности:
1: Обнаружение киберугроз
Сложные вредоносные программы могут обходить стандартные технологии кибербезопасности, используя различные методы обхода, включая модификацию кода и структуры. Однако современные антивирусные программы могут использовать искусственный интеллект и технологии ML для поиска аномалий в общей структуре потенциальной угрозы, логике программирования и данных.
Средства обнаружения угроз на базе искусственного интеллекта могут защитить организации, выявляя эти новые угрозы и улучшая возможности предупреждения и реагирования. Кроме того, программное обеспечение для защиты конечных точек с поддержкой ИИ может защитить ноутбуки, смартфоны и серверы в организации.
2: Модели предсказаний
Специалисты по кибербезопасности могут перейти от реактивной к проактивной позиции, используя генеративный ИИ. Например, они могут использовать генеративный ИИ для создания прогностических моделей, которые выявляют новые угрозы и снижают риски.
Такие прогнозные модели позволят:
- Более быстрое обнаружение угроз
- Экономия времени
- Снижение затрат
- Улучшенное реагирование на инциденты
- Лучшая защита от рисков
3: Обнаружение фишинга
Фишинговые электронные письма представляют собой значительный вектор угроз. Угрожающие лица могут использовать фишинг для кражи конфиденциальной информации и денег без особого риска. Более того, фишинговые письма становится все сложнее отличить от настоящих.
ИИ может принести пользу кибербезопасности, усилив защиту от фишинга. Фильтры электронной почты, использующие искусственный интеллект, могут анализировать текст, чтобы отмечать письма с подозрительными шаблонами и блокировать различные типы спама.
4: Идентификация ботов
Боты могут повредить или вывести из строя сети и веб-сайты, что негативно сказывается на безопасности, производительности и доходах организации. Боты также могут завладеть учетными записями с украденными учетными данными и помочь киберпреступникам в мошенничестве и аферах.
Программное обеспечение, использующее модели на основе машинного обучения, может анализировать сетевой трафик и данные, чтобы выявить модели ботов и помочь экспертам по кибербезопасности их обезвредить. Специалисты по сетевым технологиям также могут использовать искусственный интеллект для разработки более безопасных CAPTCHA против ботов.
5: Защита сетей
Проникнув в сеть, злоумышленники могут вывести данные из нее или заразить системы выкупным ПО. Обнаружение таких угроз на ранней стадии имеет решающее значение. Обнаружение аномалий на основе ИИ позволяет сканировать сетевой трафик и системные журналы на предмет несанкционированного доступа, необычного кода и других подозрительных шаблонов, чтобы предотвратить взлом. Кроме того, ИИ может помочь сегментировать сети, анализируя требования и характеристики.
6: Реагирование на инциденты
ИИ может повысить эффективность поиска угроз, управления угрозами и реагирования на инциденты. Он может работать круглосуточно, реагируя на угрозы и принимая экстренные меры, даже когда ваша команда находится в автономном режиме. Кроме того, он может сократить время реагирования на инциденты, чтобы минимизировать ущерб от атаки.
7: Смягчение внутренних угроз
К инсайдерским угрозам следует относиться серьезно, поскольку они могут стоить организации прибыли, коммерческих секретов, конфиденциальных данных и многого другого. Существует два типа инсайдерских угроз: злонамеренные и непреднамеренные. ИИ может помочь предотвратить оба типа инсайдерских угроз, выявляя рискованное поведение пользователей и блокируя выход конфиденциальной информации за пределы сети организации.
8: Усилить контроль доступа
Многие инструменты контроля доступа используют искусственный интеллект для повышения безопасности. Они могут блокировать входы с подозрительных IP-адресов, отмечать подозрительные события и предлагать пользователям со слабыми паролями сменить учетные данные и перейти на многофакторную аутентификацию.
ИИ также помогает аутентифицировать пользователей. Например, он может использовать биометрические данные, контекстную информацию и данные о поведении пользователей для точной проверки личности авторизованных пользователей и снижения риска неправомерного использования.
9: Выявление ложных срабатываний
Работа с ложными срабатываниями может быть утомительной для ИТ-команд. Огромное количество ложных срабатываний может привести к психическим расстройствам. Кроме того, они могут заставить команды пропустить законные угрозы. Однако количество ложных срабатываний можно сократить с помощью инструментов кибербезопасности, которые используют искусственный интеллект для повышения точности обнаружения угроз. Такие инструменты также могут быть запрограммированы на автоматическое управление маловероятными угрозами, которые отнимают время и ресурсы у команды безопасности.
10: Эффективность и затраты на ИТ-персонал
Многие компании малого и среднего бизнеса не могут позволить себе инвестировать в большую штатную команду кибербезопасности, чтобы круглосуточно бороться со все более сложными угрозами. Однако они могут инвестировать в технологию кибербезопасности на базе искусственного интеллекта, которая работает круглосуточно и обеспечивает непрерывный мониторинг, повышает эффективность и сокращает расходы. Такая технология также может экономически эффективно масштабироваться по мере роста компании.
Кроме того, искусственный интеллект повышает эффективность работы персонала, потому что он не устает. Он обеспечивает одинаковое качество обслуживания в любое время суток, снижая риск человеческих ошибок. ИИ также может управлять значительно большим объемом данных, чем человеческая команда безопасности.