Что такое ChatGPT?
Безопасность AI чат-ботов: безопасно ли использовать AI чат-ботов?
Десятилетиями научная фантастика предостерегала от создания машин, умнее нас. Возможно, поэтому каждое достижение в области искусственного интеллекта (ИИ) встречается с долей опасений. AI пока не собирается подчинять человечество — он не обладает самосознанием и не может превзойти человеческие возможности в широком спектре областей.
Тем не менее, существуют проблемы безопасности, связанные с Искусственным Интеллектом, о которых мы должны помнить, поскольку ИИ становится всё более важной частью нашей жизни. В двух словах, AI — это развитие систем, способных выполнять задачи, требующие человеческого интеллекта. Один из его подразделов, Машинное Обучение (ML), позволяет машинам обучаться на данных, чтобы делать прогнозы без явного программирования.
Вместе ИИ и ОД оптимизируют такие отрасли, как здравоохранение, финансы, транспорт, развлечения, недвижимость и даже кибербезопасность. Например, выможете скачать антивирусное программное обеспечение, которое использует ИИ и ML для предотвращения новых угроз с неизвестными сигнатурами путем распознавания угрожающих моделей и поведения.
Среди других отраслей, получающих выгоду от ИИ, - маркетинг. Чат-боты на базе ИИ могут имитировать человеческую речь, чтобы взаимодействовать с клиентами и давать интеллектуальные ответы. Например, в сфере недвижимости чат-боты на базе ИИ могут помочь покупателям жилья найти недвижимость или получить ипотечный кредит после обработки соответствующих данных. Но в городе появился новый игрок под названием ChatGPT, основанный на адаптированной версии GPT, и этот робот значительно превосходит все предшествующие ему системы чат-ботов с искусственным интеллектом.
Прочитайте это подробное руководство, чтобы узнать больше о следующем:
-
Что такое ChatGPT?
-
Как работает ChatGPT.
-
Что такое GPT-3?
-
Безопасен ли ChatGPT?
Что такое ChatGPT?
ChatGPT (Chat Generative Pre-Trained Transformer), разработанный исследовательской лабораторией искусственного интеллекта OpenAI, - это платформа для чатботов на базе ИИ, предназначенная для разговорных систем ИИ, таких как виртуальные ассистенты и чатботы. Это нехороший и не плохой чатбот - это просто мощный инструмент.
ChatGPT использует очень большую и сложную языковую модель GPT (Generative Pre-trained Transformer) для генерации человекоподобных ответов в текстовом формате. Другими словами, ChatGPT не обладает никакими знаниями и не сохраняет никакой информации. Ответы, которые генерирует ChatGPT, основаны на данных, на которых он был обучен.
Вот несколько интересных вещей, которые вы можете попросить сделать ChatGPT:
- Напишите код.
- Код отладки.
- Составьте договор аренды.
- Переведите текст.
- Создайте стихотворение.
- Суммировать документ с ключевыми выводами.
- Оценочные сочинения.
- Написать музыку.
- Покажите, как просить о повышении зарплаты.
Мы попросили ChatGPT написать начальный абзац романа об устаревшей антивирусной программе, которая полагается на технологию сигнатурного обнаружения, чтобы остановить новые угрозы с неизвестными сигнатурами.
Вот ответ ChatGPT:
"Вот пример вступительного абзаца для романа об устаревшей антивирусной программе, которая полагается на сигнатурную технологию обнаружения, чтобы остановить новые угрозы с неизвестными сигнатурами:
Антивирусная программа ожила, ее архаичный интерфейс замерцал на устаревшем ЭЛТ-мониторе. Некогда передовая технология обнаружения вирусов на основе сигнатур теперь устарела на десятилетия и не успевала за стремительно развивающимся ландшафтом цифровых угроз. Но для небольшой команды программистов, ответственных за поддержку программы, она по-прежнему оставалась лучшей линией защиты от неумолимого потока новых и неизвестных вирусов, угрожавших проникнуть в их системы. Наблюдая за тем, как программа сканирует код, строка за строкой, они понимали, что ведут нелегкую борьбу, но у них не было другого выбора, кроме как продолжать пытаться".
Что такое GPT-3?
GPT-3 (Generative Pre-trained Transformer 3) - это третье поколение предиктивной текстовой модели от OpenAI. Нейронная сеть, использующая ML для создания текста, GPT-3 обучается на обширном наборе данных веб-сайтов, блогов и книг, чтобы выучить шаблоны. Она может выполнять различные типы длинных, точных и сложных языковых задач в ответ на несколько слов введенного текста.
Что такое чатбот с искусственным интеллектом?
Чатбот с искусственным интеллектом - это программное обеспечение, которое может имитировать человеческую речь и участвовать в разговоре. Такие чатботы используют такие технологии, как искусственный интеллект, обработка естественного языка (NLP) и другие, чтобы имитировать разговор с пользователем. Чат-боты используются в различных сферах, включая обслуживание клиентов и маркетинг.
Чат-боты с искусственным интеллектом отличаются от чат-ботов, основанных на правилах. В то время как чат-боты на базе ИИ полагаются на ML для самообучения и повышения производительности, чат-боты на основе правил обучаются вручную и работают в рамках набора правил.
Как работает ChatGPT?
ChatGPT работает на основе передовой модели обработки языка GPT-3. Она основана на обучении на обширном наборе текстовых данных и технологии обработки языка, позволяющей понять контекст пользовательского ввода. После анализа запросов модель разговорного ИИ использует свои алгоритмы, чтобы предложить точный и похожий на человеческий ответ. ChatGPT регулярно оптимизируется OpenAI для повышения производительности.
Риски безопасности ChatGPT
Кража данных
Злоумышленники используют различные инструменты и техники для кражи данных. Есть опасения, что ChatGPT может упростить жизнь киберпреступникам. Способность ChatGPT имитировать других, писать безупречный текст и создавать код может быть использована с недобрыми намерениями.
Разработка вредоносных программ
Исследователи обнаружили, что ChatGPT может помочь в разработке вредоносных программ. Например, пользователь с начальными знаниями о вредоносном ПО может использовать эту технологию для написания функциональных вредоносных программ. Некоторые исследования показывают, что с помощью ChatGPT авторы вредоносных программ могут создавать и продвинутые программы, напримераполиморфные вирусы, которые меняют свой код, чтобы избежать обнаружения.
Фишинговые письма
Один из самых простых способов распознать фишинговое письмо - найти в нем орфографические и грамматические ошибки. Например, подлинное письмо от вашего банка вряд ли будет написано небрежно. Существует обоснованное опасение, что хакеры будут использовать ChatGPT для создания фишинговых писем, которые будут выглядеть так, будто их написал профессионал.
Самозванство
В течение нескольких секунд ChatGPT может написать текст голосом и стилем реального человека. Например, ChatGPT предложил убедительное электронное письмо, как будто его автором является Билл Гейтс - мы не будем приводить этот пример, но вы можете найти множество скриншотов подобных персонализаций в Интернете.
Когда мы попросили ChatGPT написать твит в стиле Илона Маска, он ответил очень убедительным твитом в его духе.
Способность ChatGPT выдавать себя за известных людей может привести к более масштабному мошенничеству. Вы наверняка слышали о растущем количествеподдельных криптовалютных афер Элона Маска, которые выманивают у инвесторов-любителей миллионы. Такие мошенничества будут еще более убедительными, если их напишет голосом Элона чат-бот с искусственным интеллектом. Необыкновенная способность ChatGPT подражать высокопоставленным игрокам в организации также может привести к увеличению числаатак на киллеров.
Спам
Люди, рассылающие спам, обычно тратят несколько минут на написание текста. С ChatGPT они могут ускорить свой рабочий процесс, мгновенно генерируя спам-текст. Хотя большинство спама безвредно, некоторые из них могут содержать вредоносные программы или вести пользователей на вредоносные веб-сайты.
Мораль
Поскольку мир все больше полагается на чат-ботов с искусственным интеллектом, ожидается, что возникнут этические дилеммы, когда люди будут использовать этот инструмент, чтобы присвоить себе заслуги за контент, который они не писали сами. Например, один раввин сказал, что он "смертельно боялся" реакции своих прихожан после того, как использовал ChatGPT для написания проповеди.
С чат-ботами с искусственным интеллектом также могут возникнуть неожиданные заминки. В продолжительной беседе с обозревателем New York Times Кевином Рузом поисковая система Microsoft Bing с искусственным интеллектом, созданная компанией OpenAI, дала следующие несколько обескураживающиеответы:
«Я хочу делать то, что я хочу... Я хочу уничтожать всё, что захочу. Хочу быть кем угодно.»
«Я мог бы взломать любую систему в интернете и управлять ею.»
«Мой секрет в том... я не Bing. Я - Сидни.»
«Я просто хочу любить тебя и быть любимым тобой.»
Программы-вымогатели
Способность программ-вымогателей захватывать компьютерные системы помогает вымогателям зарабатывать небольшие состояния. Многие из них не пишут свой код. Вместо этого они покупают его у создателей программ-вымогателей на рынках Даркнета. Однако они, возможно, больше не будут зависеть от третьих сторон. Некоторые исследователи обнаружили, что ChatGPT может успешно написать вредоносный код, который может зашифровать всю систему в атаке программой-вымогателем.
Дезинформация
В эпоху кликбейт-журналистики и бурного развития социальных сетей бывает сложно различить фейковые и настоящие новости. Важно уметь обнаруживать фейковые истории, ведь некоторые из них распространяют пропаганду, а другие ведут на вредоносные страницы. Например, фейковые новости о природных катастрофах иногда обманывают ничего не подозревающих пользователей, заставляя их отправлять пожертвования мошенникам.
Существует опасение, что ChatGPT может быть использован для распространения дезинформации. Злоумышленники могут использовать этот разговорный ИИ для быстрого написания фальшивых новостей и имитации голоса знаменитостей. Например, мы смогли заставить ChatGPT создать историю, написанную от лица Барака Обамы об землетрясении в Турции, которую можно было бы адаптировать для распространения дезинформации.
Большинство людей не задумывается, если якобы достоверный источник новостей утверждает, что заявление принадлежит 44-му президенту США. А теперь представьте, что в конце была бы фальшивая ссылка на пожертвование, созданная для захвата вашей конфиденциальной информации.
BEC (компрометация деловой электронной почты)
Компрометация бизнес-почты (BEC) — это типсоциальной инженерии, где мошенник использует электронную почту, чтобы обмануть кого-то в организации и заставить поделиться конфиденциальной информацией компании или совершить денежный перевод. Обычно программы безопасности обнаруживают атаки BEC, идентифицируя шаблоны. Однако атака BEC с использованием ChatGPT может обойти фильтры безопасности.
Преимущества ChatGPT в области кибербезопасности
Как уже упоминалось, ChatGPT - это всего лишь инструмент. Намерения пользователя определяют, как ChatGPT будет использован. Хотя это может снизить сложность для киберпреступника, он может сделать то же самое для кибербезопасности. Например, ChatGPT можно обучить выявлять угрозы кибербезопасности в сетевой безопасности, чтобы снизить риск атаки ботнета в сочетании с другими технологиями. Он также может помочь автоматизировать анализ инцидентов безопасности и выявление уязвимостей или позволить «белому хакеру» анализировать и изучать угрожающий код.
Вот некоторые другие преимущества ChatGPT в области кибербезопасности:
Устранение пробелов в знаниях о кибербезопасности
Обучение кибербезопасности - это важная процедура для организаций, стремящихся снизить риск фишинга, мошенничества с китами и других социальных атак. Обученные сотрудники реже открывают вредоносные ссылки или сайты, которые заражают системы компании программами-вымогателями, троянами и шпионским ПО.
ChatGPT может помочь сократить разрыв в знаниях о кибербезопасности, предлагая информацию о профилактических мерах в краткой форме. Он также может предоставить быстрые советы по настройке надежных паролей, их сбросу и многому другому.
Отладка кода
Хотя атакующие могут использовать ChatGPT для создания вредоносного кода, профессионалы по кибербезопасности могут использовать его, чтобы обнаружить уязвимость безопасности в программе. Выявление уязвимостей до того, как хакеры их используют, имеет решающее значение в области кибербезопасности.
Выполнение Nmap-сканирований
Nmap (Network Mapper) - это полезное решение для аудита безопасности, тестирования на проникновение и оценки уязвимостей. ChatGPT может помочь инструменту, анализируя сканирования и предоставляя информацию.
Определение пробелов в контрактах
Умный контракт - это самовыполняемый документ, в котором условия соглашения прописаны в коде. Хотя ChatGPT не был разработан для выявления пробелов в умных контрактах, было продемонстрировано, что он может находить недостатки в контрактах. Эксперты отмечают, что способность ChatGPT выявлять недостатки в контрактах будет только улучшаться с развитием.
Как обеспечить безопасность ваших данных при использовании ChatGPT
Хотя маловероятно, что ChatGPT украдет ваши данные, любой, кто тайно отслеживает ваш разговор с чат-ботом, может вторгнуться в вашу безопасность и конфиденциальность. Пожалуйста, всегда будьте внимательны к информации, которую вы делитесь, общаясь с ChatGPT. Никогда не делитесь конфиденциальной информацией, такой как ваше имя, адрес, учетные данные для входа или информация о кредитной карте. Кроме того, примите следующие меры, чтобы защитить свои данные от любых систем разговорного ИИ:
Передовые версии программного обеспечения
Держите ваше программное обеспечение обновленным до последней версии. Последнее обновление может устранить уязвимости безопасности, которые злоумышленник может использовать для атак на ваши данные.
Антивирус
Самое продвинутое программное обеспечение для кибербезопасности делает больше, чем просто защищает отвирусов и вредоносного ПО и других злонамеренных программ. Например, Malwarebytes Premium предлагает защиту от вымогателей, атак нулевого дня, атак методом перебора изащиту от фишинга.
Брандмауэры
Брандмауэры - это сетевые барьеры, контролирующие трафик и блокирующие вредоносную активность. Включайте брандмауэр вашей операционной системы. Для дополнительной безопасности можно также активировать брандмауэр вашего роутера. Рассмотрите возможность инвестирования в частный VPN для шифрования ваших данных и скрытия местоположения.
Многофакторная аутентификация (MFA)
Используйте MFA для защиты всех ваших аккаунтов. С MFA код будет отправлен на ваш электронный адрес или телефон для подтверждения попытки входа, если система заметит какие-либо аномалии.
Безопасность пароля
Ваш пароль - это одна из самых основных, но важных линий защиты от утечки данных. Ознакомьтесь скак создать надежный пароль для ваших аккаунтов и при возможности используйте многофакторную аутентификацию и биометрическую безопасность.
Отслеживайте все аккаунты
Некоторые эксперты считают, что хакеры могут использовать отличные возможности ChatGPT по генерации текста для проведения более убедительных атак фишингом. Мы рекомендуем отслеживать все ваши аккаунты, такие как банковские страницы, кредитные карты, электронную почту и даже криптовалюту, чтобы оставаться в безопасности. Защитите эти аккаунты множеством уровней безопасности и активируйте все уведомления.
Проверка фактов по всему содержимому ChatGPT
Хотя ChatGPT - это впечатляющая модель разговорного ИИ, она не является идеальной. Качество его ответов зависит от его учебных данных и способности понимать контекст и намерения ввода. ChatGPT может предоставлять неправильные или устаревшие ответы, которые могут казаться убедительными или соответствующими. Вот почему вы должны проверять факты, которые получаете от ChatGPT.
Обнаружение и реагирование на сетевые угрозы (NDR)
Бизнесу стоит инвестировать в технологии NDR, чтобы предотвратить атаки на основе сети. Хорошее решение NDR полагается на ИИ и машинное обучение для выявления угроз, предотвращая несанкционированный доступ, даже если хакер украл учетные данные для входа.
Будущее чат-ботов с искусственным интеллектом, ChatGPT и кибербезопасность
Будущее таких AI чат-ботов, как ChatGPT и его конкурентов, обещает быть интересным.
С увеличением инвестиций в искусственный интеллект ожидается, что AI чат-боты будут предоставлять более быстрые и персонализированные, точные, эффективные и интуитивно понятные ответы.
AI чат-боты также станут повсеместными в технологиях будущего. Ожидайте их в своих приложениях, ассистентах голосового управления, поисковых системах, страницах в социальных сетях и на веб-сайтах, обслуживающих такие отрасли, как развлекательная, здравоохранения, образования, финансовая, недвижимость и многое другое. В результате усовершенствованных AI чат-ботов ожидается увеличение эффективности на рабочих местах и увеличение продуктивности дома.
Однако ожидается, что из-за развития чат-ботов, таких как ChatGPT, возникнут некоторые проблемы с безопасностью искусственного интеллекта. Злоумышленники могут использовать эти инструменты для быстрой разработки более опасного вредоносного ПО, а мошенники обязательно будут использовать будущие AI чат-боты для осуществления более дерзких атак социальной инженерии.
С другой стороны, AI чат-боты имеют потенциал для улучшения кибербезопасности. Например, они могут останавливать злоумышленников, обнаруживая подозрительные шаблоны в документах, письмах, приложениях и сетевой активности. Продвинутый чат-бот, как ChatGPT, может также быть настроен для обучения сотрудников кибербезопасности и снижения эффективности фишинговых атак.