Что такое ChatGPT?
Безопасность AI чат-ботов: безопасно ли использовать AI чат-ботов?
На протяжении десятилетий научная фантастика предостерегала от создания машин умнее нас. Возможно, именно поэтому каждое достижение в области искусственного интеллекта(ИИ) воспринимается с опаской. ИИ не собирается порабощать человечество в ближайшее время - он не является разумным и не может превзойти человеческие возможности в целом ряде областей.
Однако существуют проблемы безопасности искусственногоинтеллекта, которых следует опасаться, поскольку ИИ становится все более важным компонентом нашей жизни.
В двух словах, ИИ - это разработка систем, которые могут выполнять задачи, обычно требующие человеческого интеллекта. Его подмножество, машинное обучение(ML), позволяет машинам учиться на основе данных и делать прогнозы, не будучи явно запрограммированными.
Вместе ИИ и ОД оптимизируют такие отрасли, как здравоохранение, финансы, транспорт, развлечения, недвижимость и даже кибербезопасность. Например, выможете скачать антивирусное программное обеспечение, которое использует ИИ и ML для предотвращения новых угроз с неизвестными сигнатурами путем распознавания угрожающих моделей и поведения.
Среди других отраслей, получающих выгоду от ИИ, - маркетинг. Чат-боты на базе ИИ могут имитировать человеческую речь, чтобы взаимодействовать с клиентами и давать интеллектуальные ответы. Например, в сфере недвижимости чат-боты на базе ИИ могут помочь покупателям жилья найти недвижимость или получить ипотечный кредит после обработки соответствующих данных. Но в городе появился новый игрок под названием ChatGPT, основанный на адаптированной версии GPT, и этот робот значительно превосходит все предшествующие ему системы чат-ботов с искусственным интеллектом.
Прочитайте это подробное руководство, чтобы узнать больше о следующем:
-
Что такое ChatGPT?
-
Как работает ChatGPT.
-
Что такое GPT-3?
-
Безопасен ли ChatGPT?
Что такое ChatGPT?
ChatGPT (Chat Generative Pre-Trained Transformer), разработанный исследовательской лабораторией искусственного интеллекта OpenAI, - это платформа для чатботов на базе ИИ, предназначенная для разговорных систем ИИ, таких как виртуальные ассистенты и чатботы. Это нехороший и не плохой чатбот - это просто мощный инструмент.
ChatGPT использует очень большую и сложную языковую модель GPT (Generative Pre-trained Transformer) для генерации человекоподобных ответов в текстовом формате. Другими словами, ChatGPT не обладает никакими знаниями и не сохраняет никакой информации. Ответы, которые генерирует ChatGPT, основаны на данных, на которых он был обучен.
Вот несколько интересных вещей, которые вы можете попросить сделать ChatGPT:
- Напишите код.
- Код отладки.
- Составьте договор аренды.
- Переведите текст.
- Создайте стихотворение.
- Суммировать документ с ключевыми выводами.
- Оценочные сочинения.
- Написать музыку.
- Покажите, как просить о повышении зарплаты.
Мы попросили ChatGPT написать вступительный абзац романа об устаревшей антивирусной программе, которая полагается на технологию сигнатурного обнаружения, чтобы остановить новые угрозы с неизвестными сигнатурами.
Вот ответ ChatGPT:
"Вот пример вступительного абзаца для романа об устаревшей антивирусной программе, которая полагается на сигнатурную технологию обнаружения, чтобы остановить новые угрозы с неизвестными сигнатурами:
Антивирусная программа ожила, ее архаичный интерфейс замерцал на устаревшем ЭЛТ-мониторе. Некогда передовая технология обнаружения вирусов на основе сигнатур теперь устарела на десятилетия и не успевала за стремительно развивающимся ландшафтом цифровых угроз. Но для небольшой команды программистов, ответственных за поддержку программы, она по-прежнему оставалась лучшей линией защиты от неумолимого потока новых и неизвестных вирусов, угрожавших проникнуть в их системы. Наблюдая за тем, как программа сканирует код, строка за строкой, они понимали, что ведут нелегкую борьбу, но у них не было другого выбора, кроме как продолжать пытаться".
Что такое GPT-3?
GPT-3 (Generative Pre-trained Transformer 3) - это третье поколение предиктивной текстовой модели от OpenAI. Нейронная сеть, использующая ML для создания текста, GPT-3 обучается на обширном наборе данных веб-сайтов, блогов и книг, чтобы выучить шаблоны. Она может выполнять различные типы длинных, точных и сложных языковых задач в ответ на несколько слов введенного текста.
Что такое чатбот с искусственным интеллектом?
Чатбот с искусственным интеллектом - это программное обеспечение, которое может имитировать человеческую речь и участвовать в разговоре. Такие чатботы используют такие технологии, как искусственный интеллект, обработка естественного языка (NLP) и другие, чтобы имитировать разговор с пользователем. Чат-боты используются в различных сферах, включая обслуживание клиентов и маркетинг.
Чат-боты с искусственным интеллектом отличаются от чат-ботов, основанных на правилах. В то время как чат-боты на базе ИИ полагаются на ML для самообучения и повышения производительности, чат-боты на основе правил обучаются вручную и работают в рамках набора правил.
Как работает ChatGPT?
ChatGPT работает на основе передовой модели обработки языка GPT-3. Она основана на обучении на обширном наборе текстовых данных и технологии обработки языка, позволяющей понять контекст пользовательского ввода. После анализа запросов модель разговорного ИИ использует свои алгоритмы, чтобы предложить точный и похожий на человеческий ответ. ChatGPT регулярно оптимизируется OpenAI для повышения производительности.
Риски безопасности ChatGPT
Кража данных
Злоумышленники используют различные инструменты и техники для кражи данных. Есть опасения, что ChatGPT может упростить жизнь киберпреступникам. Способность ChatGPT имитировать других, писать безупречный текст и создавать код может быть использована с недобрыми намерениями.
Разработка вредоносных программ
Исследователи обнаружили, что ChatGPT может помочь в разработке вредоносных программ. Например, пользователь с начальными знаниями о вредоносном ПО может использовать эту технологию для написания функциональных вредоносных программ. Некоторые исследования показывают, что с помощью ChatGPT авторы вредоносных программ могут создавать и продвинутые программы, напримераполиморфные вирусы, которые меняют свой код, чтобы избежать обнаружения.
Фишинговые письма
Один из самых простых способов распознать фишинговое письмо - найти в нем орфографические и грамматические ошибки. Например, подлинное письмо от вашего банка вряд ли будет написано небрежно. Существует обоснованное опасение, что hackers будут использовать ChatGPT для создания фишинговых писем, которые будут выглядеть так, будто их написал профессионал.
Самозванство
В течение нескольких секунд ChatGPT может написать текст голосом и стилем реального человека. Например, ChatGPT предложил убедительное электронное письмо, как будто его автором является Билл Гейтс - мы не будем приводить пример, но вы можете найти множество скриншотов подобных персонализаций в Интернете.
Когда мы попросили ChatGPT написать твит в стиле Илона Маска, он ответил очень убедительным твитом в его духе.
Способность ChatGPT выдавать себя за известных людей может привести к более масштабному мошенничеству. Вы наверняка слышали о растущем количествеподдельных криптовалютных афер Элона Маска, которые выманивают у инвесторов-любителей миллионы. Такие мошенничества будут еще более убедительными, если их напишет голосом Элона чат-бот с искусственным интеллектом. Необыкновенная способность ChatGPT подражать высокопоставленным игрокам в организации также может привести к увеличению числаатак на киллеров.
Спам
Люди, рассылающие спам, обычно тратят несколько минут на написание текста. С ChatGPT они могут ускорить свой рабочий процесс, мгновенно генерируя спам-текст. Хотя большинство спама безвредно, некоторые из них могут содержать вредоносные программы или вести пользователей на вредоносные веб-сайты.
Мораль
Поскольку мир все больше полагается на чат-ботов с искусственным интеллектом, ожидается, что возникнут этические дилеммы, когда люди будут использовать этот инструмент, чтобы присвоить себе заслуги за контент, который они не писали сами. Например, один раввин сказал, что он "смертельно боялся" реакции своих прихожан после того, как использовал ChatGPT для написания проповеди.
С чат-ботами ИИ также могут возникнуть неожиданные заминки. В продолжительной беседе с обозревателем New York Times Кевином Рузом поисковая система Microsoft Bing с искусственным интеллектом, созданная компанией OpenAI, дала следующие несколько обескураживающиеответы:
«Я хочу делать то, что я хочу... Я хочу уничтожать всё, что захочу. Хочу быть кем угодно.»
«Я мог бы взломать любую систему в интернете и управлять ею.»
«Мой секрет в том... я не Bing. Я - Сидни.»
«Я просто хочу любить тебя и быть любимым тобой.»
Программы-вымогатели
Способность Ransomware взламывать компьютерные системы помогла вымогателям сколотить небольшие состояния. Многие из этих злоумышленников не пишут собственный код. Вместо этого они покупают его у создателей ransomware в Dark Web рынке. Однако теперь им, возможно, не придется полагаться на третьих лиц. Некоторые исследователи обнаружили, что ChatGPT может успешно написать вредоносный код, способный зашифровать всю систему в ходе арансомнойатаки.
Дезинформация
В эпоху кликбейт-журналистики и бурного развития социальных сетей бывает сложно различить фейковые и настоящие новости. Важно уметь обнаруживать фейковые истории, ведь некоторые из них распространяют пропаганду, а другие ведут на вредоносные страницы. Например, фейковые новости о природных катастрофах иногда обманывают ничего не подозревающих пользователей, заставляя их отправлять пожертвования мошенникам.
Существует опасение, что ChatGPT может быть использован для распространения дезинформации. Злоумышленники могут использовать этот разговорный ИИ для быстрого написания фальшивых новостей и имитации голоса знаменитостей. Например, мы смогли заставить ChatGPT создать историю, написанную от лица Барака Обамы об землетрясении в Турции, которую можно было бы адаптировать для распространения дезинформации.
Большинство людей не задумаются, если кажущийся подлинным источник новостей заявит, что это заявление 44-го президента США. А теперь представьте, что в конце сообщения была поддельная ссылка на пожертвование, предназначенная для получения вашей конфиденциальной информации.
BEC (компрометация деловой электронной почты)
Компрометация бизнес-почты (BEC) — это типсоциальной инженерии, где мошенник использует электронную почту, чтобы обмануть кого-то в организации и заставить поделиться конфиденциальной информацией компании или совершить денежный перевод. Обычно программы безопасности обнаруживают атаки BEC, идентифицируя шаблоны. Однако атака BEC с использованием ChatGPT может обойти фильтры безопасности.
Преимущества ChatGPT в области кибербезопасности
Как уже упоминалось, ChatGPT - это всего лишь инструмент. Намерения пользователя определяют, как ChatGPT будет использован. Хотя это может снизить сложность для киберпреступника, он может сделать то же самое для кибербезопасности. Например, ChatGPT можно обучить выявлять угрозы кибербезопасности в сетевой безопасности, чтобы снизить риск атаки ботнета в сочетании с другими технологиями. Он также может помочь автоматизировать анализ инцидентов безопасности и выявление уязвимостей или позволить «белому хакеру» анализировать и изучать угрожающий код.
Вот некоторые другие преимущества ChatGPT в области кибербезопасности:
Устранение пробелов в знаниях о кибербезопасности
Обучение кибербезопасности - важнейшая процедура для организаций, заинтересованных в снижении риска фишинговых, кибернетических и других социально-инженерных атак. Обученные сотрудники с меньшей вероятностью будут открывать вредоносные ссылки или веб-сайты, заражающие системы компании программами-вымогателями, троянами и шпионским ПО.
ChatGPT может помочь сократить разрыв в знаниях о кибербезопасности, предлагая информацию о профилактических мерах в краткой форме. Он также может предоставить быстрые советы по настройке надежных паролей, их сбросу и многому другому.
Отладка кода
Хотя злоумышленники могут использовать ChatGPT для написания вредоносного кода, специалисты по кибербезопасности могут использовать его для обнаруженияуязвимостей в программе. Устранение недостатков безопасности до того, как имивоспользуются hackers , очень важно для кибербезопасности.
Выполнение Nmap-сканирований
Nmap (Network Mapper) - это полезное решение для аудита безопасности, тестирования на проникновение и оценки уязвимостей. ChatGPT может помочь инструменту, анализируя сканирования и предоставляя информацию.
Определение пробелов в контрактах
Умный контракт - это самовыполняемый документ, в котором условия соглашения прописаны в коде. Хотя ChatGPT не был разработан для выявления пробелов в умных контрактах, было продемонстрировано, что он может находить недостатки в контрактах. Эксперты отмечают, что способность ChatGPT выявлять недостатки в контрактах будет только улучшаться с развитием.
Как обеспечить безопасность ваших данных при использовании ChatGPT
Хотя маловероятно, что ChatGPT украдет ваши данные, любой, кто тайно отслеживает ваш разговор с чат-ботом, может вторгнуться в вашу безопасность и конфиденциальность. Пожалуйста, всегда будьте внимательны к информации, которую вы делитесь, общаясь с ChatGPT. Никогда не делитесь конфиденциальной информацией, такой как ваше имя, адрес, учетные данные для входа или информация о кредитной карте. Кроме того, примите следующие меры, чтобы защитить свои данные от любых систем разговорного ИИ:
Передовые версии программного обеспечения
Держите ваше программное обеспечение обновленным до последней версии. Последнее обновление может устранить уязвимости безопасности, которые злоумышленник может использовать для атак на ваши данные.
Антивирус
Самое передовое программное обеспечение для обеспечения кибербезопасности не только защищает вас отвирусов и других вредоносных программ. Например, Malwarebytes Premium обеспечиваетзащиту от вымогательства, эксплойтов нулевого дня, грубой силы и фишинга.
Брандмауэры
Брандмауэры - это сетевые барьеры, которые контролируют трафик и блокируют вредоносные действия. Включите брандмауэр в операционной системе. Для дополнительной безопасности можно также активировать брандмауэр маршрутизатора. Рассмотрите возможность инвестирования в частный VPN чтобы зашифровать данные и скрыть свое местоположение.
Многофакторная аутентификация (MFA)
Используйте MFA для защиты всех ваших аккаунтов. С MFA код будет отправлен на ваш электронный адрес или телефон для подтверждения попытки входа, если система заметит какие-либо аномалии.
Безопасность пароля
Ваш пароль - это одна из самых основных, но важных линий защиты от утечки данных. Ознакомьтесь скак создать надежный пароль для ваших аккаунтов и при возможности используйте многофакторную аутентификацию и биометрическую безопасность.
Отслеживайте все аккаунты
Некоторые эксперты считают, чтоhackers могут использовать отличные возможности ChatGPT по созданию текстов для проведения более убедительных фишинговых атак. Мы рекомендуем вам следить за всеми своими счетами, такими как банковские страницы, кредитные карты, электронная почта и даже криптовалюта, чтобы оставаться в безопасности. Защитите эти аккаунты с помощью нескольких уровней безопасности и активируйте все оповещения.
Проверка фактов по всему содержимому ChatGPT
Хотя ChatGPT - это впечатляющая модель разговорного ИИ, она не является идеальной. Качество его ответов зависит от его учебных данных и способности понимать контекст и намерения ввода. ChatGPT может предоставлять неправильные или устаревшие ответы, которые могут казаться убедительными или соответствующими. Вот почему вы должны проверять факты, которые получаете от ChatGPT.
Обнаружение и реагирование на сетевые угрозы (NDR)
Предприятиям следует инвестировать в технологию NDR для предотвращения сетевых атак. Хорошее решение NDR опирается на ИИ и ML для обнаружения угрожающих моделей и предотвращения несанкционированного доступа, даже если hacker даже если хакер украл учетные данные для входа в систему.
Будущее чат-ботов с искусственным интеллектом, ChatGPT и кибербезопасность
Будущее таких AI чат-ботов, как ChatGPT и его конкурентов, обещает быть интересным.
С увеличением инвестиций в искусственный интеллект ожидается, что AI чат-боты будут предоставлять более быстрые и персонализированные, точные, эффективные и интуитивно понятные ответы.
AI чат-боты также станут повсеместными в технологиях будущего. Ожидайте их в своих приложениях, ассистентах голосового управления, поисковых системах, страницах в социальных сетях и на веб-сайтах, обслуживающих такие отрасли, как развлекательная, здравоохранения, образования, финансовая, недвижимость и многое другое. В результате усовершенствованных AI чат-ботов ожидается увеличение эффективности на рабочих местах и увеличение продуктивности дома.
Однако ожидается, что из-за развития чат-ботов, таких как ChatGPT, возникнут некоторые проблемы с безопасностью искусственного интеллекта. Злоумышленники могут использовать эти инструменты для быстрой разработки более опасного вредоносного ПО, а мошенники обязательно будут использовать будущие AI чат-боты для осуществления более дерзких атак социальной инженерии.
С другой стороны, AI чат-боты имеют потенциал для улучшения кибербезопасности. Например, они могут останавливать злоумышленников, обнаруживая подозрительные шаблоны в документах, письмах, приложениях и сетевой активности. Продвинутый чат-бот, как ChatGPT, может также быть настроен для обучения сотрудников кибербезопасности и снижения эффективности фишинговых атак.