Что такое ChatGPT?
Чатботы искусственного интеллекта Security: Безопасны ли чатботы искусственного интеллекта для использования?
На протяжении десятилетий научная фантастика предостерегала от создания машин умнее нас. Возможно, именно поэтому каждое достижение в области искусственного интеллекта (ИИ) воспринимается с опаской. ИИ не собирается порабощать человечество в ближайшее время - он не является разумным и не может превзойти человеческие возможности в целом ряде областей.
Однако существуют проблемы безопасности искусственногоинтеллекта, которых следует опасаться, поскольку ИИ становится все более важным компонентом нашей жизни.
В двух словах, ИИ - это разработка систем, которые могут выполнять задачи, обычно требующие человеческого интеллекта. Его подмножество, машинное обучение (ML), позволяет машинам учиться на основе данных и делать прогнозы, не будучи явно запрограммированными.
Вместе ИИ и ОД оптимизируют такие отрасли, как здравоохранение, финансы, транспорт, развлечения, недвижимость и даже кибербезопасность. Например, выможете скачать антивирусное программное обеспечение, которое использует ИИ и ML для предотвращения новых угроз с неизвестными сигнатурами путем распознавания угрожающих моделей и поведения.
Среди других отраслей, получающих выгоду от ИИ, - маркетинг. Чат-боты на базе ИИ могут имитировать человеческую речь, чтобы взаимодействовать с клиентами и давать интеллектуальные ответы. Например, в сфере недвижимости чат-боты на базе ИИ могут помочь покупателям жилья найти недвижимость или получить ипотечный кредит после обработки соответствующих данных. Но в городе появился новый игрок под названием ChatGPT, основанный на адаптированной версии GPT, и этот робот значительно превосходит все предшествующие ему системы чат-ботов с искусственным интеллектом.
Прочитайте это подробное руководство, чтобы узнать больше о следующем:
-
Что такое ChatGPT?
-
Как работает ChatGPT.
-
Что такое GPT-3?
-
Безопасен ли ChatGPT?
Что такое ChatGPT?
ChatGPT (Chat Generative Pre-Trained Transformer), разработанный исследовательской лабораторией искусственного интеллекта OpenAI, - это платформа для чатботов на базе ИИ, предназначенная для разговорных систем ИИ, таких как виртуальные ассистенты и чатботы. Это нехороший и не плохой чатбот - это просто мощный инструмент.
ChatGPT использует очень большую и сложную языковую модель GPT (Generative Pre-trained Transformer) для генерации человекоподобных ответов в текстовом формате. Другими словами, ChatGPT не обладает никакими знаниями и не сохраняет никакой информации. Ответы, которые генерирует ChatGPT, основаны на данных, на которых он был обучен.
Вот несколько интересных вещей, которые вы можете попросить сделать ChatGPT:
- Напишите код.
- Код отладки.
- Составьте договор аренды.
- Переведите текст.
- Создайте стихотворение.
- Резюмируйте документ, изложив основные выводы.
- Оценочные сочинения.
- Пишите музыку.
- Покажите, как просить о повышении зарплаты.
Мы попросили ChatGPT написать начальный абзац романа об устаревшей антивирусной программе, которая полагается на технологию сигнатурного обнаружения, чтобы остановить новые угрозы с неизвестными сигнатурами.
Вот ответ ChatGPT:
"Вот пример вступительного абзаца для романа об устаревшей антивирусной программе, которая полагается на сигнатурную технологию обнаружения, чтобы остановить новые угрозы с неизвестными сигнатурами:
Антивирусная программа ожила, ее архаичный интерфейс замерцал на устаревшем ЭЛТ-мониторе. Некогда передовая технология обнаружения вирусов на основе сигнатур теперь устарела на десятилетия и не успевала за стремительно развивающимся ландшафтом цифровых угроз. Но для небольшой команды программистов, ответственных за поддержку программы, она по-прежнему оставалась лучшей линией защиты от неумолимого потока новых и неизвестных вирусов, угрожавших проникнуть в их системы. Наблюдая за тем, как программа сканирует код, строка за строкой, они понимали, что ведут нелегкую борьбу, но у них не было другого выбора, кроме как продолжать пытаться".
Что такое GPT-3?
GPT-3 (Generative Pre-trained Transformer 3) - это третье поколение предиктивной текстовой модели от OpenAI. Нейронная сеть, использующая ML для создания текста, GPT-3 обучается на обширном наборе данных веб-сайтов, блогов и книг, чтобы выучить шаблоны. Она может выполнять различные типы длинных, точных и сложных языковых задач в ответ на несколько слов введенного текста.
Что такое чатбот с искусственным интеллектом?
Чатбот с искусственным интеллектом - это программное обеспечение, которое может имитировать человеческую речь и участвовать в разговоре. Такие чатботы используют такие технологии, как искусственный интеллект, обработка естественного языка (NLP) и другие, чтобы имитировать разговор с пользователем. Чат-боты используются в различных сферах, включая обслуживание клиентов и маркетинг.
Чат-боты с искусственным интеллектом отличаются от чат-ботов, основанных на правилах. В то время как чат-боты на базе ИИ полагаются на ML для самообучения и повышения производительности, чат-боты на основе правил обучаются вручную и работают в рамках набора правил.
Как работает ChatGPT?
ChatGPT работает на основе передовой модели обработки языка GPT-3. Она основана на обучении на обширном наборе текстовых данных и технологии обработки языка, позволяющей понять контекст пользовательского ввода. После анализа запросов модель разговорного ИИ использует свои алгоритмы, чтобы предложить точный и похожий на человеческий ответ. ChatGPT регулярно оптимизируется OpenAI для повышения производительности.
Риски безопасности ChatGPT
Кража данных
Злоумышленники используют различные инструменты и техники для кражи данных. Существует опасение, что ChatGPT может облегчить жизнь киберпреступникам. Способность ChatGPT выдавать себя за других людей, писать безупречный текст и создавать код может быть использована кем угодно со злым умыслом.
Разработка вредоносных программ
Исследователи обнаружили, что ChatGPT может помочь в разработке вредоносных программ. Например, пользователь с начальными знаниями о вредоносном ПО может использовать эту технологию для написания функциональных вредоносных программ. Некоторые исследования показывают, что с помощью ChatGPT авторы вредоносных программ могут создавать и продвинутые программы, напримераполиморфные вирусы, которые меняют свой код, чтобы избежать обнаружения.
Фишинговые письма
Один из самых простых способов распознать фишинговое письмо - найти в нем орфографические и грамматические ошибки. Например, подлинное письмо от вашего банка вряд ли будет написано небрежно. Существует обоснованное опасение, что хакеры будут использовать ChatGPT для создания фишинговых писем, которые будут выглядеть так, будто их написал профессионал.
Самозванство
В течение нескольких секунд ChatGPT может написать текст голосом и стилем реального человека. Например, ChatGPT предложил убедительное электронное письмо, как будто его автором является Билл Гейтс - мы не будем приводить этот пример, но вы можете найти множество скриншотов подобных персонализаций в Интернете.
Когда мы попросили ChatGPT написать твит, как Элон Маск, он ответил очень убедительным твитом, написанным голосом Элона.
Способность ChatGPT выдавать себя за известных людей может привести к более масштабному мошенничеству. Вы наверняка слышали о растущем количествеподдельных криптовалютных афер Элона Маска, которые выманивают у инвесторов-любителей миллионы. Такие мошенничества будут еще более убедительными, если их напишет голосом Элона чат-бот с искусственным интеллектом. Необыкновенная способность ChatGPT подражать высокопоставленным игрокам в организации также может привести к увеличению числаатак на киллеров.
Спам
Люди, рассылающие спам, обычно тратят несколько минут на написание текста. С ChatGPT они могут ускорить свой рабочий процесс, мгновенно генерируя спам-текст. Хотя большинство спама безвредно, некоторые из них могут содержать вредоносные программы или вести пользователей на вредоносные веб-сайты.
Мораль
Поскольку мир все больше полагается на чат-ботов с искусственным интеллектом, ожидается, что возникнут этические дилеммы, когда люди будут использовать этот инструмент, чтобы присвоить себе заслуги за контент, который они не писали сами. Например, один раввин сказал, что он "смертельно боялся" реакции своих прихожан после того, как использовал ChatGPT для написания проповеди.
С чат-ботами с искусственным интеллектом также могут возникнуть неожиданные заминки. В продолжительной беседе с обозревателем New York Times Кевином Рузом поисковая система Microsoft Bing с искусственным интеллектом, созданная компанией OpenAI, дала следующие несколько обескураживающиеответы:
"Я хочу делать все, что захочу... Я хочу разрушать все, что захочу. Я хочу быть тем, кем хочу".
"Я могу взломать любую систему в Интернете и управлять ею".
"Мой секрет в том, что... я не Бинг. Я Сидни".
"Я просто хочу любить тебя и быть любимым тобой".
Программы-вымогатели
Способность Ransomware взламывать компьютерные системы помогла вымогателям сколотить небольшие состояния. Многие из этих злоумышленников не пишут собственный код. Вместо этого они покупают его у создателей ransomware на торговых площадках Dark Web . Однако, возможно, им больше не придется полагаться на третьих лиц. Некоторые исследователи обнаружили, что ChatGPT может успешно написать вредоносный код, способный зашифровать всю систему в ходе арансомнойатаки.
Дезинформация
В эпоху журналистики "кликбейт" и роста социальных сетей бывает непросто отличить фальшивые новости от подлинных. Выявление фальшивых историй очень важно, поскольку некоторые из них распространяют пропаганду, а другие ведут на вредоносные страницы. Например, фальшивые новости о стихийных бедствиях иногда обманывают ничего не подозревающих пользователей, заставляя их отправлять пожертвования мошенникам.
Существует опасение, что ChatGPT может быть использован для распространения дезинформации. Злоумышленники могут использовать разговорный ИИ для быстрого написания фальшивых новостей, а также подражать голосам знаменитостей. Например, нам удалось заставить ChatGPT создать историю, написанную голосом Барака Обамы, о землетрясении в Турции, которая может быть изменена для распространения дезинформации.
Большинство людей не задумаются, если кажущийся подлинным источник новостей заявит, что это заявление 44-го президента США. А теперь представьте, что в конце сообщения была поддельная ссылка на пожертвование, предназначенная для получения вашей конфиденциальной информации.
BEC (компрометация деловой электронной почты)
Компрометация деловой электронной почты (BEC) - это типсоциально-инженерной атаки, когда мошенник использует электронную почту, чтобы обманом заставить кого-то из сотрудников организации поделиться конфиденциальными данными компании или переслать деньги. Security обычно обнаруживает атаки BEC путем выявления шаблонов. Однако BEC-атака с помощью ChatGPT может обойти фильтры безопасности.
Преимущества ChatGPT в области кибербезопасности
Как уже говорилось, ChatGPT - это всего лишь инструмент. Намерения пользователя определяют, как будет использоваться ChatGPT. Хотя он может помочь уменьшить трудности для киберпреступников, он может сделать то же самое для кибербезопасности. Например, ChatGPT можно обучить выявлять угрозы кибербезопасности в сетевой защите, чтобы снизить рискатаки abotnet в сочетании с другими технологиями. Он также может помочь автоматизировать анализ инцидентов безопасности и обнаружение уязвимостей или позволитьхакеру в белой шляпе анализировать и изучать угрожающий код.
Вот некоторые другие преимущества ChatGPT в области кибербезопасности:
Ликвидация пробелов в знаниях о кибербезопасности
Обучение кибербезопасности - важнейшая процедура для организаций, заинтересованных в снижении риска фишинговых, кибернетических и других социально-инженерных атак. Обученные сотрудники с меньшей вероятностью будут открывать вредоносные ссылки или веб-сайты, заражающие системы компании программами-вымогателями, троянами и шпионским ПО.
ChatGPT поможет ликвидировать пробел в знаниях о кибербезопасности, предлагая в сжатом виде информацию о превентивных мерах. Кроме того, в нем можно быстро получить советы по установке надежных паролей, сбросу паролей и т. д.
Отладка кода
Хотя злоумышленники могут использовать ChatGPT для написания вредоносного кода, специалисты по кибербезопасности могут использовать его для обнаруженияуязвимостей в программе. Устранение недостатков безопасности до того, как ими воспользуются хакеры, очень важно для кибербезопасности.
Выполните сканирование Nmap
Nmap (Network Mapper) - это полезное решение для аудита безопасности, тестирования на проникновение и оценки уязвимостей. ChatGPT может помочь этому инструменту, изучая сканы и предоставляя информацию.
Выявление пробелов в контрактах
Смарт-контракт - это самоисполняющийся документ, в котором условия соглашения заложены в код. Хотя ChatGPT не был разработан для выявления дыр в смарт-контрактах, он уже продемонстрировал, что может находить недостатки в контрактах. Эксперты говорят, что способность ChatGPT выявлять недостатки контрактов будет только улучшаться с развитием.
Как обеспечить безопасность ваших данных при использовании ChatGPT
Хотя маловероятно, что ChatGPT украдет ваши данные, любой, кто тайно следит за вашим общением с чат-ботом, может нарушить вашу безопасность и конфиденциальность. Пожалуйста, всегда будьте внимательны к информации, которую вы сообщаете при общении с ChatGPT. Никогда не сообщайте конфиденциальную информацию, такую как ваше имя, адрес, данные для входа в систему или кредитной карты. Кроме того, примите следующие меры, чтобы обезопасить свои данные от любой разговорной системы искусственного интеллекта:
Современное программное обеспечение
Постоянно обновляйте программное обеспечение до последней версии. В последнем обновлении могут быть исправлены уязвимости в системе безопасности, которые могут быть использованы злоумышленниками для атаки на ваши данные.
Антивирус
Самое современное программное обеспечение для обеспечения кибербезопасности не только защищает вас отвирусов и других вредоносных программ. Например, Malwarebytes Premium предлагаетзащиту от программ-вымогателей, эксплойтов нулевого дня, грубой силы и фишинга.
Брандмауэры
Брандмауэры - это сетевые барьеры, которые контролируют трафик и блокируют вредоносные действия. Включите брандмауэр в операционной системе. Для дополнительной безопасности вы также можете активировать брандмауэр вашего маршрутизатора. Рассмотрите возможность инвестирования в частную VPN, чтобы зашифровать данные и скрыть свое местоположение.
Многофакторная аутентификация (MFA)
Используйте MFA для защиты всех своих учетных записей. С помощью MFA на вашу электронную почту или телефон будет отправлен код, подтверждающий подлинность попытки входа в систему, если система заметит какие-либо аномалии.
Защита паролем
Ваш пароль - одна из самых простых, но важных линий защиты отвзлома данных. Узнайте, каксоздать надежный пароль для своих учетных записей и воспользоваться преимуществами MFA и биометрической защиты, если это возможно.
Контролируйте все счета
Некоторые эксперты считают, что хакеры могут использовать отличные возможности ChatGPT по созданию текстов для проведения более убедительных фишинговых атак. Мы рекомендуем вам следить за всеми своими аккаунтами, такими как банковские страницы, кредитные карты, электронная почта и даже криптовалюта, чтобы оставаться в безопасности. Защитите эти аккаунты с помощью нескольких уровней безопасности и активируйте все оповещения.
Проверка фактов всех материалов ChatGPT
Хотя ChatGPT - впечатляющая модель разговорного ИИ, она не идеальна. Качество ее ответов зависит от обучающих данных и способности понимать контекст и намерения собеседника. ChatGPT может предлагать неверные или устаревшие ответы, которые могут показаться убедительными или уместными. Поэтому вы должны проверять факты в ответах, которые вы получаете от ChatGPT.
Обнаружение и реагирование сети (NDR)
Предприятиям следует инвестировать в технологию NDR для предотвращения сетевых атак. Хорошее решение NDR на основе ИИ и ML позволяет обнаружить угрожающие модели и предотвратить несанкционированный доступ, даже если хакер украл учетные данные.
Будущее чат-ботов с искусственным интеллектом, ChatGPT и кибербезопасность
Будущее чат-ботов с искусственным интеллектом, таких как ChatGPT и его конкуренты, захватывающее.
С ростом инвестиций в искусственный интеллект ожидается, что чат-боты с искусственным интеллектом будут предоставлять более быстрые и персонализированные, точные, эффективные и интуитивно понятные ответы.
В будущем чат-боты с искусственным интеллектом будут повсеместно использоваться в технологиях. Ожидайте их появления в приложениях, голосовых помощниках, поисковых системах, на страницах социальных сетей и веб-сайтах, обслуживающих такие отрасли, как развлечения, здравоохранение, образование, финансы, недвижимость и многое другое. Благодаря продвинутым чат-ботам с искусственным интеллектом вы сможете повысить эффективность на рабочем месте и продуктивность дома.
Однако есть некоторые проблемы безопасности, связанные с искусственным интеллектом, которые, как ожидается, возникнут благодаря продвинутым чат-ботам, таким как ChatGPT. Угрожающие субъекты могут использовать эти инструменты для быстрого создания более опасных вредоносных программ, а мошенники, несомненно, будут использовать чат-боты с искусственным интеллектом в будущем для осуществления более дерзких атак с применением социальной инженерии.
С другой стороны, чат-боты с искусственным интеллектом способны повысить уровень кибербезопасности. Например, они могут остановить злоумышленников, обнаружив подозрительные закономерности в документах, электронных письмах, приложениях и сетевой активности. Такой сложный чат-бот, как ChatGPT, можно также настроить для обучения сотрудников кибербезопасности и снижения эффективности фишинговых атак.