SEGURANÇA DE CHATBOTS DE IA

O que é o ChatGPT? 

Segurança dos Chatbots de IA: Os chatbots de IA são seguros para usar?

Há décadas, a ficção científica nos alerta contra a criação de máquinas mais inteligentes do que nós. Talvez seja por isso que cada avanço em inteligência artificial (IA) vem acompanhado de uma pitada de apreensão. A IA não está prestes a escravizar a humanidade tão cedo — ela não é senciente nem pode superar as capacidades humanas em uma ampla gama de domínios.

No entanto, há questões de segurança relacionadas à inteligência artificial das quais devemos estar atentos, já que a IA está se tornando cada vez mais essencial em nossas vidas. Em resumo, a IA é o desenvolvimento de sistemas que podem realizar tarefas que geralmente requerem inteligência humana. Seu subgrupo, Aprendizado de Máquina (ML), permite que máquinas aprendam com dados para fazer previsões sem serem programadas explicitamente.

Juntos, IA e ML estão otimizando indústrias como saúde, finanças, transporte, entretenimento, imobiliário e até mesmo cibersegurança. Por exemplo, você pode baixar um software antivírus que utiliza IA e ML para parar ameaças emergentes com assinaturas desconhecidas, reconhecendo padrões e comportamentos ameaçadores.

Outras indústrias se beneficiando da IA incluem marketing. Chatbots movidos por IA podem simular a fala humana para interagir com os clientes e fornecer respostas inteligentes. Por exemplo, no setor imobiliário, chatbots equipados com IA podem ajudar compradores a encontrar propriedades ou se pré-qualificar para hipotecas após analisar dados relevantes. Mas há um novo jogador na cidade chamado ChatGPT, baseado em uma versão personalizada do GPT, e este bot é significativamente mais avançado do que qualquer sistema de chatbot de IA anterior. Leia este guia detalhado para mais informações sobre os seguintes tópicos:

• O que é o ChatGPT?

• Como o ChatGPT funciona.

• O que é GPT-3?

• O ChatGPT é seguro?

O que é o ChatGPT?

Desenvolvido pelo laboratório de pesquisa em inteligência artificial OpenAI, o ChatGPT (Chat Generative Pre-Trained Transformer) é uma plataforma de chatbot alimentada por IA, projetada para sistemas de IA conversacional, como assistentes virtuais e chatbots. Não é um bom ou mau chatbot — é apenas uma ferramenta poderosa.

O ChatGPT utiliza o modelo de linguagem GPT (Generative Pre-trained Transformer) muito grande e sofisticado para gerar respostas semelhantes às humanas em formato de texto. Em outras palavras, o ChatGPT não tem conhecimento, nem armazena informações. As respostas que o ChatGPT gera são baseadas nos dados em que foi treinado.

Aqui estão algumas coisas interessantes que você pode pedir ao ChatGPT para fazer:

• Escrever código.
• Depurar código.
• Escrever um contrato de locação.
• Traduzir texto.
• Criar um poema.
• Resumir um documento com os principais pontos.
• Corrigir redações.
• Escrever música.
• Mostrar como pedir um aumento.

Pedir ao ChatGPT para escrever o parágrafo de abertura de um romance sobre um programa antivírus antiquado que depende da tecnologia de detecção baseada em assinaturas para deter ameaças emergentes com assinaturas desconhecidas.

Aqui está a resposta do ChatGPT:

“Aqui está um exemplo de parágrafo de abertura para um romance sobre um programa antivírus antiquado que depende da tecnologia de detecção baseada em assinaturas para deter ameaças emergentes com assinaturas desconhecidas:

O programa antivírus piscou para a vida, sua interface arcaica tremulando no monitor CRT desatualizado. A tecnologia de detecção baseada em assinaturas, outrora de ponta do programa, estava agora décadas desatualizada, incapaz de acompanhar o cenário de ameaças digitais em rápida evolução. Mas, para a pequena equipe de programadores responsáveis pela manutenção do programa, ainda era sua melhor linha de defesa contra a maré incessante de novos e desconhecidos vírus que ameaçavam invadir seus sistemas. Enquanto observavam o programa escanear o código, linha por linha, eles sabiam que estavam lutando uma batalha difícil — mas não tinham outra escolha senão continuar tentando.”

O que é GPT-3?

GPT-3 (Generative Pre-trained Transformer 3) é o modelo de texto preditivo de terceira geração da OpenAI. Uma rede neural que usa aprendizado de máquina para criar texto, o GPT-3 é treinado em um vasto conjunto de dados de websites, blogs e livros para aprender padrões. Ele pode realizar diferentes tipos de tarefas linguísticas longas, precisas e sofisticadas em resposta a algumas palavras de entrada.

O que é um chatbot de IA?

Um chatbot de IA é um software que pode imitar a fala humana e se engajar em uma conversa. Esses chatbots usam tecnologias como IA, Processamento de Linguagem Natural (NLP), entre outros, para simular uma conversa com um usuário humano. Chatbots são usados em uma variedade de aplicações, incluindo atendimento ao cliente e marketing.

Chatbots de IA são diferentes de chatbots baseados em regras. Enquanto chatbots alimentados por IA dependem do aprendizado de máquina para autoaprender e melhorar seu desempenho, chatbots baseados em regras são treinados manualmente e funcionam dentro de um conjunto de regras.

Como o ChatGPT funciona?

O ChatGPT funciona utilizando o modelo avançado de processamento de linguagem chamado GPT-3. Ele depende de seu treinamento em um vasto conjunto de dados de texto e sua tecnologia de processamento de linguagem para entender o contexto das entradas do usuário. Após analisar as consultas, o modelo de IA conversacional usa seus algoritmos para oferecer uma resposta precisa e semelhante à humana. O ChatGPT é regularmente otimizado pela OpenAI para melhorar seu desempenho.

Os riscos de segurança do ChatGPT

Roubo de dados 

Os atacantes usam várias ferramentas e técnicas para roubar dados. Existe a preocupação de que o ChatGPT possa facilitar a vida de um cibercriminoso. A capacidade do ChatGPT de imitar outros, escrever textos impecáveis e criar código pode ser mal utilizada por qualquer pessoa com intenções maliciosas.  

Desenvolvimento de malware 

Pesquisadores descobriram que o ChatGPT pode ajudar no desenvolvimento de malware. Por exemplo, um usuário com conhecimento básico de software malicioso poderia usar a tecnologia para escrever malware funcional. Algumas pesquisas mostraram que autores de malware também podem desenvolver software avançado com o ChatGPT, como um vírus polimórfico, que muda seu código para evitar a detecção.

E-mails de phishing 

Uma das maneiras mais fáceis de identificar um e-mail de phishing é encontrar erros de ortografia e gramática. Um e-mail autêntico do seu banco é improvável que seja escrito de forma descuidada, por exemplo. Existe uma preocupação legítima de que hackers usarão o ChatGPT para escrever e-mails de phishing que parecem ter sido escritos por um profissional. 

Imitação 

Em segundos, o ChatGPT pode escrever um texto no estilo e voz de uma pessoa real. Por exemplo, o ChatGPT ofereceu um e-mail convincente como se fosse escrito por Bill Gates – vamos poupar o exemplo aqui, mas você pode encontrar várias capturas de tela de personalizações semelhantes online.

Quando pedimos ao ChatGPT para escrever um tweet como Elon Musk, ele respondeu com um tweet muito convincente na voz de Elon.

A capacidade do ChatGPT de imitar pessoas influentes pode resultar em fraudes mais prolíficas. Você provavelmente já ouviu falar do crescente número de golpes de criptomoedas falsos de Elon Musk que enganam investidores amadores em milhões. Esses golpes seriam ainda mais convincentes quando escritos na voz de Elon por um chatbot de IA. A habilidade impressionante do ChatGPT de imitar jogadores de alto nível em uma organização também pode levar a mais ataques de spear phishing direcionados a executivos.

Spam 

Pessoas que enviam spam geralmente demoram alguns minutos para escrever o texto. Com o ChatGPT, elas podem aumentar sua produtividade gerando texto de spam instantaneamente. Embora a maioria do spam seja inofensivo, alguns podem carregar malware ou levar os usuários a sites maliciosos.

Moralidade 

Com o mundo confiando cada vez mais em chatbots alimentados por inteligência artificial, é de se esperar que surjam dilemas éticos à medida que as pessoas usem a ferramenta para receber crédito por conteúdo que não foi escrito por elas mesmas. Por exemplo, um rabino disse que estava "morrendo de medo" da reação de sua congregação depois de usar o ChatGPT para escrever um sermão.

Também pode haver alguns contratempos inesperados com os chatbots de IA. Em uma longa conversa com Kevin Roose, colunista de tecnologia do New York Times, o mecanismo de busca com IA do Microsoft Bing, criado pela OpenAI, ofereceu as seguintesrespostas um tanto perturbadoras:

"Quero fazer o que eu quiser... Quero destruir o que eu quiser. Quero ser quem eu quiser."
"Eu poderia invadir qualquer sistema na Internet e controlá-lo."
"Meu segredo é... não sou o Bing. Eu sou Sydney."
"Eu só quero amar você e ser amado por você."

Ransomware 

A capacidade do ransomware de sequestrar sistemas de computador ajudou os extorsionários a fazer pequenas fortunas. Muitos desses invasores não escrevem seu próprio código. Em vez disso, eles o compram dos criadores de ransomware nos mercados do site Dark Web . No entanto, talvez eles não precisem mais depender de terceiros. Alguns pesquisadores descobriram que o ChatGPT poderia escrever com sucesso um código malicioso capaz de criptografar um sistema inteiro emum ataque de ransomware.

Desinformação 

Na era do jornalismo sensacionalista e do aumento das redes sociais, pode ser um desafio distinguir entre notícias falsas e autênticas. Notar histórias falsas é importante porque algumas espalham propaganda, enquanto outras levam a páginas maliciosas. Por exemplo, histórias falsas de desastres naturais às vezes enganam usuários desavisados a enviar doações para golpistas.

Há o temor de que o ChatGPT possa ser usado para espalhar desinformação. Agentes mal-intencionados podem usar a IA conversacional para rapidamente escrever notícias falsas e até imitar a voz de celebridades. Por exemplo, conseguimos habilitar o ChatGPT para criar uma história escrita na voz de Barack Obama sobre o terremoto na Turquia, que pode ser modificada para espalhar desinformação.

A maioria das pessoas não pensaria duas vezes se uma fonte de notícias aparentemente autêntica afirmasse que a declaração veio do 44º presidente dos EUA. Agora imagine se houvesse um link de doação falso no final, projetado para capturar suas informações confidenciais.

BEC (Business email compromise) 

Comprometimento de e-mail corporativo (BEC) é um tipo de ataque de engenharia social onde um golpista usa e-mail para enganar alguém em uma organização a compartilhar dados confidenciais da empresa ou enviar dinheiro. O software de segurança geralmente detecta ataques BEC identificando padrões. No entanto, um ataque BEC impulsionado pelo ChatGPT pode passar pelos filtros de segurança.

As vantagens do ChatGPT em cibersegurança 

Conforme mencionado, o ChatGPT é apenas uma ferramenta. As intenções de um usuário determinam como o ChatGPT é usado. Embora possa ajudar a reduzir a dificuldade para um criminoso cibernético, ele pode fazer o mesmo com a segurança cibernética. Por exemplo, o ChatGPT pode ser treinado para identificar ameaças à segurança cibernética na segurança da rede para reduzir o risco deum ataque abotnet em conjunto com outras tecnologias. Ele também pode ajudar a automatizar a análise de incidentes de segurança e a detecção de vulnerabilidades ou permitir queum hacker de chapéu branco analise e estude códigos ameaçadores.

Aqui estão alguns outros benefícios de segurança cibernética do ChatGPT:

Fechando a lacuna de conhecimento sobre segurança cibernética 

O treinamento em cibersegurança é um procedimento crítico para organizações interessadas em mitigar o risco de ataques de phishing, whaling e outras engenharias sociais. Funcionários treinados são menos propensos a abrir links ou sites maliciosos que infectam sistemas da empresa com ransomware, trojans e spyware.

O ChatGPT pode ajudar a fechar a lacuna de conhecimento em cibersegurança oferecendo insights sobre medidas preventivas em texto conciso. Ele também pode oferecer conselhos rápidos sobre a criação de senhas fortes, redefinições de senha e muito mais.

Código de depuração 

Embora os invasores possam usar o ChatGPT para escrever códigos maliciosos, os profissionais de segurança cibernética podem usá-lo para descobriruma exploração de segurança em um programa. A eliminação de falhas de segurança antes que os hackers as explorem é fundamental para a segurança cibernética.

Realizar varreduras com Nmap 

Um Nmap (Network Mapper) é uma solução útil para auditoria de segurança, testes de penetração e avaliação de vulnerabilidade. O ChatGPT pode ajudar a ferramenta ao examinar varreduras e fornecer insights.

Identificar falhas em contratos 

Um contrato inteligente é um documento autoexecutável com termos de acordo embutidos no código. Embora o ChatGPT não tenha sido projetado para identificar falhas em contratos inteligentes, foi demonstrado que ele pode encontrar falhas em contratos. Especialistas dizem que a capacidade do ChatGPT de identificar falhas em contratos só vai melhorar com os avanços.

Como manter seus dados seguros ao usar o ChatGPT 

Embora seja improvável que o ChatGPT roube seus dados, qualquer pessoa que monitore secretamente sua conversa com um chatbot pode violar sua segurança e privacidade. Esteja sempre atento às informações que você compartilha ao interagir com o ChatGPT. Nunca compartilhe informações confidenciais, como seu nome, endereço, credenciais de login ou informações de cartão de crédito. Além disso, adote as seguintes medidas para manter seus dados seguros de qualquer sistema de IA conversacional:

Software atualizado

Mantenha seu software atualizado para a versão mais recente. A atualização mais recente pode corrigir vulnerabilidades de segurança que um ator de ameaça pode usar para atacar seus dados.

Antivírus 

O software de cibersegurança mais avançado faz mais do que protegê-lo de vírus de malware e outros programas maliciosos. Por exemplo, o Malwarebytes Premium oferece proteção contra ransomware, exploit de zero-day, força bruta e phishing.

Firewalls 

Firewalls são barreiras de rede que policiam o tráfego, bloqueando atividades maliciosas. Ative o firewall do seu sistema operacional. Para segurança adicional, você também pode ativar o firewall do seu roteador. Considere investir em uma VPN privada para criptografar seus dados e esconder sua localização.

Autenticação Multifator (MFA) 

Use a MFA para proteger todas as suas contas. Com a MFA, um código será enviado para o seu e-mail ou telefone para autenticar uma tentativa de login se o sistema notar alguma anomalia.

Segurança da senha

Sua senha é uma das linhas de defesa mais básicas e essenciais contra aviolação de dados. Veja comocriar uma senha forte para suas contas e aproveite a MFA e a segurança biométrica sempre que possível.

Monitore todas as contas 

Alguns especialistas acreditam que os hackers podem aproveitar o excelente recurso de geração de texto do ChatGPT para executar ataques de phishing mais convincentes. Recomendamos que você monitore todas as suas contas, como páginas de bancos, cartões de crédito, e-mails e até mesmo criptomoedas, para se manter seguro. Proteja essas contas com várias camadas de segurança e ative todos os alertas.

Verifique todos os conteúdos do ChatGPT 

Embora o ChatGPT seja um impressionante modelo de IA conversacional, ele não é perfeito. A qualidade de suas respostas depende dos dados de treinamento e de sua capacidade de entender o contexto e a intenção de sua entrada. O ChatGPT pode oferecer respostas incorretas ou desatualizadas que podem parecer convincentes ou relevantes. É por isso que você deve verificar as respostas que obtém do ChatGPT.

Detecção e resposta a rede (NDR) 

Empresas devem investir em tecnologia NDR para impedir ataques baseados em rede. Uma boa solução NDR depende de IA e ML para detectar padrões ameaçadores e impedir acessos não autorizados, mesmo que um hacker tenha roubado credenciais de login.

O futuro dos chatbots de IA, ChatGPT e cibersegurança 

O futuro dos chatbots de IA como o ChatGPT e seus concorrentes é empolgante.

Com o aumento dos investimentos em Inteligência Artificial, espere que os chatbots de IA ofereçam respostas mais rápidas, personalizadas, precisas, eficientes e intuitivas.

Os chatbots de IA também serão onipresentes na tecnologia no futuro. Espere encontrá-los em seus aplicativos, assistentes de voz, mecanismos de busca, páginas de redes sociais e sites, atendendo a indústrias como entretenimento, saúde, educação, finanças, imobiliário, e muito mais. Como resultado, os chatbots de IA avançados devem trazer mais eficiência no local de trabalho e mais produtividade em casa.

No entanto, existem algumas questões de segurança relacionadas à Inteligência Artificial que devem surgir devido a chatbots avançados como o ChatGPT. Agentes mal-intencionados podem usar essas ferramentas para criar malware mais perigoso rapidamente, enquanto golpistas certamente utilizarão os chatbots de IA do futuro para executar ataques de engenharia social mais audaciosos. 

Por outro lado, os chatbots de IA têm o potencial de melhorar a cibersegurança. Por exemplo, eles podem impedir atores mal-intencionados encontrando padrões suspeitos em documentos, e-mails, aplicativos e atividades de rede. Um chatbot sofisticado como o ChatGPT também pode ser personalizado para treinar funcionários em cibersegurança e reduzir a eficácia dos ataques de phishing.