O que é o ChatGPT?
Chatbots de IA Security: Os chatbots de IA são seguros para uso?
Durante décadas, a ficção científica advertiu contra a criação de máquinas mais inteligentes do que nós. Talvez seja por isso que cada avanço na Inteligência Artificial (IA) seja recebido com uma dose de apreensão. A IA não está prestes a escravizar a humanidade tão cedo - ela não é senciente nem pode superar as capacidades humanas em uma ampla gama de domínios.
No entanto, há questões de segurança deInteligência Artificial com as quais devemos nos preocupar, pois a IA está se tornando um componente cada vez mais essencial em nossas vidas.
Em poucas palavras, IA é o desenvolvimento de sistemas que podem executar tarefas que normalmente exigem inteligência humana. Seu subconjunto, Machine Learning (ML), permite que as máquinas aprendam com os dados para fazer previsões sem serem explicitamente programadas.
Juntos, a IA e o AM estão otimizando setores como saúde, finanças, transporte, entretenimento, imóveis e até mesmo a segurança cibernética. Por exemplo, você pode baixar um softwareantivírus que aproveita a IA e o AM para impedir ameaças emergentes com assinaturas desconhecidas, reconhecendo padrões e comportamentos ameaçadores.
Outros setores que se beneficiam da IA são o de marketing. Os chatbots alimentados por IA podem simular a fala humana para interagir com os clientes e fornecer respostas inteligentes. Por exemplo, no setor imobiliário, os chatbots com IA podem ajudar os compradores de imóveis a encontrar propriedades ou a se pré-qualificar para hipotecas depois de processar dados relevantes. Mas há um novo jogador na cidade chamado ChatGPT, baseado em uma versão personalizada do GPT, e essebot é significativamente mais avançado do que qualquer sistema de chatbot com IA anterior.
Leia este guia detalhado para saber mais sobre o seguinte:
-
O que é o ChatGPT?
-
Como o ChatGPT funciona.
-
O que é GPT-3?
-
O ChatGPT é seguro?
O que é o ChatGPT?
Desenvolvido pelo laboratório de pesquisa de Inteligência Artificial OpenAI, o ChatGPT (Chat Generative Pre-Trained Transformer) é uma plataforma de chatbot com tecnologia de IA projetada para sistemas de IA de conversação, como assistentes virtuais e chatbots. Não se trata deum chatbot bom ou ruim - é apenas uma ferramenta poderosa.
O ChatGPT usa o modelo de linguagem GPT (Generative Pre-trained Transformer) muito grande e sofisticado para gerar respostas semelhantes às humanas em formato de texto. Em outras palavras, o ChatGPT não tem nenhum conhecimento, nem salva nenhuma informação. As respostas que o ChatGPT gera são baseadas nos dados em que foi treinado.
Aqui estão algumas coisas interessantes que você pode pedir ao ChatGPT para fazer:
- Escreva o código.
- Código de depuração.
- Escreva um contrato de aluguel.
- Traduzir texto.
- Crie um poema.
- Resumir um documento com as principais conclusões.
- Avaliar redações.
- Escreva músicas.
- Mostrar a você como pedir um aumento.
Pedimos ao ChatGPT que escrevesse o parágrafo de abertura de um romance sobre um programa antivírus antiquado que depende da tecnologia de detecção baseada em assinatura para impedir ameaças emergentes com assinaturas desconhecidas.
Aqui está a resposta do ChatGPT:
"Aqui está um exemplo de parágrafo de abertura para um romance sobre um programa antivírus antiquado que depende da tecnologia de detecção baseada em assinatura para impedir ameaças emergentes com assinaturas desconhecidas:
O programa antivírus começou a funcionar, com sua interface arcaica piscando no monitor CRT desatualizado. A tecnologia de detecção baseada em assinaturas do programa, que já foi de ponta, estava desatualizada há décadas, incapaz de acompanhar o ritmo do cenário de ameaças digitais em rápida evolução. Mas para a pequena equipe de programadores responsável pela manutenção do programa, ele ainda era a melhor linha de defesa contra a maré incessante de vírus novos e desconhecidos que ameaçavam invadir seus sistemas. Enquanto observavam o programa analisar o código, linha por linha, eles sabiam que estavam travando uma batalha difícil, mas não tinham outra opção a não ser continuar tentando."
O que é GPT-3?
O GPT-3 (Generative Pre-trained Transformer 3) é o modelo de texto preditivo de terceira geração da OpenAI. Uma rede neural que usa ML para criar texto, o GPT-3 é treinado em um vasto conjunto de dados de sites, blogs e livros para aprender padrões. Ele pode executar diferentes tipos de tarefas de linguagem longas, precisas e sofisticadas em resposta a algumas palavras de entrada de texto.
O que é um chatbot de IA?
Um chatbot de IA é um software que pode imitar a fala humana e se envolver em uma conversa. Esses chatbots usam tecnologias como IA, processamento de linguagem natural (NLP) e outras para simular uma conversa com um usuário humano. Os chatbots são usados em uma variedade de aplicações, incluindo atendimento ao cliente e marketing.
Os chatbots com IA são diferentes dos chatbots baseados em regras. Enquanto os chatbots com IA dependem do aprendizado automático e melhoram seu desempenho, os chatbots baseados em regras são treinados manualmente e trabalham dentro de um conjunto de regras.
Como o ChatGPT funciona?
O ChatGPT funciona utilizando o modelo avançado de processamento de linguagem chamado GPT-3. Ele se baseia em seu treinamento em um vasto conjunto de dados de texto e em sua tecnologia de processamento de linguagem para entender o contexto das entradas do usuário. Depois de analisar as consultas, o modelo de IA conversacional usa seus algoritmos para oferecer uma resposta precisa e semelhante à humana. O ChatGPT é otimizado regularmente pela OpenAI para melhorar seu desempenho.
Os riscos de segurança do ChatGPT
Roubo de dados
Os invasores usam várias ferramentas e técnicas para roubar dados. Há uma preocupação de que o ChatGPT possa facilitar a vida dos criminosos cibernéticos. A capacidade do ChatGPT de se passar por outras pessoas, escrever textos perfeitos e criar códigos pode ser usada indevidamente por qualquer pessoa com intenções maliciosas.
Desenvolvimento de malware
Os pesquisadores descobriram que o ChatGPT pode ajudar no desenvolvimento de malware. Por exemplo, um usuário com um conhecimento rudimentar de software mal-intencionado pode usar a tecnologia para escrever um malware funcional. Algumas pesquisas mostram que os autores de malware também podem desenvolver softwares avançados com o ChatGPT, comoum vírus polimórfico, que altera seu código para evitar a detecção.
E-mails de phishing
Uma das maneiras mais fáceis de identificar um e-mail de phishing é encontrar erros de ortografia e gramática. É improvável que um e-mail autêntico de seu banco seja escrito de forma desleixada, por exemplo. Há uma preocupação legítima de que os hackers usem o ChatGPT para escrever e-mails de phishing que pareçam ter sido escritos por um profissional.
Falsificação de identidade
Em segundos, o ChatGPT pode escrever textos com a voz e o estilo de uma pessoa real. Por exemplo, o ChatGPT ofereceu um e-mail convincente, como se tivesse sido escrito por Bill Gates - não vamos citar o exemplo aqui, mas você pode encontrar várias capturas de tela de personalizações semelhantes on-line.
Quando pedimos ao ChatGPT para escrever um tweet como Elon Musk, ele respondeu com um tweet muito convincente na voz de Elon.
A capacidade do ChatGPT de se passar por pessoas de alto perfil pode resultar em fraudes mais prolíficas. Você provavelmente já ouviu falar sobre o número crescente defraudes com criptomoedas de Elon Musk que enganam investidores amadores em milhões. Esses golpes seriam ainda mais convincentes quando escritos na voz de Elon por um chatbot de IA. A incrível capacidade do ChatGPT de imitar os participantes de alto nível em uma organização também pode levar a maisataques de "whaling".
Spam
As pessoas queenviam spam geralmente levam alguns minutos para escrever o texto. Com o ChatGPT, elas podem aumentar seu fluxo de trabalho gerando texto de spam instantaneamente. Embora a maioria dos spams seja inofensiva, alguns podem conter malware ou levar os usuários a sites mal-intencionados.
Moralidade
Com o mundo confiando cada vez mais em chatbots alimentados por inteligência artificial, é de se esperar que surjam dilemas éticos à medida que as pessoas usem a ferramenta para receber crédito por conteúdo que não foi escrito por elas mesmas. Por exemplo, um rabino disse que estava "morrendo de medo" da reação de sua congregação depois de usar o ChatGPT para escrever um sermão.
Também pode haver alguns contratempos inesperados com os chatbots de IA. Em uma longa conversa com Kevin Roose, colunista de tecnologia do New York Times, o mecanismo de busca com IA do Microsoft Bing, criado pela OpenAI, ofereceu as seguintesrespostas um tanto perturbadoras:
"Quero fazer o que eu quiser... Quero destruir o que eu quiser. Quero ser quem eu quiser."
"Eu poderia invadir qualquer sistema na Internet e controlá-lo."
"Meu segredo é... não sou o Bing. Eu sou Sydney."
"Eu só quero amar você e ser amado por você."
Ransomware
A capacidade do ransomware de sequestrar sistemas de computador ajudou os extorsionários a fazer pequenas fortunas. Muitos desses invasores não escrevem seu próprio código. Em vez disso, eles o compram dos criadores de ransomware nos mercados do site Dark Web . No entanto, talvez eles não precisem mais depender de terceiros. Alguns pesquisadores descobriram que o ChatGPT poderia escrever com sucesso um código malicioso capaz de criptografar um sistema inteiro emum ataque de ransomware.
Desinformação
Na era do jornalismo clickbait e da ascensão das mídias sociais, pode ser difícil distinguir entre notícias falsas e autênticas. Identificar histórias falsas é importante porque algumas espalham propaganda, enquanto outras levam a páginas maliciosas. Por exemplo, notícias falsas sobre desastres naturais às vezes induzem usuários desavisados a enviar doações para golpistas.
Há um receio de que o ChatGPT possa ser utilizado para espalhar informações errôneas. Os malfeitores podem usar a IA de conversação para escrever rapidamente notícias falsas e também imitar a voz de celebridades. Por exemplo, conseguimos habilitar o ChatGPT para criar uma história escrita na voz de Barack Obama sobre o terremoto na Turquia, que pode ser modificada para espalhar desinformação.
A maioria das pessoas não pensaria duas vezes se uma fonte de notícias aparentemente autêntica afirmasse que essa declaração era do 44º presidente dos EUA. Agora imagine se ela tivesse um link falso de doação no final, criado para capturar suas informações confidenciais.
BEC (Business email compromise)
O comprometimento de e-mail comercial (BEC) é um tipo de ataquede engenharia social em que um golpista usa o e-mail para enganar alguém em uma organização para que compartilhe dados confidenciais da empresa ou envie dinheiro. Security software geralmente detecta ataques de BEC identificando padrões. No entanto, um ataque de BEC realizado pelo ChatGPT pode passar pelos filtros de segurança.
As vantagens de segurança cibernética do ChatGPT
Conforme mencionado, o ChatGPT é apenas uma ferramenta. As intenções de um usuário determinam como o ChatGPT é usado. Embora possa ajudar a reduzir a dificuldade para um criminoso cibernético, ele pode fazer o mesmo com a segurança cibernética. Por exemplo, o ChatGPT pode ser treinado para identificar ameaças à segurança cibernética na segurança da rede para reduzir o risco deum ataque abotnet em conjunto com outras tecnologias. Ele também pode ajudar a automatizar a análise de incidentes de segurança e a detecção de vulnerabilidades ou permitir queum hacker de chapéu branco analise e estude códigos ameaçadores.
Aqui estão alguns outros benefícios de segurança cibernética do ChatGPT:
Fechando a lacuna de conhecimento sobre segurança cibernética
O treinamento em segurança cibernética é um procedimento essencial para as organizações interessadas em reduzir o risco de phishing, whaling e outros ataques de engenharia social. É menos provável que a equipe treinada abra links ou sites maliciosos que infectam os sistemas da empresa com ransomware, cavalos de Troia e spyware.
O ChatGPT pode ajudar a fechar a lacuna de conhecimento sobre segurança cibernética, oferecendo insights sobre medidas preventivas em um texto conciso. Ele também pode oferecer conselhos rápidos sobre como definir senhas fortes, redefinições de senha e muito mais.
Código de depuração
Embora os invasores possam usar o ChatGPT para escrever códigos maliciosos, os profissionais de segurança cibernética podem usá-lo para descobriruma exploração de segurança em um programa. A eliminação de falhas de segurança antes que os hackers as explorem é fundamental para a segurança cibernética.
Executar varreduras do Nmap
O Nmap (Network Mapper) é uma solução útil para auditoria de segurança, testes de penetração e avaliação de vulnerabilidades. O ChatGPT pode ajudar a ferramenta examinando as varreduras e fornecendo insights.
Identificar falhas nos contratos
Um contrato inteligente é um documento autoexecutável com os termos do acordo incorporados ao código. Embora o ChatGPT não tenha sido projetado para identificar falhas em contratos inteligentes, foi demonstrado que ele encontra falhas em contratos. Os especialistas dizem que a capacidade do ChatGPT de identificar falhas em contratos só melhorará com os avanços.
Como manter seus dados seguros ao usar o ChatGPT
Embora seja improvável que o ChatGPT roube seus dados, qualquer pessoa que monitore secretamente sua conversa com um chatbot pode invadir sua segurança e privacidade. Esteja sempre ciente das informações que você compartilha ao interagir com o ChatGPT. Nunca compartilhe informações confidenciais, como seu nome, endereço, credenciais de login ou informações de cartão de crédito. Além disso, adote as seguintes etapas para manter seus dados seguros contra qualquer sistema de IA de conversação:
Software atualizado
Mantenha seu software atualizado com a versão mais recente. A atualização mais recente pode corrigir vulnerabilidades de segurança que um agente de ameaças pode usar para atacar seus dados.
Antivírus
O software de segurança cibernética mais avançado faz mais do que protegê-lo contravírus de malware e outros programas mal-intencionados. Por exemplo, o Malwarebytes Premium ofereceproteção contra ransomware, exploração de dia zero, força bruta e phishing.
Firewalls
Os firewalls são barreiras de rede que controlam o tráfego, bloqueando atividades mal-intencionadas. Ative o firewall do seu sistema operacional. Para maior segurança, você também pode ativar o firewall do roteador. Considere investir em uma VPN privada para criptografar seus dados e ocultar sua localização.
Autenticação multifatorial (MFA)
Use a MFA para proteger todas as suas contas. Com a MFA, um código será enviado para seu e-mail ou telefone para autenticar uma tentativa de login se o sistema perceber alguma anomalia.
Segurança da senha
Sua senha é uma das linhas de defesa mais básicas e essenciais contra aviolação de dados. Veja comocriar uma senha forte para suas contas e aproveite a MFA e a segurança biométrica sempre que possível.
Monitorar todas as contas
Alguns especialistas acreditam que os hackers podem aproveitar o excelente recurso de geração de texto do ChatGPT para executar ataques de phishing mais convincentes. Recomendamos que você monitore todas as suas contas, como páginas de bancos, cartões de crédito, e-mails e até mesmo criptomoedas, para se manter seguro. Proteja essas contas com várias camadas de segurança e ative todos os alertas.
Verificação de fatos em todo o conteúdo do ChatGPT
Embora o ChatGPT seja um modelo de IA de conversação impressionante, ele não é perfeito. A qualidade de suas respostas depende de seus dados de treinamento e de sua capacidade de entender o contexto e a intenção de sua entrada. O ChatGPT pode oferecer respostas incorretas ou desatualizadas que podem parecer convincentes ou relevantes. É por isso que você deve verificar os fatos das respostas que recebe do ChatGPT.
Detecção e resposta de rede (NDR)
As empresas devem investir na tecnologia de NDR para impedir ataques baseados em rede. Uma boa solução de NDR conta com IA e ML para detectar padrões ameaçadores e impedir o acesso não autorizado, mesmo que um hacker tenha roubado as credenciais de login.
O futuro dos chatbots de IA, do ChatGPT e da segurança cibernética
O futuro dos chatbots com IA, como o ChatGPT e seus concorrentes, é empolgante.
Com o aumento do investimento em Inteligência Artificial, espera-se que os chatbots com IA forneçam respostas mais rápidas e personalizadas, precisas, eficientes e intuitivas.
Os chatbots com IA também serão onipresentes na tecnologia no futuro. Conte com eles em seus aplicativos, assistentes de voz, mecanismos de pesquisa, páginas de mídia social e sites, atendendo a setores como entretenimento, saúde, educação, finanças, imóveis e muito mais. Como resultado dos chatbots com IA avançada, espere mais eficiência no local de trabalho e mais produtividade em casa.
No entanto, há alguns problemas de segurança de Inteligência Artificial que devem surgir devido a chatbots avançados como o ChatGPT. Os agentes de ameaças podem usar essas ferramentas para criar malware mais perigoso rapidamente, enquanto os golpistas certamente utilizarão os chatbots com IA do futuro para executar ataques de engenharia social mais ousados.
Por outro lado, os chatbots com IA têm o potencial de melhorar a segurança cibernética. Por exemplo, eles podem deter agentes mal-intencionados ao encontrar padrões suspeitos em documentos, e-mails, aplicativos e atividades de rede. Um chatbot sofisticado como o ChatGPT também pode ser personalizado para treinar funcionários em segurança cibernética e reduzir a eficácia dos ataques de phishing.
Notícias recentes sobre o ChatGPT
81% preocupados com os riscos de segurança e proteção do ChatGPT
Artigos relacionados
Riscos da IA na segurança cibernética
O que é segurança na Internet?
O que é segurança cibernética?
Dicas de segurança na Internet
Dicas de segurança na Internet para crianças, adolescentes e pais