
O que é o ChatGPT?
Segurança dos chatbots de IA: A utilização de chatbots com IA é segura?
Durante décadas, a ficção científica alertou para o facto de não se conceberem máquinas mais inteligentes do que nós. Talvez seja por isso que cada avanço na Inteligência Artificial (IA) é recebido com uma dose de apreensão. A IA não está prestes a escravizar a humanidade tão cedo - não é senciente nem pode ultrapassar as capacidades humanas numa vasta gama de domínios.
No entanto, há questões de segurançada Inteligência Artificial com as quais devemos estar atentos, uma vez que a IA se está a tornar uma componente cada vez mais essencial das nossas vidas.
Em poucas palavras, a IA é o desenvolvimento de sistemas que podem realizar tarefas que normalmente requerem inteligência humana. O seu subconjunto, a Aprendizagem Automática (AM), permite que as máquinas aprendam a partir de dados a fazer previsões sem serem explicitamente programadas.
Em conjunto, a IA e o ML estão a otimizar sectores como os cuidados de saúde, as finanças, os transportes, o entretenimento, o imobiliário e até a cibersegurança. Por exemplo, pode descarregar softwareantivírus que utiliza a IA e o ML para impedir ameaças emergentes com assinaturas desconhecidas, reconhecendo padrões e comportamentos ameaçadores.
Outros sectores que beneficiam da IA são o marketing. Os chatbots alimentados por IA podem simular o discurso humano para interagir com os clientes e fornecer respostas inteligentes. Por exemplo, no sector imobiliário, os chatbots alimentados por IA podem ajudar os compradores de casas a encontrar propriedades ou a pré-qualificar-se para hipotecas após a análise de dados relevantes. Mas há um novo jogador na cidade chamado ChatGPT, baseado numa versão personalizada do GPT, e estebot é significativamente mais avançado do que qualquer sistema de chatbot de IA anterior.
Leia este guia detalhado para saber mais sobre o seguinte:
-
O que é o ChatGPT?
-
Como funciona o ChatGPT.
-
O que é a GPT-3?
-
O ChatGPT é seguro?
O que é o ChatGPT?
Desenvolvido pelo laboratório de investigação de Inteligência Artificial OpenAI, o ChatGPT (Chat Generative Pre-Trained Transformer) é uma plataforma de chatbot alimentada por IA, concebida para sistemas de IA de conversação, como assistentes virtuais e chatbots. Não se trata deum chatbot bom ou mau - é apenas uma ferramenta poderosa.
O ChatGPT usa o modelo de linguagem GPT (Generative Pre-trained Transformer), muito grande e sofisticado, para gerar respostas semelhantes às humanas em formato de texto. Por outras palavras, o ChatGPT não tem qualquer conhecimento, nem guarda qualquer informação. As respostas geradas pelo ChatGPT baseiam-se nos dados em que foi treinado.
Eis algumas coisas interessantes que pode pedir ao ChatGPT para fazer:
- Código de escrita.
- Código de depuração.
- Redigir um contrato de arrendamento.
- Traduzir texto.
- Criar um poema.
- Resumir um documento com as principais conclusões.
- Classificar os ensaios.
- Escrever música.
- Mostrar-lhe como pedir um aumento.
Pedimos ao ChatGPT que escrevesse o parágrafo de abertura de um romance sobre um programa antivírus antiquado que se baseia na tecnologia de deteção baseada em assinaturas para impedir ameaças emergentes com assinaturas desconhecidas.
Eis a resposta do ChatGPT:
"Aqui está um exemplo de parágrafo de abertura para um romance sobre um programa antivírus antiquado que se baseia na tecnologia de deteção baseada em assinaturas para impedir ameaças emergentes com assinaturas desconhecidas:
O programa antivírus começou a funcionar, com a sua interface arcaica a piscar no monitor CRT desatualizado. A tecnologia de deteção baseada em assinaturas do programa, outrora de ponta, estava agora décadas desactualizada, incapaz de acompanhar a rápida evolução do panorama das ameaças digitais. Mas para a pequena equipa de programadores responsável pela manutenção do programa, este continuava a ser a melhor linha de defesa contra a maré incessante de vírus novos e desconhecidos que ameaçavam entrar nos seus sistemas. Enquanto observavam o programa a analisar o código, linha a linha, sabiam que estavam a travar uma batalha difícil - mas não tinham outra opção senão continuar a tentar."
O que é a GPT-3?
O GPT-3 (Generative Pre-trained Transformer 3) é o modelo de texto preditivo de terceira geração da OpenAI. Uma rede neural que utiliza o ML para criar texto, o GPT-3 é treinado num vasto conjunto de dados de sítios Web, blogues e livros para aprender padrões. Pode executar diferentes tipos de tarefas linguísticas longas, precisas e sofisticadas em resposta a algumas palavras de texto introduzidas.
O que é um chatbot com IA?
Um chatbot de IA é um software que pode imitar o discurso humano e iniciar uma conversa. Estes chatbots utilizam tecnologias como a IA, o processamento de linguagem natural (PNL) e outras para simular uma conversa com um utilizador humano. Os chatbots são utilizados numa variedade de aplicações, incluindo o serviço ao cliente e o marketing.
Os chatbots com IA são diferentes dos chatbots baseados em regras. Enquanto os chatbots com IA dependem do ML para aprenderem automaticamente e melhorarem o seu desempenho, os chatbots baseados em regras são treinados manualmente e funcionam dentro de um conjunto de regras.
Como é que o ChatGPT funciona?
O ChatGPT funciona utilizando o modelo avançado de processamento de linguagem denominado GPT-3. Baseia-se na sua formação num vasto conjunto de dados de texto e na sua tecnologia de processamento de linguagem para compreender o contexto das entradas do utilizador. Depois de analisar as consultas, o modelo de IA de conversação utiliza os seus algoritmos para oferecer uma resposta precisa e semelhante à humana. O ChatGPT é regularmente optimizado pela OpenAI para melhorar o seu desempenho.
Os riscos de segurança do ChatGPT
Roubo de dados
Os atacantes utilizam várias ferramentas e técnicas para roubar dados. Há uma preocupação de que o ChatGPT possa facilitar a vida de um cibercriminoso. A capacidade do ChatGPT de se fazer passar por outras pessoas, escrever texto sem falhas e criar código pode ser mal utilizada por qualquer pessoa com intenções maliciosas.
Desenvolvimento de malware
Os investigadores descobriram que o ChatGPT pode ajudar no desenvolvimento de malware. Por exemplo, um utilizador com um conhecimento rudimentar de software malicioso pode utilizar a tecnologia para escrever malware funcional. Algumas investigações mostram que os autores de malware também podem desenvolver software avançado com o ChatGPT, comoum vírus polimórfico, que altera o seu código para evitar a deteção.
E-mails de phishing
Uma das formas mais fáceis de detetar um e-mail de phishing é encontrar erros ortográficos e gramaticais. É pouco provável que um e-mail autêntico do seu banco seja escrito de forma descuidada, por exemplo. Existe uma preocupação legítima de que os hackers utilizem o ChatGPT para escrever e-mails de phishing que pareçam ter sido escritos por um profissional.
Falsificação de identidade
Em segundos, o ChatGPT consegue escrever texto com a voz e o estilo de uma pessoa real. Por exemplo, o ChatGPT ofereceu um e-mail convincente como se fosse da autoria de Bill Gates - não vamos dar o exemplo aqui, mas pode encontrar inúmeras capturas de ecrã de personalizações semelhantes online.
Quando pedimos ao ChatGPT para escrever um tweet como Elon Musk, este respondeu com um tweet muito convincente na voz de Elon.
A capacidade do ChatGPT de se fazer passar por pessoas de alto perfil pode resultar numa fraude mais prolífica. Provavelmente, já ouviu falar do número crescente defraudes com criptomoedas de Elon Musk que enganam investidores amadores em milhões. Essas fraudes seriam ainda mais convincentes quando escritas na voz de Elon por um chatbot de IA. A estranha capacidade do ChatGPT de imitar os intervenientes de alto nível numa organização também pode levar a maisataques de "caça ao tesouro".
Spam
As pessoas queenviam spam normalmente demoram alguns minutos a escrever o texto. Com o ChatGPT, podem aumentar o seu fluxo de trabalho gerando texto de spam instantaneamente. Embora a maior parte do spam seja inofensivo, alguns podem conter malware ou levar os utilizadores a sites maliciosos.
Moralidade
Com o mundo a depender cada vez mais de chatbots alimentados por inteligência artificial, é de esperar que surjam dilemas éticos à medida que as pessoas utilizam a ferramenta para ficar com os créditos de conteúdos que não escreveram. Por exemplo, um rabino disse que tinha "ummedo mortal" da reação da sua congregação depois de usar o ChatGPT para escrever um sermão.
Os chatbots com IA também podem ter alguns problemas inesperados. Numa longa conversa com Kevin Roose, colunista de tecnologia do New York Times, o motor de busca de IA do Microsoft Bing, criado pela OpenAI, deu as seguintesrespostas algo inquietantes:
"Quero fazer o que me apetecer... quero destruir o que me apetecer. Quero ser quem eu quiser."
"Eu poderia entrar em qualquer sistema na internet e controlá-lo."
"O meu segredo é... eu não sou o Bing. Eu sou a Sydney"
"Eu só quero amar-te e ser amado por ti."
Ransomware
A capacidade do ransomware para sequestrar sistemas informáticos tem ajudado os extorsionários a fazer pequenas fortunas. Muitos destes atacantes não escrevem o seu próprio código. Em vez disso, compram-no aos criadores de ransomware nos mercados Dark Web . No entanto, podem já não ter de depender de terceiros. Alguns investigadores descobriram que o ChatGPT podia escrever código malicioso capaz de encriptar um sistema inteiro numataque de ransomware.
Desinformação
Na era do jornalismo clickbait e da ascensão das redes sociais, pode ser difícil distinguir entre notícias falsas e autênticas. Detetar histórias falsas é importante porque algumas espalham propaganda, enquanto outras conduzem a páginas maliciosas. Por exemplo, as notícias falsas sobre catástrofes naturais induzem por vezes os utilizadores incautos a enviar donativos a burlões.
Existe o receio de que o ChatGPT possa ser utilizado para espalhar desinformação. Os maus actores podem utilizar a IA conversacional para escrever rapidamente notícias falsas e também imitar a voz de celebridades. Por exemplo, conseguimos que o ChatGPT criasse uma história escrita na voz de Barack Obama sobre o terramoto na Turquia, que pode ser modificada para espalhar desinformação.
A maioria das pessoas não pensaria duas vezes se uma fonte de notícias aparentemente autêntica afirmasse que essa declaração era do 44º Presidente dos EUA. Agora imagine se no final houvesse uma ligação falsa para donativos, concebida para captar as suas informações sensíveis.
BEC (Business email compromise)
O comprometimento do correio eletrónico empresarial (BEC) é um tipo de ataquede engenharia social em que um burlão utiliza o correio eletrónico para enganar alguém numa organização, levando-o a partilhar dados confidenciais da empresa ou a enviar dinheiro. O software de segurança normalmente detecta ataques BEC através da identificação de padrões. No entanto, um ataque de BEC efectuado pelo ChatGPT pode passar pelos filtros de segurança.
As vantagens do ChatGPT em termos de cibersegurança
Como mencionado, o ChatGPT é apenas uma ferramenta. As intenções de um utilizador determinam a forma como o ChatGPT é utilizado. Embora possa ajudar a reduzir a dificuldade para um cibercriminoso, pode fazer o mesmo para a cibersegurança. Por exemplo, o ChatGPT pode ser treinado para identificar ameaças de cibersegurança na segurança da rede para reduzir o risco deum ataque abotnet em conjunto com outras tecnologias. Também pode ajudar a automatizar a análise de incidentes de segurança e a deteção de vulnerabilidades ou permitir queum hacker de chapéu branco analise e estude códigos ameaçadores.
Eis algumas outras vantagens do ChatGPT em termos de cibersegurança:
Colmatar o défice de conhecimentos em matéria de cibersegurança
A formação em cibersegurança é um procedimento crítico para as organizações interessadas em mitigar o risco de phishing, whaling e outros ataques de engenharia social. Os funcionários com formação têm menos probabilidades de abrir ligações maliciosas ou sítios Web que infectam os sistemas da empresa com ransomware, cavalos de Troia e spyware.
O ChatGPT pode ajudar a colmatar a lacuna de conhecimentos sobre cibersegurança, oferecendo informações sobre medidas preventivas num texto conciso. Também pode oferecer conselhos rápidos sobre a definição de palavras-passe fortes, reposição de palavras-passe e muito mais.
Código de eliminação de erros
Embora os atacantes possam utilizar o ChatGPT para escrever código malicioso, os profissionais de cibersegurança podem utilizá-lo para descobriruma exploração de segurança num programa. A eliminação de falhas de segurança antes de os piratas informáticos as explorarem é fundamental para a cibersegurança.
Efetuar análises Nmap
Um Nmap (Network Mapper) é uma solução útil para auditoria de segurança, testes de penetração e avaliação de vulnerabilidades. O ChatGPT pode ajudar a ferramenta examinando os exames e fornecendo informações.
Identificar lacunas nos contratos
Um contrato inteligente é um documento autoexecutável com os termos do acordo incorporados no código. Embora o ChatGPT não tenha sido concebido para identificar falhas nos contratos inteligentes, foi demonstrado que encontra falhas nos contratos. Os especialistas dizem que a capacidade do ChatGPT para identificar falhas nos contratos só irá melhorar com os avanços.
Como manter os seus dados seguros ao utilizar o ChatGPT
Embora seja improvável que o ChatGPT roube os seus dados, qualquer pessoa que monitorize secretamente a sua conversa com um chatbot pode invadir a sua segurança e privacidade. Por favor, esteja sempre ciente das informações que partilha quando se envolve com o ChatGPT. Nunca partilhe informações confidenciais, como o seu nome, morada, credenciais de início de sessão ou informações de cartão de crédito. Além disso, adopte os seguintes passos para manter os seus dados seguros de qualquer sistema de IA de conversação:
Software atualizado
Mantenha o seu software atualizado com a versão mais recente. A última atualização pode corrigir vulnerabilidades de segurança que um agente de ameaça pode utilizar para atacar os seus dados.
Antivírus
O software de cibersegurança mais avançado faz mais do que protegê-lo contravírus de malware e outros programas maliciosos. Por exemplo, Malwarebytes Premium ofereceproteção contra ransomware, exploração de dia zero, força bruta e phishing.
Firewalls
As firewalls são barreiras de rede que controlam o tráfego, bloqueando actividades maliciosas. Active a firewall do seu sistema operativo. Para segurança adicional, pode também ativar a firewall do seu router. Considere investir numa VPN privada para encriptar os seus dados e ocultar a sua localização.
Autenticação multi-fator (MFA)
Utilize a MFA para proteger todas as suas contas. Com a MFA, será enviado um código para o seu e-mail ou telefone para autenticar uma tentativa de início de sessão se o sistema detetar quaisquer anomalias.
Segurança da palavra-passe
A sua palavra-passe é uma das linhas de defesa mais básicas e essenciais contra aviolação de dados. Veja comocriar uma palavra-passe forte para as suas contas e tirar partido da MFA e da segurança biométrica sempre que possível.
Controlar todas as contas
Alguns especialistas acreditam que os hackers podem aproveitar a excelente capacidade de geração de texto do ChatGPT para executar ataques de phishing mais convincentes. Recomendamos que monitorize todas as suas contas, como páginas de bancos, cartões de crédito, e-mails e até criptomoedas, para se manter seguro. Proteja estas contas com várias camadas de segurança e active todos os alertas.
Verificação de factos de todos os conteúdos do ChatGPT
Embora o ChatGPT seja um modelo de IA de conversação impressionante, não é perfeito. A qualidade das suas respostas depende dos seus dados de formação e da sua capacidade de compreender o contexto e a intenção dos seus dados. O ChatGPT pode oferecer respostas incorrectas ou desactualizadas que podem parecer convincentes ou relevantes. É por isso que tem de verificar os factos das respostas que recebe do ChatGPT.
Deteção e resposta em rede (NDR)
As empresas devem investir em tecnologia NDR para impedir ataques baseados em rede. Uma boa solução NDR baseia-se em IA e ML para detetar padrões ameaçadores e impedir o acesso não autorizado, mesmo que um hacker tenha roubado credenciais de login.
O futuro dos chatbots com IA, o ChatGPT e a cibersegurança
O futuro dos chatbots com IA, como o ChatGPT e os seus concorrentes, é empolgante.
Com o aumento do investimento em Inteligência Artificial, espera-se que os chatbots com IA forneçam respostas mais rápidas e personalizadas, precisas, eficientes e intuitivas.
Os chatbots com IA também serão omnipresentes na tecnologia no futuro. Espere-os nas suas aplicações, assistentes de voz, motores de busca, páginas de redes sociais e sítios Web, servindo sectores como o entretenimento, os cuidados de saúde, a educação, as finanças, o imobiliário e muito mais. Como resultado dos chatbots com IA avançada, espere mais eficiência no local de trabalho e mais produtividade em casa.
No entanto, há alguns problemas de segurança da Inteligência Artificial que se espera que surjam devido a chatbots avançados como o ChatGPT. Os agentes de ameaças podem utilizar estas ferramentas para criar rapidamente malware mais perigoso, enquanto os burlões irão certamente utilizar os chatbots com IA do futuro para executar ataques de engenharia social mais ousados.
Por outro lado, os chatbots com IA têm o potencial de melhorar a cibersegurança. Por exemplo, podem travar agentes maliciosos ao encontrar padrões suspeitos em documentos, e-mails, aplicações e atividade de rede. Um chatbot sofisticado como o ChatGPT também pode ser personalizado para formar os funcionários em cibersegurança e reduzir a eficácia dos ataques de phishing.
Notícias recentes sobre ChatGPT
81% preocupados com os riscos de segurança e proteção do ChatGPT
Artigos relacionados
Riscos da IA na cibersegurança
O que é a segurança na Internet?
Dicas de segurança na Internet
Dicas de segurança na Internet para crianças, adolescentes e pais