IA no mundo cibernético Security: Riscos da IA
A inteligência artificial (IA) vem aprimorando as ferramentas de segurança cibernética há anos. Por exemplo, as ferramentas de aprendizado de máquina tornaram a segurança de rede, o antimalware e o software de detecção de fraudes mais potentes ao encontrar anomalias muito mais rapidamente do que os seres humanos. No entanto, a IA também representou um risco para a segurança cibernética. Ataques de força bruta, de negação de serviço (DoS) e de engenharia social são apenas alguns exemplos de ameaças que utilizam a IA.
Espera-se que os riscos da inteligência artificial para a segurança cibernética aumentem rapidamente com as ferramentas de IA se tornando mais baratas e mais acessíveis. Por exemplo, você pode enganar o ChatGPT para que ele escreva um código malicioso ou uma carta de Elon Musk solicitando doações,
Também é possível usar várias ferramentas de deepfake para criar faixas de áudio ou clipes de vídeo falsos surpreendentemente convincentes com pouquíssimos dados de treinamento. Há também preocupações crescentes com a privacidade, à medida que mais usuários se sentem à vontade para compartilhar informações confidenciais com a IA.
Leia este guia detalhado para saber mais:
- Definição de IA.
- Riscos da inteligência artificial.
- IA na segurança cibernética.
- IA e riscos à privacidade.
O que é IA: Inteligência Artificial
IA, ou Inteligência Artificial, refere-se ao desenvolvimento de sistemas de computador que podem executar tarefas e tomar decisões que normalmente exigem inteligência humana. Ela envolve a criação de algoritmos e modelos que permitem que as máquinas aprendam com os dados, reconheçam padrões e se adaptem a novas informações ou situações.
Em termos simples, a IA é como ensinar os computadores a pensar e aprender como os humanos. Ela permite que as máquinas processem e analisem grandes quantidades de dados, identifiquem padrões ou anomalias e façam previsões ou tomem decisões com base nessas informações. A IA pode ser usada em vários aplicativos, como reconhecimento de imagem e de fala, processamento de linguagem natural, robótica e segurança cibernética, para citar alguns.
Em geral, a IA tem como objetivo imitar a inteligência humana para resolver problemas complexos, automatizar tarefas e aumentar a eficiência e a precisão em diferentes campos.
Aprendizado de máquina e aprendizado profundo
O aprendizado de máquina (ML) é um subconjunto de IA comumente usado. Os algoritmos e as técnicas de ML permitem que os sistemas aprendam com os dados e tomem decisões sem serem explicitamente programados.
A aprendizagem profunda (DL) é um subconjunto de ML que utiliza modelos computacionais artificiais inspirados no cérebro humano, chamados de redes neurais, para tarefas mais avançadas. O ChatGPT é um exemplo de IA que usa ML para entender e responder a solicitações geradas por humanos.
IA estreita e inteligência artificial geral
Todos os tipos de IA são considerados IA estreita. Seu escopo é limitado e ela não é senciente. Exemplos desse tipo de IA são assistentes de voz, chatbots, sistemas de reconhecimento de imagem, veículos autônomos e modelos de manutenção.
A inteligência geral artificial (AGI) é um conceito hipotético que se refere a uma IA autoconsciente que pode igualar ou até mesmo superar a inteligência humana. Enquanto alguns especialistas estimam que a AGI está a vários anos ou mesmo décadas de distância, outros acreditam que ela é impossível.
O que é IA generativa?
A IA generativa refere-se a um subconjunto de técnicas de inteligência artificial que envolvem a criação e a geração de novos conteúdos, como imagens, texto, áudio ou até mesmo vídeos. Ela envolve o treinamento de modelos para entender padrões em dados existentes e, em seguida, usar esse conhecimento para gerar conteúdo novo e original que se assemelhe aos dados de treinamento.
Uma abordagem popular da IA generativa é o uso de redes adversárias generativas (GANs). As GANs consistem em duas redes neurais: uma rede geradora e uma rede discriminadora. A rede geradora cria novo conteúdo, enquanto a rede discriminadora avalia e distingue entre o conteúdo gerado e o conteúdo real. As duas redes trabalham de forma competitiva, com o gerador tentando produzir conteúdo que o discriminador não consegue distinguir dos dados reais.
A IA generativa tem aplicações em vários domínios. Por exemplo:
-
Geração de imagens: A IA generativa pode ser usada para gerar imagens realistas, como a criação de rostos fotorrealistas, paisagens ou até mesmo objetos totalmente novos que não existem no mundo real.
-
Geração de texto: Os modelos generativos podem ser treinados para gerar textos coerentes e contextualmente relevantes, que podem ser usados para tarefas como chatbots, criação de conteúdo ou tradução de idiomas.
-
Geração de música e áudio: A IA generativa pode criar novas composições musicais ou gerar sons e vozes realistas.
Embora a IA generativa tenha muitas aplicações positivas, também há preocupações sobre seu possível uso indevido, como a geração de conteúdo falso ou vídeos deepfake que podem ser usados para enganar ou manipular as pessoas. Considerações éticas e o uso responsável da IA generativa são fatores importantes para lidar com esses riscos.
No âmbito da segurança cibernética, a IA generativa pode ser tanto uma ferramenta quanto um desafio. Ela pode ser usada para gerar dados sintéticos realistas para treinar modelos e aprimorar medidas de segurança, mas também pode representar riscos quando usada para fins maliciosos, como a geração de e-mails de phishing convincentes ou ataques de engenharia social deepfake. Isso destaca a importância de desenvolver defesas robustas e mecanismos de detecção para atenuar possíveis ameaças.
Quais são os riscos da IA na segurança cibernética?
Como qualquer tecnologia, a IA pode ser usada para fins bons ou maliciosos. Os agentes de ameaças podem usar algumas das mesmas ferramentas de IA criadas para ajudar a humanidade a cometer fraudes, golpes e outros crimes cibernéticos.
Vamos explorar alguns riscos da IA na segurança cibernética:
1: Otimização de ataques cibernéticos
Os especialistas afirmam que os invasores podem usar a IA generativa e grandes modelos de linguagem para dimensionar os ataques em um nível nunca visto de velocidade e complexidade. Eles podem usar a IA generativa para encontrar novas maneiras de minar a complexidade da nuvem e tirar proveito das tensões geopolíticas para ataques avançados. Eles também podem otimizar suas técnicas de ataque de ransomware e phishing, polindo-as com IA generativa.
2: Malware automatizado
Uma IA como o ChatGPT é excelente para processar números com precisão. De acordo com o professor da Columbia Business School, Oded Netzer, o ChatGPT já consegue "escrever códigos muito bem".
Os especialistas afirmam que, em um futuro próximo, ela poderá ajudar os desenvolvedores de software, programadores de computador e codificadores ou deslocar mais de seu trabalho.
Embora softwares como o ChatGPT tenham algumas proteções para evitar que os usuários criem códigos maliciosos, os especialistas podem usar técnicas inteligentes para contorná-las e criar malware. Por exemplo, um pesquisador conseguiu encontrar uma brecha e criar um executável complexo de roubo de dados quase indetectável. O executável tinha a sofisticação de um malware criado por um agente de ameaças patrocinado pelo Estado*.
Essa pode ser a ponta do iceberg. Futuras ferramentas baseadas em IA podem permitir que desenvolvedores com habilidades de programação de nível básico criem malware automatizado, como um bot mal-intencionado avançado. Então,o que são bots mal-intencionados? Um bot mal-intencionado pode roubar dados, infectar redes e atacar sistemas com pouca ou nenhuma intervenção humana.
* https://www.foxnews.com/tech/ai-created-malware-sends-shockwaves-cyber security-world
3: Segurança física
À medida que mais sistemas, como veículos autônomos, equipamentos de fabricação e construção e sistemas médicos, usam IA, os riscos da inteligência artificial para a segurança física podem aumentar. Por exemplo, um carro verdadeiramente autônomo baseado em IA que sofra uma violação de segurança cibernética pode resultar em riscos para a segurança física de seus passageiros. Da mesma forma, o conjunto de dados das ferramentas de manutenção em um canteiro de obras poderia ser manipulado por um invasor para criar condições perigosas.
Riscos de privacidade da IA
No que foi um erro embaraçoso para o CEO da OpenAI, Sam Altman, o ChatGPT vazou partes do histórico de bate-papo de outros usuários. Embora o bug tenha sido corrigido, há outros possíveis riscos à privacidade devido à grande quantidade de dados que a IA processa. Por exemplo, um hacker que violasse um sistema de IA poderia acessar diferentes tipos de informações confidenciais.
Um sistema de IA projetado para marketing, publicidade, criação de perfis ou vigilância também pode ameaçar a privacidade de maneiras que George Orwell não poderia imaginar. Em alguns países, a tecnologia de perfil de IA já está ajudando os estados a invadir a privacidade dos usuários.
Roubo de modelos de IA
Existem alguns riscos de roubo de modelos de IA por meio de ataques à rede, técnicas de engenharia social e exploração de vulnerabilidades por agentes de ameaças, como agentes patrocinados pelo Estado, ameaças internas, como espiões corporativos, e hackers de computador comuns. Os modelos roubados podem ser manipulados e modificados para auxiliar os invasores em diferentes atividades maliciosas, agravando os riscos da inteligência artificial para a sociedade.
Manipulação de dados e envenenamento de dados
Embora a IA seja uma ferramenta poderosa, ela pode ser vulnerável à manipulação de dados. Afinal de contas, a IA depende de seus dados de treinamento. Se os dados forem modificados ou envenenados, uma ferramenta alimentada por IA pode produzir resultados inesperados ou até mesmo maliciosos.
Em teoria, um invasor poderia envenenar um conjunto de dados de treinamento com dados maliciosos para alterar os resultados do modelo. Um invasor também poderia iniciar uma forma mais sutil de manipulação chamada injeção de viés. Esses ataques podem ser especialmente prejudiciais em setores como o de saúde, automotivo e de transporte.
Falsificação de identidade
Não é preciso ir além do cinema para ver como as ferramentas baseadas em IA estão ajudando os cineastas a enganar o público. Por exemplo, no documentário Roadrunner, a voz do falecido chef famoso Anthony Bourdain foi criada de forma controversa com áudio gerado por IA e enganou facilmente os espectadores. Da mesma forma, o ator veterano Harrison Ford foi convincentemente envelhecido por várias décadas com o poder da inteligência artificial em Indiana Jones and the Dial of Destiny.
Um invasor não precisa de um grande orçamento de Hollywood para realizar um truque semelhante. Com a filmagem certa, qualquer pessoa pode fazer filmagens deepfake usando aplicativos gratuitos. As pessoas também podem usar ferramentas gratuitas com tecnologia de IA para criar vozes falsas extremamente realistas, treinadas com apenas alguns segundos de áudio.
Portanto, não é de se surpreender que a IAesteja sendo usada para golpes de sequestro virtual. Jennifer DeStefano viveu o pior pesadelo de um pai quando sua filha ligou para ela, gritando e chorando. Sua voz foi substituída por um homem que ameaçou drogá-la e abusar dela, a menos que pagasse um resgate de US$ 1 milhão.
O problema? Os especialistas especulam que a voz foi gerada por IA. As autoridades policiais acreditam que, além dos esquemas de sequestro virtual, a IA pode ajudar os criminosos com outros tipos de fraude de falsificação de identidade no futuro, incluindo golpes de avô.
A IA generativa também pode produzir textos com a voz de líderes de pensamento. Os criminosos cibernéticos podem usar esse texto para executar diferentes tipos de golpes, como brindes fraudulentos, oportunidades de investimento e doações em meios como e-mail ou plataformas de mídia social como o Twitter.
Ataques mais sofisticados
Conforme mencionado, os agentes de ameaças podem usar a IA para criar malware avançado, fazer-se passar por outras pessoas para aplicar golpes e envenenar dados de treinamento de IA. Eles podem usar a IA para automatizar ataques de phishing, malware e preenchimento de credenciais. A IA também pode ajudar os ataques a burlar os sistemas de segurança, como o software de reconhecimento de voz, em ataques chamados de ataques adversários.
Danos à reputação
Uma organização que utiliza IA pode sofrer danos à reputação se a tecnologia não funcionar corretamente ou sofrer uma violação de segurança cibernética, o que resulta em perda de dados. Essas organizações podem enfrentar multas, penalidades civis e deterioração do relacionamento com os clientes.
Como se proteger dos riscos de IA
Embora a IA seja uma ferramenta poderosa, ela pode apresentar alguns riscos de segurança cibernética. Tanto os indivíduos quanto as organizações devem adotar uma abordagem holística e proativa para usar a tecnologia com segurança.
Aqui estão algumas dicas que podem ajudá-lo a reduzir os riscos da IA:
1: Audite todos os sistemas de IA que você usa
Verifique a reputação atual de qualquer sistema de IA que você usa para evitar problemas de segurança e privacidade. As organizações devem auditar seus sistemas periodicamente para eliminar vulnerabilidades e reduzir os riscos de IA. A auditoria pode ser feita com a ajuda de especialistas em segurança cibernética e inteligência artificial, que podem realizar testes de penetração, avaliações de vulnerabilidade e revisões de sistema.
2: Limite as informações pessoais compartilhadas por meio da automação
Mais pessoas estão compartilhando informações confidenciais com a inteligência artificial sem entender os riscos da IA para a privacidade. Por exemplo, funcionários de organizações importantes foram encontrados colocando dados confidenciais da empresa no ChatGPT. Até mesmo um médico enviou o nome e a condição médica de seu paciente ao chatbot para redigir uma carta, sem perceber o risco de segurança do ChatGPT.
Essas ações representam riscos de segurança e violam normas de privacidade como a HIPAA. Embora os modelos de linguagem de IA possam não ser capazes de divulgar informações, as conversas são gravadas para controle de qualidade e podem ser acessadas pelas equipes de manutenção do sistema. Por isso, é uma prática recomendada evitar o compartilhamento de informações pessoais com a IA.
3: Segurança dos dados
Conforme mencionado, a IA depende de seus dados de treinamento para produzir bons resultados. Se os dados forem modificados ou envenenados, a IA poderá apresentar resultados inesperados e perigosos. Para proteger a IA contra o envenenamento de dados, as organizações devem investir em criptografia de ponta, controle de acesso e tecnologia de backup. As redes devem ser protegidas com firewalls, sistemas de detecção de intrusão e senhas sofisticadas.
4: Otimizar o software
Siga todas as práticas recomendadas de manutenção de software para se proteger do risco da IA. Isso inclui atualizar seu software e estruturas de IA, sistemas operacionais e aplicativos com os patches e as atualizações mais recentes para reduzir o risco de exploração e ataques de malware. Proteja seus sistemas com tecnologia antivírus de última geração para impedir ameaças mal-intencionadas avançadas. Além disso, invista em medidas de segurança de rede e de aplicativos para fortalecer suas defesas.
5: Treinamento Adversarial
O treinamento adversarial é uma medida de segurança específica da IA que ajuda a IA a responder a ataques. O método de aprendizado de máquina melhora a resiliência dos modelos de IA, expondo-os a diferentes cenários, dados e técnicas.
6: Treinamento da equipe
Os riscos da IA são bastante amplos. Consulte especialistas em segurança cibernética e IA para treinar seus funcionários no gerenciamento de riscos de IA. Por exemplo, eles devem aprender a verificar os fatos em e-mails que podem ser ataques de phishing criados por IA. Da mesma forma, eles devem evitar abrir softwares não solicitados que possam ser malwares criados por inteligência artificial.
7: Gerenciamento de vulnerabilidades
As organizações podem investir no gerenciamento de vulnerabilidades de IA para reduzir o risco de violações e vazamentos de dados. O gerenciamento de vulnerabilidades é um processo de ponta a ponta que envolve a identificação, a análise e a triagem de vulnerabilidades e a redução da superfície de ataque relacionada às características exclusivas dos sistemas de IA.
8: Resposta a incidentes de IA
Apesar de ter as melhores medidas de segurança, sua organização pode sofrer um ataque de segurança cibernética relacionado à IA à medida que os riscos da inteligência artificial aumentam. Você deve ter um plano de resposta a incidentes claramente delineado que abranja a contenção, a investigação e a correção para se recuperar de um evento como esse.
O outro lado: como a IA pode beneficiar a segurança cibernética
Indústrias de diferentes tamanhos e setores usam a IA para aprimorar a segurança cibernética. Por exemplo, todos os tipos de organizações em todo o mundo usam a IA para autenticar identidades, de bancos a governos. E os setores financeiro e imobiliário usam a IA para encontrar anomalias e reduzir o risco de fraude.
Veja mais sobre como a IA beneficia a segurança cibernética:
1: Detecção de ameaças cibernéticas
O malware sofisticado pode contornar a tecnologia padrão de segurança cibernética usando diferentes técnicas de evasão, incluindo modificação de código e estrutura. No entanto, o software antivírus avançado pode usar IA e ML para encontrar anomalias na estrutura geral, na lógica de programação e nos dados de uma possível ameaça.
As ferramentas de detecção de ameaças com tecnologia de IA podem proteger as organizações ao caçar essas ameaças emergentes e melhorar os recursos de alerta e resposta. Além disso, o software de segurança de endpoint com tecnologia de IA pode proteger os laptops, smartphones e servidores de uma organização.
2: Modelos preditivos
Os profissionais de segurança cibernética podem passar de uma postura reativa para uma postura proativa utilizando a IA generativa. Por exemplo, eles podem usar a IA generativa para criar modelos preditivos que identifiquem novas ameaças e reduzam os riscos.
Esses modelos preditivos resultarão em:
- Detecção mais rápida de ameaças
- Economia de tempo
- Redução de custos
- Melhoria na resposta a incidentes
- Melhor proteção contra riscos
3: Detecção de phishing
Os e-mails de phishing são um importante vetor de ameaças. Com pouco risco, os agentes de ameaças podem usar expedições de phishing para roubar informações confidenciais e dinheiro. Além disso, os e-mails de phishing estão se tornando mais difíceis de diferenciar dos e-mails reais.
A IA pode beneficiar a segurança cibernética ao aprimorar a proteção contra phishing. Os filtros de e-mail que utilizam IA podem analisar o texto para sinalizar e-mails com padrões suspeitos e bloquear diferentes tipos de spam.
4: Identificação de bots
Os bots podem prejudicar ou derrubar redes e sites, afetando negativamente a segurança, a produtividade e a receita de uma organização. Os bots também podem assumir o controle de contas com credenciais roubadas e ajudar os criminosos cibernéticos a se envolverem em fraudes e golpes.
O software que utiliza modelos baseados em aprendizado de máquina pode analisar o tráfego e os dados da rede para identificar padrões de bots e ajudar os especialistas em segurança cibernética a negá-los. Os profissionais de rede também podem usar a IA para desenvolver CAPTCHAs mais seguros contra bots.
5: Proteção de redes
Os invasores podem exfiltrar dados ou infectar sistemas com ransomware depois de invadir uma rede. Detectar essas ameaças com antecedência é fundamental. A detecção de anomalias baseada em IA pode examinar o tráfego de rede e os registros do sistema em busca de acesso não autorizado, código incomum e outros padrões suspeitos para evitar violações. Além disso, a IA pode ajudar a segmentar redes analisando requisitos e características.
6: Resposta a incidentes
A IA pode impulsionar a busca de ameaças, o gerenciamento de ameaças e a resposta a incidentes. Ela pode trabalhar 24 horas por dia para responder a ameaças e tomar medidas de emergência, mesmo quando sua equipe estiver off-line. Além disso, ela pode reduzir os tempos de resposta a incidentes para minimizar os danos causados por um ataque.
7: Mitigar ameaças internas
As ameaças internas devem ser levadas a sério, pois podem custar a uma organização receitas, segredos comerciais, dados confidenciais e muito mais. Há dois tipos de ameaças internas: maliciosas e não intencionais. A IA pode ajudar a impedir os dois tipos de ameaças internas, identificando o comportamento arriscado do usuário e impedindo que informações confidenciais saiam das redes de uma organização.
8: Fortalecer o controle de acesso
Muitas ferramentas de controle de acesso usam IA para melhorar a segurança. Elas podem bloquear logins de endereços IP suspeitos, sinalizar eventos suspeitos e solicitar aos usuários com senhas fracas que alterem suas credenciais de login e atualizem para a autenticação multifator.
A IA também ajuda a autenticar os usuários. Por exemplo, ela pode aproveitar a biometria, as informações contextuais e os dados de comportamento do usuário para verificar com precisão a identidade de usuários autorizados e reduzir o risco de uso indevido.
9: Identificar falsos positivos
Os falsos positivos podem ser exaustivos para as equipes de TI gerenciarem. O grande volume de falsos positivos pode resultar em problemas de saúde mental. Eles também podem forçar as equipes a não perceber ameaças legítimas. No entanto, o volume de falsos positivos pode ser reduzido com ferramentas de segurança cibernética que usam inteligência artificial para melhorar a precisão da detecção de ameaças. Essas ferramentas também podem ser programadas para gerenciar automaticamente ameaças de baixa probabilidade que consomem o tempo e os recursos de uma equipe de segurança.
10: Eficiência e custos da equipe de TI
Muitas empresas de pequeno e médio porte não podem se dar ao luxo de investir em uma grande equipe interna de segurança cibernética para gerenciar ameaças cada vez mais sofisticadas 24 horas por dia. No entanto, elas podem investir em tecnologia de segurança cibernética com tecnologia de IA que funciona 24 horas por dia, 7 dias por semana, para oferecer monitoramento contínuo, melhorar a eficiência e reduzir custos. Essa tecnologia também pode ser dimensionada com o crescimento de uma empresa de forma econômica.
Além disso, a IA aumenta a eficiência da equipe porque não se cansa. Ela oferece a mesma qualidade de serviço em todas as horas do dia, reduzindo o risco de erro humano. A IA também pode gerenciar significativamente mais dados do que uma equipe de segurança humana.