O Wall Street Journal relata que crescem as preocupações nos laboratórios de IA de que a competição esteja levando as empresas de tecnologia a uma corrida em direção a modelos de autoaperfeiçoamento que podem sair do controle humano.
Jacob Coxon, um pesquisador de IA que trabalhou na Anthropic e na OpenAI, disse :
“As pessoas que desenvolvem IA acreditam sinceramente que ela poderá nos matar a todos até o final da década.”
Evan Hubinger, líder de Ciência de Alinhamento da Anthropic, que também trabalhou na OpenAI, respondeu em uma postagem no X :
"Acreditamos sinceramente que a IA pode matar todos os humanos! Pessoalmente, acho que esse número ultrapassará 10% na próxima década."
Hubinger acrescentou:
“O que me preocupa é a superinteligência resultante do aperfeiçoamento recursivo, que, como já dissemos, está acontecendo mais rápido do que pensávamos.”
Esse número deve ser considerado como uma avaliação pessoal de Hubinger. Não se trata de uma previsão, um fato comprovado ou uma evidência de que os chatbots atuais estejam prestes a se tornar perigosos por si só. Tampouco é algo sobre o qual eu tenha conhecimento suficiente para endossar ou refutar.
Pesquisadores estão estudando ativamente se sistemas altamente capazes podem agir de maneiras não intencionais , explorar vulnerabilidades ou ser usados para automatizar ataques cibernéticos.
Uma reportagem da BBC observa que Hubinger descreveu o risco dos modelos atuais como baixo. Suas preocupações se concentram em possíveis sistemas futuros com autonomia e capacidade muito maiores.
À medida que empresas e governos avaliam o ritmo do desenvolvimento da IA, precisamos de salvaguardas sensatas, incluindo testes independentes, limites para usos autônomos de alto risco, transparência por parte dos desenvolvedores e responsabilização quando os sistemas de IA causarem danos.
Essas medidas também devem abordar os problemas que já enfrentamos, visto que os cibercriminosos usam IA para fraudes, abuso de privacidade e outros crimes cibernéticos. Como muitas tecnologias poderosas, a IA pode ser usada como arma, principalmente quando as medidas de segurança não acompanham suas capacidades.
Previsões extremas podem ser emocionalmente convincentes, especialmente quando feitas por pessoas intimamente envolvidas com a tecnologia. Mas a incerteza tem dois lados: alertas sérios merecem análise criteriosa, não crença cega.
A mensagem prática não é "ignore a segurança da IA" nem "prepare-se para um apocalipse robótico". Empresas, governos e pesquisadores precisam trabalhar juntos para garantir que as medidas de segurança acompanhem o rápido desenvolvimento.
A cooperação pode complementar a competição e, neste caso, pode ser crucial.
Seu nome, endereço e número de telefone podem já estar à venda.
Os corretores de dados coletam e vendem seus dados pessoais para qualquer pessoa disposta a pagar.Personal Data Remover Malwarebytes Personal Data Remover osPersonal Data Remover e remove suas informações, mantendo-se em alerta para garantir que tudo permaneça assim.
