O Wall Street Journal refere que crescem as preocupações nos laboratórios de IA de que a competição esteja a levar as empresas tecnológicas numa corrida em direção a modelos de autoaperfeiçoamento que podem sair do controlo humano.
Jacob Coxon, investigador de IA que trabalhou na Anthropic e na OpenAI, afirmou :
“As pessoas que desenvolvem IA acreditam sinceramente que esta poderá matar-nos a todos até ao final da década.”
Evan Hubinger, líder de Ciência de Alinhamento da Anthropic, que também trabalhou na OpenAI, respondeu numa publicação no X :
"Acreditamos sinceramente que a IA pode matar todos os humanos! Pessoalmente, penso que este número ultrapassará os 10% na próxima década."
Hubinger acrescentou:
“O que me preocupa é a superinteligência resultante do aperfeiçoamento recursivo, que, como já dissemos, está a acontecer mais depressa do que pensávamos.”
Este número deve ser considerado como uma avaliação pessoal de Hubinger. Não se trata de uma previsão, de um facto comprovado ou de uma evidência de que os chatbots atuais estão prestes a tornar-se perigosos por si só. Nem é algo sobre o qual tenha conhecimento suficiente para endossar ou refutar.
Os investigadores estão a estudar ativamente se os sistemas altamente capazes podem agir de formas não intencionais , explorar vulnerabilidades ou ser utilizados para automatizar ataques cibernéticos.
Uma notícia da BBC refere que Hubinger descreveu o risco dos modelos atuais como baixo. As suas preocupações centram-se em possíveis sistemas futuros com autonomia e capacidade muito maiores.
À medida que as empresas e os governos avaliam o ritmo do desenvolvimento da IA, precisamos de salvaguardas sensatas, incluindo testes independentes, limites para utilizações autónomas de alto risco, transparência por parte dos programadores e responsabilização quando os sistemas de IA causam danos.
Estas medidas devem também abordar os problemas que já enfrentámos, dado que os cibercriminosos utilizam a IA para fraudes, abuso de privacidade e outros crimes cibernéticos. Como muitas tecnologias poderosas, a IA pode ser utilizada como arma, principalmente quando as medidas de segurança não acompanham as suas capacidades.
As previsões extremas podem ser emocionalmente convincentes, especialmente quando feitas por pessoas intimamente envolvidas com a tecnologia. Mas a incerteza tem dois lados: os alertas sérios merecem uma análise cuidada, não a crença cega.
A mensagem prática não é "ignore a segurança da IA" nem "prepare-se para um apocalipse robótico". As empresas, os governos e os investigadores precisam de trabalhar em conjunto para garantir que as medidas de segurança acompanham o rápido desenvolvimento.
A cooperação pode complementar a competição e, neste caso, pode ser crucial.
O seu nome, morada e número de telefone podem já estar à venda.
As empresas de comercialização de dados recolhem e vendem os seus dados pessoais a quem estiver disposto a pagar.Personal Data Remover Malwarebytes Personal Data Remover e elimina as suas informações, mantendo-se em alerta para garantir que tudo permanece assim.
