A União Europeia (UE) começou a aplicar partes essenciais da Lei de Inteligência Artificial, com consequências imediatas e visíveis para os chatbots. deepfakes e outros sistemas de Inteligência Artificial (IA) voltados para o consumidor.
A partir de 2 de agosto, você provavelmente notará mais rótulos de "isto é IA", regras mais claras para modelos fundamentais robustos e novas maneiras para usuários e pesquisadores reclamarem quando os sistemas apresentarem problemas.
A Lei de Inteligência Artificial passou da teoria à prática em três grandes áreas:
- Modelos de IA de propósito geral (GPAI): O novo Gabinete de IA em Bruxelas, juntamente com os reguladores nacionais, pode agora impor regras aos fornecedores de modelos de IA de propósito geral (como grandes modelos de linguagem e outros modelos fundamentais que sustentam muitas ferramentas).
- Obrigações de transparência: As regras de transparência entram em vigor para sistemas interativos e conteúdo gerado por IA: os chatbots devem informar que são bots, e áudio, imagens, vídeos e textos sintéticos precisam ser marcados como gerados ou manipulados por IA.
- Usos proibidos da IA: Um conjunto de usos da IA considerados de "risco inaceitável" está agora formalmente proibido, com a fiscalização compartilhada entre o Gabinete de IA, as autoridades nacionais e o Supervisor Europeu de Proteção de Dados para as instituições da UE.
Note que o conteúdo gerado e publicado antes de 2 de agosto não precisa ser rotulado retroativamente, mas qualquer conteúdo publicado a partir dessa data está sujeito às regras, mesmo que tenha sido gerado anteriormente.
Do ponto de vista da segurança, a iniciativa de transparência da Lei de IA visa menos proibir a IA e mais eliminar sua melhor camuflagem: fingir ser humana.
O não cumprimento das obrigações de transparência pode acarretar multas de até 15 milhões de euros (17,3 milhões de dólares) ou 3% do faturamento anual mundial, o que for maior, o que deve ser suficientemente significativo para chamar a atenção dos grandes fornecedores.
Para que a aplicação da lei seja mais do que uma mera formalidade, o Gabinete de Inteligência Artificial lançou ferramentas destinadas a pessoas que enxergam os problemas de dentro ou como usuários:
- Ferramenta de denúncia: Indivíduos e organizações podem denunciar supostas violações da Lei de IA por parte de fornecedores ou implementadores de sistemas de IA supervisionados pelo Escritório de IA.
- Ferramenta de denúncia: Pessoas com vínculos profissionais com fornecedores ou implementadores de IA têm acesso a um canal anônimo para sinalizar possíveis violações que possam colocar em risco direitos fundamentais, a saúde ou a confiança pública.
- Canal de reclamações subsequente: Empresas que utilizam modelos GPAI podem relatar suspeitas de violações por parte dos fornecedores dos modelos subjacentes.
Isso cria um caminho formal para relatar problemas sistêmicos: pense em comportamento inseguro de modelos, descobertas ignoradas de equipes de segurança ou implantações que cruzam silenciosamente os limites legais em relação à manipulação ou discriminação.
Proibição de "sensibilizadores" e conteúdo abusivo.
O Escritório de Inteligência Artificial introduziu proibições explícitas contra sistemas de IA que geram conteúdo sexualmente explícito ou íntimo sem consentimento (incluindo aplicativos " nudifier ") e material de abuso sexual infantil.
Para as vítimas desses abusos, essa é mais do que uma medida simbólica. Ela oferece aos órgãos reguladores e às autoridades policiais uma base legal clara para processar tanto os fornecedores quanto os implementadores desses sistemas na UE, em vez de tentar enquadrá-los em leis mais antigas e menos específicas.
Essas regras entrarão em vigor a partir de 2 de dezembro de 2026, e as empresas terão tempo para adequar seus sistemas ou retirá-los do mercado da UE.
Infelizmente, isso não impedirá completamente os abusos. Os atacantes continuarão a usar ferramentas e infraestrutura não identificadas fora da UE. Mas isso eleva o padrão para serviços legítimos e torna mais difícil para as plataformas convencionais ignorarem os riscos de recursos enganosos baseados em IA.
A Lei de IA não tornará a IA segura da noite para o dia, mas muda o padrão de "vale tudo" para "você deve seguir algumas regras básicas se operar na UE". Para os usuários, isso representa um passo em direção a sistemas de IA que podem pelo menos ser reconhecidos e questionados, em vez de uma tecnologia invisível moldar silenciosamente nossa experiência online.
Os golpistas não precisam invadir seu computador. Basta você clicar uma vez.
A Proteção Theft Identity Malwarebytes detecta atividades suspeitas antes que se tornem um problema.
