A União Europeia (UE) começou a aplicar partes essenciais da Lei de Inteligência Artificial, com consequências imediatas e visíveis para os chatbots. deepfakes e outros sistemas de Inteligência Artificial (IA) voltados para o consumidor.
A partir de 2 de agosto, você provavelmente notará mais rótulos de "isto é IA", regras mais claras para modelos fundamentais robustos e novas maneiras para usuários e pesquisadores reclamarem quando os sistemas apresentarem problemas.
A Lei de Inteligência Artificial passou da teoria à prática em três grandes áreas:
- Modelos de IA de propósito geral (GPAI): O novo Gabinete de IA em Bruxelas, juntamente com os reguladores nacionais, pode agora impor regras aos fornecedores de modelos de IA de propósito geral (como grandes modelos de linguagem e outros modelos fundamentais que sustentam muitas ferramentas).
- Obrigações de transparência: As regras de transparência entram em vigor para sistemas interativos e conteúdo gerado por IA: os chatbots devem informar que são bots, e áudio, imagens, vídeos e textos sintéticos precisam ser marcados como gerados ou manipulados por IA.
- Usos proibidos da IA: Um conjunto de usos da IA considerados de "risco inaceitável" está agora formalmente proibido, com a fiscalização compartilhada entre o Gabinete de IA, as autoridades nacionais e o Supervisor Europeu de Proteção de Dados para as instituições da UE.
Note que o conteúdo gerado e publicado antes de 2 de agosto não precisa ser rotulado retroativamente, mas qualquer conteúdo publicado a partir dessa data está sujeito às regras, mesmo que tenha sido gerado anteriormente.
Do ponto de vista da segurança, a iniciativa de transparência da Lei de IA visa menos proibir a IA e mais eliminar sua melhor camuflagem: fingir ser humana.
O não cumprimento das obrigações de transparência pode acarretar multas de até 15 milhões de euros (17,3 milhões de dólares) ou 3% do faturamento anual mundial, o que for maior, o que deve ser suficientemente significativo para chamar a atenção dos grandes fornecedores.
Para que a aplicação da lei seja mais do que uma mera formalidade, o Gabinete de Inteligência Artificial lançou ferramentas destinadas a pessoas que enxergam os problemas de dentro ou como usuários:
- Ferramenta de denúncia: Indivíduos e organizações podem denunciar supostas violações da Lei de IA por parte de fornecedores ou implementadores de sistemas de IA supervisionados pelo Escritório de IA.
- Ferramenta de denúncia: Pessoas com vínculos profissionais com fornecedores ou implementadores de IA têm acesso a um canal anônimo para sinalizar possíveis violações que possam colocar em risco direitos fundamentais, a saúde ou a confiança pública.
- Canal de reclamações subsequente: Empresas que utilizam modelos GPAI podem relatar suspeitas de violações por parte dos fornecedores dos modelos subjacentes.
Isso cria um caminho formal para relatar problemas sistêmicos: pense em comportamento inseguro de modelos, descobertas ignoradas de equipes de segurança ou implantações que cruzam silenciosamente os limites legais em relação à manipulação ou discriminação.
Proibição de "sensibilizadores" e conteúdo abusivo.
O Escritório de Inteligência Artificial introduziu proibições explícitas contra sistemas de IA que geram conteúdo sexualmente explícito ou íntimo sem consentimento (incluindo aplicativos " nudifier ") e material de abuso sexual infantil.
Para as vítimas desses abusos, essa é mais do que uma medida simbólica. Ela oferece aos órgãos reguladores e às autoridades policiais uma base legal clara para processar tanto os fornecedores quanto os implementadores desses sistemas na UE, em vez de tentar enquadrá-los em leis mais antigas e menos específicas.
Essas regras entrarão em vigor a partir de 2 de dezembro de 2026, e as empresas terão tempo para adequar seus sistemas ou retirá-los do mercado da UE.
Infelizmente, isso não impedirá completamente os abusos. Os atacantes continuarão a usar ferramentas e infraestrutura não identificadas fora da UE. Mas isso eleva o padrão para serviços legítimos e torna mais difícil para as plataformas convencionais ignorarem os riscos de recursos enganosos baseados em IA.
A Lei de IA não tornará a IA segura da noite para o dia, mas muda o padrão de "vale tudo" para "você deve seguir algumas regras básicas se operar na UE". Para os usuários, isso representa um passo em direção a sistemas de IA que podem pelo menos ser reconhecidos e questionados, em vez de uma tecnologia invisível moldar silenciosamente nossa experiência online.
Os golpistas não precisam invadir seu computador. Basta você clicar uma vez.
Malwarebytes Identity Theft detecta atividades suspeitas antes que se tornem um problema.
