欧州連合（EU）はAI法の主要部分の施行を開始し、チャットボットに即座に目に見える影響が出ている。 deepfakes その他、消費者向け人工知能（AI）システム。
8月2日以降、皆さんが気づくであろう変化としては、「これはAIです」というラベルが増え、強力な基盤モデルに関するルールがより明確になり、システムが制御不能になった場合にユーザーや研究者が苦情を申し立てるための新たな方法が設けられるでしょう。
AI法は、以下の3つの主要分野において、理論から実践へと移行した。
- 汎用AI（GPAI）モデル：ブリュッセルに新設されたAIオフィスは、各国の規制当局と協力して、汎用AIモデル（大規模言語モデルや、多くのツールの基盤となるその他のモデルなど）の提供者に対する規則を施行できるようになりました。
- 透明性に関する義務：対話型システムやAI生成コンテンツには透明性に関する規則が適用されます。チャットボットは自分がボットであることを明示する必要があり、合成音声、画像、動画、テキストはAI生成またはAI操作によるものであることを明示する必要があります。
- 禁止されたAI利用：一連の「容認できないリスク」を伴うAI利用が正式に禁止され、その執行はAIオフィス、各国当局、およびEU機関を管轄する欧州データ保護監督機関によって分担される。
8月2日より前に作成および公開されたコンテンツは、遡及的にラベル付けする必要はありませんが、その日以降に公開されたものは、たとえそれ以前に作成されたものであっても、規則の対象となります。
セキュリティの観点から見ると、AI法における透明性の推進は、AIを禁止することよりも、AIの最大の偽装手段である「人間になりすます」ことを取り除くことに重点を置いている。
透明性に関する義務を遵守しない場合、最大1500万ユーロ（1730万米ドル）または全世界年間売上高の3％のいずれか高い方の罰金が科せられる可能性があり、これは大手プロバイダーの注意を引くには十分な金額であるはずだ。
法執行を単なる見せかけのものにしないために、AIオフィスは内部の立場やユーザーとして問題を見ている人々を対象としたツールを立ち上げた。
- 苦情申し立てツール：個人および組織は、AI局が監督するAIシステムの提供者または導入者によるAI法違反の疑いを報告できます。
- 内部告発ツール：AIプロバイダーや導入企業と業務上関係のある人々は、基本的人権、健康、または公共の信頼を脅かす可能性のある違反行為を匿名で通報できるチャネルを利用できる。
- 下流の苦情報告チャネル：GPAIモデルを基盤として構築を行う企業は、基盤となるモデル提供者による違反の疑いを報告できます。
これにより、システム上の問題を報告するための正式な経路が確立されます。例えば、安全でないモデルの挙動、無視されたレッドチームの調査結果、操作や差別に関する法的境界線を密かに越える展開などが挙げられます。
「ヌード化」や不適切なコンテンツの禁止
AI事務局は、同意なしに性的に露骨な内容や親密な内容（「ヌード化」アプリを含む）や児童性的虐待に関するコンテンツを生成するAIシステムを明確に禁止した。
こうした虐待の被害者にとって、これは単なる象徴的な動き以上の意味を持つ。規制当局や法執行機関が、EU域内でこうしたシステムの提供者と導入者の両方を追及するための明確な法的根拠を与えるものであり、これまでのような曖昧な古い法律に無理やり当てはめようとするものではない。
これらの規則は2026年12月2日から適用され、企業にはシステムを規則に適合させるか、EU市場から撤退させるための猶予期間が与えられる。
残念ながら、これによって悪用を完全に防ぐことはできません。攻撃者は依然としてEU域外でラベルのないツールやインフラを利用するでしょう。しかし、これは正規サービスの基準を引き上げ、主流プラットフォームが欺瞞的なAI駆動機能のリスクを無視することをより困難にします。
AI法によってAIが一夜にして安全になるわけではないが、デフォルトの状態を「何でもあり」から「EUで事業を行うなら、一定の基本ルールに従わなければならない」へと変える。ユーザーにとっては、目に見えないテクノロジーが静かに私たちのオンライン体験を形作るのではなく、少なくとも認識し、疑問を投げかけることができるAIシステムへの一歩となるだろう。
詐欺師はあなたの端末をハッキングする必要はありません。あなたが一度クリックするだけでいいのです。
Malwarebytes Identity Theft 、不審な動きが問題となる前に検知します。
