Die Europäische Union (EU) hat mit der Durchsetzung wichtiger Teile des KI-Gesetzes begonnen, was unmittelbare und sichtbare Folgen für Chatbots hat. deepfakes und andere auf Endverbraucher ausgerichtete Systeme der künstlichen Intelligenz (KI).
Ab dem 2. August werden Sie wahrscheinlich mehr Hinweise auf KI (This is AI) bemerken, klarere Regeln für leistungsstarke Basismodelle und neue Möglichkeiten für Benutzer und Forscher, sich zu beschweren, wenn Systeme nicht ordnungsgemäß funktionieren.
Das KI-Gesetz wurde in drei großen Bereichen von der Theorie in die Praxis umgesetzt:
- Allgemeine KI-Modelle (GPAI): Das neue KI-Büro in Brüssel kann nun gemeinsam mit den nationalen Regulierungsbehörden Regeln für Anbieter allgemeiner KI-Modelle durchsetzen (denken Sie an große Sprachmodelle und andere Basismodelle, die vielen Tools zugrunde liegen).
- Transparenzpflichten: Transparenzregeln greifen bei interaktiven Systemen und KI-generierten Inhalten: Chatbots müssen als Bots gekennzeichnet werden, und synthetische Audio-, Bild-, Video- und Textdateien müssen als KI-generiert oder manipuliert gekennzeichnet werden.
- Verbotene KI-Anwendungen: Eine Reihe von KI-Anwendungen, die ein „inakzeptables Risiko“ darstellen, sind nun formell verboten. Die Durchsetzung erfolgt gemeinsam zwischen dem KI-Büro, den nationalen Behörden und dem Europäischen Datenschutzbeauftragten für EU-Institutionen.
Beachten Sie, dass Inhalte, die vor dem 2. August erstellt und veröffentlicht wurden, nicht nachträglich gekennzeichnet werden müssen. Alles, was an oder nach diesem Datum veröffentlicht wird, unterliegt jedoch den Regeln, auch wenn es früher erstellt wurde.
Aus sicherheitspolitischer Sicht geht es bei den Transparenzbestrebungen des KI-Gesetzes weniger um ein Verbot von KI, sondern vielmehr darum, ihr die beste Tarnung zu nehmen: die Fähigkeit, sich als Mensch auszugeben.
Die Nichteinhaltung der Transparenzpflichten kann mit Geldbußen von bis zu 15 Millionen Euro (17,3 Millionen US-Dollar) oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Dies dürfte für große Anbieter ausreichend sein, um deren Aufmerksamkeit zu erregen.
Um die Durchsetzung von Maßnahmen zu intensivieren und sie nicht nur als Papiertiger erscheinen zu lassen, hat das AI Office Tools entwickelt, die sich an Personen richten, die Probleme aus der Innenperspektive oder als Nutzer betrachten:
- Beschwerdeinstrument: Einzelpersonen und Organisationen können mutmaßliche Verstöße gegen das KI-Gesetz durch Anbieter oder Anwender von KI-Systemen melden, die der Aufsicht des KI-Büros unterliegen.
- Hinweisgeber-Tool: Personen mit beruflichen Verbindungen zu KI-Anbietern oder -Einsetzern erhalten einen anonymen Kanal, um potenzielle Verstöße zu melden, die Grundrechte, die Gesundheit oder das Vertrauen der Öffentlichkeit gefährden könnten.
- Nachgelagerter Beschwerdekanal: Unternehmen, die auf GPAI-Modellen aufbauen, können vermutete Verstöße seitens der Anbieter der zugrunde liegenden Modelle melden.
Damit wird ein formaler Weg geschaffen, um systemische Probleme zu melden: Man denke an unsicheres Modellverhalten, ignorierte Ergebnisse von Red-Team-Tests oder Einsätze, die stillschweigend die rechtlichen Grenzen in Bezug auf Manipulation oder Diskriminierung überschreiten.
Verbote von „Nudifizierern“ und missbräuchlichen Inhalten
Das AI Office hat ausdrückliche Verbote für KI-Systeme eingeführt, die nicht einvernehmliche sexuell explizite oder intime Inhalte (einschließlich „ Nudifier “-Apps) und Material über sexuellen Kindesmissbrauch erzeugen.
Für die Opfer dieser Missbräuche ist das mehr als nur ein symbolischer Schritt. Es gibt den Aufsichtsbehörden und Strafverfolgungsbehörden eine klare Rechtsgrundlage, um sowohl Anbieter als auch Betreiber solcher Systeme in der EU zu verfolgen, anstatt sie in ältere, weniger spezifische Gesetze zu pressen.
Diese Regeln gelten ab dem 2. Dezember 2026. Den Unternehmen wird Zeit eingeräumt, ihre Systeme entsprechend anzupassen oder sie vom EU-Markt zurückzuziehen.
Leider wird dies den Missbrauch nicht vollständig verhindern. Angreifer werden weiterhin unmarkierte Tools und Infrastrukturen außerhalb der EU nutzen. Es erhöht jedoch die Anforderungen an legitime Dienste und erschwert es etablierten Plattformen, die Risiken irreführender KI-gestützter Funktionen zu ignorieren .
Das KI-Gesetz wird KI nicht über Nacht sicher machen, aber es verschiebt den Standard von „Alles ist erlaubt“ zu „Wer in der EU tätig ist, muss sich an einige grundlegende Regeln halten“. Für Nutzer ist das ein Schritt hin zu KI-Systemen, die sie zumindest erkennen und hinterfragen können, anstatt dass unsichtbare Technologie stillschweigend unser Online-Erlebnis prägt.
Betrüger müssen sich nicht in dein System hacken. Es reicht schon, wenn du einmal darauf klickst.
Malwarebytes Identity Theft erkennt verdächtige Aktivitäten, bevor sie zu einem Problem werden.
