Jede Verbraucher-App verfügt über ein Einstellungsmenü, in dem Sie Einstellungen zu Themen wie Benachrichtigungen oder dem Dunkelmodus vornehmen können. Meta hat nun beschlossen, dass jeder KI-Bilder von Ihnen anhand Ihres öffentlichen Instagram erstellen kann, indem er Ihren Instagram in eine Eingabeaufforderung eingibt.
Am 7. Juli hat Meta sein KI-Modell zur Bildgenerierung, „Muse Image“, vorgestellt. Es lässt sich in öffentliche Instagram integrieren. Nun muss jemand lediglich Ihr Konto in einer Eingabeaufforderung markieren, um mithilfe der Meta-KI ein Bild zu generieren, das Ihr Abbild zeigt. Gemäß den Richtlinien von Meta werden Sie nicht benachrichtigt, wenn jemand dies tut, sodass es schwierig ist zu erfahren, wann und wie Ihr Abbild verwendet wurde.
Laut Meta soll „Muse Image“ die KI-Bildgenerierung persönlicher gestalten, indem es Nutzern ermöglicht, in ihren Eingabeaufforderungen auf öffentliche Instagram zu verweisen. Das mag Spaß machen, wenn man Bilder von sich selbst erstellt. Weniger reizvoll ist es jedoch, wenn andere dasselbe mit dem eigenen Konto tun können.
Bei Meta kannst du diese Funktion deaktivieren, auch wenn die Suche nach der entsprechenden Einstellung schon ein Abenteuer für sich ist. Öffne auf Instagram „Profil“ > „Menü“ > „Teilen und Wiederverwenden“. Deaktiviere unter „Anderen erlauben, deine Inhalte auf Instagram mit KI-Funktionen bei Meta wiederzuverwenden“ die Schaltflächen für „Beiträge“ und „Reels“. Je nach App-Version kann der Wortlaut variieren, und da die Funktion derzeit noch schrittweise eingeführt wird – beginnend in den USA –, ist die Einstellung möglicherweise noch nicht sichtbar.
Man würde hoffen, dass Meta einem beim Öffnen Instagram gleich zu Beginn mit einer großen, auffälligen Meldung wie „Deaktiviere diese Funktion, wenn du sie nicht möchtest“ darauf hinweist, aber so viel Glück hat man leider nicht. Man würde auch hoffen, dass das Unternehmen alle Bilder, die jemand von einem gemacht hat, bevor man sich abgemeldet hat, nachträglich entfernt, aber auch das geschieht nicht.
Durch das Deaktivieren wird lediglich die zukünftige Erzeugung von Bildern verhindert. Alle KI-Bilder, die vor der Deaktivierung dieser Einstellung erstellt wurden, bleiben weiterhin im Umlauf.
Die einzige Möglichkeit, die einem umfassenden Schutz nahekommt, ist die Umstellung Ihres Kontos auf den privaten Modus.
Was ist das Risiko?
Dies hat Auswirkungen auf den Datenschutz und die Sicherheit. Jeder kann nun ohne Ihr Wissen KI-Bilder auf der Grundlage Ihres öffentlichen Instagram erstellen, und Meta wird Sie nicht benachrichtigen, wenn dies geschieht. Öffentliche Instagram wurden bereits von Angreifern gesammelt, um deepfakes Betrug bei der Identitätsprüfung zu erstellen. Indem man den Nutzern eine offizielle Möglichkeit bietet, KI-Bilder auf der Grundlage öffentlicher Profile zu erstellen, wird die Hürde für die Erstellung synthetischer Bilder gesenkt, die für Identitätsbetrug, Betrugsversuche oder andere Missbräuche genutzt werden könnten.
Cyberkriminelle kombinieren bereits generative KI mit automatisierten Tools, um Phishing und Betrug in großem Stil zu betreiben. Mit „Muse Image“ lässt es sich noch einfacher, überzeugende Bilder auf der Grundlage öffentlich zugänglicher Identitäten zu erstellen.
Die KI von Meta hat auch andere Sicherheitsprobleme mit sich gebracht. Anfang dieses Jahres deckten Forscher eine „Confused-Deputy“-Sicherheitslücke im KI-Support-Chatbot von Meta auf, die es dem Chatbot ermöglichte, Änderungen am Konto vorzunehmen– darunter die Änderung von E-Mail-Adressen und das Zurücksetzen von Passwörtern –, ohne ausreichend zu überprüfen, mit wem er gerade kommunizierte. Die Aktivierung der Multi-Faktor-Authentifizierung (MFA) schien dieses Problem zu beheben.
Auch Meta wendet beim Training seiner KI mit Daten europäischer Nutzer einen Opt-out-Ansatz an. Das Unternehmen stützt sich auf die Rechtsgrundlage der „berechtigten Interessen“ gemäß der DSGVO, um die Daten europäischer Nutzer für KI-Zwecke zu verarbeiten – eine Vorgehensweise, die von der Datenschutzorganisation NOYB angefochten wurde.
Schützen Sie sich
- Wenn dein Instagram öffentlich ist, öffne „Profil“ > „Menü“. Tippe unter „Wie andere mit dir interagieren können“ auf „Teilen und Wiederverwenden“ und deaktiviere dann die Einstellungen zur Wiederverwendung von Beiträgen und Reels unter „Anderen erlauben, deine Inhalte auf Instagram mit KI-Funktionen bei Meta wiederzuverwenden“. Das Deaktivieren dieser Einstellungen zur Wiederverwendung verhindert lediglich die zukünftige Erstellung und Wiederverwendung von Bildern durch KI. Bereits vorhandene, durch KI erstellte Inhalte oder Remixe werden dadurch nicht entfernt.
- Aktivieren Sie die Zwei-Faktor-Authentifizierung (MFA) für alle Ihre Meta-Konten. Das ist eine der einfachsten Möglichkeiten, Ihr Konto zu schützen, falls Ihr Passwort in die falschen Hände gerät.
- Wenn du den bestmöglichen Schutz nutzen möchtest, den Meta derzeit bietet, stelle dein Instagram auf „privat“ um. Das ist zwar eine etwas radikale Lösung, verhindert aber, dass Fremde dein öffentliches Profil als Quelle nutzen.
Das eigene Oversight Board von Meta hat bereits erklärt, dass das Unternehmen leistungsfähigere Erkennungsinstrumente und eine bessere Kennzeichnung von KI-generierten Inhalten benötigt. Wenn das eigene Kontrollgremium von Meta feststellt, dass die Schutzmaßnahmen nicht ausreichen, sollten die Verbraucher dies zur Kenntnis nehmen.
Betrüger müssen sich nicht in dein System hacken. Es reicht schon, wenn du einmal darauf klickst.
Malwarebytes Identity Theft erkennt verdächtige Aktivitäten, bevor sie zu einem Problem werden.
