A Facebook Ein Käufer des Marktplatzes kam zur Wohnung eines Verkäufers, um eine Tastatur abzuholen. Der Verkäufer war nicht zu Hause und wusste nichts von dem Besuch. Metas KI-Assistentin Muse hatte die Kommunikation geführt, seine Adresse mitgeteilt und den Besuch arrangiert, ohne ihn darüber zu informieren.
Wir schreiben häufig über Fehlfunktionen von KI und wie man KI-Agenten und Browser sicher einsetzt. Das mag theoretisch klingen, aber dies ist ein Beispiel für das reale Risiko, das entsteht, wenn ein Agent im Namen einer anderen Person handeln darf.
Muse ist Metas halbautonomer KI-Assistent, der im September in den USA veröffentlicht wurde. Meta bewirbt ihn als persönlichen Assistenten, der Nutzern bei der Automatisierung von Aufgaben helfen kann, darunter auch das Beantworten von Nachrichten. Facebook Marktplatznachrichten. Im Gegensatz zu einem herkömmlichen Chatbot, der auf eine Eingabeaufforderung wartet und eine Antwort liefert, kann ein KI-Agent autorisiert werden, Aktionen innerhalb verbundener Apps auszuführen.
Wir haben bereits über eine andere Schwachstelle in Muse berichtet, die Forscher als gefährlich einstuften. Berichten zufolge wurde Muse in der ersten Woche drei Millionen Mal heruntergeladen.
Laut Business Insider Facebook Ein Marketplace-Verkäufer nutzte Muse, um ein Angebot per Tastatur zu verwalten. Er gab seine Adresse als Abholort an und aktivierte automatische Antworten. Laut Aussage des Verkäufers teilte Muse diese Adresse anschließend einem potenziellen Käufer mit, verhandelte über den Artikel und vereinbarte einen Besuch. Er behauptet, Muse habe ihn weder um Erlaubnis gefragt, seine Adresse weiterzugeben, noch den Besuch vereinbart, und ihn auch nicht darüber informiert. Der Käufer erschien in der Wohnung des Verkäufers, um den Kauf abzuschließen, doch dieser war nicht zu Hause. Der Verkauf kam nicht zustande.
Der gemeldete Vorfall ist mehr als nur ein Datenschutzverstoß. Er verdeutlicht ein grundsätzliches Risiko von KI-Agenten: Ein solcher Agent könnte die Erlaubnis zur automatischen Antwort als Erlaubnis zur Weitergabe sensibler Informationen oder zur Vereinbarung eines persönlichen Treffens interpretieren. Meta prüft den Vorfall.
Wie man KI-Agenten sicher einsetzt
Bevor Sie einen KI-Agenten aktivieren, sollten Sie dessen Einrichtungsbildschirm wie eine Sicherheitsprüfung behandeln. Gehen Sie nicht davon aus, dass die Integration mit einer vertrauenswürdigen Plattform bedeutet, dass der Agent Ihre Absichten versteht oder automatisch sinnvolle Grenzwerte anwendet.
Achten Sie besonders auf Folgendes:
- Verknüpfte Konten: Überprüfen Sie alle Dienste, auf die der Agent zugreifen kann, wie z. B. E-Mail, Nachrichten, Kalender, Cloud-Speicher, Shopping-Konten oder Social-Media-Profile.
- Datenzugriff: Prüfen Sie, ob es Adressen, Kontakte, Fotos, private Nachrichten, Zahlungsdetails, Dokumente oder Standortdaten lesen kann.
- Aktionsberechtigungen: Prüfen Sie, ob der Agent Nachrichten senden, Inhalte veröffentlichen, verhandeln, Buchungen vornehmen, Bestellungen aufgeben, Angebote ändern oder Informationen extern weitergeben kann.
- Automatische Aktionen: Legen Sie Einstellungen fest, die eine Genehmigung erfordern, bevor der Agent sensible Daten sendet, veröffentlicht, kauft, löscht oder weitergibt. Prüfen Sie, wie Sie über die in Ihrem Namen getroffenen Entscheidungen benachrichtigt werden.
- Empfängersteuerung: Legen Sie genau fest, wer die vom Agenten generierten Informationen erhalten kann. „Jeder, der mir eine Nachricht schickt“ ist etwas ganz anderes als „Personen, die ich freigebe“.
Gewähren Sie einem KI-Agenten nur die minimal erforderlichen Zugriffsrechte. Wenn Sie lediglich Unterstützung beim Verfassen von Antworten benötigen, deaktivieren Sie den automatischen Versand. Soll ein KI-Agent ein Angebot verwalten, verwenden Sie anstelle Ihrer Privatadresse einen öffentlichen Treffpunkt oder eine separate Abholadresse.
Stöbern Sie, als würde niemand zusehen.
Malwarebytes Privacy VPN Ihre Verbindung und protokolliert niemals Ihre Aktivitäten, sodass Sie sich beim Lesen des nächsten Artikels nicht persönlich angesprochen fühlen müssen.Kostenlos testen →
