Zur Erinnerung für alle, die ihre KI-Chats für privat halten: Ein Mensch kann die hochgeladenen Inhalte einsehen. Ein Bericht von 404 Media beschreibt, wie externe Dienstleister die Fotos, Bearbeitungsanfragen und die von Copilot erstellten Bilder der Copilot-Nutzer überprüfen. Einige der dabei gefundenen Inhalte sind verstörend.
Die mit der Durchführung dieser Überprüfungen beauftragten Drittfirmen legen ihren Mitarbeitern ein Originalfoto und den Bearbeitungswunsch eines Nutzers vor. Zusätzlich werden ihnen zwei mögliche KI-Bearbeitungen präsentiert, die sie nach ihren technischen Vorzügen beurteilen sollen. Da es sich um das Internet handelt, geht es dabei weit über Anfragen hinaus, die eigene Katze in ein Halloween-Kostüm zu stecken. Viele der Anfragen sind sexueller Natur, und einige betreffen Kinder, heißt es in dem Bericht. Die Gesichter auf den Originalfotos sind nicht zensiert, sodass die Prüfer erkennen können, wer abgebildet ist.
Zu den Bearbeitungsanfragen und -ergebnissen, die Gutachter bewerten sollen, gehören Anfragen zum Kürzen von Röcken, Vergrößern von Körperteilen und Platzieren von Personen in sexuellen Posen. In vielen Fällen scheinen die Bearbeitungen nicht einvernehmlich erfolgt zu sein. So berichtete beispielsweise ein Auftragnehmer, dass ihm mehrere Sätze von Fotos gezeigt wurden, die unter Röcke blitzten. Ein anderer gab an, aufgefordert worden zu sein, Fußfetisch-Bilder von Kinderzeichentrickfiguren zu bewerten. Nutzer hatten Copilot gebeten, Bilder von Ariana Grande mit Anorexie zu erstellen. Bilder, die Tieropfer darstellten, landeten auf dem Schreibtisch eines Gutachters.
Die Befragten erklärten gegenüber 404 Media, dass die Auftragnehmer für die Bewertung der Bildqualität bezahlt werden, nicht aber für die Kennzeichnung unangemessener Inhalte. Sie prüfen Aspekte wie die korrekte Einhaltung der Anweisungen, die Erhaltung oder Verzerrung von Bildteilen und den Gesamteindruck des Bildes. Sie fällen keine rechtlichen oder sicherheitsrelevanten Bewertungen der Inhalte.
Microsoft nutzt Kundendaten einiger Konten, um seine Produkte zu verbessern. Auf Anfrage von 404 Media gab das Unternehmen jedoch keine Auskunft darüber, ob Nutzer Uploads von diesen Bewertungsaufgaben ausschließen können.
In den Privacy -FAQs für die ältere Verbraucherversion von Copilot gibt Microsoft an, dass Konversationen standardmäßig 18 Monate lang gespeichert werden, Nutzer diese aber jederzeit löschen können. Weiterhin heißt es, dass Daten, „einschließlich hochgeladener Bilder oder Dateien“, für das KI-Training verwendet werden können. Berechtigte Nutzer können dem Training widersprechen, die FAQ weisen jedoch darauf hin, dass ein Widerspruch gegen bestimmte menschliche Bewertungen nicht möglich ist. Es wird nicht erwähnt, ob dies auch für die von 404 Media beschriebenen Bildbewertungsaufgaben gilt.
Microsoft gibt an, dass die aktualisierte Copilot-App für Endverbraucher, die seit dem 18. August verfügbar ist, weder Eingabeaufforderungen noch Antworten oder hochgeladene Dateiinhalte zum Trainieren von Basismodellen verwendet . Damit bleibt die von 404 Media an Microsoft gerichtete Frage offen: Können Nutzer verhindern, dass ihre Uploads in die Bildprüfung durch Menschen gelangen?
frühere Imageprobleme von Copilot
Microsoft-Insider haben in der Vergangenheit bereits vor der Neigung von Copilot gewarnt, fragwürdige Bilder zu erzeugen.
Anfang 2024 äußerte der Machine-Learning-Ingenieur Shane Jones öffentlich Bedenken hinsichtlich der Möglichkeit, die Sicherheitsvorkehrungen des Text-zu-Bild-Tools DALL-E 3 der Software zu umgehen. Zuvor hatte er Microsoft aufgefordert, Copilot Designer, das dieses Tool nutzte, für drei Monate aus dem öffentlichen Angebot zu nehmen, was Microsoft jedoch abgelehnt habe. Das Feedback-Team erhalte täglich über 1.000 Produktfeedback-Nachrichten und bearbeite nur die schwerwiegendsten davon, erklärte er damals gegenüber CNBC .
Zeitgleich mit diesem Vorgang schloss Microsoft eine Sicherheitslücke in Copilot Designer, die es ermöglichte , ohne Einwilligung intime deepfakes von Taylor Swift zu erstellen.
Microsoft ist nicht das einzige Unternehmen, das externe Dienstleister mit der Überprüfung von KI-Chats beauftragt. OpenAI geht im Rahmen seiner Initiative „Project Lily“ ähnlich vor. Weitere Informationen darüber, wie KI-Assistenten Ihre Gesprächsdaten zur Verbesserung nutzen und was Sie dagegen tun können, finden Sie hier: Malwarebytes ' Leitfaden zum KI-Training mit nutzergenerierten Inhalten.
Von der Meldung von Bedrohungen bis zu deren Beseitigung.
Cybersecurity-Risiken sollten nie über eine Schlagzeile hinausgehen. Laden Sie noch heute Malwarebytes herunter, um Bedrohungen von Ihren Geräten fernzuhalten.
