Een waarschuwing voor iedereen die denkt dat hun AI-chats privé zijn: een mens kan zien wat ze uploaden. Een rapport van 404 Media van deze week beschrijft hoe externe medewerkers de foto's, bewerkingsverzoeken en de door Copilot geproduceerde afbeeldingen van Copilot-gebruikers bekijken. Sommige van de dingen die ze zien zijn verontrustend.
De externe bedrijven die zijn ingehuurd om deze beoordelingen uit te voeren, presenteren hun medewerkers een originele foto en een bewerkingsverzoek van een gebruiker. Ze krijgen ook twee mogelijke AI-bewerkingen te zien en worden gevraagd om beide op technische merites te beoordelen. Omdat dit internet is, gaat dit veel verder dan verzoeken om je kat in een Halloweenkostuum te plaatsen. Veel van de verzoeken zijn seksueel van aard en sommige betreffen kinderen, aldus het rapport. De gezichten op de originele foto's zijn niet gecensureerd, wat betekent dat de beoordelaars kunnen zien wie er op de foto's staan.
De bewerkingsverzoeken en resultaten die beoordelaars moeten evalueren, omvatten onder andere verzoeken om rokken in te korten, lichaamsdelen te vergroten en mensen in seksuele posities te plaatsen. In veel gevallen lijken de bewerkingen niet met toestemming te zijn uitgevoerd. Zo vertelde een opdrachtgever dat hem meerdere sets foto's van onder rokken waren getoond. Een andere opdrachtgever zei dat hem was gevraagd om afbeeldingen van kindertekenfilmfiguren met een voetfetisj te beoordelen. Gebruikers hadden Copilot gevraagd om afbeeldingen te maken van Ariana Grande die aan anorexia leed. Een beoordelaar kreeg ook afbeeldingen te zien die dierenoffers afbeelden.
Geïnterviewden vertelden aan 404 Media dat freelancers betaald worden om de beeldkwaliteit te beoordelen, maar niet om ongepaste inhoud aan te merken. Ze controleren zaken als of de instructies correct zijn opgevolgd, of delen van het beeld behouden of vervormd zijn gebleven, en de algehele uitstraling van het beeld. Ze vellen geen juridisch of veiligheidsoordeel over de inhoud.
Microsoft gebruikt klantgegevens van sommige accounts om zijn producten te verbeteren. Toen 404 Media hiernaar vroeg, gaf het bedrijf echter geen antwoord op de vraag of gebruikers uploads kunnen uitsluiten van deze beoordelingstaken.
In de Privacy FAQ voor de oudere consumentenversie van Copilot geeft Microsoft aan dat gesprekken standaard 18 maanden worden bewaard, hoewel gebruikers ze op elk moment kunnen verwijderen. Het bedrijf zegt ook dat het gegevens, "waaronder de afbeeldingen of bestanden die u uploadt", kan gebruiken voor AI-training. Gebruikers die hiervoor in aanmerking komen, kunnen zich afmelden voor training, maar volgens de FAQ is het niet mogelijk om bepaalde menselijke beoordelingen uit te sluiten. Er wordt niet vermeld of dit ook geldt voor de taken voor het beoordelen van afbeeldingen die door 404 Media worden beschreven.
Microsoft zegt dat de bijgewerkte consumenten-app Copilot, die sinds 18 augustus beschikbaar is, geen gebruikmaakt van prompts, reacties of de inhoud van geüploade bestanden om basismodellen te trainen. Dat laat echter nog steeds de vraag open die 404 Media aan Microsoft stelde: kunnen gebruikers ervoor zorgen dat hun geüploade afbeeldingen niet door mensen worden beoordeeld?
Eerdere problemen met het imago van Copilot
Microsoft-insiders hebben in het verleden al gewaarschuwd voor de neiging van Copilot om twijfelachtige afbeeldingen te produceren.
Begin 2024 maakte machine learning-ingenieur Shane Jones zijn zorgen openbaar over de mogelijkheid om beveiligingsmaatregelen in de tekst-naar-afbeelding-tool DALL-E 3 van de software te omzeilen. Hij had het bedrijf eerder gevraagd om Copilot Designer, dat de tool gebruikte, drie maanden lang niet meer beschikbaar te stellen voor het publiek, maar Microsoft had dit geweigerd. Het feedbackteam ontving dagelijks meer dan 1000 feedbackberichten over het product en behandelde alleen de meest ernstige, vertelde hij destijds aan CNBC .
Tegelijkertijd dichtte Microsoft een beveiligingslek in Copilot Designer waardoor iemand zonder toestemming intieme deepfakes van Taylor Swift kon maken.
Microsoft is niet het enige bedrijf dat externe partijen inhuurt om AI-chats te beoordelen. OpenAI doet hetzelfde als onderdeel van hun Project Lily- initiatief. Als je meer wilt weten over hoe AI-assistenten je gespreksgegevens gebruiken om zichzelf te verbeteren en wat je kunt doen om dit te voorkomen, lees dan verder. Malwarebytes ' Handleiding voor AI-training op basis van gebruikerscontent.
Van het melden van bedreigingen tot het verwijderen ervan.
Cyberbeveiligingsrisico's mogen zich nooit verder verspreiden dan een krantenkop. Houd bedreigingen van uw apparaten door Malwarebytes vandaag nog te downloaden.
