De techjournalisten van 404 Media hebben ontdekt dat OpenAI honderden freelancers inhuurt om een enorme hoeveelheid ChatGPT-vragen en -reacties van echte gebruikers te lezen en te beoordelen.
"Project Lily" is naar verluidt een programma waarbij aannemers worden gevraagd om de antwoorden van ChatGPT te beoordelen of te bekritiseren om de kwaliteit en het gedrag van de chatbot te verbeteren.
Het feit dat prompts soms door mensen worden beoordeeld, zou geen complete verrassing moeten zijn. AI-bedrijven monitoren gesprekken ook om veiligheidsredenen. Anthropic zegt bijvoorbeeld pogingen te hebben verijdeld om AI te misbruiken voor onderzoek naar biologische wapens .
Er moet echter een wezenlijk onderscheid worden gemaakt tussen het beoordelen van gesprekken op veiligheid of misbruik en het beoordelen ervan met het oog op algemene modelverbetering.
OpenAI stelt dat een beperkt aantal geautoriseerde medewerkers en vertrouwde dienstverleners toegang hebben tot chats om verschillende redenen, waaronder het onderzoeken van misbruik, het bieden van ondersteuning, het afhandelen van juridische zaken en het verbeteren van de modellen.
OpenAI vertelde 404 Media dat het gebruikmaakt van een " Privacy Het "filter"-model verwijdert persoonlijke informatie voordat de meldingen de beoordelaars bereiken, maar erkent tegelijkertijd dat gevoelige gegevens er nog steeds doorheen kunnen glippen.
De vragen zijn geanonimiseerd in die zin dat beoordelaars de gebruikersnaam van de ChatGPT-gebruiker die ze heeft ingevoerd niet zien. Beoordelaars kunnen echter wel persoonlijke gegevens in het gesprek zien, samen met een 'samenvatting van gebruikersherinneringen', die een overzicht geeft van hoe die gebruiker de chatbot eerder heeft gebruikt. Gecombineerd kan deze informatie nog steeds veel over die gebruiker onthullen.
Het is soms makkelijk te vergeten dat je geen privégesprek voert wanneer je heen en weer communiceert met een AI-chatbot. Dit is geen alarmerende waarschuwing tegen het gebruik van AI, maar een herinnering om goed na te denken over wat je deelt, omdat het gelezen en gecontroleerd kan worden.
Hoe kunt u zich afmelden voor AI-chatbottraining?
ChatGPT
OpenAI heeft aan 404 Media laten weten dat de chats van gebruikers niet zullen worden gebruikt om de modellen van het bedrijf te verbeteren als ze de instelling 'Verbeter het model voor iedereen' uitschakelen. Deze instelling is standaard ingeschakeld voor de gratis versie. Plus en Pro-abonnementen, dus gebruikers moeten het zelf uitschakelen als ze zich willen afmelden.
Het uitschakelen van toegang voorkomt echter niet alle menselijke toegang. OpenAI stelt dat geautoriseerd personeel en vertrouwde dienstverleners nog steeds toegang kunnen krijgen tot de inhoud wanneer dat nodig is om misbruik of beveiligingsincidenten te onderzoeken, ondersteuning te bieden, problemen op te lossen of juridische zaken af te handelen.
In ChatGPT selecteer je je profielpictogram, ga je naar Instellingen > Gegevensbeheer en schakel je 'Het model voor iedereen verbeteren' uit. Op mobiel open je de zijbalk, selecteer je je profielpictogram en volg je dezelfde stappen.
Verwarring
Ga in Perplexity naar Instellingen > Voorkeuren > Gegevensbewaring AI en schakel de instelling uit.
Perplexity zegt dat dit voorkomt dat gegevens die zijn verzameld nadat u zich hebt afgemeld, worden gebruikt om AI-modellen te trainen. Het verwijdert geen eerder verzamelde gegevens en uw gegevens kunnen nog steeds worden verwerkt om de dienst te beheren en te verbeteren of om te voldoen aan wettelijke verplichtingen.
Claude
In Claude selecteer je je naam en ga je naar Instellingen > Privacy . Schakel onder ' Help onze AI-modellen te verbeteren' de instelling uit.
Anthropic meldt dat nieuwe chats en codeersessies niet langer zullen worden gebruikt voor toekomstige modeltrainingen. Ook zullen eerder opgeslagen gesprekken niet meer worden gebruikt in toekomstige trainingssessies, hoewel gegevens die al in de training zijn opgenomen niet kunnen worden verwijderd.
Anthropic merkt ook één belangrijke uitzondering op:
Als onze veiligheidsclassificatiesystemen uw gesprekken als verdacht markeren, kunnen deze gegevens alsnog worden gebruikt om onze interne modellen voor vertrouwen en veiligheid te verbeteren, schadelijke inhoud op te sporen, ons beleid te handhaven of ons veiligheidsonderzoek te bevorderen.
Als u andere AI-tools gebruikt, controleer dan hun privacybeleid en -instellingen om te zien of uw gesprekken kunnen worden bekeken of gebruikt voor modelverbetering en of u zich hiervoor kunt afmelden.
Surf alsof niemand kijkt.
Malwarebytes Privacy VPN je verbinding en houdt nooit bij wat je doet, zodat het volgende artikel dat je leest niet als iets persoonlijks hoeft te voelen.Probeer het gratis →
