Een Duitse rechtbank heeft geoordeeld dat Google rechtstreeks aansprakelijk kan worden gesteld voor lasterlijke beweringen die door zijn AI-overzichten worden gegenereerd. In feite stelde de rechtbank dat het niet voldoende is om mensen te vertellen dat ze AI-zoekresultaten moeten controleren om aansprakelijkheid voor de inhoud van die resultaten af te wijzen.
De regionale rechtbank van München heeft een voorlopige voorziening tegen Google uitgevaardigd nadat twee Duitse uitgevers hadden ontdekt dat AI Overviews hen ten onrechte afschilderde als betrokken bij oplichting en „dubieuze zakelijke praktijken“, hoewel de gelinkte artikelen deze beweringen niet onderbouwden.
Deze uitspraak zou wel eens ver buiten de grenzen van Duitsland weerklank kunnen vinden. De rechtbank heeft in feite geoordeeld dat Google rechtstreeks aansprakelijk kan worden gesteld voor lasterlijke inhoud die door zijn AI-overzichten wordt gegenereerd. De rechtbank doorbrak de gebruikelijke boodschap van „het is maar AI, vertrouw er niet te veel op“ en maakte één ding duidelijk: als je een systeem bouwt dat vol overtuiging mensen of bedrijven in diskrediet brengt, kun je aansprakelijk worden gesteld voor wat het zegt, zelfs als de inhoud door de AI is „verzonnen“.
AI-overzichten zijn geen onschuldige suggesties. In dit geval beschouwde de rechtbank ze als verklaringen van Google zelf, met alle juridische gevolgen van dien.
Toen de uitgevers een sommatiebrief stuurden, heeft Google niet onmiddellijk voorkomen dat soortgelijke beweringen werden weergegeven. Dat detail bleek cruciaal te zijn voor de uitspraak. De rechtbank merkte op dat AI-overzichten, in tegenstelling tot traditionele zoekresultaten die louter inhoud van derden weergeven, „onafhankelijke, nieuwe en inhoudelijke uitspraken“ genereren.
En aangezien alleen Google de modellen en de logica kan aanpassen waarmee die uitspraken worden gegenereerd, kan alleen Google op betrouwbare wijze voorkomen dat het systeem dezelfde of soortgelijke onjuistheden blijft herhalen. In deze zaak oordeelde de rechtbank dat Google aansprakelijk kan worden gesteld.
Al jaren genieten zoekmachines ruime bescherming op grond van het uitgangspunt dat bepaalde schadelijke inhoud onvermijdelijk is bij het op grote schaal indexeren van het open web. Het weergeven van een zoekresultaat betekent niet dat de zoekmachine dit onderschrijft. De zoekmachine is een kanaal, geen uitgever.
Dat verandert wanneer een AI-overzicht feiten samenvat, anders formuleert en soms zelfs verzint, om ze vervolgens bovenaan de zoekresultaten te plaatsen.
AI-overzichten zijn een extra functie die niet essentieel is voor de werking van de zoekfunctie. De aantrekkingskracht van AI-samenvattingen ligt echter in hun snelle, zelfverzekerde antwoorden, en dat is precies wat ze gevaarlijk maakt. Als die antwoorden onjuist zijn, zullen veel gebruikers wellicht niet doorklikken om de bronnen te controleren.
De uitspraak is voorlopig en er kan nog beroep tegen worden aangetekend, maar de boodschap is duidelijk: de zoekresultaten van AI zijn geen tovermiddel dat aansprakelijkheid doet verdwijnen. Disclaimers over mogelijke fouten zijn wellicht niet voldoende wanneer een systeem op grote schaal wordt ingezet, nieuwe inhoud genereert en is ontworpen om te worden vertrouwd.
De cijfers
De AI-overzichten van Google worden aangedreven door Gemini, het AI-model van Google. Net als andere AI-systemen kan het met grote zekerheid antwoorden geven die onjuist zijn of onvoldoende onderbouwd.
Pew Research heeft de browsegegevens van honderden gebruikers geanalyseerd en geconstateerd dat wanneer er een AI-overzicht op een Google-zoekresultatenpagina verschijnt, het aantal klikken op traditionele zoekresultaten daalt van ongeveer 15% naar ongeveer 8%.
Uit een analyse van AI-overzichten door de New York Times bleek dat deze in ongeveer negen van de tien gevallen correct waren. Maar aangezien Google jaarlijks meer dan vijf biljoen zoekopdrachten verwerkt, kan zelfs een klein foutenpercentage al miljoenen verkeerde antwoorden betekenen.
En die fouten zijn niet altijd te wijten aan onbetrouwbare bronnen. Zelfs als Google naar een pagina met de juiste informatie linkt, kan de AI nog steeds een onjuist antwoord geven. Meer dan de helft van de correcte antwoorden werd aangemerkt als „ongegrond“, wat betekent dat de websites die door AI Overview werden aangehaald, de verstrekte informatie niet volledig onderbouwden.
De belangrijkste les hier is dat je de zoekresultaten van AI altijd nog eens goed moet controleren. Vertrouw een antwoord niet alleen maar omdat het vol overtuiging wordt gepresenteerd en links bevat.
Gebruikers kunnen naar echte bedreigingen worden geleid, of juist van effectieve beveiligingsmaatregelen worden afgeleid, simpelweg omdat een AI-systeem op een zoekpagina overtuigend overkwam.
Als je onjuiste of lasterlijke AI-samenvattingen over jezelf of je bedrijf tegenkomt, leg deze dan zorgvuldig vast. Maak screenshots, noteer de zoektermen, dien verzoeken om correctie in en houd de reactie van het platform bij. Of het uitblijven daarvan.
Oplichters hoeven je computer niet te hacken. Ze hoeven je maar één keer te laten klikken.
Malwarebytes Identity Theft signaleert verdachte activiteiten voordat ze tot een probleem leiden.
