Dat model staat onder druk. Generatieve AI verandert de handeling zelf, want produceert nieuwe tekst en beelden, produceert betekenis. Daarom is de Duitse veroordeling van Google’s AI Overviews zo interessant. Het gaat niet enkel om aansprakelijkheid, maar om een meer fundamentele kwestie: wanneer wordt de synthese uit bronnen een nieuwe publicatie?

Twee Duitse uitgevers maakten bezwaar tegen met behulp van AI gegenereerde zoekoverzichten waarin zij in verband werden gebracht met fraude, trucs om abonnementen te werven en andere dubieuze praktijken. Immers, deze verbanden kwamen niet uit de gelinkte bronnen die Google daaronder bood. De AI had nieuwe, zelfstandige uitspraken gevormd.

Tot voor kort bood Google op een zoekopdracht titels, links en fragmenten van externe bronnen. De herkomst is duidelijk. Bij een AI Overview krijg je eerst een samenhangende tekst boven de zoekresultaten. Die tekst is niet simpelweg een citaat, maar een nieuwe formulering.

De rechtbank ziet de AI-overzichten als eigen inhoud van Google. Het argument dat gebruikers de bronnen zelf kunnen controleren, is niet doorslaggevend. Het vonnis betreft een voorlopige voorziening en Google gaat in beroep. Maar het signaal is evident: niet langer is de zoekmachine de neutrale tussenpersoon indien deze eigen AI-antwoorden produceert.

Altijd arbitrair

Zoekmachines waren nooit neutraal. Ook een rangschikking is een keuze en sorteren voor op een antwoord. Daarom ligt het tegenargument van AI-bedrijven voor de hand: als elke selectie of samenvatting meteen als eigen publicatie geldt, kunnen ze zoekmachines en kennisplatforms niet op grote schaal laten functioneren.

Toch is er een wezenlijk verschil. De gebruiker krijgt direct een afgeronde tekst, geen fragment dat direct naar een bron te herleiden is, zoals Wikipedia, maar een nieuw geformuleerde synthese van informatie. Niet meer ordenen, maar zelf zeggen.

Een AI Overview is geen los venster op het web. Het is een nieuw informatieproduct, samengesteld uit bronnen, keuzes door het gebruikte model, interface-ontwerp en taal. Daarmee verschuift de vraag. Niet: waar kwam de oorspronkelijke informatie vandaan? Maar: wie heeft deze betekenis geproduceerd, verpakt en gepresenteerd als antwoord?

Ik onderscheid drie rollen:

• AI is uitgever wanneer een systeem feitelijke uitspraken produceert.
• AI is adviseur wanneer het systeem richting geeft aan een keuze.
• AI is (mede)beslisser wanneer het systeem een uitkomst beïnvloedt.

Een foutief antwoord kan reputatieschade veroorzaken of een consument verkeerd informeren. Een fout overheidsantwoord kan iemand raken in rechten, plichten, inkomen, vergunning, bezwaarpositie of toegang tot voorzieningen. Een kleine verschuiving in taal kan grote gevolgen hebben. “U kunt mogelijk bezwaar maken” is iets anders dan “u heeft geen recht op bezwaar”. “De kaart is indicatief” is iets anders dan “de grens loopt hier”.

Open overheid

Neem publieke registraties zoals RDW, Kadaster en KVK die rechtszekerheid en controleerbaarheid bieden. Dat maakt hergebruik door AI, met nieuwe tekst gevoelig: van registratie naar interpretatie, van bron naar betekenis, van feit naar oordeel.

Dat is de kern van het nieuwe risico. De overheid kan correcte brondata beschikbaar stellen, terwijl derden daar met AI misleidende conclusies van maken. Een open dataset kan zo onbedoeld brandstof worden voor synthetische misinformatie: informatie die betrouwbaar klinkt, maar misleidend is.

De reflex bij nieuwe risico’s is vaak om data verder af te schermen. Dat zou te simpel zijn. Open overheidsdata hebben grote publieke waarde. Maar open data vereisen context. Een menselijke professional kent die vanzelfsprekend. Een AI-systeem ‘weet’ dat alleen als die context expliciet beschikbaar is.

Dus moeten we betekenis toevoegen: bij elk gegeven moet duidelijker worden wat de status is, welke beperking erbij hoort en of het geschikt is voor automatische beoordeling.

Daarmee komt een volgende vraag in beeld, voor een volgend artikel. Als AI publieke brondata omzetten in conclusies en adviezen, ontstaat een nieuwe laag in publieke informatievoorziening, die raakt aan privacy, marktwerking en consumentenbescherming. Toezichthouders zoals de Autoriteit Persoonsgegevens, de Rijksinspectie Digitale Infrastructuur en de Autoriteit Consument & Markt, krijgen aanvullende rollen.

De Duitse zaak rond Google’s AI Overviews maakt een bredere verschuiving zichtbaar. Het platforminternet was gebouwd op toegang. Generatieve AI draait om interpretatie. En wie interpreteert, neemt verantwoordelijkheid over.

Het internet beschermde platforms zolang zij informatie doorgaven, al zijn algoritmes verre van neutraal. Generatieve AI maakt organisaties verantwoordelijk zodra zij betekenis gaan produceren.

*) Photo by Marten Newhall on Unsplash