In 1903 schreef de Berlijnse socioloog Georg Simmel een essay over het geestesleven in de grote stad, Die Großstädte und das Geistesleben, over drukke straten, de opeenvolging van indrukken en de voortdurende confrontatie met onbekenden. Simmel onderzocht hoe mensen zich aanpassen aan een omgeving waarin de hoeveelheid prikkels sneller groeit dan hun vermogen om die te verwerken.

Zijn analyse helpt mij om een risico van generatieve AI te begrijpen dat in het huidige debat betrekkelijk weinig aandacht krijgt: dat wij geleidelijk minder belang gaan hechten aan het onderscheid tussen informatie die betrouwbaar is en informatie die dat niet is. Dit is natuurlijk al een poosje gaande en niet exclusief een fenomeen dat opkomt met AI. Maar AI brengt ons in een volgende fase van onverschilligheid.

Het verstand als bescherming

Volgens Simmel leeft de menselijke geest van verschillen. Onze aandacht wordt geprikkeld wanneer iets afwijkt van wat we eerder hebben waargenomen, of verwachtten te zien. De grote stad bracht een ongekende versnelling van zulke indrukken met zich mee. De stedeling ontwikkelde daarom een vorm van zelfbescherming. In plaats van iedere indruk persoonlijk te verwerken, leerde hij afstand te houden en rationeel te reageren. Het verstand werd een buffer tussen de buitenwereld en zijn persoonlijkheid.

Iets vergelijkbaars zien we bij generatieve AI. Wie enkele jaren geleden voor het eerst een taalmodel een overtuigend verhaal zag schrijven, was nog verwonderd. Wat aanvankelijk uitzonderlijk leek, is dagelijkse routine geworden.

Gewenning is noodzakelijk, maar heeft volgens Simmel ook een prijs. Naarmate we meer indrukken leren verwerken zonder er werkelijk bij stil te staan, wordt het lastiger om te herkennen welke daarvan bijzondere aandacht verdienen.

Wanneer alles even zwaar gaat wegen

Een van Simmel’s interessantste observaties betreft de invloed van geld. Geld maakt de waarde van uiteenlopende goederen vergelijkbaar door prijskaartjes op een mate van kwaliteit. Dat is makkelijk voor het economisch verkeer, maar dringt het ook belangrijke verschillen naar de achtergrond.

Taalmodellen doen met informatie iets vergelijkbaars. Harde informatie van bijvoorbeeld een zorgvuldig onderzocht journalistiek artikel of wetenschappelijke publicatie mengt zich met opvattingen en niet onderbouwde beweringen in dezelfde vloeiende, overtuigende formuleringen. Onderscheid maken wordt allengs moeilijker. Een bewering klinkt geloofwaardig binnen een samenhangend verhaal. Maar is het onderzocht of gecontroleerd? Dat blijft vaak buiten beeld.

Dat brengt ons bij Simmel’s bekendste begrip: de blasé houding. De blasé mens is ziet nog wel verschillen, maar ervaart ze steeds minder als betekenisvol. De voortdurende confrontatie met nieuwe indrukken vlakt zijn gevoeligheid af, waardoor alles geleidelijk dezelfde grijze kleur krijgt.

Het gaat steeds maar over ‘hallucinaties’ van generatieve AI. Dat is belangrijk, maar veronderstelt dat mensen het onderscheid tussen waar en onwaar willen blijven maken. Echter, wanneer betrouwbare en onbetrouwbare informatie voortdurend in dezelfde overtuigende vorm verschijnt, word je onverschilliger tegenover de vraag wat juist is.

Dus dit is geen pure misleiding, maar gebrekkig onderscheid van betekenis. In een democratische samenleving is dat een wezenlijk risico, omdat betrokkenheid veronderstelt dat burgers verschillen kunnen herkennen.

Zonder persoonlijke nabijheid

Simmel zag hoe de moderne stad een economie voortbracht waarin producenten en afnemers elkaar niet langer persoonlijk kenden. Die afstand maakte schaalvergroting mogelijk, maar veranderde ook de onderlinge verantwoordelijkheid.

Een journalist die voor zijn eigen stad schreef, kon zijn bronnen en lezers bij de bakker tegenkomen. Die nabijheid dwong tot een soort verantwoording, ook wanneer zij nergens formeel was vastgelegd.

Bij taalmodellen is die afstand aanzienlijk groter. Een gebruiker ontvangt antwoorden op basis van materiaal waarvan de oorspronkelijke auteurs meestal buiten beeld blijven. Wie is dan aanspreekbaar? Waar is de bron en wie controleert die nog?

De klokken van Berlijn

Een van de mooiste beelden in Simmel’s essay is dat van de Berlijnse klokken. Wanneer alle uurwerken in de stad plotseling een uur verkeerd zouden lopen, ieder in een andere richting, zou het economische leven ernstig ontregeld raken. De moderne metropool kon alleen functioneren doordat miljoenen mensen zich op dezelfde referentiepunten verlieten.

Voor onze informatievoorziening zijn zulke referentiepunten bijvoorbeeld de herkomst, datum en maker van de oorspronkelijke bronnen. Maar wat nu als die verdwijnen in een amorfe lap tekst met rijp en groen door elkaar?

Bovendien worden antwoorden en suggesties steeds vaker afgestemd op de voorkeuren van individuele gebruikers met hun zelf ‘opgevoede’ agenten. Welke gemeenschappelijke controleerbare werkelijkheid blijft dan nog overeind?

Burgers hoeven niet allemaal hetzelfde antwoord te ontvangen. Wel moeten verschillende antwoorden controleerbaar blijven aan de hand van gedeelde feiten. De klokken hoeven niet hetzelfde uiterlijk te hebben, zolang ze maar tegelijkertijd van zomer- naar wintertijd overgaan.

Een cultuur die de mens ontgroeit

Aan het slot van zijn essay onderscheidt Simmel de objectieve cultuur, alle kennis en technieken van een samenleving, van de subjectieve cultuur: het deel dat individuen zich eigen maken met de eigen ervaring. De eerste groeit sneller dan de tweede: alsmaar meer uitingen stuiten op individuele beperkingen om die op te nemen.

Een taalmodel vind ik een treffende hedendaagse uitdrukking daarvan. Het maakt enorme hoeveelheden menselijke kennis toegankelijk, maar het vermogen om antwoorden te bevatten en beoordelen groeit niet mee.

Dat hoeft niet tot verschraling te leiden. Dezelfde technologie kan ook helpen om bronnen te vergelijken en tegenstrijdigheden en onzekerheden te herkennen. Maar dan moeten we daar wel rekening mee gaan houden met de inrichting van onze informatieomgeving. Hoe gaan we ermee om?

Begrip nodig

Simmel besloot zijn essay met de opmerking dat we de moderne samenleving niet moeten veroordelen of rechtvaardigen, maar begrijpen. Maar krijgen wij die tijd en ruimte wel met AI? De publieke ruimte van de grote stad ontwikkelde zich over generaties, terwijl die van de taalmodellen in enkele jaren ontstaat vanuit een paar dominante technologiebedrijven.

We moeten het voorkomen van de blasé houding volgens mij zien als een vraagstuk van publieke verantwoordelijkheid en niet voetstoots het prachtige aanbod van de technologiebedrijven onze individuele en collectieve omgang met informatie laten bepalen.

Waar de stedeling van 1903 moest leren omgaan met een overvloed aan indrukken, moeten wij inmiddels leren leven met een overvloed aan antwoorden. Gaan we ook de wereld beter en begrijpen en bewuster leven, of maakt het ons juist minder gevoelig voor de verschillen die ertoe doen?

Voor wie Simmel in het Engels wil lezen: The Metropolis and Mental Life.