Het digitale marketingbedrijf Graphite stelt dat meer dan 50 procent van de online artikelen door AI gegenereerd is. Als AI geschreven tekst de voorkeur krijgt, is het dan slechts een kwestie van tijd voordat menselijk schrijven overbodig wordt? Of passen we ons aan en ontstaat een nieuw evenwicht?

Umberto Eco en media-invloed

Toen ik over deze vragen nadacht, moest ik denken aan het essay Apocalyptic and Integrated van Umberto Eco, dat oorspronkelijk in 1964 werd geschreven. Delen ervan werden opgenomen in de bloemlezing Apocalypse Postponed dat ik als student las. Destijds schreef Eco over de opkomst van tv en radio. Tegenwoordig zie je vaak soortgelijke reacties op AI.

 Eco stelt twee houdingen ten opzichte van de media tegenover elkaar:

•  “apocalyptici” die bang zijn voor culturele achteruitgang en moreel verval;
•  “geïntegreerden” die nieuwe mediatechnologieën aanprijzen als een democratiserende kracht voor de cultuur.

Eco vond beide standpunten te extreem. Het helpt niet om nieuwe media te zien als een ernstige bedreiging of als een wonder. Hij spoorde lezers aan om te kijken naar de inzet van de technologie, welke risico's en kansen ze creëren en hoe ze machtsstructuren vormgeven – en soms versterken.

Toen ik tijdens de Amerikaanse verkiezingen van 2024 een cursus over deepfakes gaf, kwam Eco's les van pas. Dat waren dagen waarin sommige wetenschappers en media regelmatig waarschuwden voor een dreigende “deepfake-apocalyps”.

Zo zouden deepfakes worden gebruikt om belangrijke politieke figuren na te bootsen en gerichte desinformatie te verspreiden, of wellicht om met een nagebootste stem kiezers te vertellen thuis te blijven.

Die angsten waren niet ongegrond: uit onderzoek blijkt dat mensen niet bijzonder goed zijn in het herkennen van deepfakes. Tegelijkertijd overschatten ze consequent hun vermogen om dat te doen.

De apocalyps bleef uit. Deepfakes hadden weliswaar bepaalde politieke trends versterkt, zoals polarisatie en het afbrokkelen van vertrouwen, maar bewijs ontbreekt dat ze de uiteindelijke uitslag van de verkiezingen beïnvloedden.

Nieuwsupdates en handleidingen

Uiteraard zijn de negatieve gevoelens die AI oproept bij mensen die zich zorgen maken over democratie niet dezelfde als die van schrijvers en kunstenaars. Hun gaat het vooral om auteurschap: hoe kan één persoon concurreren met een systeem dat is getraind op miljoenen stemmen en razendsnel teksten genereert? En als dit de norm wordt, wat betekent dat voor creatief werk, als beroep en als bron van betekenis?

Graphite betrok in het onderzoek 65.000 willekeurige artikelen van minimaal 100 woorden, van wetenschappelijk onderzoek tot reclameteksten voor supplementen. Graphite trof vooral door AI gegenereerde nieuwsupdates, handleidingen, lifestyle-berichten, recensies en productbeschrijvingen.

Chart: The Conversation, CC-BY-ND Bron: Graphite - Get the data

Het primaire economische doel van deze content is om te overtuigen of te informeren, niet om originaliteit of creativiteit tot uitdrukking te brengen. Anders gezegd: AI lijkt het meest nuttig voor teksten met een laag risico en een vaste opzet: een lijstje met tips voor een weekendje Rome, een standaard sollicitatiebrief, een promotietekst.

Een hele sector van schrijvers – voornamelijk freelancers, waaronder veel vertalers – is juist afhankelijk van dit soort werk met productie van blogposts, handleidingen, teksten voor zoekmachineoptimalisatie en voor sociale media. Door de snelle opkomst van grote taalmodellen verdwijnen de standaardklussen.

Samenwerken met AI

De sterke afname van dit soort werk door mensen roept de vraag op wat het belang is van authenticiteit, niet alleen om de schrijver te kunnen identificeren maar ook  om te begrijpen hoeveel waarde mensen hechten aan creativiteit. Hoe kun je een door mensen geschreven artikel onderscheiden van een door een machine gegenereerd artikel? En is dat vermogen überhaupt van belang?

Na verloop van tijd zal dat onderscheid waarschijnlijk minder belangrijk worden, vooral naarmate er meer teksten ontstaan uit interacties tussen mensen en AI. Een schrijver kan een paar regels opstellen, deze door AI laten uitbreiden en vervolgens de output bijwerken tot de definitieve tekst.

Dit artikel is geen uitzondering. Als Italiaan vertrouw ik vaak op AI om mijn Engels te verfijnen. Soms maakt het systeem er iets anders van dan ik voor ogen heb. Maar zodra je vertrouwd raakt met de stilistische neigingen van het systeem, kun je die corrigeren en proberen om je persoonlijke toon te behouden.

Bovendien is kunstmatige intelligentie niet volledig kunstmatig, aangezien het wordt getraind op menselijke uitingen. En vóór de komst van AI was het schrijven evenmin volledig menselijk. Elke technologie, van perkament en kleitablet tot typemachine en nu AI, heeft invloed gehad op het schrijven en interpreteren door lezers.

Echter, AI-modellen worden steeds vaker getraind op datasets van AI-gegenereerde en door mensen en AI gezamenlijk geproduceerde teksten. Dit leidt tot bezorgdheid over hun vermogen om te blijven verbeteren. Het uitbrengen van nieuwere, grotere modellen leidt al tot kritiek.

Menselijke stemmen belangrijker

Wat gebeurt er als mensen bij het schrijven te veel op AI gaan vertrouwen? Sommige onderzoeken tonen aan dat schrijvers zich creatiever voelen wanneer ze kunstmatige intelligentie gebruiken voor brainstormen, maar dat het scala aan ideeën vaak kleiner wordt.

Deze uniformiteit heeft ook invloed op de stijl: AI systemen putten uit een beperkte woordenschat, waardoor de individuele verschillen vervagen. Westerse, vooral Engelstalige normen in het schrijven beïnvloeden andere culturen, het AI-kolonialisme.

In deze context zullen teksten die origineel zijn, uniek van toon en stilistisch sterk meer betekenis krijgen in het medialandschap. Ze zullen ook bijdragen aan het trainen van volgende generaties modellen. Dus worden ze waardevoller.

Anders gezegd: ik denk niet dat het werk van auteurs, journalisten en intellectuelen overbodig zal worden, louter omdat een groot deel van het internet door AI wordt geschreven. Wel wordt het allengs moeilijker om menselijke creativiteit te onderscheiden.

*) Francesco Agnellini is onderzoeker Digitale en Data Studies aan de Binghamton University in New York. De Engelstalige versie verscheen bij The Conversation

**) Beeld Umberto Eco door Morgenstern, Klaus (Herstellung) (Fotograf) - Deutsche Fotothek, Germany - In Copyright - Educational Use Permitted (Via Europeana)