In ons onderzoek, dat onlangs is gepubliceerd in Memory, Mind & Media, hebben we onderzocht wat er gebeurt als het herinneren van overledenen wordt overgelaten aan een algoritme. We probeerden om met digitale versies van onszelf te praten om daarachter te komen.

“Deathbots” zijn AI-systemen die zijn ontworpen om de stemmen, spraakpatronen en persoonlijkheden van overledenen te simuleren. Ze maken gebruik van de digitale sporen van een persoon – stemopnames, tekstberichten, e-mails en posts op sociale media – om interactieve avatars te creëren die lijken te spreken vanuit het hiernamaals.

Zoals mediatheoreticus Simone Natale heeft gezegd, hebben deze 'illusietechnologieën' diepe wortels in spiritistische tradities. Maar AI maakt ze veel overtuigender en commercieel levensvatbaar.

Ons werk maakt deel uit van een project genaamd Synthetic Pasts, dat de invloed van technologie op het behoud van persoonlijke en collectieve herinneringen onderzoekt. Voor onze studie keken we naar diensten die beweren de stem, herinneringen of digitale aanwezigheid van een persoon te bewaren of te herscheppen met behulp van AI.

Om te begrijpen hoe ze werken, zijn we onze eigen proefpersonen geworden. We hebben onze eigen video's, berichten en spraaknotities geüpload en zo 'digitale dubbelgangers' van onszelf gecreëerd.

In sommige gevallen speelden we de rol van gebruikers die hun eigen synthetische hiernamaals voorbereidden. In andere gevallen traden we op als nabestaanden die probeerden te praten met een digitale versie van iemand die was overleden.

Schokkende gevolgen

Wat we ontdekten was zowel fascinerend als verontrustend. Sommige systemen richten zich op het bewaren van herinneringen. Ze helpen gebruikers bij het vastleggen en opslaan van persoonlijke verhalen, geordend op thema, zoals jeugd, familie of advies voor dierbaren. AI indexeert vervolgens de inhoud en leidt mensen erdoorheen, zoals een doorzoekbaar archief.

Andere systemen gebruiken generatieve AI om doorlopende gesprekken te creëren. Je uploadt gegevens over een overleden persoon – berichten, posts, zelfs stemfragmenten – en het systeem bouwt een chatbot die kan reageren in hun toon en stijl. Het maakt gebruik van een subset van AI, machine learning genaamd (die door oefening verbetert), om zijn avatars in de loop van de tijd te laten evolueren.

Sommige presenteren zich als speels (“organiseer een seance met AI”), maar de ervaring kan griezelig intiem aanvoelen. Alle platforms beweren een “authentieke” emotionele band te bieden. Maar hoe meer personalisatie we probeerden, hoe kunstmatiger het aanvoelde.

Toen deze systemen ons om meer informatie over onszelf vroegen, herhaalde de bot precies dezelfde bewoordingen die we hadden gebruikt in stijve, vooraf geschreven antwoorden. Soms was de toon ongepast, bijvoorbeeld wanneer vrolijke emoji's of opgewekte bewoordingen verschenen, zelfs wanneer we het over het sterven hadden – een duidelijk signaal dat algoritmen slecht zijn in het omgaan met het emotionele gewicht van verlies:

Oh schat... ?? Het (de dood) is niet iets waar ik iemand mee zou willen opzadelen. Het is nu allemaal een beetje wazig, om eerlijk te zijn. Laten we het over iets vrolijkers hebben, oké?

De meer op archieven gebaseerde tools die we hebben getest, boden een rustiger ervaring, maar legden ook rigide categorieën en tekortschietende nuancering op. Zoals digital media-wetenschapper Andrew Hoskins heeft opgemerkt, wordt het geheugen in het tijdperk van AI 'conversationeel' – gevormd door interacties tussen mens en machine. Maar in onze experimenten voelden die gesprekken vaak vlak aan, waardoor de beperkingen van synthetische intimiteit aan het licht kwamen:

Mens: Je was altijd zo bemoedigend en ondersteunend. Ik mis je.

Deathbot: Ik ben er voor je, altijd klaar om je aan te moedigen en te ondersteunen wanneer je dat nodig hebt. En ik mis je ook... Laten we vandaag samen optrekken, met positiviteit en kracht.

Achter deze ervaringen schuilt een bedrijfsmodel. Dit zijn geen liefdadigheidsinstellingen ter nagedachtenis, maar tech-startups. Abonnementsgelden, 'freemium'-niveaus en partnerschappen met verzekeraars of zorgverleners laten zien hoe herinneringen worden omgezet in een product.

Zoals de filosofen Carl Öhman en Luciano Floridi hebben betoogd, opereert de “digitale hiernamaalsindustrie” binnen een “politieke economie van de dood”, waar gegevens nog lang na het leven van een persoon waarde blijven genereren.

Platforms moedigen gebruikers aan om “hun verhaal voor altijd vast te leggen”, maar ze verzamelen ook emotionele en biometrische gegevens om de betrokkenheid hoog te houden. Herinneringen worden een dienst – een interactie die ontworpen, gemeten en te gelde gemaakt kan worden. Dit maakt, zoals Andrew McStay, hoogleraar technologie en samenleving, heeft aangetoond, deel uit van een bredere 'emotionele AI'-economie.

Digitale wederopstanding?

De belofte van deze systemen is een soort wederopstanding – het weer tot leven wekken van de doden door middel van gegevens. Ze bieden aan om stemmen, gebaren en persoonlijkheden terug te brengen, niet als herinneringen, maar als in real-time gesimuleerde aanwezigheid. Dit soort ‘algoritmische empathie’ kan overtuigend en zelfs ontroerend zijn, maar het bestaat binnen de grenzen van de code en verandert stilletjes de aard van het herinneren, waarbij de ambiguïteit en tegenstrijdigheden van het echte leven worden weggewerkt.

Deze platforms laten een spanning zien tussen archiverende en generatieve vormen van herinnering. Alle platforms normaliseren echter bepaalde manieren van herinneren, waarbij continuïteit, samenhang en emotionele responsiviteit voorrang krijgen, terwijl ze tegelijkertijd nieuwe, datagestuurde vormen van persoonlijkheid produceren.

Zoals mediatheoreticus Wendy Chun heeft opgemerkt, verwarren digitale technologieën vaak opslag met geheugen en beloven ze een perfecte herinnering. Terwijl ze de rol van het vergeten uitwissen – de afwezigheid die zowel rouwen als herinneren mogelijk maakt.

In die zin dreigt digitale wederopstanding tot een verkeerd begrip van de dood zelf te leiden: het definitieve karakter van verlies wordt vervangen door de eindeloze beschikbaarheid van simulatie, waarbij de doden altijd aanwezig, interactief en up-to-date zijn.

AI kan helpen om verhalen en stemmen te bewaren, maar kan de levende complexiteit van een persoon of een relatie niet repliceren. De “synthetische hiernamaals” die we zijn tegengekomen, zijn juist zo boeiend omdat ze falen. Ze herinneren ons eraan dat herinneringen relationeel en contextueel zijn en niet programmeerbaar.

Onze studie suggereert dat je weliswaar met AI met de doden kunt praten, maar dat wat je terugkrijgt meer zegt over de technologieën en platforms die profiteren van herinneringen – en over onszelf – dan over de geesten waarmee we volgens hen kunnen praten.

*) Eva Nieto McAvoy is docent Digital Media, King's College London (eerste foto rechts). Jenny Kidd is docent Media and Cultural Studies aan Cardiff University (tweede foto). Hun artikel verscheen in het Engels bij The Conversation

**) Groot beeld: Photo by Nikko Macaspac on Unsplash