Ik heb mijn hele leven aan AGI gewerkt, omdat ik er diep van overtuigd ben dat het, mits verantwoord ontwikkeld en ingezet, een van de meest nuttige en baanbrekende technologieën ooit zal blijken te zijn.

AGI is niet te vergelijken met belangrijke doorbraken zoals het internet of mobiele technologie – maar beter met de ontdekking van elektriciteit of vuur. We hebben in feite een manier gevonden om zand te laten denken. Ik vind dat wonderbaarlijk.

De invloed van deze technologie zal dus ongekend zijn, misschien wel tien keer zo groot als die van de Industriële Revolutie, en dat in een tien keer zo hoog tempo. Het zal de grootste maatschappelijke problemen helpen oplossen, met nieuwe medicijnen, schone energiebronnen en geavanceerde materialen.

We zouden zelfs een punt kunnen bereiken waarop grondstoffen niet langer de beperkende factor zijn voor de menselijke vooruitgang, wat zou leiden tot een fantastisch nieuw tijdperk van overvloed.

Documentaire over Hassabis en zijn team bij DeepMind, over een periode van vijf jaar. 

De uitdagingen van de grens

AI begint al concrete voordelen in de praktijk te bieden, maar om de immense belofte ervan waar te maken, moeten we doordacht en zorgvuldig omgaan met de risico's. Zo ontstaan er grote uitdagingen met beveiliging. Andere bedreigingen, zoals nucleaire en biologische, kunnen zich snel aandienen met betere modellen.

Hoe houden we de controle? Ik heb altijd geloofd in de kracht van menselijke vindingrijkheid en creativiteit om elk probleem op te lossen, dus ook die van de technische risico's met AI

Concurrentiegevaar

We bevinden ons nu in een extreem intense commerciële en geopolitieke race. Hoewel deze concurrentie snelle vooruitgang stimuleert en de ongelooflijke voordelen versnelt, lopen we tegen grenzen van begrip aan.

Niemand ter wereld weet met zekerheid wat er gaat gebeuren, zelfs de experts zijn het daarover oneens. Toch kies ik, ondanks veel onzekerheid en grote belangen, voor (voorzichtig) optimisme als strategie.

Dat vereist overheden die innovatie bevorderen en tegelijkertijd verantwoordelijkheid en veiligheid, in internationale samenwerking. Eerste vereiste: een nieuwe aanpak voor het testen van de capaciteiten van geavanceerde AI-modellen. Deze aanpak moet dynamisch, aanpasbaar en rigoureus zijn.

De VS moet gezien haar economische en technische positie de eerste stap zetten, met een nieuwe instantie voor standaardisatie; gemodelleerd naar een  publiek-privaat partnerschap of een zelfregulerende organisatie, vergelijkbaar met de Financial Industry Regulatory Authority (FINRA) die de kapitaalmarkten probeert te reguleren

Zo’n instantie heeft een raad van bestuur bestaande uit onafhankelijke, toonaangevende technische experts en vertegenwoordigers van open-sourceprojecten. Er moet veel geld voor beschikbaar komen om technisch talent van wereldklasse aan te trekken en de benodigde rekenkracht te leveren voor grootschalige proeven.

Dit normalisatie-instituut (‘standards body’) ontwikkelt protocollen voor beoordeling van systemen en werkt samen met relevante federale instanties en laboratoria om testen uit te voeren op gebieden die relevant zijn voor de nationale veiligheid.

Een model kan als 'grensverleggend' worden beschouwd als het voldoet aan drempelwaarden op basis van benchmarks die deze instantie zelf vaststelt en regelmatig bijwerkt om gelijke tred te houden met de evoluerende AI-mogelijkheden.

Keuring voor het uitbrengen

Organisaties met deze 'grensverleggende modellen' zijn dan 'grensverleggende laboratoria' die worden aangemoedigd om best practices toe te passen, zoals:

• het publiceren van modelkaarten met technische details;
• het handhaven van een sterke interne cyberbeveiliging
• het screenen van belangrijk personeel en
• het beschikbaar stellen van voldoende middelen voor onderzoek naar veiligheid en beveiliging
• en meer….

In eerste instantie zouden deze Frontier Labs hun modellen vrijwillig ter beoordeling moeten aanbieden aan de standaardisatie-instantie, tot 30 dagen voor het vrijgeven. Frontiermodellen moeten aan dit protocol voldoen om op de (Amerikaanse) markt te mogen worden ingezet. Het lab moet daarna samenwerken met de standaardisatie-instantie om eventuele kritieke kwetsbaarheden na de marktintroductie aan te pakken.

Beoordelingen van de modellen moeten rigoureuze wetenschappelijke evaluaties zijn van de capaciteiten van de systemen op het gebied van cyberbeveiliging, biologische bedreigingen en andere risicovolle domeinen.

In samenwerking met de Amerikaanse overheid zou een ecosysteem kunnen worden opgebouwd van externe auditors die kunnen helpen bij de beoordeling en ontwikkeling van nieuwe benchmarks en evaluaties.

Indien nodig kan een vertraging van de ontwikkeling bij de Frontier Labs nodig zijn. De status van Frontier Lab zou aanzienlijk prestige met zich meebrengen en toegankelijk zijn voor elke organisatie die modellen ontwikkelt die aan de benchmarkcriteria voldoen.

De aanpak moet toegepast worden op Frontier-modellen, open en gesloten, ongeacht hun land van herkomst. Niet-Frontier-modellen, bijvoorbeeld van startups of de academische wereld, kunnen van dit proces worden vrijgesteld.

Vervolgens kan de VS dit inbrengen om te komen tot internationale standaarden voor baanbrekende AI, teneinde de ernstigste risico's te pareren, en tegelijkertijd te garanderen dat iedereen toegang heeft tot, en kan profiteren van de mogelijkheden die AI biedt.

Toekomst nog niet geschreven

AGI heeft de potentie om hét ultieme instrument te worden voor de vooruitgang van wetenschap en geneeskunde, en om enorme productiviteitswinsten en economische groei te stimuleren.

Maar om dit te bereiken, moeten we de technische basis leggen met een gedeeld wereldwijd kader, de meest rigoureuze wetenschappelijke methoden en de beste denkers samenbrengen.

Zelfs als we deze lastige technische uitdagingen weten aan te pakken, blijven er complexe economische en filosofische vraagstukken over:
Welke nieuwe economische modellen zijn nodig om iedereen te laten floreren in een wereld zonder schaarste?
Welke waarden willen we nastreven, wat zullen betekenis en doel zijn?
Hoe zou zelfs de menselijke conditie zelf kunnen veranderen?

Het beantwoorden van deze vragen kan en mag uiteraard niet alleen aan techneuten worden overgelaten. Het vereist dat alle delen van de samenleving samenwerken om dit nieuwe hoofdstuk vorm te geven.

Er heerst zowel enorme opwinding als hevige ongerustheid over AI, en beide zijn terecht. Maar we moeten deze kostbare periode vóór de komst van AGI benutten om deze technologie zo te ontwikkelen dat deze ten goede zal komen aan de gehele mensheid.

Wat we nu gezamenlijk doen, zal bepalen hoe de volgende fase van de beschaving zich ontvouwt. Door AGI op een veilige manier tot wasdom te brengen, kunnen we een nieuw gouden tijdperk van wetenschappelijke ontdekkingen en vooruitgang inluiden en een stralende toekomst van ongelooflijke menselijke bloei inluiden.

*) Demis Hassabis (1976) is een Britse Nobelprijswinnaar in de scheikunde, en medeoprichter en directeur van Google DeepMind (AI) en Isomorphic Labs om medicijnen te ontwikkelen. Dit is een verkorte, menselijke vertaling van het oorspronkelijke Engelse stuk op Substack deze week. Het werd getipt door Erwin Blom.