© Adobe
Enkele weken geleden maakte ik een praatje met mijn buurman Tom, een amateurchemicus die experimenten uitvoert in zijn appartement. Ik vind scheikunde al heel lang fascinerend en ik maak altijd graag een praatje met hem. Maar dit gesprek was eng. Als zijn laatste experiment zou slagen, vertelde hij me, dan zou het "een rol kunnen spelen bij de genezing van kanker." Als het echter zou mislukken, was er volgens zijn berekeningen een redelijke kans dat het experiment "een explosie zou veroorzaken die het hele appartementencomplex met de grond gelijk zou maken."
Misschien liegt Tom, of misschien heeft hij waanideeën. Maar wat als er echt nog maar één reageerbuisje meer nodig zou zijn om mij en tientallen van onze medebewoners op te blazen? Wat moet je in zo'n situatie doen? Na kort wikken en wegen besloot ik het noodnummer te bellen. De politie snelde toe, doorzocht zijn appartement en besloot na een onderzoek om al zijn scheikundige apparatuur in beslag te nemen en hem mee te nemen voor verhoor.
Het bovenstaande scenario is een gedachte-experiment. Voor zover ik weet is niemand in mijn appartementencomplex een amateurchemicus die experimenteert met zeer brandbare stoffen. Ik heb dit fictieve verhaal verzonnen omdat het uitstekend de situatie weergeeft waarin wij - wij allemaal - ons bevinden met betrekking tot de AI-bedrijven die proberen kunstmatige algemene intelligentie, of AGI, te ontwikkelen. Op de lijst van dergelijke bedrijven staan DeepMind, OpenAI, Anthropic en xAI, die stuk voor stuk met miljarden dollars worden ondersteund.
Veel leidende figuren bij deze bedrijven hebben in het openbaar voor de microfoon beweerd dat een van de mogelijke gevolgen van de technologie die ze expliciet proberen te ontwikkelen, is dat iedereen op aarde sterft. De enige verstandige reactie hierop is om onmiddellijk het noodnummer te bellen en hen aan te geven bij de autoriteiten. Ze zeggen dat hun eigen technologie u, mij, onze familieleden en vrienden kan doden - de hele menselijke bevolking. En vrijwel niemand raakt hierover in paniek.
Commentaar: Lees ook: