Filosoffen og matematikeren Bertrand Russell sagde engang, at sandsynlighed er det vigtigste begreb i moderne videnskab – netop fordi ingen har den fjerneste anelse om, hvad det egentlig betyder. Det lyder som en vittighed, men som i alle gode vittigheder er der en sandhed bag. Når vi forskere regner på risici, fremtidsscenarier og sandsynligheder, støder vi konstant på spørgsmålet: Hvad er usikkerhed egentlig for noget?

Techchefer og forskere i kunstig intelligens gætter lystigt på sandsynligheden for, at AI udrydder menneskeheden, nogle gange omtalt som p(doom), med alt fra en meget lille risiko til sandsynligheder mellem 10 og 90 procent, nogle endda helt op til 99,9 procent. I 2023 underskrev direktørerne for OpenAI, Google DeepMind og Anthropic sammen med 350 topfolk inden for AI en fælles erklæring, hvor de skrev, at »risikoen for udryddelse som følge af AI bør være en global prioritet på linje med pandemier og atomkrig«. Det var i 2023. Og dommedagsscenarierne er kun blevet værre siden da.