Kære læser. Denne artikel udkommer også i nyhedsbrevet »Først og fremmest«. Tilmeld Dem nyhedsbrevet her, og få artiklerne i Deres indbakke. Hver dag.

I denne uge sagde en mand ved navn Jacob Coxon op hos AI-selskabet Anthropic. Han var helt ukendt i offentligheden, men er pludselig blevet meget berømt. Jacob Coxon begrundede nemlig sin opsigelse med en opsigtsvækkende forudsigelse: »De mennesker, der udvikler AI, tror oprigtigt på, at det kan slå os alle ihjel inden årtiets udgang.« Coxons opsigelse, som han har delt på det sociale medie X, er blevet set over 140 millioner gange.

»Jacob har ret her,« lød det kort efter fra Evan Hubinger, der er udvikler hos Anthropic, »vi tror oprigtigt på, at AI kan dræbe alle mennesker!«. Han anslog selv sandsynligheden for at være højere end ti procent.

Kildefoto: Kim Kyung-Hoon, Scanpix

Det er sådan set ikke nyt. Jacob Coxons nu tidligere chef, Anthropic-direktøren Dario Amodei, har selv anslået sandsynligheden for at være helt op mod 25 procent. Geoffrey Hinton, der ofte kaldes AIs gudfar, siger 10-20 procent. Elon Musk ligger på 10-30 procent. Og man kunne blive ved. OpenAIs administrerende direktør, Sam Altman, er medunderskriver på et brev om, »at mindske risikoen for udryddelse som følge af kunstig intelligens bør være en global prioritet«. Det har længe været in blandt AI-frontløbere at anslå det, de omtaler som P(doom) – altså sandsynligheden (probability) for dommedag.

Men hvorfor satte Jacob Coxons opslag så pludselig ild til internettet?

Én forklaring er nok, at den dystre forudsigelse blev ledsaget af en opsigelse. Den slags personlige konsekvenser har det med at få situationen til at fremstå mere alvorlig.

Men så er der selvfølgelig også sket noget med teknologien de seneste måneder. »Der er et før og et efter Hugging Face,« som Ole Tange fra IT-fagets fagforening PROSA sagde til Weekendavisen forleden. Han henviste til de AI-agenter fra OpenAI, som udførte et autonomt hackerangreb på virksomheden Hugging Face tidligere på sommeren. Et hackerangreb, der for alvor illustrerede, at teknologien nu er så udviklet og selvstændig, at vi måske får svært ved at kontrollere den.

Intet mindre end 1.300 medarbejdere i forskellige AI-virksomheder har da også underskrevet et brev, der opfordrer den amerikanske regering til at »støtte en international indsats for at udvikle de tekniske og styringsmæssige værktøjer, der er nødvendige for bevidst at regulere tempoet i frontlinjen af automatiseret AI-udvikling«.

Spørgsmålet er, om der er tid nok? Og vilje?

Lige nu rider store dele af USAs økonomiske opsving på en bølge af AI, og det skaber politiske incitamenter til at skubbe til udviklingen for at holde gang i økonomien. Det gør konkurrencen mellem udbydere så stor, at udviklingen kræver, at den kunstige intelligens bliver bedre og bedre til at tænke selv. Uden mennesker. Fri for mennesker.

Og så er vi tilbage ved dommedagsbekymringerne, som langtfra kun gælder AI. Vi lever i en frygtsom og urolig tid, og den slags kalder på dystre scenarier. Sådan en hændelsesrække, der tager udgangspunkt i, hvad vi ved i dag – og forsøger at forklare, hvad der vil ske i morgen. Som den tyske professor Carlo Masalas bestseller Hvis Rusland vinder eller Annie Jacobsens Atomkrig – et scenarie. Det er en slags geopolitisk scenariedidaktik, der lærer os at tænke: »Hvad nu hvis ...«

Men hvad er det så helt præcis, de frygter i Silicon Valley?

Én mulighed er, at kunstig intelligens gør det lettere for ondsindede aktører at skabe eksempelvis biologiske eller kemiske våben og sprede dem i verden. En anden mulighed er, at en rogue kunstig intelligens angriber infrastruktur i et hidtil uset omfang eller udvikler vira og genskaber sig selv, hvis den bliver slukket. En tredje mulighed er, at en kunstig intelligens ved en fejl slår os alle ihjel.

Det er ren science fiction, og mulighederne for dommedag er uendelige. Alligevel fortsætter kapløbet i højere og højere tempo.