I 2021 fik forskere fra virksomheden Collaborations Pharmaceuticals en ubehagelig overraskelse. De havde bygget AI-modellen MegaSyn, der ud fra en database af kendte stoffer kunne komme med forslag til helt nye molekyler. Det var meningen, at modellen skulle bruges til at finde ny medicin, men pludselig gik det op for forskerne, at man ved at skrue på en enkelt parameter i modellen kunne få den til at designe skadelige molekyler i stedet. På den måde fandt de på få timer 40.000 stoffer, der var nogenlunde lige så giftige som den frygtede nervegas VX.

»Tanken havde slet ikke strejfet os,« forklarede forskerne i en kommentar.