Forskning på automatpilot

I juli i år forklarede biologen Roy Kishony fra Israel Institute of Technology til Nature, at han sammen med en studerende havde udviklet et stykke software, der kan få ChatGPT til at skrive en videnskabelig artikel fra bunden. Systemet skal blot fodres med et datasæt, så laver det selv statistisk analyse og skriver den fulde tekst fra indledning til konklusion. I en test genererede systemet i løbet af en frokostpause en ni sider lang artikel om sammenhængen mellem kost og diabetes. Artiklen var, i Kishonys øjne, ikke perfekt, men dog solid.

I starten af november gik tre italienske læger skridtet videre. I tidsskriftet JAMA Ophthalmology publicerede de et datasæt, der viste, at en måde at behandle en øjensygdom med statistisk signifikans er bedre end en anden. Data stammede dog ikke fra ægte patienter. De var en konstruktion, forskerne havde skabt med GPT-4, og formålet med artiklen var at illustrere, hvor let det er at lave overbevisende, men fiktive datasæt med kunstig intelligens. Lægerne skulle blot sætte de overordnede rammer og vupti, så genererede GPT-4 et datasæt, der så ud, som om det stammede fra 300 patienter.