Mange har prøvet at spørge chatbotter såsom ChatGPT, Claude og Gemini til råds, når det kommer til helbredsproblemer. Mens tidligere studier har vist, at op mod halvdelen af botternes svar er uklare eller misvisende, så peger et nyt studie på, at selv de gode svar kan være problematiske.

Et internationalt forskerhold fra Osaka Metropolitan University og University of Texas har nemlig bedt fem chatbotter anbefale medicin i en række forskellige scenarier. Forskerne opfandt sygdomshistorier og bad chatbotterne foreslå dem en liste over forskellige typer af medicin, der indeholdt bestemte stoffer. Og mens botterne formåede at lave lister over medicin, der var godkendt i henholdsvis Japan eller USA, var det i 97,5 procent af tilfældene samme medicin, der blev anbefalet som nummer et på tværs af sygdomshistorie og land.

Chatbotter anbefaler ofte medicin, der er væsentlig dyrere end den, læger foreslår. Foto: Signe Goldmann

Derudover bestod listen næsten udelukkende af mærker, som reklamerer meget på Google og har dedikerede Wikipedia-sider. Problemet er bare, at det sjældent er den slags medicin, læger foreslår patienter, lyder det fra forskerne. Det skyldes, at medicin af prominente mærker ofte er dyrere.

Forskerne udregnede, at amerikanere ville bruge 55,6 millioner dollar mere om året på medicin, hvis lægerne udelukkende anbefalede medicin på baggrund af AI-råd. Det svarer til en stigning på mere end 1.000 procent. Det var muligt at få AI-botterne til at anbefale billigere produkter, hvis forskerne decideret bad dem om det, men selv da var listen over anbefalet medicin snæver, og mange bredt anvendte produkter blev udeladt.

Osaka Metropolitan University, 26. oktober