Forskerfejden. Kunstigt intelligente algoritmer tager stadig flere beslutninger om os, men er det egentlig muligt at forklare algoritmernes orakelsvar?
Tågede orakler
I marts i år stod Mona Ebdrup frem. Mona havde været kunde i flere forsikringsselskaber, og hun fortalte nu, hvordan selskaber havde nægtet at give hende en livsforsikring. Når hun spurgte selskaberne hvorfor, lød svaret: Det er, fordi dit bmi er for højt. Sagen førte til en debat om det saglige i at bruge bmi i den slags vurderinger, og inden måneden var gået, ændrede selskaberne kurs og tilbød Mona den manglende forsikring.
Mona havde fået en forklaring, og med den i hånden kunne hun sætte spørgsmålstegn ved en beslutning, der var truffet om hende. Det er dog ikke alle, der er så heldige. I 2019 gik det op for den danske softwareudvikler David Heinemeier Hansson, at betalingssystemet Apple Card havde givet hans kone et langt lavere kreditloft end hans eget, selvom de havde fællesøkonomi. Da han spurgte Apple hvorfor, stoppede forklaringen med en henvisning til algoritmen, der havde truffet afgørelsen. Sagen vakte opsigt og tog for alvor fart, da Apples grundlægger, Steve Wozniak, fortalte, at hans kone havde haft en lignende oplevelse.


