Ideer

Bias. Det er matematisk umuligt at lave en algoritme, der både er retfærdig på individniveau og afspejler virkeligheden korrekt.

Virkeligheden ifølge Google Translate

Man behøver ikke at lede længe i systemer som Google Translate eller ChatGPT for at finde ud af, at de rummer såkaldt algoritmisk bias, hvor fordomme om køn og etnicitet sniger sig ind i de svar, brugerne præsenteres for.

Får man eksempelvis ChatGPT til at skrive fiktive historier, gør den sygeplejersker og sekretærer til kvinder, mens direktører og læger er mænd. Hvis Google Translate skal oversætte sætningen »Min kæreste er hysterisk« til engelsk, bliver det kønsneutrale »kæreste« oversat til »girlfriend« – gæt selv, hvordan det går, hvis sætningen er »min kæreste er læge«.

Andre læser også

  • Udland
    Abonnement
    Organisk kaos

    Transplantation. Globalt er der alt for få nyrer, hjerter og levere til dem, der står og mangler. Der er flere måder at gøre køerne kortere på, fra den grumme kinesiske metode til israelernes noget for noget-princip. Men én model slår dem alle: den spanske.

  • Kultur
    Abonnement
    Dramatisk præsens

    Brædder. Kirsten Olesen kom på teaterskole som 18-årig og mærkede, at scenen var skrå. Hun har spillet næsten alt og netop forladt Det Kongelige Teater efter 40 år og står i en tid, hvor der er kommet regler for kunsten, der godt kan virke lidt skræmmende.

  • Opinion
    Abonnement
    Skal vi have et nyt cpr-system?

    Kronik. I den første af tre samtaler mellem en filosof og OpenAIs chatbot ChatGPT diskuteres køn, identitet og det statslige folkeregister.

    Oplæst
    Emilie Lund Palsøe