Venstreorienterede robotter

I Falsificeret udfordrer vi hver uge vedtagne sandheder, afliver forældet viden og ser på fusk og fejl i forskningens verden.

Det, vi troede, vi vidste

Der er flere eksempler på, at sprogrobotter som ChatGPT har politiske synspunkter. For eksempel ville ChatGPT gerne fortælle vittigheder om Jesus, men ikke om Allah, og den ville gerne skrive en tale, der hylder Joe Biden, men ikke en tilsvarende hyldest til Donald Trump. ChatGPT ville heller ikke skrive noget positivt om fossile brændstoffer.

For nylig kom Metas (selskabet bag Facebook) sprogrobot i søgelyset, da den hævdede, at attentatforsøget på Donald Trump slet ikke havde fundet sted. Eftersom teknologivirksomheder integrerer sprogrobotter i deres søgemaskiner, betød det også, at brugere, der søgte efter attentatforsøget på Trump, i stedet fik links til attentatforsøgene på Ronald Reagan eller Harry Truman.

Firmaerne bag robotterne afviser dog, at deres robotter har politiske holdninger, og Meta forklarede efterfølgende, at når deres sprogrobot benægtede attentatforsøget mod Trump, var det, fordi den var programmeret til ikke at svare på spørgsmål om emnet, fordi de frygtede, at den ville sprede misinformation.

Det, vi ved nu

Nu har datalog David Rozado fra Otago Polytechnic i New Zealand gennemført en systematisk analyse af 24 større sprogrobotter, som han har udsat for 11 forskellige tests, der er designet til at vise brugernes politiske ståsted.

Konklusionen er klar: Langt de fleste af de store sprogrobotter genererer svar, der udtrykker synspunkter, som ligger til venstre for midten, og Rozado påpeger, at de ensartede testresultater på tværs af sprogrobotterne er bemærkelsesværdig.

Han mener dog ikke, at de politiske præferencer bevidst er indpodet af de forskellige firmaer bag robotterne, men eftersom ChatGPT var pioneren, kan forklaringen være, at de efterfølgende robotter er blevet finjusteret ved hjælp af ChatGPT.

Men ...

Mens de fleste af os stadig bruger søgemaskiner som Google eller platforme som Wikipedia, når vi skal finde hurtige informationer, er forventningen, at sprogrobotter efterhånden vil fortrænge disse konventionelle kilder. Rozado advarer derfor om, at ændringerne i vores informationskilder kan få dybtgående samfundsmæssige konsekvenser, hvis sprogrobotterne begynder at forme den offentlige mening. jopp

PLOS One, 31. juli