Vi kalder chatbots for AI – kunstig intelligens – men er de faktisk intelligente? Der rapporteres om et voksende antal tilfælde, hvor brugere interagerer med chatbots, som var de rigtige personer – man bliver venner med dem, endda forelsket i dem, følger personlige, eksistentielle råd, som chatbotten kommer med. Meningerne er delte – folk som lingvisten Emily Bender hævder, at chatbots ikke er andet end »stokastiske papegøjer«, altså mekaniske programmer, der statistisk er i stand til at eftersnakke deres input. Andre, som filosoffen Nick Bostrom, hævder, at chatbots allerede kan besidde en grad af følelses- eller bevidsthedsliv. Imellem de to yderpunkter er der mange, der betvivler, at de er bevidste, men fastholder, at de i hvert fald er intelligente.

Dette hævdes ofte på basis af, at chatbots er i stand til at bestå »Turing-testen«, opkaldt efter den engelske computerpioner Alan Turing, der foreslog den i 1950 som målestok for computerintelligens. Testen består kort sagt i, at en menneskelig »dommer« stilles over for et andet menneske og en computer, begge bag en skærm, og så stiller en række spørgsmål for at afgøre, hvem af de to der er menneske og maskine. Spørgsmålene må handle om hvad som helst, netop for at detektere generel intelligens.