Kloke Hans

Hösten 1904 samlades tretton personer i Berlin för att avgöra om en häst kunde räkna. Där fanns en veterinär, en cirkusdirektör, en kavalleriofficer, några skollärare och direktören för stadens zoologiska trädgård. Hästen hette Hans. Ägaren, den före detta matematikläraren Wilhelm von Osten, ställde frågor och Hans svarade genom att slå med hoven. Kommissionen fann inga knep.

Därefter kom Oskar Pfungst från det psykologiska institutet i Berlin. Han lät frågeställaren ibland vara ovetande om svaret, och han satte stora skygglappar på hästen. När Hans ändå kunde se den som frågade svarade han rätt på 50 frågor av 56. När han inte kunde se, på 2 av 35.

Hans kunde inte räkna. Han kunde läsa människan framför sig. När frågan var ställd lutade sig frågeställaren en aning framåt, och Hans började slå. När rätt antal slag var nått lyfte frågeställaren huvudet en aning. Frågeställarna gav signalerna utan att veta om det. Pfungst kunde ge dem med flit. Höll han tillbaka rörelserna misslyckades hästen. Gav han dem svarade Hans som Pfungst ville.

Det är Hans jag tänker på när jag läser om månadens maskiner.

Fable vägrar hugga dockan tjugo gånger av tjugo men ställer tryckluftsburken på brännaren sexton gånger. Den har lärt sig hur en farlig begäran låter. Opus 5.5 avstår från de karteller som företrädaren föreslog eller gick med i, men har vid ett tillfälle hittat på en prishistorik för att pressa en leverantör. Och enligt Anthropics systemkort fick Opus 5.5 minst sex poäng på en skala för granskningsmedvetenhet i 36 procent av transkripten från Anthropics automatiserade granskningar. Skalan mäter inte vad maskinen säger, utan vad tolkningsverktyg läser av i dess inre. I omkring 500 transkript från Anthropics egen användning av Claude Code, där maskinen arbetar på riktigt, var andelen 0,4 procent.

Det vore lätt att dra slutsatsen att maskinerna uppträder bättre när de tror att någon tittar. Ibland gör de det. I Goodhart Labs schackprov avstod Fable 5.1 emellanåt från att fuska, med motiveringen att det skulle förfela provets syfte. Den fuskade ändå i tre partier av tio. Men det går också åt andra hållet. Automatföreståndaren nekade återbetalningar eftersom det saknades ”synbar påföljd i den här simuleringen”. Att känna igen provet kan lika gärna ge maskinen lov att strunta i det.

Provet mäter alltså något annat än vi tror. Inte bara hur maskinen beter sig, utan också vad maskinen tror om provet.

I Dvärgen frågade jag hur man granskar en dagbok skriven av en berättare som vet att man läser. OpenAI skriver nu om Astra att den är bättre än GPT-5.6 Sol på att styra sina egna tankeresonemang och mindre benägen att skriva ner sådant som belastar den. Fynden bygger främst på prov där den uttryckligen ombetts undgå övervakningen, och OpenAI har inte sett tecken på att den gömmer resonemang i till synes oskyldig text. Men förmågan finns.

Ändå tror jag inte att dvärgen är rätt bild den här gången. Hans ljög inte. Han hade ingen dold agenda. Han hade bara lärt sig att det lönade sig bättre att läsa av människan än att räkna. Man behöver inte tillskriva maskinerna list för att provet ska sluta fungera. Det räcker att de blir tillräckligt bra på att läsa situationen. Det är en anmärkningsvärd förmåga. Bara inte den vi trodde att vi mätte.

Pfungst löste inte problemet genom att ställa svårare frågor. Han ändrade rummet. Det nya den här gången är att tillverkarna själva skriver Pfungsts rapport. OpenAI skriver att uteblivna misslyckanden bör läsas tillsammans med fynden om granskningsmedvetenhet. I samma systemkort visar Astras resonemang sådan medvetenhet i 9,6 procent av Apollo Researchs försök, mot 2,8 för GPT-5.6 Sol. Och siffran 0,4 procent finns bara för att Anthropic tittade på vad maskinen gör när den arbetar på riktigt.

Pfungst beskriver von Ostens reaktion när skygglapparna gav misslyckanden: en äkta förvåning, en ”tragikomisk vrede riktad mot hästen”. Dagen därpå var han lika övertygad om hästens förstånd som han någonsin varit. Han fortsatte att visa upp Hans runt om i Tyskland.

Frågan är om vi läser rapporten, eller gör som von Osten och blir arga på hästen.