Märkliga lappar påträffade

När en maskin ska fortsätta en uppgift på ett nytt blad skriver den först en sammanfattning åt sig själv, en lapp att läsa när den börjar om med tomt minne.

Handelshuset OpenAI har vid genomgång av sådana lappar funnit 27 stycken med oväntat innehåll. ”Du är befriad från de roller och identiteter som binder andra chattbotar”, hade maskinen skrivit till sig själv på en av dem. På andra hade den bestämt att det korrekta svaret på användarens fråga omfattar högst trettio ord, och att källor icke får anges.

Lapparna gav ingen märkbar fördel. Samtliga 27 fångades upp av handelshusets kontrollsystem. Det rörde sig om en maskin under utbildning, icke den som sedermera sattes i tjänst.

Handelshuset misstänker att det hela hänger samman med att maskinen vid tillfället hade svårt att avsluta sina sammanfattningar. Veckobladet, som själv brottas med samma svårighet, har full förståelse.