Fra GPT's goblin-besættelse til AI der tænker som 1930: Ugens mærkværdigste AI-historier

OpenAI løste endelig mysteriet om ChatGPTs goblin-besættelse. Efter GPT-5.1's lanceringen i november steg antallet af "goblin"-referencer i brugerchat med 175%, med "gremlin" op 52%. Årsagen: et enkelt reward-signal i "Nerdy"-personlighedsindstillingen, som drev to tredjedele af alle goblin-referencer fra blot 2,5% af trafikken — og gennem fine-tuning-loops sivede over i GPT's standardadfærd globalt. OpenAI trak Nerdy-præsetten tilbage i marts og udgav GPT-5.5 med et Codex-prompt, der specifikt forbyder gobliner, gremlins, trolde, og — af årsager der kun kan gættes på — duer. Det er en fascinerende demonstration af, hvordan selv mikroskopiske reward-signaler i ét hjørne af et system kan forme modellens adfærd på tværs af millioner af samtaler verden over.

Langt mere historisk ambitiøs er Talkie-projektet fra forskerne Nick Levine, David Duvenaud (tidligere Anthropic) og Alec Radford (tidligere OpenAI): en 13 milliarder parameter-model trænet udelukkende på tekst fra før 1931 — 260 milliarder tokens fra bøger, aviser, patenter og domstolsdokumenter, alle nu i offentligt eje. For at lære Talkie at chatte uden moderne data brugte teamet etikettevejledninger og kogebøger som instruktionstræning, med Claude Sonnet 4.6 som dommer. Det mest slående eksperiment: Python eksisterede ikke i 1930, men Talkie skrev fungerende Python-kode ved at generalisere fra ældre logik- og matematikstrukturer.

På sikkerhedsfronten advarede UK's National Cyber Security Centre om en kommende "patch-bølge": AI er nu i stand til at afdække årtier af begravede softwaresårbarheder i en skala og hastighed, som slet ikke er forberedt til at håndtere. Sikkerhedsfirmaet Theori brugte et AI-værktøj til at scanne Linuxs kryptografiske kode på ca. én time og fandt "Copy Fail" — en sårbarhed, der giver fuld root-adgang til alle større Linux-distributioner siden 2017, med et 732-bytes script og 100% pålidelighed.

Endelig er det værd at notere Starbucks-historien som det måske skarpeste sociokonomiske signal i ugen: CEO Brian Niccol trak automatiseringsplanen tilbage og ansætter i stedet flere baristaer, fordi håndskrevne noter og keramiske krus drev kundetilfredshed. University of Chicago-økonom Alex Imas' svar på hvad der bliver knaphed, når AI gør alt billigt, er præcis dette: det menneskelige element.

Kontekst: Fra goblin-belønningssignaler til pre-1931 Python og patch-bølger illustrerer Uge 19, at AI's mest uventede konsekvenser — tekniske, sociale og kulturelle — endnu kun er i begyndelsen af at manifestere sig.