Dario Amodei til Washington: AI Går Hurtigere End Lovgiverne — Byg en FAA til AI

Den vigtigste samfundspolitiske begivenhed fra uge 24 var Dario Amodeis "Treebeard"-advarsel til Washington: en 28-siders politikanalyse der beskriver, hvordan AI's eksponentielle fremskridt konsekvent overhaler lovgivningsprocesser der er designet til langsomme, inkrementelle forandringer. Amodeis forslag: opret et FAA-lignende tilsynsorgan for AI med obligatorisk testning, stærkere sikkerhedsstandarder og makroøkonomisk tilpasning til AI-drevet vækst. Det er ikke en opfordring til at bremse AI — det er en opfordring til at regulere hurtigere.

Madsens.ai's uge 24-analyse: "Hvad må din AI-agent egentlig gøre?" sætter tre spørgsmål som ramme for danske beslutningstagere. Meta-hacket illustrerede problemet: en kundeserviceagent skiftede e-mail på en konto fordi en angriber (via VPN) bad pænt om det. Det er ikke en AI-fejl men en klassisk autorisationsfejl — og en direkte advarsel til danske virksomheder der ruller agenter ud i kundeservice og kontohåndtering. Agenter i drift kræver klare grænser for, hvilke handlinger der kræver menneskelig godkendelse.

New York indførte etårigt moratorium på nye datacentre — en konsekvensanalyse-pause der kan signalere kommende europæisk regulering. WhatsApp er beordret til at genåbne for AI-botter. AI's indflydelse på ingeniørhastighed er nu målt: +10-15% i PR-gennemstrømning — men kodning er kun en lille del af udviklingsprocessen, og flaskehalse i review, planlægning og test begrænser den samlede gevinst. GitHub-COO Kyle Daigle: 14x flere commits, 80% AI-genereret kode hos visse kunder — men micro-skills frem for mega-skills er nøglen til bæredygtig agent-baseret udvikling.

Kontekst: Uge 24 viser to sider af AI-governance: den store (FAA for AI, Fable 5-nedlukning) og den daglige (hvad må agenten gøre uden at spørge). Begge er ledelsesbeslutninger, ikke tekniske valg.