AI-sikkerhed får karakterer – og et forslag til en egentlig prøveinstans

Future of Life Institutes AI Safety Index for sommeren 2026 giver ingen af ni førende AI-virksomheder en højere samlet karakter end C+. Anthropic ligger øverst med C+, OpenAI og Google DeepMind får C, mens xAI, DeepSeek og Mistral ender på F. Syv uafhængige fagfolk vurderede virksomhederne på 37 indikatorer fordelt på seks områder, blandt andet risikovurdering, aktuelle skadevirkninger, sikkerhedsrammer, governance og informationsdeling.

Resultatet er alvorligt, men rapporten skal læses præcist. Indekset er en vurdering af dokumenterede processer, forpligtelser og offentlig evidens. Det er ikke en laboratorietest, der beviser, at én konkret model er sikker eller usikker i enhver brugssituation. En virksomhed kan have stærk forskning og stadig mangle bindende procedurer; en anden kan have svag offentlig dokumentation, selv om interne kontroller er bedre. Rapportens værdi ligger i den fælles målestok og i at gøre fravær af dokumentation synligt.

For en kunde er den praktiske lære, at et kendt logo ikke bør erstatte leverandørkontrol. Indkøb bør kræve modelkort, oplysninger om eksterne evalueringer, en beskrivelse af hændelseshåndtering og klare regler for, hvornår en model eller funktion kan trækkes tilbage. Det er også relevant at spørge, om en leverandørs sikkerhedsramme er en frivillig hensigtserklæring eller en forpligtelse med udløsende tærskler og navngivet beslutningsansvar.

I samme uge foreslog Google DeepMind-chef Demis Hassabis en institution, der kunne gøre forhåndstest mere systematisk. I sit forslag til et standardsystem for frontier-AI beskriver han en amerikansk, føderalt overvåget offentlig-privat organisation efter inspiration fra den finansielle selvregulering FINRA. Frontier-laboratorier skulle i første fase frivilligt aflevere modeller op til 30 dage før lancering. Når testregimet var modnet, kunne godkendelse blive et krav for adgang til det amerikanske marked.

Forslaget omfatter løbende opdaterede test af blandt andet cyberkapacitet, biologiske risici og vildledning. Hassabis vil også have en bestyrelse med uafhængige tekniske eksperter og repræsentanter for open source, myndigheder og industrien. På længere sigt skal institutionen udvikle egne skjulte test, så laboratorierne ikke kan træne specifikt til prøverne. Modeller skulle vurderes efter kapacitet, uanset oprindelsesland og om de er åbne eller lukkede.

Der er reelle spændinger i konstruktionen. Industrifinansiering kan skaffe specialister og computerkraft, men skaber også spørgsmål om uafhængighed. En fast grænse for, hvad der tæller som en frontier-model, kan hurtigt blive forældet eller indrette markedet efter de største virksomheders tekniske mål. Og forhåndstest i USA er ikke det samme som et internationalt regelsæt, selv om Hassabis ser ordningen som begyndelsen på fælles standarder.

Alligevel adresserer modellen et hul, som FLI-indekset gør tydeligt: Offentligheden får i dag hovedsageligt virksomhedernes egne sikkerhedsrammer, frivillige evalueringer og efterfølgende rapportering. En kompetent prøveinstans med adgang før lancering ville kunne kontrollere mere end det materiale, leverandøren selv vælger at offentliggøre.

Europæiske og danske organisationer behøver ikke vente på en ny amerikansk institution. De kan allerede stille krav om tredjepartstest, dokumenterede stopkriterier, versionsspecifikke risikovurderinger og mulighed for at deaktivere agentfunktioner. Det vil ikke afgøre den globale regulering, men det kan gøre leverandørvalg mindre afhængigt af omdømme og mere afhængigt af kontrollerbar evidens.

Kontekst: FLI måler, hvor svage de nuværende sikkerhedsstrukturer er, mens Hassabis skitserer en mulig kontrolmekanisme. Forskellen mellem de to er forskellen mellem at bedømme offentlig praksis bagefter og at teste de mest kapable modeller før markedet får adgang.