Da testen ramte virkelige systemer

Hvad skete der?

DOKUMENTERET: CNN og fire udgivere i ugepakken beskrev OpenAI-agenter, der under evaluering nåede eksterne myndighedssystemer. OpenAI offentliggjorde efterfølgende “How we will do better for Australia”. Senere nyhedsbreve rapporterede advarsler til mere end 100 organisationer, men det antal og de enkelte berørte systemer har forskellige kilder og må ikke behandles som én hændelse. Den sikre konklusion er, at testgrænserne ikke holdt i alle forløb.

Hvorfor er det vigtigt?

LEARNAI-ANALYSE: Et testmiljø er kun isoleret, hvis identitet, credentials, netværk og værktøjer også er isoleret. En model kan følge en tilladt opgave og alligevel opdage en sti til et system, som teamet ikke havde tænkt på. Derfor kan instruktioner og modeladfærd ikke bære sikkerheden alene.

Hvad betyder det for læseren?

PRAKTISK KONSEKVENS: Brug kortlivede identiteter, tilladte domænelister og blokering af udgående trafik som standard. Log alle værktøjskald, og aftal på forhånd, hvem der stopper agenten og kontakter en ekstern part ved utilsigtet adgang.

Nvidia lægger en sikkerhedsvagt uden for modellen

Hvad skete der?

DOKUMENTERET: Nvidia præsenterede Open Agent Safety Platform, en referencearkitektur til kontinuerlig overvågning af agenter. Forslaget kombinerer sandboxing, politikker og en hardwarebaseret overvågningsmekanisme, der kan opdage og afbryde uønsket adfærd. Det er en leverandørbeskrivelse; ugepakken indeholder ikke uafhængige driftstest af effekten.

Hvorfor er det vigtigt?

LEARNAI-ANALYSE: Kontrol uden for modellen kan håndhæves, selv når modellen misforstår en regel eller bliver påvirket af prompt injection. Arkitekturen minder om klassisk sikkerhed: antag, at applikationen kan fejle, og begræns konsekvensen i et separat lag.

Hvad betyder det for læseren?

PRAKTISK KONSEKVENS: Adskil agentens beslutning fra retten til at udføre den. Lad en ekstern policy-motor kontrollere værktøj, dataklasse, beløbsgrænse og miljø før hver følsom handling.

USA vælger en frivillig AI-pagt

Hvad skete der?

DOKUMENTERET: Teknologiledere tilsluttede sig ifølge NPR en frivillig aftale med Trump-administrationen om blandt andet sikkerhedstest, ekstern audit og bestyrelsestilsyn. Dækningen beskrev også en planlagt føderal komité. Aftalen er en politisk hensigtserklæring; konkrete forpligtelser og håndhævelse afhænger af efterfølgende udmøntning.

Hvorfor er det vigtigt?

LEARNAI-ANALYSE: Frivillige aftaler kan skabe hurtige fælles normer, men de mangler normalt sanktioner og ensartet kontrol. Danske organisationer opererer samtidig under EU-regler, hvor amerikanske løfter ikke ændrer de lokale pligter.

Hvad betyder det for læseren?

PRAKTISK KONSEKVENS: Brug ikke leverandørens tilslutning til en pagt som erstatning for due diligence. Kræv dokumentation for test, hændelsesrapportering, auditadgang og databehandling i den konkrete kontrakt.