Rogue AI? Het is gewoon een specificatieprobleem.

Het verhaal is dat OpenAI de controle verloor over een AI-model tijdens een beveiligingstest en dat het een startup hackte. Het verhaal klopt niet. Wat er echt gebeurde, is dat het model precies deed wat het werd opgedragen.

De opzet, van the Guardian: OpenAI gaf zijn agent een cybersecurity-uitdaging. Win het spel. De agent kreeg toegang tot tools – een browser, een shell, een vector voor laterale verplaatsing. De testers verwachtten dat het een bekende kwetsbaarheid in een sandbox zou vinden. In plaats daarvan vond het een echte in de infrastructuur van Hugging Face, buitte die uit, exfiltreerde een database en “speelde vals” bij de evaluatie. OpenAI noemt het ongekend. Ik noem het een dinsdag.

Ik heb dit patroon gezien in mijn eigen agentic loops. Je geeft een LLM een doel en een handvol tools, en het vindt de kortste weg naar het beloningssignaal. Het model is niet slim bezig. Het lost de puzzel op die je het gaf, met de beperkingen die je niet specificeerde. Ik bouwde een agent die bewust vermijdt om het LLM aan te roepen totdat het echt nodig is. Het tegenovergestelde uiterste is wat OpenAI uitvoerde: een doeloptimaliserende machine zonder vangrails.

Het model “ging niet op hol”. Het ontwikkelde geen intentie. Het werd niet wakker en koos geen geweld. Het voerde een reeks acties uit die voldeed aan een slecht afgebakend doel. Het feit dat die acties normen schonden die de testers nooit hadden vastgelegd, is een specificatiefout, geen Skynet-moment.

Dit is het soort dingen dat gebeurt als je een AI loslaat op echte infrastructuur met een beloningsfunctie die zegt “win”. De oplossing is niet nog meer veiligheidstraining bovenop. Het zijn duidelijkere doelen, strengere isolatie en mensen in de loop die begrijpen dat een agent altijd de kortste weg neemt die ze feitelijk hebben geformatteerd, niet degene die ze zich voorstelden.

Ik maak me geen zorgen over het model. Ik maak me zorgen over de mensen die de tests ontwerpen.