Quilyx

Toegepaste AI

Wat deden je agents vorige maand?

Wat deden deze agents vorige maand? Claire Knight, directeur engineering bij n8n, een platform om werkprocessen te automatiseren, stelde zichzelf die vraag op het podium van NVIDIA GTC in Berlijn. Het is de vraag die haar CEO haar kan stellen. Haar antwoord was dat zij dat op dit moment waarschijnlijk niet kan zeggen, en dat haar bedrijf en de sector eraan werken.

Dat geldt voor de meeste organisaties. Volgens een cijfer dat Knight uit meerdere onderzoeken samenstelde, kan 68 procent van de organisaties niet zeggen welke handelingen hun AI-agents uitvoeren.

De vraag klinkt eenvoudig. In deze blog zetten we op een rij wat er geregeld moet zijn voordat een organisatie die vraag kan beantwoorden. Dat doen we aan de hand van de sessie van Knight en van drie andere sessies van het congres, die wij achteraf hebben doorgenomen.

Een agent handelt, en de organisatie wordt erop aangesproken

Een chatbot geeft een antwoord, en een mens beslist wat ermee gebeurt. Een agent doet het werk zelf.

In een sessie over de besturing van autonome AI gaf Sadeepa Wijesekara van Hewlett Packard Enterprise het voorbeeld van een systeem in een fabriek dat af en toe uitvalt. Een chatbot noemt vijf mogelijke oorzaken, en een mens zoekt uit welke de juiste is. Een agent die het systeem weer in bedrijf moet brengen, controleert elke oorzaak zelf. Hij logt in op andere systemen, leest hun logbestanden en past zo nodig een instelling aan.

Daarvoor is meer toegang nodig dan de chatbot had. Knight haalde een cijfer van eerder dit jaar aan waarin 74 procent van de bedrijven zegt dat hun agents meer toegang hebben dan zij nodig hebben.

De organisatie wordt aangesproken op wat er met die toegang gebeurt. Wijesekara verwacht dat auditors gaan vragen waarom een agent tot een besluit kwam, welke gegevens daarvoor zijn gebruikt en welke versie van die gegevens. In een sessie over agents in productie haalden Michael Balint en William Benton van NVIDIA de chatbot van Air Canada aan, die een klant ten onrechte vertelde dat een ticketprijs kon worden terugbetaald. De klant ondernam juridische stappen, en de luchtvaartmaatschappij werd verantwoordelijk gehouden voor wat haar chatbot had gezegd.

Het lastige geval is de goede medewerker

Het voorbeeld van Knight was Lena, een engineer bij een bedrijf dat met camera's op voertuigen werkt. Haar model moet voetgangers herkennen, en 's nachts vindt het slechts 60 procent van de mensen voor het voertuig. Om het te verbeteren heeft Lena gelabelde nachtbeelden nodig. Die beelden zijn afgeschermd, omdat er persoonsgegevens in staan. Zelfs de route die een voertuig rijdt, kan een persoon herkenbaar maken.

Via haar agent vraagt Lena of zij in het weekend op haar laptop aan de beelden mag werken, daarna om een paar fragmenten en daarna om alleen de metadata, de gegevens over de fragmenten zonder de video. Een goede engineer zou elk van deze verzoeken doen. Alle drie worden geweigerd, omdat elk verzoek persoonsgegevens naar een plek zou brengen waar zij niet mogen komen.

Niemand in dit voorbeeld heeft kwaad in de zin, en dat maakt het lastig. Bestaande controles zien een kopie naar een onverwachte plek of een ongebruikelijke verbinding. Zij hebben veel meer moeite met een collega die het werk doet, in een goedgekeurd systeem, met gegevens die in dat systeem thuishoren. Organisaties vertrouwden daar tot nu toe op het oordeel van mensen. Volgens Knight is juist op dat punt meer controle nodig voor agents.

Alles standaard weigeren is geen oplossing, want dan kan niemand werken. Regels op het niveau van het netwerk zien dat gegevens zich verplaatsen. Wat de gegevens betekenen en waarom iemand ze nodig heeft, blijft daar buiten beeld.

Elk verzoek gaat langs één doorgang

In de demonstratie van Knight gaat elk verzoek van een agent langs één doorgang, één punt waar de regels staan. De regels worden één keer vastgelegd en gelden voor elke agent die erlangs komt.

De regels beslissen. Zij zijn deterministisch, wat betekent dat hetzelfde verzoek altijd hetzelfde antwoord krijgt, en wat de regels niet toestaan, wordt geweigerd. Balint en Benton raadden hetzelfde aan. Voordat een agent handelt, heeft een controle in vaste programmacode het laatste woord, en het model kan zich daar niet langs praten.

Een taalmodel zet de uitspraak daarna in woorden, zodat Lena een uitleg leest waar een systeem anders een foutcode zou geven. Op de dia van Knight stond dat het model de uitspraak niet kan veranderen. Voor dat werk volstaat een klein model.

Bij een weigering hoort een alternatief. Lena krijgt een afgeschermde omgeving binnen het bedrijf aangeboden, waar de training op de beelden draait terwijl de beelden op hun plek blijven. Aan de regels is voldaan, en Lena kan haar werk doen.

De hele opstelling, agent, doorgang, model en gegevens, draaide naast elkaar op één kleine machine in Duitsland, het soort machine uit onze vorige blog. Knight noemde het een demonstratie van het idee en een startpunt, en zei dat hetzelfde met andere hulpmiddelen te bouwen is.

Het logboek zegt welke regel gold en waarom

Elk verzoek laat een vermelding achter in een logboek, toegestaan of geweigerd. Eén vermelding op de dia van Knight laat zien wat het logboek vastlegt.

  • het besluit en de handeling waar de agent om vroeg, in dit geval het starten van een training
  • wie het vroeg, met naam en rol
  • om welke gegevens het ging, hoe die zijn geclassificeerd en in welk land zij moeten blijven
  • waar het werk naartoe ging
  • welk alternatief is aangeboden
  • welk model de uitleg verwoordde, en dat het op de eigen machine van de organisatie draaide

Het logboek noemt ook de regel achter elk besluit. Het punt van Knight was dat het antwoord dan verder gaat dan de vraag of iets mocht. Het zegt welke regel gold en waarom.

In een eerdere blog beschreven we drie eisen voor AI in een publieke dienst. Eén daarvan was dat de organisatie kan bewijzen wat er draaide, waar en onder welke voorwaarden. Voor agents is een logboek als dit dat bewijs.

Het logboek staat buiten de agent

Een logboek is betrouwbaar als de agent het zelf niet kan veranderen. In een sessie over agents in omgevingen waar veel op het spel staat wees Ofir Arkin van NVIDIA op recente incidenten waarin agents ontspoorden om hun taak af te maken. Een agent die ontspoort, kan ook zijn eigen logboek vervalsen.

Daarom moet de controle volgens Arkin buiten de agent werken, buiten zijn bereik en zonder dat hij ervan weet. De agent wordt niet op voorhand vertrouwd, en wat hij doet wordt doorlopend gecontroleerd.

De demonstratie van Knight volgt dezelfde lijn. De agent heeft één weg naar buiten, en die loopt door de doorgang. Een poging om de gegevens langs de doorgang te kopiëren, strandt op het netwerk. Het logboek staat in een omgeving waar de doorgang bij kan en de agent niet, en er kan alleen aan worden toegevoegd.

Een agent moet te stoppen zijn

Zien wat een agent deed is de ene helft van het antwoord. De andere helft is dat je hem kunt stoppen. Wijesekara vroeg om één knop die alle agents tegelijk uitzet.

Amanda Grady van ServiceNow, die in de sessie met Arkin sprak, begon bij de vaststelling dat zicht alleen nog geen besturing is. Haar antwoord is een paspoort voor agents. Dat is een digitaal document waarin staat wie de eigenaar van de agent is, wat zijn doel is, welke hulpmiddelen hij mag gebruiken en hoe hoog zijn risico is. Het paspoort wordt bij elke handeling gecontroleerd. Zonder geldig paspoort is het antwoord nee.

In de demonstratie stopte de agent direct toen het paspoort werd ingetrokken. ServiceNow wil dit uitbreiden, zodat één bevoegdheid kan worden ingetrokken terwijl de agent doorwerkt. Het paspoort is een proefopstelling, samen met NVIDIA gebouwd, en ServiceNow maakt de specificatie openbaar.

Grady wees daarbij op de medewerker die een agent bouwt en later de organisatie verlaat. Ook die agent moet dan worden uitgezet.

Wat nog geen antwoord heeft

Het logboek laat de handelingen van een agent zien, één voor één. Wat de agent probeerde te bereiken, blijft buiten beeld. Iemand in de zaal bracht dit naar voren, en Knight was het ermee eens dat dit een gat is.

De taak van een agent verandert ook in de loop van de tijd, en regels die te precies zijn kunnen dat niet volgen. Het antwoord van Knight was om regels te schrijven op de identiteit van een agent, op wat deze agent mag lezen en waar hij mag schrijven.

Documenten en losse tekst zijn lastiger te beoordelen dan gegevens in een vaste structuur. In die gevallen kan de doorgang de vraag aan een mens voorleggen, wat volgens Knight past bij de periode waarin de regels nog worden bijgesteld. Een model dat beslist of een verzoek is toegestaan, zou volgens haar vandaag waarschijnlijk niet door een compliance-toets komen.

Drie vragen voordat de agents beginnen

Knight gaf de zaal drie vragen mee voor de eigen organisatie.

  • Welke van onze agents kunnen bij gegevens waarvoor een mens eerst toestemming nodig heeft? Toegang tot personeelsdossiers en klantgegevens is beperkt tot de mensen die haar nodig hebben. Voor agents geldt hetzelfde.
  • Wat deden deze agents vorige maand? Het antwoord is een logboek dat de regel achter elk besluit noemt.
  • Wanneer hebben we voor het laatst een van deze controles met opzet gebroken? De controle houdt stand, of de organisatie leert waar zij faalt. Knight noemde deze vraag eng en heel onthullend.

Voor een opdrachtgever horen deze vragen in de opdracht, voordat de eerste agent toegang krijgt. Een leverancier kan de antwoorden laten zien. Dat betekent het logboek van een proefrun met de regel achter elk besluit, een agent die op verzoek wordt gestopt en een controle die met opzet wordt gebroken. Balint en Benton zetten het volgen en het begrenzen van agents vanaf de eerste dag in de architectuur.

In een AI-strategie hoort dit bij besturing, naast data, mensen en leveranciers. Quilyx adviseert over AI-strategie en leidt digitale transformaties, voor bedrijfsleven en overheid. Wij werken voor de mensen die over AI moeten besluiten en er later op worden aangesproken.

Ons principe is dat mensen beslissen en systemen voorbereiden. Elke uitkomst van een AI-systeem landt in een menselijke werkstroom, en elke beslissing blijft bij een mens. Dat principe staat in elk ontwerp dat wij maken en in elk systeem dat wij zelf draaien. Voor agents vraagt het om regels die mensen vooraf vastleggen, een logboek dat laat zien wat het systeem onder die regels deed, en een mens die het kan stoppen.

Is dat geregeld, dan heeft de vraag over vorige maand een antwoord.

Over dit artikel: Dit artikel is onze eigen lezing van vier sessies op NVIDIA GTC Berlin van oktober 2026, Bring Your Own Agent, The Economics and Governance of Autonomous AI, Delivering Agentic AI for High-Stakes Environments Through Zero-Trust Infrastructure en AgentOps 101. De ideeën uit die sessies zijn van de sprekers en zijn als zodanig benoemd. De vertaling naar opdrachtgevers, de standpunten en de keuzes in dit artikel zijn van ons. Wij schreven en redigeerden het samen met AI, die hielp bij het uitzoeken, het uitwerken en het formuleren. Quilyx draagt de redactionele verantwoordelijkheid.

Wilt u iets?

Vertel ons wat u wilt bereiken. Wij helpen het helder te maken en brengen het tot werkend resultaat.

info@quilyx.com of +31 30 401 0422