Quilyx

Digitale soevereiniteit

Controle is een toelatingseis. Wat drie overheden laten zien over AI in publieke diensten

Als een overheid AI in een publieke dienst zet, komt controle eerst. Wat het model kan, komt daarna.

Dat was het openingspunt van een sessie over AI voor belastingen, werk en zorg op NVIDIA GTC in Berlijn. Eva-Maria Hempe, die bij NVIDIA de strategie voor de publieke sector in Europa leidt, noemde controle een toelatingseis. Een model moet eerst aan die eis voldoen. Pas daarna kijkt iemand naar wat het kan.

In deze blog kijken we naar wat die eis inhoudt, hoe drie overheden er langs drie verschillende routes aan voldeden en wat dit vraagt van een opdrachtgever die AI in productie wil hebben.

Wat een toelatingseis is

Een toelatingseis is een eis die als eerste wordt getoetst. Een oplossing die er niet aan voldoet valt af, hoe sterk zij op alle andere punten ook is.

Hempe noemde drie dingen die een staat geregeld moet hebben voordat een model in beeld komt.

  • de data blijft op de eigen infrastructuur van de staat
  • de organisatie kan bewijzen wat er draaide, waar en onder welke voorwaarden
  • het model past bij de taal, de wet en de processen van het land

Een model dat alleen bereikbaar is via een API, een koppeling naar een dienst die ergens anders draait, valt in die fase al af.

Drie routes om aan de eis te voldoen

Wat doet een overheid als het model dat zij wil hebben als dienst op afstand niet aan de eis voldoet?

Volgens Hempe zijn er drie routes.

  1. partneren
  2. zelf bouwen
  3. kopen

De sessie liet van elke route één voorbeeld zien, uit drie landen.

1. De Duitse douane partnert met een integrator

Partneren betekent samen bouwen met een integrator, een IT-dienstverlener die de oplossing met de overheid ontwikkelt. Het resultaat is daarna ook bij andere diensten te gebruiken.

Thomas Feld van Materna werkt met de Duitse belastingdienst en douane en met de IT-dienstverlener van de Duitse federale overheid. Zijn boodschap was dat soevereiniteit voor deze diensten een eis is. Zij werken met zeer gevoelige data, elke stap is gebonden aan strikte en ingewikkelde regels en de dienst moet zelf de controle over het proces houden.

Binnen die eis draait er al veel.

  • consumenten handelen de douaneaangifte van een klein pakket af in één app, met AI die helpt het juiste tarief te vinden
  • AI leest de accijnsformulieren die kleine bedrijven op papier of als pdf insturen
  • douanewetgeving wordt omgezet in regels die een machine kan lezen en die een AI-agent, een programma dat zelfstandig taken uitvoert, kan volgen
  • nieuwe toepassingen worden gebouwd met een AI-agent die in een volledig gesloten omgeving werkt, zonder toegang tot publieke AI, zodat data en code binnen blijven

Feld ziet de rol van mensen verschuiven van uitvoerder naar toezichthouder. Hij trok drie conclusies. AI wordt bij belastingen en douane vandaag al gebruikt. Soevereine inzet werkt vandaag al. En de opgave is nu om voort te bouwen op het fundament dat er ligt en AI sneller naar de praktijk te brengen.

2. France Travail bouwt en beheert het zelf

Zelf bouwen betekent dat de eigen engineers van de dienst de toepassing ontwikkelen en op schaal laten draaien.

Maxime Fournioux werkt in het AI-platformteam van France Travail, de Franse publieke dienst die werkzoekenden begeleidt en de werkloosheidsuitkeringen uitvoert. Hij liet twee AI-diensten zien die France Travail in productie heeft, in het eigen datacenter. Zijn belangrijkste les was dat de opgave is om een complete dienst op te schalen. Het model is daar één onderdeel van.

De eerste dienst schrijft de gesprekken uit die werkzoekenden op de vestigingen voeren. De verwachting is drie miljoen uur audio per jaar. De dienst draait alleen in de ochtend, en dan is er drie uur voor drieduizend uur audio. Eén klein detail bleek van groot belang. De audio moet in een compact bestandsformaat worden verstuurd, omdat anders de internetverbinding van de hele vestiging stilvalt.

De tweede dienst leest gescande loonstroken, bijna drie miljoen documenten in minder dan een half jaar. De overstap naar snellere hardware leverde eerst niets op, omdat de code nog op die hardware moest worden afgestemd. Toen dat was gedaan, haalde de dienst zijn doel van tien verzoeken per seconde.

Op de afdeling van Fournioux is een stresstest, een test die de volle productielast nabootst, verplicht voordat een dienst live gaat. Omdat beide diensten gevoelige data gebruiken, schreef de wet voor dat alle verwerking in het eigen datacenter van France Travail plaatsvindt. Elke toepassing wordt daarnaast getoetst aan het ethisch handvest van de organisatie.

3. Polen koopt een gesloten model en draait het in het eigen datacenter

Kopen betekent een gesloten model aanschaffen, een model waarvan de maker de binnenkant voor zichzelf houdt, en het op de eigen hardware van de instelling draaien. Hempe noemde dat de interessante route. Hoe draait een model met een gesloten binnenkant op de eigen infrastructuur van een organisatie?

Jakub Abramczyk van ElevenLabs beschreef een patstelling. Een overheid wil het best beschikbare model voor haar gevoeligste data en moet de controle over die data houden. Zelf zo'n model bouwen kost jaren onderzoek en veel geld. Voor de maker van een gesloten model is dat model op zijn beurt het bedrijf zelf. Lekt het, dan is het de volgende dag open source, en een model lekt maar één keer.

De uitweg heet confidential computing, versleuteld rekenen. De data is versleuteld in opslag, onderweg en ook terwijl zij wordt verwerkt. Het model draait in een afgeschermde omgeving op hardware in het eigen datacenter van de overheid. De overheid draait het model op eigen grond, en het model zelf blijft verzegeld. Voordat de sleutel vrijkomt, controleert het systeem of de hardware die bescherming echt biedt en of de software precies de software is die is geleverd. Mislukt één van die stappen, dan is er geen sleutel en draait er niets.

Het Poolse ministerie van Volksgezondheid heeft dit sinds 1 oktober in productie. Een natuurlijke Poolse stem belt patiënten, vooral ouderen, om hen aan hun afspraak te herinneren. Volgens Abramczyk telt de Poolse zorg veertig miljoen afspraken per jaar, en tien tot twintig procent daarvan wordt gemist. Elke gemiste afspraak betekent dat iemand anders langer wacht.

De prijs van deze route was tijd. Veel daarvan ging zitten in uitleggen hoe versleuteld rekenen werkt, aan klanten, overheden, beveiligingsteams en de eigen juridische afdeling. ElevenLabs probeerde daarnaast een paar maanden lang de eigen opstelling te kraken. Er bestaan bekende aanvallen op versleuteld rekenen, en volgens Abramczyk zijn die in een datacenter van de overheid buiten bereik.

Wat helpt een overheid die in de pilot blijft hangen

Hempe sloot af met één vraag aan alle drie de sprekers. Wat zouden zij zeggen tegen een overheid die in de pilotfase blijft hangen?

Het advies van Feld was om klein te beginnen en echt te beginnen. Kies een toepassing met echte gebruikers, denk vanaf de eerste dag na over het beheer en betrek de IT-afdeling.

Fournioux adviseerde om tijdens de verkenning al voor productie te ontwerpen. Kies een model dat een productielast aankan, en zorg dat iemand in het team al nadenkt over de uiteindelijke architectuur en de stresstest. Bij France Travail zag hij veel toepassingen stranden in de productiefase omdat dat denkwerk in het team ontbrak.

Abramczyk wees op de hardware. Overheden werken op schaal, en wie volgend jaar een dienst wil draaien, had de hardware in zijn woorden twee jaar geleden moeten bestellen.

Hempe voegde toe dat dit op het laatste moment regelen altijd duurder is. Haar advies was om de vraag te voorspellen en daarop te plannen. Een deel van de kosten van AI zit in hardware en toepassingen. Een groot deel zit in besturing en in plannen vanaf het begin.

Wat dit vraagt van een opdrachtgever

Hempe eindigde met wat de drie verhalen gemeen hebben. Drie heel verschillende instellingen hadden vrijwel dezelfde eisen en kwamen uit op drie verschillende oplossingen. Welke route de juiste is, hangt af van de organisatie zelf.

In een eerdere blog schreven we dat de opdrachtgever verantwoordelijk is voor de condities waarbinnen een project succesvol kan zijn. De toelatingseis is zo'n conditie. Voor een opdrachtgever komt dat in onze ogen neer op vier dingen.

  • Schrijf de toelatingseis op voordat de evaluatie begint. Waar moet de data blijven, wat moet de organisatie kunnen bewijzen en bij welke taal, wet en processen moet het model passen. Een model dat alleen via een API bereikbaar is, valt dan vanzelf af.
  • Kies de route bewust. Partneren, zelf bouwen en kopen zijn drie volwaardige routes. Welke past, volgt uit de organisatie en de manier waarop zij wordt bestuurd. De keuze voor een leverancier komt daarna.
  • Bepaal op de eerste dag wie de dienst gaat beheren. Een pilot zonder beheerder, zonder stresstest en zonder productiearchitectuur blijft een pilot.
  • Zet de rekenkracht in het plan. Hardware heeft levertijden en het verbruik moet worden voorspeld. Beide horen in de planning en in het budget, naast de toepassing zelf.

Wat wij met deze blog willen meegeven

Met deze blog willen we laten zien dat de controle over AI in een publieke dienst aan het begin wordt geregeld, aan de kant van de opdrachtgever. Drie overheden in drie landen stelden die eis eerst, en elk vond een route die bij de eigen organisatie past.

Bij Quilyx stellen we dezelfde eis aan onze eigen systemen. Onze AI draait op onze eigen apparatuur in Nederland, met lokale modellen. Gevoelige klant- en leveranciersgegevens behandelt alleen onze eigen AI. En mensen houden de beslissing.

Een organisatie die haar toelatingseis eerst opschrijft, kiest zelf haar route.

Over dit artikel: Dit artikel is onze eigen lezing van de sessie Modernizing the State op NVIDIA GTC Berlin van 22 oktober 2026. De ideeën uit die sessie zijn van de sprekers en zijn als zodanig benoemd. De vertaling naar opdrachtgevers, de standpunten en de keuzes in dit artikel zijn van ons. Wij schreven en redigeerden het samen met AI, die hielp bij het uitzoeken, het uitwerken en het formuleren. Quilyx draagt de redactionele verantwoordelijkheid.

Wilt u iets?

Vertel ons wat u wilt bereiken. Wij helpen het helder te maken en brengen het tot werkend resultaat.

info@quilyx.com of +31 30 401 0422