Handreiking generatieve AI

Generatieve AI ontwikkelt zich in hoog tempo en biedt veel mogelijkheden, ook voor rekenkamers. Tegelijkertijd is het belangrijk te benadrukken dat het gebruik van AI geen vanzelfsprekendheid is. Het is een keuze, geen verplichting, met randvoorwaarden om het binnen het wettelijke kader te gebruiken. Deze handreiking gaat daarom niet zozeer over wat er allemaal mogelijk is met AI, maar schetst vooral de contouren en randvoorwaarden voor een zorgvuldige en rechtmatige toepassing.

AI kan een waardevol hulpmiddel zijn. Het kan rekenkamers ondersteunen bij het sneller doorzoeken en analyseren van grote hoeveelheden data of documenten, en praktische toepassingen bieden, zoals het uitwerken van interviewverslagen. Daarnaast kan het gebruik van AI ook leerzaam zijn en nieuwe inzichten opleveren. Tegelijkertijd is het van belang te onderkennen dat AI altijd moet worden ingezet binnen de geldende wet- en regelgeving.

Aan het gebruik van generatieve AI zijn risico’s verbonden. Voor rekenkamers liggen die met name op het vlak van privacy, auteursrecht, herleidbaarheid en transparantie. Het is daarom essentieel dat, wanneer wordt besloten AI in te zetten, dit op een veilige, verantwoorde en controleerbare manier gebeurt. Ook het energieverbruik van AI is een punt voor overweging.

Deze handreiking beschrijft wat generatieve AI is en welke wettelijke kaders relevant zijn voor het gebruik ervan. Vervolgens biedt zij richtlijnen en overwegingen voor rekenkamers die ervoor kiezen AI toe te passen, zowel in eigen onderzoek als bij de inzet van externe onderzoekers. Tot slot staan we stil bij het gebruik van generatieve AI door het object van onderzoek (je gemeente, provincie of waterschap).

Doordat de ontwikkeling van AI razendsnel gaat, zijn de regels voor het gebruik van AI nog volop in ontwikkeling. Wat op dit moment mag, is straks wellicht niet meer toegestaan, en andersom. De Vereniging van Rekenkamers zal deze handreiking daarom periodiek actualiseren en waar nodig aanvullen.

Om te begrijpen wat generatieve AI is, en hoe het werkt, helpt het om te denken aan een traditioneel algoritme. Zo’n algoritme voert aan de hand van een set regels geautomatiseerd berekeningen uit om een probleem op te lossen of een vraag te beantwoorden.[1] Zo worden algoritmes gebruikt om geautomatiseerd de WOZ-waarde van woningen te bepalen, de waterafvoer van beken te voorspellen, of de verkeersveiligheid van een wegvak te beoordelen.[2]

AI is een verzamelnaam voor algoritmes die taken uitvoeren waar voorheen menselijke intelligentie voor nodig was. Daarvoor worden technieken uit de datawetenschap ingezet, zoals machine learning. Met machine learning leren computers om patronen in data te herkennen en voorspellingen te doen, zonder daarvoor expliciet geprogrammeerd te worden. AI wordt daarom ook wel een black-box genoemd; voorspellingen van het model zijn namelijk niet te herleiden naar beslisregels. Overheden gebruiken op dit moment al zulke modellen, bijvoorbeeld om te voorspellen waar documenten persoonsgegevens bevatten of om meldingen openbare ruimte te categoriseren.[3] Bij deep learning worden AI-technieken gecombineerd in meerlaagse netwerken, die elk op een eigen manier informatie uit data halen. Hiervoor moet AI worden getraind op grote hoeveelheden data, waaruit het systeem patronen en structuren kan leren herkennen. Hierdoor kan deep learning beter omgaan met ongestructureerde data.

Generatieve AI is een vorm van deep learning die op verzoek van een gebruiker content genereert, zoals tekst, beeld, geluid, video of computercode. Bekende toepassingen van generatieve AI zijn AI-chatbots zoals ChatGPT. Deze modellen richten zich op het verwerken en voorspellen van tekst. De nieuwste ontwikkeling binnen generatieve AI (begin 2026) is Agentic AI. Agentic AI is een vorm van kunstmatige intelligentie die zelfstandig kan handelen om taken uit te voeren. Dit betekent dat modellen binnen vooraf vastgestelde kaders zelfstandig beslissingen kunnen nemen en acties kunnen uitvoeren, terwijl ze van zichzelf leren om met de tijd beter te worden.

Figuur 1: Generatieve AI ten opzichte van AI en andere algoritmen

Bron: Ministerie van BZK (2025), Verantwoorde inzet van generatieve AI: Overheidsbrede handreiking.

[1] Deze definitie volgt uit de Handreiking Algoritmeregister (link).

[2] Deze voorbeelden komen uit het algoritmeregister. De algoritmes worden onder andere gebruikt door de gemeente Rotterdam (link), het waterschap Limburg (link) en de provincie Utrecht (link).

[3] Deze voorbeelden komen uit het algoritmeregister. De algoritmes worden onder andere gebruikt door het Waterschap Aa en Maas (link) en de gemeente Amsterdam (link).

Generatieve AI kan de rekenkamer ondersteunen. Het gaat daarbij niet om het vervangen van het oordeel van de rekenkamer, maar om het versnellen en verdiepen van het onderzoeksproces. Generatieve AI kan op verschillende momenten in het rekenkamerproces worden ingezet. Onderstaand overzicht biedt een structurering per fase.

Onderzoeksvoorbereiding

• Oriëntatie op een beleidsterrein: snel inzicht krijgen in wet- en regelgeving, beleidskaders en relevante literatuur.
• Opstellen van een onderzoekskader: helpen formuleren van onderzoeksvragen en deelvragen.
• Genereren van een conceptonderzoeksplan of -protocol.
• Opzetten van interviewleidraden en vragenlijsten.

Dataverzameling en -analyse

• Samenvatten van lange beleidsnota’s, begrotingen, jaarverslagen en raadsbesluiten.
• Identificeren van relevante passages in grote documentsets.
• Vergelijking van beleidsdocumenten over meerdere jaren of gemeenten.
• Codering van kwalitatieve data (bijvoorbeeld interviews) als ondersteuning voor de onderzoeker.
• Signaleren van inconsistenties of tegenstrijdigheden in beleidsteksten.

Rapportage en communicatie

• Ondersteuning bij het schrijven en redigeren van concept-bevindingen.
• Verbeteren van leesbaarheid, structuur en begrijpelijkheid van rapporten.
• Samenvatten van hoofdbevindingen voor bestuurlijke nota’s of persberichten.
• Vertalen van technische bevindingen naar toegankelijke taal voor de raad of het publiek.

Kwaliteitscontrole

• Toetsen of een rapport intern consistent is.
• Controleren op logische redeneerfouten of onvolledige onderbouwing.

Generatieve AI kan nuttig zijn voor het werk van rekenkamers, maar het is belangrijk deze doordacht en gecontroleerd in te zetten. Als je als rekenkamer besluit om generatieve AI te gaan gebruiken, is het handig om als rekenkamer als rekenkamer eerst intern een aantal keuzes vast te leggen rondom hoe je als rekenkamer om wilt gaan met generatieve AI (in interne afspraken of protocollen).

Hiervoor dien je als rekenkamer de volgende stappen te zetten:

1. Definieer het doel en de toepassingsgebieden.
2. Bepaal welke generatieve AI je wilt gebruiken.
3. Stel vast welke data verwerkt wordt.

Concreet formuleert deze handleiding daar de volgende aanbevelingen bij:

• Kies voor een betaalde versie van generatieve AI.
• Leg vast welk AI model met welk doel gebruikt mag worden.
• Gebruik AI in de basis alleen voor het verwerken van openbare informatie.

Het vervolg van deze paragraaf loopt deze stappen en aanbevelingen een voor een na.
Ad 1 Definieer het doel en de toepassingsgebieden

Generatieve AI is een middel om een doel te bereiken. Leg daarom met specifieke scenario’s vast wanneer welke generatieve AI gebruikt wordt. Dit kan bijvoorbeeld zijn: De rekenkamer gebruikt [generatieve AI model x] om interviews te transcriberen. Of: De rekenkamer gebruikt [generatieve AI model y] om overheidsdocumenten samen te vatten. Voorkom dat generatieve AI buiten deze gespecificeerde toepassingen wordt gebruikt.

Aanbeveling

• Leg vast welk AI model voor welk doel gebruikt mag worden.

Ad 2 Bepaal welke generatieve AI je wilt gebruiken

Vaak zal je als rekenkamer alleen gebruik maken van generatieve AI voor het analyseren, annoteren en samenvatten van bestaande documenten (denk aan Co-pilot). Dit zijn over het algemeen AI-modellen en systemen die in de AI-verordening ‘systemen voor algemene doeleinden’ worden genoemd.[1] De AI-verordening stelt eisen aan AI-modellen en systemen voor algemene doeleinden. Aanbieders daarvan moeten adequate documentatie opstellen en beleid opstellen om ervoor te zorgen dat het model getraind wordt zonder inbreuk te maken op auteursrechten. Gratis AI-toepassingen voldoen hier over het algemeen niet aan.

Een risico van het gebruik van AI-modellen is dat niet altijd duidelijk is wat er met de aangeleverde data gebeurt. Omdat AI-modellen veel trainingsdata nodig hebben, gebruiken sommige modellen aangeleverde data door gebruikers ook als trainingsdata. Het is daarom van belang vooraf te controleren of de gekozen AI-toepassing de aangeleverde informatie niet voor trainingsdoeleinden gebruikt.

Aanbeveling

• Kies voor een betaalde versie van generatieve AI. Daarin kun je duidelijk aangeven welke documenten wel of niet mogen worden gebruikt in de analyse en dat de informatie die je deelt met AI niet gebruikt mag worden buiten jouw eigen gebruik. Voor rekenkamers met een beperkt budget kan het een mogelijkheid zijn om gebruik te maken van een licentie van de gemeente waar de rekenkamer voor werkt.
• Stel vast dat de gekozen AI-toepassing de door de rekenkamer ingevoerde data niet gebruikt voor trainingsdoeleinden.

Ad 3 Stel vast welke data verwerkt wordt

AI mag niet alle gegevens zomaar verwerken. Voor het analyseren van openbare bronnen kan AI goed gebruikt worden. Voorbeeld generatieve AI: Je uploadt een collegebrief van 20 pagina’s over het armoedebeleid en vraagt: “Welke toezeggingen doet het college in deze brief, en worden daarbij concrete doelen of termijnen genoemd?” AI geeft binnen een minuut een gestructureerd overzicht.

Voor drie typen gegevens zijn er aanvullende eisen aan de verwerking, die ook gelden bij verwerking met generatieve AI:

1. niet openbare gegevens;
2. persoonsgegevens; en
3. vertrouwelijke overheidsinformatie.

Niet-openbare gegevens

Voor alle niet-openbare gegevens geldt dat een rekenkamer hier zorgvuldig mee om moet gaan. De basisnormen voor informatiebeveiliging zijn vastgelegd in de BIO (link) en de NIS2-richtlijn.[2] In de praktijk is het van belang dat een aanbieder van AI-software in ieder geval ISO 27001 gecertificeerd is.

Persoonsgegevens

De AVG (link) is een implementatie van de Europese GDPR en stelt eisen aan de verwerking van persoonsgegevens. Wanneer generatieve AI wordt gebruikt om persoonsgegevens te verwerken, moet rekening worden gehouden met deze vereisten. Dit is bijvoorbeeld het geval wanneer AI wordt ingezet om dossiers van burgers te analyseren of interviews te transcriberen. Het is daarom van belang om te controleren of de generatieve AI ‘GDPR compliant’ is en voldoet aan de technische vereisten. Zo is het in principe niet toegestaan persoonsgegevens te verwerken buiten de Europese Economische Regio (EER).

Ook dient de rekenkamer:

• Te inventariseren of de gegevensverwerking een hoog privacy-risico oplevert, en zo ja, hoe hiermee moet worden omgegaan. Dit kan door een (pre-)DPIA uit te voeren.
• Een verwerkersovereenkomst af te sluiten met de aanbieder van AI.
• De verwerking van persoonsgegevens op te nemen in haar verwerkingsregister.

Vertrouwelijke overheidsinformatie

Het kan zijn dat de rekenkamer vertrouwelijke overheidsdocumenten ontvangt, waarvan de inhoud niet zondermeer gedeeld of openbaar gemaakt mag worden. Dit betreft documenten die vallen onder één of meer van de uitzonderingsgronden van de Wet open overheid (link). Een gegevensverwerker zal in ieder geval moeten voldoen aan de BIO-normen, en wellicht ook een geheimhoudingsverklaring moeten tekenen.

Aanbevelingen

• Gebruik AI in de basis alleen voor het verwerken van openbare informatie, zoals data verzameld in het raadsinformatiesysteem. Gebruik AI in de basis niet voor het verwerken van niet-openbare gegevens, persoonsgegevens of vertrouwelijke overheidsinformatie.

Wanneer je AI toch wilt gebruiken om niet-openbare gegevens, persoonsgegevens of vertrouwelijke overheidsinformatie te verwerken, borg dan in ieder geval bovengenoemde aandachtspunten. Voor veel (kleinere) rekenkamers is deze borging een complexe opgave.

[1] Wanneer je gebruik maakt van complexere AI-modellen, houdt dan rekening met wet- en regelgeving. Niet iedere AI-toepassing mag namelijk gebruikt worden. De Europese AI-verordening (link), die ook geldt in Nederland, stelt eisen aan het gebruik van AI. Zie artikel 5 en afdeling 2 van de AI-verordening. De Gids AI-verordening van het ministerie van EZ (link) vat de belangrijkste plichten uit de AI-verordening samen. Zo verbiedt deze verordening in sommige gevallen AI te gebruiken en identificeert zij hoog-risico AI-systemen, waar extra eisen voor gelden. Denk daarbij aan systemen die persoonsgegevens verwerken.

[2] De NIS2-richtlijn wordt in Nederland geïmplementeerd via de Cyberbeveiligingswet.

Als is vastgesteld wanneer en waarvoor generatieve AI kan worden ingezet, is het van belang best practices te volgen bij het daadwerkelijk gebruiken ervan. Hierbij gelden de volgende aanbevelingen:

1. Geef duidelijke opdrachten.
2. Houd bij wanneer AI is gebruikt.
3. Houd zelf de regie.
4. Wees transparant over het gebruik van generatieve AI.
5. Zorg dat je over de juiste kennis beschikt van generatieve AI.

 Het vervolg van deze paragraaf loopt deze aanbevelingen een voor een na.

Ad 4 Geef duidelijke opdrachten

Generatieve AI-modellen kennen geen standaard context. Makkelijk gezegd: ze begrijpen de documenten die ze bekijken niet. Ook zijn deze modellen vaak getraind om zo veel mogelijk aan de vragen van gebruikers tegemoet te komen. Hierdoor kunnen AI-modellen resultaten geven die niet binnen de context passen, of zich laten verleiden tot feitelijke onjuiste resultaten. Dit noemen we hallucineren.

Om kwalitatief betere uitkomsten te krijgen en hallucineren zo veel mogelijk te voorkomen, is het van belang duidelijke en specifieke instructies mee te geven voor iedere opdracht. Geef daarin in ieder geval:

• voldoende context: waarom wil je iets weten en wat is het karakter van de te gebruiken data/documenten;
• een duidelijke rol: wat is de rol die je van het AI-model verwacht, bijvoorbeeld ‘je bent een kritische rekenkameronderzoeker die een document controleert op doeltreffendheid’;
• heldere beperkingen: wat mag het AI-model wel en niet doen, bijvoorbeeld ‘baseer je uitsluitend op de aangeleverde tekst, maak geen gebruik van aanvullende informatie van het internet’;
• richtlijnen voor de output: hoe moet het resultaat eruit zien, bijvoorbeeld ‘geef met een opsomming weer welke beleidsdoelen zijn geformuleerd en op welke pagina’.

Ad 5 Houd bij wanneer AI is gebruikt

Het is belangrijk dat rekenkameronderzoek navolgbaar en reproduceerbaar is. Het is daarvoor van belang dat duidelijk is hoe uitkomsten van een generatief AI-model tot stand zijn gekomen. Wanneer uitkomsten van een generatief AI-model (indirect) in een publicatie worden opgenomen, moeten de gebruikte prompts (vraag, opdracht, instructie) worden opgeslagen in het onderzoeksdossier.

Ad 6 Houd zelf de regie

Gebruik generatieve AI slechts als hulpmiddel, niet als vervanging. Generatieve AI is in de basis nog steeds een voorspelmodel. Dat betekent dat het soms ook verkeerde voorspellingen doet. We noemen dit ook wel hallucineren. In zulke gevallen oogt de door AI gegenereerde content op het eerste gezicht vaak geloofwaardig, maar is deze feitelijk onjuist. Zo kan generatieve AI in een documentstudie informatie opnemen die niet in de onderliggende documenten staat of kennisvragen feitelijk onjuist beantwoorden. Het is daarom van belang om altijd een vorm van menselijke controle in te bouwen: verifieer AI-output altijd via primaire bronnen, blijf kritisch op mogelijke vooringenomenheid in AI-output en pas het vier-ogen principe toe op AI-gegenereerde content.

Ad 7 Wees transparant over het gebruik van generatieve AI

Het is van belang transparant te zijn over hoe rekenkamerrapporten zijn geproduceerd. De AI-verordening bevat bovendien transparantieregels voor generatieve AI die per augustus 2026 van kracht worden. Volgens die regels moet de maker het duidelijk aangeven wanneer audio, beeld of video met AI is gegenereerd, bijvoorbeeld met een watermerk. Voor kunstmatig gegenereerde tekst gelden lichtere regels. Bij tekst die gebruikt wordt om ‘het publiek te informeren over aangelegenheden van algemeen belang’, moet duidelijk gemaakt worden dat het kunstmatig is gegenereerd of bewerkt. Wanneer sprake is van redactionele controle door AI is zo’n vermelding niet nodig.

Gemeenschappelijke rekenkamers, die zijn opgenomen in het Register van Overheidsorganisaties (link), kunnen de algoritmen die zij gebruiken, zoals generatieve AI, registreren in het algoritmeregister (link). Zo’n registratie is op dit moment niet verplicht. De handreiking algoritmeregister geeft overwegingen om een algoritme in het register te laten opnemen.

Ad 8 Zorg dat je over de juiste kennis beschikt van generatieve AI

Hoewel generatieve AI steeds toegankelijker wordt, is het in de basis enorm geavanceerde software. Om deze zorgvuldig te kunnen gebruiken, moet je over voldoende kennis beschikken. De AI-verordening verplicht daarom om te zorgen voor een toereikend niveau van AI-geletterdheid bij personeel en anderen die namens de organisatie AI gebruiken.[1] De Vereniging van Rekenkamers werkt aan het ontwikkelen van een training speciaal voor rekenkamers gericht op het verantwoord gebruik van AI. Kijk op de website of je kunt aansluiten. Daarnaast zouden gemeenten op basis van dezelfde verordening deze trainingen ook aan moeten bieden, wanneer zij generatieve AI gebruiken. Rekenkamerleden of -medewerkers kunnen ook kijken of het mogelijk is zo’n training via hun eigen gemeente te volgen.

[1] Zie artikel 4.

Rekenkamers kunnen op twee manieren te maken krijgen met generatieve AI bij de inkoop:

1. Zij kunnen zelf generatieve AI modellen of diensten inkopen.
2. Zij kunnen diensten van derden afnemen, die gebruik maken van generatieve AI.

Inkopen van AI-modellen

Bij het inkopen van generatieve AI gelden dezelfde overwegingen als beschreven in paragraaf 3. De gemeente Amsterdam heeft modelbepalingen opgesteld voor het inkopen van AI-modellen.[1]

Diensten van derden

Wanneer je als rekenkamer met een externe partij werkt is het belangrijk met deze onderzoekers afspraken te maken over het gebruik van AI. De regels die voor rekenkamers gelden, zijn immers ook van toepassing op partijen die je inhuurt. Vraag als rekenkamer bij een externe partij na of generatieve AI wordt gebruikt in het onderzoek. Wanneer dit het geval is, is het raadzaam om op de volgende punten afspraken te maken:

1. Stel vast welke generatieve AI-modellen de externe partij gebruikt. Vraag na en bewaak dat deze AI-modellen voldoende gedocumenteerd zijn en gegevens van de rekenkamer niet gebruiken voor trainingsdoeleinden.
2. Stel vast wat het doel en de toepassingsgebieden van deze generatieve AI-modellen zijn.
3. Stel vast welke data de externe partij met AI verwerkt. Zorg ervoor dat zij generatieve AI in de basis alleen gebruiken voor het verwerken van openbare informatie, zoals data verzameld uit het raadsinformatiesysteem.
4. Maak afspraken over de manier waarop de externe partij generatieve AI gebruikt. Zorg er daarmee voor dat generatieve AI heldere en duidelijke instructies krijgt en dat er altijd menselijke controle is op de uitkomsten. Maak ook afspraken over de wijze waarop medewerkers van derden getraind worden om generatieve AI te gebruiken.

Maak afspraken over de manier waarop het gebruik van generatieve AI vermeld moet worden bij opgeleverde producten.

[1] Zie hier voor deze modelbepalingen en toelichting.

Hoe kun je onderzoek doen naar AI binnen jouw gemeente, provincie of waterschap? Het gebruik van AI is een belangrijk onderzoeksonderwerp. Een rekenkamer kan inventariseren of AI wordt gebruikt en onder welke voorwaarden. Kijk bijvoorbeeld naar het gebruik, maar vooral ook naar de inrichting van de governance.

Bias

Generatieve AI-modellen, of de data waarmee de modellen worden getraind, kunnen vooroordelen of vooringenomenheden bevatten. Dit wordt bias genoemd. Dit kan zitten in de dataverzameling, zoals selectiebias. Dat houdt in dat beperkte trainingsdata zorgen voor een onjuiste afspiegeling van de werkelijkheid met als gevolg blinde vlekken. Maar een generatief AI-model heeft vooral als risico dat discriminerende of onwenselijke patronen overgenomen worden van de trainingsdata. Dit geldt overigens ook voor normale (complexe) algoritmen.[1]

Governance

Zoals uit deze handreiking blijkt, zijn er al de nodige kaders en richtlijnen ontwikkeld. Welke precies gelden voor jouw gemeente, provincie of waterschap is niet altijd helder en is ook aan verandering onderhevig. Bovendien vergt toepassing van kaders en richtlijnen vaak een risico-afweging. De vraag is of er altijd de juiste kennis beschikbaar is binnen een gemeente, waterschap of provincie. Een relevante onderzoeksvraag zou daarom kunnen zijn of deze overheden adequaat beleid voeren om de risico’s van generatieve AI te beheersen.[2]

[1] Het Centraal Planbureau heeft onlangs een methode ontwikkeld om te onderzoeken in hoeverre algoritmen onbedoeld discrimineren (link).

[2] De dilemma’s voor generatieve AI zijn grotendeels vergelijkbaar met die voor algoritmen. Zie daarvoor bijvoorbeeld eerdere onderzoeken van de Rekenkamer Rotterdam (link) en (link).

Vooraf: leg keuzes vast over generatieve AI in een intern protocol

• Definieer het doel en de toepassingsgebieden: leg vast welk AI model voor welk doel gebruikt mag worden.
• Bepaal welke generatieve AI je wilt gebruiken: kies voor een betaalde versie van generatieve AI (bijvoorbeeld via een licentie van de gemeente waar de rekenkamer voor werkt)
• Stel vast dat de gekozen AI-toepassing de door de rekenkamer ingevoerde data niet gebruikt voor trainingsdoeleinden.
• Stel vast welke data gebruikt wordt: gebruik AI in de basis alleen voor het verwerken van openbare informatie, zoals data verzameld in het raadsinformatiesysteem. Gebruik AI in de basis niet voor het verwerken van niet-openbare gegevens, persoonsgegevens of vertrouwelijke overheidsinformatie.
• Wanneer de rekenkamer AI toch wil gebruiken om niet-openbare gegevens, persoonsgegevens of vertrouwelijke overheidsinformatie te verwerken: borg dat voldaan wordt aan de genoemde randvoorwaarden uit wet- en regelgeving.

Tijdens en achteraf: regels en best practices gebruik generatieve AI

• Geef duidelijke opdrachten. Geef daarin in ieder geval:
  • voldoende context: waarom wil je iets weten en wat is het karakter van de te gebruiken data/documenten;
  • een duidelijke rol: wat is de rol die je van het AI-model verwacht, bijvoorbeeld ‘je bent een kritische rekenkameronderzoeker die een document controleert op doeltreffendheid’;
  • heldere beperkingen: wat mag het AI-model wel en niet doen, bijvoorbeeld ‘baseer je uitsluitend op de aangeleverde tekst, maak geen gebruik van aanvullende informatie van het internet’;
  • richtlijnen voor de output: hoe moet het resultaat eruit zien, bijvoorbeeld ‘geef met een opsomming weer welke beleidsdoelen zijn geformuleerd en op welke pagina’.
• Houd bij wanneer AI is gebruikt: wanneer uitkomsten van een generatief AI-model (indirect) in een publicatie worden opgenomen, moeten de gebruikte prompts (vraag, opdracht, instructie) worden opgeslagen in het onderzoeksdossier.
• Houd zelf de regie: bouw altijd een vorm van menselijke controle in en verifieer AI-output altijd via primaire bronnen, blijf kritisch op mogelijke vooringenomenheid in AI-output en pas het vier-ogen principe toe op AI-gegenereerde content.
• Wees transparant over het gebruik van generatieve AI: geef duidelijk aan wanneer audio, beeld of video met AI is gegenereerd, bijvoorbeeld met een watermerk. Bij tekst in bijvoorbeeld rapporten moet duidelijk gemaakt worden dat het kunstmatig is gegenereerd of bewerkt. Bij redactionele controle door AI is zo’n vermelding niet nodig.
• Zorg dat je over de juiste kennis beschikt van generatieve AI: zorg voor deskundigheidsbevordering van rekenkamerleden of -medewerkers via trainingen.

Bij inkoop: check de externe partij op het gebruik van generatieve AI

• Stel vast of en welke generatieve AI-modellen de externe partij gebruikt. Vraag na of de AI-modellen voldoende gedocumenteerd zijn en gegevens van de rekenkamer niet gebruiken voor trainingsdoeleinden.
• Stel vast wat het doel en de toepassingsgebieden van deze generatieve AI-modellen zijn.
• Stel vast welke data de externe partij met AI verwerkt. Zorg ervoor dat zij generatieve AI alleen gebruiken voor het verwerken van openbare informatie, zoals data verzameld uit het raadsinformatiesysteem.
• Maak afspraken over de manier waarop de externe partij generatieve AI gebruikt. Zorg er daarmee voor dat generatieve AI heldere en duidelijke instructies krijgt en dat er altijd menselijke controle is op de uitkomsten. Maak ook afspraken over de wijze waarop medewerkers van derden getraind worden om generatieve AI te gebruiken.
• Maak afspraken over de manier waarop het gebruik van generatieve AI vermeld moet worden bij opgeleverde producten.