Rekenkamer Utrecht deed onderzoek naar de mate waarin de gemeente Utrecht in de praktijk omgaat met algoritmes en welk beleid hiervoor is geformuleerd. Wij concluderen dat beleid voor een verantwoorde inzet van algoritmes binnen de gemeente Utrecht aanwezig is, maar dat de uitvoering daarvan nog onvoldoende is geborgd. Het beleid en de wijze van organiseren geven te weinig concrete sturing aan een consistente risicobeheersing van algoritmes in de uitvoering. In veel gevallen wordt niet de gehele risicobeheersingscyclus systematisch uitgevoerd. En door een gebrekkig inzicht op centraal niveau in de risicobeheersing op decentraal niveau kan beperkt verantwoording worden afgelegd aan het college én de gemeenteraad over de toepassing van algoritmes.

Wij doen drie aanbevelingen om de sturing op, beheersing van en verantwoording over de inzet van algoritmes te verbeteren:
– Vergroot transparantie door verbeteringen in het algoritmeregister en door een duidelijker afweging tussen impactvolle algoritmes en kleine algoritmes.
– Verbeter risicobeheersing door meer centrale aansturing op gedrag en samenspel, minder vrijblijvende Uthiek-assessments en een gedegen trainingsaanbod voor medewerkers.
– Verbeter de interne en externe verantwoording over algoritmes door heldere indicatoren en afspraken over informatievoorziening aan de gemeenteraad.

De centrale onderzoeksvraag luidt: ‘In hoeverre geeft de gemeente Utrecht invulling aan een verantwoorde toepassing van het gebruik van algoritmes en wat kan daarvan worden geleerd?’
Deze vraag is uitgewerkt in een aantal onderzoeksvragen (algemeen en casusspecifiek), waaronder:
1) In hoeverre heeft de gemeente in opzet invulling gegeven aan de randvoorwaarden voor een verantwoorde toepassing van algoritmes?
2) In hoeverre heeft de gemeente de risico’s op de gebieden van ethiek, sturing en verantwoording, model en data, privacy en IT-beheer van de toegepaste algoritmes in beeld en welke beheersmaatregelen zijn getroffen voor de onderkende risico’s?
3) In hoeverre wordt intern en extern toezicht gehouden op en verantwoording afgelegd over algoritmes?
4) Hoe wordt het algoritme toegepast?
Bij de onderzoeksvragen wordt ook aandacht geschonken aan de positie van de gemeenteraad.