Algoritmeregister

Gemeente Rotterdam maakt steeds vaker gebruik van algoritmes.
Als gemeente vertellen we graag welke algoritmes we inzetten. Dat doen wij in ons algoritmeregister. In dit register leest u waarvoor we algoritmes gebruiken, waarom we dat doen en hoe dit werkt. Hier vindt u informatie over een aantal algoritmetoepassingen en de data die we hierbij gebruiken. Achter de schermen werken wij aan het identificeren en registreren van meer bestaande en nieuwe algoritmetoepassingen.

Algoritmes 

Algoritmes zijn niets meer dan een stap-voor-stap oplossing voor een probleem. Heeft u ooit een boekenkast in elkaar hebt gezet op basis van een handleiding? Dan heeft u dat algoritmisch gedaan. Tegenwoordig associëren we algoritmes vooral met computers en automatisering. Binnen Rotterdam definiëren we algoritmes als: '[e]en wiskundige formule of model, dat wordt uitgevoerd middels een computer, om een probleem op te lossen, een vraag te beantwoorden, een voorspelling te doen, een beslissing te nemen of die te ondersteunen'. Deze definitie stelt het Ministerie van Justitie en Veiligheid. Link opent een externe pagina ook voor.

Algoritmes komen in verschillende vormen en maten voor. Soms zijn het hele duidelijke beslisregels (ALS dit, DAN dat). Het kan ook voorkomen dat we ingewikkelde algoritmes gebruiken om bijvoorbeeld beelden te herkennen. Zulke algoritmes kunnen bijvoorbeeld leren om beter te worden in het herkennen van dingen. Denk aan scanauto’s die kentekens herkennen. 

In Rotterdam maken we geen verschil tussen de soort techniek die we gebruiken. We kijken naar algoritmes in de breedste zin van het woord, want het ‘probleem’ kan ook een heel simpel iets zijn (bijvoorbeeld: zoek waar X anders is dan normaal en doe dan Y). Dat is belangrijk, want ook een technisch simpel algoritme kan grote gevolgen hebben, bijvoorbeeld wanneer foutieve gegevens zijn ingevoerd of beleidsregels niet goed passend bij of toegepast op een individuele situatie. 

Algoritmetoepassingen

Algoritmes zitten overal. Van tekstverwerkingsprogramma’s tot aan rekenmodellen. Niet elk algoritme is daarmee even belangrijk of gevaarlijk. Uiteindelijk hangt het af van hoe we het algoritme gebruiken. We kijken daarom in Rotterdam naar ‘algoritmetoepassingen’: hoe algoritmes worden ingezet. Een algoritmetoepassing zegt iets over hoe we gegevens in combinatie met algoritme(s) gebruiken en wat de resultaten en effecten van dit gebruik zijn.

Waarom gebruikt gemeente Rotterdam algoritmetoepassingen?

De gemeente gebruikt algoritmetoepassingen om taken en processen te automatiseren en om besluiten beter te onderbouwen. Door gebruik te maken van algoritmetoepassingen kan de gemeente sneller en preciezer werken. Met als uiteindelijke doel om ons werk het beste te kunnen doen voor de stad, bewoners en ondernemers. 

Verantwoord algoritmegebruik in de gemeente

Binnen de gemeente Rotterdam zijn er afspraken gemaakt om te zorgen dat wij goed om gaan met algoritmetoepassingen. Dit staat in onze ‘algoritmegovernance’. We kijken hierbij naar het risico van de algoritmetoepassing.  Als het risico hoog is dan doen we verplicht een Impact Assessment Mensenrechten en Algoritmen (IAMA). Dit is een uitgebreide toets op mensenrechten. Is het laag-risico maar zijn er toch twijfels? Dan maken we gebruik van De Ethische Data Assistent (DEDA). Dit is een kleinere toets. Alle algoritmetoepassingen van de gemeente Rotterdam nemen we op in ons algoritmeregister. Ook werken we aan inkoopvoorwaarden voor algoritmetoepassingen die we inkopen.
De gemeente wordt door haar externe Algoritmeadviesraad (AAR – voorheen de Algorithm Advisory Board, AAB) gevraagd en ongevraagd geadviseerd bij vragen over verantwoorde omgang met algoritmetoepassingen. In de AAR zitten wetenschappers met kennis van algoritmetoepassingen uit verschillende disciplines. De AAR is geen toezichthouder, zij adviseert. 
In 2020 werd het gebruik van algoritmes door de gemeente onderzocht door de Rekenkamer Rotterdam. Zij publiceerden hun bevindingen in het rapport ‘gekleurde technologie’. Alle aanbevelingen uit dit rapport zijn overgenomen en vormen de basis voor onze huidige aanpak van algoritmetoepassingen. In 2023 evalueert de gemeente én de Rekenkamer de omgang met algoritmetoepassingen opnieuw.

Veilig omgaan met data

Algoritmes werken met data. Dat kunnen allerlei gegevens zijn. Ook persoonsgegevens. Daarom is het belangrijk dat we zorgvuldig met data omgaan. Gemeente Rotterdam heeft hierover afspraken staan in de 'Privacy Governance'. Meer weten over hoe gemeente Rotterdam omgaat met uw gegevens? Kijk dan op de pagina Privacy gemeente Rotterdam.

Rectificatie rol Algoritmeadviesraad(AAR)

Op deze pagina is eerder ten onrechte gepubliceerd dat de Algoritmeadviesraad (AAR) de algoritmetoepassingen in het algoritmeregister controleert. De juiste berichtgeving is dat AAR een extern adviesorgaan is en geen toezichthouder. Dit staat verder uitgelegd op de pagina verantwoord algoritmegebruik door de gemeente.