Een effectieve manier om grip te krijgen op de algoritmes die overheden gebruiken, is door goede afspraken te maken met leveranciers van algoritmes. Deze afspraken leggen we vast in contracten en inkoopvoorwaarden.
Amsterdam heeft het initiatief genomen om samen met Pels Rijcken en KPMG nieuwe contractvoorwaarden en inkoopvoorwaarden voor eerlijke en transparante algoritmes te ontwikkelen. We zijn begonnen met Amsterdamse voorwaarden maar zo geschreven dat ze ook ergens anders gebruikt kunnen worden.
Als overheid hebben we de verantwoordelijkheid om uit te leggen welke keuzes wij maken en op basis van welke informatie wij een beslissing nemen. Dat betekent dat de algoritmes die wij gebruiken eerlijk en transparant moeten zijn. De algoritmes hebben grote invloed op bewoners: bijvoorbeeld recht op een uitkering of toegang tot welke middelbare school. Het is niet altijd duidelijk welke afwegingen er precies gemaakt zijn. Overheden dreigen afhankelijk te worden van een beperkt aantal technologiebedrijven die op grote schaal algoritmes kunnen ontwikkelen. Daardoor krijgen die bedrijven een steeds grotere machtspositie.
Een eerste concept van de contractvoorwaarden voor verantwoord gebruik van algoritmes vindt u hieronder:
Voor deze versie hebben we met verschillende inkopers, juristen, leveranciers, auditors, programmeurs informatiemanagers en andere experts van binnen en buiten de gemeente gesproken. We hopen deze versie binnenkort samen met andere overheden verder te verbeteren en te testen.
