Overheidsdiensten in heel Zuid-Afrika vertrouwen steeds meer op digitale tools om openbare programma's te evalueren en prestaties te monitoren. Dit maakt deel uit van bredere hervormingen in de publieke sector. Hun doelen zijn het verbeteren van verantwoordingsplicht, reageren op auditdruk en het beheren van grootschalige programma's met beperkt personeel en budgetten.
Hier is een voorbeeld. Nationale departementen die huisvestingslevering, sociale uitkeringen of infrastructuuruitrol volgen, vertrouwen op digitale prestatiesystemen in plaats van periodieke papieren rapporten. Dashboards – een manier om visuele gegevens op één plek te tonen – bieden bijna realtime updates over dienstverlening.
Een ander voorbeeld is het gebruik van platforms die mobiele gegevens verzamelen. Deze stellen eerstelijnsfunctionarissen en aannemers in staat om informatie rechtstreeks vanuit het veld te uploaden.
Beide voorbeelden lenen zich voor het gebruik van kunstmatige intelligentie (AI) om grote datasets te verwerken en inzichten te genereren die voorheen maanden zouden hebben gekost om te analyseren.
Deze verschuiving wordt vaak gepresenteerd als een stap voorwaarts voor verantwoordingsplicht en efficiëntie in de publieke sector.
Ik ben een onderzoeker op het gebied van openbaar beleid met een speciale interesse in monitoring en evaluatie van overheidsprogramma's. Mijn recente onderzoek toont een zorgwekkende trend: de verschuiving naar technologie vindt veel sneller plaats dan de ethische en bestuurlijke kaders die bedoeld zijn om dit te reguleren.
In alle gevallen die ik heb onderzocht, waren digitale tools al ingebed in routinematige monitoring- en evaluatieprocessen. Maar er waren geen duidelijke normen die hun gebruik leidden.
Dit brengt risico's met zich mee rondom surveillance, uitsluiting, misbruik van gegevens en slecht professioneel oordeel. Deze risico's zijn niet abstract. Ze bepalen hoe burgers de staat ervaren, hoe hun gegevens worden behandeld en wiens stemmen uiteindelijk meetellen in beleidsbeslissingen.
Wanneer technologie het beleid voorbijstreeft
Evaluatie van de publieke sector omvat het beoordelen van overheidsprogramma's en beleid. Het bepaalt of:
- publieke middelen effectief worden gebruikt
- programma's hun beoogde resultaten bereiken
- burgers de staat verantwoordelijk kunnen houden voor prestaties.
Traditioneel vertrouwden deze evaluaties op face-to-face betrokkenheid tussen gemeenschappen, evaluatoren, overheid en anderen. Ze omvatten kwalitatieve methoden die ruimte lieten voor nuance, uitleg en vertrouwensopbouw.
Digitale tools hebben dit veranderd.
In mijn onderzoek interviewde ik evaluatoren bij de overheid, ngo's, academische instellingen, beroepsverenigingen en particuliere adviesbureaus. Ik vond een consistente zorg over de hele linie. Digitale systemen worden vaak geïntroduceerd zonder ethische richtlijnen die zijn afgestemd op evaluatiepraktijk.
Ethische richtlijnen zouden duidelijke, praktische regels bieden voor hoe digitale tools worden gebruikt in evaluaties. Bijvoorbeeld, bij het gebruik van dashboards of geautomatiseerde data-analyses, zouden richtlijnen van evaluatoren moeten eisen dat ze uitleggen hoe gegevens worden gegenereerd, wie er toegang toe heeft en hoe bevindingen de te evalueren gemeenschappen kunnen beïnvloeden. Het zou ook het gebruik van digitale systemen moeten voorkomen om individuen te monitoren zonder toestemming of om programma's te rangschikken op manieren die de context negeren.
Zuid-Afrika's Protection of Personal Information Act biedt een algemeen juridisch kader voor gegevensbescherming. Maar het behandelt niet de specifieke ethische dilemma's die ontstaan wanneer evaluatie geautomatiseerd, cloudgebaseerd en algoritmisch gemedieerd wordt.
Het resultaat is dat evaluatoren vaak door complex ethisch terrein moeten navigeren zonder duidelijke normen. Dit dwingt instellingen om te vertrouwen op precedenten, informele gewoonten, praktijken uit het verleden en softwarestandaardinstellingen.
Sluipende surveillance en gegevensmisbruik
Digitale platforms maken het mogelijk om grote hoeveelheden gegevens te verzamelen. Zodra gegevens zijn geüpload naar cloudgebaseerde systemen of platforms van derden, verschuift de controle over opslag, hergebruik en delen ervan vaak van de evaluatoren naar anderen.
Verschillende evaluatoren beschreven situaties waarin gegevens die ze namens overheidsdiensten hadden verzameld, later werden hergebruikt door de departementen of andere overheidsinstanties. Dit gebeurde zonder expliciete medeweten van de deelnemers. Toestemmingsprocessen in digitale omgevingen worden vaak teruggebracht tot een enkele klik.
Voorbeelden van ander gebruik omvatten andere vormen van analyse, rapportage of institutionele monitoring.
Een van de ethische risico's die uit het onderzoek naar voren kwam, was het gebruik van deze gegevens voor surveillance. Dit is het gebruik van gegevens om individuen, gemeenschappen of eerstelijnwerkers te monitoren.
Digitale uitsluiting en onzichtbare stemmen
Digitale evaluatietools worden vaak gepresenteerd als middelen om bereik en participatie uit te breiden. Maar in de praktijk kunnen ze reeds gemarginaliseerde groepen uitsluiten. Gemeenschappen met beperkte internettoegang, lage digitale geletterdheid, taalbarrières of onbetrouwbare infrastructuur zullen minder snel volledig deelnemen aan digitale evaluaties.
Geautomatiseerde tools hebben beperkingen. Ze kunnen bijvoorbeeld moeite hebben met het verwerken van meertalige gegevens, lokale accenten of cultureel specifieke uitdrukkingsvormen. Dit leidt tot gedeeltelijke of vertekende representaties van geleefde ervaring. Evaluatoren in mijn studie zagen dit in de praktijk gebeuren.
Deze uitsluiting heeft ernstige gevolgen, vooral in een land met ongelijkheid zoals Zuid-Afrika. Evaluaties die sterk vertrouwen op digitale tools kunnen stedelijke, verbonden bevolkingsgroepen vinden en landelijke of informele gemeenschappen statistisch onzichtbaar maken.
Dit is niet slechts een technische beperking. Het bepaalt welke behoeften worden erkend en wiens ervaringen beleidsbeslissingen informeren. Als evaluatiegegevens de meest kwetsbaren ondervertegenwoordigen, kunnen openbare programma's effectiever lijken dan ze zijn. Dit maskeert structurele tekortkomingen in plaats van ze aan te pakken.
In mijn studie rapporteerden sommige evaluaties positieve prestatietrends, ondanks dat evaluatoren hiaten in de gegevensverzameling constateerden.
Algoritmen zijn niet neutraal
Evaluatoren uitten ook zorgen over het groeiende gezag dat wordt toegekend aan algoritmische output. Dashboards, geautomatiseerde rapporten en AI-gedreven analyses worden vaak behandeld als het ware beeld. Dit gebeurt zelfs wanneer ze in strijd zijn met veldkennis of contextueel begrip.
Dashboards kunnen bijvoorbeeld een doel als 'on track' weergeven. Maar bij een bezoek ter plaatse kunnen evaluatoren gebreken of ontevredenheid vinden.
Verschillende deelnemers meldden druk van financiers of instellingen om te vertrouwen op de analyse van de cijfers.
Toch weerspiegelen algoritmen de aannames, datasets en prioriteiten die in hun ontwerp zijn ingebed. Wanneer ze kritiekloos worden toegepast, kunnen ze vooroordelen reproduceren, sociale dynamiek te veel vereenvoudigen en kwalitatief inzicht negeren.
Als digitale systemen dicteren hoe gegevens moeten worden verzameld, geanalyseerd en gerapporteerd, lopen evaluatoren het risico technici te worden en niet onafhankelijke professionals die hun oordeel uitoefenen.
Waarom Afrika contextgevoelige ethiek nodig heeft
In heel Afrika lenen nationale strategieën en beleid over digitale technologieën vaak zwaar van internationale kaders. Deze zijn ontwikkeld in zeer verschillende contexten. Mondiale principes over AI-ethiek en data-governance bieden nuttige referentiepunten. Maar ze behandelen niet adequaat de realiteit van ongelijkheid, historisch wantrouwen en ongelijke digitale toegang in een groot deel van Afrika's publieke sector.
Mijn onderzoek stelt dat ethisch bestuur voor digitale evaluatie contextgevoelig moet zijn. Normen moeten het volgende aanpakken:
- hoe toestemming wordt verkregen
- wie eigenaar is van evaluatiegegevens
- hoe algoritmische tools worden geselecteerd en geaudit
- hoe de onafhankelijkheid van evaluatoren wordt beschermd.
Ethische kaders moeten worden ingebed in de ontwerpfase van digitale systemen.
Lesedi Senamele Matlala, Senior Docent en Onderzoeker in Openbaar Beleid, Monitoring en Evaluaties, University of Johannesburg
Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.
