I dipartimenti governativi in tutto il Sudafrica si affidano sempre più a strumenti digitali per valutare i programmi pubblici e monitorare le prestazioni. Questo fa parte di riforme più ampie del settore pubblico. I loro obiettivi sono migliorare la responsabilità, rispondere alla pressione degli audit e gestire programmi su larga scala con personale e budget limitati.
Ecco un esempio. I dipartimenti nazionali che monitorano la consegna di alloggi, le sovvenzioni sociali o l'implementazione delle infrastrutture si affidano a sistemi di prestazioni digitali piuttosto che a report periodici cartacei. Le dashboard – un modo per mostrare dati visivi in un unico posto – forniscono aggiornamenti quasi in tempo reale sulla fornitura di servizi.
Un altro è l'uso di piattaforme che raccolgono dati mobili. Questi permettono a funzionari in prima linea e appaltatori di caricare informazioni direttamente dal campo.
Entrambi gli esempi si prestano all'uso dell'intelligenza artificiale (IA) per elaborare grandi dataset e generare informazioni che in precedenza avrebbero richiesto mesi per essere analizzate.
Questo cambiamento è spesso rappresentato come un passo avanti per la responsabilità e l'efficienza nel settore pubblico.
Sono uno studioso di politiche pubbliche con un interesse speciale nel monitoraggio e nella valutazione dei programmi governativi. La mia recente ricerca mostra una tendenza preoccupante, che il passaggio alla tecnologia si sta svolgendo molto più rapidamente dei quadri etici e di governance destinati a regolarlo.
Tra i casi che ho esaminato, gli strumenti digitali erano già incorporati nei processi di monitoraggio e valutazione di routine. Ma non c'erano standard chiari che guidassero il loro uso.
Questo presenta rischi legati a sorveglianza, esclusione, uso improprio dei dati e scarso giudizio professionale. Questi rischi non sono astratti. Determinano come i cittadini sperimentano lo stato, come vengono gestiti i loro dati e quali voci contano in definitiva nelle decisioni politiche.
Quando la tecnologia supera la politica
La valutazione del settore pubblico implica la valutazione di programmi e politiche governative. Determina se:
- le risorse pubbliche sono utilizzate efficacemente
- i programmi raggiungono i risultati previsti
- i cittadini possono ritenere lo stato responsabile delle prestazioni.
Tradizionalmente, queste valutazioni si basavano sull'impegno faccia a faccia tra comunità, valutatori, governo e altri. Includevano metodi qualitativi che consentivano sfumature, spiegazioni e costruzione di fiducia.
Gli strumenti digitali hanno cambiato questo.
Nella mia ricerca, ho intervistato valutatori in governo, ONG, accademia, associazioni professionali e società di consulenza private. Ho trovato una preoccupazione costante in tutti i settori. I sistemi digitali vengono spesso introdotti senza una guida etica adattata alla pratica di valutazione.
La guida etica fornirebbe regole chiare e pratiche su come gli strumenti digitali vengono utilizzati nelle valutazioni. Ad esempio, quando si utilizzano dashboard o analisi automatizzate dei dati, la guida dovrebbe richiedere ai valutatori di spiegare come vengono generati i dati, chi ha accesso ad essi e come i risultati possono influenzare le comunità valutate. Dovrebbe anche impedire l'uso di sistemi digitali per monitorare individui senza consenso o per classificare programmi in modi che ignorano il contesto.
Il Protection of Personal Information Act del Sudafrica fornisce un quadro giuridico generale per la protezione dei dati. Ma non affronta i dilemmi etici specifici che sorgono quando la valutazione diventa automatizzata, basata su cloud computing e mediata algoritmicamente.
Il risultato è che i valutatori sono spesso lasciati a navigare in un terreno etico complesso senza standard chiari. Questo costringe le istituzioni a fare affidamento su precedenti, abitudini informali, pratiche passate e impostazioni predefinite del software.
Sorveglianza progressiva e uso improprio dei dati
Le piattaforme digitali rendono possibile la raccolta di grandi volumi di dati. Una volta che i dati vengono caricati su sistemi basati su cloud computing o piattaforme di terze parti, il controllo sulla loro archiviazione, riutilizzo e condivisione si sposta frequentemente dai valutatori ad altri.
Diversi valutatori hanno descritto situazioni in cui i dati che avevano raccolto per conto di dipartimenti governativi sono stati successivamente riutilizzati dai dipartimenti o da altre agenzie statali. Questo è stato fatto senza la consapevolezza esplicita dei partecipanti. I processi di consenso negli ambienti digitali sono spesso ridotti a un singolo clic.
Esempi di altri usi includevano altre forme di analisi, reporting o monitoraggio istituzionale.
Uno dei rischi etici emersi dalla ricerca era l'uso di questi dati per la sorveglianza. Questo è l'uso dei dati per monitorare individui, comunità o lavoratori in prima linea.
Esclusione digitale e voci invisibili
Gli strumenti di valutazione digitale sono spesso presentati come espansione della portata e della partecipazione. Ma in pratica, possono escludere gruppi già emarginati. Le comunità con accesso limitato a Internet, bassa alfabetizzazione digitale, barriere linguistiche o infrastrutture inaffidabili hanno meno probabilità di partecipare pienamente alle valutazioni digitali.
Gli strumenti automatizzati hanno limitazioni. Ad esempio, possono avere difficoltà a elaborare dati multilingue, accenti locali o forme di espressione culturalmente specifiche. Questo porta a rappresentazioni parziali o distorte dell'esperienza vissuta. I valutatori nel mio studio hanno visto questo accadere nella pratica.
Questa esclusione ha conseguenze gravi specialmente in un paese con disuguaglianza come il Sudafrica. Le valutazioni che si basano fortemente su strumenti digitali potrebbero trovare popolazioni urbane e connesse e rendere statisticamente invisibili le comunità rurali o informali.
Questo non è semplicemente un limite tecnico. Determina quali bisogni vengono riconosciuti e quali esperienze informano le decisioni politiche. Se i dati di valutazione sottorappresentano i più vulnerabili, i programmi pubblici possono apparire più efficaci di quanto non siano. Questo maschera i fallimenti strutturali piuttosto che affrontarli.
Nel mio studio, alcune valutazioni hanno riportato tendenze di prestazioni positive nonostante i valutatori notassero lacune nella raccolta dei dati.
Gli algoritmi non sono neutrali
I valutatori hanno anche sollevato preoccupazioni sull'autorità crescente concessa agli output algoritmici. Dashboard, report automatizzati e analisi basate su IA sono spesso trattati come la vera immagine. Questo accade anche quando sono in conflitto con la conoscenza basata sul campo o la comprensione contestuale.
Ad esempio, le dashboard possono mostrare un obiettivo come in linea. Ma in un esempio di visita al sito, i valutatori possono trovare difetti o insoddisfazione.
Diversi partecipanti hanno riportato pressioni da parte di finanziatori o istituzioni per fare affidamento sull'analisi dei numeri.
Tuttavia, gli algoritmi riflettono le ipotesi, i dataset e le priorità incorporate nel loro design. Quando applicati acriticamente, possono riprodurre pregiudizi, semplificare eccessivamente le dinamiche sociali e ignorare le intuizioni qualitative.
Se i sistemi digitali dettano come i dati devono essere raccolti, analizzati e riportati, i valutatori rischiano di diventare tecnici e non professionisti indipendenti che esercitano il giudizio.
Perché l'Africa ha bisogno di un'etica sensibile al contesto
In tutta l'Africa, le strategie e le politiche nazionali sulle tecnologie digitali spesso prendono in prestito pesantemente dai quadri internazionali. Questi sono sviluppati in contesti molto diversi. I principi globali sull'etica dell'IA e sulla governance dei dati forniscono punti di riferimento utili. Ma non affrontano adeguatamente le realtà di disuguaglianza, sfiducia storica e accesso digitale disomogeneo in gran parte del settore pubblico africano.
La mia ricerca sostiene che la governance etica per la valutazione digitale deve essere sensibile al contesto. Gli standard devono affrontare:
- come viene ottenuto il consenso
- chi possiede i dati di valutazione
- come vengono selezionati e verificati gli strumenti algoritmici
- come viene protetta l'indipendenza del valutatore.
I quadri etici devono essere incorporati nella fase di progettazione dei sistemi digitali.
Lesedi Senamele Matlala, Senior Lecturer and Researcher in Public Policy, Monitoring and Evaluations, University of Johannesburg
Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi l'articolo originale.
