-
chevron_right
Lo Stato Sociale Digitale
pubsub.sabatino.cloud / la-pagina-giuridica • 6 novembre 2026 • 5 minuti
Capitolo estratto dal Libro Bianco dei Giuristi Democratici - Ed. 2023. Mi sono occupato come curatore e coordinatore della redazione di questo articolo.
Link al capitolo del Libro Bianco ed. 2023
Parte Prima
a) Premessa
Nel mese di ottobre del 2019 è stato presentato all'ONU il rapporto del relatore speciale sulla povertà estrema e i diritti umani, Philip Alston. Il rapporto è dedicato all'allarme per i diritti umani derivante dall'abuso della digitalizzazione nel campo della protezione sociale.
Lo stato sociale digitale è un complesso ed eterogeneo insieme di interventi totalmente o quasi interamente governati dal software e da sistemi automatizzati. Come riferisce il rapporto i sistemi di protezione sociale e di assistenza sono sempre più dipendenti dai dati digitali e dalle tecnologie che vengono utilizzate per automatizzare, prevedere, individuare, sorvegliare, rilevare il bersaglio e punire. I commentatori hanno predetto un futuro in cui le agenzie governative potrebbero effettivamente legiferare con i robot, ed è evidente che stanno emergendo nuove forme di governance che si basano in modo significativo sull'elaborazione di grandi quantità di dati digitali da tutte le fonti disponibili, utilizzano l'analisi predittiva per prevedere il rischio, automatizzare il processo decisionale e rimuovere la discrezionalità dalle decisioni umane. In un mondo del genere, i cittadini diventano sempre più visibili al loro governo, ma non il contrario.
Il rapporto osserva che nei paesi dove questi sistemi sono stati implementati, lo stato sociale digitale viene presentato come una creatura benigna, foriera di efficienza, riduzione dei costi e di un livello più alto dei servizi. In realtà la digitalizzazione dei sistemi di welfare è stata spesso accompagnata da profonde riduzioni di budget complessivo, un restringimento della platea di beneficiari, l'eliminazione di alcuni servizi, l'introduzione di forme esigenti e intrusive di valutazione dei requisiti di accesso ai benefici, il perseguimento di obiettivi di modifica dei modelli di comportamento, l'imposizione di regimi sanzionatori più forti e una completa inversione della nozione tradizionale secondo cui lo stato dovrebbe essere responsabile nei confronti dell'individuo.
Insomma, siamo in presenza di una sorta di neoliberismo strisciante mascherato da buon samaritano digitale con effetti fortemente regressivi che riflette valori e ipotesi che sono molto lontani dai principi dei diritti umani e che possono risultarvi addirittura antitetici.
La minaccia di un futuro distopico è particolarmente significativa rispetto al tema dello stato digitale. Il rapporto presenta un resoconto sistematico dei modi in cui le tecnologie digitali vengono utilizzate nello stato sociale e delle loro implicazioni per i diritti umani. Il documento si conclude chiedendo la regolamentazione delle tecnologie digitali, compresa l'intelligenza artificiale, per garantire il rispetto dei diritti umani e un ripensamento dei modi positivi in cui lo stato sociale digitale possa divenire uno strumento potente per il raggiungimento di un effettivo miglioramento dei sistemi di protezione sociale.
b) La verifica dell'identità
Quello della verifica dell'identità della popolazione è stato considerato uno dei fattori strategici e di sviluppo. In effetti in moltissime aree del mondo gran parte della popolazione non possiede un documento di identità e non sono stati adottati sistemi efficienti di registrazione delle nascite. La Banca Mondiale ha attivato dei programmi di finanziamento finalizzate alla promozione ed all'implementazione di tecnologie digitali per la registrazione anagrafica e l'identificazione. Pur essendo innegabili i benefici di tali interventi, esistono dei pericoli intrinseci al funzionamento di questi sistemi informatici, talvolta basati su tecnologie di riconoscimento biometrico, che possono mettere a repentaglio la sicurezza dei dati personali della popolazione oppure essere utilizzati come tecnologie di controllo di massa o, più semplicemente, possono funzionare male mettendo a repentaglio anche la vita di esseri umani. In India ad esempio è stato introdotto dal 2009 un gigantesco sistema di riconoscimento biometrico che ad oggi coinvolge oltre 1,2 miliardi di persone.
Raccolte di massa di dati biometrici e DNA si riscontrano in Kenia, Sudafrica, Argentina, Bangladesh, Cile, Irlanda, Giamaica, Malesia, Filippine e Stati Uniti.
Nel nostro ordinamento l'art. 9 del GDPR riguarda proprio il trattamento dei dati biometrici, che è generalmente vietato ma risulta ammesso se si verificano i casi previsto al paragrafo 2 (vedi in particolare le lettere b), g), h), i).
c) La valutazione dei requisiti di ammissibilità alle prestazioni assistenziali
I sistemi automatici di valutazione dei requisiti di ammissibilità alle prestazioni assistenziali sono sempre più utilizzati. Nello stato canadese dell'Ontario l'accesso al sistema di assistenza sociale si basava su un software IBM denominato Curam. Il software è stato usato anche negli Stati Uniti, in Germania, Australia e Nuova Zelanda ed è personalizzabile. Ebbene, questo software, a causa di un errore di programmazione, ha letteralmente tagliato le prestazioni per una somma pari a 140 milioni di dollari a fronte di un totale di budget pari a 290 milioni. Prestazioni quindi dimezzate per un errore di programmazione con conseguente panico per i beneficiari e per i pochi operatori umani destinati a risolvere la faccenda.
Nello stato dell'Illinois, riporta il Guardian, il governo ha richiesto il rimborso di sussidi asseritamente pagati in eccesso, relativi in alcuni casi a 30 anni fa. Questi “rimborsi zombie”, decisi sinteticamente dai programmi per elaboratore, stanno mettendo nel panico gli strati più deboli della società. Nel Regno Unito si investono milioni di sterline in un progetto di “robot assistenziali” per sostituire gli umani nella cura delle persone bisognose. In Australia, si usa l'automazione per sospendere, senza preavviso, i sussidi sociali. In India è stato introdotto un sistema di riconoscimento biometrico per l'erogazione delle razioni di sussistenza alimentare.
Questi sono solo alcuni esempi delle distorsioni derivanti da un uso sconsiderato delle tecnologie e dell'automazione governata da algoritmi e senza la supervisione dell'uomo.
d) Il primato del diritto sul codice informatico: code is not law
A tal riguardo è di particolare interesse la sentenza N. 10964/2019 del TAR Lazio. Secondo il TAR, sul solco già tracciato precedentemente dal Consiglio di Stato, in materia di procedimento amministrativo l'intervento umano è necessario e non potrà mai essere completamente sostituito dal sistema automatizzato.
Il meccanismo informatico o matematico è infatti del tutto impersonale e orfano di capacità valutazionali delle singole fattispecie concrete, tipiche invece della tradizionale e garantistica istruttoria procedimentale che deve informare l'attività amministrativa.
Alle procedure informatiche va riservato quindi un ruolo strumentale e meramente ausiliario in seno al procedimento amministrativo e giammai dominante o surrogatorio dell'attività dell'uomo; ostando il presidio costituito dal baluardo dei valori costituzionali scolpiti negli artt. 3, 24, 97 della Costituzione oltre che all'art. 6 della Convezione europea dei diritti dell'uomo, alla deleteria prospettiva orwelliana di dismissione delle redini della funzione istruttoria e di abdicazione a quella provvedimentale.
Le decisioni della giustizia amministrativa italiana sono di fondamentale importanza perché riaffermano il primato dell'uomo e di una delle sue più sofisticate ed evolute creazioni, il diritto. Se ne sentiva il bisogno ma bisogna restare vigili.
e) Proposta
Occorre una regolamentazione dell'uso delle tecnologie digitali, compresi i sistemi esperti digitali - impropriamente definiti come intelligenza artificiale (n.d.r. al momento della redazione del testo non erano ancora noti ai più i LLM ed i cd. agenti artificiali)– da intendersi esclusivamente come ausilio all'intervento dell'uomo, per garantire il rispetto dei diritti fondamentali e un ripensamento dei modi positivi in cui lo stato sociale digitale possa divenire uno strumento potente per il raggiungimento di un effettivo miglioramento dei sistemi di protezione.
Questo scritto è soggetto alla seguente licenza: CC Attribution-Share Alike 4.0 International - © Associazione Giuristi Democratici