(quest’articolo è una traduzione dell’originale inglese pubblicato da Fabio Chiusi e Nicolas Kayser-Bril per Algorithm Watch)

Mentre la pandemia di COVID-19 si diffonde a macchia d’olio nel mondo, molti si chiedono se e come usare modelli di decisione automatica per frenare l’epidemia.
Le soluzioni proposte e implementate nei vari Stati sono diverse, dal controllo sociale autoritario (Cina) a soluzioni decentralizzate che pongono maggiore attenzione alla privacy (il “Safe Path” del MIT).
Ne consegue un insieme di possibili principi e considerazioni su cui fondare una discussione informata, democratica e utile circa l’utilizzo dei sistemi di decisione automatica.

1. Il COVID-19 non è un problema tecnologico.

Le analisi delle risposte all’epidemia mostrano che gli interventi vincenti si fondano sempre su politiche più ampie di salute pubblica. Singapore, Corea del Sud e Taiwan, frequentemente citati come modelli nel contenimento dell’epidemia, avevano tutti già dei programmi in atto, la maggior parte dei quali progettati dopo l’epidemia di SARS del 2003. Essere preparati ad un’epidemia va oltre le soluzioni tecniche: significa avere risorse, competenze, piani, e la legittimità politica e la volontà di implementarle velocemente quando necessario.

2. Non esiste un’unica soluzione per l’epidemia di COVID-19.

Vincere la guerra contro il virus richiede l’esecuzione di test, il tracciamento del contatto sociale (contact tracing) e l’isolamento. Tuttavia, ogni contesto è a sé stante. Il caso di una nazione in cui il virus si è diffuso senza essere stato rilevato per mesi (come, per esempio, è successo in Italia) è diverso da quello in cui si è riusciti a identificare il virus fin dall’inizio (come in Corea del Sud). Differenze sociali, politiche e culturali giocano un ruolo chiave quando si tratta di rafforzare le politiche sanitarie. Questo significa che la stessa soluzione tecnologica potrebbe portare a risultati diversi in contesti diversi.

Di conseguenza,

3. Non c’è bisogno di ricorrere in modo affrettato alla sorveglianza digitale di massa per combattere il COVID-19.

Non è solo una questione di privacy — anche se la privacy resta un diritto fondamentale e deve essere rispettata. Prima di considerare le implicazioni sulla protezione dei dati nelle app per il contact tracing digitale, per esempio, dovremmo chiederci: prima di tutto, funzionano? I risultati della letteratura scientifica e delle epidemie passate sono contrastanti e dipendono fortemente dal contesto. I diritti devono essere bilanciati con i benefici attesi (salvare delle vite umane), ma non serve sacrificare le nostre libertà fondamentali se non c’è un motivo per farlo.

4. Dobbiamo pensare a come tornare gradualmente alla “normalità”.

L’isolamento non può durare all’infinito.
Gran parte degli scenari prevedono un qualche tipo di sorveglianza digitale, che sembra diventare necessaria una volta che specifici aspetti di COVID-19 sono presi in considerazione: l’esistenza di pazienti asintomatici che possono comunque essere contagiosi, i 14 giorni di incubazione, il fatto che non esistono ancora cure o vaccini. Le organizzazioni della società civile devono essere pronte a contribuire alla discussione sulle soluzioni di monitoraggio, per essere di supporto nella scelta di approcci adeguati.

5. La protezione dal COVID-19 e la protezione della privacy non sono mutualmente esclusive.

Soluzioni come quella sviluppata al MIT (‘Safe Paths’) e la Pan-European Privacy Preserving Proximity Tracing initiative affiancano il digital contact tracing ad un approccio aperto, decentralizzato e che pone maggiore attenzione alla tutela dei diritti. Questo è anche il modo in cui Stati come Singapore stanno affrontando la questione (per esempio attraverso l’app ‘TraceTogether’), che è diverso dall’approccio della Corea del Sud e di Israele.

6. Qualsiasi soluzione deve essere implementata in modo da essere compatibile con la democrazia.

La democrazia non è un ostacolo all’arresto della pandemia: è l’unica speranza che abbiamo per contrastarla razionalmente, rispettando i diritti di tutti. La trasparenza dovrebbe essere fondamentale per 1) le soluzioni tecnologiche a cui si sta lavorando, 2) le istituzioni specifiche o i team di esperti creati per affrontare il problema, 3) la dimostrazione del perché tali soluzioni dovrebbero essere implementate, 4) chi alla fine le svilupperà e rilascerà, specialmente in caso di coinvolgimento di enti privati. Solo la trasparenza assicurerà che la società civile e i parlamentari facciano sì che i decision-maker si assumano le proprie responsabilità.

7. Bisogna evitare nuove discriminazioni basate sui dati.

La datificazione che scaturisce dallo sviluppo dei modelli di decisione automatica per combattere il virus creerà nuove categorie sociali a rischio di discriminazione. I governi devono prevenire la stigmatizzazione degli individui finiti nelle categorie sbagliate e devono tutelare i diritti di coloro che non si posizionano abbastanza in alto rispetto ai criteri di valutazione utilizzati, soprattutto rispetto al triage in ambito sanitario.

8. Le soluzioni di sorveglianza digitale devono essere fermamente fondate su principi di protezione dei dati,

anche quando queste si rivelano realmente efficaci.
Come recentemente messo in chiaro in un comunicato del Comitato europeo per la Protezione dei Dati (EDPB), necessità, proporzionalità, limitazione della finalità e principio di legalità devono essere rispettati, anche in caso di emergenza della sanità pubblica. I cittadini devono essere in grado di appellarsi ad ogni decisione compiuta da sistemi automatici nel contesto del COVID-19 (specialmente applicazioni che determinano se qualcuno ha avuto contatti con una persona infetta e deve quindi rispettare la quarantena). I governi e gli imprenditori devono rispettare le disposizioni del GDPR.

9. Modelli già esistenti di decisione automatica non dovrebbero essere riadattati a esigenze legate al COVID-19.

Essendo questi sistemi automatici basati su dati del passato, non saprebbero gestire — per ragioni di progettazione — un improvviso cambiamento delle condizioni in cui vengono impiegati. I modelli previsionali (predictive policing), l’assistenza automatica ai giudici, il credit scoring e i punteggi di altri modelli di decisione automatica possono produrre risultati che sono ben al di sotto della media (per esempio, riguardo ai livelli di errore). Tali sistemi dovrebbero essere urgentemente controllati o sospesi.

10. Una pandemia è globale per definizione. E richiede risposte globali, diversificate e coordinate.

Una rete globale di organizzazioni della società civile, lavorando insieme, dovrebbe monitorare le risposte alla pandemia. Emergenze precedenti ci hanno insegnato che le situazioni emergenziali offrono a leader politici senza scrupoli la scusa perfetta per legittimare infrastrutture di sorveglianza di massa che, senza alcun bisogno — e a tempo indeterminato — infrangono i diritti di tutti. La resistenza a questo tipo di situazione è stata (parzialmente) efficace solo quando globale, coordinata, ribadita con chiarezza comunicativa ed evidenza fattuale

Infine,

11. dobbiamo assicurarci che il dibattito sulla sorveglianza dovuta al COVID-19 non cada nel vuoto.

Alcuni modelli di decisione automatica, tra cui quelli più noti di riconoscimento facciale, si sono già dimostrati problematici. L’attuale stato emergenziale non può essere usato per giustificarne l’impiego: al contrario, tutti i problemi evidenziati in tempi “ordinari” — mancanza di accuratezza, bias ricorrenti, più ampie preoccupazioni riguardo i possibili abusi di dati biometrici etc. — diventano ancora più importanti in tempi eccezionali, quando la salute e la sicurezza di tutti sono a rischio. Non dovremmo essere sicuri soltanto che questo dibattito cruciale non sia condotto da tecnici o tecnologie, ma anche assicurarci che le tecnologie coinvolte si siano dimostrate positive per la società. La sospensione delle comunicazioni dal vivo fornisce l’opportunità di trasferire online il welfare e altri servizi essenziali, dove modelli di decisione automatica spesso sostituiscono i lavoratori umani. Questo potrebbe avere conseguenze catastrofiche per i cittadini che non hanno accesso o mezzi per comprendere in modo critico gli strumenti digitali. Dobbiamo impegnarci affinché questo non accada.

(Hanno lavorato a questa traduzione: Elisabetta Betti, Stefano Capezzuto, Marta Marchiori, Ludovica Pannitto)

Come far coesistere tecnologia e diritti nella lotta contro COVID-19 was originally published in KRINO.org on Medium, where people are continuing the conversation by highlighting and responding to this story.

Le nuove regole

Facebook ha annunciato che smetterà di applicare le proprie regole di moderazione dei contenuti a tutti i post pubblicati da politici. La notizia arriva il 24 settembre tramite un comunicato stampa di Nick Clegg, ex politico britannico nominato l’anno scorso capo della comunicazione dell’azienda.

D’ora in poi, qualunque post scritto da un politico non verrà più sottoposto al processo di valutazione a cui devono sottostare tutti gli altri utenti, fatta eccezione soltanto per i contenuti che possano “causare violenza e danni nel mondo reale” e per quelli sponsorizzati.

Questa esenzione si va ad aggiungere a quella precedente sul fact checking, in vigore ormai da un anno: se un politico diffonde una notizia falsa, il social network non interviene in alcun modo, a meno che il post non includa un link, una foto o un video precedentemente segnalati come falsi.

I sistemi di moderazione dei contenuti sui social network sono molto complicati. Piattaforme come Facebook, Twitter o Instagram hanno regolamenti di moderazione molto estesi e il lavoro di rimozione è talmente complesso da non poter essere gestito da algoritmi automatici.

In realtà già in passato molti post di politici o personaggi pubblici in aperta violazione dei regolamenti non sono stati rimossi dalle piattaforme. È ben noto il caso dei tweet di Donald Trump, ma anche su Facebook sono moltissimi i casi di contenuti offensivi o violenti che restano online, nonostante le proteste di molti utenti, solo perché l’autore è una persona influente.

I social network giustificano questa mancata reazione sostenendo che il post di un politico fa notizia, perciò è importante per gli altri utenti poterlo leggere e commentare. Se venisse rimosso, dicono, si tratterebbe di un’interferenza illegittima nei sistemi democratici dei vari paesi.

Ecco quindi la ragione dell’annuncio di oggi, che istituzionalizza e rende pubblica una serie di regole non scritte che di fatto venivano applicate già da tempo. Si crea d’ora in poi una nuova classe di utenti privilegiati che non dovranno sottostare alle regole in vigore per tutti gli altri.

Le motivazioni di Facebook

Nel comunicato, Clegg spiega che Facebook si trova in una posizione scomoda: è chiamata a fare da censore sui contenuti degli utenti, ma al tempo stesso deve garantire la libertà di espressione politica sulla propria piattaforma, altrimenti si troverebbe a interferire con la democrazia.

Scrive Clegg:

In Facebook, il nostro ruolo è di assicurarci che ci sia parità di condizioni, non di partecipare noi stessi alla politica. Per fare un’analogia con il tennis, il nostro lavoro è di garantire che il campo di gioco sia pronto — la superficie piatta, le linee tracciate, la rete alla giusta altezza. Ma non prendiamo la racchetta e cominciamo a giocare. Il modo in cui i giocatori giocano la partita dipende da loro, non da noi.

Rimanendo nel paragone proposto da Clegg, il punto è che Facebook non fornisce soltanto il campo da gioco (la piattaforma) ma anche le regole del gioco stesso (le linee guida di Facebook), facendosi infine arbitro delle partite (moderando le conversazioni degli utenti). Decidere oggi che tali regole non si applicheranno per alcuni giocatori “speciali”, significa di fatto favorirli nel confronto pubblico con i cittadini comuni.

Al posto di introdurre una misura che di fatto protegge i potenti, sarebbe forse stato il caso di valutare soluzioni per attenuarne il potere sui social ed aprirli ad un confronto diretto con gli elettori.

Come accennavamo sopra, Clegg sostiene che sia importante non censurare il post di un politico per consentire agli utenti di leggerlo e commentarlo. Dimentica però che i politici hanno oggi il potere di bloccare i propri follower, rendendo così invisibili i loro commenti. Non è raro infatti leggere, sotto al post di un politico, quasi soltanto commenti di sostegno e di elogio una volta che le voci di dissenso sono state oscurate; tale potere — che annulla le possibilità di contraddittorio — non sembra favorire il dibattito pubblico, in contraddizione con le intenzioni espresse da Facebook. Anzi, secondo Bruno Saetta, avvocato e blogger di Valigia Blu, potrebbe rappresentare una vera e propria violazione della libertà di espressione.

I rischi per la democrazia

In conclusione, sostenere che questa misura sia volta a preservare il processo democratico appare alquanto paradossale. Tale decisione rischia, invece, di creare una frattura tra utenti comuni, che devono rispondere a determinate regole, e una classe privilegiata composta di politici, che può ignorarle senza ripercussioni. È curioso poi che l’annuncio arrivi proprio per bocca di un ex politico.

È legittimo chiedersi se questa scelta di Facebook, giustificata in nome della difesa della democrazia “nel mondo reale”, non avrà invece conseguenze negative per la democrazia in rete.

Ad esempio, è possibile che chi vuole diffondere messaggi di odio o notizie false tenti di sfruttare il nuovo regolamento nascondendosi dietro la categoria “politico”, con la certezza che nessuno interverrà.

Inoltre, non è chiaro chi abbia il compito di decidere se una persona appartenga o no a tale categoria, e in base a quali criteri: solo chi è eletto? Chi è dirigente di un partito? Oppure semplicemente chi si auto-identifica come politico e ha un certo numero di follower?

Facebook ha oggi due miliardi di utenti, più degli abitanti di qualunque paese del mondo, ma le sue regole vengono decise da una manciata di persone in California. Quanto può essere credibile un’organizzazione di questo tipo, quando parla di difesa della democrazia?

Forse è giunto il momento di pensare a nuovi modelli di governance che rendano le grandi comunità online più democratiche: ad esempio, coinvolgere gli utenti nella scrittura delle regole, consultarli sulle grandi decisioni che li riguardano, o perfino consentire l’elezione di rappresentanti che sostengano i loro interessi nei confronti dell’azienda che gestisce il social network.

Finché ciò non avverrà, rimarrà il sospetto che questo tipo di decisioni non venga preso davvero per il bene della democrazia, ma piuttosto per favorire qualcuno, oppure semplicemente per portare avanti gli interessi economici di chi gestisce la piattaforma.

La scelta di Facebook di non moderare più i post dei politici non aiuterà la democrazia was originally published in KRINO.org on Medium, where people are continuing the conversation by highlighting and responding to this story.