"I paradossi della sorveglianza anonima" su Motherboard
Può un'app renderci più sicuri? E a quale costo? Su Motherboard Italia mi immergo nelle acque della disintermediazione, a caccia deo paradossi della sorveglianza anonima.
Il mindset tecnottimista ha elevato la disintermediazione a pardigma contemporaneo dell'innovazione. Sono così fiorite app e tecnologie che si propongono di destituire i vecchi gatekeeper in quasi ogni aspetto della nostra vita.
La sicurezza non fa eccezione; e così proliferano app che dichiarano di contribuire a combattere crimine e degrado. Ma quali rischi e paradossi si devono affrontare quando ci si propone di disintermediare la sicurezza?
Sulla versione italiana di Motherboard, il magazine tecnologico di Vice, ho provato a rispondere a questa domanda partendo da alcune problematiche poste da Shelly, un'app per la sicurezza sviluppata in Alto Adige.
Come in altri casi, la ricerca di una soluzione tecnologica ai problemi sociali non sembra riuscire ad andare mai oltre alla cornice di riferimento per offrire una soluzione che non sia già implicata nelle premesse del problema stesso, attivando così un circuito di problem closure—ovvero l’abitudine mentale definita dai sociologi che impedisce di cercare le soluzioni di un problema al di fuori dei paradigmi posti dal problema stesso.
Flavio Pintarelli
Continua a leggere "I paradossi della sorveglianza anonima" su Motherboard
25/02/2024 - Data l'imminente chiusura di Vice riporto l'articolo integrale.
A Bolzano una start-up vuole rivoluzionare la sicurezza urbana consegnando la sorveglianza ai cittadini — Non sembra una grande idea.
I suoi creatori l'hanno battezzata Shelly, ma non si tratta della protagonista di un telefilm ambientato negli Stati Uniti d'America—è il nome di una app che "ti aggiorna in tempo reale sulle situazioni di potenziale pericolo attorno a te e ai luoghi che ti stanno a cuore".
In pratica si tratta di un software che consente a chi lo usa di segnalare anonimamente situazioni di pericolo, che verranno poi notificate agli altri utenti in base a una serie di punti denominati "SENTINELLE" e collocati su una mappa del territorio. Lo scopo che i creatori di Shelly dichiarano, presentandola sugli store da cui potete scaricarla, è quello di dare all'utente la possibilità di restare "sempre aggiornato su ciò che accade nella zona in cui ti trovi e nei pressi dei luoghi e delle persone a te care".
Persone sospette, moleste o pericolose—rifiuti abbandonati, atti vandalici, bullismo, eventi atmosferici, manifestazioni, risse, scippi e rapine sono solo alcune delle situazioni di pericolo che si possono segnalare usando l'applicazione. A svilupparla è stata la start-up trentina Top Evolution Srl, in collaborazione con l'associazione bolzanina "Sicurezza e Legalità" che l'ha presentata qualche settimana fa.
Sembra quasi che il titolo perfetto per una notizia del genere sia, "Arriva Shelly, l'Uber della sicurezza". Al di là del fatto che Shelly non è la prima e non sarà l'unica app sviluppata per combattere il crimine e il degrado, scegliendo quel titolo non avrei sbagliato paragone—ci troviamo infatti nel territorio della disintermediazione, ovvero di quella tendenza a trasferire verso nuovi soggetti (generalmente aziende private del settore tecnologico) il ruolo di intermediario di un servizio prima affidato o al pubblico o a un altro soggetto privato, generalmente descritti come tradizionalisti, se non obsoleti.
Tuttavia non dobbiamo dare per scontato, come fanno molti tecnoentusiasti, che la disintermediazione di un servizio sia necessariamente una dinamica positiva. Tutt'altro, spesso alle logiche di disintermediazione si accompagnano problemi notevoli che finiscono per essere sottovalutati da una retorica superficiale e semplicistica. Shelly non fa eccezione a questa regola e infatti il primo, grande problema intorno all'utilizzo di quest'applicazione emerge in una video intervista rilasciata al quotidiano Alto Adige da Francesco Zorzi, presidente dell'associazione "Sicurezza e legalità".
Come tutti i servizi basati sul crowdsourcing, Shelly fa affidamento sull'intelligenza collettiva per funzionare, garantendo l'anonimato ai suoi utenti. Ma se le segnalazioni sono anonime chi assicura, domanda il giornalista, che queste siano anche veritiere? A chi spetta l'onere della verifica, che di norma spetterebbe alle forze dell'ordine?
Su questo aspetto Zorzi si limita a dire che l'applicazione non è un gioco e che quindi è responsabilità dell'utente fornire segnalazioni veritiere, perché se è vero che la segnalazione avviene in forma anonima è altrettanto vero che, dice ancora Zorzi, tutti i dati vengono archiviati in un server e che ogni utente è identificabile di conseguenza. Una segnalazione priva di riscontri potrebbe configurare il reato di procurato allarme e in quel caso l'anonimato verrebbe a cadere.
Questa semplice constatazione apre ad almeno tre ulteriori ordini di problemi. Il primo riguarda la gestione dei dati degli utenti. Sappiamo che la scia di dati che produciamo quando usiamo un qualsiasi prodotto digitale è un insieme di informazioni sensibili. Cosa succede se a gestirli è un'associazione in collaborazione con un'azienda privata? Anche su questo aspetto Zorzi è piuttosto opaco e prospetta la possibilità prospettata di caricare i dati su una "piattaforma CMS" il cui accesso potrà essere condiviso con le forze dell'ordine. Ma fino a quel momento chi avrà accesso ai dati degli utenti di Shelly e come verranno usati?
A queste domande se ne aggiunge un'altra che riguarda il tipo di rapporto presupposto tra le forze dell'ordine e Shelly. Qui infatti non stiamo parlando soltanto dei dati relativi alle nostre abitudini e preferenze di navigazione o acquisto, qui stiamo parlando della nostra presenza nei tempi e nei luoghi in cui si sta commettendo un reato, di lieve o grave entità non fa differenza. Come si concilia l'utilizzo di un'applicazione privata con il nostro dovere civico? Saremo ancora spinti a farci carico della nostra responsabilità di testimoni di un crimine in fase processuale o la demanderemo all'app? Ci limiteremo a segnalare un furto o proveremo a impedirlo?
Qui il rischio dello slacktivism—il supporto verso una causa o un problema sociale privo di uno sforzo che coinvolga il soggetto che lo esprime - non si limita più a inibire l'azione su cause ed eventi lontani da noi, a cui forniamo supporto in una dinamica di auto-rappresentazione favorita dai meccanismi di risposta sensomotoria a cui i social network ci stanno addestrando, ma riguarda una situazione in cui siamo coinvolti direttamente dalla compresenza temporale e spaziale. In che modo Shelly e le app sue sorelle riscriveranno i nostri comportamenti?
Il terzo e ultimo ordine di problemi che Shelly e le sue sorelle sollevano ha molto in comune con le problematiche sollevate dai software predittivi che molte polizie in tutto il mondo stanno cominciando a usare. Così come possiamo predire o intuire i comportamenti degli utenti a partire dall'analisi dei loro segnali creati sui social network, allo stesso modo sono stati creati dei framework per capire se e quando potrebbe verificarsi un crimine in base ai flussi di conversazioni captati sui social. Il problema che le tecniche predittive pongono, quello della profilazione e della discriminazione che ne può conseguire, è analogo a quello sollevato dalle app per la sicurezza come Shelly.
Siccome queste app contribuiscono a creare una rappresentazione del territorio in cui viviamo come facciamo a limitare i bias e pregiudizi degli utenti, per impedire che certe zone finiscano per essere stigmatizzate e discriminate? In che modo possiamo garantire una parità di accesso a tutti i cittadini in modo che la rappresentazione della città che viene favorita da queste app sia il più diffusa e comune possibile? Se privato dell'accesso alla connettività come può un migrante o un rifugiato politico vittima di violenza a contribuire a quest'opera di crowdsourcing della sicurezza? Il rischio che queste app finiscano per confermare solo la percezione esistente della sicurezza e contribuiscano a rafforzare i pregiudizi degli utenti chiudendoli nell'ennesima filter bubble è altissimo e gli sviluppatori di queste tecnologie sembrano non aver alcuna voglia di porsi il problema.
Come in altri casi, la ricerca di una soluzione tecnologica ai problemi sociali non sembra riuscire ad andare mai oltre alla cornice di riferimento per offrire una soluzione che non sia già implicata nelle premesse del problema stesso, attivando così un circuito di problem closure—ovvero l'abitudine mentale definita dai sociologi che impedisce di cercare le soluzioni di un problema al di fuori dei paradigmi posti dal problema stesso. Per spiegare meglio il concetto provo a fare un esempio concreto.
Ho visitato Bruxelles circa un mese prima degli attentati che hanno colpito la capitale belga il 22 marzo. Dal mio arrivo all'aeroporto e per tutti i giorni successivi, di giorno come durante la notte, la presenza costante di soldati e mezzi militari ha fatto da corollario a ogni mio spostamento nella città. Dall'aeroporto alle piazze, dai monumenti alle stazioni della metropolitana la vista di una coppia di militari in divisa, equipaggiati e con le armi ben in vista, è stata una costante a cui solo con molta fatica, e non senza inquietudini, ho finito per abituarmi. Tuttavia questo spiegamento di forze non è servito a evitare gli attacchi.
Ciò nonostante, nei giorni immediatamente successivi agli attentati, la stretta securitaria e la retorica bellicistica sono state l'unica risposta che la politica ha saputo mettere in campo per far fronte a quegli eventi. Il problem closure è esattamente questa incapacità di concepire una risposta diversa, in grado di spostare il punto di vista sul problema per scardinarne i presupposti.
Intorno all'idea di "problem closure" ruotano alcune riflessioni esposte di recente da Evgeny Morozov in una serie di articoli, raccolti in un volume da poco pubblicato per i tipi di Codice Edizioni. Per lo studioso bielorusso, quando la Silicon Valley si propone di far fronte ai problemi sociali essa non lo fa mai al di fuori della cornice politico-economica dominante, ovvero quella del neoliberismo. Anzi, l'intero dibattito sul digitale, dice Morozov più volte, è appiattito sulla dimensione tecnologica del ragionamento e chiude deliberatamente ogni possibilità di ragionare in termini economici e politici.
In quest'ottica, la disintermediazione della sicurezza che app come Shelly propongono come soluzione al problema impedisce di guardare allo stesso con occhi e paradigmi diversi da quelli che concepiscono il degrado e la criminalità solo come un problema di ordine pubblico e non come un problema economico e politico, ovvero come una spia delle distorsioni introdotte dalla crisi che il nostro sistema di produzione sta affrontando.
Perciò, qualsiasi soluzione tecnologica che non si faccia anche carico delle sue conseguenze politiche ed economiche non potrà fare a meno che continuare a perpetrare il problema che si propone di risolvere e ad acuirne le contraddizioni.