| << |  <  |  >  | >> |

Indice

Presentazione, di Roberto Casati                            VII

Introduzione. Comprendere la rivoluzione dei calcoli          1

    Il mondo in cifre                                         2
    Aprire la scatola nera                                    5


1.  Quattro famiglie di calcolo digitale                     11

    Accanto al web: l'imprecisa popolarità dei clic          13
    Al disopra del web: l'autorevolezza basata sul merito    18
    All'interno del web: la fabbrica della reputazione       22
    Al disotto del web: la predizione attraverso le tracce   25

2.  La rivoluzione nei calcoli                               31

    La manipolazione della realtà                            32
    Lo straripare delle categorie                            36
    Calcolare da più vicino possibile                        38
    Correlazioni senza cause                                 41

3.  I segnali e le tracce                                    45

    I nuovi filoni di dati                                   45
    Delle macchine «statistiche»                             48
    Il segnale e la traccia                                  51
    Un comportamentismo radicale                             54
    Segnali senza tracce e tracce senza segnali              59
    La quantificazione di se stessi                          63
    Gli algoritmi sono fuorvianti?                           66
    L'«idiozia» degli algoritmi                              70

4.  La società dei calcoli                                   75

    La «tirannia del centro»                                 75
    La coordinazione virale dell'attenzione                  77
    La secessione degli eccellenti                           79
    Digital labor                                            81
    «Passare alla modalità manuale»                          85

Conclusione. La strada e il paesaggio                        89


 

| << |  <  |  >  | >> |

Pagina 31

Queste tre scosse hanno fatto vacillare la lunga tradizione statistica che si era costituita, parallelamente agli Stati, per proporre una cartografia della nazione basata su convenzioni stabili e categorie descrittive del mondo sociale. Queste ultime garantivano, da una parte, un certo grado di consistenza e di solidità attraverso la nozione di media e, d'altra parte, una leggibilità sufficiente a offrire categorie percettive comuni.

Ora, a partire dagli anni Ottanta, la società ha cominciato a «rientrare» in modo sempre meno preciso nelle categorie con le quali le istituzioni pretendono di registrarla, misurarla e agire su di essa. La crisi della rappresentazione politica asseconda segretamente l'indebolimento delle forme statistiche che davano un'ossatura al mondo sociale. La diffidenza che a volte gli individui manifestano verso politici, giornalisti, esperti o sindacalisti, ha alla sua base il rifiuto di lasciarsi rinchiudere in classificazioni definite a priori.

È proprio in nome di tale rivendicazione della singolarità che si è dato avvio a un ampio processo di reinvenzione delle tecniche statistiche al fine di calcolare la società senza categorizzare gli individui. I nuovi calcoli digitali partono dalle tracce delle attività delle persone, ma non cercano di inferirne caratteristiche applicabili a fenomeni più vasti e che permettano all'intera società di rappresentarsi e comprendersi. Le categorie statistiche tradizionali non spogliano gli individui, e instaurano meccanismi di mutualizzazione dei rischi per affrontare l'incertezza dei comportamenti individuali. Oramai, assicurano i promotori dei nuovi calcoli, sarà possibile conoscere con precisione i destini individuali e rivolgersi agli individui liberandosi dalla solidarietà collettiva.

| << |  <  |  >  | >> |

Pagina 34

Quello che importa, invece, è impiantare un ciclo riflessivo che porti gli attori a sapersi osservati da un sistema metrico e a orientare le loro azioni secondo gli effetti che esse avranno sulla misura. Le misurazioni servono a fabbricare il futuro. Ammorbidiscono le nostre convinzioni sulla solidità delle cifre, allo scopo di rendere la realtà più plastica. Questa non viene più misurata dall'esterno, bensì dall'interno, tanto che il perimetro delle categorie, invece di essere l'oggetto di un sistema di misura indipendente, è una variabile prodotta dall'attività di coloro che vengono misurati: quando una politica pubblica ingiunge ai poliziotti di aumentare le cifre dei reati di adescamento passivo, le loro azioni contribuiscono a far aumentare il perimetro di una categoria che non esiste indipendentemente dalle loro azioni.

Così, diventa sempre più frequente che una misura di attività sia presa per una misura del fenomeno sul quale si esercita tale attività: il numero delle denunce di donne che vengono picchiate diventa il numero delle donne che vengono picchiate, i ricercatori più citati diventano i «migliori», i licei che hanno i migliori risultati agli esami di maturità sono le scuole migliori ecc. Un indicatore di performance, spesso unico, diventa uno strumento di lettura di un contesto ben più generale. La riflessività dei contatori non solo ha reso gli attori sempre più degli strateghi, ma ha anche reso la realtà sempre più manipolabile. In Francia, da quando il sito NosDéputés.fr rende pubblico il computo dell'attività dei parlamentari, costoro non solo sono sensibili agli effetti di tali classifiche (in particolare in quanto la stampa locale fa regolarmente il punto, dando titoli del tipo «I vostri deputati sono studiosi?»), ma modificano anche i loro comportamenti. Le prese di parola dei deputati in commissione si sono moltiplicate in modo da aumentare il tasso della loro attività.

| << |  <  |  >  | >> |

Pagina 43

| << |  <  |  >  | >> |

Pagina 45

Accessibili, incrociati e offerti in pasto agli algoritmi, i dati potrebbero allora anch'essi esprimere cose che prima erano loro vietate o che restavano ignote in mancanza di sistemi di misura oggettivi. Isomma se il nostro mondo è imperfetto, è perché ci mancano i dati per correggerlo.

[...]

I dati allo stato grezzo non esistono. Ogni quantificazione è una costruzione che inserisce delle registrazioni in un dispositivo di commisurazione, e stabilisce convenzioni per interpretarle. Bisogna conoscere bene le categorie della statistica poliziesca per interpretare le registrazioni dei brogliacci dei commissariati di polizia e identificare gli effetti che i cambiamenti delle disposizioni ministeriali esercitano su tali registrazioni. Estratte dal contesto di produzione e rapportate ad altri dati, tali cifre, più che conoscenza, rischiano di creare controsensi.

Del resto, i dati parlano solo in funzione di come vengono interrogati e degli interessi di coloro che li interrogano.

[...]

Persuasi che la quantità possa sostituirsi alla qualità, gli zeloti dei big data assicurano che un mondo più misurabile diventerebbe anche più calcolabile. Se i mega-dati possono svolgere un ruolo considerevole nella trasformazione di certi settori di attività, succede anche che essi producano più noise che segnali, che vengano fuorviati, che si sbaglino o che producano effetti non desiderati. Così, bisogna entrare nel sistema di funzionamento dei calcolatori per comprendere ciò di cui essi sono — o non sono — capaci.

| << |  <  |  >  | >> |

Pagina 48

Noi siamo pervasi dall'idea antropomorfica che le macchine calcolatrici siano intelligenti e che i loro ideatori siano riusciti a infondere uno spirito nei loro meccanismi. Questa concezione alimenta la nostra immaginazione e i nostri timori. Da HAL, il computer pazzo di 2001 Odissea nello spazio, fino ai «precog mutanti» di Minority Report, i quali predicono un crimine prima che sia commesso, essa è costantemente corroborata dall'immaginario della fantascienza. Tuttavia, nei laboratori di ricerca, nessuno crede davvero che gli algoritmi abbiano questo tipo di intelligenza.

Negli anni Ottanta, il programma dell'Artificial Intelligente (AI) mirava a far riprodurre il ragionamento umano agli automi, dotandoli di regole, modelli cognitivi, ontologie e sintassi che riproducevano la complessità delle forme logiche e simboliche del pensiero. Questo programma è fallito negli anni Novanta per svariate ragioni; la principale è l'incapacità degli automi «intelligenti» di interpretare l'infinita varietà delle situazioni e dei contesti. Che un computer, Deep Blue, sia riuscito, nel 1997, a battere Garry Kasparov a scacchi, ha costituito l'apoteosi e la fine delle ambizioni di questo programma di ricerca. L'intelligenza artificiale si è sfasciata nel confronto con l'infinita diversità dei contesti.

Rendere la macchina «intelligente» non serve a niente se essa non sa adattare il suo ragionamento a tutte le situazioni. Ora, la maggior parte delle situazioni della vita reale non è «codificata» come lo sono le regole di spostamento dei pezzi sulla scacchiera.

Oggi il progetto dell'intelligenza artificiale è riemerso nei progetti di ricerca in informatica. Esso è al centro delle tecno-utopie transumanistiche dei guru della Silicon Valley, come Ray Kurzweil , al quale Google ha affidato la responsabilità del suo gruppo di ricerca più futurista. Questa nuova intelligenza artificiale non ha più molto a che vedere col progetto iniziale. Ormai le macchine, molto più che a uniformarsi al modello di ragionamento umano, mirano a ingurgitare contesti attraverso enormi masse di dati. Gli ideatori hanno abbandonato l'ambizione di produrre macchine «intelligenti». Preferiscono renderle «statistiche».

Per illustrare questo cambiamento di paradigma, prendiamo il caso della traduzione automatica.

| << |  <  |  >  | >> |

Pagina 51

Nei servizi digitali, un algoritmo «funziona» davvero quando riesce ad armonizzarsi a tal punto con l'ambito nel quale opera, da portare gli attori a regolare le loro azioni sui suoi verdetti, da nutrirne gli immaginari secondo i principi da lui stabiliti. Lo si può dire del PageRank di Google, del sistema di raccomandazioni di Amazon, dei voti attribuiti agli alberghi da TripAdvisor o del GPS integrato nelle automobili.

Per contro, molti altri servizi basati sui calcoli non riescono a produrre risultati abbastanza intelligibili da poter ridefinire i mondi sociali nei quali operano. I servizi di analisi dei sentimenti, che si vantano di saper individuare la tonalità soggettiva di grandi quantità di testi digitali, producono risultati talmente ovvi che sfruttandoli non si ottiene altro che un'idea assai approssimativa delle opinioni positive o negative relative a una marca, a un prodotto o a una personalità.

Per spiegare tali scarti è necessario distinguere, all'interno dei proliferanti big data, i dati che propongono contenuti espliciti, informazioni o espressioni soggettive — chiamiamo questi dati dei segnali (per esempio un account di Facebook) — da quelli, impliciti, che sono le registrazioni contestuali di azioni — chiamiamo questi dati delle tracce (clic, geolocalizzazioni, navigazione, velocità di lettura ecc.). Gli algoritmi più «efficaci» del web sono quelli che accoppiano strettamente segnali di informazioni a tracce di azioni o, per dirla altrimenti, che si servono delle tracce per trovare la migliore relazione tra i segnali. Al contrario, i calcoli non sono altrettanto efficaci quando vengono applicati a segnali senza tracce o a tracce poco correlate a segnali.

| << |  <  |  >  | >> |

Pagina 62

| << |  <  |  >  | >> |

Pagina 73

Abituati a denunciare l'egemonia dei media tradizionali, i critici degli algoritmi, questi nuovi gatekeepers, li accusano di censurare e deformare i messaggi in nome degli interessi commerciali o dell'ideologia delle ditte americane che li concepiscono. Questa critica non è infondata, come testimonia il moralismo di Apple o di Facebook, che eliminano qualsiasi tipo di nudità dai loro servizi. Tuttavia è probabile che non afferri alla radice il cambiamento in corso nel mondo algoritmico, e che riporti, su un mondo nuovo, una vecchia accusa.

Allineando i loro calcoli personalizzati sui comportamenti degli internauti, le piattaforme aggiustano i propri interessi economici in modo da soddisfare l'utente. Forse il calcolo algoritmico esercita il suo dominio proprio attraverso questo modo di confermare l'ordine sociale riportando gli individui ai loro comportamenti passati. Sostiene di offrire agli individui i mezzi per autogovernarsi; ma, riducendoli al loro mero comportamento, li destina a riprodurre automaticamente la società e se stessi. Il probabile si arroga il diritto di prelazione sul possibile.

Paradossalmente, è proprio nel momento in cui gli internauti si affezionano, attraverso prefigurazioni, ambizioni e progetti, a pensarsi quali soggetti autonomi e finalmente liberi dalle ingiunzioni dei prescrittori tradizionali, che i calcoli algoritmici li riacciuffano, dal di sotto, per così dire, conformando i loro desideri alla regolarità delle loro pratiche.

| << |  <  |  >  | >> |

Pagina 86

Ciò non toglie che la sfida politica lanciata dalle nuove scatole nere del calcolo algoritmico stia nella capacità di disinnestarle e «passare alla modalità manuale». Il rischio presentato dalle nuove infrastrutture di calcolo è che predispongano le scelte canalizzandole in processi irreversibili. I calcolatori si propongono di automatizzare quanto le nostre vite comportano di meccanico, funzionale e statistico. Nelle attività complesse, le abilità manuali sono state trasferite alle macchine. I piloti aeronautici non guidano più davvero gli aerei: li sorvegliano. Gli architetti non fanno più disegni a mano: formulano modelli direttamente in 3D. Gli algoritmi di rivelazione visiva stanno imparando a leggere le radiografie e le risonanze magnetiche che poi saranno convalidate dai medici. Di fronte a questi grandi sistemi tecnologici che s'impossessano delle nostre abilità, è sempre più necessario imparare a non disimparare.

Guardare la società dalla prospettiva dei calcolatori dà l'idea falsata che gli internauti si pieghino ai desiderata degli algoritmi. I sogni degli algoritmi sono soltanto sogni. Quando le pratiche degli internauti vengono osservate dal punto di vista della realtà quotidiana di questi ultimi, l'influenza dei calcolatori sulla loro vita sembra sparire. Gli usi sono molto più vagabondi, diversificati e strategici di quanto non pensi chi ragiona a partire da una sola piattaforma. Dai sondaggi risulta che gli utenti trovano la personalizzazione pubblicitaria mediocre, ridondante e, quasi sempre, sballata. Essa non riesce ad attrarre che un numero infimo di clic.

| << |  <  |