A cosa pensano gli algoritmi? Intervista a Dominique Cardon

Il web sembra spesso aver ereditato il ruolo che un tempo avevano i re: è capace di decidere della nostra sorte, può renderci gloriosi o designarci l’ultimo anello della catena sociale. Può farci guadagnare o perdere i soldi. È conoscenza oppure ignoranza. E come la recente cronaca ha dimostrato, può dare anche la morte. Ma come funziona il web? Cosa fanno gli algoritmi? Secondo quali regole? Cosa possiamo fare noi utenti per non lasciarci inghiottire? L’abbiamo chiesto al Festival della mente di Sarzana al sociologo francese Dominique Cardon, autore del libro “Che cosa sognano gli algoritmi. Le nostre vite nel tempo dei big data” (Mondadori Università). In fondo all’articolo trovate la videointervista originale in francese. Ringraziamo Giulia Marani per la traduzione.

Il web dà l’impressione di essere un luogo dove il valore principe sia la libertà. Ma quanto siamo liberi sul web? Quanto è democratica la rete?

La storia del web è prima di tutto la storia di come l’individuo abbia conquistato la libertà di prendere la parola. I pionieri del web pensavano che tutti i desideri, tutte le opinioni e le informazioni dovessero poter essere condivise sul web, cosa che effettivamente poi è stata possibile. Le difficoltà sono nate quando il web ha cominciato ad avere tanto successo e sono entrati in campo interessi commerciali ed economici. Sono nate così una serie di tecniche che “ci calcolano”, che si servono di noi per elaborare dati, che riducono la nostra libertà, in un certo senso. Questo non vuol dire che la libertà del web sia scomparsa, però può voler dire che bisogna accettare di essere sulla terza o quarta pagina di Google, perché i primi risultati rispondo ad altre logiche e per lo più sono gli inserzionisti paganti. Bisogna accettare di essere meno visibili negli universi digitali.

Un’altra grande trasformazione che ha avuto luogo sta nel fatto che adesso siamo sorvegliati, i nostri clic, le nostre modalità di navigazione, tutto ciò che facciamo sul web viene registrato dalla rete. La tecnologia stessa di internet è fatta in modo da conservare le tracce di quello che noi facciamo. L’uso che è fatto oggi di queste tracce può rappresentare una minaccia per la nostra libertà. L’abbiamo visto, per esempio, col caso Snowden e lo vediamo nel fatto che le grandi piattaforme web hanno acquistato una grande forza e il grande potere di influenzare le nostre vite, perché noi stessi abbiamo detto loro molte cose di noi, delle nostre attività, dei nostri centri di interesse.

Come funzionano gli algoritmi? Secondo quali valori lavorano?

Il codice informatico lavora con degli algoritmi che sono delle procedure di calcolo. Quindi, nella scrittura stessa del web, c’è qualcosa del rigore logico degli algoritmi. Oggi il punto centrale di questo discorso è quello relativo agli algoritmi che classificano grandi masse di dati e che cercano di raccomandarci un prodotto piuttosto che un altro, che ci fanno strada quando guidiamo la macchina. Questi algoritmi si appoggiano sul trattamento di una grande massa di segni che vengono lasciati dall’utente in rete. Quello che cerco di dire e di dimostrare è che questi calcoli sono diversi tra loro e possono produrre effetti differenti, per cui per capire come funzionano dobbiamo capire quali rappresentazioni della realtà ci forniscono. Per esempio, possono produrre tra i vari effetti popolarità, autorevolezza, affinità. Questi algoritmi cercano sempre più di calcolare l’individuo e di dirci con un calcolo predittivo cosa farà questo individuo, quali prodotti acquisterà, che cosa gli piacerà, dove si sposterà. E tutto ciò è possibile proprio a partire dai dati che questo individuo ha lasciato in giro per la rete.

Non c’è contrasto tra la presunta razionalità degli algoritmi e la frequente irrazionalità dell’uomo?

Ci sono due cose che mi sembrano importanti a tal proposito. Nel dibattito filosofico sulla razionalità, c’è l’idea che ci sia un’opposizione, uno shock frontale tra la saggezza degli umani, che può essere anche irrazionale o poetica, e la fredda razionalità computazionale delle macchine. In realtà questi due aspetti sono interconnessi e implicati gli uni negli altri da sempre. Secondo gli antropologi siamo diventati quello che siamo perché abbiamo delegato una parte della nostra memoria e delle nostre capacità di calcolo a degli strumenti tecnici. Abbiamo per esempio delegato ai libri una parte della nostra razionalità, il libro diventa una sorta di memoria esterna. Il web per certi versi è una specie di grande memoria esterna che stiamo costruendo. Questa memoria esterna sta acquistando un potere enorme, perché il suo funzionamento poggia su operazioni logiche e perché l’impressione che noi umani possiamo avere di fronte a questi calcoli che il ragionamento sia più fine e più sottile rianima questa idea antica tra un’opposizione tra l’intelligenza dell’uomo e quella della macchina. Secondo me, ci sono diverse possibili interazioni tra l’uomo e macchina, alcune di queste sono perverse o pericolose mentre altre hanno effetti positivi. Quindi nella critica che possiamo fare degli algoritmi bisogna trovare il punto di equilibrio, in modo che l’interazione tra l’intelligenza umana e quella delle macchine produca degli effetti positivi, piuttosto che degli effetti negativi.

Come fare non lasciarsi intrappolare dalla morsa degli algoritmi?

Le tecniche algoritmiche sono tecniche statistiche e probabilistiche. Possiamo avere l’impressione che predicano il futuro ma in realtà costruiscono dei modi di classificare i dati sulla base delle tracce lasciate dagli utenti. Quello che oggi è centrale e costituisce la forza degli algoritmi è il fatto che noi tendiamo a lasciare tracce che mostrano delle regolarità comportamentali, perché facciamo spesso le stesse cose, perché quando ci piace un libro è facile che ce ne piacciano altri dello stesso tipo, quando ci rechiamo in un certo luogo è perché abbiamo l’abitudine di frequentare luoghi simili, quindi diamo delle informazioni che sono facilmente gestibili e calcolabili dagli algoritmi. Quando invece diamo delle informazioni più irregolari, inabituali, sorprendenti, anche per noi stessi, quando facciamo delle cose che non sono nelle nostre abitudini o cerchiamo o ascoltiamo fonti che non abbiamo l’abitudine di consultare, ascoltiamo musica che non ascoltiamo di solito o andiamo in un posto diverso, gli algoritmi si trovano in difficoltà, perché non trovano più nelle tracce che abbiamo lasciato una probabilità di risultato regolare. Quindi, in un certo senso, gli algoritmi sono il riflesso delle regolarità dei nostri stessi comportamenti, quindi per essere più autonomi e non essere più intrappolati nella morsa degli algoritmi dobbiamo fare un passo indietro rispetto alle nostre abitudini, fare cose che possano sorprendere, adottare quelli che, secondo un’espressione di Michelle Focaut, potremmo chiamare “contro-condotte” o “contro-comportamenti”. In questo modo non agiamo esattamente nel modo in cui gli algoritmi e i calcolatori ci aspettano che noi agiamo. Insisto molto su questo aspetto perché i film di fantascienza ci hanno trasmesso con grande forza l’idea che si potesse predire quello che esattamente sarebbe successo. E questi strumenti predittivi potessero individuare i nostri desideri prima ancora che nascano. Ma in realtà non è vero. Gli algoritmi lavorano sulla base di elementi statistici e quindi sfruttano la conoscenza di ciò che è già accaduto. Per esempio, se c’è stato un alto tasso di criminalità in un posto, può essere una buona cosa per la polizia pattugliare più spesso quel luogo. Gli algoritmi sono conservatori: riproducono la società, perché hanno registrato il suo passato e quindi pensano che il futuro sia simile al passato. La sfida che ci propongono è quella di inventare, di fare qualcosa di nuovo e non essere prevedibili.

Annunci

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione / Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione / Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione / Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione / Modifica )

Connessione a %s...