Dentro la cultura algoritmica, ovvero la matematica come sapere sociale e l’informatica come politica

[Pubblichiamo un estratto del saggio di Ted Striphas, “La cultura algoritmica prima di Internet”, Mimesis, 2024 per gentile concessione dell’editore, introdotto da una recensione di Domenico Napolitano].

Che cosa accomuna l’Intelligenza Artificiale, le relazioni familiari e di genere, l’eredità, la guerra e il commercio? Secondo lo studioso americano Ted Striphas, tale elemento di congiunzione è il calcolo. In La cultura algoritmica prima di Internet, Striphas ci propone una informatissima e appassionante ricostruzione del calcolo nella storia sociale umana. Egli mostra come il calcolo non sia solo uno strumento tecnico ma a tutti gli effetti una cultura, ovvero un modo di pensare e dare senso al mondo, di costruire significati. E l’algoritmo è l’emblema di questa cultura che, come Striphas ricostruisce, inizia ben prima che questo termine divenisse di uso comune in tempi molto recenti. La cultura algoritmica inizia prima dell’IA, prima di Internet e prima dei computer; essa inizia quando la soluzione a problemi di natura sociale è stata posta in termini matematici. Quando, ad esempio, il matematico arabo dell’800 d.C. Al Kwahrizmi, dal cui nome deriverebbe il termine stesso “algoritmo”, utilizza il calcolo come strumento per risolvere complesse questioni relative alle relazioni familiari, alle divisioni di proprietà e al ruolo degli schiavi. Ma anche quando nel contesto della Guerra Fredda gli algoritmi, mentre impiegati per intercettare e decifrare conversazioni criptate, erano anche presi in reti discorsive che promuovevano ideologicamente una certa idea di genere, sessualità e famiglia normale (ovvero bianca, patriarcale, eterosessuale, borghese). Un’ideologia che rientra surrettiziamente negli attuali dispositivi come Alexa e Siri, che incarnano quell’idea di femminilità “servile” che il dominio maschile ha a lungo perpetuato per legittimarsi.

Come Striphas ci ricorda, «la matematica è una tecnologia. Il computer è semplicemente l’incarnazione di tale tecnologia sotto forma di artefatto fisico» (p. 130). Al contempo, la tecnologia è cultura, poiché in essa, nei suoi processi, nelle sue operazioni, nella sua estetica, sono impressi gli assetti sociali prevalenti. Tutt’altro che neutro strumento, la tecnologia algoritmica attuale incorpora la risposta a domande etiche, ontologiche e valoriali. E non si limita a produrre discriminazione a causa dei suoi usi impropri, ma incarna la discriminazione al livello del codice. Con il termine cultura algoritmica, dunque, Striphas indica il modo in cui le società hanno risposto, attraverso il complesso assemblaggio di calcolo e discorso, a questioni quali la politica culturale della razza e della nazione, la governance degli affari umani, la gestione dell’informazione, la guerra, il genere, la sessualità, la famiglia, la proprietà.

Quello di Striphas non è soltanto un libro che mette in guardia dagli incombenti rischi dell’IA, come tanti eccellenti lavori pubblicati in questi anni fanno (ad esempio quelli di Kate Crawford e Cathy O’Neil), ma un complesso e articolato lavoro di storia della cultura in grado di cogliere, attraverso la lente dell’algoritmo, della sua storia, della sua geografia, della sua etimologia, più trasversali dinamiche di potere che riguardano l’affermarsi di certe idee e pratiche e il disconoscimento di altre. Partendo da fenomeni di discriminazione, ingiustizia, pregiudizio prodotti dalle attuali tecnologie algoritmiche – ben noti, come lo scandalo di Cambridge Analytica, o meno noti, come i casi di negata assistenza medica a persone ritenute inaffidabili poiché non sposate – Striphas si chiede: “come siamo arrivati sin qui?”. Attraverso studi scientifici e tecnologici, storia della scienza, studi sui media, discipline umanistiche digitali, antropologia, comunicazione e scienze dell’informazione, questo lavoro di cultural studies ci permette di comprendere il presente partendo dal passato, ricordandoci che questo presente non è un destino, ma una deviazione della storia, che in quanto tale si può trasformare e riorientare. La cultura algoritmica prima di Internet è un’opera fondamentale del nostro tempo anche perché mostra che per perseguire una qualche forma di giustizia sociale al tempo dell’IA non è sufficiente agire sul piano della regolamentazione. È necessario, invece, entrare nell’intreccio di discorso e calcolo che caratterizza la cultura algoritmica, in virtù del quale la matematica è anche sapere sociale e l’informatica è anche politica.

Introduzione. Benvenuti alla macchina

Ralph spacca Internet (2018), film di successo targato Disney, racconta dell’uscita dall’adolescenza di Vanellope von Schweetz, un personaggio dei videogiochi, ma a ben vedere vi è anche qualcos’altro che giunge a maturità: la parola algoritmo. L’azione ha inizio quando Ralph Spaccatutto (doppiato da J. C. Reilly), fedele al suo nome, rompe il controller di Sugar Rush, un videogame della sala giochi che frequenta quando non è “al lavoro” e si diverte a giocare al cattivo con la sua macchina a gettoni, Fix-It Felix, Jr. L’incidente fa sì che insieme alla sua migliore amica Vanellope (doppiata da S. Silverman), una pilota di kart di Sugar Rush particolarmente incline a cacciarsi nei guai, si avventuri in Internet alla ricerca del pezzo di ricambio su eBay. I due scoprono subito che la strada per la ricchezza in Internet è lastricata di video virali e che dovranno parlare con Yesss (doppiata da T. P. Hens), l’elegante algoritmo capo del sito di condivisione video BuzzzTube, se vogliono sperare di assicurarsi i fondi necessari per comprare il nuovo controller.

Ralph e Vanellope irrompono nell’ufficio di Yesss, dove avviene questo scambio di battute:

Ralph: Ehi-o! Sei il capo di Al Gore?

Yesss: sono l’algoritmo capo di BuzzzTube, il che significa che curo i contenuti nel sito di condivisione video più popolare di Internet, il che significa che non ho tempo di scherzare con ogni vagabondo scalzo e sbuffante che entra in ufficio. Chiama la sicurezza, piccola!

Yesss abbandona la tipica insensibilità elitaria da big tech una volta scoperto che Ralph è il protagonista di una divertente serie di video che proprio su BuzzzTube richiama il pubblico. La serie si avvia così a diventare virale dopo che Yesss le imprime una spinta algoritmica sulla home page del sito.

Yesss, algoritmo capo di BuzzzTube, che distribuisce i cuori (“Mi piace”) a Ralph Spaccatutto. Nella foto ci sono anche Vanellope von Schweetz (a sinistra) e l’assistente di Yesss, Maybe (a destra). Da Ralph spacca Internet (Disney Animation Studios, 2018).

Ralph apre il dialogo con un malapropismo ¹ – “Al Gore” invece di “algoritmo” – il cui scopo è comico ma in fondo didattico.² Esso funziona da surrogato per quegli spettatori che ancora non conoscessero il termine. Yesss procede a spiegarlo per loro, ma la spiegazione è significativamente evasiva. Se soffermarsi sulla parola algoritmo è una perdita di tempo, vuol dire che la maggior parte del pubblico ne è già a conoscenza. In effetti, è dall’inizio degli anni 2000 che l’“algoritmo” è diventato un oggetto ricorrente nell’ampia realtà della cultura popolare, come ho già avuto modo di documentare (Striphas 2021a, p. 298). Lo scambio tra Yesss e Ralph serve a mettere al corrente i ritardatari. Per tutti gli altri l’algoritmo è parte consolidata dei discorsi quotidiani.

La presenza della parola algoritmo in un lungometraggio per famiglie sarebbe stata inimmaginabile, credo, fino a uno o due decenni fa, così come la sua incarnazione in un personaggio principale. In effetti, il dialogo che ho citato sembra segnalare che dopo un lungo e graduale processo l’algoritmo è diventato parte accettata e persino familiare della lingua inglese comune. Secondo Blake Hallinan “il termine ‘algoritmo’ è diventato un… argomento popolare di conversazione pubblica, i cui riferimenti nei quotidiani sono aumentati di oltre cento volte” tra il 1998 e il 2018 (Hallinan 2019, p. 300; cfr. Bucher 2018, p. 150). Prima di allora, algoritmo era un termine tecnico poco conosciuto per un processo decisionale programmato, raramente sentito al di là dei livelli più alti della matematica, dell’ingegneria e dell’informatica. Ma anche quell’uso è stato uno sviluppo recente. Nel 1976 Joseph Weizenbaum si è sforzato di trovare un nome per questo tipo di processo decisionale a beneficio dei colleghi dell’allora emergente campo dell’informatica. Optò infine per “procedura efficace, o ‘algoritmo’ come viene anche chiamata”, come a suggerire che algoritmo non si fosse ancora del tutto affermato per poter diventare il termine definitivo (Weizenbaum 1976, p. 59). Un paio di decenni prima, apprendiamo, “l’algoritmo non era, apparentemente, un termine matematico comunemente usato in America o in Europa” fino alla metà degli anni ’50, quando il matematico russo Andrei Markov Jr. (1903-1979) pubblicò l’influente libro The Theory of Algorithms (Teopия aлropифmob) (Fant 1993, p. 3).³ In settant’anni la parola è passata dalla periferia al mainstream, dall’oscurità all’ubiquità, dall’incidentale alla Disney.

Ralph spacca Internet fa registrare anche qualcos’altro: la continua importanza della cultura come luogo di investimento, identificazione, negoziazione, azione, giudizio e interesse commerciale. Non meraviglia che nel 2014 Merriam-Webster abbia proclamato “cultura” come “parola dell’anno” in base alla frequenza d’uso e alle ricerche online (Kellog 2014). Allo stesso tempo, la figura di Yesss suggerisce che ci sono stati importanti cambiamenti nel modo in cui si pratica e si giudica la cultura, e da chi – o da che cosa. Oggi essa opera in sistemi socio-tecnici sempre più densi, o in insiemi di persone e macchine in cui nessuna delle due parti detiene il comando esclusivo. Sono sistemi sempre più chiamati a mettere ordine su rivendicazioni concorrenti di attenzione, importanza, autorità e altro ancora. La loro esistenza suscita la mia curiosità su come e perché siamo arrivati a esonerarci da queste decisioni delegandole a processi automatizzati computazionali. Naturalmente i computer fanno molto di più che determinare quali video diventeranno virali o aiutare le persone a scovare tesori sepolti su eBay. Ci aiutano a scoprire connessioni personali e professionali, prodotti e servizi, notizie e conoscenza, gusto e opinioni, e tanto altro ancora. Una generazione fa, tale attività era svolta principalmente da intermediari culturali umani: critici, impiegati, reclutatori, intermediari, studiosi, insegnanti, editori, curatori, compilatori e bibliotecari il cui lavoro, in parte, era determinare quali idee, artefatti e relazioni umane meritassero di distinguersi e quali no. Ora un esercito digitale composto da “critici e censori automatici” ha assunto, come Yesss, una quota crescente di responsabilità.⁴ Tali sistemi operano attraverso piattaforme come Google, Facebook, Netflix, Amazon, Apple, Grindr, LinkedIn, Spotify, Pandora, TikTok, Tinder, Twitter e Instagram. In genere sono riconosciuti come fattori principali dell’industria tecnologica, ma forse dobbiamo pensarli anche in un altro modo: come arbitri sempre più importanti della cultura, e quindi come un nuovo volto dell’industria culturale (Horkheimer, Adorno, 1966; Berry 2015, pp. 23-51).

Tutti questi sviluppi parlano dell’emergere di una cultura algoritmica, un’espressione che ho adattato da Alexander R. Galloway (2006). Definisco la cultura algoritmica provvisoriamente in due modi: in primo luogo, come l’uso di processi computazionali per ordinare, classificare e assegnare priorità a persone, luoghi, oggetti e idee; e in secondo luogo, come i repertori di pensiero, condotta, espressione e sentimento che fluiscono da quei processi e vi ritornano. A proposito della prima parte della definizione, la cultura algoritmica guida i film e i programmi TV “consigliati per voi” su Netflix, Hulu e altrove (Hallinan, Striphas 2016). È quello che si prova quando il vostro feed Twitter si muove verso individui e interessi specifici. E ha molto a che fare con il contenuto, il carattere, la confezione e la consegna delle notizie e delle informazioni che incontrate – o non incontrate – online. A proposito della seconda parte della definizione, si consideri quanto segue: una volta un amico di Facebook ha postato un messaggio su un’azione politica urgente, etichettandolo come un “evento della vita” anche se non era una pietra miliare personale. Come ha spiegato nel post, identificarlo come tale avrebbe permesso di spingerlo in cima alle notizie dei feed degli amici dal momento che gli algoritmi della piattaforma sembravano privilegiare gli aggiornamenti sui punti di svolta nella vita degli utenti – ed è esattamente lì che l’ho incontrato.

Questo fatto, oltre a raccontarci come ingannare un algoritmo per far emergere un post, può dirci molto altro. Più significativamente esso racconta come gli algoritmi – o meglio, la conoscenza tacita di come funzionano, e da chi e da che cosa estraggono valore – sono arrivati a orientare il comportamento umano. Tarleton Gillespie descrive tali azioni come “il riorientamento quotidiano e strategico di molte pratiche svolte dagli utenti in relazione a uno strumento che sanno potrebbe amplificare i loro sforzi” (2014, p. 184) – anche se lo sforzo può essere più intuitivo che calcolato.⁵

—

—
Immagine di copertina:
fotogramma da Ralph spacca Internet, Disney Animation Studios, 2018.