*Questo articolo è un estratto da Estetiche investigative. Confitti e commons nella politica della verità (2025) di Matthew Fuller e Eyal Weizman, edito da Krisis Publishing, che ringraziamo per la concessione.

 

Uno dei modi fondamentali in cui oggi il mondo viene compreso e costituito è attraverso i media computazionali. Ciò crea condizioni interessanti sia per l’investigazione che per un’estetica estesa. Algoritmi, dati e altre strutture formali dell’informatica sono formazioni estetiche. Il machine learning, ad esempio, in quanto tecnologia di sensibilizzazione, di rilevazione e di calcolo e organizzazione delle differenze significative, può svolgere un ruolo all’interno dell’estetica investigativa.

Gli eventi avvengono sempre più nei media e come media – in media res [1], come direbbe Wendy Hui Kyong Chun. Questo è inevitabile nell’ambito computazionale, dove gli eventi accadono all’interno di logiche algoritmiche e della loro composizione reticolare, in cui vengono poi trasposti. Ciò può comportare che un evento sia articolato come parte di una rete, strutturato attraverso siti e processi, che si svolga su molteplici scale, velocità e durate temporali, coinvolgendo potenzialmente una miriade di attori e forme di codifica.

L’integrazione di scale nei sistemi computazionali – dalle azioni altamente granulari inscritte in pattern specifici fino alle immense categorie di dati generate in tempo reale o che riproducono e consolidano categorie sociali di lungo periodo – porta con sé e rinnova problematiche storiche legate alla discriminazione e ad altre formazioni politiche. Ci sono diversi modi in cui ciò avviene, e gli studi sulle distorsioni sociali – in particolare bias razziali insiti o appresi da tecnologie come il machine learning – hanno dato origine a inedite forme di investigazione [2].

Uno dei riscontri più evidenti è spesso che c’è “qualcosa che non va nei dati”: ciò dà luogo al vecchio problema noto come garbage in, garbage out. Se un sistema contiene dati tendenziosi non fa che replicare tali distorsioni, se non perfino amplificarle. Gli errori nei dati possono assumere forme diverse; inoltre, un sistema che abbia appreso modalità discriminatorie – sia nel processo di addestramento, sia attraverso percezioni consce o inconsce incorporate nella struttura del modello – rischia di trasferirle in altri contesti, contribuendo così a rafforzare le disuguaglianze esistenti.

Un secondo problema è che sistemi come il riconoscimento facciale possono essere addestrati per funzionare meglio su specifiche tonalità della pelle e geometrie dei volti [3]. Questo può talvolta comportare un’esclusione funzionale quando, ad esempio, il telefono cellulare o l’ingresso nel luogo di lavoro falliscono nel riconoscimento facciale. Possono forse derivarne benefici collaterali qualora quei sistemi, utilizzati dalla polizia, non riconoscano il soggetto.

In terzo luogo, vi è il semplice problema dell’iper-attenzione: la sorveglianza mirata rivolta intenzionalmente a determinate comunità, aree geografiche o attività. Questa si aggiunge alle pressioni quotidiane, esplicite e implicite, e si intensifica durante determinati processi, come l’attraversamento di un confine. Tale condizione si lega a un problema poco riconosciuto nelle politiche processuali e nei processi di assoggettamento. Le tecniche di quella che si può definire “politica della vessazione” consistono nel trattenere gli individui in uno stato di continua soggezione a varie fasi di processualizzazione e di scrutinio. Ogni aspetto della vita è gravato dall’applicazione di quelli che gli economisti neo-istituzionali definirebbero “costi di transazione” [4]. L’estensione del managerialismo nel capitalismo avanzato e nella dominazione coloniale distribuisce la vessazione all’interno di un’economia diseguale dell’entropia [5].

In quarto luogo, i processi di ragionamento incorporati in tali sistemi si fondano o fanno affidamento su strutture logiche che, in modo implicito o esplicito, impongono determinate ontologie. Ciò era autoevidente nelle prime forme di intelligenza artificiale, in cui il ragionamento top-down regnava sovrano, con tutto il suo potenziale di distorsioni e fallacie intrinseche. Quel tipo di intelligenza artificiale si basava spesso su strutture logiche ben definite per automatizzare le decisioni, ma naufragava nella difficoltà di renderle applicabili al di fuori di ambiti circoscritti. Il machine learning, rinascita delle tecniche di reti neurali, si propone di riuscire laddove il precedente programma di ricerca aveva incontrato i propri limiti, aggirando le strozzature del significato attraverso l’impiego dell’apprendimento stesso. Questo dà origine al “problema della scatola nera”, quando un algoritmo addestrato non è in grado di descrivere ciò che ha appreso né i principi secondo cui opera [6]. Un quinto problema consiste nel fatto che le ingenti risorse e la potenza dei sistemi attualmente impiegati, e di quelli in fase di sviluppo, tendono a consolidare le posizioni delle lingue, delle culture e delle formazioni politiche dominanti, poiché sono queste le più processate, le più accessibili e le più diffuse.

In ambito informatico, è necessario fare un passo per uscire dalle logiche e dalle strutture di ragionamento che hanno caratterizzato il patriarcato, il colonialismo e la militarizzazione, oltre a molti aspetti delle diverse fasi del capitalismo e della sua deriva ecocida. Sviluppare sistemi di analisi e valutazione adeguati a una concezione più ampia della vita su questo pianeta richiede di ripensare l’estetica del senso automatizzato e della produzione automatizzata di senso.

È però altrettanto necessario vigilare sull’impiego tattico di un’etica deliberatamente debole in relazione a tali sistemi. Per etica debole si intende una forma ridotta e funzionalista di etica, concepita per garantire la continuità delle pratiche aziendali e per scongiurare qualsiasi regolamentazione delle attività delle imprese tecnologiche. In effetti, la nozione di “etica” è stata talmente strumentalizzata dalle imprese, desiderose di rafforzare la propria immagine, da essere spesso utilizzata come pretesto per giustificare la sospensione di una tecnica con il timore per le conseguenze della sua libera circolazione. Ciò, tuttavia, finisce per alimentare l’entusiasmo attorno alla tecnologia invece di affrontarne i problemi reali. Persino i produttori di armi chiedono oggi di integrare maggiormente l’etica nell’uso delle armi autonome. Addirittura, uno di questi produttori ha recentemente auspicato che un numero maggiore di studenti delle scuole superiori venga formato in filosofia, al fine di assicurare una forza lavoro stabile e adeguatamente istruita ai futuri operatori e supervisori delle operazioni militari [7]. Forme meccaniche di utilitarismo possono essere codificate algoritmicamente per autorizzare “mali minori”, ricevendo il placet del controllo qualità da parte dei diplomati impiegati nei call center militari.

Tali forme autoreferenziali di etica tendono a concentrarsi sulla minimizzazione delle responsabilità aziendali alla base dell’impatto delle nuove tecnologie. Spinte dalla necessità di mantenere l’autoregolamentazione, contro l’idea di un controllo socializzato, le loro coordinate di riferimento sono formulate più secondo la logica profilattica della valutazione del rischio tipica delle compagnie assicurative, che non secondo i presupposti di un autentico confronto etico. Quest’ultimo implicherebbe trasformazione e apprendimento. Troppo spesso, infatti, l’“etica degli algoritmi” si presenta come una forma accondiscendente, se non addirittura complice, nascosta nei termini di quel liberalismo umanista che camuffa e struttura gran parte della tecnocultura.

Discipline come i software studies che, tra gli altri approcci, includono aspetti investigativi, cercano di porre interrogativi più profondi sulla natura e sulle azioni del software. Stabilire regole esplicite per la governance dei sistemi normativi che operano in modo opaco è un’impresa senz’altro degna di essere intrapresa. Tuttavia, ciò che deve essere effettivamente progettato è una genuina discussione etica. Una simile discussione porterebbe allo smantellamento di molti dei sistemi che una debole etica industriale tollera e protegge.

Date le molteplici linee di conflitto che attualmente attraversano il campo dell’informatica, è inevitabile che essa diventi uno spazio di indagine. Le forme che questa assunzione sta prendendo sono svariate: dalla sperimentazione hacker sulle strutture e sugli accessi, o sulla divulgazione di file, fino all’esplorazione sistematica delle geometrie dello spazio–tempo–informazione–politica che vengono articolate dai sistemi digitali su larga scala. In effetti, uno dei primi ambiti dell’investigazione macchinica è stato proprio l’esame programmatico delle macchine stesse. Spesso, tale lavoro assume la forma di una procedura: essa crea i meccanismi con cui un sistema può essere testato passo dopo passo, con migliaia di varianti, per ricostruire attraverso un processo di reverse engineering la logica computazionale che definisce i contorni del suo potere, rendendoli così accessibili a un’indagine collettiva. Tale attività si è intensificata negli ultimi anni e sembra destinata a diventare uno strumento costante per chiedere conto al potere algoritmico riguardo al proprio operato.

Parte di questa ingegneria investigativa può essere realizzata anche ridisegnando il diagramma politico di spazio–tempo–informazione, il che comporta una sfida fondamentale alle digital enclosures. Un modo per entrarvi passa dalla disparità di accesso e di informazione: quali dati e a chi appartengono? Sono open source? Per chi o per che cosa vengono raccolti? Come invertire o almeno riconfigurare il diagramma? Abbiamo bisogno di molti Angeli per trasformare il segreto macchinico in dati aperti e di molti Gatti per ricomporne i frammenti. L’uno non funziona senza l’altro. In realtà, sono più interdipendenti di quanto sembri. È necessario sia aprire la sorgente del codice chiuso (l’Angelo), sia collegare i punti quando tale codice trapela (il Gatto).

L’arte del leak e l’investigazione dei materiali trapelati, però, richiedono capacità aumentate. A questo scopo, l’automazione della percezione e della costruzione di senso può risultare vantaggiosa. Ciò esigerà anche ulteriori metodi per coordinare l’indagine con le proprie condizioni mediatiche: alcuni di questi metodi sono di natura matematica, altri lo diventano nel processo di mediazione. Via via che le rappresentazioni numeriche del mondo si consolidano, iniziano a circolare come entità a sé stanti. I loro precursori storici si rintracciano in dispositivi che orientano modi di pensare e agire, come i calendari, i modelli architettonici o le funzioni delle catene di montaggio modulari. I simboli e le strutture numeriche iniziano anche ad agire come surrogati di entità – o di serie di entità – fino a sostituirle, talvolta, come oggetti di conoscenza ed esperienza.

Ad esempio, consideriamo il modo in cui si identifica l’immagine di un carro armato in un filmato. Nell’intelligenza artificiale simbolica classica, il carro armato verrebbe compreso come un simbolo, o come un cluster di simboli, annidati all’interno di un sistema di strutture analoghe (modelli di orientamento e di localizzazione rispetto a un insieme di volumi e al colore – forse inteso come un insieme di tre dimensioni: tonalità, saturazione e luminosità). Verrebbe definito attraverso una descrizione concettuale esplicita e razionalmente determinata della forma e delle caratteristiche tipiche di un carro armato. L’aspetto fondamentale è che il carro armato, o un oggetto analogo, andrebbe descritto in anticipo, prima di una relazione del sistema con esso.

Ciò si contrappone ai più recenti approcci basati sul machine learning. In questi, dal processo di addestramento emerge un insieme di fenomeni visivi che corrispondono con una maggiore probabilità a un’entità classificata come un carro armato. Attraverso l’esposizione ripetuta a un fenomeno in condizioni diverse, si mira a creare un insieme di risposte sufficientemente stabile, tale per cui una decisione riflessiva possa trasformarsi in un riflesso.

Uno degli elementi più affascinanti dell’approccio simbolico risiedeva nell’immaginare un mondo nitidamente strutturato per gerarchie e categorie – qualcosa che facilitava flussi costanti di finanziamento da parte di fonti militari, inclini a questo tipo di visione. Questo immaginario è stato in parte abbandonato. Tuttavia, lo stile più emergente e più “caotico” della genealogia che dalle prime reti neurali conduce, ad esempio, a tecniche come il deep learning, possiede oggi un proprio tipo di carisma finanziario, ben rappresentato, ad esempio, dal motto di Facebook: Move fast and break things. Di conseguenza, anziché mirare a una visione sistematica di un problema prima di affrontarlo, molte iniziative aziendali contemporanee cercano di addestrare i propri computer riprogrammando la realtà stessa. Sono gli esseri umani, le strutture sociali e gli attori economici dominanti ad essere istruiti per adattarsi alle nuove regole.

 

Un elemento chiave per la creazione di un deepfake convincente (in cui, ad esempio, immagini simulate del volto di una persona vengono sovrapposte al corpo di un’altra) è l’utilizzo di materiale sorgente con una risoluzione sufficientemente alta per il supporto di destinazione. Ciò richiede che il dataset utilizzato per l’apprendimento sia abbastanza ampio da permettere alla rete neurale di eseguire la mappatura necessaria per generare, in output, le espressioni facciali richieste.

Attualmente, ad esempio, è difficile produrre deepfake video di buona qualità di personaggi storici. Questo perché non esistono abbastanza filmati con una risoluzione adeguata. e perché tali materiali sorgente sono piuttosto rari. È necessario che da questi filmati vengano estrapolati gli elementi che consentano poi di allinearli con le riprese attuali, evitando che le tracce lasciate dai diversi tipi di elaborazione risultino rilevabili. Al contrario, coloro che oggi compaiono frequentemente nei media alimentano un dataset in continua espansione, fatto di ore o giorni di filmati. Ciò li rende più facilmente riproducibili come deepfake. Ogni nuova angolazione o espressione facciale rende possibile un’ulteriore proliferazione.

Esiste anche un problema inverso, ma correlato. Spesso, gli eventi oggetto d’investigazione coinvolgono entità rare, come armi e dispositivi insoliti. È difficile trovare rappresentazioni online di armi e munizioni vietate. Il numero delle immagini di questi oggetti – ad esempio, bombe chimiche particolarmente rare ma che è importante individuare – è insufficiente per addestrare una rete neurale, poiché esistono pochissimi esemplari reperibili, se non nessuno. Le immagini effettivamente reperibili sono spesso di bassa risoluzione – spesso perché le rappresentazioni dei conflitti vengono controllate nell’ambito delle operazioni militari.

Durante due investigazioni, abbiamo incontrato questo problema in forme diverse. La prima riguarda l’indagine open-source condotta da Forensic Architecture sulla battaglia di Ilovaisk del 2014, nell’Ucraina orientale. La Russia veniva imputata dell’invasione del territorio ucraino e del sostegno militare ai separatisti, ma Mosca aveva sempre negato tali accuse [8]. I tentativi di analizzare decine di migliaia di filmati caricati online alla ricerca di prove si sono scontrati con il problema del lavoro, del tempo e delle risorse necessarie. Poiché gran parte del materiale che i ricercatori si trovavano a esaminare risultava irrilevante, Forensic Architecture ha cercato di capire se parte di quel processo potesse essere automatizzata, risparmiando così tempo prezioso. Abbiamo utilizzato classificatori di visione artificiale, addestrandoli a riconoscere un modello specifico di carro armato, il T-72B3, utilizzato esclusivamente dalla Russia [9].

Sono stati selezionati video pubblici su YouTube in base a un insieme di termini di ricerca e a un intervallo di date rilevante per la battaglia. Il software scaricava e analizzava questi video, fotogramma per fotogramma, segnalando poi quelli che potevano contenere carri armati. Esso individuava un fotogramma statico e informava il ricercatore che vi era, ad esempio, una probabilità del 64% o del 28% che questo contenesse un carro armato. Insieme alla raccolta manuale di prove open-source, abbiamo identificato 150 episodi distinti della presenza militare russa, supportati da migliaia di fonti. Il caso rappresenta il primo esempio di prove presentate davanti alla Corte Europea dei Diritti dell’Uomo basate, in parte, su tecniche di machine learning.

In un altro caso, per affrontare il problema della scarsità di dati visivi e al contempo utilizzare il machine learning per risparmiare tempo, Forensic Architecture ha sperimentato l’addestramento di classificatori su “dati sintetici”. I dati sintetici vengono creati quando non vi è abbastanza materiale rintracciabile su Internet – ossia nei canali aperti online – per addestrare una rete neurale. In questi casi, si possono utilizzare dati che riproducono fedelmente ciò che si sta cercando, al fine di addestrare il sistema a riconoscere oggetti simili online. A partire da un accurato modello tridimensionale, si possono generare immagini digitali fotorealistiche e ad alta definizione di un oggetto, fornendo così alla rete neurale dati sufficienti per l’addestramento e il perfezionamento della sua capacità di rilevamento.

Il progetto Triple Chaser è stato una risposta di Forensic Architecture all’invito alla Whitney Biennial del 2019. Si tratta di una mostra che si teneva presso il Whitney Museum di New York, e attorno alla quale era sorta una controversia: Warren B. Kanders, un venditore d’armi, ricopriva la carica di vicepresidente del consiglio direttivo del museo. Collaborando con la regista Laura Poitras e con il suo collettivo Praxis Films, Forensic Architecture ha addestrato dei classificatori di visione artificiale per rilevare filmati contenenti un tipo specifico di granata lacrimogena. Questo modello, chiamato Triple Chaser, è prodotto dalla Safariland, l’azienda di Kanders, ed è utilizzato dalla polizia e dall’esercito in diversi paesi per reprimere con violenza le proteste e il dissenso. Immagini video o fotografiche di questo lacrimogeno compaiono occasionalmente tra i milioni di immagini condivise online in tutto il mondo.

L’addestramento di un classificatore di visione artificiale affinché identifichi in modo affidabile un oggetto specifico richiede di norma centinaia, se non migliaia, di immagini di quell’oggetto ripreso da molteplici angolazioni. Tuttavia, le immagini del lacrimogeno Triple Chaser sono relativamente rare. Per colmare questa lacuna, è stato costruito un modello digitale del lacrimogeno ed elaborato graficamente da molteplici prospettive. Queste, a loro volta, sono state collocate in migliaia di ambienti generati arbitrariamente o in ambienti fotorealistici “sintetici”, ricreando le situazioni in cui i lacrimogeni vengono documentati nelle immagini generate dagli utenti. In questo modo, le immagini sintetiche create da Forensic Architecture hanno permesso alle reti neurali, addestrate su di esse, di cercare immagini dei lacrimogeni reali in uso. Questo software è tuttora in fase di sviluppo, ma è già operativo: esso tiene costantemente monitorato il web, per segnalare l’utilizzo delle munizioni Safariland ogni qualvolta queste vengano fotografate e caricate online.

Il carro armato e il lacrimogeno Triple Chaser sono al centro di ciò che Forensic Architecture definisce uno “zoo di modelli”, un numero crescente di classificatori sintetici basati su render digitali fotorealistici di modelli 3D di oggetti. Questi includono altri lacrimogeni, veicoli militari e della polizia, munizioni vietate, bombe chimiche: un catalogo di alcune tra le armi più raccapriccianti utilizzate dagli stati nei conflitti odierni. Questa collezione è stata creata perché esistono pochissime immagini di questi oggetti, ma anche perché il processo di raccolta e annotazione di tali immagini può essere estremamente oneroso in termini di lavoro [10]. Creare uno “zoo” e rendere i contenuti accessibili e open-source serve a fornire ad altri ricercatori i mezzi per addestrare i propri classificatori.

L’impiego del machine learning e dell’intelligenza artificiale nelle investigazioni sui diritti umani si rivela utile. Inoltre, controllare il processo di addestramento e poter correlare le variazioni negli input con gli output osservabili offre anche l’opportunità di analizzare internamente gli stessi sistemi di machine learning, per comprendere meglio i processi computazionali che li sostengono – processi che altrimenti risultano spesso opachi e non sottoposti a controllo. Il fatto che molte implementazioni dell’AI vengano escluse da ogni tipo di responsabilità, genera urgenti preoccupazioni per la società civile. Analizzare dall’interno l’algoritmo significa scrutare dentro la black box che, in misura crescente, sorveglia i nostri ambienti condivisi e tenta di definire la nostra posizione sociale, economica e politica. Nel perseguire metodologie basate sul machine learning, Forensic Architecture si trova così a investigare contemporaneamente due condizioni: i luoghi della violenza e della repressione, dove le prove fisiche e fotografiche vengono contestate, e il campo computazionale dell’algoritmo, nel tentativo di decostruire e chiamare a rendere conto gli stessi strumenti di analisi.

Nel processo di analisi interna dell’algoritmo, Forensic Architecture ha iniziato a sperimentare con l’uso di variazioni estreme nei pattern, negli sfondi e nella forma degli oggetti modellati, per garantire che l’algoritmo migliorasse significativamente la propria capacità di identificare l’oggetto negli ambienti più comuni in cui esso viene fotografato o filmato.

Abbiamo capito che i classificatori di machine learning che utilizzano render di modelli 3D, o dati di sintesi, possono ottenere prestazioni migliori quando gli esempi di addestramento includono variazioni estreme dell’oggetto modellato. Oltre alle variazioni sintetiche realistiche, abbiamo texturizzato i modelli delle armi che cercavamo con pattern e immagini casuali. Le variazioni estreme affinano le soglie della percezione e della riconoscibilità da parte della macchina, migliorando l’estetizzazione del classificatore rispetto alla forma, ai contorni e ai margini. Quanto più distintivi erano i tratti, tanto più efficace risultava il riconoscimento.

Questa scoperta solleva questioni importanti riguardo alla cultura algoritmica in generale. Riprodurre ed esasperare i casi estremi nello spazio dei dati in cui vengono formulate le previsioni, per migliorarle, potrebbe infatti essere nell’interesse di chi sviluppa i classificatori per la predizione del comportamento, come le piattaforme di social media. In altre parole, Facebook, Twitter e altri risultano più efficaci nel prevedere il comportamento degli utenti se questi sono estremamente e apertamente differenti. Questo solleva una questione importante: mentre dichiarano di combattere per eradicare le espressioni politiche e sociali estremi online, le piattaforme social non sono piuttosto progettate per esacerbarli, dal momento che ciò rende i loro algoritmi predittivi più efficaci? [11]

 

Nel contesto del machine learning, immagini e video sono considerati dati ad alta dimensionalità. Quando i classificatori setacciano insiemi di immagini, il rumore può spesso rappresentare un problema: qualcosa che appare significativo ma non lo è, oppure che ostacola il riconoscimento di ciò che è realmente rilevante. I problemi, in questo caso, sono ombre, occlusioni, distorsioni prospettiche, effetti di luce come i riflessi, e così via. Anche l’ambiguità può costituire una forma di rumore: quando la stessa forma può corrispondere a due oggetti molto diversi.

La dimensione informativa di un problema può emergere anche dal modo in cui l’informazione viene custodita o conosciuta, dalla sua elaborazione da parte di determinati dispositivi; oppure, tra le altre cose, mappando i fenomeni in relazione a come sono percepiti mediante specifici filtri, procedure, grammatiche d’azione e sensori.

Come alcuni dei suoi evangelisti potrebbero aver dimenticato di menzionare, il machine learning non restituisce un blocco intatto e incontaminato di calcoli pienamente sintetici. È attraversato da numerose linee di frattura, che derivano dalla sua relazione intrinseca con ciò che calcola e con le modalità attraverso cui lo fa. Il brillante libro di Adrian Mackenzie, Machine Learners, riconosce le «frizioni, i blocchi e i compromessi che spesso influenzano la pratica dei dati» [12]. Questo non per assolvere il machine learning umanizzandone le fratture fondamentali, ma per riconoscere le condizioni estetiche e operative di tali sistemi. Come afferma Mackenzie, lavorare con i dati richiede un continuo movimento avanti e indietro tra domande, ipotesi, dati, articolazione dell’informazione attraverso molteplici traduzioni mediatiche, e altri fattori.

Si potrebbe sostenere che, in una situazione scientifica ideale, tutti questi fattori dovrebbero essere controllati. Le ramificazioni di un tale controllo – e, di conseguenza, la difficoltà di condurre un’indagine politica e pratica sul machine learning – sono considerevoli. Come osserva Mackenzie, esiste una pragmatica multiforme del machine learning che è essenziale prendere in considerazione, e che di per sé costituisce una forma di apprendimento.

E vi sono ulteriori complicazioni. Gli artisti hanno spesso lavorato sulle estetiche del glitch, del rumore, dell’interferenza, e così via. Questi elementi fanno parte della sostanza materiale idiomatica del computing. Tuttavia, come hanno spesso osservato archeologi e curatori dei media digitali, i dati archiviati su piattaforme centralizzate, o altrove, possono spesso andare perduti [13]. In effetti, i processi stessi progettati per generare questi dati possono essere modificati più volte nell’arco di una sola giornata. Tali cambiamenti non sono sempre così rapidi, ma nel caso delle grandi digital enclosures sono spesso coperti da segreti commerciali. Così, sebbene queste piattaforme producano specifiche forme di accessibilità pubblica dei dati, il loro funzionamento rimane solo marginalmente pubblico. Questi mutamenti possono essere dovuti a cambiamenti nelle priorità azientali, o a una variazione nel trattamento di specifiche tipologie di dati (ad esempio, dati considerati inaccessibili al pubblico in determinati territori) [14]. Oppure possono dipendere da valutazioni e calcoli legati al valore percepito rispetto a determinati obiettivi, profilazioni di utenti e altri fattori. Tutto ciò complica, ma al tempo stesso motiva l’indagine programmatica sulla governance digitale attraverso l’investigazione macchinica delle macchine.

 

In un certo senso, una parte di ciò che fa il machine learning è virtualizzare e accelerare la condizione dell’ufficio, della burocrazia statale e degli archivi, come quelli della polizia o dei servizi di intelligence. Entrambi implicano molte linee d’indagine portate avanti in parallelo, valutate e continuamente focalizzate nel tempo, fino a giungere a una conclusione o a una classificazione. Oltre a essere legato al funzionamento della burocrazia, che del resto costituisce una delle radici fondamentali del computing, questo approccio è efficace perché consente di stabilire una distribuzione statistica più completa. Si possono effettuare molte migliaia, se non milioni, di indagini
o test.

Ma si può anche dire che questa virtualizzazione della procedura d’ufficio liberi l’indagine, permettendole di adottare le prospettive dell’occhio, più aperte ed esplorative. Se il lavoro su larga scala e sistemico può essere automatizzato, allora le capacità estetiche umane possono concentrarsi su ciò che sanno fare meglio. Possiamo forse aspettarci l’emergere di ibridi innovativi tra indagine programmatica e curiosità motivata e “ficcanaso”. In effetti, l’OSInt pone le basi per nuove forme di investigazione collettiva che potrebbero svilupparsi a partire da tali ibridazioni.

La possibilità di analizzare i dati con un sensorio computazionale, differente dalle convenzioni estetiche dell’addestramento umano (inclusi il ragionamento e le abitudini percettive) permette di attivare un ventaglio più ampio di capacità estetiche. In questo senso, il machine learning rappresenta un modo per espandere l’ambito e la natura dell’apprendimento che un’investigazione necessariamente comporta.

 

Note

[1] Wendy Hui Kyong Chun, Programmed Visions: Software and Memory (MIT Press, 2011).

[2] Latanya Sweeney, “Discrimination in Online Ad Delivery”, Communications of the ACM, vol. 56, n. 5 (2013), pp. 44–54.

[3] Ruha Benjamin, Race after Technology: Abolitionist Tools for the New Jim Code (Polity, 2019).

[4] Ronald Coase, “The Nature of the Firm”, Economica, vol. 4, n. 16 (1937), pp. 386–405. Per una valida discussione contemporanea sul tema dei commons e del software libero, si veda Yochai Benkler, “Coase’s Penguin, or, Linux and ‘The Nature of the Firm’”, The Yale Law Journal, vol. 112, n. 3 (2002), pp. 369–446.

[5] Matthew Fuller e Andrew Goffey, Evil Media (MIT Press, 2012).

[6] Christian Sandvig, Kevin Hamilton, Karrie Karahalios e Cedric Langbort, “When the Algorithm Itself Is a Racist: Diagnosing Ethical Harm in the Basic Components of Software”, International Journal of Communication, vol. 10 (2016), pp. 4972–4990; Ezekiel J. Dixon-Román, Ama Nyame-Mensah e Allison R. Russell, “Algorithmic Legal Reasoning as Racializing Assemblage”, Computational Culture, n. 7 (2018), computationalculture.net; Ramon Amaro, “As If, towards a Black Technical Object”, e-flux Architecture, s.d., e-flux.com; Simone Browne, Dark Matters: On the Surveillance of Blackness (Duke University Press, 2015).

[7] Michael Tyrrell, “BAE Systems Predicts Top Manufacturing Job Roles in 2040”, Product Engineering Solutions, 16 agosto 2019, pesmedia.com. Si veda anche il comunicato stampa originale su baesystems.com.

[8] Forensic Architecture, The Battle of Ilovaisk, 2019, forensic-architecture.org.

[9] Lachlan Kermode, Jan Freyberg, Alican Akturk, Robert Trafford, Denis Kochetkov, Rafael Pardinas, Eyal Weizman e Julien Cornebise, “Objects of Violence: Synthetic Data for Practical ML in Human Rights Investigations”, 1 aprile 2020, presentato a NeurIPS 2019 nel workshop “AI for Social Good”, arxiv.org.

[10] Un sito specifico per il progetto Model Zoo è disponibile su forensic-architecture.org.

[11] Si veda forensic-architecture.org.

[12] Adrian Mackenzie, Machine Learners: Archaeology of a Data Practice (MIT Press, 2017), p. 36.

[13] David Link, Archaeology of Algorithmic Artefacts (Univocal, 2016); Annet Dekker, Collecting and Conserving Net Art: Moving beyond Conventional Methods (Routledge, 2018); Dennis Tenen, Plain Text: The Poetics of Computation (Stanford University Press, 2017).

[14] Si veda Richard Rogers, “The Internet Treats Censorship as a Malfunction and Routes around It? A New Media Approach to the Study of State Internet Censorship”, in Jussi Parikka e Tony Sampson (a cura di), The Spam Book: On Viruses, Porn, and Other Anomalies from the Dark Side of Digital Culture (Hampton Press, 2009), pp. 229–247. Per un ulteriore progetto di mappatura della disponibilità di materiali in base alla localizzazione, si veda Aaron Swartz e Taryn Simon, Image Atlas, 2012, online su www.imageatlas.org.

 

Bio

Matthew Fuller è autore e professore di studi culturali presso il Department of Media and Communications, Goldsmiths, University of London. È noto per i suoi scritti in teoria dei media, studi sul software, teoria critica e studi culturali e narrativa contemporanea.

Eyal Weizman è fondatore e direttore di Forensic Architecture e professore di culture spaziali e visive presso la Goldsmiths University of London.