Prospettive

Il mito della neutralità della tecnologia

Da un coltello a un algoritmo, ogni strumento porta incise in sé le decisioni di chi l'ha costruito. La neutralità tecnologica è il racconto che ci impedisce di vederle.

"Un'arma non uccide, è l'uomo a premere il grilletto." "Un software per la scrematura dei curriculum si limita ad applicare parametri statistici, non ha pregiudizi." "Un'infrastruttura di sorveglianza raccoglie dati, non emette sentenze." Queste affermazioni, o le loro innumerevoli varianti, sono diventate così familiari da aver perso gran parte della loro capacità di suscitare attenzione. Sono le argomentazioni di chi difende un'arma da fuoco in un dibattito televisivo, di chi presenta un algoritmo di selezione a un consiglio di amministrazione, o di chi spiega a uno studente di ingegneria l'irrilevanza dell'etica in un percorso tecnico. La formulazione può variare, ma il presupposto rimane costante: lo strumento è intrinsecamente neutrale, e la responsabilità ricade interamente su chi lo adopera.

Questa prospettiva offre un conforto notevole. Il coltello, per esempio, non è crudele quando ferisce una vittima, né compassionevole quando sbuccia un frutto a una persona affamata. Resta un oggetto inerte, un puro mezzo a disposizione. Tutta la carica morale dell'azione si concentra sulla mano che lo impugna. In questa interpretazione, la tecnologia viene vista come il palcoscenico su cui si svolge la vicenda umana, piuttosto che come uno dei suoi attori principali.

Eppure, proprio questa patina di ovvietà costituisce il primo segnale critico da osservare. Le idee che non sembrano richiedere alcuna difesa sono, di fatto, quelle che esigono l'esame più rigoroso, poiché il loro potere risiede nella loro stessa invisibilità.

Affermare che uno strumento è neutro indica come guardare il mondo, e sottintende una decisione su cosa *non* guardare.

L'idea che gli artefatti possano essere scissi dai valori che li permeano ha una storia ben precisa. Essa rappresenta il prodotto di una specifica fase dello sviluppo industriale occidentale, in cui la netta demarcazione tra progettazione e impiego, tra il concepire e l'agire, fu ritenuta indispensabile. La separazione di queste due sfere permise la specializzazione delle competenze, l'accelerazione dei processi produttivi e la limitazione delle responsabilità legali. La neutralità dello strumento, pertanto, emerse come un'esigenza pratica legata all'organizzazione del lavoro.

Il linguaggio con cui questa separazione viene solitamente sostenuta possiede una sua grammatica intrinseca. Formule come "è solo uno strumento", "dipende da come lo si usa" o "la tecnologia in sé non è né buona né cattiva" sembrano descrivere proprietà intrinseche degli oggetti, ma servono, piuttosto, a dislocare la responsabilità morale. Quando un produttore di software dichiara la neutralità della propria piattaforma, sta formulando sia un'affermazione tecnica sia una mossa retorica: colloca il giudizio etico altrove, demandandolo alla condotta dell'utente, all'applicazione pratica o all'eventuale abuso. In questo modo, la fase di progettazione viene deliberatamente esentata da ogni valutazione.
Questa dinamica, tuttavia, rivela una fondamentale asimmetria. Chi produce tecnologia invoca frequentemente la neutralità dello strumento; chi ne subisce le conseguenze, al contrario, raramente la avverte. Un sistema di riconoscimento facciale, ad esempio, che offre un'accuratezza superiore per determinate fisionomie rispetto ad altre, non apparirà affatto neutro a coloro che da esso non vengono riconosciuti. Similmente, una panchina urbana dotata di braccioli centrali, un dettaglio architettonico concepito per impedire di sdraiarsi, non risulterà neutrale a chi è costretto a dormire per strada(Winner, 1980). La neutralità, in altri termini, è sempre la neutralità di qualcuno; e quel qualcuno occupa sempre un posto preciso.

Ciò che questo assunto omette sistematicamente è proprio il contesto. Un artefatto prende forma in un luogo e in un tempo precisi, all'interno di un complesso intreccio di relazioni economiche e culturali. Porta incise in sé le scelte di chi lo ha concepito: le categorie concettuali applicate, le fisionomie considerate, i casi d'uso considerati standard e quelli che, invece, sono stati ignorati. Ogni progettista lavora avendo come riferimento un modello implicito di utente. Quando quel modello non coincide con chi si trova effettivamente a usare lo strumento, ecco che la presunta neutralità si smaschera, rivelandosi semplicemente per ciò che è: un'ennesima forma di preferenza.

Separare l'artefatto dai valori che lo abitano sposta soltanto il problema.

Una prima area critica riguarda la responsabilità. Se lo strumento è privo di valori intrinseci e il comportamento dipende unicamente dall'utente, la responsabilità morale si concentra sull'individuo agente. Tuttavia, i sistemi tecnologici attuali coinvolgono catene causali ramificate tra progettisti, sviluppatori, aziende, enti regolatori e utenti. Un algoritmo che amplifica contenuti divisivi è il risultato di una funzione di ottimizzazione ideata da un ingegnere, approvata da un manager, diffusa da una piattaforma e utilizzata da milioni di persone. Stabilire chi risponde, in questa rete ramificata, è già una scelta politica. La narrativa della neutralità la rende impossibile: non distribuisce la responsabilità, la fa evaporare.
Ma il problema non si risolve semplicemente invertendo la direzione. Dire che gli algoritmi stessi amplificano, discriminano, escludono sposta la responsabilità verso la fase di progettazione, ma non la rende necessariamente più identificabile. Lo stesso ingegnere che ha ideato la funzione di ottimizzazione lavorava entro vincoli definiti altrove, con obiettivi stabiliti da altri, su infrastrutture che non ha costruito. Anche in questa direzione, la responsabilità tende a dissolversi lungo la catena. Il nodo non è quindi scegliere tra utente e progettista come sede della responsabilità, ma riconoscere che le categorie disponibili - individuo, intenzione, uso, abuso - sono state costruite per sistemi molto più semplici di quelli che abitiamo oggi. Renderle adeguate alla complessità attuale è una sfida che appartiene tanto al diritto e alla politica quanto all'ingegneria.

Altra area di frizione si manifesta nel rapporto tra intenzione ed effetto. Un artefatto può essere concepito con le più benigne intenzioni e, nondimeno, produrre sistematicamente conseguenze discriminatorie. Una telecamera incapace di riconoscere i volti delle persone con carnagione scura, ad esempio, può derivare da dataset che riflettono la composizione demografica del gruppo di sviluppo. L'esclusione diventa così una realtà tangibile, misurabile e strutturale. Giudicare un artefatto dalle intenzioni di chi l'ha costruito porta a conclusioni diverse rispetto al giudicarlo dai suoi effetti reali. Nessuna delle due prospettive basta da sola, e la tensione tra le due non si risolve, va tenuta aperta.

Si aggiunge una dimensione geografica e culturale. I sistemi tecnologici sono spesso concepiti in contesti circoscritti, come un campus universitario o un ufficio in una capitale economica, per poi essere distribuiti su scala globale. Essi trasportano con sé le categorie linguistiche, i modelli comportamentali e le gerarchie di valore del luogo d'origine. Chi non rientra in tali categorie sperimenta lo strumento come parziale, inadeguato, talvolta ostile. La neutralità tecnologica postula che gli strumenti possano attraversare contesti culturali senza necessariamente veicolare le specificità dei luoghi in cui sono stati prodotti; un presupposto difficile da sostenere di fronte all'evidenza dei fatti.

Infine, vi è la questione del tempo. Gli artefatti possiedono una durata intrinseca. Essi sopravvivono alle intenzioni dei loro creatori, ai valori del periodo di progettazione e persino alle leggi che avrebbero dovuto regolarli. Un sistema informatico legacy, un programma risalente a decenni fa e ancora operativo in contesti cruciali come ospedali o uffici pubblici, racchiude al suo interno i vincoli e le assunzioni di chi lo ha originariamente scritto. La sua modifica è dispendiosa, spesso tecnicamente rischiosa, e i valori che incorpora resistono al mutamento sociale avvenuto nel frattempo (Miller, 2021). La tecnologia si configura così come un sedimento del passato, proiettato nel futuro.

Quando si considera la tecnologia non come uno strumento indifferente, bensì come un sistema di scelte cristallizzate, il tipo di domande che emergono si trasforma profondamente.

Alla domanda "questa tecnologia funziona?" si affianca "funziona per chi?". Alla domanda "viene usata bene?" si aggiunge "quali usi erano previsti e quali, invece, sono stati deliberatamente esclusi già in fase di progettazione?". E alla domanda "chi è responsabile di questo danno?" subentra "come è distribuita la responsabilità lungo la catena che ha condotto alla produzione di questo artefatto?". Queste integrazioni rendono visibile una complessità già latente, ma che la narrativa della neutralità aveva efficacemente rimosso dal campo di indagine. Un ingegnere che si interroga sul profilo dei futuri utenti del proprio sistema, sulle condizioni d'uso, sui limiti o sulle specificità culturali, sta esercitando una competenza tecnica che il modello della neutralità aveva in precedenza dichiarato irrilevante.

La retorica della neutralità tecnologica esercita anche un marcato effetto depoliticizzante. Convertire una questione di distribuzione del potere in un mero problema di corretto utilizzo degli strumenti significa sottrarre il conflitto dallo spazio deputato alla sua discussione e negoziazione. Se una piattaforma digitale viene considerata uno strumento neutro, il dibattito sulla sua capacità di ridistribuire attenzione, influenza e reddito finisce per ricadere nell'ambito della regolazione tecnica, escludendolo dalla sfera della scelta collettiva. Riconoscere invece che quella piattaforma incorpora valori precisi, nel modo in cui raccomanda contenuti, modera il discorso, distribuisce visibilità e denaro, significa restituire quel dibattito alla politica, cioè allo spazio in cui le scelte collettive possono essere contestate e cambiate.

Esiste, parallelamente, un rischio simmetrico da considerare. Una narrazione che postula gli artefatti come determinanti del comportamento umano, in cui la tecnologia "fa" e gli esseri umani "subiscono", non coglie adeguatamente la complessità della realtà. Gli artefatti, pur orientando le azioni e rendendo più probabili certi esiti piuttosto che altri, creando attriti o facilitazioni, non annullano l'agenzia umana(Klenk, 2021). Gli esseri umani utilizzano gli strumenti in modi che i progettisti non avevano anticipato, li reinterpretano, vi resistono, li deformano. Da questa prospettiva, una lettura che enfatizza eccessivamente i valori incorporati negli artefatti rischia di sottovalutare proprio questa capacità di reinterpretazione: se ogni strumento porta incise in sé le scelte di chi lo ha costruito, e se quelle scelte orientano il comportamento in modo determinante, dove rimane lo spazio per l'appropriazione creativa, per l'uso imprevisto, per la resistenza? La tensione tra struttura e agenzia va tenuta aperta quanto quella tra intenzione ed effetto. La relazione tra un artefatto e chi lo utilizza risulta, di conseguenza, complessa, instabile e intrinsecamente aperta.

Consideriamo dunque il coltello, guardandolo per quello che è davvero. Una lama ha una lunghezza pensata per una presa specifica. Una forma progettata per un gesto. Un materiale scelto tra quelli disponibili in un dato momento, in un dato luogo, da qualcuno con un'idea precisa di cosa significhi fare un buon coltello. E un'idea implicita, spesso inconsapevole, di chi lo userà.
Quando lo vediamo così, il coltello smette di essere un esempio neutro e diventa un oggetto denso: porta con sé una storia, un'intenzione, un profilo d'uso. Invece di apparire pericoloso per definizione, diventa leggibile.
È questa leggibilità che dobbiamo recuperare di fronte agli strumenti più complessi che abitano il nostro presente. Invece di diffidare della tecnologia o di attribuirle poteri che non ha, si tratta di cominciare a farla oggetto delle stesse domande che rivolgiamo a qualsiasi altra decisione umana: chi l'ha presa, in quale contesto, con quali interessi, e a vantaggio di chi. In fondo, sostenere la neutralità tecnologica è solo un modo di smettere di guardare. E smettere di guardare, nel caso della tecnologia, ha sempre conseguenze per qualcuno.