Recensione del libro di Federica Merenda (Castelvecchi 2025)

La condizione disumana. Hannah Arendt, l’intelligenza artificiale e le frontiere digitali non è un libro sull’intelligenza artificiale.

O meglio: non lo è nel senso rassicurante e ormai inflazionato del termine. È un libro sulla trasformazione dell’umano quando il giudizio, la responsabilità e la decisione politica vengono progressivamente delegati a dispositivi tecnici che pretendono di essere neutrali, efficienti, inevitabili.

Federica Merenda, assegnista di ricerca in filosofia politica alla Scuola Superiore Sant’Anna di Pisa, studiosa di Hannah Arendt, teorie femministe e del nesso tra diritti umani, intelligenza artificiale e tecnologie digitali, prende sul serio una domanda che troppo spesso viene elusa: che cosa accade alla politica, e a chi la subisce, quando il potere decisionale si nasconde dietro un algoritmo?

Il punto centrale del libro non è la tecnologia in sé, ma il modo in cui essa ristruttura le condizioni del giudizio politico. L’intelligenza artificiale diventa un problema non quando “pensa”, ma quando viene chiamata a decidere: quando entra nei processi che selezionano, escludono, classificano, valutano vite umane, sottraendo queste decisioni allo spazio della responsabilità e del confronto pubblico. Come scrive Merenda, il problema non è tanto l’errore tecnico, quanto il fatto che i sistemi automatizzati producano decisioni senza giudizio.

È qui che il dialogo con Arendt smette di essere ornamentale e diventa strutturale. La disumanizzazione non è descritta come un eccesso di violenza, ma come una progressiva sottrazione di mondo: la riduzione degli individui a fasci di dati, a profili di rischio, a sequenze di reazioni previste. L’umano non viene negato frontalmente, viene semplificato fino a diventare compatibile con sistemi che non conoscono pluralità, immaginazione, responsabilità.

La prima parte del libro ricostruisce con rigore il cosmopolitismo arendtiano, il nesso tra pluralità, spazio pubblico e facoltà di giudizio, e il debito di Arendt nei confronti di Immanuel Kant, in particolare della terza Critica. Ma questo impianto teorico non resta confinato alla storia delle idee: serve a costruire un criterio politico preciso per valutare ciò che sta accadendo oggi, quando il giudizio viene trattato come una funzione computabile e non come una pratica relazionale e comunicativa.

La seconda parte affronta direttamente l’intelligenza artificiale come questione filosofica e politica. Automatizzare un processo decisionale non significa semplicemente accelerarlo o renderlo più efficiente: significa ridefinire ciò che viene considerato rilevante, ciò che può essere ignorato, ciò che resta fuori. I sistemi di apprendimento automatico, fondati su logiche deduttive e statistiche, mostrano qui il loro limite strutturale: l’incapacità di formulare giudizi, di confrontarsi con l’imprevisto, di assumere responsabilità.

È tuttavia nella parte dedicata alle frontiere digitali e alla governance delle migrazioni che la tesi del libro trova la sua verifica più concreta e più disturbante. L’automatizzazione dei controlli, l’uso di database interoperabili, di sistemi di profilazione e valutazione del rischio non producono solo decisioni amministrative: trasformano l’esperienza stessa della migrazione. Prima ancora dell’attraversamento fisico del confine, il soggetto migrante viene inscritto in un processo continuo di classificazione, sospetto e selezione. Le frontiere non sono più linee, ma dispositivi permanenti, che accompagnano e modellano le vite di chi le subisce.

In questo senso, La condizione disumana è un libro profondamente politico perché rifiuta l’alibi della neutralità tecnica. Se accettiamo che le macchine prendano decisioni rilevanti al posto degli esseri umani, suggerisce Merenda, è perché abbiamo già accettato che gli esseri umani decidano come macchine: senza giudizio, senza immaginazione, senza responsabilità.

Le conclusioni non offrono soluzioni facili né rassicurazioni. Rivendicano piuttosto la necessità di una ri-politicizzazione radicale della governance digitale, contro la retorica dell’inevitabilità e dell’efficienza. Difendere il giudizio umano non significa opporsi alla tecnologia, ma rifiutare un modello di razionalità che espelle la pluralità dal mondo comune.

È un libro esigente, rigoroso, a tratti scomodo. Non cerca il consenso, non indulge nell’ottimismo tecnologico, non semplifica. Ed è proprio per questo che arriva nel momento giusto: quando il rischio non è più quello di una tecnologia disumana, ma di una politica che ha smesso di interrogarsi su cosa significhi, oggi, essere umani insieme.