Quando l’algoritmo va in guerra: la legge di Murphy e l’umanità perduta

C’è stato un tempo in cui per fare una guerra servivano almeno un sovrano isterico, un generale con lo sguardo di chi non ha mai lavato un piatto e una mappa abbastanza grande da coprire il tavolo, la verità e possibilmente anche i cadaveri. Oggi il procedimento è stato modernizzato. Bastano una sala operativa, qualche schermo, un software dal nome rassicurante e un gruppo di persone molto serie che chiamano “target” ciò che, fino a prova contraria, potrebbe anche essere un essere umano.

Il progresso ha sempre avuto questa eleganza da cameriere in un ristorante dove servono veleno: arriva sorridendo, promette efficienza, poi si siede accanto ai fabbricanti di armi e ordina il conto a nome dell’umanità.

L’intelligenza artificiale è entrata in guerra

Non come nei film, con robot cromati che minacciano il pianeta parlando come attori licenziati da un teatro di provincia. È entrata in modo più ordinato e quindi più spaventoso: nei droni, nella sorveglianza, nell’analisi dei dati, nella propaganda, nella selezione dei bersagli. Una macchina raccoglie informazioni, incrocia profili, misura comportamenti, calcola probabilità. Poi qualcuno approva. O conferma. O “valida”, che è una parola meravigliosa perché sembra il timbro su una pratica catastale e invece può significare che una famiglia intera è appena diventata un errore statisticamente accettabile.

A questo punto entra in scena la legge di Murphy, che potremmo formulare così: se una decisione può essere presa dalla persona meno adatta, nel momento peggiore, con le conseguenze più gravi per chi non era presente alla riunione, allora verrà presa esattamente così, e con grande sicurezza.

La legge di Murphy governa da sempre la politica, le guerre e certe riunioni aziendali che avrebbero meritato l’intervento della Convenzione di Ginevra. Essa stabilisce che nei luoghi del potere tendano ad accumularsi individui convinti di essere immortali, o almeno sufficientemente importanti da non dover mai verificare personalmente gli effetti delle proprie idee. Parlano di conflitti come chi parla del meteo da una veranda coperta. Spostano pedine, firmano contratti, approvano budget, invocano deterrenza. E intanto, molto lontano dai loro tavoli lucidi, qualcun altro scopre che la geopolitica, quando arriva a casa tua, non bussa.

Il problema non è solo che esistano persone sbagliate nei posti sbagliati

Il problema è che spesso quei posti sono quelli da cui si decide la vita delle persone giuste nei posti più vulnerabili. C’è qualcosa di comico, se non fosse osceno, nell’idea che il destino di interi quartieri possa dipendere da uomini che credono di capire il mondo perché sanno usare parole lunghe davanti a un microfono. “Superiorità strategica.” “Capacità offensiva.” “Ecosistema della difesa.” “Risposta proporzionata.” Hanno trasformato il linguaggio in un materasso per attutire la caduta morale.

Non dicono mai: “Stiamo investendo in strumenti per uccidere meglio.” Sarebbe volgare, e la volgarità è ammessa solo quando esplode, non quando fattura. Dicono: “Rafforziamo la sicurezza.” “Innoviamo la difesa.” “Proteggiamo la stabilità.” A sentirli, un missile non parte: partecipa a un progetto di governance.

Naturalmente i sostenitori della guerra tecnologica spiegano che l’intelligenza artificiale renderà tutto più preciso. È un argomento affascinante, soprattutto se pronunciato da persone che non vivono sotto i missili più precisi del mercato. La precisione, in guerra, è una parola con il vestito della domenica. Fa pensare a un chirurgo, a un orologio svizzero, a una freccia che colpisce il centro. Peccato che il centro, spesso, sia circondato da bambini, anziani, medici, vicini di casa, passanti e altri fastidiosi dettagli biologici che rovinano la pulizia del grafico.

La guerra intelligente. Già l’espressione dovrebbe far scattare un allarme, una sirena, o almeno una risata registrata. Chiamare intelligente una guerra perché usa l’intelligenza artificiale è come chiamare raffinata una ghigliottina perché ha il manico in mogano.

La guerra resta guerra: solo che adesso può compilare meglio i moduli

La tecnologia non elimina la brutalità. La organizza. La accelera. La rende elegante, distante, presentabile. Un tempo, per giustificare una strage, bisognava almeno mentire con una certa fatica. Oggi si può invocare il sistema. Se il bombardamento fallisce, è un’anomalia. Se muore un civile, è un margine d’errore. Se viene distrutto un quartiere, è un output da ricalibrare. Se qualcuno protesta, gli si mostra una slide.

Ed eccoli, allora, i grandi devoti dell’armamento: gli investitori della paura, i sacerdoti della deterrenza, i venditori di apocalissi con cravatte sobrie e mani pulite perché qualcun altro si occupa sempre della polvere. Dove una persona normale vede macerie, loro vedono un mercato. Dove una madre vede un figlio, loro vedono instabilità regionale. Dove un profugo vede la fine della propria casa, loro vedono una nuova fase della sicurezza globale.

Sono quelli che conoscono una sola cura per ogni malattia del mondo: più armi. Se c’è una guerra, servono più armi. Se non c’è una guerra, servono più armi per prevenirla. Se la pace sembra possibile, servono più armi per proteggerla, possibilmente prima che la pace faccia danni al fatturato.

Il loro realismo è sempre molto rispettabile. Si definiscono realisti perché hanno accettato la guerra come legge naturale, più o meno come la gravità, la morte e l’attesa dal dentista. La pace, per loro, è un’ingenuità da anime belle. Il dialogo è debolezza. La diplomazia è lentezza. La compassione è sentimentalismo.

Curiosamente, questi realisti raramente cominciano il loro ragionamento dai morti. Cominciano dalle minacce, dagli equilibri, dai rapporti di forza, dai confini, dai sistemi d’arma. I morti arrivano dopo, come nota a piè di pagina. A volte nemmeno lì.

Eppure, il vero realismo dovrebbe partire proprio da lì: dai morti. Dalle città sventrate. Dai bambini che imparano a distinguere il suono dei droni prima di imparare le tabelline. Dai reduci, dai profughi, dai traumi che passano di generazione in generazione come un’eredità avvelenata. Se ricordare tutto questo è sentimentalismo, allora forse il problema non è chi prova pietà. Il problema è chi ha scambiato la mancanza di pietà per intelligenza politica.

L’intelligenza artificiale, in questo quadro, diventa il complice ideale della legge di Murphy. Non perché sia cattiva. Il male, almeno, ha una certa teatralità. L’algoritmo è più gelido: non odia, non dubita, non dorme male, non sente il peso delle conseguenze. Non vede una donna che corre, un padre che cerca acqua, un ragazzo che torna dal pane. Vede pattern. Probabilità. Rischi. Segmenti. Profili. E noi, che invece potremmo vedere tutto il resto, rischiamo di abituarci a guardare il mondo con i suoi occhi senza pupille.

Questo è il pericolo più grande: non che le macchine diventino troppo umane, ma che gli esseri umani diventino troppo macchine. Che deleghino il dubbio. Che esternalizzino la coscienza. Che trovino sollievo nel poter dire: “Lo ha indicato il sistema.” Come se il sistema fosse un oracolo e non il prodotto di scelte umane, interessi economici, dati incompleti, priorità politiche e vecchie stupidità vestite da innovazione.

La guerra algoritmica promette di ridurre l’errore umano

Ma l’errore umano, a volte, è anche l’ultima fessura da cui può passare la pietà. Un essere umano può esitare. Può domandarsi se sta facendo una cosa irreparabile. Può vedere un volto dove una macchina vede una correlazione. Può disobbedire, almeno in teoria. Una macchina no. Una macchina porta fino in fondo la logica che le è stata consegnata. Se quella logica nasce dentro un mondo che considera inevitabile la guerra e legittimo il profitto che ne deriva, allora l’algoritmo non sarà neutrale. Sarà solo obbediente.

La legge di Murphy dice anche un’altra cosa: chi si crede indispensabile spesso è soltanto pericoloso con un ufficio più grande. I potenti parlano come se avessero secoli davanti. Come se fossero immortali. Come se la storia fosse una sala riunioni prenotata a loro nome. Ma la vita reale ha meno pazienza. La vita reale è fatta di corpi fragili, ospedali pieni, case che crollano, madri che aspettano notizie, padri che scavano, bambini che non capiscono perché il cielo sia diventato un nemico.

Quelli che spingono per armarsi sempre di più, per automatizzare sempre di più, per colpire sempre più in fretta, dovrebbero essere obbligati, prima di ogni discorso sulla sicurezza, a pronunciare i nomi delle persone che rischiano di sparire dentro le loro strategie. Non numeri. Nomi. Non “danni collaterali”. Nomi. Non “obiettivi secondari”. Nomi. Sarebbe un esercizio salutare.

Perché ogni volta che un conflitto viene raccontato come una questione di sistemi, piattaforme, dati e superiorità tecnologica, qualcuno scompare. Scompare il civile. Scompare il dolore. Scompare la responsabilità. Scompare perfino la morte, sostituita da parole più pulite, più amministrative, più digeribili. Il linguaggio diventa un deodorante per la violenza.

Forse è proprio questo che dobbiamo rifiutare: l’idea che la guerra possa essere ripulita abbastanza da diventare accettabile. Che basti renderla più precisa, più automatizzata, più digitale, più intelligente, per toglierle il suo nucleo osceno. Una guerra con più tecnologia non è necessariamente una guerra più morale. Può essere soltanto una guerra più efficiente nel fare ciò che la guerra ha sempre fatto: trasformare persone in problemi da eliminare.

I professionisti dell’armamento continueranno a parlare di necessità. Gli investitori continueranno a scoprire nuove frontiere nel settore della difesa, parola nobile che spesso significa attacco con un ufficio stampa migliore. I governi continueranno a ripeterci che non c’è alternativa, frase amatissima da chi non ha mai cercato davvero un’alternativa.

Ma un’alternativa esiste almeno come principio: rimettere l’essere umano al centro prima che venga ridotto a un dato. Pretendere limiti, regole, responsabilità. Rifiutare l’idea che l’innovazione sia automaticamente progresso. E soprattutto smettere di considerare competenti quelli che, davanti a ogni crisi, propongono sempre la stessa soluzione: più armi, più controllo, più paura, più distanza tra chi decide e chi muore.

Il problema non è solo che l’intelligenza artificiale possa sbagliare bersaglio. Il problema è che ci abitui a pensare al bersaglio prima che alla persona.

E quando questo accade, la macchina ha già vinto. Non perché abbia conquistato il mondo, ma perché ha trovato negli uomini di potere i suoi migliori apprendisti: freddi, sicuri, convinti di essere eterni, e quasi sempre seduti nel posto sbagliato.