DRONI GUIDATE DALL’AI, SE SBAGLIANO E UCCIDONO CIVILI DI CHI E’ LA RESPONSABIITA’?
L’INCHIESTA DI MILENA GABANELLI PER IL “CORRIERE ALLA SERA”
A Zaporizhzhia, in Ucraina, un drone russo ha colpito una stazione di servizio e
ucciso tre persone. Secondo gli investigatori ucraini citati dal New York Times (qui) era guidato interamente dall’intelligenza artificiale: nell’ultima fase il sistema avrebbe scelto e attaccato il bersaglio senza un intervento umano. La ricostruzione pone una domanda: se a selezionare l’obiettivo è un software, chi risponde di un eventuale crimine di guerra? Il soldato, il comandante, il programmatore? La risposta può coinvolgere più persone, anche molto lontane dal fronte.
Dentro la guerra tecnologica c’è il software della californiana Palantir Technologies, che integra immagini satellitari, video dei droni, informazioni dal terreno e intelligence open source per offrire ai comandanti opzioni di targeting. In un’inchiesta di Time, il suo amministratore delegato Alex Karp dice che la sua piattaforma è «responsabile della maggior parte del targeting in Ucraina». E poi c’è Starlink, la rete satellitare di Elon Musk, che garantisce connettività continua sul campo: senza collegamento stabile la guerra dei droni non funziona alla stessa scala, con la stessa precisione, con la stessa rapidità. La novità è qui: non solo armi sempre più intelligenti, ma guerra sempre più dipendente da software proprietari e infrastrutture private.
Differenza rispetto all’arma convenzionale
Chi fabbrica un cannone normalmente non decide contro chi sparare. Vende un’arma che può essere impiegata legittimamente contro un obiettivo militare oppure illegalmente contro dei civili. La vendita, da sola, non lo rende responsabile dell’attacco. La differenza è nel ruolo del prodotto. In un sistema autonomo il software può determinare quali oggetti riconoscere come bersagli, quali segnali considerare sufficienti per attaccare e quando rinunciare. Una parte delle scelte che prima venivano compiute sul campo può essere incorporata nella progettazione. Chi scrive il programma lo modifica o ne approva le funzioni può così contribuire anche al processo di selezione del bersaglio. Questo rende necessario indagare sul suo ruolo, ma non basta a dimostrarne la colpevolezza (fonte: SIPRI e ICRC). Per capire chi debba rispondere bisogna mettere in ordine quattro passaggi: accertare il crimine, verificare il controllo dell’operatore, risalire alle decisioni del comando, esaminare il contributo del produttore.
Accertamento del crimine
La morte di civili non dimostra, da sola, un crimine di guerra. Occorre verificare che cosa si voleva colpire, quali informazioni fossero disponibili prima dell’attacco, quali precauzioni siano state adottate e quale danno civile fosse prevedibile rispetto al vantaggio militare atteso. Un guasto o un riconoscimento sbagliato non diventano automaticamente crimini: possono comportare altre responsabilità, ma per una condanna servono gli elementi specifici del reato. Lo Statuto di Roma scrive chiaramente che «errore tecnico, violazione del diritto umanitario e crimine di guerra non sono sinonimi».
Il secondo passaggio riguarda l’operatore: poteva verificare il bersaglio? Aveva informazioni sufficienti? Quanto tempo aveva per decidere? Poteva fermare l’attacco? La presenza di una persona davanti a uno schermo non garantisce, da sola, un controllo effettivo. Alessandro Arduino, autore di La guerra è cambiata. Droni, IA e mercenari (Einaudi), individua proprio questo squilibrio: «Al momento abbiamo un’intelligenza artificiale che sceglie gli obiettivi». L’essere umano, osserva, ma non è «così veloce cognitivamente da poterci star dietro». Non è un’assoluzione del soldato, ma una ragione per non scaricare automaticamente su di lui tutta la responsabilità.
Risalire al comando
Il terzo passaggio riguarda chi ha ordinato l’attacco e stabilito come impiegare l’arma, ovvero chi ha scelto l’area operativa e chi ha deciso quanta autonomia concedere al sistema. Un comandante può rispondere per aver ordinato un crimine, ma anche per i crimini delle forze sotto il suo controllo effettivo, se non ha adottato le misure necessarie e ragionevoli per prevenirli, reprimerli o segnalarli alle autorità competenti. In sostanza, l’automazione non cancella i doveri di comando.
Responsabilità del produttore di software
Il quarto passaggio porta dentro l’azienda. L’articolo 25 dello Statuto di Roma prevede la responsabilità di chi, allo scopo di agevolare un crimine, aiuta a commetterlo anche fornendo i mezzi. Dunque non riguarda soltanto i militari, ma può coinvolgere dirigenti e sviluppatori. Facciamo un esempio ipotetico. Un reparto chiede di modificare un programma per identificare e attaccare deliberatamente dei civili. Un responsabile tecnico realizza quella modifica. Se vengono provati il contributo e gli elementi soggettivi richiesti, quel dirigente può rispondere del crimine anche senza aver pilotato il drone.
Diverso è vendere un programma utilizzabile legittimamente che il cliente impiega poi per un attacco criminale. Il contratto di fornitura non dimostra il concorso e non basta nemmeno conoscere genericamente i rischi della tecnologia. Bisogna ricostruire che cosa ciascuno abbia fatto, saputo e voluto: istruzioni, richieste del cliente, modifiche, test, avvertimenti e comunicazioni possono diventare elementi dell’indagine.
Sappiamo che la Corte penale internazionale giudica persone fisiche, non società, poiché le eventuali responsabilità dell’azienda dipendono dagli ordinamenti nazionali. E trovare un componente commerciale dentro un drone non dimostra, da solo, la complicità del produttore. Né un difetto del software equivale automaticamente a un crimine di guerra. Sta di fatto che alla fine provare la responsabilità penale di progettisti e programmatori è una strada percorribile, ma piena di difficoltà, come evidenzia lo studio congiunto SIPRI e ICRC.
Il caso delle mine antiuomo
Per le mine la decisione è stata quella di vietare la produzione, non soltanto un determinato impiego. La Convenzione di Ottawa del 1997 proibisce agli Stati aderenti l’uso, lo sviluppo, produzione, acquisizione, stoccaggio e trasferimento delle mine antipersona, salvo l’utilizzo di quelle esistenti per scopo di addestramento. L’articolo 9 richiede misure nazionali, comprese sanzioni penali, contro le attività vietate, e per punirne la produzione illegale non occorre aspettare che una mina uccida qualcuno. In questo caso è vietato il prodotto stesso, non solo un determinato uso. Il caso delle mine però è diverso dal concorso in un atto criminale e, pertanto, non si può estendere automaticamente quel tipo di divieto a ogni software militare che utilizzi l’AI. Tuttavia il Comitato internazionale della Croce Rossa chiede nuove proibizioni e restrizioni specifiche per i sistemi autonomi, complementari alle regole del diritto umanitario già applicabili.
Guerra tecnologica con vittime di massa
I droni russi lanciati sull’Ucraina sono stati 50 mila solo nel 2025. Una trasformazione che investe anche medici, soccorritori e operatori umanitari. Il presidente di Medici Senza Frontiere, Ettore Mazzanti, ci dice che dieci anni fa i droni erano utilizzati anche per usi civili e sanitari: trasporto di sangue, medicinali, campioni clinici in zone remote, mentre oggi operare con i droni in Ucraina diventa molto più difficile. L’immagine dominante è quella di una minaccia che vede, insegue, aspetta, riduce lo spazio del soccorso e allarga quello della paura. La guerra sempre più tecnologica non è chirurgica né asettica e non ha impedito perdite di massa.
Il Center for Strategic and International Studies stima, tra febbraio 2022 e giugno 2026, almeno 525-625 mila perdite militari ucraine tra morti, feriti e dispersi, con 125-150 mila morti. Per la Russia, circa 1,4 milioni di perdite, di cui 400-450 mila morti. Sono stime che non includono le vittime civili e non separano quelle uccise dai droni o dall’intelligenza artificiale.
In Sudan, invece, l’organizzazione indipendente Acled ha registrato nel 2025 almeno 2670 morti, fra militari e civili, collegati direttamente agli attacchi con i droni. Un’espansione del 600% rispetto al 2024, con un aumento degli attacchi dell’81%. Anche qui i dati non dimostrano che i bersagli siano stati scelti dall’AI.
È davanti a queste morti che la catena delle responsabilità deve restare ricostruibile. Nessuno è colpevole soltanto per il mestiere che fa; nessuno è necessariamente estraneo perché lavora lontano dal fronte. Il software non può essere imputato, mentre chi contribuisce a un crimine attraverso quel software, può esserlo.
Milena Gabanelli e Marta Serafini
(da il corriere.it)
Leave a Reply