In un articolo, apparso qualche settimana fa sul Guardian (02.06.2023), si legge di un test virtuale realizzato dalle forze armate statunitensi, in cui un drone dell’aeronautica controllato dall’intelligenza artificiale ha deciso di “uccidere” virtualmente il suo operatore per impedirgli di interferire con il raggiungimento della sua missione.
Questa notizia, al di là della verifica puntuale delle dinamiche del fatto, è il segno comunque chiaro dell’urgenza e della pregnanza di domande che non possiamo più permetterci il lusso di ignorare: in che direzione sta andando lo sviluppo dell’intelligenza artificiale? E chi lo sta guidando? Arriverà – quando? – il momento in cui un essere umano sarà ucciso da un’arma da lui stesso controllata tramite sistemi di intelligenza artificiale?
A queste domande prova a rispondere un volume collettaneo recentemente pubblicato in open access da Franco Angeli: Dai droni alle armi autonome. Lasciare l’Apocalisse alle macchine?, a cura di Francesca Farruggia e con una prefazione del premio Nobel Giorgio Parisi.
Autore: Francesca Farruggia
Anno: 2023
Editore: Franco Angeli
Luogo di pubblicazione: Milano
Partendo dalla preistoria, e arrivando fino alla guerra attualmente in corso in Ucraina, il volume raccoglie saggi che affrontano il tema dell’emancipazione delle armi dall’uomo che le ha create, fino ad arrivare all’attuale frontiera rappresentata dall’applicazione dell’intelligenza artificiale ai conflitti bellici – e le sue possibili conseguenze – da diverse prospettive: dallo stato dell’arte del machine learning, alle diverse scale temporali su cui si basano le decisioni umane e quelle delle macchine, dalla comunicazione tra questi stumenti alle difficoltà di discriminazione percettiva in situazioni di alta complessità come quella rappresentata da uno scenario bellico. Dalle questioni relative al diritto internazionale alle capacità comunicative della comunità scientifica, per finire con il ruolo che dovrebbe avere l’opinione pubblica in tutte le decisioni che riguardano l’applicazione bellica dell’intelligenza artificiale.
Si tratta di questioni cruciali e urgenti, come ci ricorda Battistelli nella sua introduzione al volume: «L’avvento dell’intelligenza artificiale è oggi un passaggio epocale che ha molti punti di contatto con un evento altrettanto ambivalente quale la liberazione dell’energia nucleare indotta dall’uomo. Adesso come allora, è compito degli scienziati indicare le vie per prevenire i rischi delle scoperte, mentre Lo è dell’opinione pubblica convincere i governi a intraprenderle.» (p. 20).
Questo perché, come dice Parisi nella sua prefazione: «L’interesse dei militari ad espandere l’uso di armi autonome ha delle motivazioni chiarissime e giustificate dal loro punto di vista. Tuttavia, non possiamo permettere che un algoritmo debba risolvere problemi etici delicatissimi» (p. 14).
Proprio questo è il contributo più interessante del volume: la necessità di portare questioni apparentemente molto specialistiche e complesse all’attenzione dell’opinione pubblica, perché con lo sviluppo delle tecnologie basate sull’intelligenza artificiale i temi e i problemi affrontati dalla pubblicazione non possono più essere appannaggio esclusivo di tecnologie militari.
A questo proposito, citiamo ancora Parisi quando scrive che «Bisogna anche mobilitare l’opinione pubblica che sta assistendo rassegnata, come ad un fatto ineluttabile, alla progressiva introduzione di queste armi letali. Gli scienziati (sia delle scienze naturali e sociali, come coloro che hanno contribuito a questo libro) hanno una grande responsabilità nel comunicare questi aspetti delicati in maniera comprensibile ad una opinione ignara. Ma un compito estremamente importante spetta ai mezzi di informazione in maniera che venga esercitata una pressione sui decisori politici, che devono fare passi concreti per proteggere l’umanità dai danni più crudeli delle guerre». (p. 15)
Il Centro Ricerche sAu porta avanti progetti di ricerca basati su un’idea di tecnologia a sostegno della libertà umana e del diritto dei soggetti a conoscere e a orientare i propri comportamenti sulla base dei valori in cui si riconoscono. In tutti i domini delle nostre vite, compreso quello militare.
Ph.D., Ricercatore e socio fondatore del Centro Ricerche scientia Atque usus per la Comunicazione Generativa ETS.
Consulente presso Lab CfGC.
- Estratto di Dai droni alle armi autonome. Lasciare l’Apocalisse alle macchine? – Vai alle Anteprime della Library di sAu