PROBLEMI
Sfide per l'umanità
Questo sistema solleva molte nuove sfide per l'umanità, dalle applicazioni tecniche alle questioni politiche, legali ed etiche. Se nell'uso tradizionale delle armi - compresi i droni a pilotaggio remoto - ci sono sempre quelle persone specifiche che hanno dato l'ordine e premuto il "grilletto," allora chi esattamente e come può essere ritenuto colpevole di un omicidio, la cui decisione è stata presa da un robot autonomo in base ad algoritmi? Chi sarà responsabile se il programma fallisce e le macchine iniziano a uccidere civili, medici, operatori di pace o i loro stessi militari? Chi potrà dire con certezza se si è trattato di un malfunzionamento, di un hack o di un'imitazione dolosa di un errore? Chi sarà ritenuto responsabile se la macchina da guerra va completamente fuori controllo e inizia a uccidere tutti quelli che può?
Questioni legali ed etiche
All'ONU, il tema dei veicoli da combattimento autonomi e del loro rispetto del diritto internazionale umanitario, del diritto dei diritti umani e della convenzione sui "inumani" le armi sono oggetto di discussioni attive dal 2013. Sono state fatte ripetutamente proposte per imporre una moratoria generale sullo sviluppo e sul funzionamento di sistemi di combattimento autonomi, ma finora non sono state prese decisioni e azioni drastiche.
Inoltre, una macchina autonoma può avere velocità di reazione e precisione incomparabilmente migliori rispetto a qualsiasi operatore umano. Il dispositivo non mette in discussione l'etica e la legittimità della partecipazione a qualche operazione particolare, soprattutto poco ufficiale. La responsabilità risulta offuscata, il che a volte è molto conveniente quando nessuno vuole essere responsabile delle conseguenze.
Una cosa è chiara: nessuna battaglia di macchine, e non di persone, è fuori discussione a breve. Tuttavia, l'uso di massa dei robot per scopi militari è solo questione di tempo.