“Qualunque sarà l’evoluzione normativa, permane, allo stato attuale, qualche legittima perplessità sull’utilizzo spinto dei dispositivi di intelligenza artificiale, e bisognerà definire in modo chiaro e condiviso i limiti e le condizioni di autonomia di tali macchine per la verificabilità e la tracciabilità del loro percorso decisionale”.

Lo ha detto ieri il ministro della Difesa Lorenzo Guerini in apertura dei lavori della Giornata di studio su “Intelligenza artificiale, sicurezza, responsabilità, etica” promossa dal Segretariato generale della Difesa e Direzione nazionale degli armamenti in collaborazione con il Pontificio consiglio della Cultura della Santa Sede.

Al convegno, tenutosi nell’auditorium ‘Dominioni’ di Palazzo Guidoni a Roma, sono intervenuti il presidente del Pontificio Consiglio della Cultura, Cardinale Gianfranco Ravasi, e il Segretario Generale della Difesa, generale Nicolò Falsaperna (nella foto sotto). Presenti, tra gli altri, il Capo di Stato Maggiore della Difesa, generale Enzo Vecciarelli e i vertici della Forze Armate.

Il ministro ha evidenziato come “la sfida più grande è quella di dominare i cambiamenti che ci prospetta la moderna tecnologia, riuscire a cavalcarli, addomesticarli, e soprattutto a renderli viatico di benessere attraverso forze e competenze positive”.

“Oggi – ha ricordato Gueriuni – affidiamo, in maniera quasi fideistica, gli aspetti più delicati della nostra vita, la nostra prosperità, la nostra stessa sicurezza, sia come singoli individui sia come collettività nazionali ed internazionali, a sistemi governati da tecnologie sempre più pervasive e dirompenti.

Quasi tutte la nostra attività sono supportate o abilitate da computer che spaziano dai dispositivi mobili, ormai parte della nostra quotidianità ai sistemi di controllo del traffico aereo e ferroviario, passando per i dispositivi biomedici e per le smartcard che garantiscono sicurezza per l’identificazione e le transazioni finanziarie”.

“Tecnologie quali il Machine Learning, Natural Language Processing, l’ Internet of Things, l’ High Performance Computing – ha proseguito – consentono oggi di creare prodotti con à di Intelligenza artificiale sempre più autonoma, in di interpretare fenomeni complessi utilizzando algoritmi matematici che processano immensi volumi di dati – economici, finanziari, sociali, culturali – decisivi per la nostra vita, spesso dimenticando che gli stessi sono una creazione umana, e in quanto tali suscettibili di errore.

In questa rincorsa costante verso un’automazione sempre più spinta e pervasiva dobbiamo porci una domanda: fino a che punto le applicazioni di Intelligenza artificiale possono essere lasciate libere di agire in autonomia? E soprattutto, fino a che punto possiamo consentire questo?”.

“Sappiamo benissimo che sistemi di armamento ambito militare autonomo già esistono e non rappresentano una novità: da decenni le forze armate di tutto il mondo li utilizzano, seppure con differenti livelli di autonomia e per attività prevalentemente non letali, in molti campi di applicazione, quali la ricerca e il soccorso, il disinnesco di ordigni esplosivi, la ricognizione.

Ma è evidente che in campo militare esistono significative implicazioni etiche e legali, legate alla sempre più realistica capacità della macchine di ragionare come uomini”.

“Quello militare – ha concluso il ministro della Difesa – è un ambito in cui, in un prossimo futuro, lo stesso processo decisionale per la scelta dell’uso della forza potrebbe essere affidato ad un sistema d’arma dotato di un elevato livello di autonomia.

Sulla questione normativa la Commissione Giuridica della Ue si è già espressa, ravvisando la necessità di individuare un adeguato sistema giuridico entro il quale poter collocare la robotica autonoma. Occorrerà regolamentare fenomeni che nascondono grandi incognite”.

Tanti i relatori intervenuti alla conferenza, tra i quali Bernhard Warner (Fortune Magazine), Rita Cucchiara (Direttore Laboratorio nazionale Artificial Intelligence and Intelligent Systems), padre Paolo Benanti (docente alla Pontificia Università Gregoriana).