Ospitiamo un interessante contributo dell’avvocato Dario Guidi Federzoni sulle definizioni comparate di intelligenza artificiale fornite dal Consiglio di Stato e dalla Commissione UE, al fine di individuare analogie e differenze, ma soprattutto per iniziare ad approfondire la tematica della normativa di tecnologie ormai di uso quotidiano.

Come è stato notato da autorevoli specialisti¹, la nostra più recente giurisprudenza amministrativa ha fornito le proprie definizioni di algoritmo e di intelligenza artificiale, ed anche la Commissione Europea ha proposto una definizione di I.A.
Dall’esame di tali definizioni è possibile ricavare alcune conclusioni utili, sia sul piano giuridico che su quello operativo.

Partendo dalla giurisprudenza italiana, la sentenza del 25 novembre 2021, n. 7891 del Consiglio di Stato, Sezione III – avente ad oggetto la legittimità di una procedura di gara per la fornitura di “pacemaker di alta fascia” – ha affermato, al punto 9.1 della motivazione:

“Non v’è dubbio che la nozione comune e generale di algoritmo riporti alla mente ‘semplicemente una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato’ […] Cosa diversa è l’intelligenza artificiale. In questo caso, l’algoritmo contempla meccanismi di machine learning e crea un sistema che non si limita solo ad applicare le regole software e i parametri preimpostati (come fa invece l’algoritmo ‘tradizionale’) ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico.”

La Commissione UE, nella sua Proposta di regolamentazione dell’I.A. del 21 aprile 2021², in uno dei c.d. “considerando” preliminari, ha affermato che: “la nozione di sistema di I.A. dovrebbe essere chiaramente definita per garantire la certezza del diritto, fornendo al contempo la flessibilità necessaria per accogliere i futuri sviluppi tecnologici. La definizione dovrebbe essere basata sulle caratteristiche funzionali chiave del software, in particolare la capacità, per un dato insieme di obiettivi definiti dall’uomo, di generare output quali contenuti, previsioni, raccomandazioni o decisioni che influenzano l’ambiente con cui il sistema interagisce, sia in una dimensione fisica che digitale. I sistemi di intelligenza artificiale possono essere progettati per funzionare con diversi livelli di autonomia ed essere utilizzati in modo autonomo o come componente di un prodotto, indipendentemente dal fatto che il sistema sia fisicamente integrato nel prodotto (incorporato) o serva la funzionalità del prodotto senza esservi integrato (non incorporato).”

Sulla base di tali considerazioni, l’art. 3 della Proposta definisce il sistema di “intelligenza artificiale” come il software sviluppato con una o più tecniche ed approcci (elencati nell’Allegato 1), e che può, per una data serie di obiettivi definiti dall’uomo, generare risultati quali contenuti, previsioni, raccomandazioni o decisioni che influenzano l’ambiente con cui il sistema interagisce.

Le due affermazioni, contenute di fatto nel medesimo documento, sembrerebbero dunque indicare due direzioni opposte: da un lato la Commissione sembrerebbe accogliere una definizione piuttosto circostanziata di intelligenza artificiale, delimitandone con una certa precisione i confini; dall’altro, il lungo elenco di “approcci” elencati nell’Allegato 13 si ricava l’impressione opposta. Per cui probabilmente la Commissione, nell’intento di evitare problematiche interpretative, ha voluto ampliare al massimo la nozione di intelligenza artificiale, ricomprendendo in essa sia l’I.A. forte (volta a creare sistemi informatici in grado di comprendere e di possedere stati cognitivi), sia l’I.A. debole (un sistema informatico capace di prestazioni normalmente attribuite all’intelligenza umana).

Nella sentenza del Consiglio di Stato la distinzione tra sistemi informatici tradizionali (algoritmo) e sistemi intelligenti (I.A.) è evidente solo in presenza di un algoritmo probabilistico proprio del machine learning, mentre diventa molto più complessa in presenza di un algoritmo deterministico proprio dell’intelligenza artificiale forte.

Per superare quest’ultima problematica, sembra possibile proporre la seguente diversa distinzione, che fa riferimento al concetto di “conoscenza”:

– i sistemi informatici tradizionali non sono basati sulla conoscenza, nel senso che ne incorporano solo una, cioè quella derivante dall’algoritmo. Essi, infatti, non sono altro che la descrizione della procedura (algoritmo) per svolgere un certo compito, e possono essere sviluppati solo tenendo conto delle caratteristiche di quel compito;

– i sistemi informatici intelligenti, le I.A. propriamente dette, sono basati sulla conoscenza e finalizzati a rendere possibile usare in modo intelligente le informazioni (acquisite mediante più algoritmi), trasformando i dati in (nuova) conoscenza.

In conclusione, se è innegabile che le definizioni di algoritmo e di intelligenza artificiale da parte della nostra giurisprudenza amministrativa e della Commissione UE pongono complicate problematiche giuridiche, essere diverranno estremamente rilevanti al momento della regolamentazione dell’I.A., con riferimento agli aspetti sia legali che etici ed alle necessarie implicazioni in tema di privacy e responsabilità.

Tuttavia, tali definizioni, compresa la distinzione sulla base della conoscenza sopra indicata, costituiscono notevoli spunti di interesse sia per le aziende che producono o vendono sistemi di I.A., sia per i soggetti che (nel campo legale e non) utilizzino o siano interessate ad utilizzare i suddetti sistemi.

Dal punto di vista giuridico, era stato in già precedenza rilevato(4): “Gli algoritmi, anche di tipo deterministico, sono già utilizzati nell’assunzione di decisioni amministrative sebbene manchi in alcuni ordinamenti una norma di legge che ammetta espressamente tale possibilità. I principi e le regole che disciplinano il procedimento [amministrativo] sono stati costruiti intorno alla decisione ‘umana’, mentre dalla decisione algoritmica derivano questioni giuridiche nuove e del tutto peculiari. I principi costituzionali e il diritto europeo primario e secondario (GDPR) impongono che sia una norma di legge ad ammettere la decisione amministrativa algoritmica prevedendo anche adeguate garanzie per gli interessi dei cittadini dinnanzi alla nuova realtà.”

 

¹Piergiuseppe OTRANTO, Riflessioni in tema di decisione amministrativa, intelligenza artificiale e legalità, in Federalismi.it, 10.3.2021, link: cui si rinvia per un’analisi della differenza tra algoritmi “deterministici”, “non deterministici” e “ad apprendimento automatico”; Michele IASELLI, Consiglio di Stato: quando si può parlare di intelligenza artificiale?, in Altalex, 10.12.2021; Francesco Paolo BELLO, articolo pubblicato su Linkedin nel dicembre 2021.

² Sulla precedente Risoluzione del Parlamento europeo approvata nel febbraio 2017, recante “Raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica”, si veda l’articolo di Andrea BUDELLI pubblicato in Giurismatico il 22.11.21.

³Ciò in quanto l’Allegato 1 fa riferimento sia ad approcci tipici del machine learning (compreso l’apprendimento condizionato, non condizionato e profondo – deep learning), sia ad approcci basati sula logica e la conoscenza (tra cui rappresentazione della conoscenza, programmazione logica induttiva, basi di conoscenza, motori deduttivi e inferenziali, ragionamento simbolici e sistemi esperti), sia persino ad approcci statistici, stima baynesiana, metodi di ricerca ed ottimizzazione.

4 Da OTRANTO, nell’”abstract” dell’articolo citato alla nota 1.