Consiglio di Stato, sez. III, 25 novembre 2021, n. 7891
Al fine di ottenere la fornitura di un pacemaker di alta fascia con elevato grado di automazione non occorre che l’amministrazione faccia espresso riferimento a elementi di intelligenza artificiale, essendo del tutto sufficiente, anche in considerazione della peculiarità del prodotto, il riferimento allo specifico concetto di algoritmo, ossia di istruzioni capaci di fornire un efficiente grado di automazione, ulteriore rispetto a quello base, sia nell’area della prevenzione che del trattamento delle tachiaritmie atriali.
Sommario: 1. L’analisi del fatto. ― 2. L’algoritmo «di prevenzione + algoritmo di trattamento». ― 3. Il concetto di automazione può rientrare nella definizione di algoritmo?. ― 4. Esiste una relazione tra il concetto di azione autonoma e di algoritmo?
- L’analisi del fatto
La vicenda vede coinvolte due società, X s.r.l. e Y s.r.l., in una gara d’appalto che ha per oggetto la fornitura di pacemaker e defibrillatori per gli enti sanitari lombardi. Tra i parametri di valutazione dell’offerta viene evidenziato «il parametro tabellare “algoritmo di prevenzione + trattamento delle tachiaritmie atriali”»[1] che prevede l’assegnazione di 15 punti qualora entrambi gli algoritmi siano presenti e di 7 punti se solo uno dei due algoritmi è presente. La gara viene vinta da X s.r.l.
La società Y s.r.l. impugna il provvedimento di aggiudicazione dinanzi al Tar Lombardia, lamentando «l’insufficienza del punteggio ottenuto in merito al criterio di valutazione “algoritmo di prevenzione + trattamento delle tachiaritmie atriali”»[2]. Infatti, la società aveva ottenuto solo 7 punti poiché, secondo la Commissione di gara, il prodotto offerto presentava solo l’algoritmo di prevenzione ma non quello di trattamento. Il Tar Lombardia accoglie la doglianza di Y s.r.l.
X s.r.l. ricorre, a sua volta, in Appello e contestualmente richiede una misura cautelare. Il Consiglio di stato accoglie la richiesta cautelare di sospensione della sentenza di primo grado, ritenendo di dover approfondire la questione della «perimetrazione tecnica della nozione di “algoritmo di trattamento” nell’ambito e nel contesto di una procedura di gara per la fornitura di pacemaker di alta fascia».
La Commissione di gara ha attribuito il punteggio massimo, ossia 15 punti, alla società X s.r.l. poiché essa ha sviluppato un algoritmo di trattamento che «in maniera autonoma è in grado di contrastare il ritmo prefibrillatorio mediante il riconoscimento di ectopie atriale e trattamento mediante riduzione/omogeneizzazione dei periodi refrattari atriali»[3]. Il dispositivo della società X s.r.l. non solo rileva l’anomalia cardiaca ma, una volta individuata, è in grado di intervenire autonomamente, senza l’intervento umano. L’algoritmo di trattamento della società Y s.r.l., invece, costituisce «uno studio elettrofisiologico eseguito in office da un operatore specialistico»[4] ossia, una volta ricevuta la segnalazione l’operatore decide come intervenire.
Il giudice del primo grado, interpellato da Y s.r.l., sostiene che la Commissione di gara aveva «confuso» la nozione di algoritmo con quella di Intelligenza Artificiale, la quale prevede nel suo funzionamento dei meccanismi di machine learning. Di conseguenza, il criterio per cui l’algoritmo era in grado di riconoscere la problematica cardiaca ed intervenire in modo automatico era un elemento ulteriore, che non era indicato nel bando di gara[5]. Dunque, è tramite questa motivazione che il Tar accoglie il ricorso di Y s.r.l. Infatti il giudice di prime cure sottolinea come «l’algoritmo di trattamento dell’aritmia non è altro che l’insieme di passaggi necessari al trattamento del singolo tipo di aritmia. Questo concetto non include necessariamente, invece come erroneamente ritenuto dalla stazione appaltante, che il dispositivo debba essere in grado di riconoscere in automatico l’esigenza»[6].
Al contrario, il Consiglio di stato accoglie l’appello della società X s.r.l. riformando la sentenza del Tar Lombardia. Il giudice del secondo grado si concentra sull’importanza del bando di gara. Il Consiglio di stato rileva che «la nozione di algoritmo che è applicata a sistemi tecnologici è ineludibilmente collegata al concetto di automazione ossia a sistemi di azione e controllo idonei a ridurre l’intervento umano»[7]. Infatti il giudice di secondo grado sostiene che non era necessario il riferimento all’Intelligenza Artificiale poiché il concetto di automazione, legato a sua volta al concetto di algoritmo, è insito nelle particolari caratteristiche del prodotto richiesto dalla PA. L’Amministrazione, infatti, è «orientata su un apparecchio tecnologicamente avanzato»[8] che sia in grado di coprire, senza un intervento umano, sia la prevenzione sia il trattamento.
2. L’algoritmo «di prevenzione + algoritmo di trattamento»
Il primo dei due algoritmi, quello di prevenzione, ha la funzione di andare a rilevare l’anomalia cardiaca e di effettuare una segnalazione. Esso si basa su sistemi di machine learning. L’algoritmo di prevenzione non è una novità. Un meccanismo simile è presente nel famoso Apple Watch prodotto dalla Società Apple. Infatti l’Apple Watch prevede, tra le sue funzioni, la possibilità di controllare «periodicamente il ritmo cardiaco per verificare un’eventuale irregolarità che potrebbe indicare la presenza di fibrillazione atriale»[9]. Se l’algoritmo rileva una irregolarità viene inviata una notifica al paziente con la data, l’ora e la frequenza cardiaca anomala[10]. Inoltre le frequenze anomale vengono registrate sulla App Salute[11], presente sullo smartphone del paziente.
L’algoritmo di prevenzione, però, non risulta essere l’oggetto del contendere. Infatti, entrambe le società sono state in grado di sviluppare tale algoritmo.
Discorso diverso per quanto riguarda l’algoritmo di trattamento, ago della bilancia nella vincita del bando di gara, che, invece, rappresenta l’oggetto del contendere. L’algoritmo di trattamento permette di agire senza l’intervento umano. Solo la società X s.r.l. ha sviluppato l’algoritmo di trattamento. Infatti, l’algoritmo progettato dalla società X s.r.l., una volta individuata l’anomalia, agisce autonomamente, senza l’intervento umano, sul funzionamento del pacemaker. Diversamente, l’algoritmo della società Y s.r.l. è solo in grado di rilevare l’anomalia senza l’intervento umano, mentre per l’intervento si affida alla decisione di un operatore sanitario. Nella pratica l’algoritmo della società Y s.r.l. effettua una semplice segnalazione, in seguito l’operatore sanitario assume «temporaneamente il controllo a distanza del pacemaker del paziente»[12].
Dunque, l’algoritmo della società Y s.r.l. non riduce l’intervento umano come richiesto dalla PA e perciò non è stato considerato ai fini del punteggio.
3. Il concetto di automazione può rientrare nella definizione di algoritmo?
Una volta effettuata l’analisi del fatto, è giunto il momento di astrarre il concetto di algoritmo dalla sentenza del Consiglio di stato. I tre diversi attori che si sono interfacciati in questa vicenda sono: la Commissione di gara, il Tar Lombardia e il Consiglio di stato. La Commissione e il Consiglio di stato ritengono che il concetto di algoritmo ricomprenda al suo interno anche il concetto di automazione, intesa come azione autonoma. In generale, il concetto di automazione, così come viene inteso dalla Commissione e dal Consiglio di stato, indicherebbe che l’algoritmo è in grado di agire senza l’intervento umano. Di opinione contraria, invece, è il Tar Lombardia, il quale sostiene che non vi sia alcun collegamento tra il concetto di algoritmo e quello di automazione.
Per comprendere meglio il concetto di algoritmo, e, a sua volta, il legame con il concetto di azione autonoma, è necessario discostarsi dalla pronuncia del Consiglio di stato. Di seguito verranno proposte delle due definizioni di algoritmo: la prima di carattere intuitivo, probabilmente la più nota[13], e la seconda elaborata dal governo inglese[14].
La definizione intuitiva, classica di algoritmo è la seguente: «sequenza di istruzioni che specifica una combinazione di azioni da compiere per risolvere un problema». In altre parole, l’algoritmo non è altro che una sequenza di istruzioni, di una serie di dati «in ingresso» (input) che realizza «in uscita» un risultato (output).
«Secondo questa caratterizzazione l’algoritmo in senso stretto è dotato delle seguenti proprietà:
- Finitezza: l’algoritmo deve portare alla soluzione in un numero finito di passi.
- Generalità: l’algoritmo non risolve solo un problema, ma una classe di problemi.
- Non ambiguità: le istruzioni sono specificate univocamente, cosicché la loro esecuzione avviene sempre nello stesso modo, indipendentemente dall’esecutore.
- Ripetibilità(determinismo): dati gli stessi dati in input l’algoritmo deve fornire gli stessi risultati in output»[15].
Fino a questo momento le nozioni di algoritmo analizzate o provengono dalla giurisprudenza, come nel caso della sentenza del Consiglio di stato, o dalla dottrina, come nel caso di Giovanni Sartor.
Ora passiamo a considerare la definizione di algoritmo proveniente dall’ambito anglosassone.
A partire dal 2020 il governo inglese ha avviato la National Data Strategy (NDS), che consiste in un quadro di riferimento delle azioni intraprese dal governo inglese in tema di uso dei dati[16]. Parte di questa strategia è l’Algorithm Transparency Standard, realizzato dal Central Digital Data Office. Esso ha la funzione di «helps public sector organisations provide clear information about the algorithmic tools they use, and why they’re using them»[17]. L’Algorithm Transparency Standard riporta la seguente definizione del termine ‘algorithm’: «a set of step-by-step instructions». Lo scopo del governo inglese è creare una struttura pubblica il più possibile trasparente, cioè permettere ai cittadini di conoscere i processi tecnologici che animano il settore statale. È necessaria, quindi, una nozione semplice che consenta al cittadino medio di comprendere con facilità cosa si intenda per algoritmo.
Dalle definizioni di algoritmo elencate si evidenzia come non via sia alcun riferimento al concetto di azione autonoma. Infatti, tale concetto sembra oltrepassare i confini della semplice definizione di algoritmo. A dimostrazione di ciò, si può citare la definizione di sistema decisionale autonomo data dall’Algorithmic Accountability Act statunitense: «a computational process, including one derived from machine learning statistic, or other data processing or artificial techniques, that makes a decision or facilitates human decision making, that impacts consumers». Con questa definizione il Congresso americano delinea un sistema in grado di prendere delle decisioni autonome o facilitare la decisione umana. Quindi nel concetto di sistema decisionale autonomo sembra ritrovarsi anche il concetto di azione autonoma che, invece, sembra estraneo alla definizione di algoritmo.
Da questa analisi sembra che la definizione di algoritmo non ricomprenda al suo interno il concetto di azione autonoma. Infatti, i concetti di azione autonoma e di sistema decisionale autonomo, delineato dal Congresso americano, sono più ampi rispetto al concetto di algoritmo.
Ciò indicherebbe che il ragionamento realizzato dalla Commissione di gara e dal Consiglio di stato non faccia riferimento al concetto di algoritmo ma si estenda a concetti più ampi rispetto allo stesso.
4. Esiste una relazione tra il concetto di azione autonoma e di algoritmo?
Tra gli informatici è consuetudine distinguere tra questi termini: algoritmo, codice, programma e software. Per “algoritmo” si intende una sequenza finita di istruzioni atte a risolvere un problema. Il termine “codice”, invece, si riferisce a qualsiasi rappresentazione dell’algoritmo in un linguaggio di programmazione. A sua volta, il “programma” rappresenta l’esecuzione delle istruzioni dell’algoritmo come insieme di comportamenti descritti dal codice. E il “software” è l’insieme dei programmi, intesi come insieme di comportamenti, che sono eseguibili dal calcolatore.
In base a questa distinzione è possibile affermare che sia il Consiglio di stato sia il legislatore confondano il sistema che produce l’output, il software, con l’algoritmo: è il software, infatti, che permette all’algoritmo di realizzarsi. Il software è esattamente quella ware, ossia una macchina materiale ma dalla configurazione flessibile (soft) che istanzia l’algoritmo come un insieme di comportamenti. L’algoritmo, quindi, non esegue nulla ma si sostanzia semplicemente in una serie di istruzioni che sono finalizzate a risolvere un problema. Accogliendo questa distinzione, il concetto di algoritmo non può ricomprendere al suo interno il concetto di azione autonoma. Questo perché è il software che ricopre il ruolo di esecutore ed è sempre il software che realizza l’algoritmo.
Alla luce di queste considerazioni si può evidenziare come anche il bando di gara pecchi di imprecisione. Infatti «il criterio di valutazione algoritmo di prevenzione + algoritmo di trattamento» è impreciso: non è l’algoritmo che realizza gli interventi nel mondo fisico bensì il software. La Commissione di gara, così come il Consiglio di stato, confondono l’algoritmo con il software, ossia confondono l’algoritmo con la sua realizzazione (il software), intesa come macchina capace di modificare il mondo fisico.
[1] Cons. Stato, sez. III, 25 novembre 2021, n. 7891.
[2] Ivi, 3.
[3] Ibid.
[4] Ivi, 4.
[5] Ibid.
[6] Ibid.
[7] Ivi, 6.
[8] Ibid.
[9] Cfr. Salute-Apple Watch, Apple Watch. Aiuta le persone che hai in cura a vivere in maniera più sana, 2022.
[10] Ibid.
[11] Ibid.
[12] Cons. Stato, sez. III, 25 novembre 2021, n. 7891.
[13] Cfr. G. Sartor, L’informatica giuridica e le tecnologie dell’informazione, Torino, 2016.
[14] Cfr. Digital Centre and Data Office, Algorithm Transparecy Standard, 2021.
[15] Cfr. G. Sartor, L’informatica giuridica e le tecnologie dell’informazione, cit., 85 ss.
[16] Cfr. Department for Digital, Culture, Media & Sport, UK National Data Strategy, 2020.
[17] Ibid.