Algoritimi sotto processo

Sull’utilizzo di algoritmi di Intelligenza Artificiale nei sistemi di profilazione è stata pubblicata un’importante sentenza della Corte di Cassazione che ha chiarito un principio fondamentale: il consenso prestato è valido solo se viene reso intellegibile il funzionamento dell’algoritmo. In altre parole, il consenso, deve poter essere “espresso liberamente e specificamente in riferimento a un trattamento chiaramente individuato”.

Con questa pronuncia diventa quindi evidente che tutte le imprese che eseguono attività di profilazione devono prestare la massima attenzione alla trasparenza informativa: i meccanismi e le finalità che regolano l’automazione decisionale, implementata attraverso algoritmi di Intelligenza Artificiale, deve essere chiara, comprensibile e priva di alcuna pregiudiziale.

Insomma, il consenso al trattamento dei nostri dati personali non vale se l’algoritmo non è trasparente, semplicemente perché non può esistere un consenso consapevole a un trattamento di dati personali senza che si sappia esattamente come l’algoritmo tratterà i nostri dati personali, che peso darà ai diversi parametri esaminati e quali dinamiche seguirà nell’arrivare alla conclusione del proprio “ragionamento”.

La sentenza è coerente con quanto previsto dal GDPR che riconosce il diritto generale a non essere sottoposti a una decisione presa in modo automatizzato, da un algoritmo o da un sistema di Intelligenza Artificiale, che possa avere effetto giuridico o incidere significativamente sulla vita della persona. L’articolo 22 prevede infatti l’utilizzo di questi sistemi solo nel caso la società garantisca i diritti e i legittimi interessi del soggetto e il suo diritto a ottenere l’intervento umano a valutare il suo profilo potendone commentare e contestare la decisione.

La trasparenza degli algoritmi è diventata imprescindibile nelle nuove proposte legislative in fase di discussione a Bruxelles. Nel Digital Services Act le piattaforme si afferma che debbano saper giustificare le decisioni prese. Non solo, in alcuni casi devono consentire lo scrutinio dei propri algoritmi ad esperti e ricercatori esterni. Lo stesso si dice nella proposta di regolamento europeo sull’intelligenza artificiale.

La decisione della Corte di Cassazione accoglie la proposta di Regolamento dell’Unione Europea in materia di Intelligenza Artificiale. Non può esistere consenso al trattamento di dati personali mediato da un sistema di IA se alla persona alla quale i dati si riferiscono non sia stato prima spiegato chiaramente come quel sistema li processerà per arrivare alle sue conclusioni. Un principio che, se applicato rigorosamente, potrebbe mettere fuori legge molti dei trattamenti di dati personali realizzati in logica artificiale.

Photos by Karim Ghantous on Unsplash

Copyright © 2021 . All Rights Reserved. | Simple Persona by Catch Themes