Software Compas (da il resto del carlino)
NEW YORK, 21 AGOSTO 2016 - LA SENTENZA della Corte Suprema del Wisconsin. Negando una richiesta di appello del trentaquattrenne Eric Loomis, accusato di essere sfuggito al controllo della polizia, la Corte ha legittimato la decisione del magistrato che era ricorso all’algoritmo segreto Compas per stabilire l’entità della pena del condannato e valutare la potenziale recidività e la propensione a ripetere lo stesso reato. I legali di Loomis hanno sostenuto che l’algoritmo anche se viene considerato «imparziale» perché agisce solo sui dati che gli vengono forniti con un questionario di 137 domande, di fatto è discriminante e si rivela altamente punitivo soprattutto per gli uomini e per la gente di colore. LOOMIS, che si era dichiarato colpevole al processo, quando si è visto applicare la sentenza dal computer ha fatto causa, sostenendo di non avere ricevuto un equo e umano trattamento di giustizia. Ma la Corte ha dato ragione al magistrato e all’uso che ha fatto del metodo Compas, specificando che il giudice deve comunque firmare la sentenza, mentre il computer con tutte le sue classifiche dovrebbe fornire soltanto un disinteressato e non razzista canale orientativo. IL TEAM LEGALE di Loomis accusa inoltre la società Northpointe di non rivelare i metodi attraverso i quali arriva alle sue classifiche di rischio da sottoporre ai giudici. Questo rappresenterebbe una violazione dei basilari diritti della difesa perché il metodo Compas che si basa sui precedenti penali, età dell’accusato, educazione, vita sociale, uso di droghe, attività lavorativa e vita familiare potrebbe venir alterato di volta in volta modificando il sistema di calcolo dei rischi e delle pene. La pratica, anche se non propagandata, sarebbe utilizzata da una decina di anni in diversi Stati americani, ma questa è la prima volta che un’alta Corte interviene per assicurare che «il metodo Compas non viola i diritti dell’individuo e può essere utilizzato liebaramente». IL GIUDICE Ann Walsh Bradley al centro della controversia ha scritto nella sua sentenza che «se usato correttamente, l’accertamento del rischio elaborato da Compas non viola i diritti della difesa». Al tempo stesso il giudice Bradley ha però ordinato che una volta utilizzato, il metodo Compas presenti anche al giudice che dovrà rispondere, il sistema di calcolo attraverso il quale l’algoritmo è arrivato alle sue valutazioni. Decine di magistrati alle prese con scelte da compiere in tempi rapidi per quanto riguarda l’ammontare di una cauzione, il diritto o meno di un accsuato di rimanere il libertà vigilata fino al processo, oppure gli anni di condizionale o l’effettiva capacità di sorvegliare un condannato se fosse rimesso in libertà, stanno ricorrendo all’algorimto sempre più spesso per sfuggire all’accusa di parzialità o ancora peggio di discriminazione razziale. LA DECISIONE del Wisconsin segue un verdetto analogo della Corte Suprema dell’Indiana col quale si stabiliva che «l’algoritmo del tribunale non sostituisce la decisione della corte o del giudice, ma li informa sulla casistica delle decisioni che stanno per prendere inclusi i precedenti e i rischi connessi».