La tecnologia di riconoscimento facciale di Amazon, Rekognition, continua a causare polemiche.
Nei documenti recentemente ottenuti ed osservati dal sito di notizie BuzzFeed, si può comprendere come la polizia di Orlando stia usando queste tecnologie per effettuare le proprie indagini. Dopo che la città ha lasciato scadere il programma pilota originale dopo la protesta pubblica, la città di Orlando ha avviato un secondo programma pilota con un numero “aumentato” di fotocamere digitali. Tra queste tecnologie vi è inoltre l’utilizzo di Rekognition di Amazon, lo strumenti innovativo di riconoscimento facciale, descritto più in generale come uno strumento di analisi visiva.
Analisi facciale ad elevata precisione su immagini e video
“Amazon Rekognition semplifica l’aggiunta di funzionalità di analisi di immagini e video alle applicazioni. É sufficiente fornire un’immagine o un video all’API Rekognition, ed il servizio può identificare oggetti, persone, testo, scene ed attività, oltre che rilevare eventuali contenuti non appropriati. Amazon Rekognition offre inoltre analisi facciale ad elevate precisione su immagini e video. È possibile rilevare, analizzare e confrontare volti per diversi casi d’uso, ad esempio verifica degli utenti, conteggio delle persone e pubblica sicurezza”. Questa è la descrizione ufficiale di uno degli strumenti più innovativi e tecnologici proposti sul mercati dal colosso di Seattle.
Utilizzato dalle forze dell’ordine, Rekognition è in grado di scansionare i volti catturati dalla telecamera e di confrontarli con i volti archiviati nei database criminali. L’ACLU ha però definito la tecnologia “innescata per gli abusi nelle mani dei governi”, avvertendo che “rappresenta una grave minaccia per le comunità, comprese le persone di colore e gli immigrati”.
Perché questi risultati negativi? Si tratta di pregiudizi o della malprogrammazione dell’analisi intelligente?
Per quanto riguarda il caso di Orlando, i documenti mostrano che Amazon ha fornito alla polizia della città della Florida decine di migliaia di dollari di attrezzature necessarie per il programma Rekognition a costo zero. I documenti rivelano anche un “mutuo accordo di non divulgazione” al fine di mantenere le informazioni sul programma ben lontano dai media e dal pubblico.
Uno strumento ancora lontano dall’essere efficace
Sembra però che la polizia di Orlando non abbia avuto molto tempo per lavorare con la tecnologia di scansione dei volti di Amazon, e ciò sarebbe dimostrabile attraverso i documenti segnalati.
Si sono rivelati infatti una serie di difetti con la meccanica più semplice, ad esempio quelli per far funzionare un flusso di riconoscimento facciale. I documenti mostrano anche che Amazon ha fornito un piccolo aiuto quando si trattava di insegnare alla polizia come impostare ed utilizzare il sistema di riconoscimento, poi nient’altro.
Pare così che a partire da adesso, la stessa città di Orlando stia operando con tre telecamere IRIS di Rekognition, che stanno effettuando la scansione solo per le partite degli attuali volontari del dipartimento di polizia della città
Questi documenti dimostrano quanto poco la tecnologia di riconoscimento facciale di Amazon sarebbe in grado di funzionare efficacemente.
A luglio, l’ACLU ha pubblicato un rapporto secondo cui Rekognition avrebbe identificato erroneamente 28 membri del Congresso come sospetti criminali. Come però era già stato precedentemente notato, le persone di colore costituivano solo il 20% circa del Congresso, mentre finivano per rappresentavano oltre il 40% dei falsi positivi.
Forse Amazon dovrebbe valutare ulteriormente la sua tecnologia di Rekognition prima di presentare il suo stesso strumento ai dipartimenti di polizia e alle agenzie governative come l’ICE come innovativo e straordinariamente efficace.
