La tecnologia di riconoscimento facciale è pericolosa?

Riassunto:

  • La tecnologia di riconoscimento facciale viene utilizzata per rilevare i volti nelle immagini, estrarne funzioni comparabili e confrontarle con un insieme di funzioni di riferimento.
  • I recenti progressi nell’apprendimento automatico hanno accelerato lo sviluppo delle tecnologie di riconoscimento facciale.
  • La tecnologia di riconoscimento facciale può essere utilizzata per l’autenticazione, l’identificazione e la diagnosi medica.
  • Gli algoritmi utilizzati nel riconoscimento facciale riflettono i pregiudizi che entrano attraverso i dati di apprendimento.
  • I ricercatori di etica richiedono restrizioni legislative sull’uso delle tecnologie di riconoscimento facciale.

Il riconoscimento automatico dei volti nelle immagini è diventato un argomento molto dibattuto negli ultimi tempi. Per consentire una discussione informata su questo argomento, è importante conoscere alcuni retroscena di questa tecnologia e del suo uso attuale.

Il riconoscimento facciale è un ramo molto attivo della visione artificiale che persegue l’obiettivo di identificare un individuo in base a un’immagine del proprio volto. La logica alla base di ciò è che i volti delle persone sono unici di ogni individuo, così come altri dati biometrici, come le impronte digitali, il DNA o, curiosamente, la forma dell’orecchio [1]. Un evidente vantaggio nell’identificare il proprio volto, piuttosto che, ad esempio, nel DNA, è che è molto accessibile – tutto ciò che serve è una fotografia.

Il primo algoritmo di riconoscimento facciale automatizzato è stato sviluppato nel 1991 e si chiamava Eigenfaces [2]. Questo algoritmo è stato un’incredibile innovazione, in quanto non richiedeva più l’annotazione manuale delle caratteristiche del viso (come occhi, bocca, ecc.). Invece, ha usato trasformazioni matematiche di immagini facciali per abbinare gli individui alle immagini in un database. L’idea generale di questo approccio è ancora utilizzata oggigiorno e può essere divisa in tre fasi: rilevamento del volto, estrazione delle caratteristiche ed identificazione [3]. Nel primo passaggio, un algoritmo esegue la scansione di un’immagine per identificare volti. Non appena un volto è rilevato, viene ritagliato dall’immagine originale e pre-elaborato per corrispondere alle immagini con cui verrà confrontato regolando, ad esempio, l’inquadratura o la luminosità / contrasto. Nel secondo passaggio, l’apprendimento automatico viene utilizzato per estrarre le caratteristiche del viso e per creare una descrizione del viso che può essere paragonata ad altre. Questa descrizione viene quindi utilizzata nel terzo passaggio per abbinare il volto ad altri volti di un database per determinare l’identità o lo stato medico di una persona. La maggior parte della ricerca attuale è focalizzata sull’ottimizzazione dell’estrazione delle caratteristiche poiché la chiave per l’identificazione efficiente e affidabile dei volti sta nella loro descrizione precisa, completa e comparabile [4].

Un’area di spicco del riconoscimento facciale è l’autenticazione dell’utente. Qui, il compito dell’algoritmo è decidere se la faccia in una foto di un utente corrisponde ad una faccia precedentemente analizzata e, in tal caso, garantire all’utente l’accesso. A tal fine, tutti i dati coinvolti possono essere archiviati localmente sul dispositivo dell’utente, rendendolo eticamente meno problematico. Esempi di applicazioni di questo strumento sono “FaceID” di Apple o “Hello” di Microsoft Windows 10, che sono entrambe tecnologie di riconoscimento facciale utilizzate per sbloccare dispositivi elettronici. Gli sforzi attuali mirano ad espandere l’uso di tali tecnologie nella vita di tutti i giorni [5]. Oltre ai suoi usi nei dispositivi elettronici, l’autenticazione tramite riconoscimento facciale è stata utilizzata dalla metà degli anni 2000 dai governi di tutto il mondo per identificare i viaggiatori tramite il passaporto biometrico [6].

Un’altra area – più controversa – del riconoscimento facciale è l’identificazione delle persone. La principale differenza per quanto riguarda l’autenticazione è che per identificare una faccia sconosciuta, deve essere confrontata con molte facce precedentemente registrate. Ciò richiede un database di descrizioni dei volti collegati ai nomi degli individui corrispondenti. Tali database possono essere interrogati a fini di identificazione [4]. Un esempio di riconoscimento facciale utilizzato in questo contesto è l’identificazione delle vittime o degli autori di reati da parte delle forze dell’ordine [7]. Nonostante gli ovvi benefici che tale tecnologia potrebbe avere nelle mani dei governi etici e della polizia, il suo utilizzo rimane molto controverso. Uno dei motivi è che il riconoscimento facciale affidabile abbinato a una sorveglianza pubblica estesa può consentire il tracciamento e la profilazione automatici della posizione e delle azioni di un individuo [8]. Inoltre, la tecnologia di riconoscimento facciale può apparire imparziale nelle sue valutazioni, quando in realtà non lo è. È altamente sensibile ai pregiudizi di genere o etnici che entrano attraverso i dati utilizzati per l’addestramento degli algoritmi di apprendimento automatico [9]. Entrambe le ragioni sono considerate altamente problematiche da ricercatori di etica ed altri scienziati, che chiedono restrizioni legislative sull’uso del riconoscimento facciale su larga scala [8, 10]. Come reazione a ciò – e in seguito alla pressione pubblica – la maggior parte delle grandi aziende tecnologiche ha smesso di fornire alle forze dell’ordine la tecnologia di riconoscimento facciale [11].

Un ultimo esempio dell’applicazione del software di riconoscimento facciale è il suo utilizzo come sistema di supporto alle decisioni per i medici. In questo caso, il riconoscimento automatico del volto di un paziente viene utilizzato per stimare la probabilità che il paziente abbia una determinata condizione. Questo ha dimostrato di funzionare in diversi casi, incluso il rilevamento di malattie genetiche rare [12-14] e la previsione di parametri fisiologici come grasso corporeo, pressione sanguigna o BMI [15]. Gli ovvi punti di preoccupazione per questo tipo di applicazione sono di nuovo pregiudizi nella selezione dei pazienti utilizzati per addestrare gli algoritmi utilizzati e una potenziale mancanza di consenso da parte degli stessi [16].

Per riassumere, la tecnologia di riconoscimento facciale è una disciplina in rapida evoluzione e altamente redditizia [17], e sembra che i suoi progressi abbiano superato i legislatori e i leader delle comunità. È fondamentale che l’uso della tecnologia di riconoscimento facciale per l’autenticazione, l’identificazione e la diagnosi medica sia ben regolato in modo che il suo potere possa essere sfruttato in modo eticamente corretto, senza discriminare le persone o compromettere la loro privacy o libertà personale.

References:

  1. Krishan, K. et al., A study of morphological variations of the human ear for its applications in personal identification, Egyptian Journal of Forensic Sciences, 2019
  2. Turk, MA. et al., Face recognition using eigenfaces, Computer Vision and Pattern Recognition Proceedings, 1991
  3. Kaur, P. et al., Facial-recognition algorithms: A literature review, Medicine, Science and the Law, 2020
  4. Wang, M. et al., Deep Face Recognition: A Survey, arXiv:1804.06655v8, 2019
  5. Chowdhury, MMH. et al., Biometric Authentication using Facial Recognition, Security and Privacy in Communication Networks, 2016
  6. Council Regulation (EC) No 2252/2004, Integration of biometric features in passports and travel documents, Official Journal of the European Union L385/1, 2004
  7. US National Institute of Justice, History of NIJ Support for Face Recognition Technology, nij.ojp.gov: https://nij.ojp.gov/topics/articles/history-nij-support-face-recognition-technology, 2020
  8. Brey, P., Ethical Aspects of Facial Recognition Systems in Public Places, Journal of Information, Communication & Ethics in Society, 2004
  9. Raji, I et al., Actionable Auditing: Investigating the Impact of Publicly Naming Biased Performance Results of Commercial AI Products, Conference on Artificial Intelligence, Ethics, and Society, 2019
  10. Zeng, Y. et al., Responsible Facial Recognition and Beyond, arXiv: 1909.12935, 2019
  11. Brewster, T., Microsoft Urged to Follow Amazon And IBM: Stop Selling Facial Recognition To Cops After George Floyd’s Death, Forbes, 2020
  12. Basel-Vanagaite, L. et al., Recognition of the Cornelia de Lange syndrome phenotype with facial dysmorphology novel analysis, Clinical Genetics, 2015
  13. Kosilek, RP. et al., Automatic Face Classification of Cushing’s Syndrome in Women – A Novel Screening Approach, Exp Clin Endocrinol Diabetes, 2013
  14. Chen, S. et al., Development of a computer-aided tool for the pattern recognition of facial features in diagnosing Turner syndrome: comparison of diagnostic accuracy with clinical workers, Scientific Reports, 2018
  15. Stephen, ID. et al., Facial Shape Analysis Identifies Valid Cues to Aspects of Physiological Health in Caucasian, Asian, and African Populations, Frontiers in Psychology, 2017
  16. Martinez-Martin, N., What Are Important Ethical Implications of Using Facial Recognition Technology in Health Care?, AMA Journal of Ethics, 2019
  17. Marketandmarkets, Facial Recognition Market by Component, Application, Vertical, and Region – Global Forecast to 2024, Market Research Report TC 3421, 2019