A tecnologia de reconhecimento facial é perigosa?

Resumo:

  • A tecnologia de reconhecimento facial é usada para detectar rostos em imagens, extrair destas características específicas e compará-las a uma base de dados com características de referência.
  • Os recentes avanços em machine learning aceleraram o desenvolvimento das tecnologias de reconhecimento facial.
  • Tecnologias de reconhecimento facial podem ser usadas para autenticação, identificação e diagnóstico médico.
  • Os algoritmos usados no reconhecimento facial demonstram determinadas tendências que são introduzidas através da informação usada para treino.
  • Os investigadores de ética pedem restrições legislativas ao uso de tecnologias de reconhecimento facial.

O reconhecimento automatizado de rostos em imagens tornou-se um tópico muito debatido nos últimos tempos. Para permitir uma discussão informada sobre este tópico, é importante conhecer alguns antecedentes sobre esta tecnologia e seu uso actual.

O reconhecimento facial é um ramo muito activo da visão computacional que procura identificar um indivíduo com base numa imagem do seu rosto. A lógica por trás disto é que o rosto de cada pessoa é único, tal como outras informações biométricas, como impressões digitais, DNA ou, curiosamente, o formato da orelha [1]. Uma vantagem óbvia de identificar alguém pelo seu rosto, em vez de, por exemplo, o DNA, é que este é muito acessível – basta uma imagem.

O primeiro algoritmo de reconhecimento facial automatizado foi desenvolvido em 1991 e chamava-se Eigenfaces [2]. Este algoritmo foi uma descoberta importante, pois já não exigia a anotação manual de características faciais (como olhos, boca, etc.). Em vez disso, usava transformações matemáticas de imagens faciais para fazer corresponder indivíduos a imagens de uma base de dados. A ideia geral desta abordagem é hoje em dia ainda usada e pode ser dividida em três fases: detecção de rosto, extracção de características e identificação [3]. Na primeira fase, o algoritmo percorre a imagem à procura de rostos. O rosto detectado é cortado da imagem original e pré-processado de modo a corresponder às imagens com as quais será comparado, ajustando, por exemplo, o enquadramento ou o brilho / contraste. Na segunda fase, o machine learning é usado para extrair as características faciais e criar uma descrição do rosto de modo a que possa ser comparado com outros. Essa descrição é usada na terceira fase para fazer corresponder o rosto a imagens de uma base de dados e assim determinar a identidade ou o estado médico da pessoa. A maior parte da investigação actual está focada na optimização da extracção de características, uma vez que a chave para a identificação de rostos de forma eficiente e fidedigna está na descrição precisa, completa e comparável [4].

Uma área importante do reconhecimento facial é a autenticação do utilizador. Aqui, a tarefa do algoritmo é decidir se o rosto na imagem de um utilizador corresponde ao rosto analisado anteriormente e, se for o caso, conceder acesso ao utilizador. Para este fim, todos os dados envolvidos podem ser armazenados localmente no dispositivo do utilizador, tornando-os eticamente menos problemáticos. Exemplos da aplicação desta ferramenta são o FaceID da Apple ou o Windows 10 Hello da Microsoft, que são duas tecnologias de reconhecimento facial usadas para desbloquear dispositivos electrónicos. Os esforços actuais visam expandir o uso de tais tecnologias na vida cotidiana [5]. Além de seu uso em dispositivos electrónicos, a autenticação via reconhecimento facial é usada desde os anos 2000 pelos governos de todo o mundo para identificar viajantes através do passaporte biométrico [6].

Outra área – mais controversa – do reconhecimento facial é a identificação de pessoas. A principal diferença em comparação à autenticação é que, para identificar um rosto desconhecido, este deve ser comparado com muitos outros gravados anteriormente. Isto requer uma base de dados com descrições de rostos vinculadas aos nomes dos indivíduos correspondentes. Tais bases de dados podem ser consultadas para fins de identificação [4]. Um exemplo de reconhecimento facial usado neste contexto é a identificação de vítimas ou autores de crimes por agentes da autoridade [7]. Apesar das vantagens óbvias que esta tecnologia teria nas mãos de governos e policiais regidos pela ética, o seu uso permanece muito controverso. Uma razão para isso é que o reconhecimento facial fidedigno, em conjugação com a vigilância pública, pode permitir o rastreamento e o perfil automático do paradeiro e das acções de cada indivíduo [8]. Além disso, a tecnologia de reconhecimento facial pode parecer imparcial nas suas avaliações, quando na realidade não é. É altamente susceptível a preconceitos étnicos ou de género que são introduzidos através dos dados usados para o treino dos algoritmos de machine learning [9]. Ambas as razões são consideradas altamente problemáticas por investigadores de ética e outros cientistas, que pedem restrições legislativas ao uso do reconhecimento facial em larga escala [8, 10]. Como reacção a isso – e após pressão pública – a maioria das grandes empresas de tecnologia parou de fornecer às autoridades esta tecnologia de reconhecimento facial [11].

Um exemplo final da aplicação do software de reconhecimento facial é seu uso como um sistema de apoio à decisão para médicos. Neste caso, o reconhecimento automático do rosto de um paciente é usado para estimar a probabilidade de o paciente ter uma determinada condição médica. Foi demonstrado que funciona em vários casos, incluindo a detecção de doenças genéticas raras [12-14] e a previsão de parâmetros fisiológicos, como gordura corporal, pressão arterial ou IMC [15]. Pontos óbvios de preocupação para este tipo de aplicação são novamente uma imparcialidade na selecção dos pacientes utilizados para treinar os algoritmos e uma potencial falta de consentimento por parte destes [16].

Em resumo, a tecnologia de reconhecimento facial é uma disciplina em rápida evolução e altamente lucrativa [17], e parece que seu progresso ultrapassou os legisladores e as autoridades governamentais. É crucial que o uso da tecnologia de reconhecimento facial para autenticação, identificação e diagnóstico médico se torne bem regulamentado para que seu poder possa ser aproveitado de uma maneira eticamente correta – sem discriminar as pessoas ou comprometer sua privacidade ou liberdade pessoal.

Referências:

  1. Krishan, K. et al., A study of morphological variations of the human ear for its applications in personal identification, Egyptian Journal of Forensic Sciences, 2019
  2. Turk, MA. et al., Face recognition using eigenfaces, Computer Vision and Pattern Recognition Proceedings, 1991
  3. Kaur, P. et al., Facial-recognition algorithms: A literature review, Medicine, Science and the Law, 2020
  4. Wang, M. et al., Deep Face Recognition: A Survey, arXiv:1804.06655v8, 2019
  5. Chowdhury, MMH. et al., Biometric Authentication using Facial Recognition, Security and Privacy in Communication Networks, 2016
  6. Council Regulation (EC) No 2252/2004, Integration of biometric features in passports and travel documents, Official Journal of the European Union L385/1, 2004
  7. US National Institute of Justice, History of NIJ Support for Face Recognition Technology, nij.ojp.gov: https://nij.ojp.gov/topics/articles/history-nij-support-face-recognition-technology, 2020
  8. Brey, P., Ethical Aspects of Facial Recognition Systems in Public Places, Journal of Information, Communication & Ethics in Society, 2004
  9. Raji, I et al., Actionable Auditing: Investigating the Impact of Publicly Naming Biased Performance Results of Commercial AI Products, Conference on Artificial Intelligence, Ethics, and Society, 2019
  10. Zeng, Y. et al., Responsible Facial Recognition and Beyond, arXiv: 1909.12935, 2019
  11. Brewster, T., Microsoft Urged to Follow Amazon And IBM: Stop Selling Facial Recognition To Cops After George Floyd’s Death, Forbes, 2020
  12. Basel-Vanagaite, L. et al., Recognition of the Cornelia de Lange syndrome phenotype with facial dysmorphology novel analysis, Clinical Genetics, 2015
  13. Kosilek, RP. et al., Automatic Face Classification of Cushing’s Syndrome in Women – A Novel Screening Approach, Exp Clin Endocrinol Diabetes, 2013
  14. Chen, S. et al., Development of a computer-aided tool for the pattern recognition of facial features in diagnosing Turner syndrome: comparison of diagnostic accuracy with clinical workers, Scientific Reports, 2018
  15. Stephen, ID. et al., Facial Shape Analysis Identifies Valid Cues to Aspects of Physiological Health in Caucasian, Asian, and African Populations, Frontiers in Psychology, 2017
  16. Martinez-Martin, N., What Are Important Ethical Implications of Using Facial Recognition Technology in Health Care?, AMA Journal of Ethics, 2019
  17. Marketandmarkets, Facial Recognition Market by Component, Application, Vertical, and Region – Global Forecast to 2024, Market Research Report TC 3421, 2019