O direito à revisão de decisões automatizadas baseadas em inteligência artificial aplicado à proteção do direito à saúde de vieses discriminatórios

Abstract

Este artigo almejou compreender em que medida o direito à revisão das decisões tomadas unicamente com base em tratamento automatizado de dados pessoais, consoante previsão do art. 20 da LGPD, é capaz de proteger o direito à saúde dos vieses discriminatórios, como os de cunho etário, étnico e social, no uso de decisões automatizadas de IA na área de saúde. Neste estudo foi realizado levantamento bibliográfico sobre as decisões automatizadas baseadas em IA e seu uso na área da saúde, bem como sobre o art. 20 da LGPD, que assegura o direito à revisão no ordenamento jurídico pátrio. Por fim, o presente artigo conclui que a norma do art. 20 da LGPD não aparenta ser capaz de assegurar que eventuais problemas identificados sejam corrigidos de forma sistêmica, nem seria capaz de fomentar uma atuação preventiva no sentido de mitigar o risco desses vieses algorítmicos no desenvolvimento de cada aplicação tecnológica para produzir decisões automatizadas em IA na área da saúde.

This paper aimed to understand to what extent the right to review the decisions taken solely based on automated personal data treatment, as established by art. 20 of LGPD, can protect the right to the health of discriminatory bias, such as the age, ethnic and social, in the use of automated health decisions in Health. Bibliographic survey was held on AI-based automated2 decisions and their use in Health as well as on art. 20 of LGPD, which ensures the right to review in Brazil. Finally, this paper concluded that art. 20 of LGPD does not appear to be able to ensure that any problems identified are systemically corrected, nor would it be able to foster a preventive action in the sense of mitigating the risk of these algorithmic biases in the development of each technological application for automated decisions in Health.