Explorando os limites da responsabilidade civil: o impacto do desenvolvimento tecnológico dos procedimentos cirúrgicos robóticos.

Abstract

A presente dissertação aborda a responsabilidade civil no contexto da crescente autonomia das inteligências artificiais (IA), com foco específico nas cirurgias robóticas. Atualmente a implementação de robôs cirurgiões, apesar da eficiência e precisão nos procedimentos cirúrgicos, também levanta questões éticas e legais significativas. A necessidade de alinhar a programação dos robôs com os valores humanos é fundamental para garantir que tais sistemas operem para o benefício da sociedade, minimizando, assim, os riscos e consequências indesejadas. Nesse contexto, objetivo central dessa pesquisa foi compreender os desafios éticos e jurídicos relacionados ao Código Civil (CC) e ao Código de Defesa do Consumidor (CDC) no contexto da inteligência artificial autônoma, em especial, dos cirurgiões robóticos. A metodologia utilizada foi qualitativa e exploratória, envolvendo análise comparativa de normativas dos Estados Unidos da América (EUA) e da União Europeia (UE), além da análise da legislação brasileira sob a ótica dos riscos da IA. Como resultado, foi possível perceber as diferenças nos marcos regulatórios entre EUA e UE, que refletem as diversas abordagens políticas e éticas, exigindo um diálogo contínuo entre desenvolvedores de tecnologia, legisladores e o público para a formação de um consenso global. O que pode ser observado é que a União Europeia tem sido mais proativa e firme em suas recomendações e regulamentações sobre a IA, embora muitas dessas normas sejam consideradas soft laws. A UE foca mais em regulamentações específicas para IA de alto risco, enquanto os EUA favorecem uma governança mais abrangente que exige ações específicas das empresas de tecnologia. No que tange a legislação brasileira, a LGPD adiciona uma camada de complexidade ao garantir a proteção de dados pessoais dos pacientes, enfatizando a necessidade de transparência e accountability por parte dos operadores desses sistemas. Na mesma linha, a Resolução n.º 2.311/2022 do Conselho Federal de Medicina (CFM) aponta que é fundamental os pacientes receberem todas as informações necessárias sobre os riscos, benefícios e alternativas às cirurgias robóticas. Assim, a responsabilidade civil pode ser envolvida se o consentimento informado não for adequadamente obtido. Ademais, esse estudo destacou que os fabricantes e desenvolvedores de sistemas inteligentes podem ser responsabilizados, mesmo se eles empregarem a tecnologia mais avançada disponível a época, e que, inicialmente, não apresentava defeitos evidentes, isso ao lançar o produto no mercado. Ressalta-se a importância da explicabilidade e da accountability em sistemas de IA, com um olhar detalhado sobre a cirurgia robótica. Como considerações finais, essa pesquisa aponta que, embora as legislações brasileiras atuais ofereçam alguma proteção, existe necessidade de ajustes e maior clareza nas responsabilidades por meio da accountability e explicabilidade para garantir a segurança no uso de IA autônoma na medicina, bem como a redução do quantum indenizatório na medida em que o agente tenha investido em compliance para evitar as consequências indesejadas e prestado a devida accountability

The present dissertation addresses civil liability in the context of the increasing autonomy of artificial intelligence (AI), with a specific focus on robotic surgeries. Currently, the implementation of surgical robots, despite their efficiency and precision in surgical procedures, also raises significant ethical and legal issues. The need to align the programming of robots with human values is fundamental to ensure that such systems operate for the benefit of society, thereby minimizing risks and undesirable consequences. In this context, the central objective of this research was to understand the ethical and legal challenges related to the Civil Code (CC) and the Consumer Protection Code (CDC) in the context of autonomous artificial intelligence, particularly robotic surgeons. The methodology used was qualitative and exploratory, involving a comparative analysis of regulations from the United States of America (USA) and the European Union (EU), in addition to analyzing Brazilian legislation from the perspective of AI risks. As a result, it was possible to perceive the differences in regulatory frameworks between the USA and the EU, which reflect diverse political and ethical approaches, requiring ongoing dialogue between technology developers, legislators, and the public to form a global consensus. It was observed that the European Union has been more proactive and firm in its recommendations and regulations regarding AI, although many of these norms are considered soft laws. The EU focuses more on specific regulations for high-risk AI, while the USA favors broader governance that requires specific actions from technology companies. Regarding Brazilian legislation, the General Data Protection Law (LGPD) adds a layer of complexity by ensuring the protection of patients' personal data, emphasizing the need for transparency and accountability by operators of these systems. Similarly, Resolution No. 2.311/2022 of the Federal Council of Medicine (CFM) states that it is essential for patients to receive all necessary information about the risks, benefits, and alternatives to robotic surgeries. Thus, civil liability may be involved if informed consent is not adequately obtained. Furthermore, this study highlighted that manufacturers and developers of intelligent systems can be held liable, even if they employ the most advanced technology available at the time, which initially showed no evident defects upon market launch. The importance of explainability and accountability in AI systems, with a detailed look at robotic surgery, is emphasized. As final considerations, this research indicates that, although current Brazilian legislation offers some protection, there is a need for adjustments and greater clarity in responsibilities through accountability and explainability to ensure the safe use of autonomous AI in medicine. Additionally, it points to the reduction of compensation amounts to the extent that the agent has invested in compliance to avoid undesirable consequences and provided due accountability.