Inteligência Artificial, Responsabilidade Civil e o Futuro do Direito Médico

A inserção da Inteligência Artificial (IA) nos consultórios, alas de triagem e centros cirúrgicos deixou de ser um distante roteiro de ficção científica para se consolidar como uma ferramenta cotidiana. Sistemas algorítmicos complexos já são perfeitamente capazes de cruzar milhões de dados genéticos, históricos clínicos, resultados de exames e artigos científicos em frações de segundo para sugerir diagnósticos precisos e recomendar tratamentos personalizados. No entanto, essa revolução tecnológica traz consigo uma indagação imediata e urgente para tribunais, hospitais e pacientes: quando a máquina, operando em sua imensa base de dados, “alucina” e indica o medicamento errado, de quem é a culpa pela lesão gerada ao paciente?

A resposta a essa pergunta não é simples e exige desvendar uma intrincada teia de responsabilidades que envolve profissionais da saúde, instituições hospitalares e gigantes globais de tecnologia. O fascínio inegável pela automação não pode ofuscar a premissa maior e inegociável de que o paciente é o elo vulnerável dessa cadeia. Garantir o acesso a serviços médicos integralmente seguros é um imperativo civilizatório, diretamente alinhado ao Objetivo de Desenvolvimento Sustentável 3 (ODS 3) da ONU, que preconiza a saúde e o bem-estar de todos. Quando um software de IA prescreve uma substância trocada que resulta em agravamento do quadro ou novos danos ao paciente, o ordenamento jurídico precisa fornecer uma resposta cirúrgica. Do contrário, abrimos as portas para o agravamento de uma verdadeira crise constitucional no mundo contemporâneo, cenário em que o rápido e desregulado avanço tecnológico atropela sistematicamente direitos fundamentais inalienáveis, como o direito à vida e à integridade física.

O primeiro passo para compreender esse novo cenário jurídico é analisar detidamente a conduta do profissional de saúde. No estágio atual da tecnologia e da legislação, a IA não detém personalidade jurídica; ela atua legalmente como um sofisticado assistente virtual, um instrumento de apoio à decisão. Isso significa, na prática forense, que o dever final e indelegável de validação permanece inteiramente nas mãos do médico. O fenômeno estudado pela bioética conhecido como “viés de automação” — a tendência psicológica humana de confiar cegamente na resposta gerada por um computador, abdicando do próprio escrutínio e senso crítico — representa, hoje, o maior risco imediato nos consultórios. Se um médico acata uma sugestão algorítmica sem confrontá-la rigorosamente com a anamnese do paciente e com a “lex artis” (o conjunto de regras, protocolos e melhores práticas da medicina), prescrevendo assim o remédio errado, sua responsabilidade civil continuará sendo julgada de forma subjetiva, conforme dita o artigo 14, parágrafo 4º, do Código de Defesa do Consumidor (CDC). Ele responderá pessoalmente por negligência ou imprudência ao terceirizar seu raciocínio clínico indevidamente para a máquina.

Contudo, a falha do médico na ponta do atendimento não isenta quem criou e quem lucrou com a tecnologia. As empresas desenvolvedoras desses softwares enfrentam a regra da responsabilidade civil objetiva. Elas respondem financeiramente por defeitos na concepção do produto, independentemente da comprovação de dolo ou culpa. Uma estratégia de defesa extremamente comum na indústria tecnológica é tentar invocar perante os juízes a chamada “tese do risco do desenvolvimento”. Por essa tese, as empresas argumentam que a falha do algoritmo era cientificamente impossível de ser prevista no momento exato de sua introdução no mercado. Trata-se, contudo, de um argumento que encontra imensa fragilidade perante a jurisprudência protetiva brasileira. As chamadas “alucinações” da IA — situações em que o modelo matemático gera informações inteiramente falsas ou associações medicamentosas inexistentes com extrema aparência de veracidade — são falhas estruturais mapeadas e amplamente documentadas na atual arquitetura de redes neurais generativas. Não há, portanto, imprevisibilidade técnica. Trata-se do que o direito classifica como fortuito interno, ou seja, um risco inerente à própria atividade econômica explorada pela empresa. O desenvolvedor não pode, sob o manto da inovação, transformar pacientes em cobaias involuntárias para testar inovações que ainda carecem de maturidade técnica e de filtros rígidos de segurança.

No centro dessa intrincada equação encontram-se os hospitais e as clínicas, seja uma tradicional unidade hospitalar ou um gigantesco complexo hospitalar nos grandes centros urbanos. Quando a instituição de saúde decide adquirir, implementar e disponibilizar institucionalmente um sistema de IA para otimizar o trabalho de seu corpo clínico, ela passa a integrar formalmente a cadeia de fornecimento do serviço de saúde. Pela ótica do CDC, o hospital responde de forma objetiva e solidária pelos danos causados por falhas nos equipamentos e sistemas que oferece para a consecução de sua atividade. Se a ferramenta instalada pelo hospital errar e causar lesão, a instituição tem o dever imediato de indenizar o paciente. Restará ao hospital, em momento posterior, exercer o seu direito de regresso, cobrando o prejuízo da empresa desenvolvedora do software (se comprovada a falha de programação) ou do médico (se comprovada a negligência grotesca na revisão).

O grande obstáculo processual e probatório nessa dinâmica de responsabilização é a opacidade dos algoritmos de aprendizado profundo, fenômeno conhecido no meio tecnológico como “caixa preta” (black box). Em grande parte das vezes, nem os próprios criadores originais do código conseguem rastrear e explicar exatamente qual intrincado caminho lógico e estatístico a máquina percorreu para chegar àquela indicação desastrosa da substância trocada. Essa assimetria técnica e informacional extrema torna a prova material do erro algorítmico um fardo praticamente impossível de ser carregado pelo cidadão comum que busca reparação no Judiciário.

É exatamente para reequilibrar essa balança processual e garantir justiça efetiva que o Congresso Nacional debate ativamente o Projeto de Lei nº 2338/2023, estruturado para ser o Marco Legal da Inteligência Artificial no país. A proposta acerta ao adotar uma regulação assimétrica baseada no grau de perigo, classificando expressamente os sistemas utilizados na área da saúde como “sistemas de alto risco”. Essa classificação rígida impõe deveres severos de governança, auditoria e transparência, além de consagrar de maneira inconteste a inversão automática do ônus da prova a favor da vítima lesionada. Na prática forense, em caso de processo judicial oriundo de um erro médico induzido por IA, caberá ao desenvolvedor do software e ao estabelecimento de saúde o complexo trabalho de provar documentalmente que a máquina operou perfeitamente dentro dos padrões de segurança, ou que o desfecho danoso derivou de culpa exclusiva do médico, retirando dos ombros do paciente o pesado encargo de tentar desvendar o incompreensível código de programação.

Além dessas salvaguardas processuais, o marco regulatório consolida a exigência da manutenção permanente do que a engenharia conceitua como “human-in-the-loop”, que se traduz no dever legal de supervisão humana efetiva. A inserção da tecnologia de ponta na medicina não surge com a finalidade de substituir o calor e a intuição do julgamento clínico, mas para instrumentalizá-lo e aumentá-lo de forma segura. Exige-se que o sistema computacional forneça ao médico não apenas o veredito final, mas a justificativa compreensível, os parâmetros e as literaturas que embasaram aquela recomendação terapêutica específica.

A evolução contínua do direito médico diante do avanço veloz da inteligência artificial não possui caráter proibitivo; ela não busca, de forma alguma, frear a inovação tecnológica estruturante, que inegavelmente guarda o potencial de salvar milhões de vidas humanas por meio da precisão terapêutica e do diagnóstico ultraprecoce. O que a jurisprudência, a regulação estatal e a moderna doutrina exigem, de forma uníssona, é que o alto custo do aprendizado da máquina não seja financiado pela saúde, pela integridade física ou pela vida do paciente. O ponto de equilíbrio jurídico e ético reside em tratar a Inteligência Artificial exatamente como ela deve ser encarada: uma ferramenta extraordinariamente poderosa, mas falível, mantendo o ser humano não apenas no centro do cuidado e da empatia, mas, primordialmente, no centro da responsabilidade final.