Override absoluto: por que toda inteligência artificial clínica precisa de um botão de reversão

Nesta página

Se não dá para desfazer, não é apoio.

Há uma pergunta simples que revela mais sobre a ética de uma ferramenta de inteligência artificial no consultório do que qualquer descrição de suas capacidades. A pergunta é: o que acontece quando a pessoa profissional discorda dela. Se a resposta for que basta apagar, ignorar ou reescrever a sugestão em um clique, sem atrito e sem consequência técnica, a ferramenta é apoio. Se a resposta for que reverter exige esforço, gera fricção ou simplesmente não é possível, então a ferramenta já não sugere, ela decide, e a decisão clínica migrou silenciosamente da pessoa para a máquina. A reversibilidade não é um detalhe de usabilidade. É a linha que separa uma coisa da outra.

O que significa override absoluto

Override absoluto é o compromisso de que toda saída da inteligência artificial é reversível pela pessoa profissional, integralmente e a qualquer momento, sem que o sistema resista, penalize ou dificulte a reversão. Não é o mesmo que um botão de desfazer genérico. É uma propriedade de desenho que atravessa cada ponto em que a máquina sugere: uma hipótese proposta pode ser rejeitada, um texto gerado pode ser reescrito do zero, uma classificação sugerida pode ser sobrescrita, e nada disso deixa a pessoa profissional em situação pior do que se a sugestão nunca tivesse existido.

O ponto sutil é o custo da reversão. Uma sugestão que se apaga com um toque tem custo de reversão próximo de zero, e a autonomia clínica fica preservada. Uma sugestão que já preencheu campos, disparou fluxos ou ficou registrada como padrão a ser confirmado tem custo de reversão alto, e cada unidade desse custo é um grama de decisão transferido para a máquina. O override é absoluto quando reverter custa menos do que aceitar, e não o contrário. Ferramentas que tornam mais fácil aceitar do que recusar não são neutras: elas empurram a decisão, ainda que ninguém tenha programado isso com má intenção. A literatura de ética de sistemas autônomos dá nome a esse alvo: controle humano significativo, a exigência de que o sistema permaneça responsivo às razões morais de quem decide, e não o contrário (Santoni de Sio e van den Hoven, 2018).

Por que a lei brasileira torna isso obrigatório, não opcional

A profissão de psicólogo é regulamentada no Brasil, e a lei reserva determinados atos a quem tem habilitação e registro profissional. A Lei nº 4.119 de 1962, em seu artigo 13, define como função privativa da pessoa psicóloga o uso de métodos e técnicas psicológicas para fins como diagnóstico psicológico, orientação e seleção profissional, orientação psicopedagógica e solução de problemas de ajustamento. Formular hipótese, conduzir e interpretar avaliação, definir conduta, redigir e assinar documento psicológico são atos que pressupõem um responsável identificável, alguém que responde por eles perante o conselho de classe e perante a pessoa atendida. O Código de Ética Profissional do Psicólogo, aprovado pela Resolução CFP nº 10 de 2005, reforça esse ponto ao estabelecer, entre os deveres fundamentais da pessoa profissional, assumir responsabilidades apenas por atividades para as quais esteja capacitada. Uma ferramenta de inteligência artificial não tem registro profissional e não pode ser responsabilizada perante o conselho, então não pode ser a autora final desses atos, seja qual for a qualidade do que produz.

A Resolução CFP nº 9 de 2024, que regulamenta o exercício da psicologia mediado por tecnologias digitais da informação e da comunicação, coloca a responsabilidade do lado de quem conduz a relação clínica. Em seu artigo 3º, parágrafo 1º, atribui à pessoa profissional a responsabilidade de avaliar a viabilidade e a adequação dessas tecnologias às atividades que implementa, e no artigo 4º detalha os fatores que essa avaliação precisa considerar, incluindo confidencialidade, competências técnicas e evidências científicas pertinentes. No mesmo espírito, a Resolução CFP nº 6 de 2019, que institui regras para a elaboração de documentos escritos, atribui expressamente à pessoa profissional o protagonismo e a responsabilidade pela elaboração de cada documento, encerrado com data, local e assinatura de quem responde por ele. A responsabilidade, em suma, permanece com quem conduz o cuidado, e não migra para quem fornece o software nem para o algoritmo. E responsabilidade sem poder de decisão é uma contradição prática: não se responsabiliza alguém por um resultado que essa pessoa não teve como alterar. Se a norma mantém a responsabilidade com o profissional, é coerente que o sistema também mantenha com ele o poder efetivo de reverter, e o override absoluto é a forma técnica desse poder. Onde não há reversibilidade real, a arquitetura entra em tensão com a própria norma que diz respeitar.

O risco que a reversibilidade sozinha não resolve

É preciso honestidade sobre os limites do próprio argumento. Poder reverter não é o mesmo que reverter de fato. A literatura sobre viés de automação documenta que profissionais sob sobrecarga tendem a aceitar sugestões automatizadas sem revisão crítica plena, justamente porque aceitar é mais barato em atenção do que examinar. Uma revisão sistemática sobre a frequência, os mediadores e os mitigadores desse viés mostra que ele aparece tanto na forma de erros de comissão, quando se segue uma orientação automatizada incorreta, quanto de omissão, quando se deixa de agir porque o sistema nada sinalizou (Goddard, Roudsari e Wyatt, 2012). No contexto brasileiro, a discussão já alcança a prática médica assistida por inteligência artificial, com o alerta de que sistemas de apoio não são infalíveis e de que a complacência com eles é um risco a ser gerido de forma ativa (Bittencourt, 2025). A tendência de confiar demais na máquina é um viés cognitivo bem descrito, não um defeito de caráter de quem o exibe, e é por isso que ele não se corrige apenas com boa vontade individual.

Por isso a reversibilidade é condição necessária, não suficiente. Ela precisa vir acompanhada de um desenho que torne a revisão o caminho natural, e não um obstáculo a ser vencido pela força de vontade de quem já está exausto. Duas escolhas de arquitetura ajudam. A primeira é o teto explícito de confiança: quando a camada de inteligência artificial declara até onde vai a sua certeza e devolve o restante do conteúdo clínico obrigatoriamente para a caneta da pessoa profissional, aceitar no automático deixa de ser uma opção completa. A segunda é a auditoria do próprio uso, que descrevemos a seguir. Nenhuma das duas transforma a IA em terapeuta, e essa é justamente a intenção: a tecnologia sustenta o cuidado, não o lidera.

Como a plataforma sustenta isso na prática

O desenho institucional da plataforma parte do princípio de que o juízo humano é dominante e de que a camada de inteligência artificial opera com um teto explícito de confiança sobre qualquer hipótese ou registro clínico, com o conteúdo final preenchido pela pessoa profissional. Esse princípio ecoa a orientação da Organização Mundial da Saúde sobre ética e governança de inteligência artificial para a saúde, de 2021, cujo primeiro princípio é proteger a autonomia humana e manter as pessoas no controle das decisões de cuidado. Sobre essa base, o override absoluto é a garantia de que nada do que a máquina propõe se torna definitivo por inércia. A sugestão nasce como rascunho revisável, nunca como fato consumado, e a decisão de confirmar, ajustar ou rejeitar é sempre um ato explícito de quem responde pelo caso.

Para que a reversibilidade não fique só no papel, cada uma dessas decisões gera registro de auditoria acessível à pessoa profissional: o que a inteligência artificial sugeriu, quanto ela contribuiu no conteúdo final e o que a pessoa decidiu. Como esse registro contém dado pessoal sensível de saúde, na definição do artigo 5º, inciso II, da Lei Geral de Proteção de Dados, ele existe sob as bases e as salvaguardas dessa legislação, cujo artigo 11 admite o tratamento desse tipo de dado, sem consentimento, quando indispensável para a tutela da saúde em procedimento realizado por profissional de saúde, sempre com transparência para a pessoa atendida e retenção limitada ao necessário. Quando a taxa de aceitação sem ajuste sobe muito, esse mesmo registro serve de espelho, um convite a refletir sobre a relação com a ferramenta antes que o hábito de aceitar vire abdicação. A metáfora clínica é conhecida do próprio ofício: o instrumento psicométrico oferece um escore, mas quem lê, contextualiza e assina o laudo é sempre a pessoa profissional, e nenhum resultado bruto fecha diagnóstico por conta própria. A inteligência artificial ocupa exatamente esse lugar de instrumento, e o botão de reversão é o que impede que o instrumento se confunda com quem o maneja.

O detalhe que costuma passar despercebido é que a reversibilidade protege menos os casos raros de erro grosseiro e mais os incontáveis casos em que a sugestão estava quase certa. É a sugestão plausível, elegante e ligeiramente fora do caso concreto que mais se aproveita do cansaço para passar sem revisão, e é contra ela que a fricção baixa de reverter faz o trabalho mais silencioso e mais importante.

A pergunta que fica com quem escolhe a ferramenta

Toda pessoa profissional que avalia adotar inteligência artificial no consultório pode fazer o teste antes de assinar qualquer contrato. Pergunte, diante da ferramenta concreta, o que acontece quando você discorda. Meça quantos toques custa reverter, se a reversão apaga por completo o rastro da sugestão ou se ela fica lá empurrando a decisão, e se o sistema torna mais fácil recusar do que aceitar. A resposta a essas perguntas diz mais sobre a segurança clínica e jurídica da adoção do que qualquer promessa de precisão. Onde a reversão é livre, imediata e sem penalidade, a decisão continua sendo sua, e a norma que responsabiliza a pessoa profissional continua encontrando nela o responsável que pressupõe.

Referências

Beauchamp, T. L., e Childress, J. F. (2026). Principles of Biomedical Ethics (9. ed.). Oxford University Press.

Bittencourt, M. S. (2025). Você vai avisá-los quando estiverem errados? Viés de automação e inteligência artificial na medicina. Arquivos Brasileiros de Cardiologia, 122(5), e20250300. DOI: 10.36660/abc.20250300

Brasil. Lei nº 4.119, de 27 de agosto de 1962. Dispõe sobre os cursos de formação em Psicologia e regulamenta a profissão de Psicólogo.

Brasil. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais.

Conselho Federal de Psicologia. Resolução CFP nº 10, de 21 de julho de 2005. Institui o Código de Ética Profissional do Psicólogo.

Conselho Federal de Psicologia. Resolução CFP nº 6, de 29 de março de 2019. Institui regras para a elaboração de documentos escritos produzidos pela pessoa psicóloga no exercício profissional.

Conselho Federal de Psicologia. Resolução CFP nº 9, de 18 de julho de 2024. Regulamenta o exercício profissional da Psicologia mediado por Tecnologias Digitais da Informação e da Comunicação em território nacional.

Goddard, K., Roudsari, A., e Wyatt, J. C. (2012). Automation bias: a systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121-127. DOI: 10.1136/amiajnl-2011-000089

Santoni de Sio, F., e van den Hoven, J. (2018). Meaningful human control over autonomous systems: a philosophical account. Frontiers in Robotics and AI, 5, 15. DOI: 10.3389/frobt.2018.00015

World Health Organization. (2021). Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization.

Curadoria editorial - Conexão Psicológica