Transparência algorítmica em ferramentas clínicas: o que perguntar antes de adotar

Adotar sem perguntar é assinar pela máquina.

Adotar sem perguntar é assinar pela máquina.

O mercado de ferramentas digitais de saúde mental no Brasil entrou em ciclo de expansão acelerada cravado por relatórios setoriais recentes que situam o segmento em torno de US$ 8 bilhões em 2026 em escala global, com presença documentada de plataformas que combinam triagem assistida por inteligência artificial, analytics preditivos de risco psicossocial e assistentes de documentação clínica em produção comercial. A Resolução CFP nº 9 de 2024, publicada em 18 de julho daquele ano e vigente desde 30 de agosto, atribuiu integralmente à pessoa profissional habilitada a responsabilidade técnica por cada atendimento mediado por tecnologias digitais da informação e da comunicação, sem dispositivo normativo que autorize delegação a sistema de inteligência artificial intermediário. O Conselho Federal de Psicologia, em novembro e dezembro de 2025, complementou esse arcabouço com três instrumentos orientativos específicos: o Manual Orientativo de Registro e Elaboração de Documentos Psicológicos publicado em novembro de 2025, a Cartilha Inteligência Artificial na Psicologia: guia para uma prática ética e responsável e a Cartilha Chatbots, Inteligência Artificial e sua Saúde Mental, ambas publicadas em dezembro de 2025, somadas ao Posicionamento institucional sobre Inteligência Artificial no contexto da prática psicológica. A consequência operacional é direta: adotar uma ferramenta opaca é assumir, em silêncio, a responsabilidade pelo que essa ferramenta produz dentro do prontuário e diante da pessoa atendida. A transparência algorítmica, nesse cenário regulatório acumulado, deixa de ser preferência editorial e passa a operar como condição de adoção responsável.

O conceito de transparência algorítmica tem genealogia regulatória consolidada na literatura internacional contemporânea. Wachter, Mittelstadt e Floridi publicaram em 2017 no International Data Privacy Law volume 7 número 2 páginas 76 a 99 (DOI 10.1093/idpl/ipx005) análise crítica sobre o assim chamado direito à explicação do Regulamento Geral de Proteção de Dados europeu, apontando que a transparência efetiva exige acesso a informações técnicas específicas sobre o sistema, e não apenas aviso genérico de que decisão automatizada ocorreu. A Lei Geral de Proteção de Dados brasileira, Lei nº 13.709 de 2018, cravou no artigo 20 o direito de revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais, com particularidades em saúde mental que escalam a sensibilidade do dado clínico ao patamar do artigo 11. Há uma assimetria técnica importante entre o desenho brasileiro e o europeu. Enquanto o artigo 22 do Regulamento Geral de Proteção de Dados sustenta o direito a obter intervenção humana, a manifestar ponto de vista e a contestar a decisão automatizada, a redação original do parágrafo 3 do artigo 20 da LGPD, que previa expressamente revisão por pessoa natural, foi objeto de veto presidencial na sanção da Lei nº 13.853 de 8 de julho de 2019, que resultou da conversão da Medida Provisória 869 de 2018 e instituiu a Autoridade Nacional de Proteção de Dados, restando ao desenho vigente o direito à revisão genérica e à informação clara sobre os critérios utilizados, observados os segredos comercial e industrial. Em compensação, o desenho brasileiro oferece proteção preventiva mais ampla na hipótese de incidência, porque não restringe sua aplicação apenas a decisões com efeito jurídico ou impacto significativo, como faz o desenho europeu. A Resolução CFP nº 9 de 2024, ao atribuir responsabilidade técnica intransferível à pessoa profissional, opera como gancho regulatório nacional que torna o questionário pré-adoção exigência prática, e não acadêmica, da clínica digital responsável.

A primeira pergunta cravada no questionário operacional é sobre o modelo e o treinamento. Pergunte qual arquitetura algorítmica a ferramenta emprega, qual base de dados foi utilizada para treinamento, qual a composição demográfica dessa base, quais métricas de performance foram aferidas e em qual população. Modelos treinados majoritariamente em corpus norte-americano de língua inglesa apresentam limitações empíricas documentadas quando aplicados à clínica brasileira, com risco de viés algorítmico bem caracterizado na literatura de saúde digital. A segunda pergunta é sobre calibração e generalização. Solicite documentação sobre o desempenho da ferramenta em população brasileira, idealmente com estudo de validação local publicado, e desconfie de claims comerciais sem suporte metodológico explícito. A diferença entre eficácia em ensaio controlado e efetividade em contexto clínico real é literatura clássica em medicina baseada em evidências e se aplica integralmente a sistemas algorítmicos de apoio à decisão.

A terceira pergunta é sobre override e responsabilidade técnica. Pergunte explicitamente se a ferramenta permite intervenção profissional para reverter, modificar ou ignorar qualquer recomendação algorítmica, em qualquer momento do fluxo clínico, sem fricção operacional desenhada para induzir aceitação automática. Sistemas que dificultam o override, seja por design de interface, seja por contrato de uso, transferem à pessoa profissional o ônus probatório de justificar divergência da máquina, em inversão silenciosa da responsabilidade técnica que a Resolução CFP nº 9 de 2024 cravou como intransferível. A literatura de informática biomédica chama esse fenômeno de automation bias. Lyell e Coiera publicaram em 2017 no Journal of the American Medical Informatics Association volume 24 número 2 páginas 423 a 431 (DOI 10.1093/jamia/ocw105) revisão sistemática que cruzou as bases EMBASE, Medline, Compendex, Inspec, IEEE Xplore, Scopus, Web of Science, PsycINFO e Business Source Premiere no recorte de 1983 a 2015, identificando associação consistente entre o viés de automação e o grau de carga cognitiva experimentada na tarefa de decisão, e não exclusivamente a multitarefa. Solicite, por isso, acesso a registro auditável de cada interação algorítmica, com timestamp, versão do modelo e identificador da decisão, cravado em formato exportável.

A quarta pergunta é sobre dado clínico, residência e uso secundário. Pergunte onde o dado da pessoa atendida é armazenado, em que jurisdição, sob qual base legal da LGPD, e se há transferência internacional regida pelas Cláusulas Contratuais Padrão brasileiras ou pela Decisão de Adequação correspondente. Pergunte se o dado clínico será utilizado para retreinamento de modelo, ainda que pseudonimizado, e exija resposta categórica documentada em contrato. Dado clínico em saúde mental, sob o artigo 11 da LGPD, é dado pessoal sensível, com restrições de tratamento bem definidas, e a literatura internacional consolidada por Beauchamp e Childress em Principles of Biomedical Ethics, agora em nona edição publicada por Oxford University Press em fevereiro de 2026 (ISBN 978-0197832639), sustenta que confidencialidade clínica não admite presunção de consentimento secundário para uso analítico de plataforma comercial. A pergunta complementar é sobre direito ao esquecimento e modo leitura pós-cancelamento contratual da pessoa profissional ou da pessoa atendida, alinhada com o Manual Orientativo de Registro e Elaboração de Documentos Psicológicos do Conselho Federal de Psicologia de novembro de 2025 e com a guarda quinquenal cravada pela Resolução CFP nº 6 de 2019.

A quinta pergunta é sobre atualização do modelo e drift algorítmico. Pergunte com que frequência o modelo é atualizado, se há notificação à pessoa profissional sobre mudanças de versão, se há registro auditável de qual versão produziu cada decisão clínica passada, e qual o protocolo da empresa para incidentes de regressão de performance. Modelos algorítmicos sofrem drift natural quando aplicados a populações em mudança, e a literatura de aprendizado de máquina aplicado em saúde documenta casos de degradação silenciosa de performance ao longo de meses sem que a pessoa profissional adotante seja informada. O framework AI4People publicado por Luciano Floridi, Josh Cowls, Monica Beltrametti, Raja Chatila, Patrice Chazerand, Virginia Dignum, Christoph Luetge, Robert Madelin, Ugo Pagallo, Francesca Rossi, Burkhard Schafer, Peggy Valcke e Effy Vayena em 2018 no periódico Minds and Machines volume 28 número 4 páginas 689 a 707 (DOI 10.1007/s11023-018-9482-5) estabeleceu cinco princípios éticos cravar sistemas de inteligência artificial em saúde, a saber beneficência, não-maleficência, autonomia, justiça e explicabilidade, este último adicionado como cravamento específico da governança algorítmica, integralmente convergentes com o espírito da Resolução CFP nº 9 de 2024 e da Cartilha CFP de dezembro de 2025 sobre prática ética e responsável de IA na Psicologia.

A sexta pergunta cravada é sobre escopo clínico e fronteira de uso declarada. Pergunte exatamente para qual tarefa clínica a ferramenta foi desenhada, qual o nível de evidência empírica que sustenta a indicação, e quais usos estão explicitamente fora do escopo. Plataformas que oferecem ferramentas algorítmicas para triagem dimensional, monitoramento de sintomatologia ou apoio à documentação clínica não substituem avaliação psicológica estruturada, conforme Resolução CFP nº 31 de 2022 sobre SATEPSI, e a fronteira entre apoio operacional legítimo e exercício profissional não autorizado é regulatoriamente cravada no Brasil pela Lei nº 4.119 de 1962 sobre o exercício da profissão. A sétima pergunta, sintética e indispensável, é sobre auditoria independente. Pergunte se a ferramenta passou por auditoria técnica externa em conformidade com normas internacionais de saúde digital, se há relatório disponível, e qual a posição da empresa sobre o Regulamento UE 2024/1689, conhecido como EU AI Act, publicado no Jornal Oficial da União Europeia em 13 de junho de 2024 e em vigor desde 1 de agosto de 2024. A aplicação plena das obrigações sobre sistemas de alto risco, originalmente prevista para 2 de agosto de 2026, foi objeto de acordo político entre Conselho da União Europeia e Parlamento Europeu firmado em 7 de maio de 2026, no âmbito do chamado Digital Omnibus on AI, prevendo adiamento do cumprimento para 2 de dezembro de 2027 nos sistemas de alto risco autônomos e 2 de agosto de 2028 nos sistemas de alto risco embarcados em produtos regulados por legislação setorial preexistente. O Anexo III mantém a classificação de sistemas aplicados a saúde como categoria de alto risco, com obrigações documentais específicas que a pessoa profissional brasileira que avalia adoção precisa conhecer ainda na janela transitória, porque a postura defensável da clínica digital responsável é antecipar referência regulatória internacional consolidada e não aguardar entrada em vigor de norma supranacional. Pergunte também sobre conformidade com o Plano de Ação para Software como Dispositivo Médico baseado em Inteligência Artificial e Aprendizado de Máquina publicado pela Food and Drug Administration em 12 de janeiro de 2021, que sistematizou o desenho de planos de controle de mudança predeterminado para algoritmos clínicos.

A oitava dimensão, propriamente brasileira, é o monitoramento da janela regulatória nacional ainda em formação. O Projeto de Lei nº 2.338 de 2023, aprovado por unanimidade no plenário do Senado Federal em 10 de dezembro de 2024, tramita na Câmara dos Deputados ao longo de 2026 sob relatoria do deputado Aguinaldo Ribeiro e presidência da Comissão Especial pela deputada Luísa Canziani, com cronograma de votação reagendado ao longo do primeiro semestre legislativo e desfecho final ainda incerto na janela editorial desta peça. O projeto propõe um Marco Legal brasileiro da Inteligência Artificial estruturado em quatro níveis de risco no modelo europeu, classificando explicitamente sistemas aplicados a saúde como categoria de alto risco e prevendo Sistema Nacional de Regulação e Governança de Inteligência Artificial e penalidades que podem alcançar cifras significativas. A consolidação institucional brasileira é robusta no plano profissional, com a cadeia regulatória do Conselho Federal de Psicologia somando à Resolução nº 9 de 2024 o Manual Orientativo de novembro de 2025, as Cartilhas de dezembro de 2025 sobre prática ética e sobre chatbots em saúde mental, e o Posicionamento oficial sobre Inteligência Artificial no contexto da prática psicológica. O cenário brasileiro é, portanto, de sobreposição regulatória horizontal em formação somada à responsabilização vertical já cravada pelo conselho profissional, e a postura defensável da pessoa profissional adotante é antecipar exigências de conformidade contratual e técnica em vez de aguardar entrada em vigor da norma horizontal. Adiar estruturação interna é exposição evitável.

A integração operacional desse questionário com a prática clínica brasileira é defensável em sete movimentos cravados. Documente o questionário aplicado e as respostas obtidas em prontuário ou em registro auxiliar mantido por cinco anos, conforme Resolução CFP nº 6 de 2019 e Manual Orientativo do Conselho Federal de Psicologia de novembro de 2025. Avalie o conjunto de respostas contra critérios mínimos cravar adoção, e recuse adoção quando os critérios não forem atendidos. Mantenha o override ativo em fluxo clínico, com revisão deliberada de cada recomendação algorítmica antes de incorporação à conduta. Audite trimestralmente o registro de decisões mediadas pela ferramenta, com supervisão técnica documentada. Atualize o questionário sempre que houver mudança de versão da ferramenta. Comunique pessoas atendidas, com linguagem acessível, sobre o uso de ferramenta algorítmica em qualquer etapa do atendimento, em conformidade com o Código de Ética Profissional consolidado pela Resolução CFP nº 10 de 2005 e com o princípio da transparência consolidado pela LGPD e reforçado pelas Cartilhas do Conselho Federal de Psicologia de dezembro de 2025. Acima de tudo, recorde que a Resolução CFP nº 9 de 2024 cravou a responsabilidade técnica como intransferível, e que adotar sem perguntar é, na prática, assinar pela máquina.

Avisos institucionais cravar leitora profissional: este texto é peça de comunicação institucional da Conexão Psicológica e não substitui consulta jurídica especializada em LGPD aplicada à saúde mental, parecer técnico do Conselho Regional de Psicologia da jurisdição correspondente, ou análise de conformidade contratual da plataforma específica em avaliação. Resoluções e instrumentos orientativos do Conselho Federal de Psicologia, regulações nacionais e internacionais, e o Marco Civil da Internet sofrem atualização periódica e devem ser consultados em fonte primária no momento da decisão de adoção. O Projeto de Lei nº 2.338 de 2023 segue em tramitação na Câmara dos Deputados durante 2026 e o desenho final pode sofrer alterações relevantes antes da sanção presidencial. O acordo político de 7 de maio de 2026 sobre o Digital Omnibus on AI no âmbito da União Europeia segue em fase de tramitação legislativa europeia formal e as datas finais de aplicação plena podem ser objeto de ajustes adicionais antes da publicação no Jornal Oficial da União Europeia.

Curadoria editorial - Conexão Psicológica
Equipe Editorial - Conexão Psicológica · Sobre a equipe