Artigo escrito por Keshav Malhotra – Embriologista · Presidente de Embriologia, ISAR · Presidente do SIG de Embriologia, ASPIRE · Membro Executivo, Alpha Scientists in Reproductive Medicine

Uma colega minha, uma embriologista sénior com mais de duas décadas de experiência em laboratório, sentou-se à minha frente num jantar de conferência no ano passado e disse algo em que tenho vindo a pensar desde então. «Não estão a substituir as pipetas», disse ela. «Estão a substituir-nos.» Ela não estava a ser dramática. Estava a ser específica. Ela tinha assistido à introdução de uma ferramenta de classificação por IA numa clínica sem qualquer conversa, qualquer formação ou qualquer explicação sobre como os seus resultados seriam utilizados nas decisões clínicas. Pediram-lhe que aprovasse embriões que ela não tinha avaliado. Ela recusou.

Quero deixar uma coisa bem clara antes de continuarmos. Ela fez bem em recusar.

O debate em torno da IA na medicina reprodutiva adquiriu um mau hábito. Tende a começar com a capacidade e a terminar com a inevitabilidade. O embriologista que levanta uma preocupação é rotulado como resistente à mudança, como alguém que ficará para trás. Essa visão não só é injusta como também contraproducente. Se dirige um laboratório, gere uma clínica ou faz parte de um comité científico que decide como estas ferramentas são adotadas, o embriologista que se opõe não é o seu problema. Ela é o seu sistema de alerta precoce.

A ameaça é real. Só que não é aquela que eles estão a descrever.

Quando um embriologista afirma que a IA é uma ameaça, quase nunca está preocupado com o algoritmo em si. O que o preocupa é o contexto social e institucional em que este se insere. Será que esta ferramenta será utilizada para justificar a redução de pessoal? Será que o meu julgamento clínico será substituído por uma pontuação de confiança? Serei responsabilizado por um resultado sobre o qual não tive qualquer influência real? Estas não são perguntas paranóicas. São as perguntas certas.

Os dados sobre a seleção de embriões assistida por IA são verdadeiramente interessantes. Estudos que comparam ferramentas de classificação por IA com a avaliação morfológica isolada demonstraram melhorias na consistência e, em algumas coortes, nas taxas de nascimentos vivos. Mas eis o que esses artigos nem sempre dizem claramente: essas ferramentas foram desenvolvidas em centros de grande volume, com conjuntos de dados extensos e bem anotados. O seu desempenho no seu laboratório, na sua população de pacientes e com o seu sistema de time-lapse pode revelar-se bastante diferente. A embriologista que classifica blastocistos há quinze anos numa clínica de média dimensão numa cidade de segundo nível não está a ser irracional quando pede para ver dados de validação específicos para o seu contexto.

O desafio para os líderes, portanto, não é convencer os embriologistas relutantes de que a IA é inofensiva. O desafio é criar as condições para que se possa realizar uma avaliação honesta e rigorosa e para que os profissionais que realizam o trabalho clínico tenham autoridade efetiva sobre o que é adotado e de que forma.

Por que é que o argumento de venda padrão não funciona

A maioria das iniciativas de adoção de IA nos laboratórios de FIV segue uma sequência previsível. Uma ferramenta é apresentada numa reunião do departamento. Os slides mostram indicadores de precisão. Um responsável de nível superior dá o seu aval. Espera-se que os embriologistas adiram à iniciativa. A resistência é interpretada como um problema de formação.

Esta abordagem falha por três razões que nada têm a ver com a tecnologia.

Em primeiro lugar, ignora a autoridade epistémica das pessoas que mais sabem sobre o problema. Os embriologistas, que passaram anos a aperfeiçoar a sua avaliação morfológica, desenvolveram uma compreensão intuitiva da sua população de pacientes, das condições do seu laboratório e dos casos-limite que os algoritmos raramente têm oportunidade de observar em quantidade suficiente. Pedir-lhes que se submetam a uma ferramenta, sem primeiro lhes perguntar o que sabem, não é um problema de tecnologia. É um problema de respeito.

Em segundo lugar, exige confiança antes de oferecer transparência. A maioria das plataformas comerciais de classificação por IA não é totalmente transparente quanto aos seus dados de treino, aos seus critérios de exclusão ou aos contextos clínicos em que apresentam um desempenho inferior. Uma embriologista que pergunta «como é que este modelo lida com blastocistos de seis dias com trofectoderma fragmentado?» e recebe uma resposta vaga sobre a metodologia proprietária não está a ser obstrucionista. Está apenas a fazer o seu trabalho.

Em terceiro lugar, confunde a adoção com o apoio. Os embriologistas compreendem que utilizar uma ferramenta não é um ato neutro. Num contexto clínico, utilizar uma ferramenta implica um certo grau de confiança nos seus resultados. Pedir a alguém que utilize algo que não compreende e não consegue avaliar é pedir-lhe que comprometa a sua integridade profissional. Trata-se de um pedido significativo.

Um ponto de partida diferente

Os laboratórios que têm gerido bem esta situação partilham uma abordagem comum. Não partem da ferramenta. Partem do problema que a ferramenta se destina a resolver e pedem aos embriologistas que definam eles próprios esse problema.

Como é que isso se traduz na prática?

1. Identifique primeiro a lacuna específica.  O problema é a variabilidade entre observadores na classificação de blastocistos? A inconsistência entre turnos noturnos? A dificuldade em priorizar embriões em grandes coortes? Quando o problema é concreto, torna-se possível avaliar se uma ferramenta realmente o resolve, em vez de presumir que sim apenas porque o fornecedor o afirma.
2. Realize um período de avaliação paralelo.  Antes de qualquer ferramenta de IA influenciar uma decisão clínica, utilize-a em paralelo com o seu processo atual. Compare os resultados. Registe as divergências. Peça aos seus embriologistas que tomem notas sobre os casos em que a recomendação da ferramenta lhes pareceu errada e porquê. Estes dados são valiosos. Dão-lhe informações tanto sobre a ferramenta como sobre o contexto do seu laboratório.
3. Torne a discordância visível.  A implementação de IA mais perigosa é aquela em que a recomendação da ferramenta é aceite por predefinição, porque é necessário um esforço para a ignorar. Uma boa implementação torna a discordância fácil e auditável. Uma embriologista que ignora uma recomendação e documenta o seu raciocínio está a praticar boa ciência. Isso deve ser encorajado, não tratado como um atrito.
4. Separe a ferramenta da decisão.  O resultado da IA é informação. A decisão clínica cabe ao embriologista e ao médico. Não se trata de uma questão semântica. Tem consequências reais sobre a forma como os erros são analisados, como a responsabilidade é entendida e como a autoridade profissional é mantida no laboratório.
5. Atribua um papel formal aos céticos.  A embriologista que se mostra mais crítica em relação a uma nova ferramenta é, muitas vezes, a pessoa mais indicada para liderar o processo de validação interna. O seu cepticismo é uma mais-valia. Atribuir-lhe autoridade formal sobre a avaliação transmite uma mensagem ao resto da equipa: esta organização leva as preocupações a sério e as pessoas que as levantam são respeitadas por isso.

O que aprendi com os céticos

Tive a sorte de trabalhar com alguns dos cientistas mais perspicazes desta área e de aprender com eles. O que noto nos que abordam a IA com cautela é que não se opõem à questão que a tecnologia procura responder. O que lhes causa resistência é um tipo específico de certeza que ainda não foi merecida.

Uma colega sénior expressou-se da seguinte forma: «Não me oponho a utilizar um modelo para ajudar na seleção. O que me incomoda é utilizar um modelo cujos mecanismos de falha não compreendo, em doentes pelos quais sou responsável.» Trata-se de uma posição cientificamente fundamentada. É também, se analisarmos com atenção, um convite. Ela está a dizer-lhe exatamente o que precisa para confiar na ferramenta: transparência sobre a forma como esta falha.

Isso é viável. Se os fornecedores que desenvolvem estas ferramentas estão empenhados na adoção clínica, e não apenas na adoção comercial, é essa a conversa que deveriam estar a ter com os embriologistas, e não aquela sobre melhorias percentuais nas taxas de gravidez clínica a partir de coortes cuidadosamente selecionadas.

A embriologista não é a última linha de defesa contra um algoritmo defeituoso. Mas é, sem dúvida, uma linha de defesa.

Existe uma versão do futuro em que a IA nos laboratórios de FIV é adotada de forma descuidada, em que os embriologistas perdem as suas competências, em que a autoridade clínica passa de cientistas qualificados para pontuações de confiança num ecrã, e em que o primeiro indício de que algo correu mal surge numa auditoria três anos mais tarde. Esse futuro não é inevitável. Mas não se evita com otimismo ou insistindo que a tecnologia é segura. Evita-se com o mesmo que produz boa ciência: rigor, ceticismo e a disposição para dizer «Preciso de ver os dados.»

A embriologista que considera a IA uma ameaça não está errada em sentir-se preocupada. Só estará errada se se limitar à preocupação e não der o passo seguinte, que consiste em envolver-se com a tecnologia nos seus próprios termos, exigir transparência, documentar o que observa e integrar a sua experiência clínica no processo de avaliação, em vez de a deixar de lado.

E para nós, que ocupamos cargos de liderança: a nossa função é tornar esse próximo passo possível. Não se trata de a convencer de que as suas preocupações são infundadas, mas sim de criar o tipo de ambiente institucional em que essas preocupações se tornem o motor de um processo de adoção mais eficaz.

Não é o caminho mais fácil. Mas é aquele que produz resultados nos quais se pode confiar.

Quer entrar em contacto connosco? Clique aqui para nos contactar.