Se um robô cirúrgico treinado em IA mata um paciente, quem é o culpado?
De procedimentos cosméticos a operações cardíacas, a introdução da IA criará um campo minado ético.
- A cirurgia automatizada é uma das muitas áreas clínicas onde a IA pode ser introduzida na prática atual.
- A interseção da IA com a cirurgia levantará inúmeras questões éticas.
- A IA não pode replicar as decisões que os cirurgiões tomam com base no instinto adquirido com a experiência clínica não quantificável.
Extraído de Future Care: Sensores, Inteligência Artificial e a Reinvenção da Medicina por Jag Singh. ©2023. Reimpresso com permissão da Mayo Clinic Press.
A IA pode ser o nosso Santo Graal? Ele pode corrigir todos os problemas de saúde, aumentar o valor do atendimento e melhorar o diagnóstico, a previsão de risco e o tratamento, diminuindo a sobrecarga do médico e melhorando a experiência do paciente?
Existem muitos escalões dentro dos quais a IA pode ser introduzida na prática clínica atual. Uma delas é a automatização da cirurgia. No passado, usei navegação magnética usando equipamentos Stereotaxis para realizar procedimentos. Eu poderia sentar na sala do console, a mais de 3,5 metros do paciente, e manobrar os cateteres dentro do coração usando joysticks . O equipamento aumenta a precisão do movimento do cateter e visa áreas específicas dentro do coração que podem estar causando o distúrbio do ritmo, ao mesmo tempo em que reduz minha exposição à fluoroscopia (raios-X).
O próximo passo natural é o uso de IA para navegar automaticamente o cateter até a região de interesse e, após alguns testes confirmatórios, fornecer a energia térmica para destruir o circuito e encerrar a arritmia. Já começamos a usar a tecnologia holográfica de realidade aumentada (SentiAR) para obter uma reflexão tridimensional interativa e em tempo real da anatomia da superfície interna do coração. As imagens holográficas com navegação automática dos cateteres podem parecer fictícias, mas, na realidade, estamos quase lá.
A interseção da IA com especialidades intervencionistas e cirúrgicas levantará uma infinidade de questões éticas. A maioria deles está relacionada a preconceito e responsabilidade. As questões éticas serão ampliadas à medida que nos movemos para um modo de operação completamente autônomo. Isso é de particular importância em respostas ou intervenções iniciadas por IA que seriam autodirigidas. Os conjuntos de dados usados para treinar IA podem ser tendenciosos para começar. Isso criará desafios éticos, especialmente se o impacto a jusante for diferente em diversos subgrupos de pacientes. Isso pode significar diferentes intervenções levando a diferentes resultados em diferentes pacientes.
No futuro previsível, os robôs servirão apenas para auxiliar .
Vamos usar a cirurgia estética como ilustração. A IA agora pode prever a idade de um indivíduo reconhecendo características faciais que podem ter contribuído para essa avaliação. Isso, por sua vez, ajuda a sugerir etapas do procedimento cirúrgico que podem reduzir a idade, modificando essas características. A cirurgia plástica é uma grande coisa na Coreia do Sul. Os cirurgiões usam instrumentos cirúrgicos com sensor de movimento que coletam dados em tempo real e orientam o cirurgião a fazer microajustes para melhorar o resultado. Mas esses algoritmos de IA têm alguns vieses inerentes. Em 2013, o concurso de Miss Coreia criou um rebuliço por causa da semelhança nas características faciais entre os concorrentes que fizeram cirurgia estética. A beleza, dizem eles, está no olho de quem vê, e isso fica ainda mais complicado se esse olho estiver sendo ditado por uma inteligência artificial. Nem é preciso dizer que algoritmos de IA como esse não serão generalizáveis em uma variedade de comunidades e etnias.
Em um ambiente cirúrgico ou em um laboratório de procedimentos, há muito mais em jogo. Um robô treinado em IA congelando devido a um problema técnico ou perdendo o controle durante o procedimento durante a dissecação, sutura ou manipulação de cateteres dentro do coração pode levar a um resultado catastrófico. As questões éticas serão diretamente proporcionais à extensão do envolvimento da IA. Ao treinar robôs, seria importante treiná-los com conjuntos de dados de milhares de procedimentos realizados em diversas condições em locais diferentes com vários operadores. Evitar danos será fundamental. E quando isso ocorre, quem é o responsável? Será a empresa que desenvolveu o robô de operação autônoma, o cirurgião, o hospital ou os colaboradores do conjunto de dados?
A IA não pode replicar as decisões que os cirurgiões tomam com base no instinto. O reflexo de orientação do intestino é difícil de encapsular e substituir, pois muito dele é adquirido com a experiência clínica não quantificável. Além disso, uma única operação cirúrgica completa requer milhares de etapas complexas, envolvendo corte, dissecação, excisão, conexão, queima, resfriamento, pinçamento, ligadura e sutura. Para o futuro previsível , os robôs servirão apenas para auxiliar; à medida que se tornam mais fáceis com as funções básicas, camadas adicionais de complexidade serão adicionadas, mas com muito cuidado.
Compartilhar:
