Inteligência artificial e Bioética
- Carlos Frederico de Almeida Rodrigues
- 17 de mai. de 2024
- 7 min de leitura
Atualizado: 28 de mai.
2 - RESOLUÇÃO DO CREMERS SOBRE USO DA INTELIGÊNCIA ARTIFICIAL
A convergência de Novas Tecnologias aplicadas à Medicina, como a Interne Coisas, a Robótica, a Nanotecnologia e, especialmente, a Inteligência Artificial, descortin cenário favorável para soluções avançadas no campo da prevenção, do diagnóstico, do trata e da predição de doenças. Por outro lado, o profissional da Medicina é impactado por desafios jurídicos, diante da insuficiente regulamentação deontológica e de quadro jurídico atual que está em formação.
CONSELHO REGIONAL DE MEDICINA DO ESTADO DO RIO GRANDE DO SUL RESOLUÇÃO CREMERS Nº SEI-6, DE 12 DE MARÇO DE 2025 Dispõe sobre o uso da Inteligência Artificial (IA) na prática médica, estabelecendo diretrizes para sua aplicação ética e responsável, visando garantir a autonomia do médico, a transparência no uso da IA perante o paciente, a segurança dos dados pessoais e a responsabilidade profissional. O PRESIDENTE DO CONSELHO REGIONAL DE MEDICINA DO ESTADO DO RIO GRANDE DO SUL- CREMERS, no uso de suas atribuições legais e regulamentares conferidas pela Lei nº 3.268/1957 e pelo Decreto 44045/1958:
CONSIDERANDO que a Inteligência Artificial (IA) vem sendo aplicada na promoção, na proteção e na recuperação da saúde; na prevenção, no diagnóstico e no tratamento das doenças; e na reabilitação dos enfermos e portadores de deficiências; CONSIDERANDO que o uso da IA deve ser orientado pelo princípio da Centralidade da Pessoa Humana, com primazia e protagonismo dos médicos e pacientes, norteado pela supervisão humana e pelo consentimento informado;
CONSIDERANDO que os sistemas de IA devem observar a privacidade e direito de proteção de dados pessoais dos seus destinatários, conduzidos pelo princípio da boa-fé;
CONSIDERANDO que os sistemas de IA devem observar os princípios da beneficência, não- maleficência, autonomia, justiça e explicabilidade.
CONSIDERANDO a aprovação da minuta em Sessão Plenária Ordinária realizada em 27 de fevereiro de 2025; resolve:
Art. 1º A Inteligência Artificial não substitui a decisão do médico, que guarda autonomia no exercício de sua profissão, devendo ser aplicada como ferramenta em benefício do paciente e da sociedade. Parágrafo único. Considera-se inteligência artificial (IA) o sistema computacional desenvolvido com base em lógica, em representação do conhecimento ou em aprendizagem de máquina, obtendo arquitetura que o habilita a utilizar dados de entrada provenientes de máquinas ou seres humanos para, com maior ou menor grau de autonomia, produzir conteúdos sintéticos, previsões, recomendações ou decisões que atendam a um conjunto de objetivos previamente definidos e sejam aptos a influenciar ambientes virtuais ou reais Art. 2º O médico deverá esclarecer ao paciente em que medida a Inteligência Artificial será utilizada na prevenção, no diagnóstico e no seu tratamento, obtendo Termo de Consentimento Livre e Esclarecido (TCLE), quando utilizada como ferramenta determinante, no ato médico, fazendo constar nos documentos médicos, a denominação do software, indicando o seu controlador/criador/titular. Art. 3º Para o processo de tomada de decisões profissionais, o médico deverá eleger sistemas de Inteligência Artificial que tenham como características a transparência e a explicabilidade. Art. 4º Na atividade profissional, quando utilizada como ferramenta determinante, no ato médico, o profissional deverá utilizar sistemas de IA que tenham em seu quadro responsável técnico médico, no sentido de garantir a supervisão humana, no que toca aos protocolos médicos, na formação do algoritmo e modelo. Art. 5º O médico deverá utilizar sistemas de IA que se preservem a privacidade e o direito de proteção de dados pessoais dos pacientes, inclusive, com encarregado de proteção de dados pessoais, com canais de comunicação, nos termos da Lei 13.709 de 2018, com observância da segurança da informação. Art. 6º A responsabilidade ética do médico depende da apuração de culpa, oferecendo a presente resolução o padrão de atuação do profissional prudente e diligente. Art. 7º Esta Resolução entra em vigor na data de sua publicação.
ANEXO EXPOSIÇÃO DE MOTIVOS A convergência de Novas Tecnologias aplicadas à Medicina, como a Interne Coisas, a Robótica, a Nanotecnologia e, especialmente, a Inteligência Artificial, descortin cenário favorável para soluções avançadas no campo da prevenção, do diagnóstico, do trata e da predição de doenças. Por outro lado, o profissional da Medicina é impactado por desafios jurídicos, diante da insuficiente regulamentação deontológica e de quadro jurídico atual que está em formação. É neste sentido que o Conselho Regional de Medicina do Rio Grande do Sul busca oferecer princípios e recomendações práticas para o uso adequado da Inteligência Artificial na Saúde, contemplando o interesse da sociedade, dos pacientes e da comunidade médica. O contexto ético-jurídico, em nível mundial, pautado por iniciativas como o "Regulamento Inteligência Artificial da União Europeia" (2024/1689), e, em âmbito nacional, com inúmeros projetos de lei, em franca evolução, demonstra a oportunidade do debate, que se concretizou junto ao CREMERS pela formação da comissão de estudos sobre o tema e pela audiência pública realizada, em 27 de novembro de 2024. Após a audiência pública, o Grupo de Trabalho de Regulamentação Ética da IA na Medicina, instituído pela Portaria SEI nº 1, de 3 de janeiro de 2025, apresentou como resultado a publicação desta resolução, que foi aprovada em Sessão Plenária Ordinária no dia 27 de fevereiro de 2025. A orquestração de seus dispositivos está permeada pelo princípio da Centralidade da Pessoa Humana, tendo como protagonistas médico e paciente, pautada pela Supervisão humana, sobretudo, na tomada de decisão pelo profissional, e, na adequada construção do Termo de Consentimento Livre e Esclarecido (TCLE). A presente Resolução salvaguarda direitos como a privacidade, preservando o segredo, bem como a proteção de Dados Pessoais, que, por tratar de dados sensíveis dos pacientes, liga-se ao princípio da autodeterminação informativa, nos veios do livre desenvolvimento da personalidade do paciente. Buscou-se promover o diálogo das fontes, harmonizando direitos e princípios previstos na Constituição da República Federativa do Brasil, no Código Civil, em seu capítulo dos Direitos da Personalidade, na Lei Geral de Proteção de Dados Pessoais e nas próprias iniciativas brasileiras de normatização da matéria.
Ponto importante é a determinação que os médicos deverão eleger sistemas de Inteligência Artificial que tenham como características a transparência e a explicabilidade. Trata-se de qualidades que devem pautar os softwares de inteligência artificial, no sentido da suficiente compreensão e fiscalização pela pessoa humana de seu input (alimentação), de suas instruções algorítmicas e de seu output (resultado). Nem médico, tampouco paciente, deve se anular frente ao processo decisório automatizado pela IA aceitando passivamente seus resultados, sem qualquer supervisão humana. Incumbe destacar que a responsabilidade ética do médico depende da apuração de culpa, tendo como escopo a presente resolução delinear o padrão de atuação do profissional prudente e diligente. Porto Alegre, 28 de maio de 2025. EDUARDO NEUBARTH TRINDADE Presidente do Conselho
file:///C:/Users/User/Downloads/2025.05.28%20-%20Resolu%C3%A7%C3%A3o%20CREMERS%20N.%20SEI-6%20(1).pdf
1 - HABERMAS MACHINE
A Habermas Machine é um conceito tecnológico criado pela Google DeepMind que utiliza inteligência artificial para ajudar em discussões e deliberações de grupo, especialmente em temas controversos ou complexos. Ela é chamada assim em homenagem ao filósofo alemão Jürgen Habermas, que é reconhecido por seu trabalho na teoria da ação comunicativa, que defende o diálogo racional como a melhor maneira de resolver conflitos e alcançar o entendimento.
Objetivo da Habermas Machine
A ideia principal da Habermas Machine é mediar discussões, ajudando os participantes a encontrar áreas de consenso. Isso significa que ela pode ser usada para facilitar conversas sobre assuntos onde as pessoas têm opiniões muito divergentes, tentando criar um ambiente em que todos possam expressar seus pontos de vista e, ao final, produzir um resumo ou síntese do que foi discutido que seja aceitável para todos.
Como Funciona
A Habermas Machine opera em duas etapas principais:
Geração de Declarações de Grupo:
A máquina usa um modelo de linguagem avançado para analisar as opiniões individuais dos participantes. Com base nessas opiniões, ela gera múltiplas declarações possíveis que poderiam representar um ponto de vista consensual entre os participantes.
Avaliação e Refinamento:
Em seguida, a IA utiliza um modelo de recompensa para avaliar cada uma das declarações criadas, tentando prever quais delas seriam mais bem aceitas pelo grupo. As melhores declarações, ou seja, aquelas com maior potencial de aceitação, são então apresentadas ao grupo.
Os participantes podem dar feedback, permitindo que a declaração seja refinada e melhorada, até que se chegue a um acordo razoável.
Impacto e Aplicações
Deliberações Democráticas: A Habermas Machine é vista como uma ferramenta que pode facilitar o diálogo em situações onde há desacordos significativos, como discussões políticas, consultas públicas ou debates sobre políticas sociais.
Redução de Conflitos: Em experimentos, a ferramenta foi capaz de criar declarações de grupo que foram frequentemente avaliadas como mais justas e claras do que aquelas geradas por mediadores humanos, o que indica um potencial para ajudar a reduzir conflitos e melhorar a qualidade do diálogo.
Uma Abordagem Inspirada em Habermas
Jürgen Habermas é conhecido por sua ideia de que a comunicação ideal deve ser orientada pela razão, com todos os participantes contribuindo de forma livre e igualitária, sem pressões externas. A Habermas Machine tenta colocar essa ideia em prática, utilizando inteligência artificial para facilitar um ambiente comunicativo onde as contribuições dos participantes possam ser agregadas de forma justa e transparente.
Limitações
Apesar de seu potencial, a Habermas Machine também enfrenta desafios:
As respostas geradas ainda podem ser influenciadas por viéses dos dados nos quais o modelo foi treinado.
Nuances humanas e emoções que são essenciais em discussões podem ser difíceis de captar por uma IA, tornando o processo menos "humano" do que com mediadores experientes.
Portanto, a Habermas Machine é um passo em direção ao uso da tecnologia para facilitar o diálogo e construir consensos, especialmente em um mundo cada vez mais polarizado, mas ainda não é perfeita e depende de um monitoramento humano para garantir que os resultados realmente reflitam o que foi discutido.
INTELIGÊNCIA ARTIFICIAL
As questões éticas da inteligência artificial em saúde estão em debate com leis de proteção de dados e etc, mas será que os profissionais de saúde que utilizam algoritmos conseguirão assegurar ao paciente a garantia humana e a explicabilidade dos resultados?
link do livro do professor Rui Nunes sobre o tema:
Comments