Os departamentos de saúde pública dos Estados Unidos testarão ferramentas generativas de IA no âmbito de um novo programa envolvendo a Coalition for Health AI, OpenAI, Anthropic e Accenture.
O caso de uso de saúde pública e o mecanismo de escalonamento de aprendizagem, conhecido como PULSE, apoiarão testes em 10 jurisdições estaduais, locais, tribais ou territoriais. O programa destina-se a produzir orientações de implementação para agências de saúde pública que considerem implementações semelhantes.
OpenAI e Anthropic doaram 10 licenças empresariais com capacidade para até 2.000 profissionais de saúde pública. A Accenture supervisionará a integração dos participantes e ajudará a desenvolver manuais baseados nos testes.
O programa dará aos profissionais de saúde pública acesso a produtos empresariais de IA da OpenAI e da Anthropic. A CHAI não identificou os produtos, versões de modelo ou configurações que serão utilizadas, nem explicou como os dois fornecedores serão atribuídos nos pilotos.
“Toda grande transformação tecnológica é bem-sucedida ou falha com base na confiança, governança e execução”, disse o Dr. David Lakey, ex-comissário de saúde do Texas. “O PULSE apoiará as agências neste esforço e foi projetado especificamente para implementação prática.”
Cinco casos de uso de saúde pública
O conselho de liderança da Coalition for Health AI selecionará as jurisdições participantes e designará profissionais para comunidades focadas em cinco casos de uso. Estes incluem biovigilância e previsão de ondas de drogas, determinantes sociais da saúde e mapeamento SDoH, operações e eficiência e análise de feedback da comunidade, comunicações públicas e um centro de tradução multilingue, e recuperação automatizada de dados clínicos e um motor de consulta FHIR.
A Estrutura de Gerenciamento de Risco de IA do NIST recomenda avaliar os sistemas de IA de acordo com o uso pretendido, ambiente operacional, partes afetadas e consequências potenciais. A CHAI não publicou requisitos separados de avaliação, privacidade, segurança ou revisão humana para os cinco casos de uso do PULSE.
FHIR é um padrão HL7 usado para trocar informações de saúde eletronicamente entre sistemas compatíveis.
O PULSE inclui uma recuperação automatizada de dados clínicos e um mecanismo de consulta FHIR, embora o anúncio não defina o papel da IA generativa nesse fluxo de trabalho. Ele não indica se os modelos irão gerar consultas, recuperar registros, resumir as informações retornadas ou combinar essas funções.
O anúncio também não explica se consultas incorretas, recuperações incompletas ou resumos sem suporte serão verificados pela equipe antes que as informações sejam utilizadas.
Algumas aplicações propostas poderiam envolver informações demográficas, geográficas, clínicas ou de saúde populacional. A CHAI não disse se os pilotos usarão registros identificáveis, informações não identificadas, dados sintéticos ou conjuntos de dados agregados.
O Departamento de Saúde e Serviços Humanos dos EUA exige que as organizações cobertas pela HIPAA protejam determinadas informações eletrônicas de saúde. Sua orientação sobre computação em nuvem afirma que organizações regulamentadas e provedores de serviços devem atender aos requisitos da HIPAA quando os sistemas em nuvem criam, recebem, mantêm ou transmitem informações eletrônicas de saúde protegidas.
A HIPAA não se aplicará a todas as organizações ou fluxos de trabalho participantes. Sua aplicação dependerá do órgão, dos dados envolvidos e da função desempenhada.
A OpenAI afirma que as entradas e saídas de seus serviços de negócios, incluindo ChatGPT Enterprise e sua API, não são usadas para treinar ou melhorar seus modelos por padrão. A Anthropic também afirma que não usa insumos e resultados de seus produtos comerciais para treinamento de modelos por padrão.
Essas políticas do provedor não definem como as implantações do PULSE serão configuradas. O anúncio não estabelece períodos de retenção, controlos de acesso, acordos de auditoria, requisitos de armazenamento de dados ou regras que regem a apresentação de informações de saúde protegidas.
“Acreditamos que a IA deve ser útil, segura e acessível para as pessoas que enfrentam os desafios mais importantes da sociedade”, disse Felipe Millon, chefe governamental de go-to-market da OpenAI. Ele acrescentou que as licenças se destinavam a ajudar as organizações de saúde pública a avaliar as ferramentas através de um processo estruturado.
Governança e avaliação permanecem indefinidas
Os pilotos estão programados para começar no outono de 2026. A CHAI espera que os manuais resultantes sejam lançados em 2027 e utilizados como material de referência por outras agências de saúde pública.
A CHAI não publicou as medidas que serão utilizadas para avaliar os pilotos nem explicou se cada caso de uso será avaliado sob critérios técnicos, operacionais, de privacidade e de segurança separados.
O anúncio também não explica como os resultados do modelo serão revisados. Não indica se o pessoal deve aprovar as comunicações públicas geradas, verificar as traduções, validar as informações clínicas recuperadas ou rever os resultados da biovigilância e das ondas de medicamentos antes de serem utilizados.
A orientação do NIST recomenda identificar quais funções de IA requerem supervisão humana e treinar os usuários para compreender o desempenho e as limitações do sistema. Sua orientação generativa de IA também abrange testes, validação, monitoramento, documentação, privacidade e supervisão de gerenciamento.
“As equipes de saúde pública estão sendo solicitadas a fazer mais com menos, e a IA pode ajudar – desde que seja trazida com cuidado e com as proteções corretas”, disse Elizabeth Kelly, chefe de implantações benéficas da Anthropic. Ela disse que o PULSE permitiria que os profissionais testassem as ferramentas em seus próprios ambientes com medidas de privacidade, governança e uso responsável incorporadas desde o início.
Dados da Associação Nacional de Funcionários de Saúde Municipais e Municipais citados pela CHAI mostraram que quase 40% dos departamentos de saúde locais não usavam IA. A coligação disse que alguns departamentos estavam interessados em rever os fluxos de trabalho e melhorar a eficiência operacional.
A PULSE fornecerá licenças empresariais, integração, comunidades de pares e manuais de implementação. A CHAI não especificou os requisitos mínimos de pessoal, infraestrutura, interoperabilidade ou segurança cibernética para as jurisdições participantes.
Os participantes elegíveis incluem departamentos de saúde estaduais e territoriais, agências distritais e municipais, autoridades tribais, organizações de saúde indianas e departamentos de saúde de grandes cidades.
O PULSE planeja converter as descobertas de 10 jurisdições em orientações para uso mais amplo. O anúncio não explica como os manuais levarão em conta as diferenças no tamanho da agência, nos sistemas técnicos, nas responsabilidades legais, no pessoal ou nos acordos de aquisição.
O anúncio também não explica se os resultados da biovigilância, da previsão de ondas de medicamentos ou da recuperação de dados clínicos serão utilizados apenas para testes, apresentados ao pessoal para revisão ou incorporados em fluxos de trabalho operacionais.
O PULSE faz parte do trabalho mais amplo da Coalition for Health AI sobre padrões de governança para IA em saúde. Em maio, a organização anunciou planos para desenvolver orientações abrangendo oito áreas de governação através de workshops e grupos de trabalho envolvendo mais de 150 representantes de IA na área da saúde.
Desde então, a coligação começou a publicar manuais sobre políticas organizacionais de IA, estruturas de governação e recursos internos. Espera-se que orientações adicionais abranjam outras áreas da gestão da IA em saúde.
Separadamente, a CHAI trabalhou com a Joint Commission em manuais de governação alinhados com a sua certificação voluntária de Utilização Responsável da IA nos Cuidados de Saúde. O anúncio do PULSE não afirma que as agências de saúde pública participantes serão avaliadas sob essa certificação.
Brian Anderson, executivo-chefe da Coalition for Health AI, disse que as agências de saúde pública entraram na pandemia da COVID-19 após anos de investimento limitado em tecnologia. Ele disse que o programa PULSE pretendia proporcionar às agências experiência prática com IA antes de uma implementação mais ampla.
“Sabemos que a IA vai remodelar a forma como oferecemos saúde pública – a questão é se o fazemos de forma ponderada ou não”, disse o Dr. Ashish Jha, antigo coordenador de resposta à COVID-19 da Casa Branca. Ele disse que o programa testaria quais aplicativos funcionam e documentaria as descobertas para outras agências.
Veja também: Bunkerhill levanta US$ 55 milhões para dimensionar IA agente em sistemas de saúde
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e está localizado junto com outros eventos de tecnologia líderes, incluindo o Cyber Security & Cloud Expo. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
