O impulso de saúde ChatGPT da OpenAI levanta questões sobre segurança de dados

Na quarta-feira, a OpenAI anunciou um novo recurso no ChatGPT, permitindo aos usuários conectar registros médicos e dados de bem-estar, levantando preocupações entre alguns especialistas e grupos de defesa sobre o uso de dados pessoais.

A gigante de IA com sede em São Francisco, Califórnia, disse que a ferramenta, chamada ChatGPT Health, desenvolvida com médicos, foi projetada para apoiar cuidados em vez de diagnosticar ou tratar doenças. A empresa o posiciona como uma forma de ajudar os usuários a entender melhor sua saúde.

Para muitos usuários, o ChatGPT já se tornou a plataforma ideal para perguntas sobre cuidados médicos e saúde mental.

OpenAI disse Descriptografar que ChatGPT Health compartilha apenas “informações factuais de saúde” gerais e não fornece “conselhos médicos personalizados ou inseguros”.

Para questões de maior risco, fornecerá informações de alto nível, sinalizará riscos potenciais e incentivará as pessoas a falar com um farmacêutico ou profissional de saúde que conheça a sua situação específica.

A mudança ocorre logo depois que a empresa informou em outubro que mais de 1 milhão de usuários discutem suicídio com o chatbot todas as semanas. Isso representava cerca de 0,15% de todos os usuários do ChatGPT na época.

Embora esses números representem uma parcela relativamente pequena da população total de usuários, a maioria precisará abordar questões de segurança e privacidade de dados, dizem os especialistas.

“Mesmo quando as empresas afirmam ter salvaguardas de privacidade, os consumidores muitas vezes carecem de consentimento significativo, transparência ou controle sobre como seus dados são usados, retidos ou reaproveitados”, disse JB Branch, defensor da responsabilidade de grande tecnologia do Public Citizen. Descriptografar. “Os dados de saúde são exclusivamente sensíveis e, sem limites legais claros e supervisão aplicável, as salvaguardas autopoliciadas simplesmente não são suficientes para proteger as pessoas contra a utilização indevida, a reidentificação ou danos a jusante.”

A OpenAI disse em seu comunicado que os dados de saúde no ChatGPT Health são criptografados por padrão, armazenados separadamente de outros chats e não usados ​​para treinar seus modelos básicos.

De acordo com Andrew Crawford, conselheiro sênior de políticas do Centro para Democracia e Tecnologia, muitos usuários assumem erroneamente que os dados de saúde são protegidos com base em sua sensibilidade, e não em quem os possui.

“Quando seus dados de saúde são mantidos por seu médico ou seguradora, as regras de privacidade da HIPAA se aplicam”, disse Crawford Descriptografar. “O mesmo não se aplica a entidades não cobertas pela HIPAA, como desenvolvedores de aplicativos de saúde, rastreadores de saúde vestíveis ou empresas de IA.”

Crawford disse que o lançamento do ChatGPT Health também ressalta como o peso da responsabilidade recai sobre os consumidores na ausência de uma lei federal abrangente de privacidade que rege os dados de saúde mantidos por empresas de tecnologia.

“É lamentável que as nossas atuais leis e regulamentos federais coloquem sobre os consumidores individuais a responsabilidade de analisar se estão confortáveis ​​com a forma como a tecnologia que utilizam todos os dias trata e partilha os seus dados”, disse ele.

A OpenAI disse que o ChatGPT Health será lançado primeiro para um pequeno grupo de usuários.

A lista de espera está aberta a usuários do ChatGPT fora da União Europeia e do Reino Unido, com acesso mais amplo planejado nas próximas semanas na web e iOS. O anúncio da OpenAI não mencionou dispositivos Google ou Android.