Em resumo
- O recurso “Expert Review” do Grammarly fornece feedback de escrita de IA enquadrado por especialistas nomeados.
- Acadêmicos dizem que o sistema inclui acadêmicos que morreram, provocando reações diversas dos usuários.
- Os críticos questionam se a empresa pode usar as identidades dos acadêmicos sem consentimento.
O novo recurso de IA do Grammarly, que fornece feedback escrito a partir da suposta perspectiva de “especialistas” renomados, está atraindo críticas de acadêmicos que dizem que a ferramenta parece “ressuscitar” acadêmicos para revisar o trabalho dos usuários.
O recurso, denominado Expert Review, analisa textos e gera feedback enquadrado na perspectiva de acadêmicos, jornalistas e outros especialistas específicos. Muitos dos especialistas que a ferramenta de IA afirma imitar já não vivem – uma característica que um historiador medieval do BlueSky chamou de “mórbida”.
Lançada em 2009 como uma ferramenta de escrita e gramática assistida por IA, a empresa-mãe da Grammarly mudou a marca para Superhuman em outubro para refletir sua mudança de um único assistente de redação para um conjunto de agentes de produtividade de IA, incluindo ferramentas para pesquisa, agendamento, e-mail e automação de fluxo de trabalho.
Grammarly introduziu o recurso Expert Review no verão passado. Por meio da extensão do navegador Grammarly, os usuários que optarem pela versão Superhuman Go podem selecionar um especialista e receber feedback gerado por IA com base na área do acadêmico ou no trabalho publicado.
“Nosso agente de revisão especializada examina a redação em que um usuário está trabalhando, seja um resumo de marketing ou um projeto de estudante sobre biodiversidade, e aproveita nosso LLM subjacente para revelar conteúdo especializado que pode ajudar o autor do documento a moldar seu trabalho”, disse um porta-voz da Superhuman. Descriptografar. “Os especialistas sugeridos dependem do conteúdo do texto que está sendo avaliado.”
O agente da Expert Review, explicou o porta-voz, não reivindica endosso ou participação direta desses especialistas, mas fornece “sugestões inspiradas em trabalhos de especialistas e aponta os usuários para vozes influentes cujos conhecimentos eles podem explorar mais profundamente”.
“Os especialistas da Expert Review aparecem porque seus trabalhos publicados estão disponíveis publicamente e são amplamente citados”, disseram.
Ao testar o recurso para este artigo, os revisores especialistas sugeridos pelo aplicativo incluíram Margaret Sullivan, colunista de mídia e ex-editora do New York TimesJack Shafer, ex-redator sênior de mídia da Políticoe Lawrence Lessig, professor de Direito de Harvard. Outras opções incluíam o pesquisador de ética em IA Timnit Gebru e Helen Nissenbaum, professora de ciência da informação na Cornell Tech.
Embora o recurso tenha como objetivo ajudar estudantes e profissionais a melhorar suas habilidades de escrita, Vanessa Heggie, professora de história da Universidade de Birmingham, questionou se os “revisores” deram seu consentimento antes de a empresa usá-los no aplicativo.
“Não sei por onde começar, mas… Grammarly agora está oferecendo uma “revisão especializada” de seu trabalho por acadêmicos vivos e mortos”, escreveu Heggie no LinkedIn. “Sim, os mortos, sem a permissão explícita de ninguém, estão criando pequenos LLMs baseados em seu trabalho fragmentado e usando seus nomes e reputações. Obsceno.”
Brielle Harbin, antiga professora associada de ciências políticas na Academia Naval dos Estados Unidos, chamou-lhe “um desenvolvimento estranho e preocupante”.
“Escolhas como esta – especialmente quando feitas sem contexto, consentimento ou parceria significativa com educadores – correm o risco de aprofundar o ceticismo em relação às ferramentas de IA no ensino superior”, escreveu ela no LinkedIn. “Ironicamente, as decisões destinadas a acelerar a adoção podem acabar fortalecendo a resistência. A confiança e a colaboração são muito importantes neste momento.”
Grammarly é apenas uma das empresas que cria programas de IA projetados para imitar pessoas reais.
Em 2023, a Meta lançou uma linha de chatbots para sua plataforma Meta AI construída em torno de identidades de celebridades, incluindo Snoop Dogg, Tom Brady, Kendall Jenner e Naomi Osaka. Nesse mesmo ano, a Khan Academy lançou seu tutor de IA Khanmigo, que permite aos alunos encenar conversas com figuras históricas, incluindo o primeiro-ministro britânico Winston Churchill e a espiã da Guerra Civil dos EUA e condutora de ferrovias subterrâneas Harriet Tubman.
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
