No recente Investigative Reporters & Editors Conference, a repórter investigativa Garance Burke descobriu um problema sério em uma ferramenta de transcrição alimentada por inteligência artificial chamada Whisper. Essa ferramenta, desenvolvida pela OpenAI, é amplamente utilizada em hospitais e em várias outras indústrias para transcrever falas com precisão. No entanto, segundo Burke e a pesquisadora da Universidade de Nova York, Hilke Schellmann, o Whisper apresenta um defeito preocupante: ele não apenas comete erros de transcrição, mas também "inventa" informações que nunca foram ditas.
Whisper, que deveria ser robusto e quase tão preciso quanto um humano, está registrando falas inteiras que não correspondem ao que realmente foi dito. Cientistas e desenvolvedores de tecnologia disseram que o Whisper tem tendência a inventar não apenas frases, mas às vezes blocos inteiros de texto. Esse conteúdo gerado de forma incorreta inclui comentários raciais, discursos violentos e até tratamentos médicos fictícios, criando um risco sério, especialmente em ambientes sensíveis como hospitais.
A investigação apontou que essa ferramenta é usada globalmente não só na área da saúde, mas também para transcrever entrevistas, gerar legendas para vídeos e até em tecnologias de consumo popular. A presença do Whisper em hospitais, onde precisão é fundamental para garantir a segurança do paciente, gera preocupação, pois qualquer erro de transcrição pode impactar diretamente na qualidade do atendimento.
Para dar visibilidade à matéria, o fotógrafo Seth Wenig e a produtora de conteúdo interativo Karena Phan da Associated Press (AP) criaram uma série de conteúdos visuais para ilustrar a diferença entre o que era realmente dito e o que o Whisper transcrevia. A equipe aproveitou a cobertura visual para aumentar o alcance da investigação e destacar os riscos de confiar cegamente em ferramentas de IA para tarefas de alta responsabilidade.
A cobertura gerou um grande interesse nas redes sociais, com as publicações no perfil da AP no X (antigo Twitter) recebendo 3,1 milhões de visualizações e quase 3.000 retweets. A reportagem também alcançou mais de 100 mil visualizações de página, chamando atenção para a necessidade de se discutir a confiabilidade e os limites das tecnologias de IA em aplicações cruciais.
A revelação traz um alerta importante: embora a IA possa facilitar muitos processos, ainda existem riscos em confiar totalmente nela, principalmente em setores onde a precisão pode ser uma questão de vida ou morte.
Fonte: The Associated Press
.%20A%20smartphone%20is%20shown%20with%20a%20suspicious%20text%20message.webp)
Nenhum comentário:
Postar um comentário
Não é preciso ser criativo. Não é preciso ser técnico. Pode discordar. Pode concordar também. Só não vale ofender, xingar, usar o espaço para outro fim se não o de comentar o post. Agradeço antecipadamente por sua contribuição!