Documentos Internos Revelam Revisão Humana de Chats do ChatGPT e Desafios de Privacidade
Uma investigação recente aponta que a OpenAI contrata centenas de prestadores para revisar e avaliar conversas reais de usuários com o ChatGPT, visando aprimorar os modelos. Embora a empresa use filtros de privacidade, a prática levanta sérias preocupações sobre a exposição de informações sensíveis, especialmente porque o recurso de uso das conversas para treinamento vem ativado por padrão em contas pessoais.
:quality(85)/a2f5608b-828b-404b-9143-f74eedc59325.jpg)
O Papel Essencial dos Revisores Humanos na IA.
As equipes contratadas participam ativamente do processo de treinamento dos modelos de IA. Suas tarefas incluem avaliar as respostas geradas pelo ChatGPT e identificar comportamentos considerados inadequados, como a 'sicofancia', que ocorre quando o chatbot concorda ou elogia o usuário de forma excessiva. A investigação reforça que o treinamento de modelos de inteligência artificial envolve uma participação humana significativa, indo além da análise automatizada de grandes volumes de dados.
Empresas como a Anthropic e o Google também recorrem a revisores humanos. A Anthropic utiliza esse tipo de análise mediante autorização do usuário para uso das conversas em treinamento, enquanto o Google informa que seus revisores podem analisar determinados chats salvos do Gemini.
Preocupações com a Privacidade do Usuário em Destaque.
A prática de revisão humana levanta sérias preocupações de privacidade, especialmente considerando que muitos usuários empregam o ChatGPT como assistente profissional ou podem compartilhar informações pessoais durante as interações. Para usuários de contas pessoais – Free, Plus e Pro – o uso das conversas para aprimoramento dos modelos é ativado por padrão. Em contraste, para contas Enterprise, Business e Edu, essa opção vem desativada automaticamente.
Usuários que desejam desativar o recurso podem fazê-lo abrindo o ChatGPT no navegador ou aplicativo e desativando a opção "Melhorar o modelo para todo mundo". É importante notar que, mesmo com a configuração desativada, a OpenAI ainda pode processar conversas para outras finalidades, como segurança e prevenção de abusos. Recomenda-se sempre evitar o envio de informações sensíveis para qualquer chatbot, não tratando a conversa com IA como um canal privado.
Projeto Lily: Detalhes da Avaliação Humana.
O codinome interno "Projeto Lily" descreve uma iniciativa da OpenAI focada na avaliação humana das respostas do ChatGPT. Este trabalho é realizado por profissionais contratados por empresas terceirizadas. As atividades envolvem analisar o prompt original, resumir a intenção do usuário e avaliar diversas respostas produzidas pelo chatbot. Os revisores recebem diretrizes para identificar problemas específicos, incluindo a redução da "fala de IA" (evitar emojis e estruturas artificiais), a prevenção da antropomorfização (impedir que o ChatGPT afirme ter experiências humanas) e a diminuição da sicofancia (identificar elogios excessivos).
Filtros de Privacidade e o Cenário de Segurança.
Os documentos também detalham o uso de um filtro automatizado de privacidade, criado para identificar e ocultar informações pessoalmente identificáveis antes que as conversas sejam analisadas por humanos. Contudo, este sistema não é considerado infalível e pode apresentar dificuldades com informações ambíguas ou identificadores incomuns. A investigação revelou ainda que alguns revisores podem ter acesso a um resumo das "memórias" associadas ao usuário, o que potencialmente fornece informações adicionais sobre seu contexto, como profissão ou localização geral, compartilhadas anteriormente.