Conversas do ChatGPT podem passar por revisão humana; saiba como limitar o acesso aos seus dados
Investigação detalha trabalho de revisores contratados para avaliar respostas; configuração permite impedir que novas conversas sejam usadas para aprimorar os modelos.

Conversas mantidas com o ChatGPT podem passar pela análise de revisores humanos durante processos utilizados para avaliar e aprimorar os modelos de inteligência artificial da OpenAI. Uma investigação divulgada recentemente detalhou como profissionais terceirizados participam desse trabalho e reacendeu o debate sobre a quantidade de informações pessoais e profissionais compartilhadas pelos usuários com ferramentas de IA.
Segundo reportagem baseada em documentos internos e materiais relacionados ao trabalho dos revisores, centenas de profissionais contratados por empresas terceirizadas podem receber conversas selecionadas para analisar a qualidade das respostas produzidas pelo ChatGPT.
O objetivo não é simplesmente descobrir o que determinado usuário conversa com a inteligência artificial. Os profissionais participam de processos destinados a avaliar o comportamento dos modelos, identificar problemas nas respostas e fornecer informações utilizadas no desenvolvimento dos sistemas.
Entre as atividades estão a análise do pedido original enviado pelo usuário, a identificação da intenção da conversa, a avaliação das respostas produzidas pelo ChatGPT e a classificação de determinados comportamentos considerados inadequados.
Um deles é a chamada “sicofancia”, situação em que a inteligência artificial tende a concordar excessivamente com o usuário ou elogiá-lo de maneira desnecessária, mesmo quando deveria questionar premissas ou apresentar uma resposta mais equilibrada.
Os revisores também são orientados a observar características de estilo, como respostas excessivamente artificiais, uso desnecessário de determinadas estruturas de texto e situações nas quais o chatbot apresenta características humanas que, na realidade, não possui.
A existência desse trabalho evidencia um aspecto nem sempre percebido pelo público: por trás do desenvolvimento dos grandes modelos de inteligência artificial existe participação humana. Embora boa parte do processamento seja automatizada, pessoas continuam sendo utilizadas para avaliar a qualidade das respostas e ajudar a identificar comportamentos que precisam ser corrigidos.
Informações pessoais passam por filtros
Um dos principais questionamentos envolve a privacidade das conversas.
Usuários passaram a utilizar ferramentas de inteligência artificial para atividades que vão muito além de perguntas genéricas. É comum recorrer ao ChatGPT para revisar documentos profissionais, analisar códigos de programação, produzir textos, discutir problemas empresariais ou organizar informações pessoais.
Isso significa que determinadas conversas podem conter nomes, documentos, dados corporativos e outras informações potencialmente sensíveis.
A OpenAI utiliza mecanismos destinados a reduzir a exposição desses dados. Entre eles está um filtro automatizado de privacidade criado para identificar e ocultar informações pessoalmente identificáveis antes que determinados conteúdos sejam utilizados nos processos de treinamento e avaliação.
Esse tipo de mecanismo, entretanto, não deve ser interpretado como autorização para compartilhar qualquer informação com um chatbot.
Dados confidenciais de empresas, senhas, documentos pessoais, informações bancárias, dados médicos identificáveis e outros conteúdos altamente sensíveis devem ser tratados com cautela, independentemente das proteções adotadas pela plataforma.
Memórias também entram na discussão
Outro ponto revelado pela investigação diz respeito às informações de contexto associadas ao usuário.
Segundo a reportagem, em determinadas tarefas os revisores podem receber resumos de informações relacionadas às memórias do usuário. Esses dados podem ajudar a compreender melhor o contexto de uma conversa e avaliar se determinada resposta foi adequada.
Isso pode incluir informações anteriormente fornecidas pelo próprio usuário e utilizadas pelo ChatGPT para personalizar interações futuras.
A existência desse contexto torna ainda mais importante compreender que memória, histórico de conversas e utilização dos chats para aprimoramento dos modelos são recursos diferentes.
Desativar o uso das conversas para treinamento, por exemplo, não significa necessariamente apagar o histórico existente ou desligar outros recursos de personalização.
É possível impedir o uso de novas conversas para treinamento
Usuários de contas pessoais podem alterar uma configuração do ChatGPT para impedir que novas conversas sejam utilizadas no aprimoramento dos modelos.
No aplicativo ou na versão para navegador, o caminho passa pelas configurações da conta. O usuário deve acessar “Configurações”, entrar em “Controles de dados” e desativar a opção “Melhorar o modelo para todos”.
Depois da alteração, as novas conversas continuam aparecendo normalmente no histórico, mas deixam de ser utilizadas para treinar os modelos.
A configuração é vinculada à conta. Portanto, quando desativada, a preferência é aplicada aos dispositivos nos quais o usuário estiver conectado.
Isso não significa, porém, que nenhuma conversa poderá ser processada pela empresa em qualquer circunstância. Existem outras finalidades relacionadas à operação do serviço, incluindo mecanismos de segurança e prevenção de abusos.
Chat temporário oferece outra alternativa
Para conversas que o usuário não deseja manter no histórico ou utilizar no aprimoramento dos modelos, existe ainda a possibilidade de utilizar o Chat temporário.
Enquanto permanecerem temporárias, essas conversas não são utilizadas para aprimorar os modelos e não criam novas memórias. Elas também não aparecem normalmente no histórico.
Por motivos de segurança, porém, uma cópia pode ser mantida por até 30 dias. Conversas temporárias também podem passar por revisão quando necessária para monitoramento de abusos.
Portanto, nem mesmo essa modalidade deve ser tratada como um ambiente apropriado para compartilhar indiscriminadamente informações altamente confidenciais.
Empresas de IA utilizam avaliação humana
A revisão humana não é uma característica exclusiva da OpenAI.
Outras empresas que desenvolvem grandes modelos de inteligência artificial também utilizam pessoas em determinados processos de avaliação, treinamento, segurança e aperfeiçoamento das respostas.
Esse trabalho é importante porque determinadas falhas são difíceis de detectar apenas com sistemas automatizados. Uma resposta pode estar gramaticalmente correta e ainda assim ser enganosa, inadequada ao contexto ou excessivamente complacente com o usuário.
A avaliação humana ajuda justamente a identificar essas situações e fornecer sinais que posteriormente podem ser incorporados ao treinamento dos modelos.
A discussão, portanto, não está apenas na existência dos revisores, mas na transparência sobre como as informações são selecionadas, quais mecanismos protegem a identidade dos usuários e quais opções são oferecidas para controlar o uso das conversas.
Cuidados continuam sendo necessários
A popularização dos assistentes de inteligência artificial mudou a forma como muitas pessoas lidam com informações pessoais e profissionais. Em poucos anos, os chatbots deixaram de ser utilizados apenas para perguntas ocasionais e passaram a participar de atividades de trabalho, estudo e organização da vida cotidiana.
Essa mudança exige também uma nova percepção sobre privacidade.
Uma conversa com uma inteligência artificial não deve ser automaticamente considerada equivalente a uma conversa privada protegida por sigilo profissional. Antes de inserir documentos ou informações confidenciais, o usuário precisa considerar a sensibilidade daquele conteúdo e verificar as políticas e configurações da plataforma utilizada.
No caso do ChatGPT, quem não deseja que novas conversas sejam utilizadas para aprimorar os modelos pode desativar “Melhorar o modelo para todos”. Para interações que não precisam permanecer no histórico, o Chat temporário oferece uma camada adicional de privacidade.
A possibilidade de revisão humana não significa que todas as conversas sejam abertas e lidas individualmente por funcionários. Ela mostra, entretanto, que seres humanos continuam fazendo parte de determinados processos de avaliação e desenvolvimento da inteligência artificial.
Para quem utiliza essas ferramentas diariamente, conhecer essas diferenças e ajustar os controles de privacidade é tão importante quanto compreender os recursos oferecidos pela própria IA.