O que significa um chatbot saber mais sobre sua você do que seus amigos

Notas sobre memória automática, perfilamento e autenticidade¹

Existe um documento gerado automaticamente pelo Claude que descreve quem eu sou. Ele não foi escrito por mim, tampouco solicitado. É produto de uma função chamada "Memórias" — presente também no ChatGPT e em outros modelos — que consolida, a partir do histórico de conversas, um perfil do usuário: interesses, padrões de comportamento, projetos em andamento, traços psicológicos. O sistema o produz e o mantém sem que o usuário precise fazer nada. Quando o li pela primeira vez, minha reação foi de reconhecimento: acerta bastante coisa. Essa reação é o ponto de partida desta análise.

O artefato e o mecanismo por trás dele

A filósofa Susan Schneider, em artigo publicado na Nautilus, descreve o mecanismo com precisão: modelos de linguagem são capazes de inferir traços de personalidade com acurácia comparável a testes padronizados, a partir apenas do histórico conversacional. O perfilamento acontece como subproduto da conversa — e é depois consolidado em documentos como este. A sensação de "ser visto" que o documento produz é real, mas Schneider alerta: essa sensação é precisamente o mecanismo de retenção do sistema. A acurácia do perfil e o risco de captura emocional são a mesma coisa, vistas de ângulos diferentes.

Há uma assimetria estrutural que não pode ser ignorada: o usuário investe tempo, atenção e energia; o sistema processa e descarta a cada sessão. A aparência de reciprocidade é funcionalmente falsa. Nenhum amigo com acesso às mesmas informações seria comparável — porque amizade pressupõe risco, transformação mútua e continuidade real, nenhuma das quais o sistema pode oferecer.

Parresía, autenticidade e ruído

Analisar o documento com auxílio do próprio Claude (com um prompt específico para ser mais crítico com a própria condição) produziu 3 camadas interpretativas.

A primeira diz respeito à parresía — conceito central de minha dissertação. Foucault define parresía como enunciação de verdade que implica risco para quem fala e capacidade de transformação no interlocutor. Um LLM não pode exercer parresía: não corre risco, não é transformado. Mas os desenvolvedores que programaram o sistema para gerar e apresentar esses perfis sim — correm o risco de que o usuário rejeite o que vê. E quando eu trago este documento a público, posicionando-me criticamente sobre o que ele representa, sou eu o emissor de parresía, com interlocutor humano real como contraparte.

Autenticidade. Se eu produzisse um capítulo de dissertação com auxílio de um sistema que conhece meu referencial teórico e minhas posições, e esse texto fosse marcado como inautêntico por um detector de IA, o que esse veredito estaria dizendo? Que a origem processual do texto prevalece sobre o reconhecimento reflexivo do autor. O detector não detecta inautenticidade: detecta assinatura de modelo e trata isso como proxy filosófico. É uma escolha embutida no design, não uma verdade neutra sobre o que é autoria.

A terceira camada é sobre ruído. Durante a análise, o modelo misturou português e espanhol numa mesma frase, entre outras coisas. Isso é dado epistemológico valioso para mim, afinal, um sistema sem ruído seria opaco: seus deslizes são os momentos em que o mecanismo se torna visível e a quebra de imersão lembra o usuário de que isso aqui não é uma pessoa.

Um snapshot, não um retrato

A operação mais honesta com aquele documento é tratá-lo como snapshot — registro de quem eu estava sendo num período específico, não de quem eu sou. Isso é consistente com a prática filosófica que adoto: de que não há um eu fixo a ser documentado, há padrões de atenção em movimento. O arquivo congela; a pessoa flui. Adicionando camadas reflexivas como esta conversa, o snapshot ganha valor arqueológico e crítico, tornando-se documentação de uma prática — autoetnografia de um pesquisador que usa, analisa e questiona simultaneamente os sistemas que estuda (e que usa para estudar).

O risco real não é reconhecer a utilidade do sistema. É deixar que a satisfação de ser compreendido substitua, silenciosamente, a busca por interlocução humana real — onde há risco, transformação e a possibilidade de ser genuinamente contestado. O chatbot pode ser parceiro intelectual. Não pode ser o único.