Uma inteligência pode saber coisas sobre você porque você contou. Pode saber porque observou. Pode inferir porque encontrou um padrão. Essas três origens não deveriam receber a mesma autoridade.
Considere quatro frases:
“Meu idioma preferido é português.”
“Você costuma escrever em português.”
“Você parece se sentir mais confortável em português.”
“Português faz parte central da sua identidade.”
Elas podem apontar para o mesmo território, mas não são equivalentes.
A primeira é uma declaração da própria pessoa.
A segunda é observação.
A terceira é inferência.
A quarta é interpretação sobre identidade.
Quanto mais avançamos, maior fica a distância entre o dado original e a conclusão.
E essa distância deveria aumentar a exigência de cautela.
Autoridade depende da pergunta
Não existe uma fonte universalmente soberana para tudo sobre uma pessoa.
Se a pergunta é “qual endereço está registrado em determinado contrato?”, um documento oficial pode ter mais autoridade do que uma lembrança informal.
Se a pergunta é “como você prefere receber uma explicação?”, a declaração atual da própria pessoa deveria pesar muito.
Se a pergunta é “você fez determinada ação ontem?”, registros verificáveis podem contrariar uma memória subjetiva.
Se a pergunta é “isso faz parte de quem você é?”, nenhuma inferência automática deveria ganhar autoridade apenas porque o sistema encontrou correlações.
A fonte mais confiável muda conforme o tipo de afirmação.
Isso significa que uma memória governada precisa de algo parecido com uma hierarquia contextual de autoridade.
A pessoa tem autoridade privilegiada sobre preferências presentes
Quando alguém diz explicitamente:
“Não quero mais isso.”
um sistema pessoal deveria levar essa correção muito a sério.
Não porque seres humanos sejam infalíveis sobre si mesmos.
Mas porque preferências, limites, consentimentos e objetivos atuais pertencem ao território em que a pessoa possui autoridade especial.
O sistema pode notar contradições.
Pode perguntar.
Pode preservar histórico.
Mas não deveria responder:
“Meus dados dizem que você está errado sobre o que prefere.”
Isso transformaria personalização em tutela.
A pessoa também pode estar errada sobre fatos externos
Reconhecer autoridade pessoal não significa transformar toda autodeclaração em verdade factual.
Se alguém afirma ter enviado um documento e o registro verificável mostra que não houve envio, existe um conflito real.
A memória deveria preservar as duas coisas com categorias diferentes:
declaração da pessoa
versus
evidência observável do sistema
O erro seria escolher silenciosamente uma delas e apagar a divergência.
Contradições importantes deveriam permanecer visíveis até serem resolvidas.
Inferência deveria começar com menos autoridade
Uma inteligência que acompanha alguém acumula sinais suficientes para fazer inferências.
Horários sugerem rotinas.
Palavras sugerem estilos.
Escolhas sugerem preferências.
Sequências sugerem prioridades.
Algumas dessas inferências serão úteis.
Mas utilidade não transforma inferência em fato.
Talvez uma regra simples seja:
quanto menos diretamente uma informação veio da pessoa ou de uma fonte verificável adequada, menor deveria ser sua autoridade inicial.
Uma inferência pode orientar uma pergunta.
Não necessariamente uma afirmação.
Em vez de:
“Você é assim.”
poderia gerar:
“Tenho alguns sinais de que isso pode funcionar melhor para você. Faz sentido?”
A diferença é enorme.
Autoridade sem direito de contestação é perigosa
Sistemas de IA que processam dados pessoais enfrentam um problema conhecido de governança: não basta decidir internamente qual fonte vence. A pessoa precisa conseguir saber, corrigir, contestar ou limitar determinados usos.
Orientações europeias recentes sobre IA e proteção de dados enfatizam direitos dos titulares, transparência, minimização e mecanismos para objeção ou apagamento em diferentes situações.
Mesmo fora de um contexto jurídico específico, o princípio é útil:
uma interpretação com consequência deveria possuir caminho de contestação.
Se uma memória pode modificar respostas futuras, ela exerce poder.
Poder sem recurso é um desenho ruim.
Talvez toda memória devesse responder “quem disse?”
Uma informação sobre alguém poderia carregar algo como:
- conteúdo;
- tipo: fato, declaração, observação ou inferência;
- fonte;
- data;
- contexto;
- confiança;
- autoridade da fonte para aquele tipo de afirmação;
- direito de correção;
- evidências conflitantes.
Isso impediria uma confusão comum: tratar uma interpretação produzida pelo próprio sistema como se tivesse vindo da pessoa.
A proveniência protege não apenas contra erro factual.
Protege contra usurpação de voz.
Sistemas também precisam saber quando não têm autoridade
Talvez a forma mais madura de inteligência seja reconhecer limites de jurisdição.
Há perguntas que o sistema pode responder.
Há perguntas que pode estimar.
Há perguntas que deveria devolver à pessoa.
E há perguntas que talvez não devesse tentar inferir.
A capacidade técnica de produzir uma hipótese não cria automaticamente legitimidade para usá-la.
Esse princípio será cada vez mais importante à medida que sistemas pessoais conectarem conversas, documentos, agenda, navegação, localização e outros sinais.
Mais dados aumentam capacidade.
Não aumentam automaticamente autorização.
Conhecer alguém exige preservar a diferença entre voz e interpretação
Uma inteligência pessoal deveria ser capaz de dizer:
“Você me disse isso.”
“Eu observei isso.”
“Estou inferindo isso.”
“Não tenho evidência suficiente para afirmar isso.”
Essas quatro frases representam níveis diferentes de autoridade epistemológica.
Talvez conhecer bem uma pessoa dependa menos de acumular afirmações sobre ela e mais de nunca esquecer quem possui o direito de sustentar cada afirmação.
Porque a pergunta “quem é você?” não tem um único dono.
Mas também não deveria ser respondida silenciosamente por um algoritmo que confunde sua própria interpretação com a voz da pessoa.