pressmedia logo

ENTRE PONTOS E FRAGMENTOS: A METAMORFOSE INVISÍVEL DOS AGENTES DE IA

Observador Online

2025-08-18 21:06:52

A pergunta, tão simples que irrita, insiste: num mundo em que os AIA executam "trabalho real", quem guarda a integridade do fluxo de informação? "Ninguém" não serve. "Quem conta um conto, acrescenta um ponto." O provérbio diz-nos, com clareza, que contar pode ser alterar. Não por vocação de engano, mas porque a linguagem, instrumento complexo, nunca encaixa sem folga. Quando os narradores deixam de ser vizinhas de janela e passam a ser agentes de inteligência artificial (rápidos, incansáveis), essa folga toma forma de método. É aqui que se propõe a Síndrome de Teseu Digital (STD): como o navio restaurado tábua a tábua até ninguém saber se era o mesmo, também a mensagem que atravessa uma cadeia de agentes pode ir sendo polida, recortada, "melhorada", até conservar a silhueta e perder o âmago. Diferencia-se esta síndrome da exuberante alucinação dos Large Language Model (LLMs) que tanto entusiasma os debates e que parece estar a chegar ao seu limite; questão que será tratada futuramente. Alucinar é inventar um facto para não deixar a pergunta órfã; é o erro vistoso, fácil de denunciar. A STD opera em modo sussurro. Troca um sinónimo, reordena uma frase, atenua uma nuance, acrescenta um contexto "útil" que não estava no guião. Cada microgesto parece inocente; o conjunto produz uma metamorfose. Quando a mensagem chega ao destino, está intacta, mas pode refletir outra paisagem. Sintetizando num só gesto: os Agentes de Inteligência Artificial (AIA) trazem ganhos claros em vários domínios (saúde, educação, cultura, economia, etc.), e ignorá-los seria insultar a inteligência. Eles ampliam a nossa capacidade de trabalhar e decidir com uma disciplina que dispensaria relógios de ponto. Não pedem férias, não suspiram diante de folhas de cálculo, não se distraem com notificações. Varrem grandes quantidades de dados, organizam informação dispersa, redigem relatórios em minutos, sugerem hipóteses. Um microempresário pode dispor de uma "equipa" constante; um investigador isolado encontra um assistente que não dorme; um cidadão perdido na burocracia obtém um mordomo digital que o guia pelos labirintos administrativos. Em hospitais, sintetizam literatura clínica mais recente e podem cruzar exames em contexto de urgência; em catástrofes naturais, consolidam fluxos de informação e ajudam a coordenar respostas. Na educação, propõem exercícios ajustados a ritmos distintos, libertam docentes de tarefas repetitivas, oferecem materiais de apoio em segundos. Na cultura, trazem à superfície ficheiros esquecidos, ligam autores improváveis, traduzem e recontextualizam em múltiplas línguas. No jornalismo, cruzam bases de dados, detetam padrões, sugerem ângulos inéditos. Na economia, automatizam rotinas, detetam fraudes emergentes, libertam equipas para o pensamento estratégico. Há ironia nisto: o mesmo mecanismo que pode distorcer também pode vigiar a distorção, se o colocarmos diante de um espelho, agentes a fiscalizar agentes, numa dança de autocontrolo. O reverso, porém, não se desfaz com elogios. No espaço público, documentos processados em camadas por agentes transformam-se em matéria-prima de leis e políticas. A cada resumo pode perder-se um grão de nuance, a cada "simplificação" pode cair uma aresta essencial, e rapidamente a decisão legislativa passa a responder a uma pergunta ligeiramente diferente. O perigo não é a mentira gritante, desmontável com algum esforço; é a deriva discreta, que molda consensos com a compostura de um mordomo bem treinado. Na economia, um modelo de risco "otimizado" para ser útil, pode, replicado milhões de vezes, distorcer índices, excluir comunidades inteiras de crédito, inflacionar a confiança em ativos frágeis. No sistema judicial, perfis de risco penal e pareceres jurídicos gerados em cascata algorítmica podem amplificar enviesamentos antigos sob um verniz de neutralidade estatística. Não é preciso a sombra de uma conspiração; basta a rotina cega. Na educação, a tentação do resumo perfeito afasta estudantes e professores do texto original. O saber torna-se eco de eco e a reflexão perde densidade. Ler Kant converte-se em excentricidade; para os demais, três pontos luminosos bastam. Na cultura, a homogeneização ameaça a biodiversidade estilística: quando tudo é "claro" e "útil", onde cabe o obscuro fértil, o enigma que obriga a pensar? Até a ironia inglesa corre o risco de se transmutar num sarcasmo plastificado, o que, convenhamos, seria de mau gosto. Há ainda a dimensão íntima e ética. Quanto mais delegamos, menos vigiamos. A atenção, músculo precário, atrofia no conforto. A pergunta "porquê?" torna-se redundante quando a resposta vem formatada e polida. A apatia crítica, tão acolhedora, é o húmus perfeito para a deriva acumulativa. A STD pode florescer no hábito de não olhar para trás. Se o problema é estrutural, as respostas têm de se organizar em três frentes (técnica, institucional e educativa/jurídica), não há poções mágicas, apenas prudência aplicada. A primeira linha de defesa é a rastreabilidade: cada agente deve conservar um registo verificável do que recebeu e do que entregou. Em seguida, impõem-se semáforos epistémicos: mecanismos discretos que assinalem quando a saída se afasta significativamente da entrada ou do objetivo definido. Não exigem sirenes; bastam alertas sóbrios, para olhos humanos despertos. A redundância deliberada é outra peça: em vez de um único agente, vários, independentes entre si, executam a mesma tarefa; as diferenças não são lixo, são matéria-prima para análise. É menos eficiente? Naturalmente. Introduzir fricção humana nos pontos críticos, decisões legais, financeiras ou sanitárias, não é regressar à idade do papel, é reconhecer que há zonas onde a responsabilidade não pode ser terceirizada. Auditorias independentes e padrões abertos completam o quadro: sistemas com impacto público não podem permanecer em caixas negras. Transparência de logs, documentação acessível, APIs claras não são caprichos de académicos; são antídotos. A educação precisa de uma literacia de processo. Não basta saber "o que diz"; é preciso perguntar "como se chegou aqui?", "o que ficou pelo caminho?", "quem interveio?". É leitura de segunda ordem, pouco glamorosa, mas essencial num mundo de intermediários automáticos. A diversidade técnica (arquiteturas distintas, desacordo programado), serve de travão adicional: onde todos os modelos concordam de forma uníssona, convém desconfiar; onde divergem, há campo para investigar. Importa também definir responsabilidades: se um agente reconstrói a informação ao ponto de causar dano, alguém tem de responder, por isso responsabilizar não elimina o risco, mas desincentiva a negligência. Há ainda instrumentos mais experimentais: marcas de água semânticas que denunciem alterações profundas, assinaturas criptográficas que acompanhem fragmentos de texto, sistemas automáticos de comparação entre versões sucessivas para detetar deslocações substanciais. Tudo isto, porém, só faz sentido se houver humanos com a mão no interruptor e a olhar para o painel. Metavigilância algorítmica, sim; abdicação humana, não. Platão temia sombras projetadas na parede; nós devemos recear PDFs impecáveis. A pergunta, tão simples que irrita, insiste: num mundo em que AIA executam "trabalho real", quem guarda a integridade do fluxo de informação? "Ninguém" não serve. "Um algoritmo qualquer" é quase uma piada de mau gosto. A resposta terá de ser um "alguém" e um "alguma coisa": pessoas formadas na dúvida, instituições com mandato efetivo, ferramentas desenhadas para detetar o desvio antes que se torne destino. Não se trata de congelar o navio e proibir a troca de tábuas; seria negar o movimento que nos trouxe até aqui. Trata-se de garantir que, quando o casco muda, o saibamos e possamos decidir. Se cada contador acrescenta inevitavelmente um ponto, resta-nos escolher que ponto acrescentamos: um remendo apressado que tapa e deturpa, ou um detalhe consciente que enriquece sem trair. Fernando Moreira Professor Catedrático, Universidade Portucalense Fernando Moreira