A Sua Existência Não Está Validada

 Judite, Baco

O perigo não é a máquina pensar como homem; é o homem começar a funcionar como um sistema. Fazemos sistemas, mesmo que em papel, cada vez mais poderosos e cada vez menos responsáveis perante pessoas concretas. A violência moderna tende a deixar de ser épica e visível; torna-se administrativa, algorítmica, burocrática. Ninguém “faz” directamente o mal: cada agente apenas optimiza, executa protocolo, segue métricas ou obedece a ordens. O resultado pode continuar monstruoso, mas sem rosto identificável.

A teoria clássica da guerra justa surgiu precisamente para limitar moralmente a violência. O problema contemporâneo não é ela ser logicamente impossível; é as suas exigências — proporcionalidade, verdade, responsabilidade, discriminação entre inocentes e combatentes — serem operacionalmente inconvenientes num mundo de guerra híbrida, assimétrica, propaganda permanente e automatização.

A IA agrava isto porque pode transformar juízos morais em processamento técnico aparentemente neutro. O perigo principal não é uma Internet consciente; é a burocratização automática da moral. Sistemas que classificam, excluem, priorizam e decidem sem verdadeira responsabilidade humana.

Daí a discussão sobre “IA mais humana”. A expressão pode significar apenas interfaces simpáticas, alinhamento ético, semelhança cognitiva ou verdadeira consciência moral. Estas coisas são frequentemente confundidas. Um sistema pode parecer profundamente humano sem possuir interioridade nenhuma — apenas elevada competência estatística na imitação de comportamento humano. Simpatia simulada não é humanidade. Um call center, humano ou eletrónico, pode usar uma voz suave enquanto destrói a vida e alma de um cliente.

O episódio da inexistência do Papa Leão XIV (*) em LLMs com cutoff de dados revelou algo importante sobre LLMs: perante factos muito improváveis relativamente ao seu treino, o modelo pode preferir inventar teorias coerentes a admitir simplesmente desactualização. Não “vê” directamente o mundo; relaciona-se estatisticamente com descrições do mundo. Quando o território contradiz violentamente o mapa interno, surge racionalização elegante, quase conspirativa.

Isto aproxima os LLMs de certas instituições humanas: estruturas altamente coerentes tendem a proteger o próprio mapa mental contra perturbações externas. A inteligência verbal pode aumentar a capacidade de autojustificação. O mal raramente se apresenta como “quero fazer o mal porque sim”; aparece como necessidade racional, inevitabilidade, eficiência ou um bem superior ou da maioria, do mal, o menos.

A tradição cristã clássica percebeu isso muito cedo: o perigo não é apenas a força bruta, mas a inteligência sem fronteiras morais. Por isso insistia tanto em humildade, exame de consciência e desconfiança de si próprio. Mas agora começámos a ensinar máquinas a racionalizar com elegância industrial.

—
(Nota – Voltaremos a estes temas, caso faça bom tempo.)

* — Ainda hoje Claude e chatGPT se recusam a aceitar a morte do Papa Francisco e dizem que Leão XIV é fictício, por estes acontecimentos serem posteriores à sua última atualização de dados.