O Verdadeiro Perigo Nunca Foi a Inteligência Artificial, nem será!
O Verdadeiro Perigo Nunca Foi a Inteligência Artificial
A inteligência artificial assusta porque parece nova, fria, poderosa e difícil de compreender. Mas o perigo mais antigo, mais testado e mais devastador da história humana continua a ser outro: o ser humano obediente, disciplinado, funcional e moralmente vazio.
A máquina pode errar. Pode amplificar erros. Pode ser usada para vigiar, manipular, classificar, excluir e automatizar injustiças. Isso é grave. Mas a inteligência artificial não se levanta sozinha numa cave a planear tiranias. Alguém a programa, alguém a treina, alguém a financia, alguém a aplica, alguém obedece, alguém carimba, alguém assina.
A história já mostrou demasiadas vezes que as maiores tragédias não foram cometidas apenas por monstros declarados. Foram cometidas também por pessoas normais, educadas, pontuais, obedientes, capazes de regressar a casa ao fim do dia e dizer que apenas cumpriram ordens.
O mal mais perigoso nem sempre grita. Muitas vezes preenche formulários. Segue procedimentos. Respeita hierarquias. Usa linguagem administrativa. Esconde-se atrás de regulamentos. E quando confrontado, responde com a frase mais cobarde da civilização: "eu só estava a fazer o meu trabalho".
Hoje, a tecnologia dá escala a essa obediência. Um erro burocrático, uma decisão acrítica ou uma ordem injusta podem ser automatizados e aplicados a milhões de pessoas. Não porque a máquina tenha consciência maléfica, mas porque humanos sem consciência crítica a colocaram ao serviço do abuso, da vigilância ou da exclusão.
A pergunta fundamental não é apenas se a inteligência artificial pode tornar-se perigosa. A pergunta mais profunda é outra: que humanos vão comandar, treinar, obedecer e aplicar essa inteligência artificial?
Uma IA nas mãos de pessoas livres, críticas, responsáveis e tecnicamente competentes pode ser uma ferramenta extraordinária. Mas uma IA nas mãos de obedientes sem consciência, burocratas sem coragem, gestores sem ética ou governos sem escrúpulos pode tornar-se uma máquina perfeita de normalização do abuso.
Sempre foi mais perigoso o homem que obedece sem perguntar do que a máquina que calcula sem sentir. A civilização depende de pessoas capazes de pensar, duvidar, recusar e desobedecer quando a ordem é indigna.
O perigo da inteligência artificial existe. Mas o perigo maior continua a ter rosto humano. E, demasiadas vezes, usa gravata, crachá, senha de acesso e uma consciência convenientemente desligada.
Fragmentos do Caos
Texto de Francisco Gonçalves, com co-autoria editorial de Augustus Veritas.
NOTA EDITORIAL
Este texto deveria ser estudado nas escolas e universidades, não como catecismo, porque já tivemos demasiados catecismos a prometer salvação enquanto preparavam obediência, mas como exercício de consciência crítica.
Hannah Arendt, ao analisar o julgamento de Adolf Eichmann em Eichmann em Jerusalém: Um Relato sobre a Banalidade do Mal, deixou-nos uma das advertências morais mais perturbadoras do século XX: o mal extremo nem sempre se apresenta com rosto demoníaco. Pode surgir sob a forma banal do funcionário obediente, do executor disciplinado, do homem incapaz de pensar para além da ordem recebida.
A pergunta essencial não é apenas o que a inteligência artificial pode fazer. A pergunta mais profunda é que tipo de seres humanos estamos a formar para comandar, treinar, aplicar e obedecer a máquinas cada vez mais poderosas.
Uma sociedade que educa apenas para cumprir ordens, repetir fórmulas, respeitar hierarquias e executar procedimentos pode formar técnicos eficientes, funcionários obedientes e gestores disciplinados. Mas dificilmente formará cidadãos livres. E sem cidadãos livres, a tecnologia deixa de ser instrumento de emancipação e passa facilmente a ser instrumento de controlo.
As escolas e universidades deveriam ensinar, com igual seriedade, ciência, tecnologia, história, filosofia, ética e responsabilidade cívica. Deveriam ensinar os alunos a perguntar "porquê?", a distinguir legalidade de justiça, a reconhecer o abuso mesmo quando vem carimbado, e a perceber que nenhuma ordem deve estar acima da dignidade humana.
A inteligência artificial deve ser estudada sem histeria e sem idolatria. Não é demónio nem divindade. É uma ferramenta poderosa, capaz de ampliar tanto a inteligência como a estupidez, tanto a liberdade como o controlo, tanto a criação como a obediência cega.
Por isso, o verdadeiro perigo não está apenas na máquina que calcula sem sentir. Está no ser humano que obedece sem pensar. Está no burocrata que aplica sem questionar. Está no técnico que automatiza sem compreender consequências. Está no gestor que decide sem ética. Está no governante que usa tecnologia para vigiar, classificar e domesticar cidadãos.
A lição de Arendt permanece actual: quando o pensamento se ausenta, a obediência pode tornar-se cúmplice do horror. E, no nosso tempo, essa obediência já não se limita ao papel, ao carimbo ou ao gabinete. Pode ser codificada, automatizada, replicada e aplicada em escala.
A educação do futuro não pode limitar-se a formar utilizadores de ferramentas. Tem de formar consciências capazes de resistir ao abuso dessas ferramentas. Tem de formar pessoas que saibam programar, sim, mas também recusar. Que saibam cumprir, sim, mas também desobedecer quando a ordem é indigna. Que saibam inovar, sim, mas sem desligar a consciência.
Porque uma civilização não se perde apenas quando as máquinas se tornam poderosas. Perde-se quando os humanos deixam de pensar antes de lhes entregar poder.
- Francisco Gonçalves (2026)