Os Missionários do Apocalipse Digital

Quando a inteligência artificial deixa de ser ciência e começa a produzir profetas

Há qualquer coisa de profundamente humana na necessidade de anunciar o fim do mundo.

Durante milénios tivemos profetas religiosos, cometas assassinos, calendários que terminavam, alinhamentos planetários, guerras finais, anticristos, vírus apocalípticos, colisores que engoliriam a Terra e computadores que, à meia-noite de 31 de Dezembro de 1999, fariam cair a civilização.

O Apocalipse tem uma extraordinária capacidade de adaptação tecnológica. Agora descobriu a inteligência artificial.

E surgiu uma nova personagem no palco: o missionário do Apocalipse Digital.

É frequentemente jovem, brilhante, tecnicamente competente e trabalha — ou trabalhou — numa das grandes empresas de inteligência artificial. Um dia abandona o emprego. Não necessariamente porque encontrou outro projecto. Não necessariamente porque discordou da administração. Não necessariamente porque queria ganhar mais. Sai porque descobriu algo muito maior: é preciso salvar a Humanidade.

Subitamente, aquilo que era engenharia informática adquire contornos bíblicos. Há uma inteligência superior a nascer. Os homens não compreendem o perigo. O tempo está a acabar. Poucos conhecem a verdade. E aqueles que a conhecem têm a obrigação moral de avisar os restantes.

Falta apenas subir à montanha. As tábuas de pedra foram substituídas por GPUs.

Da investigação à revelação

Nada há de ridículo em estudar riscos associados à inteligência artificial. Pelo contrário. Sistemas cada vez mais capazes justificam investigação séria sobre segurança, alinhamento, autonomia, cibersegurança, manipulação, utilização militar, armas biológicas, desinformação, concentração de poder e perda de controlo sobre sistemas críticos.

Seria irresponsável não o fazer. O problema começa quando abandonamos a linguagem da investigação científica e entramos na linguagem da profecia.

Uma coisa é afirmar que existem determinados cenários nos quais sistemas artificiais futuros suficientemente autónomos poderão representar riscos graves e que devemos estudá-los antecipadamente. Outra, radicalmente diferente, é anunciar que a inteligência artificial poderá destruir a Humanidade dentro de meses ou de poucos anos.

Entre estas duas frases existe um abismo epistemológico. Na primeira existem hipóteses. Na segunda começa a nascer uma religião.

A extraordinária cadeia de pressupostos

Para chegarmos da inteligência artificial actual à extinção da Humanidade é necessário atravessar uma sequência extraordinária de acontecimentos.

Primeiro, teremos de construir sistemas muito superiores aos actuais. Depois esses sistemas terão de adquirir autonomia operacional substancial. Terão de possuir objectivos suficientemente persistentes. Terão de conseguir actuar prolongadamente sem supervisão humana. Terão de conseguir obter recursos. Terão de resistir a tentativas de interrupção. Terão eventualmente de modificar ou reproduzir componentes de si próprios. Terão de adquirir acesso a infra-estruturas críticas. Terão de ultrapassar sistemas de segurança. Terão de superar outros sistemas artificiais utilizados precisamente para os combater. Terão de vencer Estados, forças armadas, serviços de informações, empresas tecnológicas e seres humanos conscientes do perigo. E, finalmente, terão de possuir algum objectivo incompatível com a nossa sobrevivência.

É possível imaginar esta sequência? Evidentemente. Também consigo imaginar uma civilização extraterrestre a aproximar-se neste momento do Sistema Solar.

Imaginar um cenário não é calcular a sua probabilidade.

É precisamente aqui que alguma futurologia sobre inteligência artificial começa a apresentar características curiosamente semelhantes às profecias tradicionais. Cada hipótese depende da anterior. Depois juntam-se todas. E a conclusão é apresentada como inevitável.

O erro do primata

Há ainda um erro conceptual mais profundo. É talvez aquele que mais me surpreende.

Projectamos sobre uma inteligência artificial características que pertencem à história evolutiva dos animais — particularmente à nossa.

O Homo sapiens não é simplesmente uma inteligência abstracta. Somos organismos biológicos produzidos por centenas de milhões de anos de selecção natural. Temos fome. Temos medo. Temos sexualidade. Competimos. Procuramos estatuto. Defendemos território. Protegemos descendentes. Formamos tribos. Reconhecemos aliados. Identificamos inimigos. Tememos morrer. Desejamos sobreviver.

Somos capazes de cooperação extraordinária e de violência extraordinária. Em nós convivem, numa arquitectura neurológica complexa, a besta e o ser social.

Não existe uma fronteira anatómica simplista entre ambos. Emoção, motivação, memória, recompensa, cognição e decisão emergem de redes profundamente interligadas.

Foi essa história evolutiva que produziu aquilo a que chamamos vontade humana. Uma inteligência artificial não possui automaticamente essa história porque consegue resolver melhor uma equação.

E aqui surge uma das confusões fundamentais do imaginário contemporâneo: inteligência não é consciência. Consciência não é motivação. Motivação não é agressividade. Capacidade não é intenção. E inteligência elevada não implica desejo de dominar coisa nenhuma.

Einstein não tentou conquistar o planeta

Há uma pergunta infantilmente simples que deveria incomodar algumas narrativas sobre superinteligência.

Se inteligência conduz inevitavelmente à dominação, por que razão os seres humanos intelectualmente mais capazes não são necessariamente aqueles que procuram dominar os outros?

Einstein não tentou conquistar a Europa. Gödel não criou um exército. Turing não tentou tornar-se imperador.

A inteligência aumenta capacidade para atingir objectivos. Não determina necessariamente quais serão esses objectivos.

No ser humano, os objectivos resultam de uma mistura extraordinariamente complexa de biologia, aprendizagem, cultura, emoção, recompensa, experiência e contexto social. Numa máquina, os mecanismos motivacionais terão outra origem.

E se algum dia construirmos deliberadamente sistemas com objectivos persistentes, capacidade autónoma de adquirir recursos, mecanismos funcionais de autopreservação e liberdade operacional quase ilimitada, então teremos realmente criado uma nova categoria de risco.

Mas nesse caso haverá uma pergunta anterior: quem decidiu construir isso?

Talvez o problema continue a ser o homem

Existe uma curiosa obsessão em imaginar a máquina como futuro carrasco da Humanidade. Talvez porque essa hipótese seja psicologicamente confortável. Retira-nos responsabilidade.

A bomba nuclear nunca decidiu explodir uma cidade. Um míssil nunca declarou uma guerra. Um vírus informático nunca acordou zangado. As tecnologias amplificam capacidades. Os homens decidem frequentemente como utilizá-las.

E talvez os perigos mais graves da inteligência artificial nas próximas décadas não venham de uma máquina que subitamente desenvolveu ódio pela Humanidade. Podem vir de algo muito mais banal: humanos utilizando IA contra outros humanos.

Estados utilizando-a para vigilância. Exércitos utilizando-a para seleccionar alvos. Criminosos utilizando-a para fraude. Empresas utilizando-a para manipulação. Governos utilizando-a para propaganda. Organizações utilizando-a para ciberataques. Pessoas delegando decisões morais a algoritmos porque é mais cómodo do que assumir responsabilidade.

Nada disto exige consciência artificial. Nada disto exige AGI. Nada disto exige uma máquina malévola. Basta a velha Humanidade.

A sedução de ser um dos escolhidos

Mas existe outra dimensão neste fenómeno.

A narrativa apocalíptica concede ao profeta uma posição extraordinariamente sedutora. Ele deixa de ser simplesmente um engenheiro. Passa a possuir conhecimento que os restantes não possuem. Ele viu o futuro. Compreendeu o perigo. Abandonou dinheiro, carreira e prestígio para nos avisar.

É Cassandra diante de Tróia. É Noé antes do dilúvio. É o cientista do filme que entra desesperadamente na sala do Presidente e grita: "Temos seis meses!"

É uma personagem magnífica. Hollywood descobriu-a há muito tempo.

O problema começa quando confundimos uma boa personagem cinematográfica com epistemologia.

Porque existe uma pergunta que devemos colocar a qualquer profeta tecnológico: Que evidência possui?

Não: "Quanto acredita nisso?" Não: "Quanto sacrificou pela causa?" Não: "Quão assustado está?" Mas: Que evidência possui?

Convicção não é ciência

Uma pessoa pode acreditar profundamente numa hipótese e continuar errada. A história da ciência está cheia de homens extraordinariamente inteligentes que defenderam ideias falsas.

A sinceridade não aumenta a probabilidade de uma hipótese ser verdadeira. Nem o medo. Nem a inteligência. Nem trabalhar numa empresa famosa. Nem abandonar essa empresa.

Ciência exige algo muito mais desagradável. Exige demonstração. Exige dados. Exige hipóteses falsificáveis. Exige reprodução. Exige quantificação da incerteza.

Exige admitir: "Não sabemos."

Esta talvez seja uma das frases mais importantes da civilização científica. E também uma das menos populares nos telejornais.

O mercado do medo

Porque existe ainda outro protagonista nesta história. Os media.

Imaginemos duas manchetes. A primeira: "Investigadores analisam riscos hipotéticos associados à possível emergência futura de sistemas artificiais altamente autónomos." A segunda: "EX-INVESTIGADOR DE IA AVISA: HUMANIDADE PODE TER MESES DE VIDA."

Qual delas abre o telejornal?

Não é necessária qualquer conspiração. Existe simplesmente economia da atenção. O medo captura atenção. A catástrofe captura atenção. O fim do mundo captura atenção extraordinariamente bem.

E criou-se assim um ciclo quase perfeito: o investigador apresenta um cenário extremo; o jornalista selecciona a hipótese mais assustadora; as redes sociais amplificam-na; milhões discutem-na; outros investigadores são convidados a comentar; novas declarações são produzidas; novas manchetes aparecem.

E uma hipótese especulativa começa lentamente a adquirir, na percepção pública, o estatuto de facto científico.

O paradoxo delicioso

Existe finalmente uma ironia difícil de ignorar.

Dizem-nos que devemos temer modelos de inteligência artificial porque podem produzir respostas extraordinariamente convincentes a partir de informação insuficiente. Concordo. É um problema real.

Mas depois algumas pessoas apresentam conclusões extraordinariamente convincentes sobre a extinção da Humanidade a partir de informação igualmente insuficiente.

Talvez a primeira regra de segurança da inteligência artificial devesse aplicar-se também aos humanos: não confundir uma narrativa coerente com uma conclusão verdadeira.

A IA merece ser levada a sério

Nada disto significa minimizar os riscos da inteligência artificial. Seria precisamente o erro contrário.

Precisamos de auditoria. Precisamos de investigação em segurança. Precisamos de red teaming. Precisamos de sistemas interpretáveis. Precisamos de controlo humano. Precisamos de mecanismos robustos de protecção e interrupção. Precisamos de legislação inteligente. Precisamos de cooperação internacional. Precisamos de impedir autonomia irresponsável em sistemas críticos.

E precisamos sobretudo de preservar uma coisa: a responsabilidade humana.

Porque talvez o maior perigo da inteligência artificial não seja ela adquirir vontade própria. Talvez seja nós perdermos a nossa.

O interruptor

Há muitos anos li uma ideia que nunca esqueci.

Os computadores poderiam tornar-se progressivamente mais inteligentes, mas o homem conservaria sempre uma possibilidade fundamental: desligá-los da tomada.

Naturalmente, a realidade tecnológica tornou essa metáfora mais complicada. Hoje existem centros de dados distribuídos, redes globais, sistemas redundantes e milhões de máquinas. Mas o princípio permanece extraordinariamente importante.

Não devemos construir sistemas sobre os quais deixemos voluntariamente de possuir autoridade. Não devemos entregar decisões irreversíveis a máquinas simplesmente porque são mais rápidas. Não devemos confundir capacidade computacional com legitimidade moral.

E nunca devemos abdicar do pensamento crítico porque alguém — humano ou artificial — nos diz que conhece inevitavelmente o futuro.

Os novos profetas

Os profetas antigos olhavam para os céus. Os novos olham para centros de dados.

Os antigos encontravam sinais nos eclipses. Os novos encontram-nos nas curvas de scaling. Os antigos anunciavam a ira dos deuses. Os novos anunciam a superinteligência.

Mudaram os instrumentos. Mudou o vocabulário. Mudaram as vestes. Mas talvez uma parte da psicologia humana permaneça exactamente igual.

Continuamos fascinados pela ideia de sermos a geração escolhida para assistir ao acontecimento final.

Talvez porque aceitar uma realidade mais simples seja menos emocionante: a inteligência artificial será provavelmente uma das tecnologias mais transformadoras da história humana; produzirá benefícios extraordinários; criará riscos extraordinários; mudará profissões; mudará ciência; mudará guerra; mudará educação; mudará a própria relação do homem com o conhecimento.

E cometeremos erros. Alguns poderão ser graves. Por isso devemos permanecer vigilantes.

Mas entre vigilância e messianismo existe uma diferença fundamental. A primeira procura evidência. O segundo procura crentes.

Não precisamos de sacerdotes da inteligência artificial. Não precisamos de missionários do Apocalipse Digital.

Precisamos de cientistas, engenheiros, filósofos, neurocientistas, legisladores e cidadãos capazes de fazer algo muito menos espectacular e infinitamente mais importante: continuar a pensar.

Porque talvez o futuro da Humanidade não dependa de derrotarmos uma inteligência artificial malévola. Talvez dependa simplesmente de não entregarmos — por medo, fascínio ou preguiça — aquilo que ainda nos pertence.

O direito de decidir.

Nota Editorial

Referências credíveis

• Reuters — AI and the Apocalypse (10 Sep. 2026)
• Financial Times — Anthropic researcher quits over AI labs 'gambling with our lives' (9 Sep. 2026)
• Associated Press — Anthropic researcher resigns with warning about the dangers of AI development (9 Sep. 2026)
• International AI Safety Report 2026 — relatório internacional coordenado por Yoshua Bengio
• UK AI Security Institute — Frontier AI Trends Report
• UK AI Security Institute — Alignment Evaluation Case-Study
• Anthropic — Responsible Scaling Policy, actualizada em Agosto de 2026
• OpenAI — Preparedness Framework
• Nature Machine Intelligence — Seeking clarity rather than strong opinions on intelligence
• Nature — What should we do if AI becomes conscious? These scientists say it's time for a plan
• Grace et al. — Thousands of AI Authors on the Future of AI