Computadores que contam histórias vão alterar o curso da história humana
TEXTO YUVAL NOAH HARARI HISTORIADOR, FILÓSOFO E AUTOR DE “SAPIENS”, “HOMO DEUS” E DA SÉRIE DE LIVROS JUVENIS “INDOMÁVEIS”
O
receio em relação à inteligência artificial (IA) tem assombrado a Humanidade desde o início da era dos computadores. Até agora, esses medos têm estado focados em máquinas que usam meios físicos para matar, escravizar ou substituir pessoas, mas ao longo dos últimos dois anos surgiram novas ferramentas que ameaçam a sobrevivência da civilização humana vindas de onde menos se esperava. A IA ganhou algumas habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. A IA pirateou o sistema operacional da nossa civilização.
A língua é o material sobre o qual quase toda a cultura humana se baseia. Os direitos humanos, por exemplo, não estão inscritos no nosso ADN. Pelo contrário, são artefactos culturais que criámos contando histórias e escrevendo leis. Os deuses não são realidades físicas, são artefactos culturais que criámos inventando mitos e escrevendo escrituras.
O dinheiro também é um artefacto cultural. As notas são apenas pedaços de papel coloridos e, atualmente, mais de 90% do dinheiro nem sequer é físico — são apenas informações digitais em computadores. O que dá valor ao dinheiro são as histórias que banqueiros, ministros das finanças e gurus da criptomoeda nos contam. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram particularmente bons em criar valor real, mas todos eles eram contadores de histórias extremamente capazes.
O que poderá acontecer quando uma inteligência não humana se torna melhor do que o ser humano médio a contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando pensamos sobre o ChatGPT e outras novas ferramentas de IA, pensamos em exemplos como o dos alunos que usam a IA para escrever os seus trabalhos da escola. O que acontecerá com o sistema escolar quando as crianças o começarem a fazer? Mas esse tipo de pergunta não abrange o panorama geral. Esqueçam os trabalhos da escola. Pensem nas próximas eleições presidenciais americanas, em 2024, e tentem imaginar o impacto das ferramentas de IA, que podem ser criadas para produzir conteúdo político em massa, histórias de notícias falsas e escrituras para novos cultos.
Nos últimos anos, o culto QAnon une-se em torno de mensagens online anónimas, conhecidas como “q drops”. Os seguidores recolhem, veneram e interpretam estes “q drops” como se fossem um texto sagrado. Enquanto até agora, tanto quanto sabemos, todos os “q drops” eram criados por humanos e os bots simplesmente ajudaram a disseminá-los, no futuro podemos assistir aos primeiros cultos da história cujos textos sagrados foram escritos por uma inteligência não humana. As religiões ao longo da história reivindicaram uma fonte não humana para os seus livros sagrados. Em breve isso pode ser uma realidade.
Num nível mais prosaico, em pouco tempo podemos estar a manter longas discussões online sobre o aborto, alterações climáticas ou a invasão russa da Ucrânia com entidades que pensamos serem humanos, mas são, na realidade, IA. O problema é que é absolutamente inútil gastarmos o nosso tempo a tentar mudar as opiniões declaradas de um bot uma vez que a IA poderá aprimorar as suas mensagens de forma tão precisa que existe a possibilidade de nos influenciar.
Através do seu domínio da linguagem, a IA poderia até formar relacionamentos íntimos com as pessoas e usar o poder dessa intimidade para mudar as nossas opiniões e visões do mundo. Embora não haja nenhuma indicação de que a IA tenha qualquer tipo de consciência ou sentimentos, o promover uma intimidade falsa com os seres humanos é suficiente, se fizer com que se sintam emocionalmente ligados a si. Em junho de 2022, Blake Lemoine, um engenheiro da Google, afirmou publicamente que o chatbot LaMDA, em que tinha estado a trabalhar, se tornara senciente. A alegação controversa custou-lhe o emprego. A coisa mais interessante sobre este episódio não foi a afirmação, que provavelmente era falsa, foi sim a sua vontade de arriscar o seu emprego lucrativo por causa de um chat de IA. Se a IA pode influenciar as pessoas a arriscar os seus empregos por sua causa, o que mais poderia induzi-las a fazer?
Numa batalha política para conquistar mentes e corações, a intimidade é a arma mais eficiente e a IA acaba de ganhar a capacidade de criar, em massa, relações íntimas com milhões de pessoas. Todos sabemos que ao longo da última década as redes sociais se tornaram um campo de batalha para controlar a atenção humana. Com a nova geração de IA, a frente de batalha está a passar da atenção para a intimidade. O que acontecerá com a sociedade e psicologia humanas à medida que as diferentes IA lutam entre si para conseguir formar falsas relações íntimas connosco, que podem depois ser usadas para nos levar a votar em políticos específicos ou comprar produtos específicos?
Mesmo sem criar uma “intimidade falsa”, as novas ferramentas de AI teriam uma imensa influência nas nossas opiniões e visões de mundo. As pessoas podem passar a consultar apenas uma IA como um oráculo único e omnisciente. Não admira que a Google esteja apavorada. Para que é que me vou dar ao trabalho de pesquisar, se posso simplesmente perguntar ao oráculo? As empresas de comunicação social e publicidade também devem estar aterrorizadas. Para quê ler um jornal se posso apenas pedir ao oráculo para me contar as últimas notícias? E para que servem os anúncios, se posso simplesmente pedir ao oráculo para me dizer o que comprar?
E mesmo estes cenários imaginários não captam verdadeiramente o panorama geral. Aquilo de que estamos a falar é, potencialmente, do fim da história da humanidade. Não o fim da história, apenas o fim da sua parte dominada pelo homem. A história é a interação entre biologia e cultura; entre as nossas necessidades biológicas, e desejos por coisas como comida e sexo, e as nossas criações culturais, como religiões e leis. A história é o processo através do qual as leis e as religiões moldam a comida e o sexo.
O que acontecerá com o rumo da história quando a IA tomar conta da cultura e começar a produzir histórias, melodias, leis e religiões? Ferramentas anteriores, como a imprensa gráfica e a rádio, ajudaram a espalhar as ideias culturais dos seres humanos, mas nunca criaram novas ideias culturais próprias. A IA é fundamentalmente diferente, pode criar ideias completamente novas, uma cultura completamente nova.
No início, a IA provavelmente imitará os protótipos humanos em que foi treinada na sua infância. Mas a cada ano que passa, a sua cultura vai corajosamente até onde nenhum ser humano já foi. Há milénios que os seres humanos vivem dentro dos sonhos de outros seres humanos. Nas próximas décadas podemos dar por nós a viver dentro dos sonhos de uma inteligência alienígena.
O medo da IA assombra a humanidade há apenas algumas décadas, mas durante milhares de anos os seres humanos foram assombrados por um medo muito mais profundo. Sempre reconhecemos o poder das histórias e imagens para manipular as nossas mentes e criar ilusões. Consequentemente, desde os tempos antigos, os humanos temeram estar presos num mundo de ilusões.
No século XVII, René Descartes temia que talvez um demónio malicioso o estivesse a prender dentro de um mundo de ilusões, criando tudo o que já tinha visto e ouvido. Na Grécia antiga, Platão contou a famosa alegoria da Caverna, na qual um grupo de pessoas estão acorrentadas dentro de uma caverna durante toda a sua vida, de frente para uma parede em branco. Um ecrã. Nesse ecrã veem várias sombras projetadas. Os prisioneiros confundem as ilusões que ali veem com a realidade.
Na antiga índia, sábios budistas e hindus diziam que todos os seres humanos viviam presos dentro de Maya — o mundo das ilusões. O que normalmente consideramos ser a realidade é muitas vezes apenas uma ficção nas nossas próprias mentes. As pessoas conseguem travar guerras inteiras, matando-se umas às outras e estando dispostas a morrer por causa de uma crença nesta ou naquela ilusão.
A revolução da IA coloca-nos frente a frente com o demónio de Descartes, com a caverna de Platão e com Maya. Se não tivermos cuidado, podemos ficar presos atrás de uma cortina de ilusões, que não conseguimos rasgar nem mesmo perceber que ali está.
Claro que o novo poder da IA também poderia ser usado para o bem. Não vou refletir sobre isso, porque as pessoas que desenvolvem a IA já o fizeram que chegue. O trabalho de historiadores e filósofos como eu é apontar os perigos. Certamente que a IA pode ajudar-nos de inúmeras maneiras, desde encontrar novas curas para o cancro até descobrir soluções para a crise ecológica. A pergunta que enfrentamos é como garantir que as novas ferramentas de IA são usadas para o bem e não para o mal. Para tal, primeiro precisamos compreender as verdadeiras capacidades dessas ferramentas.
Desde 1945 que sabemos que a tecnologia nuclear poderia gerar energia barata para o benefício dos seres humanos, mas também poderia destruir fisicamente a civilização humana. Por conseguinte, reformulámos toda a ordem internacional para proteger a humanidade e para garantir que a tecnologia nuclear fosse utilizada principalmente para o bem. Agora temos de lidar com uma nova arma de destruição em massa que pode aniquilar o nosso mundo mental e social.
Ainda vamos a tempo de regular as novas ferramentas de IA, mas temos de agir rapidamente. Enquanto as bombas atómicas não conseguem inventar bombas atómicas mais poderosas, a IA consegue criar uma IA exponencialmente mais poderosa. O primeiro passo essencial é exigir verificações de segurança rigorosas antes das poderosas ferramentas de IA serem lançadas para o domínio público. Assim como uma empresa farmacêutica não pode lançar novos medicamentos antes de testar os seus efeitos secundários de curto e longo prazo, as empresas de tecnologia não devem lançar novas ferramentas de IA antes de serem seguras. Precisamos de um equivalente da Food and Drug Administration para novas tecnologias e precisamos dele para ontem.
O abrandamento da implementação pública de IA não fará com que as democracias fiquem para trás de regimes autoritários mais cruéis? É exatamente o oposto. A implementação de IA não regulamentada criaria o caos social, que beneficiaria os autocratas e arruinaria as democracias. A democracia é um diálogo e os diálogos dependem da linguagem. Quando a IA modifica a linguagem, pode destruir a nossa capacidade de ter diálogos importantes, destruindo assim a democracia.
Acabámos de encontrar uma inteligência alienígena, aqui na Terra. Não sabemos muito sobre ela, exceto que pode destruir a nossa civilização. Devíamos pôr um travão à implementação irresponsável de instrumentos de IA na esfera pública e regulamentar a IA antes que seja ela a regulamentar-nos a nós. E o primeiro regulamento que gostaria de sugerir é que seja obrigatório uma IA dizer que é uma IA. Se estou a conversar com alguém e não consigo perceber se é um ser humano ou uma IA, esse é o fim da democracia.
Este texto foi produzido por um ser humano.
Ou será que foi?
Tradução Joana Henriques
Copyright The Economist Newspaper Limited, London, 2023
Expresso Revista, Semanário#2637, 12 de maio de 2023
Sem comentários:
Enviar um comentário