Um carro autônomo está prestes a atropelar cinco pedestres. O que deve fazer? Virar para o lado e matar seu dono para minimizar as baixas humanas, ou salvar a vida de seu passageiro e passar por cima de quem está na rua? Como se deveria programar o computador do automóvel? Dilemas éticos como esse preocupam Yuval Noah Harari (Israel, 1976), professor de História da Universidade Hebraica de Jerusalém e um dos pensadores de referência na atualidade. Seu primeiro livro, Sapiens, Uma Breve História da Humanidade, tornou-se um fenômeno editorial recomendado por Barack Obama e Mark Zuckerberg. Em seu segundo livro, Homo Deus, Uma Breve História do Amanhã, vai mais adiante e alerta para os riscos da inteligência artificial, do big data e dos algoritmos que permitem complexas predições matemáticas.

Harari descreve um futuro em que uma elite humana cada vez mais poderosa graças à tecnologia se distancia das massas até se transformar em uma nova espécie com capacidades nunca vistas. Um mundo controlado por máquinas e corporações tecnológicas que abandona à própria sorte os humanos que considera inúteis. Não se assustem: Harari diz em uma entrevista em Madri que ainda não é tarde para mudar o futuro.

Pergunta. Em meados deste ano, Zuckerberg recomendou seu primeiro ensaio. Acredita que fará o mesmo com o segundo?

Resposta. De fato este livro é mais desafiador, porque questiona opiniões e práticas do Vale do Silício. Não é um livro contra o Vale do Silício, mas sim sobre a revolução dos computadores e da Internet. É a coisa mais importante que está acontecendo agora e a deixamos nas mãos de umas poucas empresas. Permitir que o Facebook e a Amazon moldem o futuro da humanidade tem perigos inerentes. Não porque representem o mal, mas porque têm sua própria visão limitada do mundo, seus próprios interesses e não representam ninguém, ninguém votou neles. A maioria dos partidos e Governos não tem uma visão séria do futuro da humanidade.

“É preciso convencer os políticos de que a inteligência artificial não é ficção científica”

P. A promessa do Vale do Silício é mudar o mundo, torná-lo um lugar melhor. Não parece um objetivo ameaçador.

R. É preciso reconhecer que têm razão. O que se faz ali influirá mais que qualquer outra coisa no século XXI. Os políticos perderam o contato com a realidade. Donald Trump afirma que os chineses tirarão o trabalho dos americanos, mas serão os robôs. É preciso convencer os políticos de que a inteligência artificial não é uma fantasia de ficção científica.

P. Alguns especialistas dizem que os trabalhos que desaparecerão serão simplesmente substituídos por outros.

R. Não temos nenhuma garantia de que os trabalhos que vão surgir serão suficientes para compensar os que vão desaparecer. Também não está claro se os humanos serão capazes de realizar esses novos trabalhos melhor que a inteligência artificial. E, ainda, um terceiro problema é quantas pessoas terão a habilidade necessária para se reciclar.

“Estamos cedendo o controle de nossas vidas aos algoritmos”

P. O que acontecerá com essa massa de gente expulsa do mercado de trabalho?

R. Se as forças do mercado continuarem tomando as decisões mais importantes, é muito possível que uma elite monopolize o poder e o use para ascender a uma nova categoria, do Homo sapiens para Homo deus, uma espécie de super-humanos. E a maioria da população, uma nova classe formada por gente dispensável, ficará para trás. Isto já está acontecendo. Os exércitos mais avançados não recrutam mais milhares de soldados, mas um pequeno número de militares qualificados, apoiados por drones, robôs e técnicas de guerra cibernética. Para o exército, muitos soldados já são desnecessários. A engenharia genética e a inteligência artificial podem ser utilizadas para criar tipos de sociedades muito diferentes e deveríamos começar a discutir que sociedade queremos criar. Ainda podemos escolher.

P. Os algoritmos são cada vez mais importantes. Quais as consequências disso?

R. Um dos grandes perigos é que nos conhecem cada vez melhor e confiamos neles para que escolham por nós, desde coisas simples, como que notícias ler, até importantes, como nossa saúde. Perdemos o controle de nossas vidas e o entregamos aos algoritmos. É verdade que, muitas vezes, é positivo ceder. Por exemplo, Angelina Jolie fez um exame de DNA e encontrou uma mutação em um gene que, segundo o algoritmo, indicava uma possibilidade de 87% de desenvolver um câncer de mama. Naquele momento não estava doente, sentia-se perfeitamente bem. Mas se submeteu a uma dupla mastectomia. E, na minha opinião, fez bem. O potencial da tecnologia é incrível. O desafio é saber usá-lo, porque também tem um lado escuro. Se confiarmos nos algoritmos porque nos aconselham bem, damos a eles cada vez mais poder e controle sobre nossas vidas e podem começar a nos manipular, mesmo que de forma não intencional.

P. Muita gente não se importa de ceder seus dados.

R. Nossos dados pessoais são nosso maior patrimônio. Que lugares você frequenta, o que compra e, ainda por cima, seus dados biométricos, seu DNA, sua pressão arterial… Mas as pessoas cedem tudo isso a empresas como Amazon, Facebook e Google em troca de correio eletrônico, redes sociais e vídeos de gatinhos. Essas empresas acumulam uma grande quantidade de dados que lhes permitem compreender a sociedade e o mundo melhor que ninguém. O Facebook pode, teoricamente, decidir as eleições nos Estados Unidos. Uma das informações mais valiosas hoje em dia é quem são os eleitores indecisos. O Facebook tem essa informação. Nem todos estamos na rede social, é verdade, mas muita gente sim, e a empresa poderia tentar verificar quem são esses indecisos e até o que o candidato deveria dizer a eles para ganhar seu voto. O Facebook tem esse poder porque os usuários lhe entregam todos os seus dados pessoais.

P. É o fim do livre-arbítrio?

“É muito possível que uma nova classe de super-humanos monopolize o poder no futuro”

R. O cérebro é tão complexo que nem a KGB soviética, espionando os cidadãos o tempo todo, era capaz de entender as pessoas ou predizer seus gostos e desejos. Em certo sentido, isso nos torna livres. Mas, no século XXI, estamos adquirindo mais conhecimentos biológicos e os computadores têm mais poder. Assim, o que a KGB era incapaz de controlar, o Facebook e a Apple conseguirão em… 10, 20 ou 30 anos? Poderiam monitorar seu corpo com sensores biométricos, registrar esses dados e, com algoritmos sofisticados, analisá-los para saber exatamente quem você é, sua personalidade, o que você gosta, que resposta daria a determinada pergunta. Quando uma entidade externa te entende melhor que você mesmo, não há mais livre-arbítrio.

P. Muita gente o verá como mais um tecnófobo …

R. No livro falo mais dos riscos que das vantagens da tecnologia, porque acredito que é responsabilidade dos pensadores, historiadores e filósofos alertar para os perigos e buscar soluções. Os engenheiros e os empresários já se encarregam de ressaltar as vantagens. É importante que nós mesmos nos conheçamos e saibamos o que queremos na vida. Acredito que, assim, poderemos usar a tecnologia de forma mais sensata e alcançar nossos próprios objetivos.