De tanto discutir sobre quando a tecnologia iria superar nossas habilidades, não percebemos que as máquinas estavam focando em conhecer nossos pontos fracos.

Esta é a base de um conceito que está na moda no Vale do Silício, conhecido como human down

A expressão foi cunhada pelo cientista da computação Tristan Harris e seu sócio Randima (Randy) Fernando, cofundadores do Center for Humane Technology (CHT), uma organização sem fins lucrativos cuja missão é “reverter a degradação humana” e “realinhar a tecnologia com a nossa humanidade”.

No documentário O Dilema das Redes, Harris e Fernando expõem essa questão, profundamente ligada à chamada “economia da atenção” — como as empresas monetizam nossa atenção por meio das redes sociais e outras tecnologias digitais. E nossa atenção, que é finita, acaba sendo sugada pelo excesso de informação disponível.

Fernando, diretor-executivo do CHT, acredita que a tecnologia deve ser “mais humana”. Na entrevista a seguir, concedida à BBC News Mundo, serviço em espanhol da BBC, ele explica o motivo.

BBC News Mundo – Como surgiu o seu interesse pela economia da atenção e por que isso é importante?

Randima (Randy) Fernando – Meus pais me ensinaram mindfulness (meditação baseada na atenção plena) e tecnologia desde pequeno, então segui esse caminho. Eu me interessei muito por computação gráfica e trabalhei na Nvidia (multinacional do Vale do Silício) por sete anos. Depois, ajudei a fundar uma organização chamada Mindful Schools para ensinar mindfulness em escolas.

Nós dois estávamos muito interessados ??em mindfulness. Começamos a perceber que éramos contra a forma como a economia da atenção compete constantemente para treinar nossas mentes de maneira distinta.

A economia da atenção é uma adversária da atenção plena. É muito fácil para as empresas criarem perfis sobre nós com base nas informações que compartilhamos nas redes sociais, e elas compartilham essas informações com os anunciantes. Esse modelo de negócio torna a nossa atenção vital e, além disso, não se baseia nos nossos interesses, mas nos dos anunciantes.

Decidimos que o melhor era criar uma organização para gerenciar o crescente interesse pelo assunto (sobretudo desde que Harris falou sobre o tema em um programa nacional de televisão em 2017) e tentar resolver o problema. Três anos depois, ainda estamos trabalhando nisso.

BBC News Mundo – Para resolver o problema, vocês propõem “reverter a degradação humana”. O que isso significa?

Fernando – Grande parte do trabalho que fazemos tem a ver com a mente, com o vício e como combatê-lo; com meditação e bem-estar emocional. Também com democracia e polarização, com a distorção da verdade. Todas essas questões estão inter-relacionadas e vinculadas à “degradação humana”.

Nós a descrevemos como algo cíclico: à medida que progredimos e atualizamos nossas máquinas, temos degradado os seres humanos. E deveria ter sido o contrário. Isso é algo que se repete constantemente.

Durante muito tempo, nos entusiasmamos muito diante de todos os avanços tecnológicos, mas investimos tanto esforço e energia no avanço da tecnologia — que tanto nos beneficiou por décadas — que não prestamos atenção suficiente às mudanças que estavam provocando em nosso cérebro.

Num dado momento, ficamos vulneráveis ??a ela porque a tecnologia pode ser usada para tirar proveito de nossas fraquezas.

BBC News Mundo – O que mudou nos últimos anos para essa questão ser colocada em debate dentro e fora do Vale do Silício?

Fernando – A “degradação humana” ultrapassou alguns limites importantes, por isso agora está começando a nos preocupar.

Vamos ficando cientes de como as notificações tentam “sequestrar” nossa atenção. Se os designers a usam a seu favor, podem nos fazer gastar mais tempo em seu produto, atrair nossa atenção para que nos fixemos em certos elementos por meio de aspectos como o brilho da tela e outros pequenos “truques”.

E já não sabemos mais o que é real e o que não é. Os deepfakes (vídeos falsos baseados em um modelo real modificados com inteligência artificial) são um bom exemplo disso.

A mente humana é limitada. É maravilhosa em muitos aspectos, mas tem pontos fracos. Agora que sabemos que a tecnologia cruzou essa barreira, nosso entusiasmo diminuiu porque é algo que não podemos mais controlar.

No entanto, as forças de mercado continuam a usar novas tecnologias em seu benefício para aumentar as vendas. Os analistas ficam fascinados ao encontrar novas maneiras de usar a tecnologia a seu favor e transformar essas tendências em dinheiro. Mas quem pensa nos benefícios não está levando em conta as consequências.

Isso está acontecendo em todo o mundo e em todos os níveis. Analistas, designers de produtos e governos estão competindo entre si. E no final acaba sendo uma arma muito perigosa. Mas há cada vez mais reações contra.

BBC News Mundo – Você descreve como um sistema perverso. Isso poderia ter sido previsto de alguma forma?

Fernando – Sim, claro que foi previsto. E não só isso: também se buscou isso por parte daqueles que querem explorá-lo a seu favor. Uma parte importante do problema é que aqueles que tentam encontrar soluções geralmente não costumam ser os mesmos que criam o problema.

Há pessoas muito competentes alertando sobre o uso da tecnologia há muito tempo, mas aqueles que trabalham nos avanços tecnológicos têm outros incentivos e não estão interessados ??em desacelerar porque muitas vezes isso significa um prejuízo, do qual a concorrência pode se aproveitar.

É por isso que lidar com esse problema é tão complexo. Somado a isso, a “degradação humana” é cíclica.

BBC News Mundo – O que você quer dizer com cíclica?

Fernando – Quando nossa atenção é interrompida repetidamente, ficamos mais distraídos. Nos tornamos a pior versão de nós mesmos. A tecnologia muda a gente. E isso acontece constantemente e cada vez mais porque as redes sociais facilitam esse processo.

Quando competimos por atenção — curtidas, comentários, compartilhamentos — começamos a “dizer” coisas diferentes, a usar outra linguagem. Publicamos fotos que chamam mais atenção, somos mais radicais ao debater questões políticas… tudo isso beneficia os algoritmos.

Ao fim do ciclo, a tecnologia acaba nos mudando e, efetivamente, nos degradando. E quando nos degradamos, ficamos mais vulneráveis ??no ciclo seguinte, porque quando estamos mais distraídos é mais fácil que aconteça um novo ciclo.

Acaba sendo uma corrida [de empresas] para chegar ao fundo do nosso tronco cerebral que revela o que há de pior em nós mesmos — e que cada vez mais inclui menos pausa, menos reflexão e menos meditação porque estamos ocupados reagindo o tempo todo.

BBC News Mundo – É fácil nos sentirmos impotentes diante desta situação… o que podemos fazer?

Fernando – Sem dúvida é! É uma parte tão importante da economia… movimenta trilhões de dólares! Mas podemos atuar em dois níveis: primeiro pessoal e, segundo, coletivo.

O primeiro passo realmente começa por nos educar a respeito. A nível pessoal, podemos fazer coisas vitais como limitar notificações, usar menos as plataformas digitais, mudar o que mostramos nelas e nossas interações online. Basicamente, entender como estamos sendo manipulados e agir de acordo.

Além disso, existe o plano coletivo. Portanto, estamos criando um espaço para permitir que as pessoas manifestem suas preocupações. Isoladamente não fazemos muito, mas em conjunto temos força. Quando nos unimos, podemos realizar uma mudança real. Isso é muito importante porque a “degradação humana” está nos mudando como sociedade.

A questão é: que mudanças queremos promover? Um elemento-chave é que o produto que usamos deve ser diferente, precisa ter uma codificação diferente. E essa mudança deve ser feita de dentro, mas a pressão de consumidores, investidores, políticos, educadores e tecnólogos pode ajudar.

Temos que mudar as condições do jogo. A tecnologia que divide a sociedade não é uma tecnologia “humana”, porque é prejudicial aos seres humanos.

BBC News Mundo – Até que ponto você diria que estamos abrindo caminho para uma tecnologia mais “humana”?

Fernando – Para ser honesto, eu me surpreendi positivamente com o quão longe chegamos, porque a certa altura pensei que ficaríamos eternamente presos na definição do problema.

Mas agora, e em parte graças à repercussão do documentário O Dilema das Redes — que só no primeiro mês (setembro) foi visto por mais de 38 milhões de pessoas — muito mais gente entende isso.

Felizmente, cada vez mais pessoas estão percebendo como as informações que compartilham nas redes sociais favorecem a economia da atenção. Isto é muito importante.

Uma das coisas mais maravilhosas de que haja tanta gente preocupada a respeito do tema é que podemos realmente fazer força para enfrentá-lo. Cada vez mais empresas e países estão tomando medidas, e vejo oportunidades de mudança no curto e médio prazo.

Agora temos que continuar espalhando a mensagem para que a tecnologia seja cada vez mais humana e nos permita conectar melhor, propagar a verdade e trazer à tona a melhor versão de nós mesmos.