O que ameaça a humanidade com a informatização de toda a nossa vida

2024 Autor: Seth Attwood | [email protected]. Última modificação: 2023-12-16 16:14

Smartphones, robôs e computadores facilitam nossa vida, mas talvez estejamos perdendo algo nisso? O repórter conversou com o escritor norte-americano Nicholas Carr sobre os perigos e até mesmo ameaças do excesso de automação.

É amplamente aceito que a automação de tudo e de todos melhora a qualidade de nossa vida. Os computadores nos ajudam a atingir o desempenho máximo. Os aplicativos de software tornam as tarefas mais rápidas e fáceis. Os robôs assumem o trabalho árduo e tedioso. O fluxo constante de inovações do Vale do Silício apenas reforça a crença das pessoas de que as novas tecnologias estão tornando a vida melhor.

No entanto, há outra opinião. O escritor Nicholas Carr submete os postulados do mundo digital moderno a uma análise imparcial. Seu ensaio "Does Google Make Us Stupid?", Publicado na Atlantic em 2008, ainda é controverso, assim como seu best-seller de 2010, The Shallows.

Os defensores da teoria de que a tecnologia salvará nosso mundo veem Carr como um de seus adversários mais poderosos. E os que desconfiam das consequências do progresso tecnológico para a humanidade respeitam-no pela sua argumentação equilibrada.

Agora Carr está interessado em uma nova questão: devemos temer que aos poucos não haverá tarefas difíceis para nós no mundo? Nossas vidas se tornarão muito eficientes graças às novas tecnologias?

Eu me encontrei com o escritor há algum tempo para falar sobre seu novo livro, The Glass Cage: Automation and Us, e o que o fez escrevê-lo.

1. Desmascarando o principal mito sobre as novas tecnologias

Tom Chatfield:Se bem entendi, no livro "The Glass Cage" você está tentando desmascarar o mito de que a simplificação de nossas vidas graças ao progresso tecnológico é necessariamente um fenômeno positivo.

Nicholas Carr:Tanto a nível pessoal como institucional, estamos habituados a pensar que eficiência e conforto são bons por defeito, e maximizá-los é certamente um objectivo que vale a pena. Parece-me que essa abordagem da tecnologia em todas as suas formas, especialmente na forma de automação por computador, é um tanto ingênua. Isso também se aplica aos nossos próprios desejos e à vida real no mundo moderno.

Os computadores irão substituir os humanos?

T. Ch.:E, no entanto, a maioria dos adeptos do progresso tecnológico adere ao ponto de vista utilitário, segundo o qual os maiores erros que cometemos se devem ao descaso com a eficiência e a lógica e, de fato, nós próprios não sabemos o que é bom para nós. Portanto, do ponto de vista deles, a tarefa do progresso tecnológico é identificar as deficiências do pensamento humano e, então, criar sistemas que compensem essas deficiências. Esta opinião está errada?

N. K.: Por um lado, muitas inovações no desenvolvimento de tecnologia de computador e de sistemas automatizados nada têm a ver com a afirmação geral de que os humanos são muito imperfeitos em comparação com os computadores. Sim, um computador pode ser programado para realizar certas operações indefinidamente com qualidade consistente. E é verdade que uma pessoa não é capaz de tal coisa.

Mas alguns vão ainda mais longe e argumentam que as pessoas são muito imperfeitas, que seu papel deve ser limitado tanto quanto possível e que os computadores devem ser responsáveis por todas as tarefas básicas. Não se trata apenas de tentar compensar as deficiências humanas - a ideia é remover totalmente o fator humano, e como resultado, argumenta-se, nossa vida se tornará muito melhor.

T. Ch.: Parece que essa não é a melhor ideia. Existe um nível ideal de automação?

N. K.: Em minha opinião, a questão não é se precisamos automatizar esta ou aquela tarefa complexa. A questão é como usamos a automação, como exatamente usar os computadores para complementar o conhecimento e as habilidades humanas, compensar as falhas no pensamento e comportamento humanos e também como estimular as pessoas a aproveitar ao máximo sua própria experiência para alcançar novos patamares.

Nós nos transformamos em observadores de monitores de computador

O excesso de confiança no software pode nos transformar em observadores de monitores de computador e operadores de fluxo de processo. Os computadores podem desempenhar um papel muito importante porque somos apenas humanos - podemos ser vítimas de preconceitos ou perder informações importantes. Mas o perigo é que é muito fácil terceirizar todas as nossas funções para computadores, o que, em minha opinião, seria uma decisão errada.

2. Você precisa aproximar a vida real do cenário de um videogame?

T. Ch.: Tive a satisfação de observar que em seu livro você cita os videogames como exemplo de interação homem-máquina, em que o objetivo é superar as dificuldades, não evitá-las. Os jogos mais populares são um tipo de trabalho que dá ao jogador uma sensação de satisfação. Só podemos reclamar que o trabalho que muitos de nós temos que fazer todos os dias requer muito menos habilidade e nos traz muito menos prazer.

Os videogames estimulam o jogador a fazer um esforço extra e usar o cérebro o máximo possível

N. K.: Os videogames são interessantes porque seu conceito vai contra os princípios geralmente aceitos de criação de software. O objetivo dos jogos de computador não é, de forma alguma, aliviar o usuário da inconveniência. Pelo contrário, estimulam o jogador a exercer um esforço extra e a usar o cérebro tanto quanto possível. Gostamos dos videogames precisamente porque eles nos desafiam com desafios cada vez maiores. Constantemente nos encontramos em situações difíceis - mas não em situações que causam desespero. Superar cada novo nível apenas aprimora nossas habilidades.

Esse processo é muito semelhante a como uma pessoa ganha experiência de vida na vida real. Como sabemos, para o desenvolvimento de habilidades, uma pessoa precisa enfrentar sérios obstáculos repetidamente e superá-los continuamente, usando todos os seus conhecimentos e habilidades. Gradualmente, a pessoa atinge um novo nível, após o qual a complexidade dos obstáculos aumenta.

Acho que as pessoas amam videogames pelo mesmo motivo que sentem satisfação em ganhar novas experiências e superar obstáculos. A solução de uma tarefa difícil, em cujo processo novos conhecimentos são adquiridos, necessários para superar novas dificuldades ainda mais complexas, dá grande prazer à pessoa.

A submissão total ao computador nos levará a uma vida na qual haverá pouco espaço para a autorrealização

Uma das principais preocupações que expresso no livro é que nossa atitude em relação ao progresso está associada ao desejo de evitar, tanto quanto possível, a solução de problemas difíceis. Parece-me que esse ponto de vista contradiz o próprio conceito de satisfação com a vida e autorrealização.

3. Os computadores eliminarão a necessidade de pessoas?

T. Ch.: Ao contrário dos videogames, no mundo real, o trabalho duro não é necessariamente recompensado. O mundo real é injusto e desequilibrado. Talvez a tendência mais perturbadora aqui seja que os interesses do indivíduo (psicologicamente, pessoalmente e mesmo em termos de sobrevivência) estão cada vez mais desalinhados com as noções corporativas e governamentais de conveniência. Você tem medo de que os computadores finalmente substituam os humanos?

Muitos jogos são difíceis de passar e exigem habilidades e engenhosidade incomuns dos jogadores. Então, por que o resto da tecnologia deveria apenas tornar nossa vida mais fácil?

N. K.: Quando estava coletando material para o livro, fiquei muito assustado com um artigo (citações que cito no texto), escrito por um especialista em estratégia militar. Segundo ele, dada a escala crescente do uso de tecnologias de informática no campo de batalha, muito em breve poderá simplesmente não haver lugar para uma pessoa nos assuntos militares. A velocidade da tomada de decisões cresceu tanto que as pessoas simplesmente não conseguem acompanhar os computadores. Estamos inevitavelmente caminhando para uma guerra totalmente automatizada: os veículos aéreos não tripulados decidirão por si próprios quando disparar mísseis contra os alvos e os soldados robóticos no solo decidirão por si próprios quando disparar.

Em minha opinião, essa situação é observada não apenas nos assuntos militares, mas também em muitas outras áreas - por exemplo, no mundo das finanças. As pessoas simplesmente não acompanham os computadores quando negociam instrumentos financeiros, por exemplo.

O que nos espera? Podemos não apenas perder a capacidade que nos distingue dos computadores para a avaliação crítica de nossas próprias ações - talvez implementemos tais sistemas sem pensar, acreditando que o principal é a velocidade na tomada de decisões. E então, se estivermos convencidos de que estávamos errados, descobriremos que não há como voltar atrás. Muitas vezes, torna-se impossível integrar uma pessoa a um sistema originalmente desenvolvido com base na tecnologia de computador.

T. Ch.: Eu também fiquei horrorizado quando li uma passagem em seu livro sobre guerra automatizada. Tive a sensação de que o processo que nos levará a sistemas de combate totalmente autônomos não pode ser interrompido. Parte do meu horror vem das memórias da crise financeira de 2008, que virtualmente eliminou trilhões de dólares. Pelo menos agora as pessoas são mais responsáveis por suas finanças. Mas se isso acontecer na esfera militar, não serão destruídos dólares, mas vidas humanas.

Um futuro sem gente?

N. K.: Não é só que novas tecnologias, especialmente tecnologias de software, podem hoje ser replicadas e distribuídas muito rapidamente. A questão é que todos esses processos ocorrem em um ambiente competitivo. Quer estejamos falando sobre uma corrida armamentista ou competição de negócios, assim que um dos rivais ganha uma vantagem de curto prazo às custas de uma tecnologia ou outra, essa tecnologia é imediatamente introduzida sempre que possível - porque ninguém quer estar em uma desvantagem.

Acho que, nessa situação, é muito fácil perder de vista o fato de que somos essencialmente animais. As pessoas percorreram um caminho evolutivo por milênios para poder viver e sobreviver. O papel da humanidade, assim como nossos sentimentos de satisfação e autorrealização, estão intimamente relacionados à nossa experiência de viver em um mundo que estabelece nosso ritmo usual.

Portanto, quando opomos uma pessoa, com todas as suas vantagens e desvantagens físicas, a um computador rápido e preciso, há o desejo de entregar toda a nossa vida aos computadores. No entanto, esquecemos que a submissão total ao computador nos levará a uma vida em que haverá pouco espaço para a autorrealização.

4. Como automatizamos o mundo?

T. Ch.: Acredito que precisamos ser críticos em relação às novas tecnologias, mas estou preocupado com as pessoas transformando dificuldades desnecessárias e "autenticidade" anti-tecnológica em um fetiche. Existe uma escola de pensamento tão moderna que elogia o trabalho físico duro e afirma que tudo o que fazemos deve ser artesanal e autêntico. Em minha opinião, tal posição cheira a esnobismo e não leva em conta o grande número de conquistas positivas que a democratização do progresso tecnológico trouxe consigo.

N. K.: Eu concordo completamente com você. Em uma entrevista, perguntaram-me como minha atitude cautelosa em relação ao progresso ajudaria, por exemplo, as pessoas que trabalham em condições adversas em fábricas de processamento de carne. Respondi que, claro, sempre haverá um lugar para a automação da produção onde as condições de trabalho das pessoas precisam ser melhoradas. Acontece apenas que você pode inovar de forma inteligente ou irrefletida; podemos encontrar uma maneira de levar em conta o valor da experiência humana e a importância da autorrealização, ou podemos simplesmente exaltar as capacidades dos computadores. Fazer a escolha certa não é fácil. Se percebermos essa tarefa exclusivamente em preto e branco - ou defendemos cegamente o trabalho físico árduo e exaustivo em qualquer situação, ou, inversamente, vemos o significado da vida no sibarismo - isso não ajudará a causa.

O mais difícil e que exige um trabalho de precisão excepcional é melhor deixar para as máquinas

As pessoas estão constantemente criando e usando ferramentas. Desde tempos imemoriais, temos que tomar decisões relacionadas com a divisão do trabalho, com a divisão da quantidade de trabalho entre uma pessoa e as ferramentas à sua disposição. E me parece que a incrível eficiência dos computadores na execução de uma ampla gama de tarefas apenas complica o processo de tomada de tais decisões.

5. O que nos espera?

T. Ch.: Então, a humanidade está caminhando para o sucesso?

N. K.: O historiador de história natural Thomas Hughes, falecido no ano passado, propôs o conceito de "impulso tecnológico". Ele acreditava que as tecnologias embutidas nas estruturas e processos sociais começam a se desenvolver por conta própria, arrastando a sociedade com elas. É bem possível que nossa trajetória já esteja traçada e que sigamos no caminho atual, sem questionar se estamos caminhando na direção certa. Eu realmente não sei o que vai acontecer. O máximo que posso fazer é tentar raciocinar sobre essas questões realmente difíceis da melhor maneira possível.

Espero que nós, como indivíduos e como membros da sociedade, sejamos capazes de manter um certo nível de compreensão do que está acontecendo conosco, bem como um certo nível de curiosidade, e tomaremos decisões com base em nossos interesses de longo prazo, e não com base em nossos conceitos usuais de conveniência, velocidade, precisão e eficiência.

O dia chegará e os robôs nos livrarão de todas as dificuldades. Nós precisamos disso?

Parece-me que precisamos nos empenhar para garantir que os computadores enriquecem nossa experiência de vida e nos abram novas oportunidades, e não nos tornem observadores passivos de telas de monitores. Ainda acho que, se tirarmos mais proveito das novas tecnologias, eles serão capazes de fazer o que a tecnologia e as ferramentas fizeram ao longo da história da humanidade - criar um mundo mais interessante ao nosso redor e nos ajudar a nos tornarmos melhores. Em última análise, tudo depende de nós mesmos.