Resenha: The Glass Cage – How our computers are changing us, de Nicholas Carr – Parte 1

Dois dos mais marcantes acidentes da aviação brasileira – a queda do avião da TAM em Congonhas em 2007, e o acidente com o voo da Air France em 2009 – foram provocados por falhas humanas.

Os aviões, na atualidade, são concebidos para praticamente voarem sozinhos a maior parte do tempo. Os pilotos só controlam totalmente a aeronave durante 1 ou 2 minutos na subida, e durante mais 1 ou 2 minutos na descida. Todo o resto é feito e programado por computadores. Os pilotos, assim, deixaram de ser aviadores para se tornarem controladores de computadores. Deixaram de ser protagonistas de sua arena (os aviões): tornaram-se meros atores de sua função.

Se isso é bom por um lado, na medida em que diminui os riscos de acidentes provocados justamente por falhas humanas, por outro lado pode não ser tão bom assim, já que os pilotos não ficam praticando, durante as longas horas de voo, suas habilidades cognitivas e psicomotoras relacionadas ao controle da aeronave, o que redunda, a longo prazo, em um atrofiamento dessas mesmas habilidades.

Pense, por exemplo, em como você dirige seu carro, não importando se ele é manual ou automático.

Agora, imagine que você só tenha aprendido a dirigi-lo quando precisou fazer o teste da autoescola, e que, aos 18 anos, tenha comprado um carro 100% autônomo, que se dirige sozinho, mas que precisa de você no banco do motorista, por questões legais (isso já começa a ocorrer nos EUA).

Imagine mais, pense que você tenha rodado mais de 80 mil quilômetros durante mais de 10 anos desse jeito – o carro pilotando sozinho e você no banco do motorista -, e não tenha ocorrido um único incidente que tivesse lhe obrigado a usar suas habilidades de direção, seja para desviar de um buraco na pista, seja para evitar uma colisão frontal. O carro inteligente e autônomo faz tudo isso por você.

Agora, imagine que você esteja diante de uma situação que exija o uso de suas habilidades de direção: um perigo que surge de repente, e que não tenha sido detectado pelos sistemas de inteligência artificial do carro autônomo.

A pergunta é: você se sairia melhor, nessa situação, do que um motorista que tivesse rodado os mesmos 80 mil quilômetros, mas praticando diariamente suas funções cognitivas e psicomotoras relacionadas à prática da direção?

Em outras palavras, quem tem mais chances de enfrentar os desafios proporcionados por uma situação inesperada de trânsito: aquele que pratica todos os dias as habilidades inerentes à direção, ou aquele que delegou essas mesmas habilidades aos computadores?

………………………..

Os riscos da automação, do uso cada vez maior de softwares e computadores para dirigir nossas vidas, e das implicações dessa tecnologia para a nossa mente, nossos hábitos e nosso modo de vida são o objeto central do livro do Nicholas Carr, que será resenhado no artigo de hoje.

Recentemente, fizemos uma resenha de outro livro do Carr, sobre os efeitos da Internet sobe o cérebro humano.

O foco, agora, é sobre a automação e o uso cada vez mais frequente da inteligência artificial, e suas implicações para o nosso dia a dia, bem como para o futuro da Humanidade.

Vamos conferir?

Informações técnicas

Título: The Glass Cage – How our computers are changing us

Autor: Nicholas Carr

Páginas: 288

Editora: Norton

Preço médio: USD 12 (Amazon americana)

Lançamento: 2015

O paradoxo da automação

O ponto é que a automação não é uma coisa ruim. A automação, bem como a sua antecessora, a mecanização, aprimorou em larga escala nossas condições de vida. Usadas com sabedoria, elas nos desafiam e nos empurram para descobertas cada vez mais gratificantes.

O problema está em nós: nós não somos bons o suficiente para pensarmos racionalmente sobre a automação, ou entender suas implicações. Nós não sabemos dizer “espere um segundo”, ou “tá bom”.

Graças ao nosso viés de preferirmos atividades de lazer sobre o trabalho, e a facilidade sobre os esforços, nós superestimamos os benefícios da automação, que consistem principalmente na redução de custos, aumento da produtividade e aumento dos lucros.

A presença cada vez maior da automação: o caso da Medicina

Os sistemas de automação e inteligência artificial estão cada vez mais presentes em um número igualmente crescente de profissões e atividades.

No livro, são destacados principalmente os usos, implicações e efeitos colaterais da automação em profissões tradicionais, tais como entre os médicos, advogados, engenheiros, pilotos de avião, arquitetos, empreendedores e operadores de Bolsa de Valores.

Na Medicina, por exemplo, sistemas computadorizados têm sido concebidos não só para aumentar a potência para a coleta e processamento de uma quantidade cada vez maior de dados sobre os pacientes, mas também para tomar decisões sobre os diagnósticos e possíveis tratamentos a serem seguidos.

Não é preciso pensar muito a respeito das implicações que isso possa acarretar, já que a tarefa de cuidar da saúde de seres humanos envolve engajamento, conversa direta com o paciente, análises pessoais, acuidade dos sentidos (visão, audição etc.) e principalmente acuidade cerebral – pensamento crítico e reflexivo – para tomar as melhores decisões, melhores decisões essas que só vêm após exercícios contínuos das milhares de informações que precisam ser processadas mentalmente.

E a situação só se agrava na medida em que os médicos vão se tornando, além disso tudo, cada vez mais multitarefas, dividindo a atenção entre a conversa com o paciente e uma tela de computador. Ora, divisão de atenção não gera atenção plena: divisão de atenção gera distração, pela impossibilidade de manter o foco.

Pesquisas relatadas no livro (p. 103) descobriram que “durante consultas com pacientes, os médicos gastam entre 25% a 55% do seu tempo olhando para a tela de seus computadores. E mais de 90% dos médicos entrevistados disseram que os dados mantidos em prontuários eletrônicos causam distúrbios na comunicação com seus pacientes”, o que aumenta as probabilidades de erros médicos e prescrições equivocadas de diagnósticos e tratamentos médicos.

Aposto, inclusive, que muitos leitores desse blog já tiveram conversas com o médico em que, enquanto você dizia para o médico seus sintomas, o médico ficava 90% do tempo com o olho na tela de vidro do computador… não que isso seja completamente ruim (até porque é muito mais ágil fazer os apontamentos digitando no teclado do que escrevendo à mão), mas isso pode denotar, segundo Nicholas Carr, num risco para o paciente, consistente na falta de foco para conduzir ao melhor diagnóstico possível.

……………………………

Na próxima parte da resenha, comentaremos sobre a presença da automação em diversas outras áreas e profissões, explicaremos como a automação está nos moldando e faremos a conclusão da nossa opinião a respeito do livro. Não percam!

Agradeço ao Henrí Galvão pelas correções ortográficas e gramaticais no texto!

 

Print Friendly, PDF & Email

,

5 Responses to Resenha: The Glass Cage – How our computers are changing us, de Nicholas Carr – Parte 1

  1. Simplicidade e Harmonia 3 de setembro de 2018 at 14:02 #

    Guilherme,

    Gostei muito das suas resenhas dos livros do Nicholas Carr. Parece que estamos perdendo o ponto de equilíbrio no qual a tecnologia veio para nos ajudar ou para facilitar tanto as tarefas e procedimentos, que acabamos nos esquecendo de como deveríamos agir em algumas situações, como as que você citou.

    Automação é boa? Sem dúvida, mas tem seus limites em relação a ser saudável ou prejudicial.

    “E mais de 90% dos médicos entrevistados disseram que os dados mantidos em prontuários eletrônicos causam distúrbios na comunicação com seus pacientes”, o que aumenta as probabilidades de erros médicos e prescrições equivocadas de diagnósticos e tratamentos médicos.”
    Eu não imaginava. É algo realmente preocupante.

    Em relação a medicina, infelizmente há médicos que estão mais preocupados em tomar notas do que em prestar atenção no paciente de forma integral. Recentemente fui em uma consulta de retorno que não durou 10 minutos, sendo que 1º consulta não durou 5 minutos…

    Os 90% do tempo olhando para a tela do computador também foram reais no meu caso. O médico (nutrólogo) só se preocupou em anotar os resultados dos exames, me dar mais 2 guias para outros exames, uma fórmula com mais de 20 vitaminas e obviamente, a indicação da farmácia de manipulação.

    Como eu tinha consulta com o clínico geral na semana seguinte, resolvi levar a receita das vitaminas para ele. Fui sincera: achei meio exagerada aquela receita, gostaria que ele olhasse, pois a opinião dele tem muito valor para mim.

    Um detalhe: eu confio muito nesse segundo médico, pois dá atenção ao paciente, não tem pressa na consulta e nem utiliza computador durante a consulta – as fichas são guardadas em envelopes.

    Sabe o que ele me disse, após ver os resultados dos exames solicitados pelo nutrólogo?
    “Essas vitaminas provavelmente serão muito caras. (E eram mesmo 360,00 para 60 doses).
    Você se alimenta bem? Come bastante variedade de legumes, verduras e frutas? Então você não precisa dessas vitaminas. A maior parte delas não será absorvida, será dinheiro jogado fora. Procure tem uma alimentação balanceada, é muito melhor.”

    “mas isso pode denotar, segundo Nicholas Carr, num risco para o paciente, consistente na falta de foco para conduzir ao melhor diagnóstico possível.”
    Sua frase resume bem o que vemos muito na medicina atual. Uma pena isso ocorre, pois com uma tecnologia avançada, os diagnósticos e as soluções para os problemas de saúde poderiam ser bem melhores.

    Boa semana!

    • Guilherme 4 de setembro de 2018 at 14:08 #

      Oi Rosana, excelentes comentários!

      Sobre sua experiência pessoal, realmente é um caso bem eloquente que mostra como muitos profissionais (como o caso do médico que praticamente não interagiu com você) perdem oportunidades de ouro de melhor trabalharem e aprofundarem os conhecimentos, tratando cada paciente de forma personalizada e com mais atenção.

      Gostei bastante da postura do clínico geral, que foi bastante incisivo e adotou o famoso e às vezes tão negligenciado bom senso.

      Boa semana também!

  2. ANDRE R AZEVEDO 3 de setembro de 2018 at 17:08 #

    Olá, Guilherme!

    Realmente, é um mundo novo que abre várias portas para refletirmos.

    Estou lendo o livro Civilização de Niall Ferguson, e um dos fatores que ele pontua que fizeram o Ocidente atrasado se sobrepor ao então rico Oriente (China) nos últimos 500 anos foi a competição.

    Lendo sua resenha, fiquei imaginando se, ao menos em alguns setores, vamos deixar de competir, de fazer a diferença em determinadas tarefas, uma vez que elas serão determinadas por um software determinado.

    O que leva, além do estímulo individual a melhorar cada atividade, a uma outra consequência: o abandono da “responsabilidade”. Afinal, o problema será sempre do software, não?

    Como será um mundo em que não daremos mais o melhor em cada situação e não seremos responsáveis pelos nossos atos? O fim da evolução, ao menos para os não programadores de sofwares rsrs? Sinistro…

    Abraço!

    • Henrí Galvão 14 de setembro de 2018 at 13:47 #

      (Ainda) não li nenhum livro do Niall Ferguson, mas a sua observação me lembrou bastante o que Yuval Harari fala em Homo Deus: como os algoritmos provavelmente vão ocupar cada vez mais espaço nas mais diversas áreas, a tendência é que cada vez mais profissionais se tornem “dispensáveis”, por assim dizer.

  3. Guilherme 4 de setembro de 2018 at 14:09 #

    Oi André!

    Bem instigantes as suas reflexões!

    Parece que sim, que está havendo um gradual comodismo por parte das pessoas, com os avanços cada vez mais inevitáveis da tecnologia.

    Temos que estar atentos e não deixar que isso realmente tome conta das pessoas, e as deixe passivas de modo a não quererem mais assumir a responsabilidade pelos seus atos.

    Em tempo, gostei da sua sugestão de livro!

    Abraços!

Deixe uma resposta

Powered by WordPress. Designed by Woo Themes