Há algo como excesso de automação?

Costumamos acreditar, talvez cegamente demais, que tudo o que é automatizado funciona melhor. De certa forma, faz sentido: máquinas obedecem a comandos, a algoritmos, e não perdem tempo pensando em como agir sob determinadas circunstâncias. Se tudo é parametrizado, então basta confiar e fechar os olhos. 

É assim que a indústria automotiva está agindo, aliás: a automação nesse setor está nitidamente caminhando para uma era em que dirigir será coisa do passado. Deixaremos de ser condutores e passaremos a ser conduzidos. E essa indústria não está só: na verdade, ela está seguindo os passos de uma irmã mais nova, a aviação. 

Que o leitor não me interprete mal: não estou querendo dizer aqui que um grau nulo de aviação deixaria voar mais seguro. É óbvio que sistemas de bordo, permitindo controles automatizados inclusive sobre outros controles automatizados, foram tão essenciais que voar passou a ser cotidiano. Há acidentes aéreos? Há, é claro – mas em número ridículo se considerarmos a quantidade de aviões que decolam e pousam a cada minuto mundo afora.

Isso nos leva ao vôo 214 da Asiana Airlines, em uma manhã de julho de 2013. O que aconteceu com ele? 

Um setup errado no piloto automático fez com que o avião parasse de conferir a própria velocidade – e evitou que todos percebessem que ele estava lento demais e descendo rápido demais. Resultado: essa falha ignorada pelos pilotos que confiavam cegamente na automação acabou fazendo com que o Boeing 777 se quebrasse durante a aterrisagem. 49 passageiros ficaram feridos e 3 morreram. 

O relatório oficial culpou os pilotos por confiarem demais nas máquinas. 

Perceba que, ironicamente, a falha não foi do computador: ele fez o que estava programado para fazer. A falha foi dos pilotos mesmo que, de fato, o programaram de maneira errada e não perceberam. Mas a lição é justamente essa: não existe automação integral. Em um determinado ponto, alguém tem que programar as coordenadas, tem que inserir a regra que gerará essa automação. Se as coordenadas estiverem erradas, todo um desastre pode acontecer sem que as máquinas tenham culpa. 

O problema da automação, portanto, não é a automação em si – é o fato dela invariavelmente colocar os humanos em uma perigosa zona de conforto fruto do excesso de confiança. E, nesse sentido, há sim algo como excesso de automação. 

Aliás, qualquer tipo de programação que tire as pessoas de um constante estado de alerta pode ser absolutamente perigoso. E sabe de uma coisa? Isso não é uma má notícia, mesmo sob a ótica da inovação: é apenas a confirmação de que nós, pessoas de carne e osso, sempre teremos o nosso papel em um mundo cada vez mais coordenado por máquinas.

  

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

w

Conectando a %s